Laminar

Laminar 是一个专为 AI Agent 构建的开源可观测性平台。

• Tracing（链路追踪）。文档
  • 基于 OpenTelemetry 的强大追踪 SDK - 只需一行代码，即可自动追踪 Vercel AI SDK、Browser Use、Stagehand、LangChain、OpenAI、Anthropic、Gemini 等。
• Evals（评估）。文档
  • 中立、可扩展的 SDK 和 CLI，用于在本地或 CI/CD 流水线中运行评估。
  • 用于可视化评估结果并进行比较的 UI。
• AI 监控。文档
  • 使用自然语言描述定义事件，以跟踪 Agent 的问题、逻辑错误和自定义行为。
• 所有数据均支持 SQL 查询。文档
  • 使用内置的 SQL 编辑器查询追踪、指标和事件。可通过查询批量创建数据集。支持通过 API 访问。
• 仪表盘。文档
  • 强大的仪表盘构建器，支持追踪、指标和事件，并支持自定义 SQL 查询。
• 数据标注与数据集。文档
  • 自定义数据渲染 UI，用于快速数据标注和为评估创建数据集。
• 极致性能。
  • 使用 Rust 编写 🦀
  • 自定义实时引擎，可即时查看追踪数据。
  • 针对 Span 数据的超快速全文搜索。
  • 用于追踪数据的 gRPC 导出器。

文档

请在此查看完整文档：laminar.sh/docs。

快速开始

最快、最简单的入门方式是使用我们的托管平台 -> laminar.sh

使用 Docker Compose 自托管

Laminar 在本地自托管非常简单。想要快速开始，请克隆仓库并使用 docker compose 启动服务：

git clone https://github.com/lmnr-ai/lmnr
cd lmnr
docker compose up -d

这将启动一个轻量级但功能齐全的系统栈，非常适合快速入门或轻量级使用。你可以在浏览器访问 http://localhost:5667 查看 UI。

你还需要使用 baseUrl 和正确的端口正确配置 SDK。请参阅 自托管指南。

对于生产环境，我们建议使用我们的 托管平台 或运行 docker compose -f docker-compose-full.yml up -d。

配置 LLM 提供商（可选）

前端 AI 功能（chat-with-trace、SQL-with-AI）和服务器端 AI worker 需要 LLM 提供商支持。请在仓库根目录的 .env 文件中进行配置。

选择以下一种提供商设置。LLM_MODEL_SMALL|MEDIUM|LARGE 为可选配置，若未设置，将使用各提供商的默认值。LLM_DEFAULT_HEADERS_JSON 对于任何需要静态请求头的提供商或网关是可选的。

# 可选：适用于任何需要静态请求头的提供商/网关
# LLM_DEFAULT_HEADERS_JSON='{"X-Gateway-Tenant":"tenant"}'

# 选项 A: Gemini
LLM_PROVIDER=gemini
LLM_API_KEY=your_gemini_key

# 选项 B: OpenAI (或任何兼容 OpenAI 的网关，如 LiteLLM, OpenRouter, vLLM)
LLM_PROVIDER=openai
# LLM_BASE_URL=http://localhost:4000   # 可选，用于 OpenAI 兼容网关
LLM_API_KEY=your_openai_key

# 选项 C: AWS Bedrock (Anthropic Claude)。使用 AWS 凭证而非 LLM_API_KEY
LLM_PROVIDER=bedrock
AWS_ACCESS_KEY_ID=...
AWS_SECRET_ACCESS_KEY=...
AWS_REGION=us-east-1

贡献

若要在本地运行和构建 Laminar，或了解更多关于 docker compose 文件的信息，请参考 贡献指南。

TypeScript 快速上手

首先，创建一个项目 并生成项目 API Key。然后：

npm add @lmnr-ai/lmnr

这将安装 Laminar TS SDK 及所有仪表化包（OpenAI、Anthropic、LangChain 等）。

要开始追踪 LLM 调用，只需添加：

import { Laminar } from '@lmnr-ai/lmnr';
Laminar.initialize({ projectApiKey: process.env.LMNR_PROJECT_API_KEY });

要追踪函数的输入/输出，请使用 observe 包装器：

import { OpenAI } from 'openai';
import { observe } from '@lmnr-ai/lmnr';

const client = new OpenAI({ apiKey: process.env.OPENAI_API_KEY });

const poemWriter = observe({name: 'poemWriter'}, async (topic) => {
  const response = await client.chat.completions.create({
    model: "gpt-4o-mini",
    messages: [{ role: "user", content: `write a poem about ${topic}` }],
  });
  return response.choices[0].message.content;
})