coze-dev/coze-loop

Coze Loop • 功能列表 • 快速开始 • 开发者指南

English | 中文

什么是 Coze Loop

Coze Loop 是一个面向开发者的平台级解决方案，专注于 AI Agent 的开发与运营。它解决了 AI Agent 开发过程中面临的各种挑战，提供了从开发、调试、评估到监控的全生命周期管理能力。

在商业版的基础上，Coze Loop 推出了开源版本，为开发者提供免费访问核心基础功能模块的权限。通过以开源模式共享其核心技术框架，开发者可以根据业务需求进行定制和扩展，促进社区共建、共享与交流，帮助开发者零门槛地参与到 AI Agent 的探索与实践中。

Coze Loop 能做什么？

Coze Loop 通过提供全生命周期管理能力，帮助开发者更高效地开发和运营 AI Agent。无论是 Prompt 工程、AI Agent 评估，还是部署后的监控与优化，Coze Loop 都提供了强大的工具和智能支持，极大地简化了 AI Agent 的开发流程，并提升了其运行性能和稳定性。

• Prompt 开发：Coze Loop 的 Prompt 开发模块为开发者提供了编写、调试、优化和版本管理的一站式支持。通过可视化的 Playground，它实现了 Prompt 的实时交互式测试，让开发者能够直观地对比不同 LLM 的输出效果。
• 评估：Coze Loop 的评估模块为开发者提供了系统化的评估能力，支持对 Prompt 和 Coze Agent 的输出进行自动化的多维度测试，例如准确性、简洁性、合规性等。
• 可观测性：Coze Loop 为开发者提供了整个执行过程的可观测性，完整记录从用户输入到 AI 输出的每一个环节，包括 Prompt 解析、模型调用、工具执行等关键阶段，并能自动捕获中间结果和异常。

功能列表

功能	功能点
Prompt 调试	* Playground 调试与对比 * Prompt 版本管理
评估	* 评估集管理 * 评估器管理 * 实验管理
可观测性	* SDK 链路追踪上报 * 追踪数据观察
模型	* 支持集成 OpenAI、火山引擎方舟 (Volcengine Ark) 及其他模型

快速开始

请参考 快速开始 详细了解如何安装和部署最新版本的 Coze Loop。

部署方式 1：Docker 部署 (Docker Compose)

在开始之前，请确保已安装并启动 Docker Engine。

步骤：

1. 克隆源码。 运行以下命令以获取最新版本的 Coze Loop 源码。

   # 克隆代码
   git clone https://github.com/coze-dev/coze-loop.git
   
   # 进入 coze-loop 目录
   cd coze-loop
   

2. 配置模型。

   1. 进入 coze-loop 目录。
   2. 编辑文件 release/deployment/docker-compose/conf/model_config.yaml。
   3. 修改 api_key 和 model 字段。以火山引擎方舟为例：
      • api_key: 火山引擎方舟 API Key。国内用户可参考火山引擎方舟文档，海外用户可参考 BytePlus ModelArk 文档。
      • model: 火山引擎方舟模型接入点的 Endpoint ID。国内用户可参考火山引擎方舟文档；海外用户可参考 BytePlus ModelArk 文档。

3. 启动服务。 运行以下命令，通过 Docker Compose 快速部署 Coze Loop 开源版本。

   # 启动服务 (默认：开发模式)
   # 在 coze-loop/ 目录下运行
   make compose-up
   

4. 通过浏览器访问 http://localhost:8082 即可使用 Coze Loop 开源版本。

部署方式 2：使用 Helm Chart 进行 Kubernetes 部署

• 需准备好 Kubernetes 集群，启用 Nginx Ingress 插件，并安装 Kubectl 和 Helm 工具。
• 如需在本地快速体验，可以使用 Minikube 部署 Kubernetes 集群。详细步骤请参考 快速开始。

步骤：

1. 运行以下命令：