Chidori (v2)  

用于构建持久化 AI Agent 的响应式运行时

在 GitHub 上为我们点赞！加入我们的 Discord。

目录

• 📖 Chidori V2
• ⚡️ 快速入门
  • 安装
  • 环境变量
  • 示例
• 🤔 关于
  • 响应式运行时
  • 监控与可观测性
  • 分支与时间旅行
  • 代码解释器环境
• 🛣️ 路线图
  • 短期目标
  • 中期目标
• 贡献
• 灵感来源
• 许可证
• 帮助我们！

📖 Chidori V2

Chidori 是一个开源的编排器、运行时及 IDE，旨在通过与现代 AI 工具共生来构建软件。 它专门用于构建 AI Agent，并为以下问题提供了解决方案：

• 我们如何理解 Agent 正在做什么，以及它是如何进入当前状态的？
• 我们如何在与人类交互后暂停执行并恢复运行？
• 我们如何处理状态空间探索中的偶然复杂性，以及评估和回退软件执行过程？

使用 Chidori 时，你可以用 Python 或 JavaScript 编写代码。我们提供了一个层级来处理 AI 模型在长时间运行的工作流中的复杂性。我们避免了引入新的语言或 SDK 来实现这些功能，因此你可以充分利用你已经熟悉的软件开发模式。

特性：

• 基于 Rust 编写的运行时，支持 Python 和 JavaScript 代码执行
• 能够缓存行为并从部分执行的 Agent 状态中恢复
• 时间旅行调试（Time-travel debugging）：程序执行过程可以回退到之前的状态
• 可视化调试环境：可视化并操作代码执行过程中所经过的状态图
• 创建并导航树搜索（tree-searching）代码执行工作流

⚡️ 快速入门

安装

Chidori 可通过 crates.io 获取，并可使用 cargo 安装。我们进行原型开发的推荐入口是 chidori-debugger，它将我们的运行时包装在一个实用的可视化界面中。

# 安装 rust 工具链和 nightly 通道
curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh
rustup toolchain install nightly

# 构建依赖项所需
xcode-select --install

# 这些依赖项对于构建成功是必需的
brew install cmake  

# 我们正在调查这是否是必需的或可以移除
brew install python@3.12

# Chidori 使用 uv 处理 python 依赖
brew install uv

# 我们目前依赖于仅在 nightly 版本中支持的特性
cargo +nightly install chidori-debugger --locked

如果你希望使用不同的 Python 解释器，可以在安装过程中设置 PYO3_PYTHON=python3.12（或任何 > 3.7 的版本），以更改链接的目标。

设置运行时环境

Chidori 与 LLM 的交互默认连接到 http://localhost:4000 以对接 LiteLLM 的代理。如果你想利用 gpt-3.5-turbo，随附的配置文件将提供支持。你需要运行 pip install litellm[proxy] 以执行以下命令：

export OPENAI_API_KEY=...
uv pip install "litellm[proxy]"
uv run litellm --config ./litellm_config.yaml

示例

以下示例展示了如何构建一个简单的 Agent：获取 Hacker News 的头条新闻，调用 OpenAI API 过滤出 AI 相关的发布内容，并将数据格式化为 Markdown。

---

从这里开始：一个可执行的 Chidori Agent 示例

Chidori Agent 可以是一个单一文件，也可以是构建为典型 TypeScript 或 Python 项目的文件集合。以下示例是一个单文件 Agent。可以将其想象为类似 Jupyter/iPython 笔记本以 Markdown 文件形式呈现的样子。

const axios = require('https://deno.land/x/axiod/mod.ts');

const HN_URL_TOP_STORIES = "https://hacker-news.firebaseio.com/v0/topstories.json";

function fetchStory(id) {
    return axios.get(`https://hacker-news.firebaseio.com/v0/item/${id}.json?print=pretty`)
        .then(response => response.data);
}

async function fetchHN() {
    const stories = await axios.get(HN_URL_TOP_STORIES);
    const storyIds = stories.data;
    // only the first 30 
    const tasks = storyIds.slice(0, 30).map(id => fetchStory(id));
    return Promis