从零构建 AI Agent

通过亲手构建 AI Agent 来揭开它们的神秘面纱。使用本地 LLM，拒绝黑盒，真正理解函数调用（Function Calling）、记忆（Memory）和 ReAct 模式。

目的

本仓库旨在教你如何使用 本地 LLM 和 node-llama-cpp 从第一性原理出发构建 AI Agent。通过完成这些示例，你将理解：

• LLM 在底层是如何工作的
• Agent 的本质（LLM + 工具 + 模式）
• 不同 Agent 架构的运作方式
• 为什么生产级框架会做出某些特定的设计选择

本教程的 Python 版本请见： https://github.com/pguso/agents-from-scratch

核心哲学：通过构建来学习。深度理解之后，再明智地使用框架。

配套网站

本仓库现已配备一个 对应的配套网站：

https://agentsfromscratch.com

该网站 并非本仓库的替代品，而是一个 概念补充，它：

• 解释了每个示例存在的 原因
• 可视化了从原始 LLM 调用到完整 Agent 的学习路径
• 将 代码、解释 和 核心概念 进行了拆分
• 帮助你在使用框架之前理解 Agent 架构

推荐工作流：

• 使用 GitHub 来运行、修改和研究代码
• 使用 网站 来建立心智模型、获取解释和掌握学习进度

可以将网站视为“地图”，将本仓库视为“地形”。

Agent 基础 - 从 LLM 到 ReAct

前置要求

• Node.js 18+
• 至少 8GB 内存（建议 16GB）
• 下载模型并放入 ./models/ 文件夹，详情参考 DOWNLOAD.md

安装

npm install

运行示例

node intro/intro.js
node simple-agent/simple-agent.js
node react-agent/react-agent.js

学习路径

按顺序完成以下示例，逐步构建你的理解：

1. 入门 - 基础 LLM 交互

intro/ | 代码 | 代码详解 | 核心概念

你将学到：

• 加载并运行本地 LLM
• 基础的提示词/响应循环

核心概念：模型加载、上下文、推理流水线、Token 生成

---

2. (可选) OpenAI 入门 - 使用专有模型

openai-intro/ | 代码 | 代码详解 | 核心概念

你将学到：

• 如何调用托管的 LLM（如 GPT-4）
• 温度（Temperature）控制
• Token 使用量

核心概念：推理端点、网络延迟、成本与控制、数据隐私、供应商依赖

---

3. 翻译 - 系统提示词与专业化

translation/ | 代码 | 代码详解 | 核心概念

你将学到：

• 使用系统提示词（System Prompts）来专业化 Agent
• 输出格式控制
• 基于角色的行为
• 针对不同模型的聊天包装器

核心概念：系统提示词、Agent 专业化、行为约束、Prompt Engineering

---

4. 思考 - 推理与问题解决

think/ | 代码 | 代码详解 | 核心概念

你将学到：

• 配置 LLM 进行逻辑推理
• 处理复杂的定量问题
• 纯 LLM 推理的局限性
• 何时使用外部工具

核心概念：推理型 Agent、问题拆解、认知任务、推理局限性

---

5. 批处理 - 并行处理

batch/ | 代码 | 代码详解 | 核心概念

你将学到：

• 同时处理多个请求
• 用于并行处理的上下文序列
• GPU 批处理
• 性能优化

核心概念：并行执行、序列、批大小（Batch Size）、吞吐量优化

---

6. 编码 - 流式传输与响应控制

coding/ | 代码 | 代码详解 | 核心概念

你将学到：

• 实时流式响应
• Token 限制与预算管理
• 渐进式输出显示
• 用户体验优化

核心概念：流式传输、逐 Token 生成、响应控制、实时反馈

---

7. 简单 Agent - 函数调用（工具）

simple-agent/ | 代码 | 代码详解 | 核心概念

你将学到：

• 函数调用 / 工具使用的基础
• 定义 LLM 可调用的工具
• 参数的 JSON Schema
• LLM 如何决定何时使用工具

核心概念：函数调用、工具定义、Agent 决策、行动执行