mpaepper/llm_agents

LLM Agents

这是一个用于构建由大语言模型（LLM）控制的智能体的轻量级库，其设计深受 Langchain 的启发。

创建此项目的初衷是为了深入掌握此类智能体的工作原理，并以极少的代码量理解其核心机制。

Langchain 非常出色，但它包含了较多的文件和抽象层。因此，我想通过从零开始构建一个简单智能体的最核心部分，来加深对其理解。

更多信息可参考 2023 年 4 月 5 日的 Hacker News 讨论帖以及相关的博客文章。

工作原理

该智能体的工作方式如下：

• 通过 Prompt 进行指令下达，告知其使用工具完成任务的基本流程。
• 工具是自定义的组件，供智能体调用：
  • 目前，我已实现了在 REPL 中执行 Python 代码、使用 Google 搜索以及在 Hacker News 上搜索的功能。
• 智能体在“思考 (Thought)、行动 (Action)、观察 (Observation)、思考 (Thought)...”的循环中运行：
  • “思考”和“行动”（包含行动所需的输入）由 LLM 生成。
  • “观察”通过使用工具产生（例如 Python 的打印输出或 Google 搜索的文本结果）。
• LLM 在每个循环周期内将新信息追加到 Prompt 中，从而能够根据这些信息采取行动。
• 一旦智能体获得了足够的信息，它就会给出最终答案。

有关其工作原理的更多详情，请查阅这篇博客文章。

如何使用

克隆项目后，在目录下运行以下命令即可在本地安装该库：

pip install -r requirements.txt
pip install -e .

此外，你需要配置以下环境变量：

• OPENAI_API_KEY：用于调用 OpenAI API（可在 https://platform.openai.com/account/api-keys 获取）
• SERPAPI_API_KEY：如果需要使用 Google 搜索工具，则需此 Key（可在 https://serpapi.com/ 获取）

你可以通过 bash 直接导出这些变量，例如：export OPENAI_API_KEY='sh-lsdf....'

完成配置后，即可运行脚本 python run_agent.py 并向其提问。

若要构建你自己的智能体，可以参考以下方式：

from llm_agents import Agent, ChatLLM, PythonREPLTool, HackerNewsSearchTool, SerpAPITool

agent = Agent(llm=ChatLLM(), tools=[PythonREPLTool(), SerpAPITool(), HackerNewsSearchTool()])
result = agent.run("Your question to the agent")

print(f"Final answer is {result}")

当然，你也可以构建自定义工具或省略某些工具（例如，如果你不想申请 SERPAPI key）。