LLM Agents

这是一个用于构建由大语言模型（LLM）控制的智能体的精简库，其灵感深受 LangChain 启发。

本项目旨在更好地掌握这类智能体的工作原理，并通过极简的代码量实现其核心逻辑。

虽然 LangChain 非常出色，但它包含的文件和抽象层较多。因此，我认为从零开始构建一个简单智能体的核心部分会是一个不错的尝试。

更多信息可参考 2023 年 4 月 5 日的 Hacker News 讨论 以及相关的博客文章。

工作原理

该智能体的工作流程如下：

• 它通过提示词（Prompt）获取指令，告知其使用工具完成任务的基本方法。
• 工具是智能体可以使用的自定义构建组件。
  • 目前，我实现了在 REPL 中执行 Python 代码、使用 Google 搜索以及在 Hacker News 上搜索的功能。
• 智能体在“思考（Thought）、行动（Action）、观察（Observation）、思考……”的循环中运行。
  • “思考”和“行动”（以及行动的输入参数）由 LLM 生成。
  • “观察”通过调用工具产生（例如 Python 的打印输出或 Google 搜索的文本结果）。
• LLM 在每个循环周期内将新的信息附加到提示词中，从而能够根据这些信息采取后续行动。
• 一旦智能体获得了足够的信息，它就会给出最终答案。

有关工作原理的更多详情，请查看这篇博客文章。

如何使用

克隆仓库后，进入目录并运行以下命令在本地安装该库：

pip install -r requirements.txt
pip install -e .

你还需要配置以下环境变量：

• OPENAI_API_KEY：用于调用 OpenAI API（可在 https://platform.openai.com/account/api-keys 获取）。
• SERPAPI_API_KEY：如果使用 Google 搜索工具，则需要此密钥（可在 https://serpapi.com/ 获取）。

你可以直接在 Bash 中导出这些变量，例如：export OPENAI_API_KEY='sh-lsdf....'。

随后，运行脚本 python run_agent.py 即可提出你的问题。

若要构建自己的智能体，请参考以下代码：

from llm_agents import Agent, ChatLLM, PythonREPLTool, HackerNewsSearchTool, SerpAPITool

agent = Agent(llm=ChatLLM(), tools=[PythonREPLTool(), SerpAPITool(), HackerNewsSearchTool()])
result = agent.run("Your question to the agent")

print(f"Final answer is {result}")

当然，你也可以构建自定义工具或省略某些工具（例如，如果你不想申请 SERPAPI 密钥）。