Undertone0809/promptulate

English 中文

概述

Promptulate 是由 Cogit Lab 精心打造的一款 AI Agent 应用开发框架。它通过 Pythonic 的开发范式，为开发者提供了一种极其简洁高效的 Agent 应用构建方式。Promptulate 的核心理念是吸收并整合开源社区的智慧，融合各种主流开发框架的优点，旨在降低门槛并统一开发者共识。使用 Promptulate，你可以通过最简洁的代码操控 LLM、Agent、Tool、RAG 等核心组件，绝大多数任务仅需几行代码即可轻松完成。🚀

💡 特性

• 🐍 Pythonic 代码风格：拥抱 Python 开发者的使用习惯，提供 Pythonic 的 SDK 调用方式，仅需一个 pne.chat 函数即可封装所有核心功能，一切尽在掌握。
• 🧠 模型兼容性：支持市面上几乎所有类型的大语言模型，并允许轻松自定义以满足特定需求。
• 🕵️‍♂️ 多样化的 Agent：提供 WebAgent、ToolAgent、CodeAgent 等多种类型的 Agent，具备规划、推理和执行能力，能够处理复杂任务。通过原子化 Planner 及其他组件，简化开发流程。
• 🔗 低成本集成：轻松集成来自 LangChain 等不同框架的工具，大幅降低集成成本。
• 🔨 函数即工具：直接将任何 Python 函数转换为 Agent 可用的工具，简化工具的创建与使用流程。
• 🪝 生命周期与 Hooks：提供丰富的 Hooks 和全面的生命周期管理，允许在 Agent、Tool 和 LLM 的各个阶段插入自定义代码。
• 💻 终端集成：轻松集成应用终端，内置客户端支持，为 Prompt 提供快速调试能力。
• ⏱️ Prompt 缓存：提供 LLM Prompt 的缓存机制，减少重复工作，提升开发效率。
• 🤖 强大的 OpenAI 封装：有了 pne，你无需再直接使用 openai SDK。核心功能均可由 pne.chat 替代，同时提供了增强功能以降低开发难度。
• 🧰 Streamlit 组件集成：快速进行原型设计，提供大量开箱即用的示例和可复用的 Streamlit 组件。

下图展示了 promptulate 的核心架构：

Promptulate 的核心理念是希望提供一种简单、Pythonic 且高效的方式来构建 AI 应用，这意味着你无需花费大量时间学习框架。我们希望通过 pne.chat() 完成大部分工作，让你仅用几行代码就能轻松构建任何 AI 应用。

下文中，pne 是 Promptulate 的缩写。p 和 e 分别代表 Promptulate 的首尾字母，n 代表 p 和 e 之间的九个字母。

支持的基础模型

Promptulate 集成了 litellm 的能力，支持市面上几乎所有类型的大模型，包括但不限于以下模型：

提供商	Completion	Streaming	Async Completion	Async Streaming	Async Embedding	Async Image Generation
openai	✅	✅	✅	✅	✅	✅
azure	✅	✅	✅	✅	✅	✅
aws - sagemaker	✅	✅	✅	✅	✅	✅
aws - bedrock	✅	✅	✅	✅	✅
google - vertex_ai [Gemini]	✅	✅	✅	✅
google - palm	✅	✅	✅	✅
google AI Studio - gemini	✅		✅
mistral ai api	✅	✅	✅	✅	✅
cloudflare AI Workers	✅	✅	✅	✅
cohere	✅	✅	✅	✅	✅
anthropic	✅	✅