griptape-ai/griptape

Griptape 是一个 Python 框架，旨在简化生成式 AI (genAI) 应用程序的开发。它为处理大语言模型 (LLM)、检索增强生成 (RAG) 等领域提供了一套简单、灵活的抽象。

寻找零代码体验？ 请查看 Griptape Nodes，这是一个用于构建和运行 AI 工作流的可视化桌面应用程序。

🛠️ 核心组件

🏗️ 结构 (Structures)

• 🤖 Agents (智能体)：由单个任务组成，针对特定的智能体行为进行配置。
• 🔄 Pipelines (流水线)：组织一系列任务，使一个任务的输出可以流入下一个任务。
• 🌐 Workflows (工作流)：配置任务以并行方式运行。

📝 任务 (Tasks)

任务是结构中的核心构建块，支持与引擎 (Engines)、工具 (Tools) 和其他 Griptape 组件进行交互。

🧠 记忆 (Memory)

• 💬 Conversation Memory (对话记忆)：使 LLM 能够在交互过程中保留和检索信息。
• 🗃️ Task Memory (任务记忆)：将大型或敏感的任务输出保留在发送给 LLM 的 prompt 之外。
• 📊 Meta Memory (元记忆)：支持向 LLM 传递额外的元数据，从而增强交互的上下文和相关性。

🚗 驱动 (Drivers)

驱动程序促进了 Griptape 与外部资源及服务的交互。它们允许你在几乎不改变业务逻辑的情况下替换功能和供应商。

LLM 与编排

• 🗣️ Prompt Drivers：管理与 LLM 的文本和图像交互。
• 🤖 Assistant Drivers：支持与各种“助手”服务进行交互。
• 📜 Ruleset Drivers：从外部来源加载并应用规则集。
• 🧠 Conversation Memory Drivers：存储和检索对话数据。
• 📡 Event Listener Drivers：将框架事件转发给外部服务。
• 🏗️ Structure Run Drivers：在本地或云端执行结构。

检索与存储

• 🔢 Embedding Drivers：从文本输入生成向量嵌入。
• 🔀 Rerank Drivers：对搜索结果进行重排序，以提高相关性。
• 💾 Vector Store Drivers：管理嵌入的存储和检索。
• 🔂 File Manager Drivers：处理本地和远程存储上的文件操作。
• 💼 SQL Drivers：与 SQL 数据库交互。

多模态

• 🎨 Image Generation Drivers：从文本描述创建图像。
• 🗣️ Text to Speech Drivers：将文本转换为语音。
• 🎙️ Audio Transcription Drivers：将音频转换为文本。

Web

• 🔍 Web Search Drivers：搜索网络信息。
• 🌐 Web Scraper Drivers：从网页中提取数据。

可观测性

• 📈 Observability Drivers：将跟踪和事件数据发送到可观测性平台。

🔧 工具 (Tools)

工具为 LLM 提供了与数据和服务进行交互的能力。Griptape 包含多种内置工具，并支持轻松创建自定义工具。

🚂 引擎 (Engines)

引擎封装了驱动程序并提供特定用例的功能：

• 📊 RAG Engine：用于实现模块化检索增强生成 (RAG) 流水线的抽象。
• 🛠️ Extraction Engine：从非结构化文本中提取 JSON 或 CSV 数据。
• 📝 Summary Engine：从文本内容生成摘要。
• ✅ Eval Engine：评估并给生成文本的质量打分。

📦 其他组件

• 📐 Rulesets (规则集)：通过极简的 prompt 工程引导 LLM 行为。
• 🔄 Loaders (加载器)：从各种来源加载数据。
• 🏺 Artifacts (制品)：允许在 Griptape 组件之间传递不同类型的数据。
• ✂️ Chunkers (分块器)：将文本分割成可处理的小块，以适配不同的文本类型。
• 🔢 Tokenizers (分词器)：计算文本中的 token 数量，以确保不超过 LLM 的限制。

文档

请访问官方文档以获取有关安装和使用的更多信息。