griptape-ai/griptape

Griptape 是一个旨在简化生成式 AI (genAI) 应用程序开发的 Python 框架。 它提供了一套简洁且灵活的抽象，用于处理大语言模型 (LLMs)、检索增强生成 (RAG) 等诸多领域。

寻找无需编写代码的方案？ 请查看 Griptape Nodes，这是一个用于构建和运行 AI 工作流的可视化桌面应用程序。

🛠️ 核心组件

🏗️ 结构 (Structures)

• 🤖 Agents：由单个 Task 组成，并针对 Agent 特定的行为进行配置。
• 🔄 Pipelines：组织一系列 Tasks，使得一个 Task 的输出可以流入下一个 Task。
• 🌐 Workflows：配置 Tasks 以并行方式运行。

📝 任务 (Tasks)

Tasks 是 Structures 中的核心构建模块，能够与 Engines、Tools 以及其他 Griptape 组件进行交互。

🧠 内存 (Memory)

• 💬 Conversation Memory：使 LLMs 能够在多次交互中保留和检索信息。
• 🗃️ Task Memory：将大型或敏感的 Task 输出保存在发送给 LLM 的 Prompt 之外。
• 📊 Meta Memory：支持向 LLM 传递额外的元数据，增强交互的上下文和相关性。

🚗 驱动 (Drivers)

Drivers 促进了 Griptape 与外部资源和服务的交互。 它们允许你以极小的业务逻辑改动来替换功能模块和提供商。

LLM 与编排

• 🗣️ Prompt Drivers：管理与 LLMs 的文本和图像交互。
• 🤖 Assistant Drivers：支持与各种“助手”服务交互。
• 📜 Ruleset Drivers：从外部源加载并应用规则集。
• 🧠 Conversation Memory Drivers：存储和检索对话数据。
• 📡 Event Listener Drivers：将框架事件转发到外部服务。
• 🏗️ Structure Run Drivers：在本地或云端执行结构。

检索与存储

• 🔢 Embedding Drivers：从文本输入生成向量嵌入 (Vector Embeddings)。
• 🔀 Rerank Drivers：对搜索结果进行重排序，以提高相关性。
• 💾 Vector Store Drivers：管理嵌入的存储和检索。
• 🔂 File Manager Drivers：处理本地和远程存储上的文件操作。
• 💼 SQL Drivers：与 SQL 数据库交互。

多模态

• 🎨 Image Generation Drivers：根据文本描述创建图像。
• 🗣️ Text to Speech Drivers：将文本转换为语音。
• 🎙️ Audio Transcription Drivers：将音频转换为文本。

Web

• 🔍 Web Search Drivers：搜索网页以获取信息。
• 🌐 Web Scraper Drivers：从网页中提取数据。

可观测性

• 📈 Observability Drivers：将跟踪和事件数据发送到可观测性平台。

🔧 工具 (Tools)

Tools 为 LLMs 提供了与数据和服务交互的能力。 Griptape 包含多种 内置 Tools，并支持轻松创建 自定义 Tools。

🚂 引擎 (Engines)

Engines 封装了 Drivers 并提供针对特定用例的功能：

• 📊 RAG Engine：用于实现模块化检索增强生成 (RAG) 流水的抽象。
• 🛠️ Extraction Engine：从非结构化文本中提取 JSON 或 CSV 数据。
• 📝 Summary Engine：从文本内容生成摘要。
• ✅ Eval Engine：评估并给生成的文本质量打分。

📦 其他组件

• 📐 Rulesets：以最小的 Prompt Engineering 开销引导 LLM 行为。
• 🔄 Loaders：从各种来源加载数据。
• 🏺 Artifacts：允许在 Griptape 组件之间传递不同类型的数据。
• ✂️ Chunkers：针对不同文本类型，将文本切分为可处理的小块。
• 🔢 Tokenizers：计算文本中的 Token 数量，以确保不超过 LLM 的 Token 限制。

文档

请访问 docs 获取有关安装和使用的详细信息。