Blades

Blades 是一个基于 Go 语言的多模态 AI Agent 框架，支持自定义模型、工具、记忆、中间件等。它适用于多轮对话、思维链（Chain-of-Thought）推理、结构化输出等多种应用场景。

命名来源：游戏《战神》（God of War）以希腊神话为背景，讲述了奎托斯（Kratos）从凡人蜕变为战神并踏上弑神之路的冒险故事，Blades（混沌之刃）即是奎托斯的标志性武器。

架构设计

Blades 利用 Go 语言的特性，提供了一套灵活且高效的 AI Agent 解决方案。其核心在于通过统一的接口和可插拔的组件，实现了高度的解耦与可扩展性。整体架构如下：

• 符合 Go 惯用风格：完全按照 Go 的哲学构建，代码风格和用户体验让 Go 开发者倍感亲切。
• 使用简单：通过简洁的代码声明定义 AI Agent，实现需求的快速交付，使复杂逻辑清晰、易于管理和维护。
• 中间件生态：借鉴 Kratos 的中间件设计理念，可以轻松地将可观测性（Observability）和防护栏（Guardrails）等功能集成到 AI Agent 中。
• 高度可扩展：通过统一接口和可插拔组件，实现了高度的解耦与可扩展性，方便集成不同的 LLM 模型和外部工具。

核心概念

Blades 框架通过一系列精心设计的核心组件实现了其强大的功能和灵活性。这些组件协同工作，构建出 Agent 的智能行为：

• Agent：执行任务的核心单元，能够调用模型和工具。
• Prompt：用于与 LLM 交互的模板化文本，支持动态变量替换和复杂的上下文构建。
• Chain：连接多个 Agent 或其他 Chain，形成复杂的工作流。
• ModelProvider：可插拔的 LLM 接口，允许你轻松切换和集成不同的语言模型服务（如 OpenAI 等）。
• Tool：Agent 可以使用的外部能力，例如调用 API、查询数据库、访问文件系统等。
• Memory：为 Agent 提供短期或长期记忆能力，实现带有上下文的持续对话。
• Middleware：类似于 Web 框架中的中间件，实现对 Agent 的横向控制。

Agent 接口

Agent 是 Blades 框架中最核心的接口，定义了所有可执行组件的基本行为。其设计旨在提供统一的执行范式。通过 Run 方法，实现了框架内各个功能模块的解耦、标准化和高可组合性。Agent、Chain 和 ModelProvider 等组件都实现了该接口，从而统一了它们的执行逻辑，允许像积木一样灵活组合不同的组件来构建复杂的 AI Agent。

// Agent represents an autonomous agent that can process invocations and produce a sequence of messages.
type Agent interface {
    Name() string
    Description() string
    Run(context.Context, *Invocation) Generator[*Message, error]
}

ModelProvider

ModelProvider 是 Blades 框架中用于与底层大语言模型（LLM）交互的核心抽象层。其设计目标是通过统一接口实现解耦与可扩展性，将框架核心逻辑与具体模型（如 OpenAI、DeepSeek、Gemini 等）的实现细节分离开来。它充当适配器的角色，负责将框架内部的标准请求转换为模型原生 API 所需的格式，并将模型的响应转换回框架的标准格式，从而使开发者能够轻松切换和集成不同的 LLM。

type ModelProvider interface {
    // Generate executes a complete generation request and returns the result all at once. Suitable for scenarios that do not require real-time feedback.
    Generate(context.Context, *ModelRequest, ...ModelOption) (*ModelResponse, error)
    // NewStreaming initiates a streaming request. This method immediately returns a Generator object, allowing the caller to receive the model's generated content step by step. Suitable for building real-time, typewriter-effect conversation applications.
    NewStreaming(context.Context, *ModelRequest, ...ModelOption) (Generator[*ModelResponse])
}

Agent 协调者

Agent（作为协调者）是 Blades 框架中的核心枢纽。作为顶层组件，它集成并编排了 ModelProvider、Tool、Memory 和 Middleware 等组件，以理解用户意图并执行复杂任务。