trendy-design/llmchat

简介

LLMChat.co 是一个先进的 AI 对话平台，在提供强大的研究和 Agentic（代理）能力的同时，高度重视用户隐私。项目采用 monorepo 架构，基于 Next.js、TypeScript 及前沿 AI 技术构建，并提供多种专业聊天模式，包括用于深度分析复杂课题的“Pro Search（专业搜索）”和“Deep Research（深度研究）”。

LLMChat.co 的突出优势在于其工作流编排系统以及对隐私的承诺——所有用户数据均通过 IndexedDB 在浏览器本地存储，确保您的对话内容绝不会离开您的设备。

核心功能

高级研究模式

• Deep Research（深度研究）：针对复杂课题进行全面分析与深入挖掘。
• Pro Search（专业搜索）：集成 Web 搜索功能的增强型检索，提供实时信息。

多 LLM 提供商支持

• OpenAI
• Anthropic
• Google
• Fireworks
• Together AI
• xAI

隐私保护

• 本地存储：所有用户数据均通过 Dexie.js 使用浏览器中的 IndexedDB 进行存储。
• 无服务器端存储：对话记录永远不会离开您的设备。

Agentic 能力

• 工作流编排：通过自定义工作流引擎实现复杂的任务协作。
• 反射式分析：通过分析先前的推理过程实现自我改进。
• 结构化输出：清晰呈现研究结果。

架构

LLMChat.co 采用 monorepo 架构，实现了明确的职责分离：

├── apps/
│   ├── web/         # Next.js Web 应用
│   └── desktop/     # 桌面端应用
│
└── packages/
    ├── ai/          # AI 模型与工作流编排
    ├── actions/     # 共享动作与 API 处理程序
    ├── common/      # 通用工具与 Hooks
    ├── orchestrator/# 工作流引擎与任务管理
    ├── prisma/      # 数据库 schema 与客户端
    ├── shared/      # 共享类型与常量
    ├── ui/          # 可复用 UI 组件
    ├── tailwind-config/ # 共享 Tailwind 配置
    └── typescript-config/ # 共享 TypeScript 配置

工作流编排

LLMChat.co 的工作流编排通过模块化的分步方案，赋予了系统强大的 Agentic 能力。以下是如何创建一个研究型 Agent 的示例：

1. 定义事件与上下文类型

首先，建立事件和上下文的数据结构：

// 定义每个任务触发的事件
type AgentEvents = {
    taskPlanner: {
        tasks: string[];
        query: string;
    };
    informationGatherer: {
        searchResults: string[];
    };
    informationAnalyzer: {
        analysis: string;
        insights: string[];
    };
    reportGenerator: {
        report: string;
    };
};

// 定义任务间共享的上下文
type AgentContext = {
    query: string;
    tasks: string[];
    searchResults: string[];
    analysis: string;
    insights: string[];
    report: string;
};

2. 初始化核心组件

接下来，设置事件触发器（Event Emitter）、上下文（Context）和工作流构建器（Workflow Builder）：

import { OpenAI } from 'openai';
import { createTask } from 'task';
import { WorkflowBuilder } from './builder';
import { Context } from './context';
import { TypedEventEmitter } from './events';

// 初始化带类型定义的事件触发器
const events = new TypedEventEmitter();

// 创建带有上下文的工作流构建器
const builder = new WorkflowBuilder('research-agent', {
    events,
    context: new Context({
        query: '',
        tasks: [],
        searchResults: [],
        analysis: '',
        insights: [],
        report: '',
    }),
});

// 初始化 LLM 客户端
const llm = new OpenAI({
    apiKey: process.env.OPENAI_API_KEY,
});

3. 定义研究任务

为研究过程的每一步创建专门的任务：

规划任务 (Planning Task)

// 任务规划器：将研究查询拆解为具体任务
const taskPlanner = createTask({
    name: 'taskPlanner',
    execute: async ({ context, data }) => {
        const userQuery = data?.query || 'Research the impact of AI on healthcare';

        const planResponse = await llm.chat.completions.create({
            model: 'gpt-4o',
            messages: [
                {
                    role: 'system',
                    content:
                        'You are a task planning assistant that breaks down research queries into specific search tasks.',
                },
                {
                    role: 'user',
                    content: `Break down this research query into specific search tasks: "${userQuery}". Return a JSON array of tasks.`,
                },
            ],
            response_format: { type: 'json_object' },
        });

        const content = planResponse.choices[0].message.content || '{"tasks": []}';
        const parsedContent = JSON.parse(content);
        const tasks = parsedContent.tasks || [];

        context?.set('query', userQuery);
        context?.set('tasks', tasks);

        return {
            tasks,
            query: userQuery
        };
    },
});