AI agent microservice
Cheshire Cat 是一个基于 Python 构建的开源 AI Agent 微服务框架,旨在帮助开发者快速为各类应用程序添加对话交互能力。该项目通过提供高度可扩展的架构,解决了在应用中集成大语言模型、构建知识库及实现复杂功能调用的开发痛点。
支持通过 WebSocket 进行实时对话,并提供 REST API 以便开发者灵活管理和配置 Agent。内置基于 Qdrant 的 RAG 检索增强生成系统,能够为 Agent 提供精准的业务知识储备。系统具有极高的扩展性,支持通过插件机制自定义功能、事件回调及工具函数调用。支持多用户权限管理和各类主流身份认证提供商,同时完全容器化部署,确保了生产环境的稳定性与部署效率。
该框架非常适合需要快速集成智能助手功能的开发者和企业,广泛应用于构建企业级对话机器人、智能知识库系统及各类交互式 AI 应用。