DeliteAI

用于打造卓越体验的端侧 AI 平台

DeliteAI 是一个功能强大的端侧 AI 平台，旨在构建 Agentic（智能体）工作流。它使开发人员能够为移动设备、笔记本电脑、可穿戴设备和汽车提供安全、注重隐私且高性能的 AI 原生体验和应用程序。

核心功能

开发人员生产力

• 提供统一且简化的 API，以便在 Android/iOS/MacOS 应用程序中无缝集成 AI Agent。
• 提供 Python 接口，通过端侧的工具调用、记忆和 LLM 来编排复杂的 AI Agent 工作流。
• 为新旧应用程序简化了开发流程。

可移植性与小巧外形

• 跨操作系统的兼容性。
• 支持各种计算平台和运行时。
• 为碎片化的设备环境提供抽象的开发层。
• 针对资源受限的环境进行了优化，具有高效的 CPU/内存使用率。

安全与隐私

• 优先考虑隐私，采用端侧处理方案。
• 支持硬件加速模型执行。

可扩展性

• 轻松集成自定义 Python 算子。
• 灵活的运行时支持（ONNX 或 ExecuTorch）。

快速上手

你可以按照以下步骤开始：

• 按照 coreruntime 中的步骤构建并测试核心 C++ SDK 及其 Python 绑定。
• 构建并尝试 Android 和 iOS SDK 及示例应用程序。
• 探索 agents 目录中可用的 Agent。

访问 assistant 仓库查看完整的应用实例。

文档

请访问 deliteai.dev 探索我们的文档。

社区互动

我们欢迎任何反馈或建议——请加入我们的 Discord 与社区互动。

贡献

我们欢迎社区贡献！无论你是否有兴趣：

• 添加新的 Python 算子
• 增强运行时支持
• 改进文档
• 报告错误或建议新功能

请阅读我们的 贡献指南 以开始。

许可证

本项目采用 Apache License 2.0 许可证 - 详情请参阅 LICENSE 文件。