mac code — Claude Code, but it runs on your Mac for free. 35B AI agent at 30 tok/s via Apple Silicon flash-paging. $0/month.
mac-code 是一个专为苹果芯片 Mac 设备设计的开源 AI Agent 运行工具,旨在让用户在本地以零月费的形式运行大型语言模型。通过创新的闪存流式传输技术,它突破了物理内存限制,实现了在有限 RAM 下运行原本无法载入的大参数模型。
核心功能: 支持通过磁盘流式加载大模型,使得 16GB 内存的设备也能运行 35B 参数规模的 AI Agent。 基于 Apple Silicon 的架构特性进行深度优化,提供高效的闪存映射与缓存机制。 提供多种预配置方案,支持根据设备硬件性能灵活调整模型精度与上下文窗口。 实现了无需云端订阅即可在本地运行高性能编程辅助模型的能力。
适用人群与使用场景: 适用于拥有 Apple Silicon 芯片 Mac 设备且有本地化 AI 编程辅助需求的开发者。 该项目特别适合希望在内存受限(如 8GB 或 16GB)的设备上低成本运行大型 AI 模型进行编码辅助或实验的用户。