Rivet

Rivet Actors 是用于有状态工作负载的基本原语。 专为 AI Agent、协作式应用程序和持久化执行而构建。

快速入门 • 文档 • 更新日志 • Discord • X

什么是 Rivet？

Rivet Actors 是专为有状态工作负载设计的长驻轻量级进程。状态保留在内存中并带有自动持久化机制。你可以为每个 Agent、每个会话或每个用户创建一个 Actor —— 并内置了工作流、队列和调度功能。

后端 (Backend)

const agent = actor({
  // Actor 的内存中持久化状态
  state: { messages: [] as Message[] },

  // 长驻的 Actor 进程
  run: async (c) => {
    // 处理来自队列的传入消息
    for await (const msg of c.queue.iter()) {
      c.state.messages.push({ role: "user", content: msg.body.text });
      const response = streamText({ model: openai("gpt-5"), messages: c.state.messages });

      // 将实时事件流式传输给所有已连接的客户端
      for await (const delta of response.textStream) {
        c.broadcast("token", delta);
      }

      c.state.messages.push({ role: "assistant", content: await response.text });
    }
  },
});

客户端 (Client) (前端或后端)

// 连接到一个 Actor
const agent = client.agent.getOrCreate("agent-123").connect();

// 监听实时事件
agent.on("token", delta => process.stdout.write(delta));

// 发送消息给 Actor
await agent.queue.send("how many r's in strawberry?");

功能特性

每个 Agent、会话或用户拥有一个 Actor —— 包含状态、存储和网络功能。

Rivet 提供：

• 内存状态 (In-memory state) — 与计算资源同驻，实现即时读写。可通过 SQLite 或自定义数据库进行持久化。
• 永久运行，闲置休眠 — 活跃时长驻运行，闲置时自动进入休眠状态。
• 无限扩展，缩容至零 — 支持突发工作负载，且具有极高的成本效益。
• 全球边缘网络 — 无需复杂配置，即可部署在用户附近或特定的法律管辖区。

Actors 支持：

• WebSockets — 内置实时双向流。
• 工作流 (Workflows) — 支持自动重试的多步骤操作。
• 队列 (Queues) — 用于可靠异步处理的持久化消息队列。
• 调度 (Scheduling) — Actor 内部的定时器和 Cron 任务。

使用场景

一个适应 Agent、工作流、协作应用等多种场景的核心原语。

• AI Agent — 每个 Agent 作为独立的 Actor 运行，拥有持久化的上下文、记忆以及调度工具调用的能力。
• 沙箱编排 (Sandbox Orchestration) — 在每个工作区中通过一个长驻 Actor 来协调沙箱会话、工作队列及调度清理任务。
• 工作流 (Workflows) — 具备自动重试、调度和跨步骤持久化状态的多步骤操作。
• 协作文档 (Collaborative Documents) — 实现实时协作编辑，每个文档作为一个 Actor，向所有连接的用户广播变更。
• 租户数据库 (Per-Tenant Database) — 每个租户一个 Actor，提供低延迟的内存读取和持久化的租户数据存储。
• 聊天 (Chat) — 每个房间或对话一个 Actor，具备内存状态、持久化历史记录和实时消息投递。

Actor 方案对比

Rivet Actors 与传统基础设施对比

指标	Rivet Actor	Kubernetes Pod	虚拟机 (VM)
冷启动	~20ms	~6s	~30s
单实例内存	~0.6KB	~50MB	~512MB
闲置成本	$0	~$85/月 (集群)	~$5/月
水平扩展	无限	~5k 节点	手动
多区域	全球边缘	单区域	单区域

状态 (State)

指标	Rivet Actor	Redis	Postgres
读取延迟	0ms	~1ms	~5ms

基准测试详情与方法论

冷启动

• Rivet Actor (~20ms)： 包含持久化状态初始化，不仅仅是进程启动。无 Actor 密钥，因此无跨区域锁定。基于 Node.js 和 FoundationDB 测量。
• Kubernetes Pod (~6s)： 在预配置的 m5.large 节点上运行 AWS EKS 中的 Node.js 24 Alpine 镜像（56MB 压缩）。分解：~1s 镜像拉取与解压，~3-4s 调度与容器运行时设置，~1s 容器启动。
• 虚拟机 (~30s)： AWS EC2 t3.nano 从启动到 SSH 就绪，使用 Amazon Linux 2 AMI。t3.nano 是最小的 EC2 实例（512MB RAM）。

单实例内存

• Rivet Actor (~0.6KB)： RSS 增量除以 Actor 数量，通过在 Linux x86 上运行 Node.js v24 并创建 10,000 个 Actor 测量得出。
• Kubernetes Pod (~50MB)： Linux x86 上最小的闲置 Node.js 容器：Node.js v24 运行时 (~43MB RSS)、containerd-shim (~3MB)、pause 容器 (~1MB) 以及 kubelet 每个 Pod 的追踪数据 (~2MB)。
• 虚拟机 (~512MB)： AWS EC2 t3.nano，这是拥有 512MB 分配内存的最小可用 EC2 实例。

读取延迟

• Rivet Actor (0ms)： 状态从与 Actor 同一机器上的 SQLite/KV 存储中读取，无需网络往返。
• Redis (~1ms)： AWS ElastiCache