NVIDIA NeMo Agent Toolkit

NVIDIA NeMo Agent Toolkit 为各种框架下的 AI Agent 注入智能，通过企业级的检测、可观测性和持续学习能力，提升其速度、准确性和决策能力。

🔥 新特性

• AI 编程 Agent 技能： 使用专注的 NeMo Agent Toolkit 技能，为编程 Agent 提供构建、评估、优化和观察工作流的任务导向型指导。
• Dynamo 运行时智能： 从 Agent 配置文件中自动推断针对每个请求的延迟敏感度，并应用运行时提示来实现缓存控制、负载感知路由和优先级感知服务。
• Agent 性能基元 (APP)： 引入了与框架无关的性能基元，通过并行执行、推测性分支和节点级优先级路由，加速 LangChain、CrewAI 和 Agno 等基于图的 Agent 框架。
• LangSmith 原生集成： 通过原生的 LangSmith 追踪功能观察 Agent 的端到端执行过程，运行评估实验，对比结果，并在开发和生产工作流中管理 Prompt 版本。
• FastMCP 工作流发布： 使用 FastMCP 服务器运行时将 NeMo Agent Toolkit 工作流发布为 MCP 服务器，以简化 MCP 原生部署和集成。
• 迁移说明： 1.5.0 版本简化了包安装和依赖管理。请参阅迁移指南。

✨ 核心功能

• 🛠️ 构建 Agent：利用相关工具简化 Agent 进入生产环境的过程，加速开发。
  • 🧩 框架无关性： 与各种 Agent 框架协同工作，增加观察、分析和优化 Agent 所需的检测能力。该工具包可与 LangChain、LlamaIndex、CrewAI、Microsoft Semantic Kernel 和 Google ADK 等流行框架，以及自定义的企业级 Agent 框架和简单的 Python Agent 配合使用。
  • 🔁 可重用性： 实现组件的一次构建、多次使用，从而最大化开发成果的价值。
  • ⚡ 自定义： 从预构建的 Agent、工具或工作流入手，并根据您的需求进行定制。
  • 💬 内置用户界面： 使用 NeMo Agent Toolkit UI 聊天界面与您的 Agent 进行交互、可视化输出并调试工作流。
• 📈 Agent 洞察：利用 NeMo Agent Toolkit 的检测能力，更好地理解 Agent 在运行时的功能表现。
  • 📊 性能分析 (Profiling)： 从 Agent 级别到单个 Token，对整个工作流进行深度剖析，以识别瓶颈、分析 Token 效率，并指导开发人员优化其 Agent。
  • 🔎 可观测性： 在生产环境中追踪性能、跟踪执行流程，并深入了解 Agent 的行为。
• 🚀 Agent 优化：利用一套涵盖 Agent 生命周期各阶段的工具，提升 Agent 的质量、准确性和性能。
  • 🧪 [评估与优化：] (此处原文截断)