Agentic LLM Vulnerability Scanner / AI red teaming kit 🧪
Agentic Security 是一款开源的智能代理漏洞扫描器及 AI 红队测试工具包,专门用于检测大型语言模型及相关代理工作流的安全性。它通过模拟多种攻击手段,帮助开发者识别并防御提示词注入、越狱以及多模态攻击等潜在风险,确保 AI 系统的安全部署。
该工具支持对文本、图像和音频等多种输入形式进行漏洞探测,全面评估模型的鲁棒性。通过多步越狱模拟,它能够挖掘深层次的逻辑缺陷,并利用强化学习生成自适应的攻击探测向量。此外,项目提供完善的模糊测试功能,可通过高并发的接口压力测试识别模型在极端情况下的意外行为。该框架与现有 LLM API 高度兼容,支持通过自定义模板灵活集成多种模型,实现自动化的安全基准测试。
该项目适用于从事 AI 安全研究的开发者、红队渗透测试人员以及关注 LLM 应用安全的企业安全团队。它主要用于在 AI 系统上线前进行压力测试和红队演练,从而主动发现并修复生产环境中的关键安全漏洞。