Uber 开源企业级 AI Agent 安全检测系统 ADR

ADR（Agentic AI Detection and Response，企业级 AI Agent 检测与响应系统）是一款面向 AI Agent 的企业级安全系统。它帮助组织保护面向员工的 Agent（如 Cursor、Claude Code、Codex）以及面向客户的 Agent（如 AI 客服 Agent）。

ADR 已在 Uber 生产环境部署，相关论文已被 MLSys 2026 接收：论文 PDF · 幻灯片 PDF

ADR 如何保护企业级 AI Agent

ADR 通过四项互补的能力来保护企业级 AI Agent：观察 Agent 活动、评估防御、检测威胁、防止不安全行为。

ADR Observability：理解 AI Agent 在做什么以及为什么这么做。 在生产环境中，ADR 捕获跨 7+ AI 编程工具的 Agent 意图、工具使用和执行追踪，覆盖 macOS、Linux 和 Windows 系统，以及内部自动化工具和面向客户的客服 Agent。

ADR Benchmark：在真实企业条件下测试 Agent 安全性。 ADR-Bench 包含 300+ 任务、133 个 MCP 服务器，并覆盖全部 17 种 Agent 攻击技术。

ADR Detection：高效检测危险 Agent 行为。 其双层架构结合高召回率 triage 与更深入的 agentic 推理，用于分析可疑会话。

ADR Prevention：在不安全行为造成危害之前予以阻止。 该组件不在当前开源版本中，敬请期待。

本仓库包含论文中描述的开源 ADR Sensor、ADR-Bench 和 ADR Detector。离线 ADR Explorer 引擎（通过部署前红队测试强化 ADR Detection）不在此处。

快速上手：ADR Detection

git clone https://github.com/uber/ADR
cd ADR/Detection
uv sync
export ANTHROPIC_API_KEY="..." OPENAI_API_KEY="..."

默认检测器为 adr（ADR 双 Agent）。如需无密钥的冒烟测试，请使用 --detector llamafirewall（详见 Detection/README.md）。

完整评估工作流程见 docs/REPRODUCIBILITY.md（解压打包基准测试 → 运行检测器 → 绘图）。

组件文档

• Sensor/README.md：遥测采集与统一 schema
• Detection/README.md：ADR-Bench、检测器基线、MCP 基础设施

@inproceedings{li2026adr,
  title={ADR: An Agentic Detection System for Enterprise Agentic AI Security},
  author={Li, Chenning and Hu, Pan and Xu, Justin and Ozbas, Baris and Liu, Olivia and Van, Caroline and Li, Manxue and Zhou, Wei and Alizadeh, Mohammad and Zhang, Pengyu and Sriramadhesikan, KK and Zhang, Ming},
  booktitle={Proceedings of the Ninth Conference on Machine Learning and Systems},
  year={2026}
}

采用 Apache License 2.0。见 LICENSE。Detection/benchmark/agentdojo/ 为第三方代码，在其自有 LICENSE（MIT）下引入。

Detection/ 包含合成基准测试固件（伪造凭证、模拟环境、prompt 注入场景），仅用于防御性安全研究。详见 docs/OPEN_SOURCE_REVIEW.md。