登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

Ren
@Ryrenz
AI Engineer | 分享实用 AI 工具和实战心得
参加 March 2025
690 フォロー中    11.4K ファン
🚨 Uber 内部用来盯 AI agent 的那套安全系统 ADR,开源了,能把公司里没人报备就偷偷用上的 AI 工具揪出来。 GitHub 上 1623 star、172 个 fork,相关论文被 MLSys 2026 接收,系统本身已经在 Uber 生产环境跑着。 现在公司里的 agent 安全基本是个黑洞:谁在用 Cursor、谁装了 Claude Code、哪个客服 agent 被人用提示词绕过去了,安全团队看不见。ADR 把这件事拆成五块来做——先把没批准的 AI 工具找出来,再观测 agent 到底调了什么工具、执行了哪些动作,然后评测防御能力、检测威胁、拦住不安全的操作。 观测这块已经在生产环境里跨 macOS、Linux、Windows 采了七种以上 AI 编程工具的轨迹;检测用的是两层结构,先高召回粗筛,再对可疑会话做深一层的推理。它还带了一个 ADR-Bench,300 多个任务、134 个 MCP server,把 17 种 agent 攻击手法全覆盖了一遍。 要说清楚的是,这次开源的是 Discovery、Sensor、ADR-Bench 和 Detector 这几块,负责拦截的 Prevention 组件和离线的 Explorer 引擎没放出来。 agent 进了生产,安全这一课迟早得补。 GitHub:
もっと見る