註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

檢索結果 Prevención
Prevención 貼吧
一個關鍵字就是一個貼吧,路徑全站唯一。
建立貼吧
用戶
未找到
包含 Prevención 的搜尋結果
🚨 Uber 内部用来盯 AI agent 的那套安全系统 ADR,开源了,能把公司里没人报备就偷偷用上的 AI 工具揪出来。 GitHub 上 1623 star、172 个 fork,相关论文被 MLSys 2026 接收,系统本身已经在 Uber 生产环境跑着。 现在公司里的 agent 安全基本是个黑洞:谁在用 Cursor、谁装了 Claude Code、哪个客服 agent 被人用提示词绕过去了,安全团队看不见。ADR 把这件事拆成五块来做——先把没批准的 AI 工具找出来,再观测 agent 到底调了什么工具、执行了哪些动作,然后评测防御能力、检测威胁、拦住不安全的操作。 观测这块已经在生产环境里跨 macOS、Linux、Windows 采了七种以上 AI 编程工具的轨迹;检测用的是两层结构,先高召回粗筛,再对可疑会话做深一层的推理。它还带了一个 ADR-Bench,300 多个任务、134 个 MCP server,把 17 种 agent 攻击手法全覆盖了一遍。 要说清楚的是,这次开源的是 Discovery、Sensor、ADR-Bench 和 Detector 这几块,负责拦截的 Prevention 组件和离线的 Explorer 引擎没放出来。 agent 进了生产,安全这一课迟早得补。 GitHub:
顯示更多
0
1
144
23
轉發到社區