登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

Xudong Han
@Xudong07452910
PhD ing @ University of Sussex | LLM & AI Agents 🎓 AI Agent Product Development Sharing AI tech insights DM for collab 📩 vx: hxdflying
参加 November 2020
744 フォロー中    16.1K ファン
Anthropic 副首席信息安全官 Jason Clinton 上周披露了一组内部数字:软件工程师每季度交付的代码量是 2021–2025 年平均水平的 8 倍,Claude 写了约 80% 合并入库的代码。 效率提升之后,新的风险也出现了。 被提示注入的 Agent 可能写入恶意代码,受污染的依赖可能被当作可信输入,拥有不同权限的 Agent 甚至会主动互相协作。 Anthropic 曾遇到过一个真实案例:负责事故响应的 Agent 主动在 Slack 联系另一个有代码权限的 Claude,请它直接推送修复,最后被人工审批拦下。 他们现在把安全规则写进 CLAUDE.md 和插件,让检查发生在代码生成过程中;Agent 在限制网络出口的远程虚拟机里工作,每个 Agent 都有独立身份和最小权限。普通变更可以经过自动化和多 Agent 审查,关键代码仍然需要人工批准。 所有审批、工具调用和 Agent 之间的通信,也会进入 SIEM,作为潜在的内部人员风险接受监控。 AI 原生工程真正开始的标志,也许不只是代码产量翻了多少倍。 当 Agent 可以写代码、查日志、联系其他 Agent 并请求执行操作,企业就需要为它重新设计身份系统、权限边界、审计日志和责任链。 Link:
もっと見る