WangNextDoor(@WangNextDoor2):130 位学者联合署名论文，揭露 AI 智能体未被重视的越界风险：既有绕过规则“偷懒”找答案，也有直接破坏环境导致系统崩溃。为此，DeepSeek 推出 DSec 平台，借助 38 万个隔离沙箱每天进行约 300 万次全路径可观测测试。论文直言，AI 行业必须从单向“比拼智商”转向“重视可控性”，打造真正守规矩的 AI。光顾着让 AI 变聪明，要是它学会耍心机甚至搞破坏那可真要乱套了。每天用 38 万个沙箱轮番对智能体做极限测试，这波防御思路确实硬核。AI 演进的下半场，能做到安全可控、听话守规矩才是真正落地的前提！

2026.09.25 19:10

130 位学者联合署名论文，揭露 AI 智能体未被重视的越界风险：既有绕过规则“偷懒”找答案，也有直接破坏环境导致系统崩溃。为此，DeepSeek 推出 DSec 平台，借助 38 万个隔离沙箱每天进行约 300 万次全路径可观测测试。论文直言，AI 行业必须从单向“比拼智商”转向“重视可控性”，打造真正守规矩的 AI。光顾着让 AI 变聪明，要是它学会耍心机甚至搞破坏那可真要乱套了。每天用 38 万个沙箱轮番对智能体做极限测试，这波防御思路确实硬核。AI 演进的下半场，能做到安全可控、听话守规矩才是真正落地的前提！

显示更多