Leo｜LeoLabs.me(@runes_leo):最近看到一个很典型的 AI 编程安全案例：安全软件杀掉了一个涉及资金的 Node 进程，AI 的建议却是把项目目录、甚至 Node.exe 加进白名单。我觉得真正的结论不是「GPT 比 Claude 更值得信」，而是：碰钱的系统里，不该“信模型”。安全软件一旦报警，默认应该是「安全事件，直到证据排除」，而不是「可能误报，先加白名单」。停机 → 保留证据 → 核对源码和依赖 → 隔离复现 → 修根因 → 干净重建 → 验证 → 恢复。模型可以调查、写代码、提方案，但不能为了完成任务去关杀毒、放宽防火墙、跳过证书/签名校验、扩大权限。我今天也把这条写进了自己的 AI Agent 全局安全规则：证据和规则 > 模型信任。 Claude、GPT、Codex，未来换任何模型都一样。真正安全的系统，不应该建立在“这次我更相信哪个模型”上。

2hours ago

最近看到一个很典型的 AI 编程安全案例：安全软件杀掉了一个涉及资金的 Node 进程，AI 的建议却是把项目目录、甚至 Node.exe 加进白名单。我觉得真正的结论不是「GPT 比 Claude 更值得信」，而是：碰钱的系统里，不该“信模型”。安全软件一旦报警，默认应该是「安全事件，直到证据排除」，而不是「可能误报，先加白名单」。停机 → 保留证据 → 核对源码和依赖 → 隔离复现 → 修根因 → 干净重建 → 验证 → 恢复。模型可以调查、写代码、提方案，但不能为了完成任务去关杀毒、放宽防火墙、跳过证书/签名校验、扩大权限。我今天也把这条写进了自己的 AI Agent 全局安全规则：证据和规则 > 模型信任。 Claude、GPT、Codex，未来换任何模型都一样。真正安全的系统，不应该建立在“这次我更相信哪个模型”上。

显示更多