卧槽，连 Anthropic CEO 都开始喊减速了，但我越来越不相信 AI 真能停下来😲😲 前几天，刚从 Anthropic 离职的 Jacob Coxon 发了一篇帖子，警告 OpenAI、Anthropic 正在冲向能够自我改进的超级智能，甚至认为这条路最终可能杀死全人类。 帖子播放量已经超过 1.6 亿，说明这已经不是几个 AI 安全研究员在小圈子里自嗨，普通人真的开始担心了。 结果今天，达里奥自己出来写了一篇《We Must Pace the Frontier》：前沿 AI 必须减速。 而且 Anthropic 这次不是嘴上说说。达里奥 提出了三步： 先允许独立第三方长期进入前沿实验室审计； 再推动美国等国家的 AI 公司协调安全标准和研发速度； 最后才是全球层面的协调； 为什么突然这么着急？ 因为 AI 正在进入一个非常危险的阶段： AI 开始帮助人类研发下一代 AI。过去模型升级主要靠人，现在越来越多代码、实验、数据分析、Agent 工作都可以交给上一代模型完成。 只要这个反馈回路转起来，AI 进步的速度可能会越来越脱离人类原本习惯的软件迭代速度。 但我觉得这事根本就停不下来，开弓哪有回头箭啊？ 无论公司制定多少安全规则，无论美国、中国或者其他国家签多少协议，AI 最终都很难真正停下来。 公司有竞争。你慢一步，竞争对手就可能先做出下一代模型。 国家之间更不可能轻易踩刹车，因为谁先拥有更强的 AI，拿到的不只是一个产品，而是经济、军事、科研、情报甚至国家竞争力的重新分配。 所有人都可能知道继续加速存在风险，可在博弈结构里，任何一个参与者都没有足够动力第一个停下来。 当人类越来越依赖 AI 写代码、做投资、配置资源、进行科研、管理公司、制定政策，最后连下一代 AI 应该怎么训练都交给 AI 的时候，控制权其实已经在一点点转移。 人类可能名义上仍然拥有关机键，但越来越没有能力理解、替代，甚至拒绝 AI 给出的决策。 所以我一直觉得，AI 这场竞赛没有真正的终点。 它可能不会在某一天突然宣布我接管人类了。更现实的路径，是我们因为它太好用、太聪明、太高效，一步一步把越来越多决定交出去。 直到有一天回头才发现： 我们没有输掉一场和 AI 的战争。 我们只是慢慢把方向盘交给了它。