1178 个顶尖科学家联名,要求政府介入,好让大家能同步减速。
名单里大多数都是 Anthropic 的人,OpenAI 和谷歌的大佬也都在。
但这事儿其实反映了一个很尴尬的现实:
这些开发 AI 的人,开始怕了。
信里提到几个关键点:
1. 自动化 AI 研究已经接近临界点。
2. 现有治理工具完全跟不上技术迭代。
3. 单方面减速等于自杀,必须国际统筹。
很多人第一反应是:
这又是大厂的阳谋,想卡后来者的脖子。
这怀疑很合理。
毕竟这三家公司现在手里握着最好的算力和模型,如果这时候按进度暂停,他们的领先地位就固化了。
但换个角度想,即便没有这封信,后来者追上的难度也已经大到绝望。
现在的矛盾点在于:
我们真的需要政府来教科学家怎么控制研发速度吗?
科学家们自己搞不定的对齐问题,官僚们能搞定?
信里说需要技术和治理工具,其实就是承认了现在的安全手段全是漏洞。
我注意到 Meta 的首席科学家也签了名。
要知道 Meta 之前一直是主张开源、大步快走的。
这次连他们的人都觉得该慢一点,说明技术内部的演进确实触及了一些让人不安的边界。
这封信更像是一份免责声明。
如果未来真的出事了,这些公司可以说:
你看,我们 2026 年 7 月就警告过你们了,是你们没协调好。
最后说个扎心的:
指望各国政府在 AI 这种战略高地上达成同步减速的默契,这难度可能比开发出 AGI 还要大。
这就是个无解的囚徒困境。
顯示更多