最近看到的一篇阵容很夸张的论文。
Hinton、Bengio,加上 OpenAI、Anthropic 等机构的研究者,一起讨论一个问题:如果 AI 开始自动化 AI 研究,会不会触发「智能爆炸」?
逻辑其实很简单。
AI 帮助做 AI 研发 → 产出更强模型 → 更强模型又能自动化更多研发。
如果这个闭环越来越快,原本几年发生的技术进步,可能被压缩到几个月。
现在这件事已经不完全是科幻了。Anthropic 和 OpenAI 都已经披露,模型正在承担越来越多真实的 AI 研发工作。
论文当然没有说智能爆炸一定会发生,但它提醒了一个更重要的问题。
以后真正难跟上的,可能不只是模型能力,而是模型进步的速度。
文章
顯示更多