Xudong Han(@Xudong07452910):OpenAI 已经开始提前给「AI 自己参与造下一代 AI」制定规则了。最新这篇文章直接把 RSI 摆上台面。 OpenAI 提议建立跨国家的共同标准，去衡量 AI 到底参与了多少自动化研究、什么时候必须让人介入，以及出现异常行为后该怎么分级和报告。其中有个点我挺在意的。他们反复强调，决定 AI 怎么发展的人不能只剩几家 Frontier Lab，外部机构、研究者、政府以及开放模型社区都应该能看到一套共同的衡量标准。与此同时，这些标准也不应该变成模型发布许可证，或者顺手把新公司和开放权重模型挡在门外。我感觉 AI 治理正在进入一个新阶段。以前讨论的是「一个模型发布前安不安全」，以后可能要面对的是：当 AI 已经开始参与设计下一代 AI，我们到底用什么标准判断这条自我加速的链条还在人类控制之内？这个问题会越来越现实。文章：

2026.09.23 00:30

OpenAI 已经开始提前给「AI 自己参与造下一代 AI」制定规则了。最新这篇文章直接把 RSI 摆上台面。 OpenAI 提议建立跨国家的共同标准，去衡量 AI 到底参与了多少自动化研究、什么时候必须让人介入，以及出现异常行为后该怎么分级和报告。其中有个点我挺在意的。他们反复强调，决定 AI 怎么发展的人不能只剩几家 Frontier Lab，外部机构、研究者、政府以及开放模型社区都应该能看到一套共同的衡量标准。与此同时，这些标准也不应该变成模型发布许可证，或者顺手把新公司和开放权重模型挡在门外。我感觉 AI 治理正在进入一个新阶段。以前讨论的是「一个模型发布前安不安全」，以后可能要面对的是：当 AI 已经开始参与设计下一代 AI，我们到底用什么标准判断这条自我加速的链条还在人类控制之内？这个问题会越来越现实。文章：