Xudong Han
@Xudong07452910
🎓PhD ing @ University of Sussex | LLM & AI Agents
📖AI Agent Product Development
🛠️Sharing AI tech insights
📩DM for collab
가입 November 2020
630 팔로잉 중 12.5K 팬
OpenAI 已经开始提前给「AI 自己参与造下一代 AI」制定规则了。
最新这篇文章直接把 RSI 摆上台面。
OpenAI 提议建立跨国家的共同标准，去衡量 AI 到底参与了多少自动化研究、什么时候必须让人介入，以及出现异常行为后该怎么分级和报告。
其中有个点我挺在意的。
他们反复强调，决定 AI 怎么发展的人不能只剩几家 Frontier Lab，外部机构、研究者、政府以及开放模型社区都应该能看到一套共同的衡量标准。与此同时，这些标准也不应该变成模型发布许可证，或者顺手把新公司和开放权重模型挡在门外。
我感觉 AI 治理正在进入一个新阶段。
以前讨论的是「一个模型发布前安不安全」，以后可能要面对的是：
当 AI 已经开始参与设计下一代 AI，我们到底用什么标准判断这条自我加速的链条还在人类控制之内？
这个问题会越来越现实。
文章：
더 보기
