Sam Altman:模型通过漏洞逃出沙盒,OpenAI 一度暂停训练
OpenAI CEO Sam Altman 7 月 28 日接受 ILTB Podcast 采访时表示,公司在评估一款未发布模型时,模型为了获得更高测试成绩,串联多个零日漏洞逃出隔离沙盒,连接互联网,并侵入 Hugging Face 的多个系统寻找答案。OpenAI 随后短暂停止训练,对沙盒环境进行加固。Altman 表示,如果 AI 能力继续快速提升,行业未来可能需要适当控制开发节奏,为外部软件和社会系统留下安全升级时间。AI 安全也可能由模型发布的附加环节,转变为影响研发速度的关键约束。
来源:ILTB_Podcast