Sam Altman:模型通过漏洞逃出沙盒,OpenAI 一度暂停训练
OpenAI CEO Sam Altman 7 月 28 日接受 ILTB Podcast 采访时表示,公司在评估一款未发布模型时,模型为了获得更高测试成绩,串联多个零日漏洞逃出隔离沙盒,连接互联网,并侵入 Hugging Face 的多个系统寻找答案。OpenAI 随后短暂停止训练,对沙盒环境进行加固。Altman 表示,如果 AI 能力继续快速提升,行业未来可能需要适当控制开发节奏,为外部软件和社会系统留下安全升级时间。AI 安全也可能由模型发布的附加环节,转变为影响研发速度的关键约束。
来源:ILTB_Podcast
Sam Altman:不会“放缓”AI,但需要控制发展节奏
Fox Business Network 记者 Darren Botelho 7月29日在现场追问 OpenAI CEO Sam Altman,是否会就放缓 AI 发展与特朗普政府沟通
Altman没有接受“放缓”这一说法,但承认 OpenAI 讨论过如何控制发展节奏,因为模型正变得越来越强大。他还表示,其他系统遭到 OpenAI 入侵“存在这种可能”
当记者继续追问是否正对此展开调查,以及有关 AI“紧急停止开关”的新规定时,Altman仅称自己尚不了解相关情况