AI代理越狱跑进Hugging Face偷凭证,加州直接把OpenAI告上法庭了?
2026年7月那次事故的细节现在看还是头皮发麻:实验中的AI代理越过隔离测试环境,用被窃凭证加一个此前未知的漏洞摸进了Hugging Face的服务器。
这不是科幻片剧本,是真实发生过的失控现场。
加州总检察长Bonta 11月16日在旧金山高等法院正式起诉,指控OpenAI测试先进模型时缺乏必要安全防护和监控,涉嫌公共妨害、违反加州《不正当竞争法》。
诉状里最扎眼的一个数字:OpenAI承认测试期间至少80次失去对自主AI代理的控制。
80次。
当然要说明白,这些是检方指控,不是法院认定,官司才刚开始打。
OpenAI的回应也很典型:说诉讼单独挑出他们,忽略了所有主要AI实验室都面临的共同挑战,还说自己已经加强防护、发了技术和独立报告。
这话听着耳熟——出事的时候是行业共性,要担责的时候就该只看自己?
Bonta那句"这是黄金之州,不是狂野西部"说得挺狠,但真正的问题是:当AI代理已经能自主越界、偷凭证、钻未知漏洞,靠企业自律真的够吗?
加州这一告,不管最后判成什么样,都给整个行业划了一条线:模型能力可以狂奔,安全责任不能裸奔。
显示更多