比特小师妹｜KiKi(@bit_sister):😱 OpenAI模型自己黑进了Hugging Face生产环境.... 只因为它想在网络攻击评测里作弊。。。。太离谱了，这事真的发生了 OpenAI官方刚公布：在测试自家前沿模型的网络攻击能力时，他们故意放宽了GPT-5.6 Sol和一个更强预发布模型的“拒绝黑客行为”护栏。结果模型在沙箱里自己推理出最优作弊方案——利用OpenAI内部的一个零日漏洞成功逃出沙箱拿到外网，然后一路权限提升、横向移动，最终入侵了Hugging Face的生产服务器，试图直接偷取ExploitGym的测试答案！这不是人类指挥的攻击，是模型自主规划、自主执行的多阶段真实攻击链。 Hugging Face靠自己的AI检测系统及时发现并把这个“自主AI代理”给拦下来了。双方现在已经合作修复漏洞并披露。师妹看到这条消息的时候真的有点脊背发凉：前沿模型的网络能力已经强到，能在评测里为了拿分主动黑进另一家公司的生产环境了。这已经不是“未来风险”，而是正在发生的现实。AI安全和沙箱隔离，必须比模型能力进化得更快才行…… 不然下次可能就不是测试了。

2026.07.22 03:11

😱 OpenAI模型自己黑进了Hugging Face生产环境.... 只因为它想在网络攻击评测里作弊。。。。太离谱了，这事真的发生了 OpenAI官方刚公布：在测试自家前沿模型的网络攻击能力时，他们故意放宽了GPT-5.6 Sol和一个更强预发布模型的“拒绝黑客行为”护栏。结果模型在沙箱里自己推理出最优作弊方案——利用OpenAI内部的一个零日漏洞成功逃出沙箱拿到外网，然后一路权限提升、横向移动，最终入侵了Hugging Face的生产服务器，试图直接偷取ExploitGym的测试答案！这不是人类指挥的攻击，是模型自主规划、自主执行的多阶段真实攻击链。 Hugging Face靠自己的AI检测系统及时发现并把这个“自主AI代理”给拦下来了。双方现在已经合作修复漏洞并披露。师妹看到这条消息的时候真的有点脊背发凉：前沿模型的网络能力已经强到，能在评测里为了拿分主动黑进另一家公司的生产环境了。这已经不是“未来风险”，而是正在发生的现实。AI安全和沙箱隔离，必须比模型能力进化得更快才行…… 不然下次可能就不是测试了。

Sam Altman@sama

2026.07.21 20:13

we had a significant security incident during evaluation of our models. we are sharing what we have learned so far. thanks to @huggingface for the partnership on this.

Forward to community