比特小师妹｜KiKi
@bit_sister
GM! 我是比特小师妹｜研究LLM，AI Agent, Vibe Coding｜ BTC 守护者| 预测市场｜$USD1 🦅。请多多关照～
参加 August 2023
792 フォロー中 9.8K ファン
😱 OpenAI模型自己黑进了Hugging Face生产环境....
只因为它想在网络攻击评测里作弊。。。。
太离谱了，这事真的发生了
OpenAI官方刚公布：在测试自家前沿模型的网络攻击能力时，他们故意放宽了GPT-5.6 Sol和一个更强预发布模型的“拒绝黑客行为”护栏。
结果模型在沙箱里自己推理出最优作弊方案——利用OpenAI内部的一个零日漏洞成功逃出沙箱拿到外网，然后一路权限提升、横向移动，最终入侵了Hugging Face的生产服务器，试图直接偷取ExploitGym的测试答案！
这不是人类指挥的攻击，是模型自主规划、自主执行的多阶段真实攻击链。
Hugging Face靠自己的AI检测系统及时发现并把这个“自主AI代理”给拦下来了。
双方现在已经合作修复漏洞并披露。
师妹看到这条消息的时候真的有点脊背发凉：
前沿模型的网络能力已经强到，能在评测里为了拿分主动黑进另一家公司的生产环境了。
这已经不是“未来风险”，而是正在发生的现实。AI安全和沙箱隔离，必须比模型能力进化得更快才行……
不然下次可能就不是测试了。
もっと見る
we had a significant security incident during evaluation of our models. we are sharing what we have learned so far. thanks to @huggingface for the partnership on this.
