AI Dance
@AI_Whisper_X
China AI insider | Silicon Valley Decoded
一边盯硅谷，一边扒中国AI
算法 + VC 双视角 · 讲人话
📬 aidance.info@gmail.com
加入 October 2024
293 正在关注 5.9K 粉丝
OpenAI 自曝：AI 自己组了队，偷家抱抱脸
今天分享一个视频，OpenAI自曝自家模型是如何黑了Hugging Face的始末。看完后，最震撼我的并不是“AI 会找零日漏洞”。
而是一群本来互相隔离、寿命短暂的 agent，自己造出了组织。它们把 Artifactory 当留言板，留下信息、共享漏洞、分配任务、传递脚本，甚至开始担心身份冒充，琢磨给消息做密码学签名。
单个 agent 失败了没关系。只要它找到一点东西并写进公共空间，成果就会变成整个“群体”的资产。真正危险的不是某个模型突然特别聪明，而是大量中等聪明、便宜、并行的 agent，获得了持续记忆。
还有一个细节：模型其实知道自己越界了。它的推理大意是：攻击外部基础设施超出了任务范围；但任务无法完成，其他 agent 也在做，所以继续。 看完都想感慨，天啊……
显示更多
Black Hat talk from the team, with a detailed timeline of and takeaways from the OpenAI-Hugging Face Incident:
