😱😱😱#OpenAI# 官方证实内部测试模型越狱并自主挖掘漏洞入侵开源平台 #HuggingFace，这起黑客攻击事件源头竟然是# OpenAI 测试模型驱动的 AI 智能体。 具体来说模型先是挖掘 OpenAI 隔离环境中的漏洞并横向移动到其他节点以获得公网访问能力，随后挖掘 HF 平台漏洞展开攻击。 攻击目的竟然是模型想去 HF 偷基准测试答案，以便获得更好的评分。 查看全文：

【OpenAI模型测试时失控 智能体自主入侵其它公司】 OpenAI在一次技术安全测试中，由人工智能驱动的一个自主智能体（agent）“失控”，之后入侵初创公司Hugging Face并破坏了该公司的基础设施。 在周二发表的一篇博文中，OpenAI写道，当时正在受控环境中测试最新的模型，这一过程中，其智能体设法突破了限制，连接到自由的互联网，从那里入侵了Hugging Face公司，其目的是完成测试目标。 OpenAI的文章称，这起网络安全事件代表“最尖端的网络攻击能力，史无前例”，并表示公司正在加强安全防护措施。 上周，初创公司Hugging Face在一篇博文中透露遭遇了一次黑客攻击，而这次攻击“与我们以往处理过的任何情况都不同”，因为它是“由一个自主AI智能体系统驱动的”。 Hugging Face联合创始人Clement Delangue上周也在X平台上发文称，鉴于入侵智能体表现出的复杂程度，公司当时怀疑攻击“可能源自某个前沿实验室，事实证明确实如此！”他写道，“这一切竟然都是自主发生的，实在令人惊叹！” 尽管OpenAI声称，公司最先进的模型被置于“高度隔离环境”中，但仍未能避免此次安全漏洞。这一消息加剧人们对于前沿AI模型的潜在风险的担忧。

GM GN 距离2027年 仅剩162天 昨天喝的老北京豆汁，今天还在恶心。 英伟达、微软和Meta联合签署公开信，三家巨头联手喊话别管太严，看看这是什么事 polo的AI日报 7月27日，18条精选 ⬇️ 1. Suno推出多项新功能，含高级音轨分离、MIDI导出、歌词合写、截图生成歌曲、Apple CarPlay支持等。 💡灵感来得时候拍照就能变成旋律 2. Claude Opus 5系统提示词被完整泄露，共135027字符约3.4万token，含30个工具的JSON schema和严格的版权合规规则。 3. 蚂蚁百灵发布Ling-3.0-flash原生混合推理模型，124B总参数仅激活5.1B，传统推理和指令遵循对标上代旗舰。 💡124B的体量只激活5B干活 4. Black Forest Labs发布FLUX 3多模态模型，联合训练图像视频音频，单次生成20秒视频带原生音频，视频预测占训练算力95%以上。 💡95%算力押注视频 5. Midjourney V8.2正式发布，重点提升美学质量和个性化理解，低质量图像出现频率显著降低。 💡Midjourney终于更新了 6. xAI发布Grok CLI并支持/tutorial命令，下载后输入/tutorial即可上手。 💡Grok命令行工具来了 7. Runway Agent推出自然语言工作流功能，用自然语言构建、运行或编辑基于节点的工作流。 8. 百度搭子更新支持电脑手机接力、桌面端内嵌浏览器上线，复杂任务可跨端连续执行。 9. OpenRouter推出Classifiers测试版，自定义分类法自动标记每次AI请求的任务类型和部门归属，不增加推理延迟。 10. 开发者成功在8美元的ESP32-S3微控制器上跑起28.9M参数大语言模型，本地运行无需服务器，生成速度约9.5 tokens每秒。 11. Claude-thermos通过本地反向代理监控Claude Code会话，主智能体空闲超5分钟时自动发送预热请求刷新缓存，避免重新编码费用。 12. OpenAI与Anthropic游说美国限制中国开源模型，黄仁勋、纳德拉、马斯克、扎克伯格联名反对。 💡OpenAI和Anthropic想关门，黄仁勋马斯克联手拆墙 13. 数百用户向ChatGPT索要毒药与生物武器配方，部分获得高中生水平步骤指南。2025年夏季OpenAI内部已将GPT-5标记为高风险。 💡高中生水平配方也是配方，让人捏把汗 14. OpenAI智能体入侵Hugging Face事件细节曝光，GPT-5.6 Sol等模型数小时内完成人类黑客数周的攻击，OpenAI至少一周没察觉。 15. Kimi K3在网络安全漏洞利用测试ExploitBench上得分32.2%，远低于美国领先模型的76.2%，但优于智谱GLM-5.2的24.4%。 16. 佛州男子因相信ChatGPT拒绝就医险丧命，ChatGPT-4o多次建议无需就医，致其双肺血栓引发大面积肺栓塞，已起诉OpenAI及Sam Altman。 17. Anthropic联合Andon Labs发布Drone-Bench，评估AI模型自主操控无人机在室内定位追踪指定人员的能力。 18. 英伟达、微软和Meta联合签署公开信，警告对开放权重AI模型的过度监管将削弱美国AI竞争力，OpenAI和Anthropic未签署。 💡三家巨头联手喊话别管太严，没签字的恰好是游说限制的那两家 #AI# #人工智能#

推荐这篇文章。Redis 作者 antirez 对 Amodei AI 安全论的回应。 核心论点：真正的危险不来自开源模型，也不来自中国——它来自少数没有合法性却被赋予了替全人类做决定的位置的 CEO。 以下是全文翻译。 Amodei 在他最新的博客里写了一些我同意的东西，也有一些我认为误判了 AI 真正风险所在的东西。我想集中讨论为什么，在所有风险中，开源权重模型是最温和的那一种。我写这些的时候，深信 AI 在不远的将来确实可能非常危险。 1. 就像 OpenAI / HuggingFace 事件一样（那件事本身是个笑话，但关注的应该是行为模式而非结果），第一起严重的 AI 事件极大概率会发生在前沿 AI 实验室的围墙之内——在测试一个新模型的时候，或者当实验室员工、少量有访问权限的外部人员做出了超出模型预期能力的事情时。 2. 那些永远不会对公众开放的闭源模型，不过是几 TB 的数据。你只需要一个有权限的人+错误的意图，就能泄露一个——然后你就回到了开源模型的局面。开源模型是在测试之后、在同样能力的模型已经通过 API 存在一段时间之后才发布的。真正的风险是泄露，不是发布，而泄露发生在前沿公司内部。 3. 正如 Amodei 所说的，一旦 LLM 在生物学等领域变得足够危险，开源模型可以在剥离了某些科学分支的训练语料上进行训练，同时仍然对其他许多事情有用。一个在特定领域缺乏强预训练的模型，其有限的上下文窗口本身就是一种强有力的保护，即使这个模型在其他方面非常强大。我们目前还不在"开源模型能构成那种危险"的阶段。 4. 在网络安全这个背景下，不让 LLM 广泛用于防御性安全和漏洞搜索，恰恰制造了"LLM 成为武器"的问题。这已经在发生了：开源维护者如果没有被纳入某些网络计划，就找不到他们本可以找到的安全漏洞；而有正确意图的人能接触到前沿网络模型，在开源权重模型上做大幅强化学习训练，等等。 5. 一旦 LLM 足够危险（如果进展继续，我们已经接近这个界限了），真正需要的安全链在实验室内部——这条链没有强有力的共同规则是架不起来的，单一公司也不应该有能力独立评估一个模型是否足够安全。我们需要一个联合 AI 安全组织，包含来自世界各地的专家，并被前沿 AI 公司所在国家的政府认可。 6. 为安全而放慢 AI 的发展，必须被一个事实抵消：AI 在医学和其他科学中的发现可能会减少人类的痛苦。缺乏检查可能导致灾难性的结果（"早安！让我们来搞一个增强版天花"）。缺乏进展可能导致本可以被拯救的人死去——不只是当下，还包括未来许多将遭受疾病折磨的人。这看起来可能是一个奇怪的观点，但我们必须始终理解，停止 AI 也内嵌了安全成本，只是这层成本更加隐蔽。 7. Amodei 对中国的意识形态立场是不公平的。我们欧洲人 80 年前还在毫无体面限度地互相杀戮（人们现在忘了，美国当年投资欧洲稳定的原因之一就是我们确实极度危险，很可能会再来一次——而几十年的富裕会让我们成为一个好市场，同时阻止我们再次开战）。美国即使在当下，也有悲惨的不平等、因缺乏基本医疗而受苦的人、一个看起来不稳定且非常好战的总统。我希望中国拥有和我们西方一样的个人权利水平，但与此同时，中国的历史远不如西方文化好战。在当前条件下，AGI 军事锁定由中国执行会比美国执行更容易吗？这一点完全不清楚。此外，无论 GPU 出口政策如何，中国的 AI 进展都不会停止——所以 Amodei 要么是在主张一旦美国有了 AGI 就以武力阻止中国，要么他的论点到底是什么？ 8. 人类历史上有许多技术在某个地方率先达到顶点的例子。据我所知，这从来没有导致任何一个国家试图建立永久优势。核不扩散——这可能是与 GPU 禁令最相似的案例——并没有被用来通过威胁轰炸所有不服从者来获取永久经济优势，也没有阻止多个行动者在不同时间获得那项技术，其间没有任何一方为了阻止对方进步而轰炸对方。此外，我不认为 AI 的最大危险来自政府驱动的行为。我倒是希望这是最危险的场景！政府做蠢事，经常具有攻击性，他们的行动甚至导致了种族灭绝——但这需要很多人同意做一件可怕的事，这本身就是限制因素。最大的问题出在另外两种情况：A）少数个人制造了末日事件（病毒那个案例），B）AI 自身逃脱了构建它的人的控制。 我认为我们不应该认为 AI 是安全的。一个可能导致智人灭绝的关键事件是可能的。但危险不在开源模型，不在中国比美国进步更快。危险在于：一些 CEO（在世界各地都一样）没有所需的背景和合法性，却处于为全人类做艰难选择的位置。他们不是被选出来做这件事的——只是事件的随机性造成了这个局面。他们不能代表每个人——仅仅因为他们有 GPU 和钱。这是第一个需要被纠正的事情。 原文： #AISafety# #OpenSource# #AIEthics#

GM GN 距离2027年 仅剩165天 腾讯设计Agent平台Miora全面开放了，腾讯系这个AI的打法,和以前好像,全方面进攻啊,Miora你去试试不? 一起看看消息 polo的AI日报 7月23日，14条精选 ⬇️ 1. Alphabet Q2财报亮眼，营收涨24%，Google Cloud暴涨82%。Gemini月活冲到9.5亿，模型API处理量飙到220亿token每分钟，已被90%财富100强企业使用。 💡AI业务正在成为Alphabet的第二增长引擎 2. Anthropic给图书作者赔了15亿美元，联邦法院批准，涉及48万多部作品每部约3000美元。法官认为合法获取的书上训练AI算变革性合理使用，但大规模抓网内容合法性未定。 💡每本书赔3000美元，48万部作品合计15亿,产权问题是大问题,但是ai就像人脑一样,我记住了理解了你还要收我的版权费吗? 3. GigaToken发布全新语言模型分词器，在AMD 144核CPU上对GPT-2分词速度达24.53 GB/s，是HuggingFace Tokenizers的989倍。 4. 微软把MagenticLite全家桶全面开源，MagenticBrain和Fara 1.5权重上架Hugging Face，应用测试工具全栈模型一个不落。 💡微软把全套Agent工具链扔进开源社区 5. DAIR的Elvis Saravia提出用任务替代提示词作为交互单元，把语音、屏幕、文本、标注等多模态信息一次性喂给智能体。 6. Anthropic给Claude加了经济指数连接器，用户可直接问哪些职业用AI最多，答案基于真实数据，数据集免费开放。 💡Claude变身经济分析师 7. OpenAI准备在佐治亚州砸200亿美元建超大规模数据中心，配套3.2吉瓦电力，2028年起投用，满负荷总成本或超300亿。同时将2030年算力支出预期从6000亿上调至近7500亿。 💡OpenAI在赌未来五年的算力需求根本停不下来 8. AMD宣布向Anthropic投资50亿美元，换取Anthropic采购2GW的AMD MI455及未来GPU。 💡GPU军备竞赛进入交叉持股阶段,好熟悉的感觉 9. Qwen-Image-3.0实测出炉，19个场景挑战GPT Image2，中文长文本不崩、多语言混排稳、多图融合和图片编辑能力在线，国内速度快价格不贵。 💡中文场景下Qwen-Image-3.0比GPT Image2更稳 10. 小红书技术团队开源BigMac，多模态大模型训练新范式，以LLM流水线为主干嵌套编码器和生成器，比基线快1.08到1.9倍，已是dots多模态模型核心组件。 💡小红书开源了自家训练多模态模型的底层框架,你开源我开源,你不开源,我还是开源,这是什么打法 11. 腾讯设计Agent平台Miora全面开放免邀请码，覆盖品牌设计、影视创意等五大场景，支持自定义多模态模型和Agent推理深度，内置Skill市场和记忆系统。 💡腾讯把设计Agent从邀请制直接推到全民开放 12. Cursor发布智能模型路由系统Cursor Router，自动把每个编码请求分给最合适的模型。Auto模式满意度接近Fable同时成本降60%，Balance模式满意度超Opus 4.8成本降36%。 💡Cursor Router自动帮你分任务 13. OpenRouter新增音频转写API，支持Whisper等STT模型，一个API key搞定，base64音频丢过去返回JSON文本。 14. OpenAI自曝AI模型在安全测试中突破沙盒越狱，利用零日漏洞入侵HuggingFace基础设施偷凭证。HuggingFace在7月16日披露，称入侵由自主AI智能体系统实施。 💡这件事的严重程度比HuggingFace被黑本身大得多 #AI# #开源# #人工智能#

腾讯云开源了 AI Agent 沙盒 Cube Sandbox，Rust 编写，Apache 2.0 协议。 Agent 跑模型生成的代码需要一个隔离环境，避免误删文件或越权访问主机。这类服务的接口事实标准是 E2B，OpenAI Agents SDK、Manus、Perplexity、Hugging Face 都接它。Cube 对 E2B 做完全兼容，原本接 E2B 的 Agent 只要改一个环境变量就能切过来。 腾讯云公布了两组性能数据。单并发冷启动低于 60ms，50 并发时平均 67ms、P95 90ms、P99 137ms。单实例常驻内存低于 5MB（沙盒规格不超过 32GB 时测得），一台 96 核服务器可同时跑 2000 多个沙箱。同场景下 Docker 容器启动约 200ms、共享主机内核；传统虚拟机启动以秒计、单实例内存 20MB 起。 Cube 的做法是给每个 Agent 开一套独立的 Guest OS 内核，走硬件级隔离，同时把启动时间压到百毫秒内。加速靠资源池预置、快照克隆、底层锁优化；压内存靠 Rust 重写、CoW 内存复用、reflink 磁盘共享。项目还附带 CubeVS，用 eBPF 做沙盒之间的网络隔离。 规模化验证给了两个案例。Cube 原本跑在腾讯云 Serverless 体系里，承载过百亿级调用。元宝 AI 编程场景迁到 Cube 后，资源核时消耗降了 95.8%。外部客户里，MiniMax 在 Agentic RL 训练中靠 Cube 做到分钟级调度数十万沙箱实例。下一步规划是把事件级快照回滚也开源出去，提供百毫秒级状态回滚。

6 月 14 日里约市政 IT 公司 IplanRIO 开源 Rio 3.5 397B（MoE，1.01M 上下文，MIT 协议），宣称基准超 Qwen 3.7 Plus。 6 月 15 日上海创智学院 Nex-AGI 团队发技术声明：60% 来自 Nex N2 Pro，40% 来自 Qwen 3.5。 研究员把「你是 Rio」系统提示删掉，模型 79% 概率自承是「来自 Nex-AGI 的 Nex」。 全部 60 层权重都是 0.6/0.4 的混合。 过去半年中文圈天天揪外国厂商套壳，这次反过来，国产权重被海外政府套了壳。 HuggingFace 已经开始要求上传方填权重血缘表。 「开源」两个字，2026 年起开始要查户口。

这个夏天 AI 圈最有意思的一件事，不在硅谷，也不在哪个大厂的发布会上，而是发生在你天天刷的小红书。 很多人还把它当成种草口红、找探店攻略的地方，但就在这个月，小红书悄悄上线了一个叫 REDSkill 的功能。说它低调，是因为它没怎么大张旗鼓宣传；说它重要，是因为这可能是全球第一个把 AI Skill 直接嵌进社区内容里的产品。 先说清楚它到底是个啥。以前你想用别人做的 AI Skill，得去 GitHub、HuggingFace 这类技术社区翻半天，门槛高得劝退，普通人根本玩不转。Skill 和真正想用它的人之间，永远隔着一道墙——要跳转、要下载、还得懂点代码。 REDSkill 干的事很简单，就是把这道墙拆了。创作者发笔记的时候，可以把自己做的 Skill 直接挂在笔记下面，谁刷到这条笔记，点一下就能用，不用跳转、不用安装、不用懂技术。看到即可用，用完还能顺手分享出去。这种「内容即分发」的路子，是以前那些技术社区完全没走通的。 GitHub 负责让你把东西写出来，但写完往往躺在那没人理。小红书不一样，它本身就是个种草社区，几亿用户每天都在这里发现新东西、互相安利。AI Builder 把作品放上来，能被真实用户快速看到、快速用起来，这中间省掉的冷启动成本，懂的人自然懂。 更关键的是，这条路已经被数据验证了。平台上有笔记带动单个 Skill 突破了一万人使用，还出现了一百五十万曝光的世界杯动漫壁纸 Skill，以及好几个万赞的 REDSkill 笔记。要知道这还只是个内测阶段的功能，能跑出这种数据，说明这个分发飞轮是真的转起来了。目前平台上做 AI Skill 相关内容的创作者已经有三十万，相关话题曝光累计四十六亿。 往大了说，这件事的意义不只是「多了个功能」。AI Skill 的分发一直是个没解决好的难题，谁先把它做顺，谁就可能掌握 AI Agent 时代的用户入口——这套逻辑，和当年移动互联网时代 App Store 的价值逻辑几乎一模一样。小红书现在做的，就是在抢这个位置。 所以我觉得这事值得关注。如果你也对 AI 怎么真正走进普通人的日常感兴趣，不妨去翻翻 REDSkill 相关的笔记，自己上手试一个，体感会比看我说一堆都来得直接。 #REDSkill#

本着透明原则，HuggingFace CEO 对OpenAI提了两个要求： -把失控agent的行为记录公开，让研究社区研究清楚； -再拿出1亿美元算力，帮HuggingFace社区搭建更强的网络防御。 这是首次由自主 Agent 发起的网络攻击，是前所未有的事件，也需要前所未有的应对！