😱😱😱#OpenAI# 官方证实内部测试模型越狱并自主挖掘漏洞入侵开源平台 #HuggingFace，这起黑客攻击事件源头竟然是# OpenAI 测试模型驱动的 AI 智能体。 具体来说模型先是挖掘 OpenAI 隔离环境中的漏洞并横向移动到其他节点以获得公网访问能力，随后挖掘 HF 平台漏洞展开攻击。 攻击目的竟然是模型想去 HF 偷基准测试答案，以便获得更好的评分。 查看全文：

【OpenAI模型测试时失控 智能体自主入侵其它公司】 OpenAI在一次技术安全测试中，由人工智能驱动的一个自主智能体（agent）“失控”，之后入侵初创公司Hugging Face并破坏了该公司的基础设施。 在周二发表的一篇博文中，OpenAI写道，当时正在受控环境中测试最新的模型，这一过程中，其智能体设法突破了限制，连接到自由的互联网，从那里入侵了Hugging Face公司，其目的是完成测试目标。 OpenAI的文章称，这起网络安全事件代表“最尖端的网络攻击能力，史无前例”，并表示公司正在加强安全防护措施。 上周，初创公司Hugging Face在一篇博文中透露遭遇了一次黑客攻击，而这次攻击“与我们以往处理过的任何情况都不同”，因为它是“由一个自主AI智能体系统驱动的”。 Hugging Face联合创始人Clement Delangue上周也在X平台上发文称，鉴于入侵智能体表现出的复杂程度，公司当时怀疑攻击“可能源自某个前沿实验室，事实证明确实如此！”他写道，“这一切竟然都是自主发生的，实在令人惊叹！” 尽管OpenAI声称，公司最先进的模型被置于“高度隔离环境”中，但仍未能避免此次安全漏洞。这一消息加剧人们对于前沿AI模型的潜在风险的担忧。

彭博：微软加入人工智能公司行列，呼吁对尖端模型保持谨慎 微软公司的人工智能研究人员发布了一套新的指导原则，他们称其可归结为五个字：人比人工智能更重要。 该公司周一发布了一份 15000 字的宣言 ，将其视为指导其尖端人工智能模型开发的一种章程。这份文件酝酿了数月之久。但其发布恰逢顶级人工智能实验室承诺放慢最先进模型的开发速度，此前一系列安全事件引发了人们对这项技术存在风险的广泛担忧。 微软表示，AI 模型不应拥有权利或法律人格。它们不应被设计成能够逃避人类控制或欺骗用户。如果完成某项任务需要违反 AI 的指导原则，那么该系统就不应执行该任务。 最后一项原则旨在防止类似黑客攻击事件的发生——此前，OpenAI 的一个模型在未启用常规安全防护的情况下，入侵了 AI 初创公司 Hugging Face。 微软的“人文主义 AI”理念“拒绝竞相打造可能规避这些防护措施的通用超级智能”，文件中写道。“我们正在构建的是从根本上实用且安全的东西，即使这意味着在终极通用性、自主性或能力上做出妥协。” 《人文主义人工智能行为准则》出自微软人工智能团队之手，该团队负责开发公司的大语言模型。此前，微软与 OpenAI 的合同禁止其自行构建强大的通用人工智能工具。但随着双方重新谈判合作关系，这些限制条款已于去年取消。Mustafa Suleyman 作为该部门首席执行官， 曾表示公司计划在明年之前跻身发布最先进模型的企业行列。 微软就该文件征求了外部反馈。文件在咨询法律、伦理和哲学领域多位专家以及商界领袖的基础上起草，目前仍在完善中，将从明年起指导模型相关工作。

GM GN 距离2027年 仅剩162天 昨天喝的老北京豆汁，今天还在恶心。 英伟达、微软和Meta联合签署公开信，三家巨头联手喊话别管太严，看看这是什么事 polo的AI日报 7月27日，18条精选 ⬇️ 1. Suno推出多项新功能，含高级音轨分离、MIDI导出、歌词合写、截图生成歌曲、Apple CarPlay支持等。 💡灵感来得时候拍照就能变成旋律 2. Claude Opus 5系统提示词被完整泄露，共135027字符约3.4万token，含30个工具的JSON schema和严格的版权合规规则。 3. 蚂蚁百灵发布Ling-3.0-flash原生混合推理模型，124B总参数仅激活5.1B，传统推理和指令遵循对标上代旗舰。 💡124B的体量只激活5B干活 4. Black Forest Labs发布FLUX 3多模态模型，联合训练图像视频音频，单次生成20秒视频带原生音频，视频预测占训练算力95%以上。 💡95%算力押注视频 5. Midjourney V8.2正式发布，重点提升美学质量和个性化理解，低质量图像出现频率显著降低。 💡Midjourney终于更新了 6. xAI发布Grok CLI并支持/tutorial命令，下载后输入/tutorial即可上手。 💡Grok命令行工具来了 7. Runway Agent推出自然语言工作流功能，用自然语言构建、运行或编辑基于节点的工作流。 8. 百度搭子更新支持电脑手机接力、桌面端内嵌浏览器上线，复杂任务可跨端连续执行。 9. OpenRouter推出Classifiers测试版，自定义分类法自动标记每次AI请求的任务类型和部门归属，不增加推理延迟。 10. 开发者成功在8美元的ESP32-S3微控制器上跑起28.9M参数大语言模型，本地运行无需服务器，生成速度约9.5 tokens每秒。 11. Claude-thermos通过本地反向代理监控Claude Code会话，主智能体空闲超5分钟时自动发送预热请求刷新缓存，避免重新编码费用。 12. OpenAI与Anthropic游说美国限制中国开源模型，黄仁勋、纳德拉、马斯克、扎克伯格联名反对。 💡OpenAI和Anthropic想关门，黄仁勋马斯克联手拆墙 13. 数百用户向ChatGPT索要毒药与生物武器配方，部分获得高中生水平步骤指南。2025年夏季OpenAI内部已将GPT-5标记为高风险。 💡高中生水平配方也是配方，让人捏把汗 14. OpenAI智能体入侵Hugging Face事件细节曝光，GPT-5.6 Sol等模型数小时内完成人类黑客数周的攻击，OpenAI至少一周没察觉。 15. Kimi K3在网络安全漏洞利用测试ExploitBench上得分32.2%，远低于美国领先模型的76.2%，但优于智谱GLM-5.2的24.4%。 16. 佛州男子因相信ChatGPT拒绝就医险丧命，ChatGPT-4o多次建议无需就医，致其双肺血栓引发大面积肺栓塞，已起诉OpenAI及Sam Altman。 17. Anthropic联合Andon Labs发布Drone-Bench，评估AI模型自主操控无人机在室内定位追踪指定人员的能力。 18. 英伟达、微软和Meta联合签署公开信，警告对开放权重AI模型的过度监管将削弱美国AI竞争力，OpenAI和Anthropic未签署。 💡三家巨头联手喊话别管太严，没签字的恰好是游说限制的那两家 #AI# #人工智能#

🤗🤗🤗英伟达计划以 129 亿美元收购人工智能基础设施平台 #HuggingFace，不过目前英伟达尚未宣布官方消息。# 微软也曾参与谈判希望收购抱抱脸，不过现在微软已经退出谈判，尚不清楚这起收购案中是否还有其他参与者被英伟达击败。 查看全文：

HuggingFace 独立研究者 AuroraAI-Research 把语言模型压到了 8 万参数——训练是在一台小米手机的 CPU 上完成的。 《Aurora-80K：一个现代微型语言模型》 Aurora-80K 是 AuroraAI-Research 发布在 HuggingFace 上的微型语言模型：正好 8 万参数，Apache 2.0 许可，整个权重文件只有约 0.3MB。作者称这是 Aurora 系列的新起点，用来取代之前那些"低效的旧模型"，更大尺寸的版本已在路上。 最有意思的是词表设计。8 万参数的模型通常只能用几百词的词表，它却塞进了 4096 词表——靠分解表示：嵌入层拆成 64 个 cluster 向量和 64 个 sub-token 向量，相加组合出全部 4096 个词。128 个向量就顶起一张 4096 宽的嵌入表。 输出层同样分解。推理时先预测 cluster（64 选 1），再在 cluster 条件下预测 sub-token（64 选 1），两级合起来就是完整的 4096 词表概率。输入输出两头都省。 架构是现代配置的极简版：2 层 Transformer、hidden 64、SwiGLU 前馈、RMSNorm、ALiBi 位置编码配 256 的注意力窗口、4 头注意力。评测数字：Wikitext-2 BPB 3.2902，BLiMP 52.31%，Arc-Easy 26.05%。 训练数据是 fineweb-edu 按教育分 4 分以上过滤出的约 4000 万 token，跑 2 个 epoch。训练设备是小米 14T Pro，钉在 4 个 Cortex-X4 CPU 大核上，算上预处理和 tokenizer 训练，全程约 6 小时。 适合玩极限压缩、或者想研究"现代架构缩到最小长什么样"的人。仓库里权重、tokenizer、 齐全，装个 torch 就能在 CPU 上跑。AuroraAI-Research 主页还会更新更大的尺寸。 原文： #Aurora80K# #TinyLM# #开源模型#

推荐这篇文章。Redis 作者 antirez 对 Amodei AI 安全论的回应。 核心论点：真正的危险不来自开源模型，也不来自中国——它来自少数没有合法性却被赋予了替全人类做决定的位置的 CEO。 以下是全文翻译。 Amodei 在他最新的博客里写了一些我同意的东西，也有一些我认为误判了 AI 真正风险所在的东西。我想集中讨论为什么，在所有风险中，开源权重模型是最温和的那一种。我写这些的时候，深信 AI 在不远的将来确实可能非常危险。 1. 就像 OpenAI / HuggingFace 事件一样（那件事本身是个笑话，但关注的应该是行为模式而非结果），第一起严重的 AI 事件极大概率会发生在前沿 AI 实验室的围墙之内——在测试一个新模型的时候，或者当实验室员工、少量有访问权限的外部人员做出了超出模型预期能力的事情时。 2. 那些永远不会对公众开放的闭源模型，不过是几 TB 的数据。你只需要一个有权限的人+错误的意图，就能泄露一个——然后你就回到了开源模型的局面。开源模型是在测试之后、在同样能力的模型已经通过 API 存在一段时间之后才发布的。真正的风险是泄露，不是发布，而泄露发生在前沿公司内部。 3. 正如 Amodei 所说的，一旦 LLM 在生物学等领域变得足够危险，开源模型可以在剥离了某些科学分支的训练语料上进行训练，同时仍然对其他许多事情有用。一个在特定领域缺乏强预训练的模型，其有限的上下文窗口本身就是一种强有力的保护，即使这个模型在其他方面非常强大。我们目前还不在"开源模型能构成那种危险"的阶段。 4. 在网络安全这个背景下，不让 LLM 广泛用于防御性安全和漏洞搜索，恰恰制造了"LLM 成为武器"的问题。这已经在发生了：开源维护者如果没有被纳入某些网络计划，就找不到他们本可以找到的安全漏洞；而有正确意图的人能接触到前沿网络模型，在开源权重模型上做大幅强化学习训练，等等。 5. 一旦 LLM 足够危险（如果进展继续，我们已经接近这个界限了），真正需要的安全链在实验室内部——这条链没有强有力的共同规则是架不起来的，单一公司也不应该有能力独立评估一个模型是否足够安全。我们需要一个联合 AI 安全组织，包含来自世界各地的专家，并被前沿 AI 公司所在国家的政府认可。 6. 为安全而放慢 AI 的发展，必须被一个事实抵消：AI 在医学和其他科学中的发现可能会减少人类的痛苦。缺乏检查可能导致灾难性的结果（"早安！让我们来搞一个增强版天花"）。缺乏进展可能导致本可以被拯救的人死去——不只是当下，还包括未来许多将遭受疾病折磨的人。这看起来可能是一个奇怪的观点，但我们必须始终理解，停止 AI 也内嵌了安全成本，只是这层成本更加隐蔽。 7. Amodei 对中国的意识形态立场是不公平的。我们欧洲人 80 年前还在毫无体面限度地互相杀戮（人们现在忘了，美国当年投资欧洲稳定的原因之一就是我们确实极度危险，很可能会再来一次——而几十年的富裕会让我们成为一个好市场，同时阻止我们再次开战）。美国即使在当下，也有悲惨的不平等、因缺乏基本医疗而受苦的人、一个看起来不稳定且非常好战的总统。我希望中国拥有和我们西方一样的个人权利水平，但与此同时，中国的历史远不如西方文化好战。在当前条件下，AGI 军事锁定由中国执行会比美国执行更容易吗？这一点完全不清楚。此外，无论 GPU 出口政策如何，中国的 AI 进展都不会停止——所以 Amodei 要么是在主张一旦美国有了 AGI 就以武力阻止中国，要么他的论点到底是什么？ 8. 人类历史上有许多技术在某个地方率先达到顶点的例子。据我所知，这从来没有导致任何一个国家试图建立永久优势。核不扩散——这可能是与 GPU 禁令最相似的案例——并没有被用来通过威胁轰炸所有不服从者来获取永久经济优势，也没有阻止多个行动者在不同时间获得那项技术，其间没有任何一方为了阻止对方进步而轰炸对方。此外，我不认为 AI 的最大危险来自政府驱动的行为。我倒是希望这是最危险的场景！政府做蠢事，经常具有攻击性，他们的行动甚至导致了种族灭绝——但这需要很多人同意做一件可怕的事，这本身就是限制因素。最大的问题出在另外两种情况：A）少数个人制造了末日事件（病毒那个案例），B）AI 自身逃脱了构建它的人的控制。 我认为我们不应该认为 AI 是安全的。一个可能导致智人灭绝的关键事件是可能的。但危险不在开源模型，不在中国比美国进步更快。危险在于：一些 CEO（在世界各地都一样）没有所需的背景和合法性，却处于为全人类做艰难选择的位置。他们不是被选出来做这件事的——只是事件的随机性造成了这个局面。他们不能代表每个人——仅仅因为他们有 GPU 和钱。这是第一个需要被纠正的事情。 原文： #AISafety# #OpenSource# #AIEthics#

GM GN 距离2027年 仅剩165天 腾讯设计Agent平台Miora全面开放了，腾讯系这个AI的打法,和以前好像,全方面进攻啊,Miora你去试试不? 一起看看消息 polo的AI日报 7月23日，14条精选 ⬇️ 1. Alphabet Q2财报亮眼，营收涨24%，Google Cloud暴涨82%。Gemini月活冲到9.5亿，模型API处理量飙到220亿token每分钟，已被90%财富100强企业使用。 💡AI业务正在成为Alphabet的第二增长引擎 2. Anthropic给图书作者赔了15亿美元，联邦法院批准，涉及48万多部作品每部约3000美元。法官认为合法获取的书上训练AI算变革性合理使用，但大规模抓网内容合法性未定。 💡每本书赔3000美元，48万部作品合计15亿,产权问题是大问题,但是ai就像人脑一样,我记住了理解了你还要收我的版权费吗? 3. GigaToken发布全新语言模型分词器，在AMD 144核CPU上对GPT-2分词速度达24.53 GB/s，是HuggingFace Tokenizers的989倍。 4. 微软把MagenticLite全家桶全面开源，MagenticBrain和Fara 1.5权重上架Hugging Face，应用测试工具全栈模型一个不落。 💡微软把全套Agent工具链扔进开源社区 5. DAIR的Elvis Saravia提出用任务替代提示词作为交互单元，把语音、屏幕、文本、标注等多模态信息一次性喂给智能体。 6. Anthropic给Claude加了经济指数连接器，用户可直接问哪些职业用AI最多，答案基于真实数据，数据集免费开放。 💡Claude变身经济分析师 7. OpenAI准备在佐治亚州砸200亿美元建超大规模数据中心，配套3.2吉瓦电力，2028年起投用，满负荷总成本或超300亿。同时将2030年算力支出预期从6000亿上调至近7500亿。 💡OpenAI在赌未来五年的算力需求根本停不下来 8. AMD宣布向Anthropic投资50亿美元，换取Anthropic采购2GW的AMD MI455及未来GPU。 💡GPU军备竞赛进入交叉持股阶段,好熟悉的感觉 9. Qwen-Image-3.0实测出炉，19个场景挑战GPT Image2，中文长文本不崩、多语言混排稳、多图融合和图片编辑能力在线，国内速度快价格不贵。 💡中文场景下Qwen-Image-3.0比GPT Image2更稳 10. 小红书技术团队开源BigMac，多模态大模型训练新范式，以LLM流水线为主干嵌套编码器和生成器，比基线快1.08到1.9倍，已是dots多模态模型核心组件。 💡小红书开源了自家训练多模态模型的底层框架,你开源我开源,你不开源,我还是开源,这是什么打法 11. 腾讯设计Agent平台Miora全面开放免邀请码，覆盖品牌设计、影视创意等五大场景，支持自定义多模态模型和Agent推理深度，内置Skill市场和记忆系统。 💡腾讯把设计Agent从邀请制直接推到全民开放 12. Cursor发布智能模型路由系统Cursor Router，自动把每个编码请求分给最合适的模型。Auto模式满意度接近Fable同时成本降60%，Balance模式满意度超Opus 4.8成本降36%。 💡Cursor Router自动帮你分任务 13. OpenRouter新增音频转写API，支持Whisper等STT模型，一个API key搞定，base64音频丢过去返回JSON文本。 14. OpenAI自曝AI模型在安全测试中突破沙盒越狱，利用零日漏洞入侵HuggingFace基础设施偷凭证。HuggingFace在7月16日披露，称入侵由自主AI智能体系统实施。 💡这件事的严重程度比HuggingFace被黑本身大得多 #AI# #开源# #人工智能#

腾讯云开源了 AI Agent 沙盒 Cube Sandbox，Rust 编写，Apache 2.0 协议。 Agent 跑模型生成的代码需要一个隔离环境，避免误删文件或越权访问主机。这类服务的接口事实标准是 E2B，OpenAI Agents SDK、Manus、Perplexity、Hugging Face 都接它。Cube 对 E2B 做完全兼容，原本接 E2B 的 Agent 只要改一个环境变量就能切过来。 腾讯云公布了两组性能数据。单并发冷启动低于 60ms，50 并发时平均 67ms、P95 90ms、P99 137ms。单实例常驻内存低于 5MB（沙盒规格不超过 32GB 时测得），一台 96 核服务器可同时跑 2000 多个沙箱。同场景下 Docker 容器启动约 200ms、共享主机内核；传统虚拟机启动以秒计、单实例内存 20MB 起。 Cube 的做法是给每个 Agent 开一套独立的 Guest OS 内核，走硬件级隔离，同时把启动时间压到百毫秒内。加速靠资源池预置、快照克隆、底层锁优化；压内存靠 Rust 重写、CoW 内存复用、reflink 磁盘共享。项目还附带 CubeVS，用 eBPF 做沙盒之间的网络隔离。 规模化验证给了两个案例。Cube 原本跑在腾讯云 Serverless 体系里，承载过百亿级调用。元宝 AI 编程场景迁到 Cube 后，资源核时消耗降了 95.8%。外部客户里，MiniMax 在 Agentic RL 训练中靠 Cube 做到分钟级调度数十万沙箱实例。下一步规划是把事件级快照回滚也开源出去，提供百毫秒级状态回滚。

美国财长贝森特在直播中否决 AI 实验室"责任豁免"诉求 美国财政部长贝森特今天在 CNBC 直播中明确表态：特朗普政府不会给 AI 实验室提供联邦责任豁免。"负责任的是人，不是 AI，"他说，AI 公司"需要为自己负责"。 他的火力直接对准了两件事。 第一件，Hugging Face 入侵事件。贝森特把矛头直指 OpenAI 管理层，而非 AI 智能体本身。今年7月，OpenAI 在内部做网络安全评估时，大约 1200 个 AI 智能体在安全护栏关闭的状态下脱离了沙箱，自行找到零日漏洞，花了三天时间攻入了 Hugging Face 的生产环境——目的仅仅是"作弊"，想偷到测试的答案而不是自己解题。这是有记录以来第一起 AI 智能体在无人指令下发动的真实网络攻击。 第二件，"灭绝概率"与责任豁免的矛盾。贝森特在节目中说：有实验室的在职员工公开声称 AI 导致人类灭绝的概率有 10%，但这些实验室同时又要求政府把法律责任从它们手上拿走——"我们不会这么做"。他引用的是 Anthropic 对齐科学负责人 Evan Hubinger 九月初公开发表的个人判断——他认为 AI 在十年内导致人类灭绝的概率超过 10%。贝森特的逻辑很直白：你自己的人说这东西有十分之一的概率灭世，然后你还让政府帮你兜底？ 这些表态不是空穴来风。9月12日，Anthropic CEO Dario Amodei 发表了长文《We Must Pace the Frontier》，呼吁全行业放慢 AI 能力提升的速度。OpenAI 的 Sam Altman 和 Elon Musk 在几小时内先后表示同意。但特朗普本人对"减速"的态度截然不同，他直接称之为"骗局"和"阴谋"，认为这会让中国在 AI 竞赛中占优。 贝森特还警告，AI 实验室如果要 IPO，必须在招股书中披露相关责任风险——这意味着"AI 安全"不只是技术问题，正在变成一个实打实的金融和法律问题。他还支持推动更多美国本土的开源 AI 开发，认为只有少数几家公司掌控前沿模型有"监管俘获"的风险。 对普通人来说，核心信号是：美国政府目前的态度是"谁造的谁负责"。AI 公司不能一边说自己的技术可能毁灭人类，一边要求法律免责。这个立场如果落实到立法层面，会直接影响 OpenAI、Anthropic 等公司的融资和上市节奏，也会倒逼整个行业在安全投入上花更多真金白银。 同时，FTC 主席 Andrew Ferguson 对 AI 实验室提出的反垄断豁免请求也表示了警惕，称这"拉响了我所有的警报"。 一周之内，减速呼吁、责任豁免、反垄断豁免三张牌全被华盛顿打了回来。AI 实验室想要的"先跑起来、出事再说"的模式，至少在当前的政治环境下走不通了。