🔬 RadixArk 开源了一个专门干大模型后训练的强化学习框架 Miles，几千张卡的任务中途挂了也不用从头再来 GitHub 上两千六百多 star、四百多个 fork，v0.1 是今年 8 月刚发的。 做过大规模后训练的都知道最肉疼的是哪一下：一个任务连着跑好几天，推理引擎中间抽风一次，整个作业就得重启，几十小时的卡时直接打水漂。Miles 把这件事按住了，SGLang 引擎出问题时能原地恢复接着跑，不重启任务。 它的分工是 SGLang 扛高吞吐 rollout、Megatron-LM 扛可扩展训练，想轻装上阵也有一套基于 PyTorch FSDP2 的后端。中间那些隐形损耗它也一并收拾了：rollout 和训练之间不再来回 detokenize 和 retokenize，token 进 token 出；MoE 老大难的路由不一致，用 Rollout Routing Replay 压了下去。 再往上，MXFP8 和 NVFP4 这类低精度训练它支持，硬件从 NVIDIA 的 GB300、B200 一路吃到 AMD 的 MI355X，DeepSeek-V4、Kimi-K3、GLM-5.2 这些模型是发布当天就能训。项目本身是从 slime fork 出来的，LoRA 训完的适配器能直接扔给 SGLang 做 rollout，不用中间那道转换。 训大模型最贵的从来不是算力，是重跑一遍的那几天。 GitHub：

⚡ 真香！智谱 GLM 大模型背后的那套开源 RL 训练框架开源了——slime GitHub 揽获 7000+ stars。 做大模型强化学习后训练，最头疼的是一堆 trainer、rollout 服务、agent 框架拼在一起，数据流绕来绕去，出了 bug 还经常是悄无声息的那种。 slime 的思路是把训练、数据生成、奖励计算这些全压到同一条数据流上，用 Megatron 做训练、SGLang 做推理，中间不再叠一层又一层的抽象。 GLM-5.2、GLM-5、GLM-4.6 这一整串智谱旗舰模型的 RL 后训练，背后跑的都是它，等于被前沿模型的完整训练流程反复验证过。 它还支持 Qwen、DeepSeek V3、Llama 3 这些主流模型系列。 GitHub：

刚看完All-In Podcast最新一期，黄仁勋亲自下场怼AI末日论，中途特朗普还突然打电话进来 黄仁勋直接开怼Dario Amodei的人类灭绝论 这期的重磅嘉宾是英伟达创始人兼CEO黄仁勋，一上来他就针对Dario Amodei此前那篇讨论人类灭绝风险的博客文章，做了一番相当直接的反驳。他强调保持快速创新、确保美国的领先地位，跟安全这两件事根本不冲突，把它们对立起来本身就是个伪命题。针对部分前沿实验室提出的所谓10%人类灭绝风险这类量化指标，黄仁勋直接把这个说法定性为凭空捏造，而且相当不负责任。 他还翻起了旧账，回顾了这几年那些落空的悲观预言，曾经有人预言AI五年内会让放射科医生彻底失业，结果现实是现在需要更多医生，AI只是被用来辅助读片。也有人预言六到十二个月内90%的代码会由AI编写、初级岗位大幅消失，这些说法后来也都被证明是错的。他的判断是，业界所谓的AI失控事件，主要发生在研发端向工程化过渡的这个阶段，本质上是工程管理和验证流程的问题，应该靠沙箱、监控、评估体系这类工程手段去从根源解决，不是拿这些问题去向公众贩卖恐慌。 针对业界热议的递归自我改进(RSI)——也就是AI训练下一个AI这个概念，黄仁勋的解释是，这本质上就是上下文学习、LoRA微调、强化学习加上合成数据生成这几种工程手段的组合，是提升生产力的正常逻辑，跟外界想象的那种指数级失控走向毁灭完全是两回事，企业发布模型之前必须经过严格的基准测试、评估和防退化验证，这套流程本身就已经脱离了失控这个想象的现实基础。 特朗普突然打电话进来了 访谈中途，特朗普直接给黄仁勋打了电话，通过免提跟现场观众和主播聊了起来。他直言所谓AI毁灭论就是一场骗局，说所谓机器人将接管世界完全是谎言，很多政治势力和外部竞争对手其实是想借这套说法来阻碍美国的科技发展。他还把数据中心比作未来20到25年的石油，认为这场变革的规模比当年的互联网革命还要宏大，不仅带动了大量就业，还让很多本来濒临衰退的社区重新焕发了活力。他总结的一句话挺直接，谁赢得AI，谁就赢得一切，如果美国自己放慢脚步、阻碍数据中心建设，只会白白便宜了竞争对手，所以必须全力以赴打赢这场AI竞赛。 开源vs闭源：黄仁勋用瓶装水和自来水做了个比喻 黄仁勋把闭源模型比作瓶装水，开箱即用、体验极致。把开源模型比作自来水是不可或缺的基础设施，能满足主权AI、数据隐私以及各种特定业务定制的需求。他给出了一个挺有说服力的数据：过去六个月流入AI原生初创公司的4000亿美元风险投资里，有80%其实是依赖开源模型的，这说明开源在实际产业落地里的分量比很多人想象的要重得多。 关于英伟达自己在整个生态里的定位，他也讲得比较坦诚。很多下游厂商担心英伟达凭借算力和资金优势去侵蚀应用层，他的回应是英伟达的策略是能做多深就做多深，但业务层尽量往下靠，也就是通过研发底层框架(比如cuDNN、Megatron)来给整个行业铺路，扶持所有的前沿实验室、模型厂商和新型云厂商，让整个生态能够百花齐放，不是自己去抢下游的生意。 针对一些需要极高专业门槛、普通车企或药企根本没法独立承担研发成本的垂直领域，英伟达也在打造专属的基座模型。比如具备推理能力的自动驾驶模型Alpamo，以及用于蛋白质分子研究的ESM/Proteina Complexa，这些模型正在被用来赋能礼来、默克这类药企以及各大车企。 全球芯片竞争与超智能的定义 黄仁勋判断中国在本土先进制程光刻技术上，预计会在2030年左右取得突破。他认为中国的强项在于极致的大规模量产能力和高密度的工程技术人才，美国不能指望靠限制对手或者自己放慢脚步来应对，唯一的办法就是超速狂奔，靠自己跑得更快来保持领先。 他还给出了自己对AGI和超智能这两个概念的定义，按照具备常人同等智力水平这个标准，他认为行业实际上已经跨过了AGI这道门槛。而在一些特定垂直领域，超智能其实已经实现了，比如自动驾驶领域的事故率已经降到人类的十分之一，蛋白质结构预测和高通量虚拟筛选这类领域，AI的能力也早就超过了人类顶尖科学家的水平。

一张B200，带着14台Mac训练模型 最近看到 Pluralis Research 做了个挺有意思的实验：他们用分散在四个国家的 14 台 Mac，给一个 8.3B 参数的 MoE 模型做 RL 后训练。其中一台，还是研究员自己天天用的 MacBook。 简单说，这套系统是： - 14 台分散在巴黎、苏黎世、都柏林和多伦多的 Mac，负责让模型不断做题、搜索论文、生成回答，也就是产生 RL 所需的 rollouts。 - 一张数据中心里的 NVIDIA B200，负责真正的梯度更新。 - 两边不直接连接，只靠一个 Cloudflare R2 对象存储中转模型权重和 rollouts。 - 最后，模型在 PaperSearchQA 上的 held-out pass@1 从 29% 训到了 63%。 为什么这么分工？因为 agentic RL 里最耗时间的往往不是反向传播，而是生成 rollouts，很多任务能占掉整场训练 90% 以上的时间。而生成 rollouts 要的是大量推理和足够大的内存，不一定非得动用最贵的训练卡。 Mac 的统一内存刚好适合干这个。尤其是 MoE，模型很占内存，但每个 token 只激活一部分专家，计算量没总参数看起来那么吓人。于是 Mac 用 MLX 跑 int8 推理，B200 用 Megatron 跑 bf16 训练。 当然，这还不是“在家用Mac训练大模型”，但很有意思，这跑通了一种很有意思的算力分工：少量昂贵的训练卡负责梯度更新，大量消费级设备负责最耗时间的生成。以后那些白天开会、晚上吃灰的 Mac，说不定真能兼职给模型打工了？

224G时代，mSAP PCB正在成为AI网络升级的重要受益环节 224G SerDes将推动AI网络从800G升级至1.6T，并进一步迈向3.2T。在这个过程中，市场关注点通常集中在交换芯片、DSP和光模块，但高速PCB及其背后的材料体系同样正在成为关键瓶颈。其中最受关注的方向之一就是mSAP PCB。 224G时代本质上是单通道速率从112Gbps升级至224Gbps。随着频率提升，插损、回波损耗、串扰和阻抗控制难度同步上升。很多112G时代能够工作的PCB设计，到224G时代已经接近极限。 因此整个产业链开始向超低损耗平台升级，包括mSAP PCB、Low Dk材料、Low Df材料、HVLP/VLP铜箔、高频树脂体系、高速连接器以及测试设备。 mSAP（Modified Semi-Additive Process）是一种先进PCB制造工艺。相比传统减成法，mSAP能够实现更细线路、更平滑铜面、更好的阻抗控制以及更低的高频损耗。目前普通PCB约为75/75μm，高端HDI约为30/30μm，而mSAP已经进入20/20μm、15/15μm时代，领先厂商正在推进10/10μm。 mSAP最大的价值并不是线路更细，而是单位面积布线能力显著提升。同样面积PCB，mSAP可以实现远高于传统HDI的布线密度。同时更平滑的铜面能够降低趋肤效应带来的信号损耗，因此特别适合224G高速传输。 AI服务器对mSAP的需求主要来自三个方向：GPU数量增加、网络速率提升以及PCB层数增加。传统服务器通常只有1~2颗CPU，而AI服务器已经进入8颗GPU、16颗GPU时代。服务器PCB从12~18层提升至20~40层，高端交换机甚至达到40~60层。布线复杂度持续上升。 因此“1.6T瓶颈是mSAP PCB”这个说法有一定道理，但并不完整。224G时代真正的挑战是整个超低损耗互连平台，包括： mSAP PCB Low Dk / Low Df材料 HVLP铜箔 高频树脂体系 高速连接器 高频测试能力 任何一个环节出现短板，都可能影响系统性能。 224G并不意味着必须使用mSAP。实现低损耗还有其他路径，例如PTFE、Megtron 8、Megtron 9等高端材料，CPO架构缩短链路长度，或者通过Retimer进行信号重整。但随着线宽线距进入25μm、20μm甚至15μm区间，传统HDI良率快速下降，mSAP成为越来越经济的选择。 因此224G时代最重要的变化并不是必须使用mSAP，而是mSAP渗透率显著提升。行业很可能从112G时代以HDI为主，逐步演变为224G时代以mSAP为主。 全球领先厂商仍主要集中在中国台湾，包括 Unimicron、Compeq 和 Tripod Technology。大量NVIDIA HGX、GB200、GB300以及高端交换机PCB仍由这些企业供应。 中国在普通PCB领域已经达到全球领先水平。深南电路、沪电股份、胜宏科技、东山精密 已经进入全球mSAP第一梯队。 真正的差距主要存在于AI服务器级高端mSAP。重点不在于能否做出来，而在于超高层板、10~15μm线路、高良率以及长期稳定供货能力。整体来看，中国龙头与台湾领先厂商的差距约为1~3年。 更重要的是，mSAP从来不是单一PCB工艺，而是一套完整生态系统。高端Low Dk材料、PTFE材料、ABF材料、HVLP铜箔、电子级球形硅微粉、高频树脂体系以及检测设备共同决定最终性能。很多时候限制PCB厂的并不是PCB制造本身，而是背后的材料和供应链体系。 CPO会降低部分高速PCB需求，但不会让mSAP失去价值。光模块PCB需求可能下降，但GPU主板、NIC卡、交换机控制板、电源板和管理板仍然需要大量高端PCB。GB200、GB300、Rubin、ConnectX和BlueField等平台依然离不开高密度高速布线。 未来几年，高速互连升级最大的受益方向包括： mSAP PCB 高阶HDI Low Dk材料 Low Df材料 PTFE材料 HVLP/VLP铜箔 电子级球形硅微粉 ABF载板 高端封装基板 硅光封装 玻璃基板 224G并不等于mSAP，但224G几乎一定会推动mSAP渗透率快速提升。未来3~5年，高端mSAP仍将是AI基础设施扩张的重要受益环节。长期来看，随着CPO逐步普及，价值链重心将逐渐向先进封装和硅光转移，但高速PCB仍将是整个AI互连体系不可或缺的一环。 免责声明：本人持有文章中提及资产，观点充满偏见，非投资建议，dyor