🔬 RadixArk 开源了一个专门干大模型后训练的强化学习框架 Miles，几千张卡的任务中途挂了也不用从头再来 GitHub 上两千六百多 star、四百多个 fork，v0.1 是今年 8 月刚发的。 做过大规模后训练的都知道最肉疼的是哪一下：一个任务连着跑好几天，推理引擎中间抽风一次，整个作业就得重启，几十小时的卡时直接打水漂。Miles 把这件事按住了，SGLang 引擎出问题时能原地恢复接着跑，不重启任务。 它的分工是 SGLang 扛高吞吐 rollout、Megatron-LM 扛可扩展训练，想轻装上阵也有一套基于 PyTorch FSDP2 的后端。中间那些隐形损耗它也一并收拾了：rollout 和训练之间不再来回 detokenize 和 retokenize，token 进 token 出；MoE 老大难的路由不一致，用 Rollout Routing Replay 压了下去。 再往上，MXFP8 和 NVFP4 这类低精度训练它支持，硬件从 NVIDIA 的 GB300、B200 一路吃到 AMD 的 MI355X，DeepSeek-V4、Kimi-K3、GLM-5.2 这些模型是发布当天就能训。项目本身是从 slime fork 出来的，LoRA 训完的适配器能直接扔给 SGLang 做 rollout，不用中间那道转换。 训大模型最贵的从来不是算力，是重跑一遍的那几天。 GitHub：

⚡ 真香！智谱 GLM 大模型背后的那套开源 RL 训练框架开源了——slime GitHub 揽获 7000+ stars。 做大模型强化学习后训练，最头疼的是一堆 trainer、rollout 服务、agent 框架拼在一起，数据流绕来绕去，出了 bug 还经常是悄无声息的那种。 slime 的思路是把训练、数据生成、奖励计算这些全压到同一条数据流上，用 Megatron 做训练、SGLang 做推理，中间不再叠一层又一层的抽象。 GLM-5.2、GLM-5、GLM-4.6 这一整串智谱旗舰模型的 RL 后训练，背后跑的都是它，等于被前沿模型的完整训练流程反复验证过。 它还支持 Qwen、DeepSeek V3、Llama 3 这些主流模型系列。 GitHub：

一张B200，带着14台Mac训练模型 最近看到 Pluralis Research 做了个挺有意思的实验：他们用分散在四个国家的 14 台 Mac，给一个 8.3B 参数的 MoE 模型做 RL 后训练。其中一台，还是研究员自己天天用的 MacBook。 简单说，这套系统是： - 14 台分散在巴黎、苏黎世、都柏林和多伦多的 Mac，负责让模型不断做题、搜索论文、生成回答，也就是产生 RL 所需的 rollouts。 - 一张数据中心里的 NVIDIA B200，负责真正的梯度更新。 - 两边不直接连接，只靠一个 Cloudflare R2 对象存储中转模型权重和 rollouts。 - 最后，模型在 PaperSearchQA 上的 held-out pass@1 从 29% 训到了 63%。 为什么这么分工？因为 agentic RL 里最耗时间的往往不是反向传播，而是生成 rollouts，很多任务能占掉整场训练 90% 以上的时间。而生成 rollouts 要的是大量推理和足够大的内存，不一定非得动用最贵的训练卡。 Mac 的统一内存刚好适合干这个。尤其是 MoE，模型很占内存，但每个 token 只激活一部分专家，计算量没总参数看起来那么吓人。于是 Mac 用 MLX 跑 int8 推理，B200 用 Megatron 跑 bf16 训练。 当然，这还不是“在家用Mac训练大模型”，但很有意思，这跑通了一种很有意思的算力分工：少量昂贵的训练卡负责梯度更新，大量消费级设备负责最耗时间的生成。以后那些白天开会、晚上吃灰的 Mac，说不定真能兼职给模型打工了？

224G时代，mSAP PCB正在成为AI网络升级的重要受益环节 224G SerDes将推动AI网络从800G升级至1.6T，并进一步迈向3.2T。在这个过程中，市场关注点通常集中在交换芯片、DSP和光模块，但高速PCB及其背后的材料体系同样正在成为关键瓶颈。其中最受关注的方向之一就是mSAP PCB。 224G时代本质上是单通道速率从112Gbps升级至224Gbps。随着频率提升，插损、回波损耗、串扰和阻抗控制难度同步上升。很多112G时代能够工作的PCB设计，到224G时代已经接近极限。 因此整个产业链开始向超低损耗平台升级，包括mSAP PCB、Low Dk材料、Low Df材料、HVLP/VLP铜箔、高频树脂体系、高速连接器以及测试设备。 mSAP（Modified Semi-Additive Process）是一种先进PCB制造工艺。相比传统减成法，mSAP能够实现更细线路、更平滑铜面、更好的阻抗控制以及更低的高频损耗。目前普通PCB约为75/75μm，高端HDI约为30/30μm，而mSAP已经进入20/20μm、15/15μm时代，领先厂商正在推进10/10μm。 mSAP最大的价值并不是线路更细，而是单位面积布线能力显著提升。同样面积PCB，mSAP可以实现远高于传统HDI的布线密度。同时更平滑的铜面能够降低趋肤效应带来的信号损耗，因此特别适合224G高速传输。 AI服务器对mSAP的需求主要来自三个方向：GPU数量增加、网络速率提升以及PCB层数增加。传统服务器通常只有1~2颗CPU，而AI服务器已经进入8颗GPU、16颗GPU时代。服务器PCB从12~18层提升至20~40层，高端交换机甚至达到40~60层。布线复杂度持续上升。 因此“1.6T瓶颈是mSAP PCB”这个说法有一定道理，但并不完整。224G时代真正的挑战是整个超低损耗互连平台，包括： mSAP PCB Low Dk / Low Df材料 HVLP铜箔 高频树脂体系 高速连接器 高频测试能力 任何一个环节出现短板，都可能影响系统性能。 224G并不意味着必须使用mSAP。实现低损耗还有其他路径，例如PTFE、Megtron 8、Megtron 9等高端材料，CPO架构缩短链路长度，或者通过Retimer进行信号重整。但随着线宽线距进入25μm、20μm甚至15μm区间，传统HDI良率快速下降，mSAP成为越来越经济的选择。 因此224G时代最重要的变化并不是必须使用mSAP，而是mSAP渗透率显著提升。行业很可能从112G时代以HDI为主，逐步演变为224G时代以mSAP为主。 全球领先厂商仍主要集中在中国台湾，包括 Unimicron、Compeq 和 Tripod Technology。大量NVIDIA HGX、GB200、GB300以及高端交换机PCB仍由这些企业供应。 中国在普通PCB领域已经达到全球领先水平。深南电路、沪电股份、胜宏科技、东山精密 已经进入全球mSAP第一梯队。 真正的差距主要存在于AI服务器级高端mSAP。重点不在于能否做出来，而在于超高层板、10~15μm线路、高良率以及长期稳定供货能力。整体来看，中国龙头与台湾领先厂商的差距约为1~3年。 更重要的是，mSAP从来不是单一PCB工艺，而是一套完整生态系统。高端Low Dk材料、PTFE材料、ABF材料、HVLP铜箔、电子级球形硅微粉、高频树脂体系以及检测设备共同决定最终性能。很多时候限制PCB厂的并不是PCB制造本身，而是背后的材料和供应链体系。 CPO会降低部分高速PCB需求，但不会让mSAP失去价值。光模块PCB需求可能下降，但GPU主板、NIC卡、交换机控制板、电源板和管理板仍然需要大量高端PCB。GB200、GB300、Rubin、ConnectX和BlueField等平台依然离不开高密度高速布线。 未来几年，高速互连升级最大的受益方向包括： mSAP PCB 高阶HDI Low Dk材料 Low Df材料 PTFE材料 HVLP/VLP铜箔 电子级球形硅微粉 ABF载板 高端封装基板 硅光封装 玻璃基板 224G并不等于mSAP，但224G几乎一定会推动mSAP渗透率快速提升。未来3~5年，高端mSAP仍将是AI基础设施扩张的重要受益环节。长期来看，随着CPO逐步普及，价值链重心将逐渐向先进封装和硅光转移，但高速PCB仍将是整个AI互连体系不可或缺的一环。 免责声明：本人持有文章中提及资产，观点充满偏见，非投资建议，dyor