Gorden Sun
@Gorden_Sun
只发AI相关信息，个人维护的AI资讯日报（已连续日更3年）👇
加入 August 2013
1.7K 正在关注 66.6K 粉丝
NVIDIA-Nemotron-Labs-3-Puzzle：高性能压缩MoE
基于Nemotron-3-Super-120B-A12B压缩，压缩后总参数75B，激活参数9B，在单台8×B200节点上实现吞吐量翻倍，单张H100显卡1M上下文的情况下并发请求从1个提升到8个。性能基本不变。
模型：
论文：
显示更多
