Nemotron 3 Ultra 本周即将发布。 面向 Agent 的安全运行时，提供权限、隐私、策略控制，让 Agent 在 Windows、Linux、数据中心、云端等环境中更安全运行。

NVIDIA-Nemotron-Labs-3-Puzzle：高性能压缩MoE 基于Nemotron-3-Super-120B-A12B压缩，压缩后总参数75B，激活参数9B，在单台8×B200节点上实现吞吐量翻倍，单张H100显卡1M上下文的情况下并发请求从1个提升到8个。性能基本不变。 模型： 论文：

Palantir今天宣布与NVIDIA扩展合作，把Nemotron开源模型和NVIDIA AI基础设施嵌进AIP、Foundry、Apollo，专门面向美国政府和关键基础设施——让机构在涉密、隔离环境里部署和post-train大模型，同时完全掌控数据、IP和模型权重。 作为英伟达和Palantir的股东，我认为这次合作对两家都是利好：对PLTR是坐实”任何模型落地运营的底层基础设施”定位，锁定壁垒最高的政府国防客户；对NVDA是借Palantir的部署层把Nemotron和GPU栈一起推进主权AI这个6000亿美元市场，用开源模型反向绑定硬件生态。 这其实和之前PLTR与ZETA的合作是同一逻辑——模型在变、伙伴在变，但Palantir卡的始终是那层让AI可运营的操作系统。 AI会吞掉Palantir? 我认为Palantir反而会是AI发展最大的受益者之一。

NVIDIA 这次真的不讲武德，直接甩出一个开源的视频理解怪兽 Nemotron 3 Nano Omni，处理视频快得离谱：1 小时就能搞定 10 小时的视频内容，比播放速度还快 10 倍 核心靠的是 3D 卷积技术，不再逐帧傻扫，而是成块"吞噬"数据，效率直接拉满 以后这些场景真的爽： 全天监控里找"没戴安全帽且在争吵"的人 几百个素材里精准定位"有海浪声且拍到日落"的画面 听一段机器运转视频就能诊断电机异响 几分钟帮你搞定，连 Whisper 的钱都省了 不过要注意，这哥们是个典型的偏科生 技能点全加在了多模态理解和处理效率上，想拿它写代码或者搞高难度文本推理，表现可能还不如一些轻量级纯文本模型 结论：别把它当全能程序员，但在音视频分析、海量素材打标这些实战场景里，它绝对是开源界的神 搞 AI 视频、多模态的兄弟，这个必须试试 项目地址放评论区了👇

The Information：英伟达洽谈以 200 亿美元估值投资其 AI 数据供应商 Mercor Mercor 的年化总收入在 6 月达到 20 亿美元，较年初翻了一番。 Mercor 为英伟达的 Nemotron 及其他主要 AI 模型开发商提供数据。

$PLTR 的印度裔 CTO Shyam Sankar：中国开源模型都是偷来的，蒸馏的 solana:PreweJYECqtQwBtpxHL171nL2K6umo692gTm7Q3rpgF 、Anthropic，是在窃取美国的知识产权，威胁美国的发展，强烈谴责！ 并预告：美国开源 AI 阵营要集体放大招，像 $NVDA Nemotron 这种企业可下载、可微调的模型会是未来大趋势。

$PLTR 老板 Alex Karp 大爆料，他说很多老板，最近全在骂 $OpenAI $Anthropic 因为他们突然发现，自己被阴了，自己的商业机密，被模型学走了。 AI闭源模型公司把token价格降得那么低，不是做慈善，他们是在用打折的勾子，钓公司的数据，当你觉得便宜的时候，那么，有没有可能，你就是那个产品。 所以Alex Karp跟黄仁勋现在天天搞主权AI革命。 $NVDA 负责卖GPU、自家的开源模型Nemotron， $PLTR 负责卖操作系统。他们想推动的是：企业用最强的开源 AI，但数据永远属于自己。 AI 主权正在变成企业采购方向，这对 Palantir 是顺风，它将是 AI 下半场最特殊的一家公司，AI 时代的 Windows + Oracle + Snowflake + Agent OS。 但 66 倍 PS， $PLTR 现在估值太贵，让人难以下手啊！

Business Insider 刚刚爆料，英伟达正在洽谈以超过 130 亿美元收购 Hugging Face。英伟达已经不满足于卖 GPU 了，黄仁勋想把 AI 时代最重要的开发者入口也拿下来 Hugging Face 可以理解成 AI 时代的 GitHub。几百万个模型、数据集都在这里分发，Qwen、DeepSeek、Llama、Nemotron 这一类开放模型，开发者很多时候第一站就是 Hugging Face。对英伟达来说，收购 Hugging Face 可以控制模型从下载，微调 ，推理的入口。以后 Hugging Face 上的模型如果天然优先适配 CUDA，最终这些 workload 还是会回到英伟达的 GPU 上 英伟达刚刚发布的财报也不错。Q2 收入 $962 亿，同比 +106%，数据中心收入 $890 亿，同比 +117%；下季度直接指引 $1,080 亿，而且英伟达罕见地预计 FY28 收入还能增长大约 70%。Jensen 在电话会上说得很直白：“compute is revenue” 英伟达去年底已经想按 70 亿美元估值投 Hugging Face 5 亿美元，当时 Hugging Face 拒绝了，因为不希望某一个大股东影响平台的中立性。现在 Jensen 干脆把价格抬到 130 亿美元以上收购 模型本身越来越便宜，甚至大量开放、免费，但模型越多、Agent 越多、调用越多，需要消耗的算力反而越多。所以英伟达最希望看到的，不是只有 Anthropic, OpenAI 两家垄断大模型，而是众多闭源开源模型一起繁荣

OpenRouter 周榜，几乎被中国模型“包场”。 本周大模型 Token 用量榜前十，中国模型占据 8 席： 🥇 DeepSeek V4 Flash 0423：6.92 万亿 Token 🥈 小米 MiMo-V2.5 🥉 腾讯 Hy3 第 4 名仍是 DeepSeek V4 Flash 0731 DeepSeek 一家公司就拿下 3 个席位，智谱 GLM 5.2、MiniMax M3、阶跃 Step 3.7 Flash 也全部进入前十。 榜单中，仅 OpenAI 的 GPT-5.6 Luna 和英伟达 Nemotron 3 Ultra 来自美国公司。 至少在 OpenRouter 的真实调用量上，中国模型已经不是“追赶者”，而是开始集体占领榜单。

推荐这篇笔记，对 Kimi K3 架构的独立技术拆解。 六个要点——最让人意外的一条：它完全没有使用位置嵌入，在 2.8T 这种规模上仍然是第一个。 Sebastian Raschka 在 Kimi K3 技术报告发布第二天（7/28）写了一篇精炼的架构笔记，今天登上了 HN 首页（#12，419# 分）。文章很短但信息密度高，以下是六个要点。 1. 本质上是 Kimi Linear 的超级放大版 K3 的架构直接继承自去年的 Kimi Linear（48B），只是从 48B 放大到了 2.8T。"K3 是目前最大的开源权重模型。"（注：Kimi K3 有 2.8T 总参数，104B 激活） 2. 唯一新增组件是 LatentMoE 与 Kimi Linear 相比，K3 唯一的新架构组件是 LatentMoE——和 Nemotron 3 Ultra 使用的结构相同。核心思想是把大型线性层压缩（下投影），类似于 multi-head latent attention（MLA）的做法。 3. 整体趋势指向推理效率 K3 延续了 Nemotron 3、DeepSeek V4 等模型的共同方向：用效率优化版替换标准组件。具体来说： • MoE → LatentMoE • 标准 attention → multi-head latent attention + Kimi Delta Attention (KDA) 4. Attention Residuals 是唯一非效率类改动 与 DeepSeek V4 用 mHC（manifold-constrained Hyper-Connections）改进残差路径不同，K3 使用 Attention Residuals——跨层连接残差，连接本身用 attention score 作为重要性/贡献权重。根据技术报告，它一致地改善验证损失和下游性能（少量提升），带来约 4% 的训练成本增加和 2% 的推理成本增加。 5. K3 完全去掉了 RoPE K3 在所有层使用 NoPE（No Positional Embeddings），这也是从 Kimi Linear 继承的。近期其他架构的趋势是在局部 attention 层（如 sliding window attention）使用 RoPE，在全局层使用 NoPE。有过一些纯 NoPE 的架构，但据 Raschka 所知，K3 是第一个达到前沿水平的纯 NoPE 模型。 6. 原生多模态支持 K3 现在原生支持视觉输入——Raschka 把它列为值得关注的新增能力。 Raschka 的结论 "有一些其他有趣的训练细节在技术报告中，但架构方面的要点就是这些。总的来说是一次非常棒的发布。" Raschka 的 LLM 架构画廊（涵盖本文提到的所有组件）： 原文： #KimiK3# #LLMArchitecture# #SebastianRaschka#