檢索結果 Nemotron
Nemotron 貼吧
一個關鍵字就是一個貼吧，路徑全站唯一。
用戶
未找到
包含 Nemotron 的搜尋結果
Nemotron 3 Ultra 本周即将发布。
面向 Agent 的安全运行时，提供权限、隐私、策略控制，让 Agent 在 Windows、Linux、数据中心、云端等环境中更安全运行。
顯示更多
NVIDIA-Nemotron-Labs-3-Puzzle：高性能压缩MoE
基于Nemotron-3-Super-120B-A12B压缩，压缩后总参数75B，激活参数9B，在单台8×B200节点上实现吞吐量翻倍，单张H100显卡1M上下文的情况下并发请求从1个提升到8个。性能基本不变。
模型：
论文：
顯示更多
Palantir今天宣布与NVIDIA扩展合作，把Nemotron开源模型和NVIDIA AI基础设施嵌进AIP、Foundry、Apollo，专门面向美国政府和关键基础设施——让机构在涉密、隔离环境里部署和post-train大模型，同时完全掌控数据、IP和模型权重。
作为英伟达和Palantir的股东，我认为这次合作对两家都是利好：对PLTR是坐实”任何模型落地运营的底层基础设施”定位，锁定壁垒最高的政府国防客户；对NVDA是借Palantir的部署层把Nemotron和GPU栈一起推进主权AI这个6000亿美元市场，用开源模型反向绑定硬件生态。
这其实和之前PLTR与ZETA的合作是同一逻辑——模型在变、伙伴在变，但Palantir卡的始终是那层让AI可运营的操作系统。 AI会吞掉Palantir? 我认为Palantir反而会是AI发展最大的受益者之一。
顯示更多
NVIDIA 这次真的不讲武德，直接甩出一个开源的视频理解怪兽
Nemotron 3 Nano Omni，处理视频快得离谱：1 小时就能搞定 10 小时的视频内容，比播放速度还快 10 倍
核心靠的是 3D 卷积技术，不再逐帧傻扫，而是成块"吞噬"数据，效率直接拉满
以后这些场景真的爽：
全天监控里找"没戴安全帽且在争吵"的人
几百个素材里精准定位"有海浪声且拍到日落"的画面
听一段机器运转视频就能诊断电机异响
几分钟帮你搞定，连 Whisper 的钱都省了
不过要注意，这哥们是个典型的偏科生
技能点全加在了多模态理解和处理效率上，想拿它写代码或者搞高难度文本推理，表现可能还不如一些轻量级纯文本模型
结论：别把它当全能程序员，但在音视频分析、海量素材打标这些实战场景里，它绝对是开源界的神
搞 AI 视频、多模态的兄弟，这个必须试试
项目地址放评论区了👇
顯示更多
$PLTR 的印度裔 CTO Shyam Sankar：中国开源模型都是偷来的，蒸馏的 solana:PreweJYECqtQwBtpxHL171nL2K6umo692gTm7Q3rpgF 、Anthropic，是在窃取美国的知识产权，威胁美国的发展，强烈谴责！
并预告：美国开源 AI 阵营要集体放大招，像 $NVDA Nemotron 这种企业可下载、可微调的模型会是未来大趋势。
顯示更多
OpenRouter 周榜，几乎被中国模型“包场”。
本周大模型 Token 用量榜前十，中国模型占据 8 席：
🥇 DeepSeek V4 Flash 0423：6.92 万亿 Token
🥈 小米 MiMo-V2.5
🥉 腾讯 Hy3
第 4 名仍是 DeepSeek V4 Flash 0731
DeepSeek 一家公司就拿下 3 个席位，智谱 GLM 5.2、MiniMax M3、阶跃 Step 3.7 Flash 也全部进入前十。
榜单中，仅 OpenAI 的 GPT-5.6 Luna 和英伟达 Nemotron 3 Ultra 来自美国公司。
至少在 OpenRouter 的真实调用量上，中国模型已经不是“追赶者”，而是开始集体占领榜单。
顯示更多
推荐这篇笔记，对 Kimi K3 架构的独立技术拆解。
六个要点——最让人意外的一条：它完全没有使用位置嵌入，在 2.8T 这种规模上仍然是第一个。
Sebastian Raschka 在 Kimi K3 技术报告发布第二天（7/28）写了一篇精炼的架构笔记，今天登上了 HN 首页（#12，419# 分）。文章很短但信息密度高，以下是六个要点。
1. 本质上是 Kimi Linear 的超级放大版
K3 的架构直接继承自去年的 Kimi Linear（48B），只是从 48B 放大到了 2.8T。"K3 是目前最大的开源权重模型。"（注：Kimi K3 有 2.8T 总参数，104B 激活）
2. 唯一新增组件是 LatentMoE
与 Kimi Linear 相比，K3 唯一的新架构组件是 LatentMoE——和 Nemotron 3 Ultra 使用的结构相同。核心思想是把大型线性层压缩（下投影），类似于 multi-head latent attention（MLA）的做法。
3. 整体趋势指向推理效率
K3 延续了 Nemotron 3、DeepSeek V4 等模型的共同方向：用效率优化版替换标准组件。具体来说：
• MoE → LatentMoE
• 标准 attention → multi-head latent attention + Kimi Delta Attention (KDA)
4. Attention Residuals 是唯一非效率类改动
与 DeepSeek V4 用 mHC（manifold-constrained Hyper-Connections）改进残差路径不同，K3 使用 Attention Residuals——跨层连接残差，连接本身用 attention score 作为重要性/贡献权重。根据技术报告，它一致地改善验证损失和下游性能（少量提升），带来约 4% 的训练成本增加和 2% 的推理成本增加。
5. K3 完全去掉了 RoPE
K3 在所有层使用 NoPE（No Positional Embeddings），这也是从 Kimi Linear 继承的。近期其他架构的趋势是在局部 attention 层（如 sliding window attention）使用 RoPE，在全局层使用 NoPE。有过一些纯 NoPE 的架构，但据 Raschka 所知，K3 是第一个达到前沿水平的纯 NoPE 模型。
6. 原生多模态支持
K3 现在原生支持视觉输入——Raschka 把它列为值得关注的新增能力。
Raschka 的结论
"有一些其他有趣的训练细节在技术报告中，但架构方面的要点就是这些。总的来说是一次非常棒的发布。"
Raschka 的 LLM 架构画廊（涵盖本文提到的所有组件）：
原文：
#KimiK3# #LLMArchitecture# #SebastianRaschka#
顯示更多
吴说获悉，比特小鹿（Bitdeer）发布了 2026 年 5 月的生产和运营更新报告显示，其自挖矿算力已达到 70.2 EH/s，5 月共挖出 921 枚 BTC ，同比增长达 370%。在硬件与技术研发方面，SEALMINER A4 系列矿机已成功进入量产阶段，制造良率表现强并已做好规模量产准备。此外，关于挪威 Tydal 站点的托管高密度 AI 数据中心（AIDC）租赁协议谈判已进入后期阶段；AI 模块化云业务方面，团队已成功部署 NVIDIA GB300 NVL72 集群以及 Nemotron 3 Nano Omni 模型。
顯示更多
美国国防部已与六家科技公司正式达成协议，包括OpenAI、Google、SpaceX、Microsoft、Nvidia以及初创公司Reflection AI，这些协议允许上述公司的AI模型和技术在机密环境中使用，标志着五角大楼大幅扩大对前沿AI工具的访问权限，用于支持军事行动和决策优势，果然还是把Anthropic给排除在外了。
此前，五角大楼因与Anthropic的合同纠纷，将其列为“供应链风险”导致Anthropic的Claude模型在国防工作中受限（此前主要通过Palantir的Maven平台用于数据挖掘）。这一“Anthropic风波”直接推动了上述新协议的达成。
Hegseth曾在国会作证时批评Anthropic创始人Dario Amodei为“意识形态疯子”，Anthropic目前正通过两起法律诉讼挑战这一禁令。
新协议细节包括：
1）OpenAI和SpaceX此前已有初步协议允许AI在“所有合法场景”中使用，此次完成协议后将更深入嵌入日常军事运营。
2）Nvidia协议聚焦其开源Nemotron模型，支持AI代理自主执行任务。
3）Reflection AI（由前Google DeepMind研究员创立，目前估值讨论中达250亿美元）同样涉及开源模型。
4）多数协议中，公司承诺AI工具不会用于大规模监控或自主武器；五角大楼则表示不会从事非法活动，并期待行业信任其负责任使用。
此外，Amazon正与五角大楼谈判类似协议；Microsoft凭借现有云基础设施和国防关系，也深度参与其中
官方称，这些协议加速了美军转型进程，旨在将美军打造为一支‘人工智能主导’的作战力量，并将增强美军在所有战争领域保持决策优势的能力。
AI已经是国家战略竞争的最核心最关键的环节了。
本条由@bitget_zh赞助，「Bitget 买美股：秒级入场，丝滑交易 」
顯示更多
Authropic跟五角大楼彻底闹翻，OpenAI试图补位，聊聊个人视角下这背后的逻辑。凌晨川普发文下令所有美国联邦政府机构立即停止使用Anthropic公司的的技术产品，并给予国防部等重度使用部门6个月过渡期逐步淘汰。紧接着五角大楼宣布将Anthropic列为国家安全供应链风险，相当于把这家美国公司放到类似外国高风险供应商的黑名单待遇：任何与美军有生意往来的承包商、供应商、合作伙伴立即禁止跟Anthropic开展任何商业活动。
1、核心起因
Anthropic与五角大楼签了价值约2亿美元的合同，Claude（特别是Claude Gov版本）是目前唯一获准在机密网络上运行的前沿大模型，主要用于情报分析、作战规划等。
但Anthropic坚持两条红线写入合同：
1）禁止用于对美国公民的大规模监控
2）禁止用于完全自主武器系统（即没有人类参与最终开火决策的杀伤链）
五角大楼要求修改为“任何合法用途”都可以用，等于把这两条红线拿掉。Anthropic CEO Dario Amodei公开表态“凭良心无法答应”，宁可丢合同也不妥协。然后在截止时间前1小时，川普先发飙宣布全面停用。
2、这次冲突的深层次逻辑
从个人角度并不只是单个商业公司跟政府机构在合作条款分歧，更是AI军用伦理冲突的白热化体现。这一冲突的核心在于私人AI公司试图通过合同条款维护伦理底线（如人类监督和隐私保护），而政府强调“所有合法用途”优先于任何道德约束。
这场冲突凸显国家安全需求凌驾于私人道德条款之上，这可能成为先例，导致未来AI合同中伦理限制（如对致命自主武器系统的“人类在回路”要求）被系统性移除。结果是AI在军用领域的“无限制”应用增多，增加误判风险（如AI模型不可靠导致的自主武器失控）
3、后续authropic会如何行动？以及其深远影响？
大概率会通过法律手段，去美国法院以违反《国防生产法》当然名义起诉川普政府及五角大楼。
Anthropic已表示将起诉，这场官司若败诉，将确立政府对AI供应商的强势控制权；
若胜诉，则可能强化公司谈判筹码，推动美国国会出台AI军用法规（如类似《国防生产法》的调整）。
长远看，这会影响AI对齐研究——如果军用模型被迫“去道德化”，可能放大系统风险，如模型行为不可预测或被滥用。
冲突本质上是“技术自治” vs “国家主权”的碰撞，长远可能重塑AI哲学——如果伦理让位于实用，AI将成为“工具化”战争的催化剂，增加全球不稳定（如AI辅助的网络战或情报滥用）。
反之，若引发更多公司效仿Anthropic，可能催生“伦理优先”的AI生态，类似于核不扩散的国际共识。
4、只是AI军用伦理冲突么？实则不然
早上财富杂志报道，Sam Altman 在周五的全员会上向员工通报了谈判进展，合同尚未签署。五角大楼接受了 OpenAI 提出的安全红线：不用于自主武器、不搞国内大规模监控、不做关键决策，而这些条件和 Anthropic 坚持的几乎一模一样。五角大楼把Authropic列为国家安全供应链风险。但换成 OpenAI 提同样的条件，国防部就欣然接受了。为何？
原因一：谈判姿态与灵活性不同
Anthropic坚持将红线写入合同作为法律强制性条款，拒绝“所有合法用途”的兜底语言，认为这等于开门让未来滥用Anthropic视此为“凭良心无法妥协”，直接硬刚最后通牒，导致谈判破裂。
OpenAI也坚持相同红线，但谈判更“务实灵活”：允许政府在合同中明确写入这些红线作为排除条款（exclusions），但同时强调OpenAI保留自己的“安全栈”控制权——包括技术防护、政策约束、人类监督层，以及模型拒绝任务时政府不得强制修改或绕过。同意部署限制在云环境，不进入边缘系统（如无人机、飞机等可能直接用于自主武器的硬件）。
Openai整体姿态是“合作前提下保留底线”，而非“底线高于一切合作”。
结果：国防部对OpenAI的方案表现出重大让步，Axios报道称“五角大楼已同意OpenAI的安全规则用于机密环境部署”，尽管合同尚未正式签署，但谈判已进入“潜在协议浮现”阶段。
而更深层原因：政治与关系因素
OpenAI及其高管（包括Altman、Brockman夫妇）向川普相关政治行动委员会捐款数千万美、也是共和党的大金主。
而Anthropic创hi人Dario是民主党赞助人，公开批评川普。这在川普眼里就是激进左翼的代表，所以川普发文提到打击激进左翼公司，捍卫军方权利等。
若OpenAI最终签成，这将强化配合型公司受益的先例：伦理红线可以有，但必须以政府能接受的方式呈现。反之，硬刚的公司可能被边缘化。同时公司以及创死人表现出来的政治站位也成了非常重要的考量。
5、后续会如何？
看authropic在这六个月过渡期内妥协程度，以及法律诉讼的进展。当然有可能整个法律诉讼过程周期会持续很长时间，六个月内很难见分晓。
如果authropic能学习openai妥协、更加灵活，还是有可能重新回归到国防体系的。毕竟Claude Gov是目前唯一能在Secret级机密网络上正式运行的前沿模型，突然要拔掉会造成能力缺口。国防部采用其他Ai大模型还要经过机密环境的适配，都需要时间。
本条由@bitget_zh 赞助，「Bitget 买美股：秒级入场，丝滑交易 」
顯示更多
#BuildInPublic#
开源了一个 AI 模拟引擎 SGO (语义梯度优化引擎）
在 AI 世界迭代产品或者功能，目前最最缺少的就是现实世界现实用户的反馈；这些反馈意见序列实际上构成了产品的演化路径。
然而用户（真人）反馈周期较长，且不能覆盖所有的情景。当下，我们常常让 LLM "假装"某一类用户得到一个近似的反馈，但这种反馈都是一个一个的数据点，完全取决于事先规划好了的角色。
SGO 采用的思路是： 用和人口普查对齐的合成数据来模拟真人用户。NVIDIA 开源了多个主权数据集，比如对于美国，Nemotron-Personas-USA 数据集里有一百万个基于美国人口普查数据生成的合成人物。不是那种 LLM 随便编的"有着三十年经验的工程师"，而是有完整背景的人——伊利诺伊郊区的建筑工人、德州农村的手工艺人、纽约的单亲妈妈等等。他们有各自的爱好、习惯、关注点。这些人的年龄、学历、职业、收入分布都跟真实人口一致。
SGO 的采样， 模拟和梯度计算框架可以让你直接从这些人里拿到反馈，周期大约 30 秒，LLM API 花费大约 $0.10。
使用方法也很简单：把要优化的东西贴进去，比如产品描述、融资 pitch、一则爆款文章等等（有一个用户甚至把他的约会 profile 放进去优化）。总之什么都行。
SGO 会很科学的帮你自动选择优化目标和目标受众。确定好以后，从这 100 万个有机数据人群中科学采样 (stratified sampling)、分类聚类、逐一询问反馈(contrafactual inquiry)、对照目标，逐一构建所谓的"语义梯度" （相当于目标对于各个变量的 Jacobian 矩阵）， 以及最终的汇总反馈和迭代方向。
代码开源，目前部署在 HuggingFace Spaces 上可以直接试用。 你可以把 SGO 作为 Skill 单独使用，也可以把它放在一个内循环里，和 auto-research 联合使用。
HF Space:
希望 SGO 和 auto-resesarch 结合，帮助大家优化那些跨越数字世界和现实世界的许多场景。
PS： 现有的跑通的场景
* 简历优化
* 商业计划
* App UX 设计
* 广告牌设计
* LOGO
* 网页的版式和颜色
* 约会档案
* 一个甜点屋的名字
顯示更多
