註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

晚点 LatePost
@latepostnews
AI|科技|商业 《晚点 LatePost》官方账号 晚一点,好一点
25 正在關注    15.7K 粉絲
大模型的数据生意:人类如何蒸馏自己 -当网上现成的文本越来越难满足训练需求,模型公司开始从人类的实际工作中收集数据。 2026 年初,中国模型公司开始行动,腾讯混元负责人姚顺雨直接管理混元数据团队;阿里将服务大模型的数据团队交给集团合伙人委员会成员范禹;字节在年中将 Seed 旗下 Global Data 团队升级为 AI 数据与安全部门,与 Seed 平行,服务所有大模型团队。 - 用户完成任务时留下的操作轨迹,成为模型训练最受重视的数据之一。一位互联网公司数据团队人士说,目前最迫切的需求是编程和工作两类。编程数据有两种用途:练习评测集中的题目,在排行榜上拿高分;或学习实际任务,比如开发游戏、搭建 3D 模型。据我们了解,需求最旺盛时,一些模型厂每天在编程数据上的投入可以超过 1000 万美元。 工作数据则要还原办公过程:从文件里找资料、读懂邮件中的要求和期限,再往表格里填数字、编辑文档、查询网页和数据库、调用工具。一位数据服务商创始人说,金融和法律行业的经济价值高,大量任务在线上完成、以 Office 文件交付,是比较理想的训练环境。 - 一条人工数据售价从几百元到上万元不等,一批通常至少 1000 条。海外报价的数字相近,单位则换成美元。一位 Seed 后训练团队人士说,员工为 AI 陪伴产品猫箱编写对话,用户说一句、模型回复一次算一轮。一条长数据有 100-200 轮,审核通过后报酬基本能上千元。参与者有编剧、文学创作者,也有审核和编辑人员。“有的人一个月就能拿上万元。”一位在 AI 数据平台兼职的法律行业人士说,她每月交付约 40 条数据,拿到 2 万多元,平均每条约 600 元。第一次做一条花了 75 分钟,熟悉后约半小时。 - 还有一些交易不在明面上。创业公司攒下一批模型厂商账号,转卖 API 调用服务,再出售调用产生的数据。另一些公司从模型公司内部人员手里买数据,转卖给同行;经手人可能在算法、工程、基础设施或采购岗位。部分交易靠回扣维系,单笔合同数百万元乃至上千万元,内部人员从中分成。“每天就像是在捡钱。” 一位数据供应商说。 - 模型公司很难全靠自己生产数据。外部供应商愿意一份数据卖多家。但大厂则普遍愿意支付 3-4 倍溢价,永久买断或限时独占。今天合格的训练数据,半年后可能只剩一成有用。等竞争对手能买到,价值已经不同了。 - 大厂高价买断数据,但买家仍得知道自己要什么。蚂蚁买金融数据时,会把一个投研报告类需求拆成上百个案例、十多个子类,写清每类多少篇、案例什么样。“做蚂蚁的项目很多时候是亏钱的。” 一位服务商说,细致的要求增加了交付难度。 - 在 DeepSeek,绝大多数员工从事数据相关工作。“梁文峰偶尔也会参与数据标记。” 一位 DeepSeek 人士说。姚顺雨接手混元后,重新清洗已有数据、迭代基础设施,让混元 3 Preview 明显超越前代;正式版再优化后训练数据、扩大强化学习规模,能力又有提升。 - 数据工作的重要性上升,但数据生产人员的收入不一定能跟着模型能力涨。一位头部互联网公司的研究员说,公司一支团队做了 1 万条数据,训练效果很好。很多参与者月薪只有 8000-9000 元,按 18 薪算,一年不到 20 万元。同一公司的算法人员,年薪包则在 1000 万元左右。效果上去了,奖励主要给算法团队;数据做得好坏,员工到手的钱差别不大。 - 最近一年,多个公司的后训练团队往往每一两个月就要发一个版本,研究员从早上 10 点半工作到深夜,休假也带着电脑。“本质上大家在技术路径、数据处理和质量上都拉不开代差,就看谁先发出来。” 一位后训练研究员说,“很多事拖个两三个月,做出来也没了意义。” - 为了加快训练,研究员开始让模型参与数据生产和研发。他们指挥模型批量收集、修改数据,再让更强的模型检查结果。OpenAI 披露,编程 Agent 已参与研究员的日常工作,包括写实验代码、跑测试和排查基础设施故障;Anthropic 也称,Claude 曾在约 2 小时内完成一项通常需要工程师两三天的故障排查和修复工作。 - 研究员把各行业专家的知识、经验和判断做成数据,训练模型接手他们的工作。现在,模型要学的,也包括研究员每天正在做的事。
顯示更多
0
11
89
12
轉發到社區
「Anthropic 招股书(下)」 这期我们从一级市场的角度来解读 Anthropic 在上周一(10 月 26 日)发布的 S-1 文件招股书。 在一级市场的讨论中,我们邀请了《晚点聊》的老朋友,Fusion Fund 创始合伙人张璐。过去 11 年,张璐一直在硅谷投资 to B 科技领域,她正好和 Anthropic 的主要客群有直接接触:Fusion Fund 在 2018 年建立了一个 CXO 网络,目前已有来自 40 多家全球大企业的 CTO、CIO。 她的观察可以帮我们看清一系列需求端的关键问题:即实际上,那些使用 AI 和 token 的企业客户,是什么心态?他们用 AI 来做什么?是否已经验证了回报?哪些具体企业场景有新的增长机会?
顯示更多
「Anthropic 招股书(上)」 今天我们一次发了两期节目,分别从一级市场和二级市场的角度来解读 Anthropic 在上周一(10 月 26 日)发布的 S-1 文件招股书。 在二级市场的讨论中,我们邀请了 Amont Partners 的管理合伙人 Rob Li(李肇宇),他长期在华尔街从事主观投资,先后任职于摩根士丹利和 Slate Path 等机构,2023 年创立了自己的基金。在 AI 算力层有长期持仓。 我们详细拆解和讨论了 Anthropic 招股书中的信息,包括收入增速下滑、客户集中度改善、客户增购情况和长期算力支出承诺。 虽然 Rob 本人在 AI 算力上游有持仓,但他认为关键问题是下游需求,而非供给端。我们也讨论了,如果需求不及预期,这一轮因 AI 资本开支而产生的债务周期会如何演变。
顯示更多
杨天真和前阿里投资人蒋珊珊,合伙做了一只新基金 壹心娱乐创始人,娱乐圈的杨天真,和前阿里巴巴前沿科技投资负责人,投资圈的蒋珊珊,两人共同创立了风险投资机构赫励资本(Helios Venture),投资方向为 AI、具身智能、核聚变、脑机接口等前沿科技领域。基金出资人覆盖了头部互联大公司以及 AI、具身、脑机公司等。 分工上,蒋珊珊主导投资,杨天真负责投资人关系、内容和影响力建设。 两人的合伙创业起于一次请教。蒋珊珊通过朋友找到杨天真,想了解怎样为新基金建立影响力。杨天真一直对投资感兴趣,主动提出两人可以一起做基金。 杨天真从艺人宣传与经纪起步,2014 年创办壹心娱乐,此后涉足大码女装、短视频、直播和播客。她把经纪工作也理解为一种投资:投入时间、精力和资源,发现有价值的人,帮助他们成长、扩大影响力。做一只新基金,是杨天真继娱乐经纪公司后个人投身的新板块,与之前的业务没有关联。 蒋珊珊 2018 年加入阿里,曾任战略投资部董事总经理、前沿科技投资负责人,过去三年在阿里主导投资了十余个前沿科技项目,累计金额超过百亿元人民币,代表项目包括月之暗面、Sharpa、Vivix、苏度科技、原力灵机、逐际动力、星动纪元、墨奇智能、诺瓦聚变和阶梯医疗等。 杨天真看中珊珊的研究能力,称她是研究型的投资人;蒋珊珊看中杨天真的有趣和 “活人感”。她们还在筹划一档科技播客,从科技与人的关系切入,蒋珊珊聊技术,杨天真让内容更轻松,也让更多人听得进去。 杨天真对我们说,很多科技内容强调干货、面向垂直人群,她很想代表大众追问:这些技术如何影响人的生活?她想让不了解科技的人听懂世界正在发生什么,少一些害怕被时代落下的焦虑。 一个专门负责内容的基金合伙人的加入,让赫励资本有机会尝试一种更有趣的基金做法:通过内容发现创业者,也让好公司被更多人看见。一些 LP 问蒋珊珊,为什么不专心投资,还要做内容?他们也问,离开阿里后,你怎样抢到好项目? 在她看来,今天要抢到最好的项目,就得做好内容。投资能力是 1,内容是后面的 0,帮助放大它。 a16z 今年 6 月发布的文章《New Media, One Year In》里说,今天,新媒体帮助创始人直接面向受众,“要赢,你必须直接面向受众;而要直接面向受众,你必须有趣。” 注意力越分散,这种传播能力就越重要。“过去一家创业公司,可能一两家媒体报道就 OK 了,但现在需要在茫茫人海中抢夺注意力。” 杨天真说,不是每个创始人都适合做个人 IP,赫励会根据企业需要,提供整体营销策略和创始人形象管理的专业支持。 蒋珊珊对我们说,扁平的组织是如今一只新基金的必备要素了:负责人必须亲自研究技术、接触创业者,才能在充满不确定性的前沿科技中作出更准确的判断。 这或许是 AI 时代新基金的一种样子:组织更轻,专业更深,更有趣,更善于连接人。当技术和注意力都在快速变化,一家投资机构能看见怎样的世界,也取决于哪些更多元的人走到了一起。
顯示更多
免费、自己爽、无限效率,红果如何改造中国影视业 -过去七个月,红果收紧了对中小短剧制作方的保底补贴,又宣布将在年底前取消观众 “看剧赚金币” 的奖励。曾经帮助它吸引创作者、获取用户的两大激励机制陆续退场,但红果的领先优势进一步扩大。 -QuestMobile 数据显示,2026 年 9 月,红果日活跃用户突破 2 亿,超过腾讯视频、爱奇艺、芒果 TV 和优酷四家平台的总和;人均单日使用时长达到 166 分钟,超过抖音的 125 分钟、抖音极速版的 118 分钟和抖音火山版的约 113 分钟。 -今日头条、抖音、番茄小说已经数次证明,进入一个新的内容行业时,字节跳动会摧毁以往的游戏规则,改造每个环节,用数据、算法构建新的创作、分发和商业化生态,把它变得极度高效。一切都在短剧行业重演,因为新势力的效率,也因为旧势力的无力。 -每月,超过 1000 部新剧上线红果,是长剧一年产量的 4 倍。一部短剧通常对应六万字的剧本,一个半小时影像内容,和一部电影差不多,但短剧能拍满 80 集。电影动辄打磨数月、数年,短剧以 “天”“周” 为单位。确定剧本到开拍,筹备不过一周,5-7 天拍完,剪辑、后期也只需一两周。 -一部短剧制作成本大致是 30-80 万元,不及长剧一集,但加在一起,每月要押进百万乃至上千万元资金。如果依赖于有资本投入的制作公司生产内容,平台就会陷入电影、长剧市场的循环——头部公司主导,格局僵化,产量有限。问世之初,红果就为中小承制公司推出 “保底费” 机制,每部 20-35 万元。制作公司负责拍摄,平台掌握剧本和版权。剧集上线后,制作公司拿走一定比例收益。 -“爽” 是短剧的灵魂。不空文化 CEO 铜雀总结,爽等于碾压。碾压有三种表现形式:阶级(金钱、权力、暴力)、能力、信息。权力、暴力不好表达,所以短剧里全是多金的总裁;主角必须拥有一项碾压反派的能力,少不了 “金手指”;信息在关键时刻能致胜,所以主角总是比反派知道的多。 -铜雀认为,很多人选电影,有证明自己品味的意图,因此电影有一定公共性。而短剧像是 “人们躲在被窝里自己偷偷看的东西”,人们可以放心选一部让自己爽的剧,不用在意他人眼光。也因此,短剧实际上被人最本能的情绪筛选,反映人最真实的内心。 -社会情绪期待什么,短剧就做什么。依据用户行为统计的红果热度值、榜单、完播率等数据无限接近于观众的真实想法,也为接下来该生产什么内容提供指引。疫情刚结束,人们准备大展拳脚,逆袭成为热门;2023 年下半年,现状令人清醒,很多人觉得,是别人夺取了自己奋斗成功的机会,复仇成为主题;到 2025 年,生活、工作的成就感更为稀缺,连复仇的爽感都变得可疑,家庭温情成为热门——如果东亚家庭真有这些,可能也不需要短剧了。 -红果的增长手段对字节来说确实都没什么特别之处。它的团队已经通过番茄小说把免费内容变现的商业模式完整跑过一遍。今日头条、番茄小说的总负责人张超是这门生意的灵魂人物。他曾在百度任职,在 2014 年加入字节,是字节当时少见的清华产品经理。这是一个务实的团队。一位前番茄员工评价,“长视频平台,或搞艺术的人,会认为自己是牛 x 的,而不认为观众是牛 x 的。张超绝对不会。他在这方面一点都不自我。” -2019 年 11 月,番茄小说上线,起初日活、收入一般,但团队很小,ROI 一直为正 —— 这也是它能在对规模要求极高、耐心有限的 “app 工厂” 字节跳动活下来的重要原因。多位员工、前员工说,番茄内部一直保持创业氛围。如今,包括红果在内,番茄团队一共只有六七百人,孵化出番茄小说、红果短剧、番茄畅听、番茄音乐共 4 款产品,前两款日活过亿,后两款日活在千万级别。据 QuestMobile,这四款 app 一共占据平均每天 278 分钟的用户时间。 -打开红果短剧 app,能看到多个榜单,推荐、热播、演员……每日更新,最重要的是 “热度值”,排名靠前的都有几千万,最高可以上亿。把人的行为量化、加权,根据数据做排名、分发,这是字节擅长的事。和抖音一样,红果的 “热度值” 也是黑盒。与我们交谈的 20 多位从业者,没一个说得清计算方法。但他们也不在意,只是相信数字反映用户喜好,追求做更热的剧,获得更大回报。 -在红果,没人追求像经营《哈利波特》一样长久经营一个 IP。流量来得快,走得也快;钱赚得快,赚钱的窗口消失得也快。红果的透明和高效率给了更多人拍片的机会,也拿走了整个生态的控制权——剧本被分级、演员热度被排行,制作方为数据竞争到底,只有平台是不变的赢家。 -今年 2 月,红果取消保底费用后,剧组数量骤减。AI 冲击短剧行业的每个环节。使用现成的 AIGC 工具,制作成本能压到一分钟 500 元,是真人短剧的 1/10。大部分公司开始探索 AI 漫剧。焦虑如此真实而迫切。连行业外的人也在社交媒体感慨,“短剧行业要变天了”。 -曾依靠胜过长剧和电影的低成本、高效率在真人短剧赚到钱的人们,又以同样的原因,怀抱同样的希望,涌向 AI 漫剧的世界。不变的规则是,他们争夺的,都是人的时间,而人正越来越诚实地追逐自己的欲望。
顯示更多
如何给一款模型定价? “价格的本质是什么,我只回复一个词:价值。”《定价制胜》的作者赫尔曼·西蒙说。 但对大模型产品来说,技术在按月进化,应用却还没有充分验证,“价值” 仍难以量化、定价方式也很难类比其他成熟商品。 综合公开信息和多位大模型厂商商业化员工的说法,我们发现大模型产品目前基本只有两种定价方式:成本定价法和市场定位定价法。有些公司更偏成本端,比如 Deepseek 和小米 Mimo,其他大部分厂商更侧重市场定位。 成本定价法比较简单,公司算出持续提供服务需要花多少钱,再加上希望赚取的利润,算出一个价格。这笔成本主要包括推理算力、网络、存储和运维,不计算前期模型研发支出和销售、薪酬等其他经营费用。 DeepSeek 最为典型。今年 5 月,梁文锋在一场投资者交流会上解释过 DeepSeek 的定价原则:API 业务以十个月收回设备投入为目标。在他看来,这已经是可以接受的回报,没有必要把价格提高到收入或利润最大化的位置。 按照他的计算,⼗个⽉收回成本,5 年左右的折旧年限,⼤概对应的是六倍利润。做一个简化计算:假设成本只考虑折旧,对应的毛利率需要达到约 83.3%。根据《The Information》援引知情人士的报道,DeepSeek 今年前七个月的 API 业务毛利率为 82.9%,与这一测算相近。 这种思路也体现在后续的价格调整中。9 月发布 V4.1 Flash 时,公司表示,新架构把 KV Cache 对高带宽显存的需求降至上一代的四分之一,对 SSD 的需求降至八分之一。随后,缓存命中和输出 token 的价格也降了下来。 减少重复计算、压缩缓存、提高吞吐量,都能变成降价空间。但成本也并不是全部的解释,为了让算力和设备充分被利用,DeepSeek 也会根据需求来调整价格。 比如 8 月,DeepSeek 引入峰谷定价,闲时调用的价格,只有高峰时段的一半。9 月模型降价后,峰谷差价仍然保留。这种价格策略让高峰的拥堵得以缓解,闲置的设备也能挣到钱。 一位模型公司的商业化员工形容,DeepSeek 的定价有种 “以我为主” 的意味:“他去划定了一个特殊的产品类别空间,然后主导了这个产品类别空间里的变化。” 大部分其他模型厂商不这么定价。在推理成本外,他们首要考虑的是市场定位,是在诸多模型的性能、价格的参考坐标体系里找到自己的位置。 上述大模型厂员工称,每家定价时,想的都是要去到什么样的价格带,“本质上是模型定位嘛,大家都是朝着这个模型定位去做。” 一个新模型发布前,商业化部门通常要和 Infra 部门一起测算真实负载下的推理成本,再参考第三方评测、内测客户的反馈和业务目标。价格往往由多个部门一起决定。 以 Kimi 的 K3 模型为例,这是一款总参数 2.8T、每 token 激活参数约 104B 的大模型,运行成本不低。 英伟达分销商 Openzeka 曾用一台 8 卡 B300 服务器测试 K3。按测试结果折算,这台机器每小时可处理约 405 万输入 token 和 405 万输出 token。如果用 Runpod 上 B300 单卡每小时 8.99 美元的租金粗略计算,处理 “百万输入 token 加百万输出 token”,仅算力租金就约为 17.7 美元。 这与月之暗面的真实成本必然有出入,但已经足以说明,K3 很难成为一款廉价模型。 有了大致的成本范围,下一步是找对标产品。 7 月 17 日,Artificial Analysis 测算,K3 的综合能力接近 Claude Opus 4.8 和 GPT-5.5。当时,两款模型的输入价格分别为每百万 token 5 美元、4 美元,输出价格为 25 美元、20 美元。 Kimi 最终给 K3 定的价格是输入 3 美元、输出 15 美元。 这个数字还包含了公司的战略选择。K3 发布后,月之暗面的 B 端负责人曾公开表示,不希望中国模型一直被贴上低价标签。能力达到前沿水平,就应该卖出合理的价格。相比此前的模型,K3 希望保留更充足的毛利空间,尝试建立旗舰模型的溢价。 实际任务场景中的客户测试也会影响报价。一位模型厂商的工程师说,现在大家越来越重视 “单 Token 智能”,而不是纯粹的性价比。如果小范围的客户测试下来,一个任务能用更少 Token 完成,Token 的单位定价会提高;相反,则会往下调整。 Artificial Analysis 曾让 K3 和 GLM-5.3 执行同一项任务。K3 消耗约 1.6 亿 token,GLM-5.3 用了约 2 亿。K3 的 token 单价更高,两者完成任务的总花费相近。 成本、竞品、测试结果决定了大致价格。最后还会有一些更细的取舍。Kimi 就曾决定,同一个模型,中国市场的报价要比海外低,“哪怕只是 1 毛钱”。 渠道也会影响定价。除了原厂直接提供 API,模型也可以由云平台代销或托管,由聚合平台转接,或者由客户自行部署。原厂的公开报价相对固定。其他渠道则要考虑上游采购成本、设备价格、部署效率和运维支出。在许可允许的范围内,云厂商和算力服务商可以自行部署开源模型,按照自己的成本和效率报价,可能会挤压原厂的收入。 梁文锋在那场投资者交流会上谈到了这件事。他判断,原厂如果索取极高利润,即使第三方运行效率较差,也能通过低价抢走客户。DeepSeek 按十个月收回设备投入的标准收费,已经把价格压到一个第三方很难匹配的位置,能让官方 API 保持价格优势的同时留有利润。 据我们了解,绝大部分二级算力供应商都无法把 DeepSeek 模型优化到官方宣称的水平。
顯示更多
晚点独家丨火山引擎重心全面转向商业化,MaaS 上半年毛利率超 55% 《晚点 LatePost》独家了解到,字节跳动旗下云服务平台火山引擎的 MaaS(模型即服务)业务收入达到 48 亿元,毛利率超过 55%,这也是字节跳动当前收入规模最大的 AI 业务。
顯示更多
0
12
14
0
轉發到社區
AI 抢人大战退潮,“天才” 也要被挑选了 - 大模型公司曾给尚未做出工业成果的年轻人开出百万年薪。他们快速建立起团队,想尽办法找到那些聪明、有潜力的人。字节一度先把人抢过来,再给他找位置。但现在,情况正在改变。 - 今年秋招,一位 2027 届博士生带着六篇顶刊论文、两段头部大厂模型实习经历,申请了二十多家公司的人才计划,他原本预计能拿到十二三家的机会,到了 10 月下旬只有五六个意向,腾讯、阿里的结果也不如预期。高薪抢人的故事还在发生,但机会已经没那么多了。 - 履历更好了,机会却少了。有候选人完成三轮技术面试后,被 HR 告知公司技术重点调整,岗位取消;流程推进也慢,有候选人追问 HR 面试进度:“一次不回、两次不回、三次不回,后面拍一拍也不回。” 而急于招人时,HR 隔几天就会主动询问近况、持续 “保温”,甚至带鲜花到学校,为已录用的学生庆贺。这些经历,构成了求职者 “遇冷” 的体感。某头部大模型公司招聘负责人说,“各家基模团队整体在缩减校招、社招的招聘名额,这基本是今年业内的共识。” - 长期关注 AI 人才流动的 Sam 将当下人才市场称为 “K 型分化”:有大规模预训练、强化学习或万卡集群基础设施经验的人,仍能拿到高价;主要凭论文、缺少训练经验的初级候选人,机会减少。一位长期为模型公司招人的猎头说,早期推荐一个不错的人选,团队往往愿意见一见;现在,对方会把候选人和现有成员比较,他能补上哪一块缺口,或者带来多少新的能力。 - 这背后是基模研发正在发生变化,团队的工作分得更细了。一位业内人士介绍,早期大家都不知道怎么做,掌握关键技术的人很重要;训练流程明确后,“人不再是核心生产要素了”。他把基模研发比作 “制造业”:数据清洗、小模型实验、强化学习、合板。工序标准明确后,公司更清楚哪里缺人。 - 求职者的履历也越来越漂亮:Kimi、DeepSeek 实习、技术博客、数千 GitHub 星标的开源项目、奥赛金牌都可能出现在简历上,但面试官手里也有很多同样亮眼的候选人,一个人比去年准备得更充分,对手也是。但履历漂亮不等于能独立做研究,一位招聘负责人发现,有些候选人能够讲清做了什么实验、得到什么结果,却未必能说明背后的判断。随着团队更成熟,公司需要的不是只会执行任务的人,而是能够理解问题、作出判断并独立解决问题的人。 - 在这样的环境里,熟人推荐也变得更重要。一起做过项目的人知道谁提出了办法、谁真正解决了问题,论文署名和简历却很难说明个人贡献。大模型圈的校友、同门和前同事联系紧密,哪里缺人、谁想走、谁做出了什么成果,消息传得很快。一些候选人通过合作者推荐进入头部团队,获得更完整的评估;招聘也逐渐集中于少数高校和团队,能力之外,还有“某种信任的传递”。 - 但这也意味着,不在这些关系里的人更难获得机会。一位去年求职的研究员,在几家模型团队碰壁后,决定暂时不再反复投递,把时间用来做一项更好的研究。“攒代表作,发出来……等人家找吧。” 后来,确实有新团队主动联系了他,但相比熟人内推还是波折了许多。 - 找工作变难,影响的不只是收入和职位,还有年轻研究员能不能获得真正的训练机会。还有年轻研究员能不能获得真正的训练机会。相邻两届、研究背景接近的同门,可能因为毕业时间不同,一个拿到人才计划,另一个却没有。先进入核心团队的人已经参与过模型训练、积累了经验,后来者却需要先有经验,才能争取到项目。一些实习生主要做数据配比和小规模实验,真正参与模型架构等核心工作的机会越来越少。一位投资人感叹:“人才是被环境塑造出来的,现在没有那种环境可以塑造人才。” - 一位进入头部人才计划的学生说,他所在团队允许探索,但资源有优先级,公司把更多算力投向 Coding,其他方向只能往后排,“有卡才能说其他事”。这种分化甚至更早地发生在学校里,高校里的学生也需要先获得导师经费、算力或校企合作机会,再用论文争取第一段实习,最后靠实习成果换取下一次机会。履历越好,越容易获得资源;资源越多,又越容易做出成果,形成不断扩大的循环。
顯示更多
AI 抢人大战退潮,“天才” 也要被挑选了 - 大模型公司曾给尚未做出工业成果的年轻人开出百万年薪。他们快速建立起团队,想尽办法找到那些聪明、有潜力的人。字节一度先把人抢过来,再给他找位置。但现在,情况正在改变。 - 今年秋招,一位 2027 届博士生带着六篇顶刊论文、两段头部大厂模型实习经历,申请了二十多家公司的人才计划,他原本预计能拿到十二三家的机会,到了 10 月下旬只有五六个意向,腾讯、阿里的结果也不如预期。高薪抢人的故事还在发生,但机会已经没那么多了。 - 履历更好了,机会却少了。有候选人完成三轮技术面试后,被 HR 告知公司技术重点调整,岗位取消;流程推进也慢,有候选人追问 HR 面试进度:“一次不回、两次不回、三次不回,后面拍一拍也不回。” 而急于招人时,HR 隔几天就会主动询问近况、持续 “保温”,甚至带鲜花到学校,为已录用的学生庆贺。这些经历,构成了求职者 “遇冷” 的体感。某头部大模型公司招聘负责人说,“各家基模团队整体在缩减校招、社招的招聘名额,这基本是今年业内的共识。” - 长期关注 AI 人才流动的 Sam 将当下人才市场称为 “K 型分化”:有大规模预训练、强化学习或万卡集群基础设施经验的人,仍能拿到高价;主要凭论文、缺少训练经验的初级候选人,机会减少。一位长期为模型公司招人的猎头说,早期推荐一个不错的人选,团队往往愿意见一见;现在,对方会把候选人和现有成员比较,他能补上哪一块缺口,或者带来多少新的能力。 - 这背后是基模研发正在发生变化,团队的工作分得更细了。一位业内人士介绍,早期大家都不知道怎么做,掌握关键技术的人很重要;训练流程明确后,“人不再是核心生产要素了”。他把基模研发比作 “制造业”:数据清洗、小模型实验、强化学习、合板。工序标准明确后,公司更清楚哪里缺人。 - 求职者的履历也越来越漂亮:Kimi、DeepSeek 实习、技术博客、数千 GitHub 星标的开源项目、奥赛金牌都可能出现在简历上,但面试官手里也有很多同样亮眼的候选人,一个人比去年准备得更充分,对手也是。但履历漂亮不等于能独立做研究,一位招聘负责人发现,有些候选人能够讲清做了什么实验、得到什么结果,却未必能说明背后的判断。随着团队更成熟,公司需要的不是只会执行任务的人,而是能够理解问题、作出判断并独立解决问题的人。 - 在这样的环境里,熟人推荐也变得更重要。一起做过项目的人知道谁提出了办法、谁真正解决了问题,论文署名和简历却很难说明个人贡献。大模型圈的校友、同门和前同事联系紧密,哪里缺人、谁想走、谁做出了什么成果,消息传得很快。一些候选人通过合作者推荐进入头部团队,获得更完整的评估;招聘也逐渐集中于少数高校和团队,能力之外,还有“某种信任的传递”。 - 但这也意味着,不在这些关系里的人更难获得机会。一位去年求职的研究员,在几家模型团队碰壁后,决定暂时不再反复投递,把时间用来做一项更好的研究。“攒代表作,发出来……等人家找吧。” 后来,确实有新团队主动联系了他,但相比熟人内推还是波折了许多。 - 找工作变难,影响的不只是收入和职位,还有年轻研究员能不能获得真正的训练机会。还有年轻研究员能不能获得真正的训练机会。相邻两届、研究背景接近的同门,可能因为毕业时间不同,一个拿到人才计划,另一个却没有。先进入核心团队的人已经参与过模型训练、积累了经验,后来者却需要先有经验,才能争取到项目。一些实习生主要做数据配比和小规模实验,真正参与模型架构等核心工作的机会越来越少。一位投资人感叹:“人才是被环境塑造出来的,现在没有那种环境可以塑造人才。” - 一位进入头部人才计划的学生说,他所在团队允许探索,但资源有优先级,公司把更多算力投向 Coding,其他方向只能往后排,“有卡才能说其他事”。这种分化甚至更早地发生在学校里,高校里的学生也需要先获得导师经费、算力或校企合作机会,再用论文争取第一段实习,最后靠实习成果换取下一次机会。履历越好,越容易获得资源;资源越多,又越容易做出成果,形成不断扩大的循环。
顯示更多
三十岁上下的技术人,决定中国核心 AI 组织如何投入最重要的资源 过去二十年,中国互联网公司的权力,大多随着商业战果分配。但如今,一批三十岁上下的技术人,正在通过另一条路径进入中国最核心科技公司的权力中心:不必等到产品取得商业成功,他们就开始掌握重要的研发决策权,由此影响数百名研究员的工作,以及数以亿计的算力如何投入。 - 2026 年 3 月,几名 Kimi 的年轻研究员希望把一项叫 Attention Residuals 的新技术放进正在研发的下一代旗舰大模型 K3。这个想法最初来自 Kimi 的研究员苏剑林,业内人称 “苏神”。这个想法来自他读完 DeepSeek 的 mHC 论文后的灵光一现:既然是在做加权求和,何不用 Attention? - 苏剑林很快写了一个简化版本,效果很好。但完整版需要保存各层信息,还要在设备间传递,训练团队算过后发现,以当时的资源根本无法承担。张宇和当时只有 17 岁的陈广宇几乎只用了一个晚上,提出了 Block AttnRes(分块注意力残差)设计:把模型的多个层分成 8 个组(Block),先汇总组内信息,再在组间做 Attention。这一方案把额外开销控制在 5% 以内,同时带来了约 20% 的训练效率提升。 - 最后杨植麟拍板,同意 K3 推迟开训,为团队留出验证时间。3 月 16 日,Kimi 公开了这项研究,四个月后,拥有 2.8 万亿参数的 K3 发布,Attention Residuals 成为其重要架构之一。 - 这个故事里,提出新想法的是一名远程工作的研究员,将它变成可行方案的包括一名 17 岁高中生和一名年轻博士;训练、推理和 Infra 团队则在周末的深夜合力解决了大规模工程的问题。最后,作为 CEO 的杨植麟拍板决定,为它改变公司最重要模型的训练日程。新一代 AI 管理者的能力,不只是自己懂技术,还包括识别他人的技术判断,并将其变成整个组织的 bet。 - 智谱的 Coding 转向,同样不是某个负责人一开始就确定的战略。2025 年初,DeepSeek-R1 发布后,智谱感到了落后的压力,模型效果不及预期,行业又陷入价格战。唐杰召集十几位核心技术人员讨论下一步方向,00 后、尚未博士毕业的曾奥涵提出做 Coding,但这个方向在智谱内部并未成为共识。 - 唐杰没有当场决定,而是让不同团队分头探索。转折出现在 2025 年 4 月,智谱发布的一批 320 亿参数模型中,有一个版本加强了工程代码和函数调用能力,内部测评与使用反馈让 Coding 获得更多认可。七月,GLM-4.5 发布,编程成为市场反馈最好的能力之一;到十二月,智谱 CEO 张鹏称,这项业务的年度经常性收入已经超过一亿元人民币。押注 Coding,成为智谱成立以来最重要的战略决策之一。这不是一个人的决定,而是一群年轻技术人员的判断,经过不同团队的探索和验证,逐渐成为公司的战略选择。 - 小米 MiMo 的路径更激进一些。2025 年 4 月,小米发布第一款 7B 模型,罗福莉加入后,和团队决定同时训练一个数千亿参数的模型和一个万亿参数的模型,后来分别成为 MiMo-V2-Flash 和 MiMo-V2-Pro。当时团队只有几十人,大部分研究员没有训练过大模型,有经验的人中,不少也只做过 7B、14B。一位同行感叹,在他看来,按照更稳妥的路线,应该先把数千亿参数模型训出来,再决定是否继续扩大,但罗福莉不想再训一个“同样的模型”,既然继续 scaling,就要再往前走,而 1T 已经接近当时团队已有算力能尝试的极限。 - 罗福莉能够作出这样的决定,与小米给予的技术自主权有关。雷军大约每两周听一次汇报,但通常不干预具体技术决策。做什么模型、采用什么路线,很大程度由罗福莉和团队决定。 - 训练开始后,loss 升高、激活值异常、不同专家模块的负载失衡等问题接连出现,团队停下来排查,做数据和预训练的人开始参与后训练,负责训练框架和推理 Infra 的人也一起解决问题。罗福莉说,这些变化很少来自正式调配,更多是研究员根据兴趣自然流动。一位年轻研究员说,自己从学校来到 MiMo ,几乎没感觉环境有什么变化,“就感觉跟实验室一样”。两款模型最终完成,小米也由此进入能够训练万亿参数基座模型的公司行列。 - 获得权力之后,这批年轻的技术领军者要面对的第一个现实课题,是如何招人、管人。在顶尖人才极度稀缺的大模型领域,研究员选择公司,本质上是在选择一个能理解自己、值得追随的负责人。技术声望天然自带引力。杨植麟创业前曾在 Meta AI、Google Brain 实习,是 XLNet、Transformer‑XL 的共同第一作者。姚顺雨加入腾讯前是 OpenAI 的研究员,参与 Deep Research 和 Operator 两个核心项目。腾讯招聘团队人士说,姚顺雨加入后,混元在校招上的吸引力明显提升。 - 相比上一代互联网管理者,他们也有意或无意地消解着权力带来的距离感。混元成员叫姚顺雨“姚哥”,他会偶尔办午餐会,也会在全员群里临时组篮球局,Hy 4 Preview 发布后,姚顺雨直接给研究员集体放了一周假。Kimi 员工把杨植麟叫作 KK,研究员可以在群里直接抱怨产品不好用、算力不够,也会用他的表情包开玩笑。昵称、兴趣和轻松的氛围,在互联网公司并不算新鲜。但年轻的研究员们会从这些日常细节里,判断负责人是不是 “同路人”、好不好相处。而一旦进入具体工作,他们真正核心的诉求,是自己的想法究竟能有多大空间。 - 不过,研究员能有多少探索空间,也取决于他们的负责人获得了怎样的支持。2026 年 3 月,林俊旸得知阿里 Qwen 团队可能被拆分,原本整合在一起的预训练、后训练等团队将被重新划分,这与他一直坚持的技术主张相冲突。他在群里留下“无颜再带领大家”的感言,提出离职。在大公司,技术成绩可以带来权力,却未必足以守住权力。技术负责人能作出哪些决定,既取决于最高层的授权,也取决于他在复杂的组织网络中做政治与利益交换的能力。 - 姚顺雨在腾讯采取了另一种方式。混元自己的预训练模型还没准备好时,他先派后训练骨干去帮助元宝优化接入的 DeepSeek。他认为,维护好元宝的产品体验和用户基本盘,对混元后续研发同样重要。这种“向外让渡支持”的做法,后来换来了腾讯内部多个核心产品和部门在混元新模型发布时主动支持。 - 他们因技术获得权力,又必须运用权力,保护技术所需要的自由。同样,他们想让自己和研究者摆脱管理的束缚,也得先学会如何管理。 - 唐杰曾给 AI 时代的能力排过一个次序:“认知>格局>技术>管理”。管理在最末,技术倒数第二。1995 年出生的 LibLib 创始人陈冕也说,管理变得前所未有地不重要,唯一目的是让符合业务特点和要求的人留下来。这群三十岁左右的年轻人,被时代推上了掌管百亿算力与庞大组织的权力位置,却本能地排斥 “管理”——但他们真正排斥的,或许并非管理本身,而是过去大公司里的平庸、官僚与迟缓。 - 但“给他卡就够了”,只是他们对理想研究环境最朴素的描述。但如何争取这些卡、决定把卡给谁,以及为最后的结果负责,却是一场极其现实、艰苦的工作。认知、格局、技术、管理。在真实的商业战场上,这四种能力其实根本无法剥离。认知是判断做什么、不做什么,这既需要扎实的技术体感,也需要看清终局的格局;而要把判断变成现实的结果,离不开管理与组织协作。把管理排在最后,不会自动成为好管理者;把管理放在最前,也一定不是好管理者。 - 如大半个世纪前德鲁克所阐述的,管理的本质,是让每个人的长处得到发挥,让不同的人能够共同做出凭一己之力无法完成的事。想要实现这一切,第一步,或许要从不再羞于谈论 “管理” 开始。 #ai# #晚点latepost#
顯示更多
0
10
190
30
轉發到社區
“我接受你的访谈,我什么都敢讲,我不怕。” 数学家丘成桐 77 岁了。衬衫口袋里插着一支圆珠笔,走路慢悠悠的,说起话来却几乎没有缓冲。 丘成桐是过去半个世纪全球最重要的数学家之一。他 27 岁证明卡拉比猜想,32 岁获得菲尔兹奖,并推动几何分析成为现代数学的重要领域。 对他来说,数学不只是职业,也是一个 “完全自由的国度”——一个命题只有对与错。它不会因为一个人的国籍、身份、头衔和地位而改变,也不会因为谁掌握更多资源,就变得更接近真理。 2021 年,他在清华创办求真书院,一年后从哈佛退休,全职回到中国。 在这里,学问之外还有院士、帽子、职位、经费和人情;急于成名的年轻人,争抢头衔的教授,在意排名的学校,追逐暴利的企业家。丘成桐把其中很多东西归结为两个字:功利。 2026 年 7 月,王虹、邓煜获得菲尔兹奖。丘成桐公开说,希望他们有一天能够回国。他也说,他们回来的前提,必须有适合他们进一步成长的土壤,而不是担心——能不能当院士。很多人因此质疑他:既然知道这个环境仍有问题,为什么还要劝他们回来? 丘成桐的回答是,“如果他们回来,我们可以提供他们所需的环境。” 他说的是清华求真书院。 他希望在求真书院建立一个更接近数学世界规则的小环境:好的学者因为学问被尊重,年轻人不必过早追逐帽子和职位,研究可以按照十年、二十年的尺度来衡量,而不是急着证明自己的价值。 但要建立这个小环境,他需要政策支持,还要向企业家和社会募集资金,钱募到以后,能不能用、怎么用,仍要层层审核。为了让海外学者在中国安心工作,他要处理许多与数学无关的问题:老师周末生病,能不能及时看上医生;孩子来到北京,能不能顺利入学。 丘成桐说,自己不在乎钱、不在乎权力。但他极力推动的,却是一件无法脱离现实资源和制度环境的事。 这正是丘成桐眼下的难题:他相信真正的学问应该远离权力、金钱和名利,却又必须争取资源,借助自己的声望,建立一个尽可能不被外力支配的学术空间。
顯示更多
0
11
159
22
轉發到社區
晚点独家丨月之暗面向港交所秘密交表,正式启动 IPO 《晚点 LatePost》独家获悉,月之暗面(Kimi)已于本周以保密形式向港交所递交 A1 文件,正式启动港股 IPO 流程。A1 是企业申请在港交所上市时提交的正式申请表之一。 Kimi 方面回应上述消息称:“对于市场传闻不予置评,目前暂无可以披露的信息。” 同时据我们了解,Kimi 也正在以 500 亿美元的投前估值推进新一轮融资。这很有可能是 Kimi IPO 前的最后一轮融资。
顯示更多
过去数月,AI 领域的诸多线头指向同一个节点——蒸馏。 蒸馏到底是什么?大规模蒸馏如何实现?蒸馏能否成为一个模型研发团队的壁垒?又有何代价? 我们访谈了近十位模型领域研究员、从业者,也结合公开研究和技术报告,还原蒸馏的过去、现状,和它正在带来的更多改变。
顯示更多
0
94
70
12
轉發到社區
大模型的机会看上去正在重新回到创业公司手里,半年多前这一切还难以想象。Kimi 的估值徘徊在 30 亿美元左右,智谱和 MiniMax 的招股书则难以论述自身商业模式的合理性:一家 85% 的收入来自项目制的本地化部署交付;一家收入依赖 C 端订阅、二十多亿元收入对应十几亿元亏损。 C 端的战场看上去更是早已与独立模型厂商无关:豆包砸出了国民级的用户量,但字节每天都在以千万计地亏钱——免费换规模的移动互联网打法,找不到盈利闭环。 窗口期来自编程。Coding 浪潮把按 token 计费的需求真正引爆,算账的方式彻底改变了。 根据智谱 2025 年的年报,定价提高一倍,调用量反而涨了八倍,与海外前沿模型的价差也在逐渐缩小。Kimi 比智谱更激进,K3 模型 API 输出价为每百万 token 15 美元,与 Claude Sonnet 5 的标准定价一模一样。 窗口期的另一面是大厂的缺位:在长达半年的时间里 BAT 拿不出一个第一梯队的 coding 模型——2 月时,人们津津乐道的叙事甚至还是春节红包大战,而智谱在 2025 年春天就已经决定把研究方向聚焦到编程上来。 从这个角度讲,窗口期甚至还在拉长,字节已宣布不做蒸馏,等于亲手放弃了短期内快速追赶前沿模型的机会。 但窗口期不会一直敞开,对没有历史包袱的独立模型公司来说,更容易跟上新技术是它的优势,但这是一场关于速度的一遍遍重复的竞赛,大厂只要赢一次,整个叙事就可能重新改写,而字节在视频模型上已经拿出了 SOTA 的成果。如今它们对 Coding 的投入已肉眼可见地坚定。 更不用说大厂在算力采购与人力成本上的优势。今年 5 月的财报电话会上,阿里巴巴的吴泳铭表示对算力中心的投入规模将远超之前承诺的三年 3800 亿;腾讯 2026 年第一季度经营性资本支出同比增长了 18%,环比增长了 84%,“加快了对服务器基础设施的投资”。 与之相对照的是,独立模型厂商至今还囿于算力瓶颈,有时甚至向潜在的对手租用算力来应付庞大的训练和推理需求。 模型要保持在第一梯队,这样的投入没有一天能停。 更重要的是, coding 的商业模式本身也在发生快速变化。越来越多的公司开始搭建所谓 “内部路由”,按照任务的复杂程度把不同价位、不同性能的模型组合起来使用。Palantir 们则在教育每一个企业客户只用 API 而不要使用模型厂商提供的更多工具——这些工具本来是增强用户粘性的重要环节。 Palantir 的逻辑是,模型最终会大宗商品化,而数据和工作流是企业最珍贵的资产,企业不应该把珍贵的业务数据源源不断喂给模型厂商,等于出资供养一个终将替代自己的智能系统,因此更好的方式是把数据、业务逻辑和工作流留在公司内部,模型只是个随时可以插拔更换的零件。 这是 toB 生意的逻辑决定的:一切为效率让位。想在企业服务领域守住溢价,除了控制技术标准与格式、控制客户关系,就只能提供独一无二的服务——而大模型 API 的商业模式,看上去一条都不满足:领先模型守住位置的时间越来越短,用户在多个平台之间自由迁移,几乎没有壁垒。 假如 Scaling Law 的提升真的没有尽头,那意味着超级人工智能的实现,届时值得讨论的就不再是谁的毛利率高几个点了。但在 ASI 到来之前,眼下可以确定的似乎只有一件事,那就是以越来越快速度不断刷新的顶尖模型排行榜,这似乎是大模型玩家们目前能做的唯一应对策略。 窗口还开着,算力依旧紧缺,人们依然渴望新的顶尖模型出现——最好能赶上乃至超过美国前沿的闭源模型,而下一次发布,已经排上了日程。智谱和 DeepSeek 预计都将在 8 月发布新模型,战况会更加激烈。
顯示更多
《晚点 LatePost 》独家获悉,智谱 MaaS 开放平台注册用户(即 API 用户)近 700 万,相比七月初增长约 200 万,其中包括 2.3 万家企业客户,对标 Codex 的开发者产品 ZCode 上线 1 个月用户突破百万。 今年以来,智谱 ARR 增长 15 倍,根据我们了解,在 Kimi 和阿里新模型发布后,智谱 ARR 增速没有受影响。有投资人透露目前 ARR 来到 20 亿美元,但智谱官方已经否认,接近公司的人表示,实际数字应该更高。 若按 20 亿美元口径计算,注册用户当月平均在智谱开放平台花费约 160 元人民币。 7 月 21 日,市场传出智谱已建成规模 1 GW 的国产 AI 算力基础设施,据《晚点 LatePost》了解,有超过 5 万块国产算力芯片已经启用,以缓解日益增长的推理需求,7 月 31 日,智谱长期限售的 Coding Plan 在大幅涨价后已开放购买。
顯示更多
0
92
62
14
轉發到社區
API 毛利率持续改善,让卖 token 变成一门好生意 一道简单的计算题可以侧面说明大模型规模化部署效率提升的空间:即使是高速版 API 的 400 tokens/s,按照 8 卡 H200 服务器的内存带宽计算,也只用到硬件理论能力上限的四成。一位行业人士对《晚点 LatePost》估算,大模型 Infra 每轮优化仍有 15% 到 30% 的效率提升,而对智谱来说就更是如此,它本来就不以 Infra 优化见长。 这件事的商业价值比技术意义更大,让卖 token 这件事更像一个好生意:成本端推理效率有持续的优化空间,收入端用户需求持续增长。同时,编程的规模越来越大,项目越来越复杂,消耗的 tokens 越来越多。 智谱比别人更早看出来这是一门好生意,它是中国最早喊出 “模型即服务” 的公司, MaaS 开放平台的域名 早在 2022 年 ChatGPT 发布之前就已经注册,但它失误的地方在于没有在更早以更合适的价格锁定更多算力——哪怕拿不出最先进的模型,仅仅有能立刻使用的算力,转租出去也同样是门好生意,马斯克就是这么做的。 目前,AI 在生产力场景的扩散程度还不够高,因此 token 是一个纯粹的增量市场。 根据《晚点 LatePost》了解到的情况,7 月中旬 Kimi 发布 K3 时,智谱 API 用户增长情况几乎没有受到影响,ARR 增速也没有放缓。当下的时间点,每一个模型厂商的增长都不是以别家的萎缩为代价。 这给了各家提价的底气。 智谱在 7 月 31 号放开了 Coding Plan 的购买限制,除了引入积分制的计算规则之外,最引人注目的是价格上涨:推出时的入门价格每月 20 元,而现在 Lite 版已经来到 118 元一个月。 Coding Plan 本来是早期为了吸引用户而制定的策略,当时谁都没有料到 token 需求会井喷爆发。现在,智谱需要优先保供 API ,只能对个人用户提价。 即便如此,按照输入、缓存命中、输出大约 7:2:1 的价格计算,GLM-5.2 的混合价格大约是 8.8 元/百万 token,这显著低于美国同性能的模型。 不同的分析机构给出了各个模型厂商 API 毛利率的估算,SemiAnalysis 估计 Anthropic API 毛利率超过 80%,The Information 的独家报道中指出 DeepSeek 的 API 毛利率大约在 70% 到 80% 之间。据《晚点 LatePost》了解,智谱 API 毛利率在理想状况下,于自有算力设施上运转时可达 50% 到 60%。 这些毛利率的计算方式不涉及 API 服务的前期投入,而在大模型领域,前期投入恰恰是大头——海量的算力采购,加上庞大的人员成本。 7 月智谱宣布新一轮港股配售,这发生在基石投资人港股解禁的第二天,智谱股价不降反升。据一位接近智谱的人士说,整个配售认购的时间一下午就完成,最后募资超过 300 亿港元。根据智谱的公告,55% 用于研发,既包括算力采买,也包括人才队伍扩充。 API 静态毛利率得以维持的另一个前提是模型厂商提供的智能是有区别的,模型领先才有定价权。但许多人认为,开源会直接影响先进模型的定价权,从而影响厂商收入。 因此,不少厂商正在给开源上锁。智谱在 GLM-5.2 上仍沿用最宽松的 MIT 协议,而不止一家厂商正在酝酿或推行把开源授权变成一份商业合同,条款包括:开源版本是 “残血” 的,满血版只在官方 API 提供;年收入超过 2000 万美元的企业需单独申请授权;为模型提供托管服务的第三方,定价不得低于官方 API,部分方案还要求分成,比例最高可超过 30%。 另一些人则不这么认为。开放权重模型是免费的,理论上任何人买几台服务器就能部署,但第三方的价格无法把模型厂商的毛利打穿,原因如前所述:模型的结构、训练过程和推理效率日益紧密地结合在一起,第三方只能在模型之外做优化,而模型厂商则掌握最深的推理效能 know-how。 以 DeepSeek 为例,一个公开信息是,许多第三方提供的 DeepSeek 模型其效率无法达到官方宣称的程度,而 DeepSeek 已经是相对来说对技术最开放的模型厂商了。
顯示更多
《晚点 LatePost 》独家获悉,智谱 MaaS 开放平台注册用户(即 API 用户)近 700 万,相比七月初增长约 200 万,其中包括 2.3 万家企业客户,对标 Codex 的开发者产品 ZCode 上线 1 个月用户突破百万。 今年以来,智谱 ARR 增长 15 倍,根据我们了解,在 Kimi 和阿里新模型发布后,智谱 ARR 增速没有受影响。有投资人透露目前 ARR 来到 20 亿美元,但智谱官方已经否认,接近公司的人表示,实际数字应该更高。 若按 20 亿美元口径计算,注册用户当月平均在智谱开放平台花费约 160 元人民币。 7 月 21 日,市场传出智谱已建成规模 1 GW 的国产 AI 算力基础设施,据《晚点 LatePost》了解,有超过 5 万块国产算力芯片已经启用,以缓解日益增长的推理需求,7 月 31 日,智谱长期限售的 Coding Plan 在大幅涨价后已开放购买。
顯示更多
0
70
15
0
轉發到社區
算力受限,但 Infra 效率还有很大的提升空间 ARR 迅猛增长受益于编程场景需求的快速攀升和前沿模型的强大引力。作为对比,智谱 2026 年 2 月初 GLM-5 模型发布前 ARR 约为 1 亿美元左右,根据《晚点 LatePost》了解,GLM-5 发布后智谱 ARR 在短期内即实现翻倍。根据 Artificial Analysis 的评测,GLM-5 发布时位居全球第四,仅次于 Claude 当时最先进的两款模型以及 OpenAI 的 GPT-5.2。 通过先进模型发布牵引收入抬升的剧本在中美两国都已跑通。 Anthropic 年化收入在 2025 年底为 90 亿美元,半年后已迅猛增长到 500 亿美元(根据 SemiAnalysis 的测算,7 月已超过 600 亿美元)。除了编程场景需求跑通之外,Anthropic 连续推出超过 OpenAI 的领先模型被认为起到重要作用。 智谱是第一个把这个剧本在中国复制的公司,类似的故事月之暗面和阿里随后都经历了一遍。7 月 16 日 Kimi 发布 K3,次日 API 就因过载中断近六个小时,而 Kimi 甚至停止了新用户注册。8 月 3 日阿里发布 2.4 万亿参数的 Qwen3.8-Max,港股当天涨 7%,市值重回 2.4 万亿港元,从 6 月低点算起反弹超过四成。 但在 Anthropic 走通 coding 这条路之前,几乎没有人对算力供应瓶颈有充分的估计,甚至 Anthropic 自己也是如此。对中国大模型公司,算力紧缺更加严峻。 在物理硬件无法快速扩展的情况下,工程师们转而聚焦在通过算法提升已有模型的推理效率上,特别是针对长程任务的处理——这是编程需求的痛点。 过去智谱被认为在 Infra 上缺乏经验,但随着 GLM-5 带来的先发优势,智谱在过去半年飞速弥补 Infra 效率上的短板。智谱在 7 月已完成对中科加禾的收购,在此之前,双方已经联合办公了数月。 在技术博客中智谱表示,一个 Agent 干活时平均要往模型里塞 7 万多 token 的上下文,远超日常聊天内容,而通过分拆 KV 缓存,智谱和中科加禾的研究成果可以将单个推理服务吞吐随长程任务增长而最高提升达 132%。 在另一项名为 ZCube 的大模型推理网络架构方案中,智谱宣称它的研究成果可以提升整个生产集群的吞吐量高达 15%,同时降低 AI 基建中交换机与光模块需求多达三分之一。 5 月下旬,智谱推出了高速版 API,每秒生成 token 数达到 400,相比常规 API 服务速度提升约 8 倍,官方称其 “刷新当前全球大模型厂商 API 的速度上限”。这项研究成果来自与 TileRT 团队的合作,后者与 TileLang 来自同一团队——就是那份广为流传的梁文锋讲话里,被认为有潜力瓦解英伟达 CUDA 护城河的编程语言。 不少研究员都同意, Infra 上值得优化的东西实在太多。6 月 9 日,TileRT 团队又公布了与小米合作的成果,把 MiMo-V2.5-Pro 这个拥有 1 万亿参数的模型的速度推到了 1000 token/s。 随着编程需求的爆发,智谱新模型训练也越来越朝着长程任务的方向进行,同时在模型架构上尽可能照顾推理的需求,TileRT 在介绍与智谱合作的那篇博客上,把它列为下一阶段的任务:模型、编译器与硬件开始重新耦合。 5.2 的几项核心架构改动,几乎都在围绕推理成本设计。技术报告公开的包括 IndexShare——通过复用稀疏注意力层的索引器把百万 token 场景下单位 token 的计算量降低 2.9 倍;以及改进后的 MTP 草稿层,接受长度提升 20%,生成速度随之快约两成。 后训练阶段,智谱重新采用了 PPO(Proximal Policy Optimization,近端策略优化),并配套了名为 SAO (Single-rollout Asynchronous Optimization,单轨迹异步优化)的异步方法,让每条任务跑完立刻进入学习——行业方法通常在约一百六十步就崩溃的地方,它稳定训练了一千步;自研框架 slime 则能在约两天里把十几个专家模型合并成一个。 技术报告中没有公开的是推理引擎层面的配套改造,所有这些优化的最终结果是一张归一化图,如果把 GLM-5.1 处理 3.2 万 token 上下文时的吞吐看作基准的话,20 万上下文长度时,GLM-5.2 的吞吐能力为 4.7 倍,而 GLM-5.1 则为 2.77 倍,几乎高了 70%。 这也是目前模型公司共同的优化方向。Kimi 的 K3 在模型架构上更激进,它把四分之三的注意力层改成了所谓 “线性注意力”,相比于智谱的方法,这是一种 “有损” 的改动,带来的好处也是立竿见影:缓存体积大幅减少,吞吐能力同步提高。 一位投资人对《晚点 LatePost》表示,Infra 层优化将是未来一两年 AI 投资的重要主题:模型能力趋同之后,谁能把同样的卡跑出更多 token,谁的账就更好看。这让 Infra 人才的薪资增长飞快,1% 的效率提升放在大规模部署的算力设备中,节省下来的钱也是天文数字。
顯示更多
《晚点 LatePost 》独家获悉,智谱 MaaS 开放平台注册用户(即 API 用户)近 700 万,相比七月初增长约 200 万,其中包括 2.3 万家企业客户,对标 Codex 的开发者产品 ZCode 上线 1 个月用户突破百万。 今年以来,智谱 ARR 增长 15 倍,根据我们了解,在 Kimi 和阿里新模型发布后,智谱 ARR 增速没有受影响。有投资人透露目前 ARR 来到 20 亿美元,但智谱官方已经否认,接近公司的人表示,实际数字应该更高。 若按 20 亿美元口径计算,注册用户当月平均在智谱开放平台花费约 160 元人民币。 7 月 21 日,市场传出智谱已建成规模 1 GW 的国产 AI 算力基础设施,据《晚点 LatePost》了解,有超过 5 万块国产算力芯片已经启用,以缓解日益增长的推理需求,7 月 31 日,智谱长期限售的 Coding Plan 在大幅涨价后已开放购买。
顯示更多
《晚点 LatePost 》独家获悉,智谱 MaaS 开放平台注册用户(即 API 用户)近 700 万,相比七月初增长约 200 万,其中包括 2.3 万家企业客户,对标 Codex 的开发者产品 ZCode 上线 1 个月用户突破百万。 今年以来,智谱 ARR 增长 15 倍,根据我们了解,在 Kimi 和阿里新模型发布后,智谱 ARR 增速没有受影响。有投资人透露目前 ARR 来到 20 亿美元,但智谱官方已经否认,接近公司的人表示,实际数字应该更高。 若按 20 亿美元口径计算,注册用户当月平均在智谱开放平台花费约 160 元人民币。 7 月 21 日,市场传出智谱已建成规模 1 GW 的国产 AI 算力基础设施,据《晚点 LatePost》了解,有超过 5 万块国产算力芯片已经启用,以缓解日益增长的推理需求,7 月 31 日,智谱长期限售的 Coding Plan 在大幅涨价后已开放购买。
顯示更多
0
13
17
1
轉發到社區
字节自成立一直以来推崇 “大力出奇迹”:进入一个领域时,通常会成立不止一个团队,投入大量资源,同时推进多个项目。 2012 年,字节跳动刚成立时,上架了 13 个应用,最后内涵段子、今日头条获得大量用户,推动整个公司增长。2015 年开始,字节跳动陆续推出 20 多个应用进入海外市场;2016 年用 “火山”、“抖音”、“西瓜” 三路齐下短视频。最后,字节跳动在收获了今日头条后的增长曲线——抖音及 TikTok。后来的游戏和教育业务也延续了这个模式,推出数十款游戏和应用。 在 AI 上,字节也是投入最坚决的一家公司,资本开支最大、拥有最多的卡、招聘了最多的顶尖人才,穷尽所有业务方向,不放过任何可能性。 2025 年,视频生成领域的主流判断是:沿传统 DiT 架构(扩散式 Transformer)继续扩大预训练,提升空间已经不大,多数团队把重心转向后训练。据我们了解,快手可灵也曾尝试训练更大的模型,但没有做到极致,中途退了回去。 Seedance 选择反着来。他们决定投入更多资金和算力,把预训练做到极致。经过近一年优化,Seedance 2.0 成为第一个完整采用 MoE 架构的视频生成模型,参数 2000 亿。2026 年 2 月上线后,它迅速被公认为全球性能最强的视频模型。 今天,做大模型尺寸成为行业共识:7 月,月之暗面发布了 2.8 万亿参数的 Kimi K3,是国内迄今最大的开源模型;马斯克的 xAI 把 Grok 底座从 5000 亿参数扩到 1.5 万亿,并称下一代要做到 6 万亿;OpenAI 与 Anthropic 也曾传出要训练更大尺寸的模型。在语言模型上落后的字节,想用同样的方式赌一把弯道超车。 这不是件容易的事。视频模型整体所需的资源不算多,比如对推理芯片的要求低、研发人力也更便宜——Seedance 核心算法成员仅十余人。但更大参数的语言模型涉及到除了算法层面的创新之外,团队还要面临处理完全不同量级的系统工程,更大量、更多样的数据,以及需要组织各个部门之间深度配合。 不过变化正在发生。字节高层在 Seed 内部极力推动取消赛马机制,收拢在同一个方向上的资源,即使工作上有重合的地方也尽力明确划分职责。Seed 也尝试打破部门墙,让不同部门之间的人合作起来。 一位曾在 Seed 的人士提到:“字节的文化可能不适合创新,但非常擅于解题。”Seedance 解开了第一道题,字节现在想用同样的方法解下一道。
顯示更多
0
71
57
9
轉發到社區
过去半年的 Seed:多模态领先、大语言追赶 过去半年,Seed 的多模态模型取得了显著成绩:今年 2 月上线的视频生成模型 Seedance2.0 和图片生成模型 Seedream 5.0 Lite 声量一度超过业内其他同类模型,迅速引发关注。Seedance2.0 成为火山引擎 MaaS 业务营收的基本盘。 同期发布的语言模型 Seed 2.0,市场反响却较为有限。它一度因较好承接春节期间涌入的 C 端需求,在内部获得好评。但春节大战中,Anthropic 凭借 Opus 系列的 Coding 能力迅速打开程序员和 B 端市场,ARR 很快逼近并反超 OpenAI。中国大厂这才意识到,自己错过了 Coding 的窗口期。与此同时,GLM-5 和 Kimi K2.5 的 Coding 能力也已明显领先。 模型能力的落后影响到了收入端。据我们了解,火山引擎目前是国内最大的模型 API 卖家,市场份额约占一半。火山引擎 2025 年的收入在 150 亿元左右,今年内部定下的目标是超 400 亿元。目标虽大,但并非没有隐忧。 火山引擎的 token 消耗能反应商业化的增长。多位接近火山引擎人士告诉我们,豆包大模型的 token 消耗中,超过一半来自 Seedance 和 Seedream 两个多模态生成模型系列,语言模型占比不高。 二季度以来,随着短剧行业增长见顶、经济大环境的变化,Seedance 的 token 消耗和收入增速放缓,并影响了火山 MaaS 的整体 token 增长——豆包大模型的 token 消耗,3 月为 120 万亿,6 月为 180 万亿,低于原计划的 250 万亿至 300 万亿目标。 智谱和月之暗面凭借持续提升的 Coding 能力,ARR 分别突破 10 亿美元和 3 亿美元。 为补课 Coding 能力,张一鸣亲自邀请,高薪吸引 DeepSeek 核心研究员郭达雅加入 Seed,负责模型 Coding 能力的专项训练。字节将 Coding 相关的研发资源收拢整合,统一划归给郭达雅。同期阿里千问基模团队也投入更多资源和人力专攻 Coding 训练。 训练好的模型更重要的是数据。大公司可以凭借推动内部业务线使用自研模型做开发,形成真实场景反馈数据。但仅有这些还不够。 我们了解到,Seed 内部曾激烈讨论过蒸馏路线的可行性,字节高层则担心蒸馏对 Seed 和技术带来的危害。据 The information,张一鸣在 Seed 的 all hands 会议上明确表示,即使不蒸馏意味着公司在技术上会短暂落后国内竞争对手,也不会采用这一捷径来推进其 AI 模型能力。 8 月 6 日,字节跳动举行公司全员会。豆包负责人赵祺在会称,大模型的市场潜力很大,因此不担心经济回报,但收入还是重要的。 在模型研发上,字节拥有国内最充足的算力储备、业内领先的基础设施能力和高密度的人才队伍,这些构成了它的底气。Seedance 的成功也让字节看到,模型能力一旦领先,便能迅速转化为商业护城河。 一位字节人士说,Seedance 证明,用户会自然流向能力最强的产品。只要能在关键节点做到行业第一,就有机会快速抢占市场,因此不必过度焦虑于短期的排名落后。
顯示更多
晚点独家丨字节讨论训超 5 万亿参数模型,张一鸣:不蒸馏、别被 Coding 这种短期热点影响 《晚点 LatePost》独家了解到,字节跳动正在讨论训练一个参数规模超 5 万亿的模型,它超过阿里的 Qwen 3.8-Max(2.4 万亿参数)和月之暗面的 K3(2.8 万亿参数),也是目前国内已知参数规模最大的模型。通常而言,模型规模越大,智能水平往往越高。不过该计划仍处于早期阶段,并不代表模型最终一定会发布。新模型将由 Seed Foundation 负责人项亮主导,与大语言模型预训练数据负责人沈科合作。为此,Seed 正在重新梳理组织,划分职责,分配资源。 项亮与沈科均是字节跳动人工智能及大模型研发体系内的核心骨干,均出自字节的 “搜广推” 体系。项亮本科毕业于中国科学技术大学,博士就读于中科院自动化所,2016 年加入字节,曾负责机器学习中台 AML 团队,后调任豆包大模型 Foundation 团队任负责人。沈科 2018 年清华毕业后,加入字节跳动,现主要负责 LLM 预训练数据。 自字节入局大模型以来,Seed 一直被视为国内最有希望的团队之一。豆包有今天超过 2 亿日活的用户体量,很大程度上也归功于 Seed 。但今年,质疑声开始出现。 2 月中旬,吴永辉执掌 Seed 后推出的关键模型 Seed 2.0 正式发布,但市场反响有限。几乎同一时间,智谱开源的 GLM-5 被市场视为国内第一个能与 Anthropic Opus 系列比肩的模型;7 月,月之暗面的 Kimi K3 发布,多项第三方评测认为,它已接近海外闭源旗舰 多位字节人士告诉我们,上半年,Seed 许多团队也在不断反思。这是字节讨论训练超 5 万亿参数模型的原因之一,与其在现有尺寸上继续追赶,不如把参数规模一次推到同行的数倍,争取领先位置。“像一场赌博。” 一位接近 Seed 人士说。
顯示更多
0
32
14
4
轉發到社區