关于Qwen基模负责人林俊旸离职,我要说句不意外,肯定有人又要说我马后炮,但其实我这几个月来在上播客和写稿子里不止一次的提到过一个细节:
清华大学那场AI-Next峰会上,林俊旸邀请观众体验Qwen,用的是
模型干模型的,产品干产品的,这当然是模型团队的舒适区了,只投身研究、不负责市场,Qwen在开源社区里的究级口碑就是这么打下来的,但产品团队就难受了,做什么事情都需要和自己平级的模型团队配合,只能协调,不能统筹。
产模分离是阿里过去几年里最奇怪的地方,在千问App还没有被独立出来发展的时候,还可以说且行且珍惜,现在千问App要直接和豆包元宝打消耗战了,还让模型团队保持例外论,这肯定行不通。
最新的形势就是,大厂在做DAU,豆包现在还在发红包你敢信,小虎在冲ARR,月暗智谱MiniMax三家给洋人卖Tokens卖疯了,那么Qwen的位置在哪里呢,你总得沾个边吧?
事实上,AI一号位工程的调整,是这一年来几乎所有国内互联网大厂都在做的事情,字节和腾讯都干了,轮到阿里大家觉得很奇怪,主要还是Qwen模型本身没出太大问题,突然换将有些刺激。
还是那句话,组织的方向很重要,不认同组织的判断,就会很麻烦,这和你是不是一个好人、你做的工作是不是很优秀,关系不大。
就像没人会不尊重杨立昆的学术成就,没有他老人家的贡献,AI的发展指不定还要晚多少年,但大家也都心知肚明,继续让他带Meta的AI实验室,那Meta就真完蛋了,你不可能让一个不相信Transformer的人去带领大模型⋯⋯
前段时间,因为诉讼披露,微软的CTO有一封2023年底发给老板的邮件被曝光,里面是他但是作为对接人看到并汇报的OpenAI宫斗事件,说以Ilya Sutskever为首的研究团队讨厌需要和产品团队争夺资源,how dare you,竟敢让我们排队等GPU!
微软的CTO在此批注,表示自己内心都是崩溃的:「OpenAI的研究团队根本没有明白,如果没有Applied的商业成功,他们根本不可能拥有现在这么多GPU。」
所以,从国内到海外的实践经验都说明,产模分离是一个田园牧歌的理想状态,它可以暂时性的存在,但前提是公司没有市场回报的预期,愿意千金买马骨,Qwen这几年过的的好日子,都是这么来的。
新的剧本就是阿里不愿意了,作风依然很粗暴很阿里,但就目的来说,其实没那么大的争议。
再说了,和OpenAI的11个联合创始人里走了9个相比,这才哪到哪啊⋯⋯
记得马老师曾说阿里要每年定期给社会输送人才,结果都是些年满35岁后被优化出来的P7P8们,给接收方的牛马们带去了一点点阿里味的震撼,连山姆看似牢不可破的名声都差点被打崩了,不过这次林俊旸流入自由转会市场,就没得阴阳了,是真的大牛出圈,大厂们赶紧抢吧。
顯示更多
我已经检测过了,fable 5的强大是因为基模,相比于opus是跨越级的提升,超过gpt pro和gemini deepthink很多,不是提示词工程可以达到的
为什么绝大多数agent创始人都会把基模列出来直接让用户选用?这是一个悲凉又现实的选择
关于AI大模型的冷知识
1. 如果你是商业化 就 deepseek
2. 如果你是自己训练模型 基模选 qwen
3. 如果你是自己用就 fable5
4. 如果你是穷逼 就 gpt
5. 国产不一定就比 gpt 重置便宜
顯示更多
Agent的终局是SaaS,越来越相信这个了,不然就会被基模吃掉
过去半年的 Seed:多模态领先、大语言追赶
过去半年,Seed 的多模态模型取得了显著成绩:今年 2 月上线的视频生成模型 Seedance2.0 和图片生成模型 Seedream 5.0 Lite 声量一度超过业内其他同类模型,迅速引发关注。Seedance2.0 成为火山引擎 MaaS 业务营收的基本盘。
同期发布的语言模型 Seed 2.0,市场反响却较为有限。它一度因较好承接春节期间涌入的 C 端需求,在内部获得好评。但春节大战中,Anthropic 凭借 Opus 系列的 Coding 能力迅速打开程序员和 B 端市场,ARR 很快逼近并反超 OpenAI。中国大厂这才意识到,自己错过了 Coding 的窗口期。与此同时,GLM-5 和 Kimi K2.5 的 Coding 能力也已明显领先。
模型能力的落后影响到了收入端。据我们了解,火山引擎目前是国内最大的模型 API 卖家,市场份额约占一半。火山引擎 2025 年的收入在 150 亿元左右,今年内部定下的目标是超 400 亿元。目标虽大,但并非没有隐忧。
火山引擎的 token 消耗能反应商业化的增长。多位接近火山引擎人士告诉我们,豆包大模型的 token 消耗中,超过一半来自 Seedance 和 Seedream 两个多模态生成模型系列,语言模型占比不高。
二季度以来,随着短剧行业增长见顶、经济大环境的变化,Seedance 的 token 消耗和收入增速放缓,并影响了火山 MaaS 的整体 token 增长——豆包大模型的 token 消耗,3 月为 120 万亿,6 月为 180 万亿,低于原计划的 250 万亿至 300 万亿目标。
智谱和月之暗面凭借持续提升的 Coding 能力,ARR 分别突破 10 亿美元和 3 亿美元。
为补课 Coding 能力,张一鸣亲自邀请,高薪吸引 DeepSeek 核心研究员郭达雅加入 Seed,负责模型 Coding 能力的专项训练。字节将 Coding 相关的研发资源收拢整合,统一划归给郭达雅。同期阿里千问基模团队也投入更多资源和人力专攻 Coding 训练。
训练好的模型更重要的是数据。大公司可以凭借推动内部业务线使用自研模型做开发,形成真实场景反馈数据。但仅有这些还不够。
我们了解到,Seed 内部曾激烈讨论过蒸馏路线的可行性,字节高层则担心蒸馏对 Seed 和技术带来的危害。据 The information,张一鸣在 Seed 的 all hands 会议上明确表示,即使不蒸馏意味着公司在技术上会短暂落后国内竞争对手,也不会采用这一捷径来推进其 AI 模型能力。
8 月 6 日,字节跳动举行公司全员会。豆包负责人赵祺在会称,大模型的市场潜力很大,因此不担心经济回报,但收入还是重要的。
在模型研发上,字节拥有国内最充足的算力储备、业内领先的基础设施能力和高密度的人才队伍,这些构成了它的底气。Seedance 的成功也让字节看到,模型能力一旦领先,便能迅速转化为商业护城河。
一位字节人士说,Seedance 证明,用户会自然流向能力最强的产品。只要能在关键节点做到行业第一,就有机会快速抢占市场,因此不必过度焦虑于短期的排名落后。
顯示更多
天才一样的商业化嗅觉(:
原因有很多 因为我们之前做自己的新闻小模型的时候 选择基模发现千问的小模型是我们测试下来最强的 遥遥领先
看到能跑到手机上我就知道苹果估计也发现了 没想到合作来的这么快
顯示更多
AI 抢人大战退潮,“天才” 也要被挑选了
- 大模型公司曾给尚未做出工业成果的年轻人开出百万年薪。他们快速建立起团队,想尽办法找到那些聪明、有潜力的人。字节一度先把人抢过来,再给他找位置。但现在,情况正在改变。
- 今年秋招,一位 2027 届博士生带着六篇顶刊论文、两段头部大厂模型实习经历,申请了二十多家公司的人才计划,他原本预计能拿到十二三家的机会,到了 10 月下旬只有五六个意向,腾讯、阿里的结果也不如预期。高薪抢人的故事还在发生,但机会已经没那么多了。
- 履历更好了,机会却少了。有候选人完成三轮技术面试后,被 HR 告知公司技术重点调整,岗位取消;流程推进也慢,有候选人追问 HR 面试进度:“一次不回、两次不回、三次不回,后面拍一拍也不回。” 而急于招人时,HR 隔几天就会主动询问近况、持续 “保温”,甚至带鲜花到学校,为已录用的学生庆贺。这些经历,构成了求职者 “遇冷” 的体感。某头部大模型公司招聘负责人说,“各家基模团队整体在缩减校招、社招的招聘名额,这基本是今年业内的共识。”
- 长期关注 AI 人才流动的 Sam 将当下人才市场称为 “K 型分化”:有大规模预训练、强化学习或万卡集群基础设施经验的人,仍能拿到高价;主要凭论文、缺少训练经验的初级候选人,机会减少。一位长期为模型公司招人的猎头说,早期推荐一个不错的人选,团队往往愿意见一见;现在,对方会把候选人和现有成员比较,他能补上哪一块缺口,或者带来多少新的能力。
- 这背后是基模研发正在发生变化,团队的工作分得更细了。一位业内人士介绍,早期大家都不知道怎么做,掌握关键技术的人很重要;训练流程明确后,“人不再是核心生产要素了”。他把基模研发比作 “制造业”:数据清洗、小模型实验、强化学习、合板。工序标准明确后,公司更清楚哪里缺人。
- 求职者的履历也越来越漂亮:Kimi、DeepSeek 实习、技术博客、数千 GitHub 星标的开源项目、奥赛金牌都可能出现在简历上,但面试官手里也有很多同样亮眼的候选人,一个人比去年准备得更充分,对手也是。但履历漂亮不等于能独立做研究,一位招聘负责人发现,有些候选人能够讲清做了什么实验、得到什么结果,却未必能说明背后的判断。随着团队更成熟,公司需要的不是只会执行任务的人,而是能够理解问题、作出判断并独立解决问题的人。
- 在这样的环境里,熟人推荐也变得更重要。一起做过项目的人知道谁提出了办法、谁真正解决了问题,论文署名和简历却很难说明个人贡献。大模型圈的校友、同门和前同事联系紧密,哪里缺人、谁想走、谁做出了什么成果,消息传得很快。一些候选人通过合作者推荐进入头部团队,获得更完整的评估;招聘也逐渐集中于少数高校和团队,能力之外,还有“某种信任的传递”。
- 但这也意味着,不在这些关系里的人更难获得机会。一位去年求职的研究员,在几家模型团队碰壁后,决定暂时不再反复投递,把时间用来做一项更好的研究。“攒代表作,发出来……等人家找吧。” 后来,确实有新团队主动联系了他,但相比熟人内推还是波折了许多。
- 找工作变难,影响的不只是收入和职位,还有年轻研究员能不能获得真正的训练机会。还有年轻研究员能不能获得真正的训练机会。相邻两届、研究背景接近的同门,可能因为毕业时间不同,一个拿到人才计划,另一个却没有。先进入核心团队的人已经参与过模型训练、积累了经验,后来者却需要先有经验,才能争取到项目。一些实习生主要做数据配比和小规模实验,真正参与模型架构等核心工作的机会越来越少。一位投资人感叹:“人才是被环境塑造出来的,现在没有那种环境可以塑造人才。”
- 一位进入头部人才计划的学生说,他所在团队允许探索,但资源有优先级,公司把更多算力投向 Coding,其他方向只能往后排,“有卡才能说其他事”。这种分化甚至更早地发生在学校里,高校里的学生也需要先获得导师经费、算力或校企合作机会,再用论文争取第一段实习,最后靠实习成果换取下一次机会。履历越好,越容易获得资源;资源越多,又越容易做出成果,形成不断扩大的循环。
顯示更多
最新离谱发现:人类可能是一种严重失控的 AI Agent。🤣
假如按照AI的标准审查人类,你会发现一个非常抽象的碳基模型。
代号:Human。
硬件配置相当炸裂:
860亿个神经元,脑功耗大约20W,自带视觉、听觉、语言、触觉等多模态能力。
但这玩意儿的Bug,多到能让程序员当场崩溃。
1、Prompt Injection漏洞极其严重。
Human原计划晚上学习3小时。
朋友突然发来一条消息:
“出来喝两杯?”
系统立即终止当前任务,自动切换到娱乐模式。
更骚的是,第二天该模型会解释:
“昨天确实有点事,今天一定学习。”
2、幻觉严重,而且死不承认。
两个Human对同一件事情产生完全不同的记忆。
双方都没有日志,没有录屏,没有证据。
但都坚称自己100%正确。
当有人指出错误时,模型不会重新推理,而是直接输出:
“你什么意思?你是不是针对我?”
3、Thinking模式经常被主动关闭。
遇到复杂问题,Human理论上具备推理能力。
但只要看到自己不喜欢的观点,就会直接跳过分析。
输入:一个新闻标题。
输出:800字激情辱骂。
Token消耗巨大,信息增量为零。
最离谱的是,输出完成后还会给自己打分:
“我今天又把一个傻逼骂醒了。”
4、Planner和Executor根本不是一套系统。
晚上23:30:
“明天6点起床,跑步5公里,学习英语2小时。”
Planner:Success ✅
Memory:Saved ✅
Motivation:100% ✅
第二天早上6点:
Executor:Timeout ❌
7点:
Retry Failed ❌
8点半:
System Reboot。
Human睁开眼睛:
“卧槽,怎么又睡过头了?”
5、该模型最可怕的功能:自动合理化。
赚不到钱:经济不好。
减肥失败:体质问题。
工作拖延:状态不好。
熬夜刷手机:需要放松。
系统可以为任何执行失败生成一套完美解释。
而且逻辑自洽,置信度极高。
研究人员试图联系Human的开发者。
遗憾的是:
没有官方文档。
没有GitHub仓库。
不支持回滚。
没有售后服务。
每天都有几十亿个实例在疯狂提交Issue。
最恐怖的是,这些Agent至今坚信自己拥有完全自由的意志。
而且每一个都觉得:
“其他Human都是傻逼,只有我最清醒。” 😂
顯示更多
读知乎回答有感,浅谈一下后训练 benchmark
Any benchmark will be saturated,而随着工业界后训练的发展,reasoning / coding 的 benchmark 越来越泛化 / 众包化。其实 LLM eval 一直是个草台班子,每家都可以有自己的 setting,而任何 setting 只要不被强行统一就存在操作的空间,最早可以调 temperature / top_p / length,后来可以调 harness / setting。
AA 给出了一个相对“规范”的 setting,让大家都听它的而不是野蛮生长,但这并不 make sense。只要评测非中心化就一定存在 noise,任何结果都可以是 cherry pick 后的,而 AA 官方的 95% 置信度结果就成了 judge 模型能力的标杆。
代价是什么呢?模型如果没有很亮眼的 AA 分数,即使精心打磨体感 / working / CUA,无人在意,这本质也是模型要 sell 就要迎合表面主流的评测中心化组织。
至少我们可以从每家基模厂、每个新模型的发榜看出来大家并不会被 AA 所局限,而 OSWorld v2、ALE、TB4 / TB-Sci 等 frontier 众包 benchmark 已经告诉我们:最 frontier 的能力一定是最通用的能力,而 agent 已经站在了单 domain 能力的肩膀上。
现在的职业任务分为三类,已经被 AI 训练好的,无法被 AI 训练的,还在被 AI 训练的。所有能归纳在 Computer Use 的都是第三类,而模型如何解决第三类职业任务仍需要数年的进化。
这些众包 benchmark 越来越变成第三类任务的闭包,决定了未来数个月内基模团队的优化方向,而越是 frontier 的 benchmark 就越有 noise。如果 benchmark 团队不为自己的错题率负责,只会诞生越来越多的错题 benchmark:GPQA-Diamond,HLE,充斥大街的弱模型 judge。
为了消灭 LLM-judge 所引发的不确定性,众包 benchmark 一定会越来越商业化,而 evaluation 一定会在短暂的时间内迎来大洗盘。
顯示更多