最近看了一篇 career advice 的长文。作者是一家 fully agent-native 公司的 founder,之前在 Scale、OpenAI、Google 都待过。
之前也跟一些行业内的研究员聊到过一个问题:如果你有小孩,在 AI 时代准备怎么教育他?确实啊,AI 把活都干得七七八八了,该让孩子学什么、卷什么?
借着这篇,聊聊我们自己的看法/建议。
1、把注意力放在真正稀缺的资源上
那篇长文里有个细节,我觉得很真实。作者当年手里有量化的 offer,保底现金高不少,但他选了 Scale AI,因为喜欢那里的社区,也想接触不同的产品和应用。后来正是通过 Scale,他认识了做 LLM inference 的那批人,才有了 DeepMind 和 OpenAI 的机会。当年的同事,现在也成了一圈 Scale 系 founder。
回头看,这些人脉和学习机会带给他的东西,远超 quant 多给的那点现金。
他的观念是:现在拿钱比任何时候都容易。vibe-coding 时代,找个快速赚一笔的机会不难。但真正稀缺的,是别人真实的时间,是牢固的人际关系,是你做成过事之后积累的声誉。
我周围也有些朋友,之前不在 AI 圈,但这两年一头扎进来,逐渐走到更核心的位置。他们放弃了安稳打工的收入,选择在 AI 圈摸爬滚打。要的就是这些稀缺资源。
2、学会找题
AI 最先替代的,是定义清楚、可以评分的任务。学校过去训练的大多也是这种能力:题目已经有人出好了,你负责把答案做对。
但 agent 越来越强之后,真正拉开差距的会是:你能不能发现一个值得解决的问题,能不能判断该把多少时间、token 和资源投进去。
答案越来越便宜,好问题越来越贵。
所以如果问 AI 时代该怎么教育小孩,我觉得至少要让他长期待在真实的问题里。自己做项目也好,研究一个没人布置的题目也好。找题的能力不是上课教出来的,是在一次次选错、做砸和重来里长出来的。
3、用 bitter lesson 选公司
Rich Sutton 那篇 bitter lesson 说的是:通用方法加 scaling,最终会赢过任务特化的优化。这条规则拿来选问题、选公司,同样适用。
公司和职业的回报从来都是幂律分布,AI 只是把走到结果的速度加快了。现在写软件门槛这么低,谁都能搭个简单系统,真正持久的价值只会来自对足够有野心的问题的极致专注。
选公司就问两件事:它做的是不是这个问题最有野心的形态?它有没有真的解掉的可能?
选岗位就问一件事:这个位置能不能让你直接在公司要解决的那个问题的最前沿干活?
(当然,上述说的是最理想的版本。如果暂时进不了最核心的位置,也看这个岗位能不能让你逐渐靠近核心问题)
4、最后一英里,用冲刺跑
红杉的 Alfred Lin 写过,最后 10% 是 90% 的工作量,也是 90% 的回报。
AI 把结果两极化了,因为中位数水平就是一个 agent 拿着随手写的 prompt 能吐出来的东西。价值只能来自你对某一小片问题的独特视角,或者对细节的执着。
最后一英里靠迭代。而且 coding agent 进步太快,经常更好的做法,是带着上一轮的教训,直接用下一代模型从头再来。
5、xG 和射门效率
足球里 xG(预期进球),衡量一支球队按机会质量算应该进几个球;效率,则是把机会真正转化成进球的比率。
职业生涯很长,不是每个高 xG 的机会都必须抓住。但你得先让自己站在能看见这些机会的位置。
不过人生到某个阶段是要进球的,不能光看见机会,临门一脚的效率也重要。他复盘自己的职业选择时说,大部分决定都做对了,但后悔没有在做决定前,多花一点时间收集信息。
6、researcher 是心态,不是职业
说实话,现在做 research 的门槛前所未有地低。你不需要先进入前沿实验室,才能开始做研究。先大量使用模型,再把直觉沉淀成 evaluation。
前沿实验室里研究员的日常,无非是好奇心驱动着探索新想法,跟 infra 搏斗着把想法实现,把整个系统理解到足够细以便高效 debug、再把结果的价值讲清楚,去换更多算力。
这些事,你不在前沿实验室也全都能做。
所以我越来越觉得,researcher 是一种心态,不是一种职业。这是我整篇文章最想送给大家的一句话。
世界仍然充满机会。解锁的钥匙就是找到有意思的问题,然后交付超出预期的结果。就这么简单,也就这么难。
显示更多
一篇不错的解读:《META出租H100与购买先进算力并不矛盾》
Meta 做 NeoCloud 与继续租 Crusoe 1.6GW,并不矛盾
昨天盘前,Meta 被报道正在考虑把多余 AI 算力对外商业化,甚至做成类似 NeoCloud 的业务。市场第一反应非常剧烈:Meta 盘前上涨接近 6%,但 AI算力和 neocloud 相关股票则受到负面 Narrative 影响, 市场担心的是:如果 Meta 也开始把 GPU 算力对外卖,是否会直接导致算力过剩?
这个反应可以理解,但我们认为市场把问题想简单了。
首先,Meta 这件事本质上不是“AI 算力需求见顶”,也不是“Meta 不需要继续买算力”。相反,Meta 同时还在继续锁定非常大规模的新算力。根据 Bloomberg/Reuters 报道,Meta 最近与 Crusoe 签署了新的 AI computing capacity 协议,将从 Crusoe 位于 Texas Childress 和 Missouri Warrenton 的两个数据中心获得合计约 1.6GW 的容量。
同时,Meta还在向其他Neocloud购买算力。我们在去年3Q25 META Preview中就提到过META正在向NeoCloud寻求购买3GW算力。
所以表面上看,这里确实有一个矛盾:如果 Meta 自己已经有多余算力,为什么还要继续向 Crusoe 租 1.6GW?
我们的理解是,这不是矛盾,而是算力代际切换。
过去两年,Meta 已经采购和部署了大量 H100/H200。这些 GPU 不是没价值,恰恰相反,它们对 inference、fine-tuning、企业模型服务、图像/视频生成、传统 ML workload 仍然非常有价值。但对于下一代 frontier model training,尤其是 3T+ 参数规模的 MoE、长上下文、多模态和 RL-heavy post-training,H100/H200 的训练经济性会明显下降。
关键不是 H100 不能训练,而是单位有效 token 成本变差。
当模型进入 3T+ 规模后,瓶颈不再只是单卡 FLOPS,而是 HBM 容量/带宽、GPU 间通信、scale-up 网络、checkpoint/restart、expert routing、sequence parallel、pipeline bubble、以及大规模 collective communication。H100 集群当然还能跑,但训练 wall-clock 更长,通信开销更高,集群利用率更难维持,最终表现为同样训练一个 frontier model,成本和时间都不如 GB200/GB300,未来更不如 Vera Rubin。
因此,Meta 现在面对的是一个很典型的资产配置问题:
最先进的 GB200/GB300/Rubin,要优先留给下一代模型训练;上一代 H100/H200,则应该尽量转成 inference 或外部商业化收入。
这也是为什么“做 NeoCloud”和“继续租 Crusoe 1.6GW”可以同时成立。
Meta 继续向 Crusoe 锁定 1.6GW,本质上是在为更长期、更先进、更大规模的 AI infrastructure 做准备。这种资源对于 Meta 来说,更多是未来 GB200/GB300/Rubin 时代的战略性产能,而不是简单补 H100 的缺口。
另一方面,Meta 既然已经买了大量 H100/H200,就不可能让这些资产在 frontier training 代际切换后闲置。Meta 内部当然有广告、推荐、内容排序等大量推理 workload,但这和 OpenAI/Anthropic 那种直接面向外部客户卖 token 的 LLM inference 业务并不完全一样。Meta 如果没有足够多可以直接 monetization 的外部 token demand,把 H100/H200 做成 cloud capacity 或 hosted model API 对外销售,是非常合理的资本回收方式。
这其实和 xAI / SpaceX 的思路有相似之处。xAI 今年公开宣布与 Anthropic 达成 compute partnership,向 Anthropic 提供 Colossus 1 算力;xAI 官方称 Colossus 1 包含超过 22 万张 NVIDIA GPU,包括 H100、H200 和 GB200,并可支持 training、fine-tuning、inference 和 HPC workload。(xAI) 这说明即使是 frontier AI 公司,也可能把一部分已有 GPU fleet 对外出租,同时把最新、最稀缺、训练效率最高的下一代集群保留给自己的 frontier model。
所以今天市场担心“Meta 进入 NeoCloud 会打垮所有 NeoCloud”,我们觉得有些过度。
更准确的判断应该是:
AI 算力市场正在从单一的 GPU shortage,进入多代 GPU 分层定价和分层使用阶段。
第一层是最新训练算力:GB300、Rubin,以及后续更大 scale-up domain 的系统,主要服务 frontier model training。这部分供给仍然稀缺,客户仍然会向 Crusoe、CoreWeave、Nebius、Oracle、Microsoft 等各类供应商锁产能。
第二层是上一代高端算力:H100/H200/部分 GB200,更适合 inference、fine-tuning、enterprise AI、hosted model、agent workload 和中小模型训练。这部分不是没有需求,而是从“最稀缺的训练资源”变成“可以规模化商业化的推理资源”。
第三层是更通用的 GPU cloud 和 long-tail enterprise workload,对价格更敏感,但需求弹性也更大。
在这个框架下,Meta 的行为其实很合理:它不是停止建设 AI infrastructure,而是在把不同代际的 GPU 放到最适合的经济用途上。
因此,我们不认为这是 AI infrastructure 的大问题。真正重要的判断是:下一代 frontier model training 对 GB200/GB300/Rubin 的需求仍然非常强;同时,H100/H200 这类上一代 GPU 也不会被废弃,而会进入 inference monetization 和外部算力销售阶段。
这对整个 AI supply chain 的含义反而是:
GPU fleet 开始变成多代际资产,而不是一次性训练工具。旧 GPU 不归零,新 GPU 继续稀缺。Meta 做 NeoCloud,不是需求崩了,而是算力资产终于开始金融化和商业化。
显示更多
记得Defi Summer 20年到22年这三年时间,大家经常感慨的一句话就是“币圈一天,人间一年”
因为技术迭代太快了,每天都有数不行的新东西出来,几天不看就跟不上节奏
现在这个感觉在币圈彻底消失,在AI那边出现了,每天的新东西就看不完,真的看不完
正好这几天看到圈里讨论Cerebras的帖子多了起来,昨天还看到不少路演信息,毕竟14号要挂牌交易。之前在Amber做分享的时候也单独讲过这个公司(当时用的那页PPT放在文末),所以简单说下我对Cerebras的判断
先说结论:这家公司很有意思,但核心变量不一定是他们造的芯片本身,而是未来AI的workload形态会是成什么样。
先简单说下它是干嘛的,防止有老铁还没看Cerebras
它最核心的技术,就是wafer-scale chip(晶圆级芯片),简单理解就是别人还在用“邮票大小”的芯片,它直接把整片晶圆做成一颗超大处理器,再配上超大 SRAM,把大量数据尽量留在本地高速处理,减少传统GPU最头疼的memory bottleneck。现在海力士美光涨上天就是因为HBM这东西太抢手,Cerebras是直接绕开了对HBM的依赖
很多人看到 Cerebras最牛逼的benchmark:推理速度比GPU快10-15倍,第一反应就是下一个英伟达?!
先别急。
这个benchmark最大的问题,是默认AI的核心需求永远是“更快吐token”。
如果只是人类盯着ChatGPT聊天,这故事其实没那么性感。你每秒吐 30 个 token,我已经快读不过来了。再翻10倍,边际体验提升几乎为零。
真正有意思的是 Agent。
Agent不读字,Agent消费Token。速度直接等于生产力。
一个OpenClaw/Hermes agent,如果要读网页、写计划、调 API、跑代码、报错重试、继续执行,一个任务可能要几十次 inference call。
每次 2 秒,任务就是分钟级体验。
每次 200ms,就是另一个世界。
所以 Cerebras更值得关注的地方,是 AI worker 这条线,而不是单纯的chatbot加速。
但问题来了 - 它的magic来自 wafer-scale + 超大SRAM,本地访问极快。但SRAM这东西有天然 tradeoff,速度快,容量贵,大模型塞不下就必须拆分。
而一旦拆分,chip-to-chip communication 就上来了。
LLM inference里最怕通信的恰恰是 decode 阶段。token 是一个一个往外吐的,每多一次 hop,延迟就是硬加上去,没法隐藏。
所以 Cerebras能不能成,关键根本不在“比 GPU 快几倍”,而是未来 AI 的主流计算形态到底是什么。
1. 时间线一 - 未来几年还是 前沿超大模型一统天下,动不动几千亿甚至万亿参数,所有请求都让超大模型自己处理,那 Nvidia的distributed infra 依然最舒服,Cerebras的速度优势会被通信损耗吃掉很多。
2. 时间线二 - MoE、蒸馏、量化这些技术如果继续快速进步,未来两年70B左右的模型做到今天700B模型 80%-90% 的效果,我一点都不意外。(这里要强烈感谢Deepseek一大波!)
如果世界往这个方向走,故事就变了。
大模型负责 planning / judgement / orchestration。
真正执行任务的大量 worker model 落在 30B-70B 这个区间。
这些模型足够聪明,又刚好能吃到高速本地推理带来的红利。
Agent 世界里,大部分token根本不需要最聪明的大脑。很多工作本质就是执行层体力活:浏览网页、改代码、调工具、retry、继续跑流程。
这个 topology一旦成立,Cerebras就直接进入自己的甜区
3. 时间线三 - 未来推理是端侧为主,用的都是8B,14B的这些小模型,那GPU也能跑的很好,甚至专用的ASIC芯片效率更高,这个场景下Cerebras的优势和护城河也就不高了
换句话说,超大模型云端推理或者超小模型的端侧推理这两个平行宇宙,Cerebras的优势都不够明显,只有主流推理落在32B-70B中等模型这个Size,正好“Big enough to stress GPU memory, Small enough to fit locally” 才是Cerebras最能大展身手的世界
所以我对Cerebras的判断是,300多亿的市值,短期看订单,财务报表这些数据,长期赌的则是未来Agent时代的计算范式到底落在哪个平行宇宙的时间线上
显示更多