If AI succeeds: 中产阶级的劳动力价值归零, 全面不可逆的通缩,商品和服务的供给无限丰富,就算有UBI但有效需求被摧毁。外加现在市场大量net flow都是passive 401k/pension flow .. 一旦reverse big tech 估值画面太美不敢看🫣
If AI fails: 连Google这种超级现金奶牛的连百年债都发完, 忍痛咬牙做股权稀释融资也做了,但如果 token economics UE转正的速度追不上 capex扩张, 基建折旧和能源成本,big tech估值也是画面太美不敢看🥹
横竖看都是大家一起梭哈死了算了🤣
显示更多
这个事和两个Space portco还聊过 (当时讨论微重力环境下最有商业价值的事情, 毕竟不是随便在火箭里就能做实验) , 其中一家是最有希望在现任ISS退役之后接棒宇宙空间站的Vast
@vast
TDLR重力不是最大的limiting factor, 10多年前的intel/samsung/tsmc 组团做G450C就尝试过450mm的. 太空里商业价值最高的材料是蛋白质结晶. mental model可以简化归纳为: 超高附加值 + 极小重量 + 地面无法复制 才有太空做实验的意义.
显示更多
看了下为什么最大的晶圆尺寸是 300mm,原因是地球上的重力导致,如果在太空的微重力环境下晶体的生长可以轻松突破 300mm 到更大尺寸,到那时 Cerebras 的芯片可以造得更大了。
所以看来看去,AI 的未来真要去太空,不仅仅有廉价的电力,还有先进制造的微重力环境。
显示更多
国内deep tech有两种, 一种是草根deep tech (譬如Unitree) 这种是真的市场化跑出来的, 一种你说的这种光环deep tech 主要是硬科技 (中科院和清华几个实验室里出来的)这种要靠to G & 大产业基金一轮轮撑
显示更多
嗯对啊, 因为product shipping velocity 都变成一样了 (assume大家生产力拉平), 所以「做什么」比「怎么做」重要很多很多.
不过我观察下来, 「单位时间内固定成本的路径试尝试」不同个体和团队还是差很远的, 大部分人的还是卡在试错闭环不够多上.
显示更多
什么是“宿命感”?今天和 CMU 的同学闲聊,两个就在身边的极端例子
1️⃣ 2010年毕业的师兄: 在当时还查无此人的 WhatsApp 和如日中天的 Facebook 之间选了 FB
2️⃣ 2022年毕业的 JYW: Master 第一年只能在国内上网课,后美国落地不到一年, 扛着h1b巨大压力,在一众大厂和 OpenAI 之间选了OAI
两代人,两个时代的转折点。个人命运的大周期齿轮⚙️就在那一决定的时刻开始转动
显示更多
蓝血PhD就是学术血统啦, 譬如Geoffrey Hinton/Ilya Sutskever这条基本就是纯正龙脉血统😂 新龙的话有Pieter Abbeel 这条线 (agentic/embodied, Peter 学生的公司加一起市值应该超过100b了); 当然还有就是尊贵的Feifei/Demis Hassabis/David Silver etc. 蓝血Phd融资就是拿cv融资的..
显示更多
系统性说一下, 对于年轻、没有重资本/重产业资源, 不是蓝血Phd, 大厂高P, 也没有线下供应链杠杆的 founder, 还剩下什么创业机会?
LLM对于有代码基础的人来说就是个无限满血的operational UBI, 拉平了信息差和基础研发门槛。新出现的市场无效点会迅速被抹平. 这个在prediction market做套利的朋友应该深有感触, 其他digital domain其实一样, 产品表现层和机制设计很难形成壁垒.
如果要有可持续的竞争优势, 需要是堆产业和资本壁垒, 以及企业级产品的交付复杂度. 看 Andreessen 一把融了 $15 Billion,而Benchmark 的flagship到最近一期都只有 500M 左右。这相当于一次性融出了 30 个 Benchmark。为什么要这么多钱?因为 AI 时代的竞赛已进入重工业模式(算力存储、大数据、产业垂直整合)brain power alone 的时代是在坍缩的, 原来sandhill要chase 辍学的Stanford founder, 现在都是拥有 20 年经验的 Deep Tech 老炮或蓝血 PhD (国内估计是字节高P) .. 资本对founder cohort profile发生了重要的转变, 在资本配置上完全就是K型曲线.
这一轮除了大labs (LLM labs的护城河有多深..其实也是个巨大的question mark, 这个可能要开一个新帖说, 这里不赘述) 很多真正有价值的公司必须得拥有更多“真实世界里的交付能力” 这个原来在fintech其实已经有体现. 在crypto的快速金融化之前, 我投资的时间一半时间在看fintech 一半时间在看hardtech. 当时投fintech的一个learning就是就是作为“搅局者” 的startup最大的upside不是去服务incumbents (譬如银行, 保险公司, 借贷公司) 而是要成为为这些服务本身. 所以当时投Sofi, Figure, Flexport, Lendinghome, Moneylion都是这个思路. 其实现在高度走向fintech的crypto也同样适用.
同理在老型SaaS被吊打的时候, AI powered workflow交付的不是 insurance software, 而是直接做卖保险的. 不是AI doctor copilot (OpenEvidence的上限也会在这里)
而是真正去重新打造新型的诊所, 考验的是医疗交付和运营本身, AI产业+的复杂度已经完全不是一个量级, 估值模型必然也不是ARR ... 取而代之的是考验产业整合复杂度、毛利结构和运营效率。小团队做一个 app、一个 API、一个 SaaS layer,就有机会靠产品和分发长出来的vintage不存在了.
但我也越来越相信,AI 会创造出一条非常宽的“中腰部”机会带:未必是 巨大的venture scale,但会有大量年收入 1000万到5000万美元、1-3个人就能管理得很好的机会 因为这个时代,一切都在变得高度personalized, 只需要服务一个niche的有消费能力人群就好. D2C产品上配合3D打印的技术成熟, 需要的对柔性供应链和流量同时都有抓手的founder. Digital consumer的机会在Onlyfans的垂类和变种, 要做的就是一小撮人的内容爽点(最近有个朋友默默在做女性向的sexual fan fiction, 收入非常亮眼, 起因时要给自己的女票写肉文和H漫..😆 ), 这个需要founder有deep intra community insight
如果你是有更大野心的年轻founder, 但是没有行业老登和你打配合去撬动行业再造的可能, 自己也不是蓝血PhD, 头部机会的最大杠杆依然只在两个地方:internet commerce and internet capital markets. ie: 找到可以最低摩擦去卖货的“货”和触达方式, 找到可以最低摩擦去让钱流转起来且可以有各种隐形费率的场景 (下面是我们内部memo的原话)
- Internet commerce turns attention & niche obsession into cashflow with the least friction
- Internet capital markets turn information asymmetry into fee streams with the least friction
只有在这两个地方, 速度还经常能赢规模,小团队还可能打穿大组织, 且有资本化的效率是最高的(both monetary gravity and velocity). 这也是我对未来crypto/fintech/open-fin最bullish的地方.
正如我之前说的, VC死没死不知道, 对于早期投资人来说, 实力和运气能互换的比例是越来越苛刻了, founder也一样. 所有行业都是, 选择比努力重要, 但是选择比努力难多了
显示更多
是的, 我今天还在和OAI的朋友聊, AI as a whole is more of an industrial story much less of a software story, 整个科技的摆锤又回到hyper-industrialized了 真正的“创业” 机会应该是在AI+ 大航天 大能源 大生科 大工业自动化etc 但是这些都不是只靠优秀独特能卷爱拼human brain power的机会了...
只有Internet commerce and internet capital market 才是给年轻founder最大的杠杠
显示更多
长大了越来越明白这个道理,和爸妈相处也一样。小时候看爸妈觉得他们都是超人无敌大英雄,世界里最伟大的存在。大了越发明白,包容他们的局限性和性格上和自己会有冲突的地方(我爸是INTJ, 我妈是ESTJ.. 😂) 才能有持久有意义的陪伴
所有长久的关系最终都会走向深沉的陪伴, 冲突>理解>接纳>共同成长几乎是所有高能量陪伴的共同路径. 互相帮助对方突破自己的局限, 做第二成长曲线,一起对抗宇宙的熵增, 就是正能量关系的意义吧.
显示更多
和任何长期关系的相处,本质上是要和对方的缺点相处,而不是优点。很多人在关系初期容易忽略这点,这个原则适用于所有长期关系:合伙人、cofounder、核心员工、亲密关系等
找男朋友看他爸是什么样的人, 找女朋友看她妈是什么样的人, 找合伙人看ta (现在/过去的)亲密伴侣是什么样的人, 找核心员工看ta和过去老板的关系是什么样
显示更多
硅谷的软件就业就业环境非常诡谲 (EE就不说了, 那简直是疯了, 整个湾区房价涨最多的就是最南边和最北边lol Man Jose突然硬气了) 好朋友参与组织了一个(Un)PTO (un-paid-time-off)的 “layoff to hikeoff"的club j就是失业人群一起去徒步的, 人数激增, 不乏原来star eng/product被干掉的. 但是过去有企业级产品开发和部署经验的没那么酷的position, AOMG家offer拿到手软
显示更多
当时学术界包括工业界对GenAI要么看不上要么颇有微词, 我记得当时有一次去NeurIPS (2018还是17) 学术界都觉CV基本卷到到头了, GAN的产业化那个时候还停留在讨论Deepfake和电影特效, NLP还至少要再卷10年才能摸到大规模产业化的边 (确实是10年, 不过完全不是原来主流NLP的路径 😂) transformer不够“elegant”
显示更多
几家AI startup其实都是照着上个时代的AI workload来做的,架构在Transformer 成为工业主范式之前就已经形成,到了LLM时代的转型期也挺艰难曲折
比如groq的主要架构基本上是17年就完成了,那是CNN的时代,架构也是以CNN/LSTM为主要的target,当时测试benchmark都是ResNet50,SRAM容量是绰绰有余的
结果进入LLM时代,一个LLAMA 70B模型的参数量占内存就相当于3000个ResNet50,就不够看了。groq幸好在片间延迟做的好,把scale out做出来了,才有了后来come back story的底层基础
到了20~21年,其实传统ML workload市场,ai 加速器已经是一片红海了 ,毕竟对硬件要求没那么高,但好在融资市场环境还很好,过的还不错
到了22~24年,这批SRAM路线的startup处境极其艰难,LLM吃掉了其他路线的份额,整个AI加速器全都是训练份额,推理市场极小,而startup们又完全无法在LLM训练上分到哪怕一点点汤,看不到前景,人员流失特别厉害,太多人在黎明前放弃
到了24~25年开始,AI 推理的市场逐渐被重视起来,startup们才开始慢慢缓过来,靠token速度刷PR,但依旧是叫好不叫座,TCO成本和Nvidia比高出一个数量级而且差距在拉大
到了25~26年,agent发展达到了一个质变拐点,推理token速度终于进入重要KPI,SRAM路线终于又焕发了第二春,Nvidia用LPU推进pareto frontier, Google TPU也开始跟进同样的路线,cerebras并不是LLM native的设计,但胜在多年积累成熟,也拿到了trainium+cerebras和openai的合作
AI startup们在迷雾中模糊的感知到一个远景方向,几经曲折,在各种山穷水尽中反复,实现的路径和方式和最初看到的已经完全不同,终于找到了属于自己的那块拼图的位置
大家也只是在19~20年附近,才开始模糊的感知到the bitter lesson,the scaling law,即便是GPT3把路趟出来了,也还是有如此多的迷雾,又经历了六年,这群AI startup才终于走出来
从后视镜回看,他们并不是精准预见了未来,而是艰难地活到了未来终于需要他们的那一刻。有一种惊心动魄而又柳暗花明的历史美感
显示更多
是的, 我今天还在和OAI的朋友聊, AI as a whole is more of an industrial story much less of a software story, 整个科技的摆锤又回到hyper-industrialized了 真正的“创业” 机会应该是在AI+ 大航天 大能源 大生科 大工业自动化etc 但是这些都不是只靠优秀独特能卷爱拼human brain power的机会了...
只有Internet commerce and internet capital market 才是给年轻founder最大的杠杠
显示更多
翻到了10年前当时在看 Cerebras Series B 的聊天记录,such a full circle/ 2017年6月,历史正在悄然发生分野。Attention is All You Need arXiv 上架,Transformer 架构当时工业界的重视程度远不如后来其对第四次工业革命的影响来的深远, 所以我对Cerebras的未来也并未觉得明朗
回看当时的判断,充满了时代的局限:那时我还在怀疑 Nvidia 是否具备支撑大规模数据中心的基因,Google依旧是那个自给自足的Google (G家TPU到现在也不会大规模对外), 觉得Cerebras 的“晶圆级引擎”是一个巨大的hype. 时代就像一个巨大的消音器,三维的我们永远听不见四维的声音
2017-2026的十年,是AI 时代完美诠释了海明威笔下的那种改变:“Slowly but surely, then suddenly all at once.” 再往前四年, 2014-2023的10年, 是加密数字货币的黄金10年
几乎每个指数型增长的行业的前 7 年都是漫长的伏笔. 后 3 年则是摧枯拉朽的爆发。过去15年作为前沿科技的观察者, 最迷人的时刻莫过于此, 曾亲手触摸过历史的草稿, 近距离观察在历史中迷失彷徨但依旧坚持的founder, 还有各种因为一个极其随机的选择, 与不可能想象的财富擦肩而过, 或者后知后觉获得了不可想象的巨大财富的人们
第四次工业革命的烟花, 必然一样灿然
显示更多
秋田线下比线上温润好多, 而且真的很P哈哈哈. 珍惜秋田老师的高密度干货! 感觉和我另外个老朋友超级像
@coolish (你两见面应该很有意思🤭)
显示更多
今天收到 follower DM,甩给我了去年
@jeff_run_faster 帮我蒸馏的这个推特的数据(估计烧掉不少 token),瞄了几眼挺多话还是很能震慑到自己——确实能教育好自己的还是过去的自己。
过几个月 30 岁了,很幸运自己去年比较闲发了很多推,一方面是连接了很多新朋友,一方面是输出了 20 来岁这十年最必要的一些心血和经验总结。无论是见解积淀还是社交关系自己都将长期受益。
这个推特还是会勤于落笔,给行业一线的朋友提供更多有效信息。
显示更多
“前面说的这些对于目前 28 岁的我都是毫无意义的,段永平和巴菲特可以去搞消费,去sell put,是他们的资金体量决定的。我去分仓和追求稳定性,既是舍本逐末,又不符合我的个性” 这位朋友写的超级赞. 忍不住多说几句. 1. 我在网上无数次说过, 进阶的唯一途径就是知行合一, 但“知” 里最难和最被忽视的就是“自知”. 了解自己比了解市场重要无数倍. 我自己复盘我自己的错误路径, founder的错误决策, 大多都是因为对自己的认知偏差导致的.
2. 对于所有人来说投资的基本目的是为了要让生活更好, 所以首先要知道自己预期的 “好”是什么. 是跑赢通胀, 还是35岁FIRE, 还是把投资磨练成一门手艺 (craftmanship) 变成一个一辈子都能玩的游戏? 我认识的很多年轻人对投资和商业本质其实没有很大的intrinsic interest, 但是纯粹就是想“赢” 这个就很本末倒置, 必然做不好.
3.有成长性的人在每个阶段不需要很多能和自己同频沟通的人, 特别是大学毕业后的5年你会发现身边的人开始迅速的分层. 世界就是一个巨大的沙漏, 可以全方位对抗熵增和时代的重力加速度的人才可以有escape velocity, 这个需要巨大的能量 (个人资质, 努力, 运气等等的综合体). 可以同频沟通的只有在同样高速成长的同龄人, 这样的人概率上就那么些. 已经高一个身位的前辈, 一般年长5-8岁这样的可以relate, 但是无法频繁沟通(你也不好天天打扰对吧), 如果你有这样的人, 那恭喜你, 这绝对是你的大贵人
显示更多
是的, opus 自我发挥太多了, 还是codex靠谱. 一个写码一个写doc & code review 的分工用下来是最顺的.
codex 5.5 和 opus 4.7 在软件编程领域真的不是一个档次的模型。
东京遛弯有感:
老当益壮的老人
生不如死的中年人
沉默寡言的年轻人
哥们和我说了一个神奇的生意, 他们律所在covid之后井喷式在做「退職代行」 就是专门帮日本年轻人给公司告知自己要辞职, 处理离职流程, 员工完全不需要自己出面 lol 日本GenZ真的是把迷惑文化更切身实际在执行..
显示更多
张忠谋姥爷子当年大战飞利浦那段特别精彩 (飞利浦最早有27%的股权, 还有一个super pro rata 允许其在特定条件下将持股比例提升至 51% 以上) , 有机会读原著的一定要去看. 时隔26年后写的下半册真的有种沧海桑田后后的唏嘘感 (对比看他上册的话). 看完自传后梭哈TSMC, 真的不需要什么DD 😂 台积电当时的就是台湾国发基金+ 台塑/台聚/耀華玻璃等一众本地企业众筹, 外加飞利浦投资. 可惜台湾国发基金早些年也把筹码过早的散掉了(现在只剩6%, 还是张忠谋姥爷子和他们说你们再也别卖了)..
显示更多
很少公开聊股票, 这次和台湾朋友
@168MrZ 聊起台积电和最近看完的张忠谋自传下册超级有共鸣. 能够基业长青横跨几个技术纪元的企业的必然需要超越创始人本身, 优秀班子的培养, 经营哲学的传承, 和强大的体制. 体制与个人的人性无关,需要凌驾于人治之上。体制建造者要作的是对权力欲的牺牲, 才能建造一个不会永远依靠你的系统
显示更多
6年前写的一条微博, 6年过去似乎一切都变了, 一切都没变👀 修改错别字重新发一遍, 与个位共勉
人对自我生存意义的终极探讨,无非对小宇宙之外大宇宙的好奇,还有对小宇宙之于大宇宙的关系定性。焦虑的核心原因在于任何社会经济发展进入小康后,资本的投资回报率将会远大于经济增长本身,财富会加速向少数人集中,资本的马太效应会让资本和权益资产面前弱势群体感到掉队与焦虑。
我们的父辈是无比务实乐观的一辈,给了我们大部分人比他们那一辈更好的生活与教育。他们那一代只要不在时代的大浪里翻船,水大鱼大的30年可以让每个人的小船扬帆万里。我们这一代是务实与务虚,乐观与焦虑中寻找平衡的一代。美国1978年进入人均GDP一万美金之后(中国刚刚改革开开放),过去几十年的人均家庭收几乎没有显著的增长。
2020年正好是中国人均GDP跨过一万美金大观的一年。父母如果当年考虑的问题是能不能给家里买上冰箱,能不能让摩托变汽车,我们在有了冰箱汽车之后,应该更多关注什么样的问题?
如果父母一代的大部分人财富积累的路径是买房屯地,30年后过去我们是否还应该为过去的路径而焦虑?
2020过得似乎非常非常的慢,过去的3个月仿佛发生了过去30年才有概率出现的重大历史事件。慢,就是快。在这个时代快速变迁,个人对时间观感相对拉长的特殊的年份,也给我们了一个深刻审视时代,和质疑常态的机会。
保持健康的身体,和开放的心态,对未知世界的独立思考,对未来世界的善良乐观,是我总结下来对应任何浪潮拍打的最佳方案。与各位共勉。
显示更多
2/ 人对自我生存意义的终极探讨,对小宇宙之外大宇宙的好奇,还有对小宇宙之于大宇宙的关系定性。焦虑的核心原因在于任何社会经济发展进入小康后,资本的投资回报率将会远大于经济增长本身,财富会加速向少数人集中,资本的马太效应会让资本和权益资产面前弱势群体感到掉队与焦虑。我
显示更多
看不同人train agent, 差异巨大, 可能总结下来是 系统思维 vs 任务思维的差异. 系统思维的人会定义问题, 有架构的能力, 先架 (scaffolding) 后构 (interaction): 这件事的边界是X,最佳输入是Y,预期输出是Z,失败条件是W, 测试置信区间是I. 任务思维就是很单项的I/O“帮我做这个事, 我来验收” 所以还停留在把LLM当作更好的搜索引擎和对话框的水平
显示更多
很少公开聊股票, 这次和台湾朋友
@168MrZ 聊起台积电和最近看完的张忠谋自传下册超级有共鸣. 能够基业长青横跨几个技术纪元的企业的必然需要超越创始人本身, 优秀班子的培养, 经营哲学的传承, 和强大的体制. 体制与个人的人性无关,需要凌驾于人治之上。体制建造者要作的是对权力欲的牺牲, 才能建造一个不会永远依靠你的系统
显示更多