註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

檢索結果 路越走越宽
路越走越宽 貼吧
一個關鍵字就是一個貼吧,路徑全站唯一。
建立貼吧
用戶
未找到
包含 路越走越宽 的搜尋結果
习近平总书记到地方考察时经常深入田间地头,察看粮食生产,倾听农民心声。在习近平总书记带领下,中国特色粮食安全之路越走越宽广,“中国饭碗”不仅端得更稳,成色也更足
顯示更多
这半年里面, 做出的最值得的一个改变, 就是坚持内观静坐。 可能是因为自己的心境变了,家里的植物都比以前长得茂盛了了许多。 之前卧室门必须得关着,不然的话,刘多拉(比特犬)每天撵刘大福(小黑猫),刘大福会尿我床……现在也没有这种混乱的事件了。 自从开始内观静坐以后,看自己家里面的内饰, 跟自己气场越来越不符合。大肆调整了一番。 看自己的衣柜,也觉得我以前穿的衣服好像没法再穿在自己身上了, 甚至不理解自己以前为什么穿那种风格的衣服。于是处理掉了半个衣柜的衣服。 在这之后,虽然 YouTube 订阅没涨,还掉了一千多个订阅,不过后来又涨回来了。 但确实有意思的项目,和有意思的新朋友,毫无预兆的接踵而来。 以前不理解为什么家里是寺庙,身体也是寺庙,现在越来越能理解:生活的走向,完全取决于内心的走向。 理解自己,路自然会越走越宽。
顯示更多
0
45
69
0
轉發到社區
一个人爬出底层的最快方式:模仿曾国藩 1、遇事先冷静,别轻易上头。被批评、方案被否时,先稳住情绪再想对策,学学曾国藩“打落牙齿和血吞”的隐忍。 2、每天坚持早起,不做赖床党。比别人多挤出1小时学习提升,一年就能多出365小时沉淀自己。 3、专注死磕一项技能,不三心二意。像曾国藩读书那样“一句不通不翻下一页”,用3年把一项能力做到行业前列。 4、睡前花10分钟复盘当天。哪些事做得好、哪些踩了坑,随手记在备忘录,避免重复犯错。 5、把“靠谱”刻进日常。答应的事尽全力做到,久而久之,身边人都会愿意信任你、靠近你、给你机会。 6、多出门拓展圈子,别总宅在家。多参加行业交流、优质社群,跟高手交流,往往能学到最实用的经验。 7、保持良好精神状态去社交。清爽蓬松的发型会大幅提升气场,整个人看起来更精神、更有自信。 8、每天坚持啃一点硬知识。再忙也抽半小时看专业书、行业报告,持续积累才会慢慢拉开差距。 9、学会拆解大目标,不被焦虑压垮。想转行、想提升,就拆成每日小任务,完成一项勾一项,动力会越来越强。 10、重视外在形象,干净整洁就是加分项。认真护肤、做好清洁,素颜状态好,整个人气质都会不一样。 11、注重细节,小事最显专业。简历反复检查、开会提前到场,这些小习惯会让人觉得你稳重可靠。 12、小有成就别飘。做成事不炫耀、多感谢团队,闷声往前走,路才会越走越宽。 13、出问题不甩锅,敢于担责。主动承认失误、积极补救,领导和合作者反而更愿意重用你。 14、保持身材管理,远离油腻感。小肚子、体态臃肿会严重拉低印象分,自律的身材自带气场。 15、身体是逆袭的本钱。每周坚持运动、少吃宵夜,精力上来了,学习和做事效率都会翻倍。 16、摒弃一夜暴富的幻想。学曾国藩练兵的耐心,任何技能坚持100天以上,收入和能力才会稳步提升。 17、灵感随时记录。好想法、新思路别等忘光,随手记在便签,未来很可能变成实实在在的机会。 18、面部状态要干净。长痘别乱抠,好好护理,皮肤清爽,整个人都会更显精神。 19、失败了不躺平、不内耗。像曾国藩屡败屡战,复盘问题、调整姿势,重新再来。 20、每季度做一次经验总结。把工作套路、话术模板、方法技巧整理好,形成自己的“实战手册”。 21、说话做事讲逻辑。先讲结论、再分点说明,像曾国藩写家书一样条理清晰,别人更容易听懂信服。 22、保持优雅体态,气质会大幅提升。挺拔的身姿、舒展的体态,不用多说什么就很有气场。 23、任何时候都守住底线。再难也不碰灰色地带,一步踏错,前面所有努力都可能归零。 24、紧跟行业风口,提前布局。关注AI、新工具、新趋势,早学一步,竞争力就强一分。 25、打造多重核心竞争力。主业扎实之外,再学一项副业技能,多一条路就多一份安全感。 26、想到就立刻行动,别拖延。不等装备齐全、不等万事俱备,先开始再优化,拖延只会错过机会。 27、注重营养与身体养护。多吃蔬果、补充必要营养,体质好、气色好,状态才撑得起野心。 28、别单打独斗,学会整合资源。创业或做事找互补的伙伴,借力发力比自己硬扛高效得多。 29、永远保持学习欲。紧跟行业动态、多学新课新方法,不被时代和行业淘汰。 30、钱要花在升值地方。少冲动消费,多投资课程、社群、见识,长期回报远超眼前快感。 31、懂得感恩,记住帮过你的人。偶尔问候、保持联系,人生路上的贵人,往往会在关键时拉你一把。
顯示更多
0
5
436
120
轉發到社區
做币安的用户,真的好幸福! 收到了币安@binancezh九周年的周边礼盒! 时间过得真快啊,一晃居然九年了 回想 2017 年刚起步的时候,靠着 1500 万美元融资启程,没站稳脚跟就遇上监管调整,带着整套服务器辗转海外落脚,连间像样的办公室都没有 谁能想到这样一支队伍,一步步做成了全球交易量最大的加密交易所,如今坐拥 3.23 亿+注册用户,每秒能承载 140 万笔订单,体量早已是天壤之别! 这九年哪里是一路坦途,7000 枚比特币被盗时,靠 SAFU 基金全额给用户兜底,没让大家承担半分损失 BNB CHAIN @BNBCHAINZH公链从零做起,硬生生闯进全球第一梯队 币安钱包@BinanceWallet做成了大家最爱用的钱包 牛熊交替的震荡、天价的监管罚单、创始人经历的波折,外头的议论和争议也从没断过 可即便顶着这么多压力,但产品脚步也从没停过 回头看这九年,币安确实是一步步把边界铺得越来越宽 最开始只是做现货、合约这些基础交易,后来慢慢搭起完整的币安钱包生态,把 DeFi 也做深做透了 到今年直接落地了美股交易和 bStocks 代币化证券,算是真正从加密资产跨到了传统股票的赛道 不止交易核心,周边配套也越补越全:支付、理财、预测市场一个个落地,还有币安学院能系统学知识,AI 工具能辅助看行情 从交易增值到学习科普,从资产配置到日常支付,方方面面都考虑到了 用户有需求的地方,产品就跟进到哪里,真正的做到了,用户想要,用户得到,玩加密,一个币安 App 就够了! 手里这份周边,更像这九年风风雨雨的一个小记号,借着这份九周年的小纪念,也真心说句:币安九周年快乐 感谢丫丫@yayabinance、梨子酱@pearbinance、kim 哥@moonkimbinance、sisi @sisibinance 及所有幕后小伙伴!辛苦大家贴心筹备这次币安九周年专属礼盒! 后面的路咱们一起陪着CZ大表哥@cz_binance和一姐@heyibinance走,肯定能越走越稳、越做越顺,30亿的用户目标指日可待,继续 keep building #BNB# ! #币安九周年#
顯示更多
0
116
135
2
轉發到社區
分享一个玄学小真相。 凡是大富大贵的人,她的盘中一般都有贵人缘。 这个贵人一般都在你最需要他的时候出现。 比如说你遇到很大的危机了,他就会出现,然后给你逢凶化吉,遇难呈祥。 一个人如果没有贵人的话,她这一辈子不会走的很远。 所有有大成就的人,大富大贵的人,必定有贵人帮助。 但是我们一定要记住,滴水之恩应该涌泉相报,一定要懂得感恩我们的贵人。 即便是你有一天超越了他的层次,比她的地位更高了,你也应该虔诚一些。 越感恩越拥有,越懂得感恩的人,路会走的越宽。
顯示更多
玄学小真相。 凡是大富大贵的人,她的盘中一般都有贵人缘。 这个贵人一般都在你最需要他的时候出现。 比如说你遇到很大的危机了,他就会出现,然后给你逢凶化吉,遇难呈祥。 一个人如果没有贵人的话,她这一辈子不会走的很远。 所有有大成就的人,大富大贵的人,必定有贵人帮助。 但是我们一定要记住,滴水之恩应该涌泉相报,一定要懂得感恩我们的贵人。 即便是你有一天超越了他的层次,比她的地位更高了,你也应该虔诚一些。 越感恩越拥有,越懂得感恩的人,路会走的越宽。
顯示更多
发财的路,古人早说尽了。九个字:走暗路,耕瘦田,进窄门。 世人偏偏反着走。走明路,耕肥田,进宽门。三条路都挤满了人。挤满了人的路,不是路,是坑。 先说走暗路。 暗路不是黑道,是无人处。人少处,灯未亮,路未名,规矩未定。明路人人看得见,看得见便争。争的人多,利便薄。暗路无人肯走,肯走的人少,利便厚。 暗路之暗,暗在寂寞。没有掌声,没有同行,没有参照。走在上面,看不见尽头,也看不见旁人。心不定的,走三步便回头。心定的,走三年不出声。三年不出声的人,出来便是另一个人。 暗路的另一层意思,是不扎堆。 扎堆是本能。人多的地方有安全感。可安全感与收益,从来反向。人多处安全,但利薄。人少处不安,但利厚。真正发财的人,都在别人看不见的地方待了很久。 再说耕瘦田。 肥田人人抢。抢到手,地租高,成本重,利润薄。瘦田无人要。无人要,价便低。价低,门槛便低。门槛低,进得去。 瘦田不是不长庄稼,是长得慢。慢,正好筛人。心急的熬不住,熬不住的走。走的越多,留下的越少。留下的越少,分的人越少。 瘦田养的是耐心。 肥田养的是急躁。肥田一年两收,人便想着更快。更快便下猛药,猛药伤地。地一伤,后十年都缓不过来。瘦田一年一收,人便学会等。等的过程,是修心的过程。心修好了,地也养熟了。 瘦田的另一层意思,是不嫌弃。 嫌弃小,嫌弃慢,嫌弃不体面,是穷人的通病。真正发财的人,起步都从小处来。小处不显眼,不显眼便无人争。无人争,便能长。 最后说进窄门。 宽门好进,进的人多。进的人多,路便堵。堵在路上的人,互相挤,互相踩,最后谁也过不去。窄门难进,进的人少。进得去,路便宽。 窄门之窄,窄在门槛。 门槛筛的是本事,也筛的是心性。有本事没心性的,进不去。有心性没本事的,也进不去。两样都有的,才过得去。过得去的人少,过去之后天地便大。 窄门的另一层意思,是长期主义。 宽门求快,窄门求久。快的东西不长久,长久的东西不快。真正的大利,都在长线里。长线如井,越挖越深。浅井的人,换十口井也喝不到水。深井的人,一口井喝一辈子。 三条路,其实是一条路。 暗路是选择,瘦田是方法,窄门是门槛。选择对,方法对,门槛过得去,事便成了。 世人求快,古人求稳。 快的路,走的人多,最后都堵死。稳的路,走的人少,最后都走通。这不是道德,是算术。人数决定利润,门槛决定留存,时间决定复利。 发财的秘密,从来不在热闹处。 热闹处只有喧嚣,没有利润。喧嚣是给看客的,利润是给行者的。行者不喧哗,喧哗者不行。真正赚到钱的人,多半在无人处走了很久,种了很久,等了很久。 走暗路,是不与人争。耕瘦田,是不与天争。进窄门,是不与己争。三不争,反倒什么都争到了。 不争,不是不作为。 不争是不在低处耗。低处人挤,耗的是命。高处人稀,省的是力。力气省下来,才能走远。走得远的人,回头一看,那些年在热闹处挤的人,还在原地。 古人这九个字,说的不是捷径,是正道。 正道难走,难在人少。人少的路,走起来孤独。可孤独是必经的门票。买不起孤独的人,进不了窄门,耕不了瘦田,走不了暗路。 发财的真相,就藏在这九个字里。 懂的人,早已上路。不懂的人,还在问路。
顯示更多
长征开始后,红军内部发现了一个怪象:只要大部队不长期停留、不占城市建根据地,地方军阀不仅不堵,甚至尾随“送客”。粤军让路四十里并送弹药,川军刘湘半夜密召部将:“给红军留活路,就是给我们留活路!” 侦察连连长周大山收到前哨传回的消息时,正蹲在一块青石上摊开地图。消息说,前方隘口的黔军阵地空了,但土灶里的灰还是温的。他收起地图,对身边的政委说:“看来王家烈的人刚走。” 部队继续前进。果然,在预计有阻击的山口,只看到几个空掩体和散落的烟蒂。战士们在附近一个废弃土屋的墙角,发现了几袋糙米和盐巴,下面压着一张字条,字迹歪斜:“路过自取,莫声张。” 红军指挥员们开会分析,很快理清了头绪。老蒋催得紧,但粮饷扣得紧;王家烈怕的不是红军过境,是怕自己的家底被打光,贵阳城被老蒋趁机拿走。于是,一道“保境不成、礼送出省”的密令,就在黔军内部传开了。 有一次,一支红军先头部队与一队黔军在山坳里狭路相逢。两边都愣了一下,枪栓拉得哗哗响。僵持中,一个黔军军官骑马从后面上来,隔着一块坡地喊话,说这条路前面塌方了,请红军弟兄往西边那条小路走,“那条路宽敞,好过!” 先头部队将信将疑,派了两个侦察兵去西边探路,回报说确实没有伏兵,路上连绊马索都没设。大部队迅速通过,全程只听到远处山头上传来几声零星的朝天枪响,像是送行的鞭炮。 进入云南地界,气氛更微妙了。滇军的骑兵总在红军队伍后方几里外晃悠,不靠近,也不离开。有一回,红军一支伤病员队伍落在后面,眼看滇军马队卷着尘土逼近,担架员们都握紧了步枪。可马队跑到近前,领头军官一挥手,几个布包被丢在路旁,里面是止血的云南白药和干净纱布。马队随即调头,消失在扬尘里。 红军的电台截获了龙云发给部下的密电,其中一句很关键:“迫其速离滇境为第一要务,勿使其有隙盘桓。” 大家明白了,龙云最怕的是中央军借追剿之名,开进昆明。红军走得越快,对他越有利。 等队伍逼近金沙江,川康边区的守军摆出的阵势更大,铁索桥对岸堡垒林立。刘文辉的部队把机枪架得密密麻麻,口号喊得山响。可当红军先遣队夜间泅渡,发起突袭时,守军的抵抗就像戳破的皮球,很快软了下去。占领桥头堡后,战士们发现,不少机枪旁边堆着整箱未开封的弹药,灶上还煨着没吃完的饭。 这些事层层汇报上去。高层指示很明确:利用矛盾,快速通过,绝不纠缠。部队从此更坚定地钻山沟、走险路,避开城镇。遇到地方军阀的部队,紧张戒备少不了,但交火往往只发生在不得不打的时候,而且对方常是一触即退。 战士们私下议论,说这叫“借道”。有人捡到黔军落下的烟盒,上面印着贵阳风景,班长拿过来看了看,说:“他们借路给我们,我们借路离开,谁也不欠谁的。” 这种微妙的默契,一直维持到红军走出西南群山。等视野里出现中央军整齐的军装和德式钢盔时,战士们都知道,真正的硬仗要来了。之前穿过的那一道道“缝隙”,此刻就像身后悄然合拢的山影,把那段充满算计与侥幸的旅程,留在了另一片天地里。
顯示更多
AI半导体终局推演2026(I) 当新token经济学范式从GPU算力转移到HBM 本文从从GPU架构进化路线本质出发,解释这个市场长久以来担心的问题: 每个GPU的HBM内存需求为什么一定会是指数增长,为什么HBM需求指数增长不会停滞? 并推导token经济学在当前架构下第一性原理:token吞吐 = HBM size X HBM BW带宽 同时讨论了,为什么GPU的天花板被HBM的两个发展维度所决定 HBM周期性这个话题争议一直很大,乐观派认为AI带来的需求比以前要大的多,但市场主流仍然认为前几次上升周期也有需求每年20%+增长,这次又有什么不一样呢?AI不影响HBM和传统DRAM一样有commodity属性,一旦在需求顶峰扩产遇上需求下行又会重蹈覆辙。 我们可以从算力芯片架构视角,从第一性原理出发,来拆解和推演一下这个问题:为什么这次真的不一样 ------------------------------- 历史:CPU算力时代 很久以来,我们都处在CPU主导算力的时代,CPU的最高级KPI就是performance,跑的更快,所以每一代的CPU都用各种方法来提高跑分,最开始是频率上升,后来是架构演进superscaler等等 这个时候为什么DDR不需要很快的技术进步速度?比如DDR3到DDR5竟然经历了15年之久 因为这个时期的DDR的角色是纯粹的辅助,而且辅助功能极弱,以业界经验,DDR的速度即便是提高一倍,CPU的performance一般只能提高不到20%这个量级 为什么DDR带宽速度提高了用处不大?两个原因 1. CPU设计了各种架构去隐藏 DDR延迟,比如superscaler,加大发射宽度,用海量的ROB和register renaming来提高并行度隐藏延迟,一级缓存cache,二级缓存cache,削弱了DDR的带宽速度需求 2. CPU workload对DDR带宽要求并不高,大部分日常负载比如打开网页,DDR带宽是严重过剩的,甚至云端负载 也就是说,在CPU时代,DDR的带宽速度是不太有所谓的,DDR4和DDR5除了少数游戏就没啥差别,甚至JEDEC标准也进步缓慢。 另外,绝大部分app需要一直停留在DDR上的部分并不多,需要的时候从硬盘上调度到DDR即可,app的size增长没那么快,导致对DDR的容量需求也较为缓慢。 所以最近十年来,平均每台电脑上的DDR容量大概从7~8GB变成了23GB,十年只增长了3倍。 而这部分升级缓慢直接影响了营收,size容量计价是赚钱的主要方式,速度的提高只是技术升级,提高size的单价,这两个的升级需求都不大,需求主要是随着电脑/手机数量增长而增长 所以DRAM在带宽速度和容量这两个维度上,一直是都是芯片产业锦上添花性质的附属品,DDR升级带来的边际效用是很低的,跟CPU时代的最高KPI几乎没什么直接联系 -------------------------------------------- 而到了genAI 大模型为主导的新时代,计算范式转移让最高级KPI起了根本变化 GPU发展到AI推理的时代,不再像CPU那样只看跑分,最高级的KPI不再是算力TOPS/FLOPS,而是token的成本,特别是单位成本/单位电力下的overall token throuput 其次是token吞吐速度,因为在agent时代,很多任务变成了串行,token吞吐速度成了用户体验的重要瓶颈。 这也是为什么老黄发明AI工厂概念的原因:最低成本的输出最多token,同时尽量提高token吞吐速度 AI训练时代,老黄的经济学是TCO(total cost ownership),买的GPU越多,省的越多 而老黄在推理时代的token经济学是: AI推理的毛利润很可观,所以逻辑已经转换成:Nvidia GPU是这个世界上让token单价最便宜的GPU,买的GPU越多,赚的越多 最高的KPI变成了Pareto frontier曲线,在提高token 吞吐throughput和提高token速度两个维度上尽量优化 (见图一) NVIDIA 的 token factory 代际进步,其实是在把整条 Pareto frontier 往右上推,这就是是AI推理这个时代最重要的KPI ---------------------------------- 接下来是本文最重要的逻辑链,如何从token吞吐量指数型增长的本质出发,推导出天花板瓶颈在HBM size和HBM 带宽的指数型增长 单卡GPU推理单线程batch size = 1的时代,token吞吐只有一个维度,就是HBM的带宽速度,带宽速度越高,token吞吐越大 但进入NVL72的年代,推理不再是单卡GPU时代,而是72个GPU + 36个CPU整个系统级别的token工厂,把HBM带宽和算力用满,获得极致的token吞吐量 Token 吞吐throughput的增长,依赖两个东西:同时批处理的请求数 X 每个user请求的平均token速度 也就是batch size X per user token 速度 以Rubin NVL72为例,在平均token速度是100 token/s的情况下,同时批处理1920个请求,得到token吞吐量是19.2万token/s 一个Rubin NVL72大概是120KW(0.12MW)的功率,所以得到单位MW能处理1.6M token/s (见图一) 所以,我们需要想方设法提高这两个参数:批处理数量batch size和per user token的平均速度,这两者相乘就是我们的最高KPI,也就是token的吞吐量 ------- 第一个参数:batch size的增长,瓶颈在HBM size 批处理量里的每一个请求req,都会自带kv cache,这部分kv cache是需要存在HBM里的,大小大概在几个GB到数十GB不等 因为hot kv cache是随时需要高频高速读取,所以必须放在HBM里,比如一个大模型的层数是80层,那么每一个token的生成阶段,都需要读取80次HBM里的kv cache 随着批处理数量batch size的增长,会带来hot kv cache的线性增长 又因为这个批处理量的所有请求的hot kv cache,都要放在HBM上,这也就带来了HBM size必须要随着批处理量batch size线性增长 就像是机场接驳车,登机口尽量快的接旅客到飞机,HBM size小了,相当于接驳车size小了,就得多接一趟 结论是:批处理量的数量batch size,瓶颈依赖于HBM size的增长 --------- 第二个参数:每个user请求的平均token速度,瓶颈在HBM带宽 大模型decode阶段的速度,瓶颈取决于HBM的带宽速度,因为每生成一个 token,都要把激活的权重和kv cache 读很多遍 LPU的出现,在batch不那么大的情况下,把激活权重这个部分搬到了SRAM上,但是每生成一个 token仍然要从HBM读很多次KV cache。HBM带宽越高,生成每一个token的速度也就越快,基本上是线性对应的 就像是机场接驳车,登机口尽量快的接旅客到飞机,hbm本身带宽速度就像是接驳车的车门有多宽,门越宽,旅客上接驳车越快 GPU的其他配置,都是在适配batch的增长以及要让token compute的速度配平HBM的增长,甚至会用多余的算力来获得部分的带宽(比如部分带宽压缩技术) —----- 在那个接驳车的比喻例子里 接驳车的车厢大小 = HBM Size(容量): 决定了一次能装下多少名旅客(也就是能同时装下多少个请求的 KV Cache)。车厢越大,一次能拉载的旅客(Batch Size)就越多。如果车太小,想拉100个人就得分两趟,系统整体的吞吐量就上不去。 接驳车的车门宽度 = HBM Bandwidth(带宽): 决定了旅客上下车的速度。门越宽,大家呼啦啦一下全上去了(Decode/生成Token的速度极快)。如果门很窄,哪怕车厢巨大能装200人,大家也得排着队一个一个挤上去,全耗在上下车的时间里了。 旅客的吞吐量 = 接驳车车厢容量 x 接驳车旅客上车速度(车门宽度) —--------------------------- 至此,我们从逻辑上推演出了token经济学的硬件需求第一性原理: Token throughput = HBM size X HBM Bandwidth AI推理这个时代的最高KPI,实际上是高度依赖于HBM的两个维度的进步的 如果要维持token throuput每一代两倍的增长,实际上意味着,每一代的单GPU上,HBM size X HBM BW带宽之积要增长两倍! 这也是历史上第一次,HBM内存的size可以影响最高的KPI token throughput! 要验证这个理论,可以把Nvidia从A100到Rubin Ultra这几代的token 吞吐throughput,和HBM size X HBM BW 放在同一个图里比较 (见图二) 可以发现,这两个曲线的走势在对数轴上惊人的一致 HBM size x HBM带宽增长的甚至要比token吞吐量更快,毕竟HBM决定的是天花板,实际上这个天花板增长的利用率utilization是很难达到100%的,也就是说,HBM size x HBM 带宽就算增长1000倍,其他算力和架构的配合下,很难把这1000倍的天花板潜力全部榨干 这条曲线不是巧合,而是系统最优化的必然解 throughput = batch × Bandwidth,这就是token factory 经济学最绕不开的第一性原理 —-------- 软件的影响呢?软件的优化会不会降低带宽的需求?降低HBM的需求? 这跟硬件是独立两个维度的,这好像在问,如果CPU上的软件优化了之后跑的更快,是不是CPU就十年不用发展了?反正软件跑的更快了嘛 这样的话,CPU厂还能赚得到钱吗?CPU想要存活下去,只有一条路可走,在标准benchmark,不考虑软件优化,每一代CPU必须要跑分更高,不然就卖不出去 GPU也是一样,软件优化如何,和自己的token吞吐量KPI每年都要大幅进步,是两回事 只要token的需求继续增长,对token throuput的追求就绝不会停止,那么对HBM size X HBM 带宽的追求也不会停止 如果HBM size和HBM 带宽发展慢了,老黄一定会亲自到御三家逼着他们技术升级,因为这就是老黄gpu的天花板,天花板要是钉死了不进步,老黄的GPU还能卖出去吗? 当然了,Nvidia需要绞尽脑汁去从异构计算的架构角度榨取HBM天花板之外的部分,比如LPU就是一个很好的尝试,把Pareto frontier从另一个角度改善了很多 (右半边高token速度的部分) —-------------------------------------- HBM内存已然告别了那个随波逐流的旧时代,在这条由指数级需求铺就的单行道上,以一种近乎宿命的方式走到了产业史诗的主舞台中央 推理范式第一性原理演化到这一步,只要老黄还要卖GPU,HBM就必须翻倍,而且必须代代翻倍。这是supply side的内生压力,与AI需求无关,与宏观周期无关,与hyperscaler的心情也无关 剩下的问题,只有一个: 当需求被物理锁定为指数增长的时候,供给侧的三个玩家,会不会还像过去三十年那样,亲手把自己再拖回一次周期的泥潭?
顯示更多
回顾2025年半导体市场,真的是有太多太多精彩的故事,最大的主题就是: AI需求驱动导致半导体基建的估值体系重构 + 产业链的价值分配重写 从2024年开始,半导体基建正在飞速吞噬整个IT产业利润,SP500里半导体净利润EPS在IT行业里占比,在两年时间从不到20%上升了到了40%,而且还在呈加速上升姿态 半导体整体前瞻利润率从2023年的25%已经升到了2025年11月的43%,已经明显超过了几个互联网巨头的平均利润率,这也印证了半导体利润率超过互联网会是新常态。整个IT产业的利润分配,流向半导体的比例越来越大。 要知道,就算是20~22年的半导体芯片荒,短缺如此严重,半导体的利润率和整个IT利润分配也没有显著增长 这就是故事的上半篇:AI需求驱动导致半导体基建的估值体系重构,不再是互联网时期的基建从属地位 ------------------------ 这个现象背后的逻辑是商业模式随着技术特性的变迁: 互联网时代,每次请求的网络和算力成本,边际成本极低,scaling的效果极好,分发的边际成本几乎为零 在AI时代,这个互联网时代分发边际成本几乎为零利于scalable的特性遭遇了根本性的重大挑战:且不说训练成本从此不是一次性开销而是年年增长,就客户的AI推理请求而言,由于inference scaling成为共识,加上垂直领域仍然需要更大规模的旗舰模型来保持竞争力,推理的成本不会随着硬件算力价格的通缩而同步降低 互联网企业从前的最大成本只有OPEX尤其是SDE人工成本,而现在,互联网公司历史上第一次像半导体厂foundry那样背上高折旧成本的资产负债表,商业模型恨不得要慢慢从“流量 × 转化率”部分转向“每 token 毛利”了 简单的说,互联网时代到AI时代的成本分布,在人力成本opex的基础上又加上了沉重的硬件/算力成本capex(财报里占比:MSFT 33%, Meta 38%)。 上个时代的互联网公司+CSP+SAAS是收租行业里的大赢家,而AI时代,算力(半导体/芯片折旧)成为了新的收租行业,整个IT行业的利润分布发生了剧烈的重新分配(EPS利润流向半导体从20%升到40%而且持续攀升中),这就是半导体基建估值体系重构最重要的原因 --------------- 半导体高利润率的新常态趋势能持续多久? 目前的高溢价来自于前期不计成本的军备竞赛造成的半导体订单积压过多 但很显然,hyperscalers都不愿意当冤大头,都在试图自建ASIC降低成本,那么可以从2030年远期的算力分布来回看这个问题 长线来看,openai已经明牌了标准答案,10GW Nvidia,10GW ASIC,6GW AMD,其他hyperscaler划分比例有类似考虑 比如说,推理端希望ASIC >50%,GPU里再细分的话,AMD和NV(legacy)对半分。训练还是得NV占大头,60%+,剩下的自研ASIC和AMD对半分 2030年按60%推理,40%训练比例划分,算下来NV 38%, ASIC 39%, AMD 23%,跟openAI比例是几乎完全一致的,算是一个标准答案参考值 当然了,微软,Amazon,Google,Anthropic这几家里AMD的比例会比这个标准答案中枢/参考值明显低一些,xAI则是没有ASIC只有Nvidia+少量AMD AMD的风险在于,当2030年再往后的更长期,CSP的in house ASIC越来越成熟(微软除外),推理端ASIC占比可能越来越高,很难有incentive新买入大量GPU了,除非卖的足够便宜 最近风头正劲的TPU呢?Meta是不是要转向TPU?对Nvidia的利润率影响大吗? 实际上,Meta今年capex72B,明年capex110B,未来六年capex平均值可能达到160B附近,而Meta 6年10B的TPU订单算下来年均只有1.6B,而且购买的是TPU云服务,并不是裸TPU 也就是说,Meta这笔TPU订单只占到Meta未来6年capex的1%,并没有严肃的考虑大规模部署,可能只是作为和Nvidia讨价还价的手段而已 另外从Meta最近几个月的招聘广告来看,也并没有看到任何TPU engineer方面的招聘,不像 Anthropic那样从五月就招一堆TPU kernel engineer,十月才宣布大规模采购TPU做训练 所以说,不管原因是diversify供货商,还是给自研ASIC延迟做退路,还是因为AMD的MI350X延迟,Meta买TPU基本上只有一个考虑:增加买Nvidia GPU的议价权,但顶多只有推理份额里能讨价还价,实际效果很有限,对Nvidia利润率影响也很有限。 要知道,22年加密货币熊市矿难的时候,NVDA库存上升到了198天,利润率只是从65%回撤到了56%,算上PE/宏观双杀股价才从300变100,现在一直供不应求,利润率没道理能降下来 再加上TPU v8设计过于保守(没用HBM4),Kyber rack的Rubin方案会比TPU v8的TCO更好,到头来最后还是得继续依赖Nvidia,很难议价。只要Nvidia继续保持这样的大踏步前进,竞争对手其实要跟上还是不容易的。 总之,一方面,全产业链瓶颈,比如cowos扩张都很谨慎,供不应求的状态还能持续多年。 另一方面,AI变现的利润曲线和硬件投入曲线存在“时间错配”,应用端的增长曲线会落后几年,只要这个应用端和基建端的增长曲线的时间错位依旧存在,半导体在IT行业的利润分配就会一直占优势。 从OpenAI的到2030年的投入曲线来看,这个时间错位至少要持续到2030年附近。也就是说半导体行业的超级扩张期带来的在IT产业利润划分的主导地位,目前看至少能持续到2030年 而半导体高利润率可能会维持的更长远一些,因为从互联网时代一次性基建属性变成了现在的收租基建属性 --------------------------------------------------- AI 不是只养活了 GPU,而是在用算力预算把“能把电变成 token 的每一环”都抬了一轮,从内存,存储,互联,光纤,电力,储能…..等等 上半篇讲完了“半导体吞噬IT利润”,那么下半篇讲的就是“AI算力价值溢出效应(Spillover Effect)重塑半导体内部格局”:GPU算力增长 -> 内存/存储/互联/CPU瓶颈 -> 溢出效应 -> 结构性机会 2025 年更有趣的故事,是巨大的行业红利在半导体内部怎么诞生结构性新机会,比如说,一个super cluster需要几个数据中心互联,光纤互联的长度需要上百万mile这个级别,这就是新机会 半导体产业链的结构性趋势带来的新机会,最典型的例子就是内存(DRAM/HBM)和存储(SSD),HBM的需求增长太夸张,连带挤压DDR4/5产能,直接让以周期性为标志的内存行业甚至喊出了“周期不存在”了,Hynix因为在HBM上领先,甚至都开始憧憬起了几年后年利润1000亿美元,妥妥一个万亿市值的公司 这两个板块背后,是结构性趋势的转变:AI workload从训练逐渐往推理延申,推理比例越来越大。 而推理是一个非常纯粹的吃内存带宽速度(memory bound)的事情,可以说带宽速度=token/s。模型尺寸越来越大,以及上下文context length的增加,对内存的尺寸要求也相应增大,导致了内存的需求激增:推理即内存 下一代的的GPU/ASIC内存已经成了暴力美学,配备的内存size之巨大,是三年前无法想象的,回看22年H100的80GB简直像个玩具,这才几年就增长了十倍: Nvidia Ultra Rubin - 1024GB HBM Qualcomm AI200 - 768GB LPDDR AMD MI400x - 432GB HBM 内存的另外一个潜在的爆发点在端侧,也就是手机/PC/汽车/机器人的端侧LLM,这两年主流的手机旗舰机已经从6GB升级到了8GB/12GB/16GB,提前为可能的端侧LLM生态做准备,毕竟手机算力下一代就能达到150TOPS量级,妥妥的桌面级,非常暴力 潜力上来说,端侧内存升级是比云端内存增量要更大的市场,毕竟端侧终端device的数量太惊人了,每年都是billion级别,一旦端侧LLM生态繁荣起来,内存用量翻倍轻而易举,针对端侧低功耗内存/存算一体的各种设计都会跟上 但端侧genAI的软件生态,似乎明显滞后,一直比我想象的进度要慢,可能是因为这方面还处于摸索期,并没有云端那么确定的ROI,厂商们在投入上都很谨慎,我在23~24年时候看好27年,可能还是太乐观了 互联网->移动互联网用了10~15年,端侧genAI/LLM可能也需要7~10年,可能得等云端ROI开发的差不多了,边际收益下降了,才能轮得到端侧genAI/LLM拿到开发资源,跑通端侧ROI。 -------------------------------------- 另一个2025年半导体内部结构性转变的故事是NAND存储,特别是企业级eSSD硬盘 结构性趋势来源也是同一个,AI workload的推理需求越来越大。内存红利也外溢到了SSD存储,甚至HDD存储,因为内存不够用就用高速SSD作为多级缓存 主要逻辑是AI推理过程中内存溢出KV cache offloading到下一层SSD存储,以及向量数据库检索/indexing,都在增加SSD存储的需求 Micron财报说的精准又直白:“AI inference use cases such as KV cache tiering and vector database search and indexing, are driving demand for performance storage.” 至于为什么存储价格在第四季度才爆发,这需要区分一下合约价格和现货价格,合约价格涨幅会温和一些,就算是最紧缺的企业级eSSD合约Q4上涨大概25%。而当NAND产能在2025年被合约慢慢的吃光,现货的价格就造成了观感上强烈的冲击,一个月上涨50%以上。 另一个未经验证的逻辑是多模态的爆发,特别是AI图片和AI视频的需求爆发,也会加剧存储的短缺,我觉得这条线只能说未来可期,但目前的视频/图片精细程度,可能还不到当年GPT3的水平,要达到出圈效果还需要一些时日。 ------------------------ 那么下一步还有什么趋势转移带来的半导体结构性的机会呢 那么就要先看下一步AI推理端的需求趋势是什么,毫无疑问,agentic flow的比例会越来越大,2025并不是year of agent,而是一个decade of agent 从CPU视角去看agentic workload,routing和工具处理都在CPU上,如果把常用的agentic框架做profiling,比如SWE-Agent, LangChain, Toolformer,CPU最长可以占到90%的E2E端到端延迟,throughput瓶颈也更多的卡在CPU,甚至CPU能耗也超过了总能耗的40% Agentic AI目前是一个CPU瓶颈更多的事情,在 agentic 框架里,CPU 是永远在忙的总指挥orchestrator, 很可能会成就CPU需求的新一波回暖 AMD 2025年Q2财报(8月5日),Lisa Su明确表述了这一现象:​"In particular, adoption of agentic AI is creating additional demand for general-purpose compute infrastructure, as customers quickly realize that each token generated by a GPU triggers multiple CPU-intensive tasks." "agent AI的采用正在对通用计算基础架构产生额外的需求,因为客户很快就意识到GPU产生的每个令牌都会触发多个CPU密集型任务。" ​Q3 财报里Lisa又明牌了一次CPU TAM increasing due to Gen AI. "Many customers are now planning substantially larger CPU build outs over the coming quarters to support increased demands from AI, serving as a powerful new catalyst for our server business." Nvidia也是把agent flow视为CPU需求,GB200/300 架构配置的CPU比例也比以往大的多,36颗 Grace CPU : 72颗 Blackwell GPU,直接达到了1:2的水平,AMD的路线则是用1~4个256核的EPYC去服务MI400系列72~128个GPU 以后的硬件架构,一定会往优化agent workload方向发展,比如agent task graph的调度和load balancing,CPU/GPU协同micro-batching 算力上的比较,说不定以后也会摆脱现在的纯GPU token rate比较,转向整个系统级全栈agentic benchmark比较. -------------------------- 半导体结构性转变带来的机会同时,下一步,可能也会带来一些意想不到的次生效应 云端AI数据中心需求爆发,造成内存和存储的暴涨,给消费电子的成本带来了很大压力,在2026年,这也许会演变成消费电子产业潜在的黑天鹅 PC厂商最近的股票大跌,也是这个原因。HP已经说了要减少内存配置,暗示要把PC重回8GB内存+256GB存储的时代了。 DRAM内存和存储再这么涨下去,可能会出现很离谱的情况:内存/存储现货价格比CPU和GPU还要更贵。尴尬的是,这可能直接延缓了消费电子期望的AI PC的进程,毕竟大内存是更有利AI PC的表现力的。 夸张的说,每个PC厂商和手机厂商的员工,甚至是消费电子厂商的员工,都应该买入存储和内存,作为职业风险对冲 明年年初开始,安卓阵营的内存以及存储成本要压不住了,三星,小米的手机售价都提高的话(美国市场现在已经提高不少了),利好最大的就是苹果 苹果的内存产能,nand产能都是专属长约锁价特供的,顺带还把Kioxia给坑了好多不涨价产能,导致苹果的成本优势进一步扩大,苹果全球手机销量市占率增长可能会非常可观,接下来一阵子可能会是iphone辉煌的时光。 ----------------------- 2025年半导体市场真的是太多精彩的故事了,Nvidia/AMD/TPU和各家hyperscaler的恩怨情仇引得各路下注的吃瓜群众心情跌宕起伏。 HBM/内存厂商吃到了memory-bound的红利,NAND厂商意外收获了KV cache的溢出效应,CPU在沉寂近十年后,可能会因agent orchestration再次回到增长叙事的中心 不再是Nvidia/AVGO几家算力厂商独大,而是AI workload算力价值溢出后的每一次演进,从训练到推理,从文本到多模态,从单模型调用到agentic flow,都在重写产业链的价值分配。 云端AI的繁荣正在挤压消费电子的生存空间——当PC厂商被迫讨论重回8GB时代,苹果却因供应链优势坐收渔利。这场算力军备竞赛的次生效应,可能在2026年以意想不到的方式重塑整个消费电子格局 半导体的故事不再是一条单线,而是一张持续自我重构的网。而 2025 年,大概只是合纵连横的第一回合
顯示更多
0
78
1.2K
353
轉發到社區