註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

Macro_Lin
@LinQingV
Ex-quant & PM|AI chip design|Semis × Capital Markets|Not Financial Advice
1.5K 正在關注    55.1K 粉絲
进入 summer vacation期间,市场的波动率会持续下来,拿好抄底的仓位,*****。
0
98
58
0
轉發到社區
存储大扩产时代。
0
85
26
1
轉發到社區
抄底存储,别被你时间线的FUD吓坏了。
FT: BYTEDANCE IS IN THE PRE-TRAINING STAGE OF A MODEL WITH UP TO 10 TRILLION PARAMETERS, APPROACHING MYTHOS IN SCALE.
0
94
211
15
轉發到社區
家人们,今天舒服吗?
0
75
59
0
轉發到社區
今天新闻流里最有价值的一条就是 ,SK海力士和闪迪在FMS 2026上发布了全球首个HBF开放技术标准。Google和Tenstorrent也参与技术验证和标准建立。 规格具体如下:存储介质3D NAND Flash,堆叠支持8层和16层两种配置,单颗容量最高512GB,带宽分三个等级覆盖0.4TB/s到3.0TB/s。接xPU的接口选了UCIe,GPU、CPU、各类AI加速器都能接入。联盟成员包括Google和Tenstorrent,Google DeepMind的工程师会在FMS上参加一场关于HBF突破memory wall的panel。 HBF的定位比较清楚,在HBM和SSD之间插入一个新的存储层级。HBM带宽高但容量有限、成本极高。SSD容量大但延迟太高。HBF用NAND的成本结构去逼近HBM的带宽能力,同时容量远超HBM。 为什么这个新闻很重要?因为MoE已经成了frontier model的主流架构,而MoE的参数结构天然适配HBF。 拿Kimi K3举例,2.8T参数,896个专家每次激活16个,单token实际参与计算的参数大概50-104B。剩下占总量95%以上的专家权重,读多写少,稀疏访问,每次推理只用到一小部分。对延迟的容忍度远高于KV cache,但对容量的要求很大。 你今天想跑一个K3,2.8T参数分布在几十张卡上,专家路由的跨卡通信量极大,基本上要上英伟达NVL72这种scale-up系统才能跑。一套NVL72的采购成本是千万美元级别,小团队和一般公司根本不用考虑。 HBF改变的可能还不只是成本,是MoE的部署方式本身。现在跑大MoE模型,专家权重分散在多张卡上,推理时跨卡通信量很大,对NVLink和网络带宽的依赖非常重。HBF通过UCIe直接挂在xPU旁边,每颗最高512GB,相当一部分专家可以变成本地访问,不用走卡间互联。专家并行从大规模跨卡通信问题,部分转化成了本地HBF读取问题。这对部署门槛的影响可能比单纯降成本还大。 存储成本从纯DRAM/HBM变成DRAM+NAND混合,量级差距10倍以上。DRAM只留给KV cache和当前激活的参数,50-100GB可能就够。 MoE的参数量还在膨胀,K2是1T,K3已经2.8T,10T级别的MoE大概率两三年内就会出现。如果推理侧存储还是只能靠DRAM和HBM,成本门槛只会越来越高。HBF提供了让推理成本和参数膨胀脱钩的可能性。 时间线上,SK海力士给的full commercialization目标是2030年前后,但闪迪今年下半年可能已经在日本建pilot line,商用有机会提前到2027年。
顯示更多
0
14
80
5
轉發到社區
@gushanjishui A股市场会越来越正规。这几年几年,出现了巨大的regime shift,不管是宏观经济和监管和市场微观结构。不能老拿之前的经验去套现在的市场。
顯示更多
明星基金的投资回报跟这个基金的大多数投资人没有关系。大多数基金投资人也都是追涨杀跌,基金回报亮眼的时候追着申购,然后主题指数见顶,要么加杠杆爆了。到最后虽然基金回报是仍然是正的,但是其大多数投资人却亏成了一坨。
顯示更多
0
37
42
0
轉發到社區
MTK也在Serdes IP方面赶上来了。拥有顶级 SerDes IP 基本是承接云厂商CSP的AI ASIC 定制订单的入场券。这方面之前的玩家就是Broadcom, Marvell,还有被高通收了的Alphawave。
顯示更多
MediaTek: “400G or 448G SerDes IP is really going well. We certainly expect that to be ready sometime in the next year, maybe second half of next year. Very interesting comment.
顯示更多
0
55
25
2
轉發到社區
7月收官🔚 这场史诗级的AI硬件大调整,再一次验证了我那套算命框架还work。6月末选择大幅降仓,让我在这轮深度调整里受的冲击小了不少。前几天连续三日抄底买入,仓位已经回到九成。 整个过程心里其实一直忐忑,到最后还是选择知行合一,信自己的框架,信理性主义。不然呢,还有更好的选择吗。 8月,9月,let’s make some money。
顯示更多
0
92
165
2
轉發到社區
管钱、挑基金经理,我有几条 don’t do: 1.不加杠杆,不碰复杂衍生品。 2.36 岁以下,市场经验不足10年不行。 3.生活正赶上大变动的先缓一缓,结婚、生子、搬家都算z 4.不能是韩国人/韩裔。 5. 爆过仓,出现合规风险的,❌。
顯示更多
0
17
90
4
轉發到社區
希望我对杠杆常年的痛恨,能给 X 的投资 timeline 做一点微小的贡献。
0
15
57
1
轉發到社區
这几天的买买买后,已经重回9成仓位。仅仅一个月所有好东西打五折,而且未来的预期仍没发生根本性改变,模型依然在scaling,依然没有碰到scaling law的墙,没有什么理由让你对未来悲观。
顯示更多
0
63
164
8
轉發到社區
即使升息25bps,或者降息25bps,就目前的货币及财政背景下,意义都不是很大,别过度解读。
0
72
44
1
轉發到社區
韩国不救市是对的,救市只会耽误出清的效率。不救,会迅速出清,这种才能V。
0
32
115
2
轉發到社區
韩国指数马上把4月后这一波全打回去了。打回去,这波下跌差不多就到位了。
0
29
96
2
轉發到社區
抄底模式开启🔛.
0
35
124
1
轉發到社區
被嫉妒湮没了心智的英国gay佬。@NikkeiAsia 你们当年收了个什么垃圾媒体。
0
66
46
0
轉發到社區
GP-GPU的IP都能通过AI设计,别说你的CUDA算子了。 在AI面前软件层面真的是无moat。真正的moat在硬资产,Fab以及相关的产能
我之前說完 $AMD工程師跟我說CUDA moat已經消失,現在Anthropic也出來說CUDA moat消失了 $NVDA 確實要小心了,做好系統設計問題應該不大🤔
0
63
70
8
轉發到社區
我觉得确实要担心下啊,人家说的没问题。推理对于scale out层面的通信需求不大。scale up层面目前还在单机柜,跨机柜就国内在做。明年大概率上不了CPO,然而东山扩产计划非常激进,外加100G层面国内的选手都开始量产了,光模块光芯片不担心过剩?你看美国那俩都横盘小半年了
顯示更多
0
43
52
10
轉發到社區