가입 후 초대 링크를 공유하면 동영상 재생 및 초대 보상을 받을 수 있습니다.

Unclestocknotes
@Unclestocknotes
U.S. stock market influencer | Financial background | Global traveler | Sharing insights on markets, trade, and economics | Swim, basketball, golf enthusiast.
가입 May 2024
1.6K 팔로잉 중    29.6K 팬
CXL 並非要扼殺 HBM,而是為超大規模資料中心提供了一件利器。 很棒的解釋文章,文章認為 CXL—此前被認為將在 2024 年消亡—如今捲土重來。 我同意文章的觀點。 文章的關鍵在於,CXL 為記憶體金字塔增加了一層底層,而不是用一種記憶體取代另一種記憶體。 HBM 位於頂端(頻寬),DRAM 位於中間,SSD 位於底部——而 CXL 則填補了「溫資料」儲存的空白。 有三件事促成了 CXL 的復興,我對此深信不疑: 1. 訓練 → 推理。訓練需要頻寬(NVLink 的天下)。推理需要容量-僅鍵值快取就佔用每個 GPU 80-120GB 的空間。而 CXL 正好能以低成本提供這種容量。 2. 經濟危機。記憶體支出在超大規模資料中心資本支出的佔比在兩年內從約 8% 飆升至約 30%。以這樣的價格,將閒置的「擱置」記憶體集中起來,並讓原本打算報廢的DDR4記憶體重獲新生(Meta的Vistara論文),突然變得划算起來。 3. PCIe的速度終於夠快了。一條PCIe 6.0 x16鏈路現在可以承載大約2.5個DDR5通道的頻寬。通往分銷中心的道路終於足夠寬闊,可以充分利用了。 而最重要的跡像是:2023年,CXL技術由廠商推動;而到了2026年,則由買家部署-微軟(Azure M系列)、Meta(全端解決方案,自研ASIC)。這種從廠商推銷到買家下單的轉變,才是關鍵。 那麼,誰才是最大的受益者?我們從價值鏈的角度來解讀,而不是只關注股票代號: 最先受益且受益最大的是底層架構:CXL控制器和記憶體介面IP (Montage、Marvell、Astera Labs、Rambus以及EDA/IP廠商)。 每個 CXL 模組——無論部署到哪個階段——都需要一個控制器。無論最終誰勝出,控制器層都會獲得效益。 最大的受益者是買家本身——超大規模資料中心營運商。 CXL 的核心在於降低內存成本:回收現有內存,將閒置內存集中起來,並將容量與 CPU 解耦。 CXL 創造的價值主要由部署者獲得。這正是大家常常忽略的反直覺之處。 DRAM 廠商對此看法不一。短期來看,CXL 模組可以促進標準 DRAM 的銷售,並開闢新的市場。長期來看,記憶體池和回收利用會抑制 DRAM 的增量需求。有利有弊。 HBM 基本上不受影響。 CXL 解決的是容量問題,而不是 HBM 的頻寬問題。 「HBM 的需求是否會受到影響」這個問題本身就是錯誤的——CXL 是補充,而不是替代品。 以上僅供參考,非投資建議或交易訊號。
더 보기