部分投資者低估AI推理對內存擴展與存儲優化的需求。CXL內存池化可跨CPU/GPU等統一尋址、調度與訪問,支撐大規模高並發大模型訓練推理。現有架構受插槽與單條容量限制,參數與激活值需頻繁在HBM-DRAM-SSD間遷移,導致延遲放大、頻寬浪費與資源分配不均。CXL能拓展內存空間、提供靈活分配,提升訓練推理能力,並顯著降低數據中心TCO,有望重塑AI算力設施的內存硬件構成。
CXL相關軟硬件已逐步完善,頭部廠商加速布局。CXL 4.0(2025年11月)速率達128 GT/s,較3.0翻倍;NVIDIA收購Enfabrica團隊,Vera CPU支持CXL;阿里雲推出基於CXL 2.0 Switch的PolarDB專用服務器;浪潮推出元腦CXL內存擴展方案。Techinsight預測,CXL在服務器DRAM佔比將從2024年近零成長至2030年約15%,有望成為標配,產業生態加速成熟,滲透率快速提升。
廠商持續創新以適配AI推理。浪潮KOS推出MantaKV,利用CXL池化共享內存實現「存傳一體」KVCache管理,減少傳輸冗餘、提升效率。北京大學與阿里雲等將CXL內存池用於Engram並集成至SGLang,達接近本地DRAM效能,提供可擴展且具成本效益的方案。隨著AI推理需求提升,CXL內存池化空間持續打開,產業鏈有望深度受益。
顯示更多