注册并分享邀请链接,可获得视频播放与邀请奖励。

搜索结果 TechInsight
TechInsight 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 TechInsight 的推特
【內存難題】滿足正急升的人工智能記憶體晶片需求將帶來氣候成本 總部位於渥太華的研究公司TechInsights Inc.稱,晶片製造規模擴大、產品複雜度與資源消耗提升,加上電力供應仍依賴化石燃料的國家陸續提高產能,這些因素將共同加劇該行業的污染排放。
显示更多
部分投資者低估AI推理對內存擴展與存儲優化的需求。CXL內存池化可跨CPU/GPU等統一尋址、調度與訪問,支撐大規模高並發大模型訓練推理。現有架構受插槽與單條容量限制,參數與激活值需頻繁在HBM-DRAM-SSD間遷移,導致延遲放大、頻寬浪費與資源分配不均。CXL能拓展內存空間、提供靈活分配,提升訓練推理能力,並顯著降低數據中心TCO,有望重塑AI算力設施的內存硬件構成。 CXL相關軟硬件已逐步完善,頭部廠商加速布局。CXL 4.0(2025年11月)速率達128 GT/s,較3.0翻倍;NVIDIA收購Enfabrica團隊,Vera CPU支持CXL;阿里雲推出基於CXL 2.0 Switch的PolarDB專用服務器;浪潮推出元腦CXL內存擴展方案。Techinsight預測,CXL在服務器DRAM佔比將從2024年近零成長至2030年約15%,有望成為標配,產業生態加速成熟,滲透率快速提升。 廠商持續創新以適配AI推理。浪潮KOS推出MantaKV,利用CXL池化共享內存實現「存傳一體」KVCache管理,減少傳輸冗餘、提升效率。北京大學與阿里雲等將CXL內存池用於Engram並集成至SGLang,達接近本地DRAM效能,提供可擴展且具成本效益的方案。隨著AI推理需求提升,CXL內存池化空間持續打開,產業鏈有望深度受益。
显示更多