Ryan Leung 梁興盛, CFA
@RYANHINGSHING
Buyside equity analyst. Tech/Fin. Investing in tech/semi supply chain. Not investment advice. DM open.
가입 March 2023
800 팔로잉 중 16.4K 팬
昨天說了華為-deepseek codesign優勢已經形成。之前看得比較多就是昇騰硬件參數的比較，所以今天找了一找資料學習codesign優勢，最後找到Semianalysis
結論是華為昇騰硬件落後西方5年，但軟件棧優勢已到達前沿，華為-deepseek 系統級協作正快速缩小中美AI生態差距
在硬件方面，昇腾950PR HBM帶寬跟H100持平，在一些情況下帶寬甚至比H100更好。AICPU 等系統級設計讓短任務可在設備中被高效處理
軟件方面，DeepSeek 支持TileLang和 DeepEP 等代碼庫，背後反映內核能自動調度、可復用，並支持超節點規模的系統級專家並行通信。DeepSeek 再針對昇騰硬件限制重寫注意力數據流，並也支持了speculative decoding和 Engram等推用結構，形成了模型 + 軟件 + 硬件codesign的優勢。
梁文鋒在五月的時候指中美計算軟件生態的差距最終消失，這次華為-deepseek codesign是中美 AI 軟件生態差距正在快速縮小的直接證據。
더 보기
