实践哥 Li
@MinLiBuilds
AI Builder 超级个体。实践哥Li不做概念党，只聊 AI 实战。分享Claude，Codex，Grok，Gemini， 开源大模型各种一手折腾心得。
参加 July 2023
2.1K フォロー中 18.5K ファン
这玩意在中国我感觉要被卖疯了。
如果你有 500 万，买 35 台 512GB M5 Ultra 还是 8 卡H200 整机？
国内 H200 整机报价500 万。
算一下推理预算：
8×H200：1.13TB HBM3e。
35×M5 Ultra：17.9TB 统一内存。多买 16 倍。
H200 单卡 HBM 4.8TB/s，当然狠狠干苹果 1.2TB/s
但一个巨型模型拆到 8 张卡以后，卡间 NVLink 是 900GB/s。
苹果这边直接给你：
单机 512GB 统一内存，1.2TB/s。
35 台。
DeepSeek、GLM、Qwen 这种巨型 MoE，量化以后整只模型直接塞进去。
所以如果我要训练，H200 没什么好说的。
但如果我要的是 Agent 推理，这账就开始邪门了。
500 万买一台 8 卡服务器，
还是搞35 台 Mac，每人发一台，每台塞一份大 MoE？
更何况这是中国。
顶级 NVIDIA 数据中心 GPU 又贵，又受到出口管制。
苹果：
兄弟，我就是卖 Mac 的。😂
所以我感觉这台 512GB M5 Ultra 在中国真的要被卖疯。
真正能让老黄的刀变钝的，可能不是另一家 CUDA。
是苹果。
竞品才是最好的驱动。老黄今晚睡不好了，该不该跟进 🫡
もっと見る
装了一把土豪，购物车已加好。
这个 Mac Studio M5 Ultra 芯片，1.2TB/s 的内存带宽，97999 元。
256G 的内存，4T 的丐版硬盘。 跑 deepseek flash int4 非常好。
如果要跑更高精度的，可以等等 10 月份出的 512GB 内存版的，只要再加 3 万元，127999 元。
可以取 3 个老婆了 🫡
もっと見る
