注册并分享邀请链接,可获得视频播放与邀请奖励。

WangNextDoor
@WangNextDoor2
Engineer/entrepreneur in CA, Tesla/NVDA/AI & Robotics bull. Elon & All-In Podcast enthusiast. Believer in a universal high-income future.
加入 April 2021
17.5K 正在关注    107.3K 粉丝
这种AMD全盘弃用HBM其实有点标题党了并不完全准确,大家别断章取义了,我之前也是芯片设计领域的从业者,就像当年CPU领域的CISC VS. ASIC之争一样,性能和灵活度几乎永远无法做到两全的,这是基本常识! AMD超强推理性能来自其收购的Taalas公司专用ASIC芯片,而非AMD通用GPU产品线。这款芯片将模型权重固化在硅片内,官方测试中单模型推理速度可达传统GPU约48倍,硬件成本大幅下降,但无法用来做大模型训练。 1. 该架构直击传统GPU的内存墙痛点,依靠存内计算省去HBM显存开销,在成熟固定大模型的大规模推理场景拥有无可比拟的能效优势。 2. 技术最大短板在于通用性缺失,更换基础模型需要重新流片,模型快速迭代会显著抬高长期使用成本,难以替代英伟达通用GPU生态。 3. 对AMD自身而言,这条路线是重要补充,未来将与基于HBM的Instinct训练GPU形成高低搭配,补齐推理端差异化竞争力。 4. 这条硬化ASIC赛道更适合垂类稳态业务,例如代码生成、企业专属知识库等模型更新节奏慢的场景,短期很难走入通用公有云主算力池。 5. 若后续能够缩短芯片重制周期、提升架构灵活度,模型硬化有望成为AI算力重要分支,倒逼行业重新权衡算力的通用性与能效之间的取舍关系。
显示更多