注册并分享邀请链接,可获得视频播放与邀请奖励。

0x鸣人
@LuBtc888
加密投研|美股投资|交易体系|财经认知 |AI科技
加入 June 2021
2.3K 正在关注    102.6K 粉丝
AMD的新产品在撼动英伟达了! 苏姿丰在发布会上推出一款售价 1499 美元的小巧设备,直接对标英伟达4000 美元的 AI 专用设备。 流畅运行起2350亿参数的大模型。整个过程无需依托数据中心、云端服务,也不用额外租用显卡。 设备搭载的芯片AMD锐龙AI Max+ 395是首款实现CPU与GPU共用128GB内存的x86架构处理器。 依靠这一创新,普通台式机也能运行以往必须借助整组服务器才能承载的大模型。 在这套128GB内存中,Linux系统可分配110GB专供显卡调用。 作为参考,英伟达RTX 5090显卡显存仅32GB,RTX 4090为24GB。 这款设备的可用显存达到二者的三倍有余,机身大小却只相当于一本厚书。 实测运行DeepSeek R1大模型进行推理运算时,它的性能比英伟达RTX 5080高出三倍以上。 一款千元出头的便携设备,在实际AI任务中的表现,远超售价上千美元的独立显卡。 过去十年里,英伟达一直向市场灌输观点,称专业AI应用离不开自家硬件,而如今AMD以半价产品,彻底改写了桌面端AI硬件的格局。 当下深度使用各类AI工具的用户,每月要为Claude Code Max、ChatGPT Pro、Cursor、Gemini分别支付200美元、200美元、20美元、20美元,全年合计开销高达5280美元。 而入手这款设备,仅需九个月就能回本,往后便可无成本长期使用。 只需安装Ollama,部署通义千问3 235B大模型,再将Claude Code接入本地服务即可。 操作界面和以往完全一致,所有数据都留存于本地设备,不再产生单次调用费用,即便深夜加班开发,也不会遭遇平台限流。 自此,创业团队也不用再为高额算力成本犯难,不敢租用H100显卡开发产品原型。
显示更多