注册并分享邀请链接,可获得视频播放与邀请奖励。

搜索结果 AMD:推理界的全能选手,GPU
AMD:推理界的全能选手,GPU 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 AMD:推理界的全能选手,GPU 的推特
今天看到一份报告,讲到2030年,未来75%的AI计算需求将会来自推理,这里面将会催生出AI投资下半场的巨大机会,下面👇我们来简单聊一聊。🧐 过去两年,大家都在疯狂囤 GPU 训练模型,烧钱堆算力。但最近大家有没有发现,情况开始变了?尤其是小龙虾🦞出来以后,各类Agent可谓大爆发,Token需求指数级增长。一个崭新的推理时代正在到来,未来AI最大的叙事点是让AI应用走进全球几十亿用户手中,并真正使用起来! 这个转折点,我把它叫做从「训练时代」到「推理时代」的切换。而在这个新阶段,CPU 和定制芯片将是未来真正的主角。 👇咱们掰开揉碎了讲讲,为啥我开始盯上这些以前不起眼的家伙: 🎯 AI 现在有「脑子」了 以前的 AI 就是个工具,我问它答,无法去执行具体的工作。现在不一样了,Agentic AI来了,它能帮我订机票、改文档、写代码,甚至帮我规划整个工作流程。 这种活儿需要大量的逻辑判断和顺序编排。以前GPU是肌肉男,干体力活厉害;但现在这种执行活,CPU 才是指挥官,它擅长处理复杂的逻辑。AI 越聪明,越需要 CPU 来调度指挥。 🎯 大厂也得省钱啊 看财报,各大厂在AI领域的资本开支都十分庞大,其中七巨头除苹果之外,26年全年资本开支总额超过了6000亿美金。不要以为谷歌、Meta 这些巨头就不差钱。恰恰相反,他们也是把钱花在刀刃上。假如一直用英伟达的通用 GPU 来搞推理,电费和硬件成本会把他们吃掉。 所以大厂开始自己设计专用芯片ASIC,就像咱们切菜用菜刀、砍柴用斧头,专芯专用,效率高成本低。这是实打实的降本增效。 基于上述逻辑,我们筛了五个核心标的: • #AMD:推理界的全能选手,GPU# MI300/325 系列拥有业内领先的内存带宽(256GB HBM3E内存,带宽达6TB/s,参数上优于英伟达H200),能轻松处理超大规模LLM的实时推理,而且速度快。关键是它还是服务器 CPU 的老二,代理式 AI 需要强 CPU 时,AMD 两头吃。 • #ARM:底层架构之王,谷歌、亚马逊自研芯片基本都跑# ARM 架构,ARM Neoverse 平台已经成为 90% 以上自研 AI 服务器 CPU 的首选。所以大厂搞自研,ARM 相当于在家坐着收过路费。 • 博通(#AVGO):定制芯片的总工程师,它作为# Google TPU、Meta MTIA 和字节跳动的重要合作伙伴,博通在高速互联和封装技术上拥有绝对统治力,是云巨头降低推理成本的首选合作伙伴。大厂想省钱搞自研,离不开博通的技术。 • 迈威尔(#MRVL):深度参与亚马逊# AWS 和微软 Azure 的芯片研发,这俩巨头想摆脱英伟达依赖,必须依靠迈威尔。目前迈威尔的定制硅片业务正从“研发期”进入“爆发收获期”,未来的生意只会越做越大。 • 英特尔(#INTC):虽然最近比较难,但它是唯一有自家晶圆厂的设计商,还拥有全球稀缺的# IDM 2.0 代工能力。当推理导致全球 CPU 需求激增、供应链紧张时,Intel 内部的这种协同效应和本土制造优势将会逐渐凸显,而且它还是服务器 CPU 老大。 看完整份报告,我个人认为有几个大趋势将会成为必然: 首先是从以前的「暴力算力」到未来的「精细化运营」。现在来看,整个AI 投资逻辑正在转变,不再是谁芯片最强,而是谁的方案最省钱、最能落地。说明AI真正商业化全面落地场景下,能效比率才是关键。 其次是供应链博弈。各大云巨头都在搞自研芯片,未来 AI 硬件市场会从「英伟达一家独大」变成「群雄割据」。我认为这对整个产业链将是好事。 最后就是电力依然会成为长期瓶颈。虽然 CPU 和 ASIC 在优化效率,但整体算力规模爆炸,对电力的需求还是无限大。看芯片的同时,能源赛道也值得留意。 总结一句话,#AI# 下半场,别光盯着那块最贵的 GPU,那些负责指挥的CPU和帮大厂省钱的ASIC,可能藏着下一波机会。 目前上述提及的公司在 #MSX# 上面基本都有,炒美股,我选择用 #RWA# 美股代币化平台 #MSX,一同投资参与美股市场:# 早期美股投资粉丝和伙伴,可以私信我,填写表单后,可免费进入美股交流和探讨社群(目前每周仅限定10人,助理审核,可能需要一点时间,感恩🙏)!
显示更多
0
13
212
63
转发到社区
《AI 下半场:美股人形机器人产业链全梳理》 白毛股神 Serenity @aleabitoreddit 说:Robotics is next.🤖🤖🤖 过去两年,市场主要交易的是 AI 的大脑:GPU、CPU、存储、数据中心、大模型、推理算力。 但大脑建好之后,AI 不能永远只停留在屏幕里写代码、画图、聊天。 大模型是 AI 的大脑,机器人是 AI 的身体。大脑负责思考,身体负责行动。 只有当 AI 拥有了身体,它才能真正走进工厂、仓库、医院、家庭,去搬运、分拣、装配、护理、清洁,最终在真实世界里创造价值。 Biteye 按照人形机器人的组成部分,系统梳理了美股机器人及供应链核心标的👇 🔹 感知系统 这部分负责让机器人看到世界。它通过视觉、深度、触觉等传感器,把真实世界转化为数字信息,让机器人能够识别物体、理解环境并进行空间定位,是机器人理解外部世界的第一步。 $CGNX Cognex | ~$8B+ | 工业机器视觉龙头,工厂自动检测与识别系统 $KEYS Keysight | ~$30B+ | 测试测量系统,机器人电子系统验证基础设施 $TDY Teledyne Technologies | ~$25B+ | 高端工业相机+LiDAR+传感器系统 $ON onsemi | ~$25B+ | 自动驾驶+机器人图像传感器核心供应商 $NOVT Novanta | $5.61B | 做机器人力/力矩传感器,在人形机器人和工业机器人里很重要。 $AMBA Ambarella | ~$4B+ | AI视觉芯片,用于机器人/无人机/安防识别 $VPG Vishay Precision Group | ~$1.7B | 精密力学传感器公司,应变计和力传感器可用于人形机器人灵巧手、关节力控与高精度抓取,是 Optimus 供应链弹性标的之一。 $VLN Valens Semiconductor | ~$200M+ | 高速信号传输芯片公司,提供低延迟视觉数据传输方案,可用于机器人多摄像头、自动驾驶和端侧计算系统。 🔹 执行系统 执行系统相当于机器人的肌肉和关节,负责把计算系统发出的指令转化为真实动作。无论是行走、转身、抓取、搬运,还是保持平衡,都依赖电机、减速器、液压/气动系统和精密传动部件来完成。 $PH Parker Hannifin | ~$120B+ | 运动控制+液压系统,机器人核心驱动与执行器 $IR Ingersoll Rand | ~$32B+ | 工业压缩机+自动化气动系统 $FTV Fortive | ~$18B+ | 工业精密工具+自动化设备系统 $RRX Regal Rexnord | ~$14B+ | 电机+传动系统,工业机器人动力核心 🔹 计算与控制 计算与控制相当于机器人的“大脑 + 小脑”,负责处理感知数据、理解环境、规划路径,并把AI决策转化成稳定动作。它决定机器人反应快不快、动作准不准、能不能在复杂环境中自主运行。 $NVDA Nvidia | ~$3.0T+ | AI GPU + Jetson边缘计算平台,机器人算力绝对核心 $MSFT Microsoft | ~$3.2T+ | Azure + Copilot + AI基础设施,提供机器人云端大脑与开发平台 $GOOGL Alphabet | ~$2.0T+ | DeepMind + Waymo,布局自动驾驶与机器人AI系统 $AMD AMD | ~$880B+ | GPU/CPU替代方案,提供机器人边缘与训练算力 🔹 能源系统 能源系统决定机器人能运行多久、功率能有多强,包括电池技术、电源管理和充电系统,是机器人能否规模化落地的关键限制条件。 $ADI Analog Devices | $203.57B | 模拟芯片、电源管理、传感和工业控制巨头,机器人底层硬件核心。 $HON Honeywell | $144.11B | 电源管理+工业能源系统 $MPWR Monolithic Power Systems | $76.83B | 电源管理芯片龙头,广泛应用于机器人、AI服务器和汽车电子。 $VICR Vicor | $14.40B | 做高效率电源模块,将电池电压转换成不同部件用电,适合机器人能源系统。 $AMPX Amprius Technologies | $2.43B | 硅负极高能量密度锂电池,已切入无人机与机器人市场 $BLNK Blink Charging | $85.63M | EV充电基础设施公司,探索机器人与物流设备充电场景 🔹 基础软件 基础软件是人形机器人真正的“智能底座”,决定机器人不是简单重复动作,而是能够理解任务、学习环境并不断优化行为。 在人形机器人训练中,软件的重要性甚至高于单一硬件。机器人需要先在仿真环境中学习走路、抓取、避障和执行任务,再通过真实世界数据不断修正模型。 $MSFT Microsoft | ~$3.2T+ | Azure AI + Copilot 生态,机器人云端大脑与企业AI开发平台。 $NVDA Nvidia | ~$3.0T+ | Isaac Sim + Jetson + GPU 算力平台,机器人仿真训练和AI推理基础设施。 $TSLA Tesla | ~$1.3T+ | FSD + Optimus 数据闭环,端到端机器人策略模型代表。 🔹 人形机器人 在人形机器人方向,本体公司的目标是让机器人像人一样在复杂环境中完成通用任务;在工业和协作机器人方向,则更强调稳定性、效率和规模化部署。因此,这一层通常也是机器人产业链中最接近终端需求、最容易形成品牌和估值叙事的部分。 $TSLA Tesla | ~$1.3T+ | Optimus 人形机器人 + FSD 自动驾驶统一系统,代表“AI大脑 + 机器人本体 + 数据闭环”的一体化路线。 $HON Honeywell | ~$140B+ | 工业自动化、航空自动化与物流自动化解决方案商,更多偏机器人系统集成与场景落地。 $ABB ABB | ~$100B+ | 全球工业机器人和自动化龙头,产品覆盖机械臂、控制系统、产线自动化,是成熟工业机器人代表。 $TER Teradyne | ~$24B+ | 通过 Universal Robots 和 MiR 布局协作机器人与自主移动机器人,是工业协作机器人平台型公司。 $CCXI Churchill Capital Corp XI / Agility Robotics | 拟合并估值约 $2.5B | Agility 是美国人形机器人公司,核心产品 Digit 主攻物流、仓储和制造场景。 目前 Agility Robotics 正通过与 SPAC 公司 Churchill Capital Corp XI 合并上市,交易完成后预计更名为 Agility,并使用新 ticker $AGLT。 🌟写在最后 机器人产业链的投资逻辑,其实和半导体周期很像。 早期阶段,很难判断谁会成为最终赢家,但产业链上每一层都会先跑出阶段性机会:感知、执行、能源、控制、本体,都会随着行业关注度提升被重新定价。 今天优必选超仿生机器人刷屏,就是一个很明显的信号:机器人正在从实验室、发布会,开始走进大众视野。根据公开报道,优必选在 6 月 30 日发布会上表示,“优世界 U1”系列全渠道订单已突破 1 万台,并计划今年交付。 当然,这不代表机器人马上就会全面商业化。短期看,它更像一个从“概念展示”走向“真实订单”的拐点。真正值得关注的,是订单能不能持续、成本能不能下降、供应链能不能跟上。 对普通投资者来说,与其现在就押注谁是“人形机器人界的英伟达”,不如把机器人当成一条完整产业链来研究:感知、执行、能源、本体,每一层都选出核心公司,用组合方式分散单一标的不确定性。 Robotics is next 这句话大概率是对的。但节奏不会一蹴而就,真正的机会,可能藏在每一台机器人都绕不开的核心供应链里。
显示更多
0
6
75
25
转发到社区
amd疯了,盘前220刀. amd是推理芯片, 现在openai就差找存储芯片签协议了.
0
26
131
10
转发到社区
这种AMD全盘弃用HBM其实有点标题党了并不完全准确,大家别断章取义了,我之前也是芯片设计领域的从业者,就像当年CPU领域的CISC VS. ASIC之争一样,性能和灵活度几乎永远无法做到两全的,这是基本常识! AMD超强推理性能来自其收购的Taalas公司专用ASIC芯片,而非AMD通用GPU产品线。这款芯片将模型权重固化在硅片内,官方测试中单模型推理速度可达传统GPU约48倍,硬件成本大幅下降,但无法用来做大模型训练。 1. 该架构直击传统GPU的内存墙痛点,依靠存内计算省去HBM显存开销,在成熟固定大模型的大规模推理场景拥有无可比拟的能效优势。 2. 技术最大短板在于通用性缺失,更换基础模型需要重新流片,模型快速迭代会显著抬高长期使用成本,难以替代英伟达通用GPU生态。 3. 对AMD自身而言,这条路线是重要补充,未来将与基于HBM的Instinct训练GPU形成高低搭配,补齐推理端差异化竞争力。 4. 这条硬化ASIC赛道更适合垂类稳态业务,例如代码生成、企业专属知识库等模型更新节奏慢的场景,短期很难走入通用公有云主算力池。 5. 若后续能够缩短芯片重制周期、提升架构灵活度,模型硬化有望成为AI算力重要分支,倒逼行业重新权衡算力的通用性与能效之间的取舍关系。
显示更多
英伟达上半场,AMD下半场: AI大势,从训练走向推理 昨天下午我去拜访了一位深耕存储芯片行业30多年的前辈,他半辈子都在半导体圈,对AI趋势看得特别清楚。 他笃定地告诉我:AI的红利正在从“训练时代”彻底转向“推理时代”,这是未来几年最核心的拐点。 他的逻辑很简单也很透彻: 早期的AI,基本就是收集资料、罗列信息。你问它,它给你12345一堆选项,最后决策还是靠人自己。这就是初级阶段,拼的是疯狂堆算力、堆参数——也是过去两年英伟达一家独大的原因。 但未来的AI会越来越“聪明”。它不再只是帮你找资料,而是自主分析、自主推演、直接给出最优决策。 AI从“帮人找答案”,变成“帮人做决定”。这就是整个产业最大的转变:训练落幕,推理为王。 英伟达上半场,AMD下半场 前两年的上半场,AI核心是大模型训练。 海量参数、堆卡、暴力算力,靠CUDA生态无敌的英伟达吃下了最早、最肥的那波红利。 但从2026年开始,下半场逻辑完全换了。 行业不再无限烧钱搞训练,而是要落地商业化、落地真实场景、落地高效推理。 推理最核心的需求是:高性价比、低功耗、软硬件协同、CPU+GPU异构调度——这正好是AMD的强项。 在推理赛道,AMD的成长空间明显更大。 一句话总结核心逻辑: AI上半场拼训练,是英伟达的时代; AI下半场拼推理,将正式开启AMD的黄金周期。
显示更多
AMD宣布收购专用AI推理芯片公司Taalas,交易条款暂未披露。
0
10
16
2
转发到社区
AMD 宣布收购 Taalas,一家 2023 年成立的多伦多 AI 推理芯片公司。交易金额没披露,这家公司此前累计融资 2.19 亿美元。 Taalas 的路子有点野:把模型权重直接刻进硅片,存权重这一步绕开 HBM。在内存这么紧张的时候,这个方向的分量一下子不一样了。 可以对照的是英伟达七个多月前花了大约 200 亿美元拿下 Groq 的推理资产。两家在推理这块都在往专用芯片上靠。 AMD 的说法是会把 Taalas 的技术并进自己的加速器路线图,和 Instinct GPU 做系统级方案。
显示更多
AMD 已签约收购多伦多 AI 芯片公司 Taalas,想解决一个很实际的任务:让代码助手、 AI Agent 这类大量生成文本的服务,回答更快,推理成本更低。 Taalas 的办法很激进:把模型权重直接固化进芯片,省掉频繁从外部高带宽内存搬数据的时间和功耗。 其首款 HC1 跑 Llama 3.1 8B,自测达到每位用户约 1.7 万 token/秒。 但这个数字不能直接理解成所有模型都能快十倍。测试用的是较小且已经过时的模型,还采用激进的 3/6 位量化; Taalas 自己也承认,输出质量比 GPU 基准有所下降。 更麻烦的是选择权。GPU 可以换模型,专用芯片却把效率押在一个模型上。模型若有较大改动,就得重新流片; LoRA 这类小规模微调仍能保留,但赶不上如今模型频繁更新的节奏。 所以它最适合的不是普通公司试用新模型,而是模型已经稳定、调用量巨大,愿意用前期制造成本换长期推理成本的平台。 AMD 买到的是一条更便宜、更快的生成通道,也把“选错模型后怎么办”的风险交给了客户。
显示更多
AMD + Anthropic合作的意义 如果 AMD 获得 Anthropic 的 GW 级部署,这意味着产业竞争逻辑开始发生变化:过去决定领先优势的是模型,今天越来越取决于谁能够持续获得、部署并利用更多计算资源。准确地说,不是 GPU 数量,而是 Effective Compute。 Frontier Model 已经成为资本密集型产业。单次训练成本进入数十亿美元时代,而 Agent、长上下文、持续学习和推理规模扩张,使 Inference 正逐渐成为比 Training 更大的长期资本开支。 这意味着 Compute 正逐渐成为 AI 能力增长的第一约束。领先模型之间的差距,不再只是论文和算法,而是谁能够持续获得数 GW、数十 GW 甚至更大的计算资源,并把这些资源快速转化为智能产出。 Anthropic 如果能够在 AMD 平台上部署大规模生产负载,将更近一步确定 Frontier AI 不再绑定单一 GPU 平台。 frontier lab的角色也因此发生变化。Anthropic 并不需要自己建设几十 GW 数据中心,它可以购买不同厂商的Compute。 Google、Oracle、CoreWeave 等云厂商甚至包括frontier labs自身,都开始扮演 Compute Broker 的角色,真正竞争的不再只是 GPU,而是谁能够最快交付 GW 级算力。这也是 Hyperscaler 持续上调 CapEx 的底层原因。市场购买的不只是服务器,而是未来几年 AI 生产能力。 云厂的客户,企业们,最终购买的不是 GPU,而是智能产出。NVIDIA 的优势来自系统效率,包括软件生态、通信、互联、利用率;AMD 如果能够以更低成本提供接近的有效算力,同样能够提高每美元获得的智能;Anthropic、OpenAI、Google 等模型公司则不断通过算法、RL、Agent 和推理优化,提高每一个 FLOP 的智能产出。 未来 AI 的竞争可以归结为一个简单的公式: Effective Intelligence = Compute × System Efficiency × Algorithm Efficiency Compute 决定能力上限,System Efficiency 决定硬件释放多少有效算力,Algorithm Efficiency 决定每一单位算力能够产生多少智能。算法仍然重要,但随着基础模型逐渐成熟,持续获取并高效利用大规模计算资源,正在成为 Frontier AI 最核心的竞争优势。AI 行业也因此开始从模型驱动,进入计算资源驱动的新阶段。
显示更多
AMD的新产品在撼动英伟达了! 苏姿丰在发布会上推出一款售价 1499 美元的小巧设备,直接对标英伟达4000 美元的 AI 专用设备。 流畅运行起2350亿参数的大模型。整个过程无需依托数据中心、云端服务,也不用额外租用显卡。 设备搭载的芯片AMD锐龙AI Max+ 395是首款实现CPU与GPU共用128GB内存的x86架构处理器。 依靠这一创新,普通台式机也能运行以往必须借助整组服务器才能承载的大模型。 在这套128GB内存中,Linux系统可分配110GB专供显卡调用。 作为参考,英伟达RTX 5090显卡显存仅32GB,RTX 4090为24GB。 这款设备的可用显存达到二者的三倍有余,机身大小却只相当于一本厚书。 实测运行DeepSeek R1大模型进行推理运算时,它的性能比英伟达RTX 5080高出三倍以上。 一款千元出头的便携设备,在实际AI任务中的表现,远超售价上千美元的独立显卡。 过去十年里,英伟达一直向市场灌输观点,称专业AI应用离不开自家硬件,而如今AMD以半价产品,彻底改写了桌面端AI硬件的格局。 当下深度使用各类AI工具的用户,每月要为Claude Code Max、ChatGPT Pro、Cursor、Gemini分别支付200美元、200美元、20美元、20美元,全年合计开销高达5280美元。 而入手这款设备,仅需九个月就能回本,往后便可无成本长期使用。 只需安装Ollama,部署通义千问3 235B大模型,再将Claude Code接入本地服务即可。 操作界面和以往完全一致,所有数据都留存于本地设备,不再产生单次调用费用,即便深夜加班开发,也不会遭遇平台限流。 自此,创业团队也不用再为高额算力成本犯难,不敢租用H100显卡开发产品原型。
显示更多