CUDA 的核心理念,是把原本给电子游戏用的并行计算电路,转手交给科学家
不用再靠处理三角形去榨那每秒 10 亿次的浮点运算,整个架构被打开,供更广泛的用途使用
有个说法很传神:你手里是一张游戏显卡,但它带一个开关,轻轻一拨,它就变成了一台超级计算机
显示更多
Avarok Cybersecurity 开源了 Atlas,一个用 Rust + CUDA 从零写的大模型推理引擎。它不依赖 Python 和 PyTorch,项目方称 Docker 镜像约 2.5GB,冷启动不到 2 分钟,目前主要面向 NVIDIA DGX Spark 的 GB10 平台优化。
官网模型矩阵显示,Atlas 在单台 DGX Spark 上跑 Qwen3.5-35B-A3B 可到约 130 tok/s,跑 Qwen3.6-35B-A3B 约 71 tok/s。Atlas 官网和 Hugging Face 页面称,在同硬件下,Qwen3.5-35B 平均约 111 tok/s、峰值 130 tok/s,vLLM 约 37 至 38 tok/s。
这组「3 倍 vLLM」数据来自项目方公开基准。GitHub README 写明,测试使用的是「法国首都是哪」这类短 prompt,生成上限不超过 30 个 token,temperature 为 0.1。这个口径更接近短请求、低并发、快速响应场景,也正好对应 Atlas 想打的卖点:用更小镜像、更少依赖和更快冷启动,把本地大模型服务变得更轻。
Atlas 现在仍是早期项目,真实生产场景还要看后续长文本、高并发和复杂工具调用测试。GitHub 上已有用户反馈输出质量和工具调用稳定性问题,相关 Issue 截至 2026 年 5 月 11 日仍处于 Open 状态。对开发者来说,它更像一个值得关注的新推理底座,而不是已经能全面替代 vLLM 的成熟方案。
显示更多
苏妈这次,可能把本地AI的门槛打下来了,但我还是优先选择cuda生态!
AMD的股东们,开始兑现投资的乐趣。在英伟达(NVDA)凭借CUDA生态,统治AI市场的背景下,苏姿丰为AMD塑造了独特的AI叙事:提出AI不仅是GPU的事,而是CPU、GPU、FPGA以及自适应计算的集合。这种“全栈算力”的布局,使AMD成为唯一能在大规模数据中心,提供完整解决方案的公司。作为MIT的电机工程博士,苏姿丰能直接进入实验室检查晶片样片,这种“懂行”的领导风格,让工程师文化重新回归AMD。
显示更多
AMD还得涨。英伟达最强的护城河,被AI挖出了一道口子。过去让大模型从CUDA迁到AMD,往往要几十个工程师干上一年;Anthropic这次只派了1个人,给Claude留下一条指令,过个周末,性能优化已经自己跑了两天。CUDA过去的优势就是搬不动,现在AI正在把搬家的成本快速打下来。但英伟达还没倒,因为它真正难替代的优势,已经从软件转向芯片、机柜、电力和产能。软件壁垒可能被AI迅速削平,硬件和供应链短期内依然没人补得上。
显示更多
懒猫 AI 算力舱最大的能力不在于说本地单独跑一个模型
而是能够同时跑多个模型,帮你做业务整合
非常适合对隐私要求高或者是正在给产品做 demo 的团队购买
同时,不断涌现出的优秀开源模型也越来越多,配合英伟达的优化和 CUDA 生态,用起来很香
感兴趣的推友还有什么想了解的,评论区见。
显示更多
Anthropic 核心技术成员 Julian Schrittwieser 近日在 X 平台发文讽刺黄仁勋支持开放权重 AI 模型的声明,表示期待 CUDA 和 GPU 驱动程序开源。
哈哈哈😂😂😂😂😂,那是人家的护城河,开源了中国能出无数个 CUDA😎
显示更多
华尔街:廉价的中国模型,扼杀了英伟达。Kimi在48小时后:订阅暂停。GPU已满负荷。正在以最快速度增加容量。这就是带有CUDA账单的杰文斯悖论。更便宜的智能不会减少计算需求。它会引爆它。所以,明年底之前,AI储存只会紧缺。美国财长贝森特直接登场:美国在AI上已领先中国大约一年,下一步的动作,是要把美国在全球算力中的持仓份额,从现有的60%直接干到80%。
贝森特说,这场算力主权争夺战“输给中国是不可想象的”。60%干到80%,无疑又是新一轮的资源管控,技术封锁,大国之间的AI竞争才刚刚开始…这个战略的执行路径核心是“全政府+财政杠杆”驱动的算力主权建设:扩展CHIPS Act,提供巨额补贴、税收优惠和低息贷款,加速美国本土先进制程fab(英特尔Intel、TSMC亚利桑那等)和超大规模AI数据中心建设。本质是硬件层面的国家机器垄断,而非只卷模型参数。
显示更多
结构性高毛利的形成基础是难以复制的技术护城河、生态锁定或垄断/寡头格局,而非单纯的供需缺口,例如NVIDIA 的 CUDA 生态、ASML 的 EUV 垄断、TSMC 先进制程 + 设计生态:这种背景下毛利率上行临界点很高,且重构滞后。高毛利率可以维持更长时间,对应更持久的估值溢价。
相比之下,周期性高毛利则更容易因资本涌入和产能扩张而快速触发产业重构,标志着扩张阶段的结束或转向。例如DRAM、成熟制程、传统封测:这种背景下毛利率上行临界点较低,毛利率一旦过高,重构来得更快更猛。
产业链不同的分工需要我们判断该环节高毛利率是“护城河定价”还是“暂时性超额利润”
显示更多
法国对英伟达的反垄断调查快到关键节点了。
监管关注点主要有两个:CUDA 让开发者很难切到其他硬件平台,英伟达对 CoreWeave 这类 AI 云公司的投资可能继续强化优势。
法国即便发出正式异议声明,也不等于已经判违法。但如果最后认定滥用市场支配地位,罚款上限可以到全球年营收的 10%。
AI 芯片竞争,越来越绕不开软件和云计算这两层了。
显示更多