scaling law停滞了吗?下半年过来模型参数规模并没有继续按照之前的速度膨胀。
Scaling Law的下一个:Power Scaling
Blackwell之后,AI服务器进入Power Scaling阶段。单GPU持续提升功耗,Rack正从几十kW快速迈向100kW、200kW,未来甚至可能达到300-500kW。未来几年,Power的重要性将持续提升。
目前市场普遍预计,Vera Rubin继续采用高性能SiC Rectifier,Rubin Ultra则有望进一步演进至Solid State Transformer(SST)架构。SST尚未得到官方确认,但整个产业已经开始围绕MVDC、中压供电以及高密度Power Architecture进行布局。真正重要的不是Rectifier还是SST,而是两条路线最终都指向同一个底层技术——SiC。
Rectifier完成AC/DC转换,SST进一步集成变压、隔离、双向功率流以及数字控制,更接近整个供电系统的平台升级。随着Rack功率不断提升,铜耗、转换损失以及动态响应开始成为新的约束,SST正是围绕这些问题演进。
SiC的重要性是,无论最终采用Rectifier还是SST,高压、高频、高效率的功率开关几乎都离不开SiC。
相比传统硅器件,SiC拥有更低的导通损耗、更低的开关损耗、更高的耐压能力以及更高的工作频率。当供电电压进入800V以上、单机柜功率进入数百kW之后,这些优势开始持续放大。
GaN和SiC经常被放在一起讨论,但它们解决的是不同的问题。SiC商业化的主流器件是SiC MOSFET,GaN商业化的主流器件则是GaN HEMT。未来最有可能形成明确分工:中压、高压、大功率转换采用SiC,板级、高频DC/DC转换采用GaN。两条路线长期更可能协同发展。
SiC份额提升,也意味着传统硅功率器件开始重新定位。目前硅功率器件主要包括IGBT以及Super Junction MOSFET。IGBT适合极高电压、大电流场景,目前仍广泛应用于轨交、工业驱动以及风电。Super Junction MOSFET通过超结结构显著降低导通电阻,长期成为服务器电源和工业电源的主流方案。
几十kW服务器时代,Super Junction MOSFET已经足够优秀。数百kW AI Rack时代,高压、高频、高效率开始成为新的优化目标,SiC逐渐进入价值量最高的供电环节。
AI数据中心的SiC需求更多取决于算力需求、电力基础设施以及Hyperscaler CapEx。这意味着行业周期可能比过去单纯依靠汽车市场更加稳定。
如果这一趋势继续发展,受益的将不仅仅是SiC器件公司。目前全球主要供应商包括Infineon、ON Semiconductor、STMicro、ROHM以及Wolfspeed。除Wolfspeed之外,大多数都是IDM。同一座Fab通常同时生产Si MOSFET、IGBT、模拟芯片以及SiC器件。
另一个重点是制造端。SiC虽然需要外延、高温退火等特殊工艺,但大量设备仍然沿用成熟制程平台,包括光刻、刻蚀、薄膜、CMP以及测试。未来如果8英寸SiC进入持续扩产周期,受益范围将进一步扩展到成熟制程设备、SiC外延设备以及衬底供应商,而不仅仅局限于器件企业。
接下来,值得持续跟踪的领先包括:NVIDIA是否正式导入SST,Hyperscaler是否开始部署MVDC,Vertiv、Delta、Schneider、Eaton是否推出下一代AI供电架构,Infineon、ON、ST是否开始单独披露AI数据中心收入,全球8英寸SiC Fab是否进入新一轮资本开支周期。
这些信号比短期销量更加重要。
顯示更多
Scaling Law正在被重新Scaling
---openai核心研究员最新论文《Learning Beyond Gradients》解读
过去几年,AI行业几乎默认更大的参数、更多的数据、更长的训练、更强的GPU,就是更强的模型,就是scaling law。
过去几个月,行业开始认为,更多的推理,更多的agent,就能完成更长时、更高价值的任务,就是更强的智能。
这构成了行业对scaling law的理解,而只要Scaling Law继续成立,模型就会不断逼近AGI。
最近的openai核心研究员翁家翌的一篇论文《Learning Beyond Gradients》,提出了一个全新的scaling维度:AI不一定只能通过梯度下降学习,也可以通过heuristic、policy、workflow、strategy、code generation不断修改自己的行为系统。
这是继agentic和harness之后,AI行业可能正在从“Scaling Model”,进入“Scaling System”的阶段一个最新的重要进展。
过去AI的能力飞轮,本质上是:更多数据→更大模型→更强能力→更多用户→更多数据。
但现在,论文要告诉我们的是,新的能力飞轮:更强模型→更强heuristic generation→更强runtime system→更强Agent能力→更多真实世界反馈→更强runtime evolution→反过来增强模型表现。
行业正在加速的从:智能 = weights。过度到:智能 = weights + runtime system。
LLM本质上是输入→Transformer→输出。
模型训练结束之后,能力基本冻结。学习主要发生在梯度下降、反向传播和weight update里。也就是说,learning = 修改参数。
LLM就像人类的大脑,参数就像脑细胞。但现实世界的大量复杂能力,其实并不完全来自参数。
就像人类文明真正强大的地方,也不仅仅是大脑本身。真正让文明爆炸的,是语言、文字、工具、数学、workflow、软件系统、组织结构、科学方法。这些本质上都是“外部heuristic system”。
《Learning Beyond Gradients》,的创新,在于它开始尝试把“学习”从参数空间里解放出来。过去是:reward → gradient → weights。现在开始变成:feedback → heuristic modification → runtime evolution。学习开始发生在program space,而不是parameter space。
heuristic,还有点像专家系统,但极大的增强了其能力:过去的专家系统,规则由人类写;现在,规则开始由LLM自动生成。这是在效率上的从量变到质化。
传统专家系统失败,并不完全因为“规则”方向错了,而是因为人类无法维护超大规模动态规则系统。过去写规则太慢、修改规则太贵、规则之间容易冲突、长尾case会爆炸、系统复杂度会失控,所以专家系统最终被深度学习取代。
但LLM的出现改变了这个约束。现在规则生成成本接近于0。模型不仅能生成规则、修改规则、删除规则、调试规则,还开始能自动生成workflow、tool graph、planner、memory strategy,甚至修复agent行为。
这意味着,AI开始能够修改自己的运行时系统。于是,越来越多能力开始从“模型本身”外溢到memory、planner、search、tool use、verifier、runtime orchestration这些系统结构里。
更大的模型 = 更强的AI,变成:更强的模型 × 更强的runtime system = 更强的AI。这会形成一个新的能力飞轮。
过去AI只有“模型scaling”。未来AI会开始出现:Model Scaling × System Scaling × Runtime Self-Improvement。
我们很可能正在从去年底的scaling law,迈入到现在的heuristic驱动的,结合agent和harness的scaling law的平方。
更重要的是,runtime system的增长现在其实才刚开始。今天很多Agent系统仍然非常早期。memory很弱、planner很弱、workflow persistence很弱、long-horizon task能力很弱,本质上还处于“DOS时代”。
但接下来,同一个基础模型,在不同Harness之下,实际能力可能相差几十倍。因为很多复杂任务的瓶颈,已经不是“模型会不会”,而是“系统能不能持续组织行为”。
这也是为什么,未来最重要的竞争,可能不再只是“谁的参数最多”,而是“谁最先形成:模型 + memory + tool ecosystem + heuristic runtime + self-improving harness”的闭环。
某种意义上,Transformer越来越像“认知内核”。真正的AGI,可能是围绕Transformer构建出来的runtime civilization、heuristic ecosystem、agent society、memory graph、self-improvement loop的组合体。
《Learning Beyond Gradients》最让我兴奋的地方,其实并不是“超越梯度”。而是它开始尝试:把Scaling Law本身,也变成一个可以被继续Scaling的系统。
顯示更多
Paddy Law🟥🧡🟩点右上角的🥰关注🥰跟随推送更多精彩内容🟠🦢🟢qbXe5eWGsTMBP8mMQYMw珠海酒店上门
💯💫💘👋😌
Lawyer whether culture get film.
#足交 #足控
🤣三十万原版视频
🤣三十万原版视频
🤣
🤣
🤣点头像看简介进群
🌹点头像看简介
🤣
🤣请放心,不是骗人和广告
🤣
🤣纯视频资源!
🤣
🌹
顯示更多
据 Bloomberg Law 援引知情人士报道,币安未能获得网络安全保险(Cyber Insurance)。此次涉及约 63 亿美元被盗资产的黑客攻击发生后,预计外部商业保险能够覆盖的损失有限。
币安目前持有董事及高管责任保险(D&O),可能为事件后针对公司董事或高管的监管调查及诉讼提供一定保障,但并不直接覆盖被盗加密资产。报道指出,数字资产企业即使持有相关保险,也可能受到保单除外责任条款的限制,具体赔付范围仍取决于保单条款。
顯示更多
据 Bloomberg Law,已申请破产保护的加密矿企 Poolin Technology 在拍卖中选择 Hut 8 Corp. 提出的 1.4 亿美元报价,作为其位于得州两处数据中心资产的中标方案。Hut 8 为上市加密矿企,目前正扩展 AI 数据中心业务;Poolin 于今年 7 月申请 Chapter 11 破产保护。对于其中位于得州 Ward County 的一处站点,Poolin 选择 DigiPower X Inc. 的 3,650 万美元报价作为备用方案。
顯示更多