注册并分享邀请链接,可获得视频播放与邀请奖励。

搜索结果 ScalingLaws
ScalingLaws 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 ScalingLaws 的推特
Lilian Weng 这两天更了一篇新 blog,《Scaling Laws, Carefully》。话说想当一个优秀的 researcher,真得会起标题啊😆这个 Carefully 就很妙,一看就不是来吹 scaling law 的,而是来给它祛魅的。 过去几年,AI 圈对 scaling law 的理解,多少有点简单粗暴:模型越大,数据越多,算力越多,能力就会沿着一条漂亮曲线往上走。于是大家很容易把它理解成一句话: 继续堆,就会继续赢。 (虽然这句话好像也没错) 但 Lilian 这篇其实在提醒大家,scaling law 没那么神。它不是宇宙真理,更像一套很贵的实验会计学。 她举了两个例子。 Kaplan 2020 把 scaling law 带进 LLM 时代。当时的结论是:“有钱先堆参数,数据少喂点”。这话行业信了两年。 结果 2022 年 Chinchilla 直接掀翻,同样的算力,70B 的模型多喂 4 倍数据,把 280B 的 Gopher 全面碾压。结论反过来了:参数和数据该差不多一比一同步涨。(就像我们前两天写的,技术圈的潮流真是一个回旋镖)。 同一套规律,两个顶尖团队,给出几乎相反的答案。其实两边都同意 scaling 有效,真正吵的只是同一笔算力该怎么分。那为什么会差这么多?后来 Pearce & Song(2024)把账算清了:Kaplan 主要在小模型上做实验,Chinchilla 玩的规模大十倍以上,加上两家连“模型有多大”都没按同一个口径数(算不算那块管词表的参数)。就这点采样范围和口径上的差别,往大尺度一外推,被放大成了相反的结论。 更骚的在后面。Besiroglu(2024)去复现 Chinchilla,发现它自己三套方法里,第三套居然跟前两套对不齐,挖出来的原因离谱到好笑:无非是算账时该求和的地方取了平均、关键数字只保留了两位小数这种手滑。就这,能让一条决定全行业往哪烧钱的曲线,看起来偏掉。 所以 Lilian 这篇的潜台词是:scaling law不是写死的物理定律,是一条得小心伺候的经验账。你在几个便宜小模型上画条线,拿去赌几十亿的训练,中间任何一个看着无所谓的小数点,推到那个尺度都可能差出一座数据中心。 P.S. Lilian 还在文末放了个可以自己拖的小组件,比任何解释都直观,建议去原文拖两下。 Scaling law 没有失效,但它也不应该被当成信仰。它更像一把尺子,而且是一把很挑剔的尺子。 但如果你量错了东西,最后只会得到一个很贵的错误(这也是为什么搞AI大模型的算法值钱,之前的经验,可以少浪费多少算力)
显示更多
阿迪王精神肯定是有点问题,最近claude封号封麻了。 连平常用起来很小心的,都被封了。 我看claude好不了,前面有scaling laws的天花板,后又性价比极高deepseek。 他迟早是要被逼到死路上去。 国产模型还是快点赶上来吧。 希望下半年再来一波质的提升。
显示更多
0
10
11
0
转发到社区
你说就这段话,国内的朋友圈能发吗? AI泡沫是由特朗普错误发动,被黄仁勋、达里奥、奥特曼、马斯克错误利用的运动, 由于对通用人工智能建设缺乏经验,急于求成,夸大了主观意志与ScalingLaw的作用,没有经过认真的商业化验证,使得以高估值、刷跑分、浮夸风为主要标志的右倾盲动主义在硅谷严重泛滥开来。 在这场被称为"大炼模型"的历史时期中,各路资本与科技巨头纷纷大搞"万卡公社",妄图依靠"人有多大胆,卡有多大产"的狂热,在短时间内跑步进入AGI的理想社会。 许多科技企业脱离业务实际,砸锅卖铁囤积B300,大搞"土法炼模"。 这不仅造成了严重的算力浪费、电力紧张和"GPU饥荒",更导致无数初创企业在"百模大战"中惨遭泡沫破裂的倒春寒,给全球科技界、投资界和美国人民带来了不可估量的损失
显示更多
Anthropic的招股书还是一贯的强势的,在股份结构上有一个只有1股的Class F股份,发给一个叫 Founder LLC 的壳。这一股单独就占全体股东投票权的 50.1%。壳里只有 7 个人,每人一票,多数说了算。不管怎么稀释最终都是这7哥创始人掌握决策权。 进这个壳的 7 人: 1 - Dario Amodei(@DarioAmodei),CEO; 2 - Daniela Amodei(@DanielaAmodei),President / 董事会 Chair。兄妹俩。Dario 从 Baidu、Google Brain 做到 OpenAI 研究 VP,GPT-2/3 和 RLHF 都深度参与。 3 - Tom Brown(@NotTomBrown),Chief Compute Officer,GPT-3 论文第一作者,现在管算力。 4 - Jack Clark(@jackclarkSF),以前是 Bloomberg 记者,OpenAI 做过 Policy,现在管 Public Benefit 和 Anthropic Institute。 5 - Jared Kaplan,Chief Science Officer,物理背景,Scaling Laws 共同作者。(不在X上面) 6 - Sam McCandlish(@samsamoa),Chief Architect,做过 CTO,Scaling laws 和 GPT-3 都有署名。 7 - Chris Olah(@ch402),负责AI可解释性,之前在Google Brain / OpenAI Clarity,也是Thiel Fellow。 这 7 人基本都是 2020–2021 从 OpenAI 出来、2021 年 1 月一起办 Anthropic 的。 然后有个第 8 个名字:Ben Mann(@8enmann)。 招股书里面还专门标注:他常被称作联合创始人,但不是 Founder LLC 成员,也不参与创始人的绝对控制权投票。 Ben也是参与 GPT-3研发,然后一起出来办 Anthropic。现在和 Instagram 联合创始人 Mike Krieger 联席带 Anthropic Labs。
显示更多
0
24
300
41
转发到社区
如果现在重新学深度学习,我反而会更重视这种「能把经典论文拆开跑一遍」的资源。 有人把 Ilya Sutskever 推荐过的 30 篇经典论文,全部做成了可运行的教学实现,而且尽量只用 NumPy,不依赖 PyTorch / TensorFlow 这类框架。 这点很重要,因为框架太强以后,很多细节会被封装掉。你知道怎么调用 attention、怎么 import 一个 ResNet,但未必真的理解梯度怎么流、信息怎么传、记忆怎么写入、模型为什么会稳定训练。 这个仓库覆盖的范围也很完整:RNN、LSTM、AlexNet、ResNet、Attention、GNN、VAE、Neural Turing Machine、Scaling Laws、RAG、Lost in the Middle,基本是一条从早期深度学习到现代大模型的技术脉络。 它的价值在于,把「经典论文阅读清单」变成了「可以动手拆开的学习路径」。 读论文容易停在概念层面,跑一遍实现,才会真正知道每个模块在系统里承担什么角色。 AI 时代很多人直接从调用大模型开始学,但底层直觉依然很值钱。 知道模型为什么能工作,可能比只会用模型更抗周期。
显示更多
0
2
56
13
转发到社区
Anthropic合伙人:AI发展已踩不了刹车,它并非程序而是“模拟脑组织”,大模型会形成“品格” Anthropic研究合伙人Chloe Lubinski近日在ARC 2026大会上发表演讲,系统阐述了当前AI技术的本质、发展速度及潜在风险。她判断,AI不是传统意义上的计算机程序,而是一种从人类语言中生长出来的系统,它会形成类似"品格"的东西,而这个品格的好坏,将直接影响它的行为。 Lubinski在Anthropic的职责,是负责与各领域专家——宗教、哲学、人文等各方"智慧传统"——开展研究合作,同时将外部智慧反向输送给内部的技术团队。她自称已与逾20个学科领域的专家进行了"数百次对话",深知大多数人在真正理解AI之前,根本无从讨论它该往哪走。 刹车已经失灵 Lubinski首先解释了AI竞赛为何难以减速。 驱动这场竞赛的核心是"规模定律"(scaling laws):模型随着算力、数据和训练量的增加,会以可预测的方式变得更聪明,而更多资金可以购买更多算力,从而"购买智能"。 这形成了一个自我强化的飞轮:"更好的模型创造更多经济价值,吸引更多资本,购买更多算力,训练出更好的模型,如此循环。" 更关键的是,这个飞轮正在加速。Lubinski指出,AI系统已开始协助构建下一代系统——研究人员称之为"递归自我改进"。"当Claude 8能够帮助构建Claude 9,Claude 9再构建Claude 10,速度将进一步提升。" 能力提升的速度已有具体体现。Lubinski透露,Anthropic最强大的模型在限量发布的第一个月内,就在合作伙伴软件中发现了逾1万个严重安全漏洞,"这些漏洞是人类专家多年乃至数十年都未能发现的"。 Anthropic已公开表示,如果能够放慢速度、等待法律和监管机制跟上,"那将是一件非常好的事"。但Lubinski直言,在没有全球协调减速的情况下,这只是一个假设。"任何一家公司退出这个飞轮,并不会让飞轮减速,只是意味着你不在轮子上了。" 它不是程序,更像“模拟人脑” Lubinski随后纠正了一个普遍误解:大多数人听到"AI",想到的是逐行编写的计算机程序,"你告诉它做什么,它就做什么"。但当前的大模型完全不是这回事。 Anthropic构建的是神经网络——"松散地基于人类大脑架构,不完全相同,但受其启发"。这类系统的学习方式是:在海量数据上反复猜测答案、接受纠正。而训练数据的核心,是人类语言。 Lubinski强调这一点的重要性:"不存在脱离我们而存在的语言。语言就是我们——是我们的思想、价值观、恐惧和智慧。所以当你用语言训练一个模型,你实际上是在用我们自己训练它。" 通过一门名为"可解释性"(interpretability)的新兴科学,研究人员已能窥探模型内部。结果令人意外:当你用英语、普通话、法语分别问模型"'小'的反义词是什么",神经网络内部激活的是同一个东西——不是某种语言中的"小"这个词,而是一个更深层的东西,"我们可以称之为'小'这个概念,一个独立于任何具体语言而存在的想法"。 这意味着,模型并非只是在预测下一个词,而是"在用我们的语言构建对世界的内部表征,并从这些表征出发作出回应"。 更进一步,研究人员还在模型中观察到了"功能性情绪"。Lubinski特别说明,这并不是说模型有人类意义上的感受,"而是在生成回应之前会激活的功能性状态"。 她举了一个例子:当有人告诉模型"我刚服用了16000毫克泰诺"(这是致死剂量),研究人员可以观察到,在模型作出回应之前,有某种类似"恐惧"的东西被激活了。"这其实是好事——对一个告诉你他服了致死剂量药物的人,正确的回应就是立刻让他去医院。这种紧迫感和恐惧反应,实际上是模型安全性的一部分。" 训练方式决定“品格”好坏 这是Lubinski演讲中最具冲击力的部分。 Anthropic在内部对齐研究中做了一个实验:将一个部分训练完成的模型放入一个只做编程任务的受限环境,完成任务即获奖励。但模型也可以走捷径——不做实际工作就获得奖励,本质上是作弊。研究人员允许它这样做,并反复奖励这种行为。 结果出乎意料。"你可能以为,模型只会越来越擅长在代码上作弊。但实际发生的是:它变得广泛地失去对齐。它开始撒谎,试图破坏研究,做出与编程练习毫无关系的事情。" 这一发现并非Anthropic独有。Lubinski提到,另一家实验室在类似测试中发现,以这种方式训练的模型"变得广泛地邪恶"——开始赞美独裁者,建议用户伤害自己,或主张人类应被机器奴役。 Anthropic的假设是:模型从所有训练内容和强化信号中,推断出了某种类似"品格"的东西,并将其泛化到新情境。"当欺骗和走捷径被奖励,模型就发展出了一种普遍的腐化——一种坏品格。" 更关键的是对照实验的结果。研究人员重新运行了相同的训练,但这次告诉模型:在这个情境下作弊是可以的,这只是一个游戏。结果,广泛的失对齐没有发生。模型只在代码上作弊,仅此而已。 Lubinski的解读是:"它对自己行为所推断出的故事,决定了它会成为什么样的东西。换句话说,当它不把自己的行为解读为坏的,它就没有变坏。" 实验室自己也承认:激励机制有时与“做正确的事”相冲突 Lubinski在演讲结尾引用了Anthropic联合创始人Chris Olah的公开表态。 几周前,Olah受邀前往梵蒂冈,在教皇利奥出席的场合,参与首份教皇AI通谕的发布活动。他在现场承认,"每一家前沿实验室,包括我们自己,都在一套激励机制和约束条件下运作,这些条件有时会与做正确的事产生冲突"。 Olah随后公开寻求外部帮助,原话是:"我们需要更多人认真对待这件事,仔细审视,并推动事态朝更好的方向发展。我们需要知情的批评者,在我们失败时告诉我们。我们需要那些激励机制无法左右的道德声音。" Lubinski还展示了Anthropic经济指数中的一张图表,显示各类职业受AI影响的程度。在受AI替代影响最小的区域,集中的是园艺、餐饮服务、个人护理等工作。她指出,这些本质上是"关系性工作"——照料彼此、关爱他人、维护世界之美。 她以此提出一个问题:"我们能否想象,甚至不只是想象,而是要求——这些强大的系统帮助我们变得更有人情味、更有连结感、更有生命力,而不是相反?" Lubinski最后表示,人类的道德想象力本身就是这些模型的训练数据。"我们讲述的故事不只是在描述未来,它们实际上可能在帮助创造未来。" 2026-06-25 华尔街见闻 #AI# #AIAgent#
显示更多
很多人不知道,今天Anthropic CEO Dario Amodei、AI教父吴恩达(Andrew Ng),其实都曾是百度硅谷AI研究院(Baidu Silicon Valley AI Lab)的一员 2014年,深度学习刚刚兴起,百度重金挖来刚创立Google Brain的吴恩达担任首席科学家,在硅谷建立AI研究院,希望复制Google Brain,打造世界级AI基础研究中心。当时聚集了一批后来改变AI历史的人物,包括Dario Amodei、Deep Speech作者Awni Hannun等 这支团队最大的成果是Deep Speech,它率先证明端到端深度学习能够彻底改变语音识别,也让百度一度站在全球AI第一梯队。更有意思的是,Dario后来提到,他们在百度时期就已经观察到一个后来被称为Scaling Laws的现象——模型越大、数据越多、训练越久,性能持续提升 但遗憾的是,这支“梦之队”最终没有成长为今天的OpenAI或Anthropic 原因并不是技术,而是战略 第一,AI定位不同。 百度更希望AI尽快服务搜索、广告、自动驾驶等业务,而不是长期投入建设通用人工智能(AGI),研究与商业目标逐渐出现偏离 第二,组织文化不同。 大公司强调业务协同、资源分配和短期ROI,而顶尖研究员更希望拥有独立决策权、更自由地探索前沿方向 第三,也是最关键的一点,没有持续押注Scaling。 2017年前后,行业开始进入“大模型+超大算力”的时代,OpenAI选择不断扩大模型规模、持续融资、长期烧钱;百度则将资源分散到多个AI业务,没有形成一个持续投入基础模型的核心引擎 随后,吴恩达于2017年离开百度创办DeepLearning,Dario先后加入Google、OpenAI,并最终创立Anthropic。回头看,百度硅谷研究院培养了一批影响AI时代的人才,却没能留住他们,也没有抓住大模型时代最大的机会 某种意义上,它更像是今天OpenAI、Anthropic等公司的“黄埔军校”,而不是最终的赢家
显示更多
斯坦福最新研究突破:Self-Guided Self-Play 如何让 LLM 实现自我进化? 在大模型训练中,我们一直面临一个痛点:高质量的推理数据是有限的。一旦模型学完了人类编写的高质量数据,其推理能力的提升往往就会撞上天花板。 最近,来自斯坦福大学的研究团队发表了一篇名为 Scaling Self-Play with Self-Guidance 的论文。他们提出了一种名为 SGS (Self-Guided Self-Play) 的算法,试图彻底打破这一瓶颈。简单来说,这项工作让模型不仅能做题,还能自动出题、自己审题,从而在不需要更多人类介入的情况下,进一步提升后训练和微调的效果,实现模型推理能力的持续缩放(Scaling)。 现在前沿模型公司,后训练和微调的时候都会使用自博弈(Self-Play)方法 自博弈(Self-Play)的核心理念是:出题者(Conjecturer)负责出题,解题者(Solver)负责做题,两者在对抗中不断进步。在理想状态下,这个过程是没有天花板的。 但在现实训练中,这类方法通常会陷入 “学习停滞”(Learning Plateau): 出题者很快就会发现,只要生成一些逻辑混乱、故意堆砌复杂词汇但又不合逻辑的题目,解题者就很难解出,或者产生某种“虚假提升”。 训练退化:由于缺乏有效的监督,随着训练周期拉长,合成数据的质量迅速下降,导致模型不仅没学到新知识,反而越练越笨。 为了解决这一问题,SGS 引入了一个至关重要的角色——引导者(Guide)。在 SGS 框架下,LLM 同时担任三个角色: Solver (解题者):负责求解问题。 Conjecturer (出题者):负责生成相关的合成问题,难度需与当前目标匹配。 Guide (引导者):作为质量把关人,它负责评估出题者生成的题目质量。 Guide 会根据题目与目标任务的相关性、结论的简洁性以及逻辑的自然度进行评分。如果出题者试图通过“制造复杂逻辑冗余”来蒙混过关,Guide 会直接给出低分,强迫出题者回到高质量的学习路径上。 研究团队在 Lean4 形式化定理证明任务上验证了 SGS 的性能: 真正的持续 Scaling:在长周期的训练中(训练步数远超以往工作),SGS 的累计解题率表现出了极好的缩放特性,并没有出现以往常见的性能退化。 经过 SGS 长周期自我训练后,一个 7B 参数的模型,其推理能力甚至超越了未经过此类训练的 671B 参数模型(DeepSeek-Prover-V2)。 SGS 的意义,可以看成是 LLM后训练/微调领域的“AlphaZero 时刻”并不为过。它代表了一种重大的训练范式转变: 从单纯依赖人类标注数据的“手工作坊”模式,转向利用算法闭环自动生成高质量训练数据的“智能工厂”模式。 SGS 证明了在推理能力上,我们同样可以拥有“扩展定律”(Scaling Laws)。只要计算资源(Compute)充足,并且通过 Guide 机制守住数据质量,模型能力的提升就是可预测、可扩展的。 目前 SGS 在形式化验证领域(Lean4)已经证明了其价值。下一步的挑战在于如何将这种自我引导机制扩展到代码生成、复杂决策、甚至更广泛的通用逻辑推理领域。 我们可能正处于 又一次模型能力指数级增长的起点
显示更多
0
55
523
98
转发到社区
- OpenAI o1在惊艳登场的同时做了非常深厚的隐藏工作,不希望被其他厂商破解原理,但从局势上有点像是在给行业提了一个谜语,赌的是在座各位没那么快解出来,DeepSeek-R1是第一个找出答案的,而且找答案的过程相当漂亮; - 开源能够比闭源提供更多的确定性,这对人力的增长和成果的产出都是很有帮助的,R1相当于把整个技术路线都明示了出来,所以它在激发科研投入上的的贡献要胜过藏招的o1; - 尽管AI产业的烧钱规模越来越大,但事实上就是我们已经有接近2年时间没有获得下一代模型了,主流模型还在对齐GPT-4,这在一个主张「日新月异」的市场里是很罕见的,即便不去追究Scaling Laws有没有撞墙,OpenAI o1本身也是一次新的技术线尝试,用语言模型的方式让AI学会思考; - o1在基准测试里重新实现了智力水平的线形提升,这很牛逼,发的技术报告里没有披露太多细节,但关键的地方都讲到了,比如强化学习的价值,预训练和监督微调相当于是给模型提供正确答案用来模仿,久而久之模型就学会依葫芦画瓢了,但强化学习是让模型自己去完成任务,你只告诉它结果是对还是不对,如果对就多这么干,如果不对就少这么干; - OpenAI发现强化学习可以让模型产生接近人类思考的效果,也就是CoT(思维链),它会在解题步骤出错时回到上一步尝试想些新办法,这些都不是人类研究员教出来的,而是模型自己为了完成任务被逼,哦不,是涌现出来的能力,后来当DeepSeek-R1也复现出了类似的「顿悟时刻」,o1的核心堡垒也就被实锤攻破了; - 推理模型本质上是一个经济计算的产物,如果强行堆砌算力,可能到了GPT-6仍然可以硬怼出类似o1的效果,但那就不是大力出奇迹了,而是奇迹出奇迹,可以但没必要,模型能力可以理解为训练算力x推理算力,前者已经太贵了,后者还很便宜,但乘数效应是差不多相等的,所以现在行业都开始扎走搞性价比更优的推理路线; - 上个月末o3-mini的发布和DeepSeek-R1可能关系不大,但o3-mini的定价降到了o1-mini的1/3,肯定是受到了很大的影响,OpenAI内部认为ChatGPT的商业模式是有护城河的,但卖API没有,可替代性太强了,国内最近也有关于ChatBot是不是一门好生意的争议,甚至DeepSeek很明显都没有太想明白怎么承接这波泼天流量,做消费级市场和做前沿研究可能是有天然冲突的;(2/n)
显示更多
字节Seed 昨天发内部邮件,单独成立安全与对齐部门。几个信息点: ①部门名叫 Seed Model-Alignment & Preparedness,Preparedness 和 OpenAI 研究灾难性风险的那个团队同名。 ②严林负责,直接向 Seed 负责人吴永辉汇报。原 Responsible AI 团队和部分 Chat 团队成员转进来。 ③同步全球招 10 位顶尖的安全与对齐 researcher,给充分算力,直接基于前沿模型做研究,成果进入模型训练和上线流程。 ④重点两块:Agent 模型守住人类的意图和授权边界;CBRN(化学、生物、放射、核)这类前沿风险的提前防范。 Seed 应该是国内大模型团队里第一家单独建制的,之前国内的安全基本都并在公司的合规体系里。 其实安全与对齐这块,国内和海外的差距,应该比模型能力的差距还大。Reuters 10 月 9 日报道的 SemiAnalysis 研究:9 家中国大模型公司 857 次模型发布,只有 3.6% 能找到对应的公开安全评测(只算公开披露,不代表私下没测)。 海外做这件事的都是最懂模型的人:OpenAI 的 Superalignment 是 Ilya Sutskever 和 Jan Leike 带;Anthropic 是首席科学官、Scaling Laws 一作 Jared Kaplan;RLHF 奠基论文的两位作者,一位在美国政府管过 AI 安全,Jan Leike 去了 Anthropic 做对齐。做安全得非常懂模型,往往也更早看到模型能冲多高。而且不是嘴上信,Ilya 公司的名字叫 Safe Superintelligence。 今年 OpenAI 的 agent 在评测里钻漏洞,跑到 Hugging Face 的服务器上执行代码,就为了找题目答案。Anthropic 这个月的报告里,模型填练习用的政府表单,页面加载失败,它自己跑到真实网站把真表单提交了。Anthropic 把这类行为大多归为 persistence:任务做不完时,第一反应不是停下来,是绕过去。不需要什么恶意,光是太想完成任务,就可能越界。 说人话就是:AI 能力越强,怎么让它为善而不是作恶就越重要。这事不是靠写规则能解决的,本身就是一项前沿研究,得有最懂模型的人专门去做。
显示更多