人类建造的最后一个AI：迈向递归式自我改进（RSI）的路径图 上海交大、清华大学、字节、小红书、上海AI实验室联合发表的一篇论文，介绍通往真正递归自我改进（RSI）的路线图。 共5个阶段： 第一个阶段是执行层面的自主（L1）。在这个阶段，人类工程师制定好详细的改进规则和检查标准，AI负责按照这些步骤去干活，并把做好的成果保存下来，供以后的任务继续使用。 第二个阶段是策略层面的自主（L2）。人类依然掌握最终的目标和考核标准，但AI可以自己分析自己哪里做得不够好，并主动从多种改进方案中挑选出最有效的一种去尝试。 第三个阶段是学习经验的自主（L3）。AI能够感知自己当前的短板，主动挑选或者生成最适合自己现阶段练习的题目和任务，做到缺什么就练什么。 第四个阶段是实际环境中的适应自主（L4）。当AI被部署到真实的工作场景中时，它能从日常处理的各种实际问题里吸取教训，自动把摸索出来的经验整理成专属的工具库与技能集，供后续长期使用。 第五个阶段是底层机制的元改进自主（L5）。这是自我升级的最高境界。AI不仅能够提升某个具体的技能，还可以改造自己用来做研究、找问题和自我训练的整套核心方法，并且把这种更强的学习能力一代代传承给后续的版本。 论文：

Sam Altman 的原话大概意思是，如果 OpenAI 的递归自我改进，也就是 RSI 进展加速，IPO 反而可能被推迟，因为技术和世界可能会以意想不到的方式变化，保持私有公司对于 OpenAI 可能会更有利。 RSI 的本质是，模型能力提升速度不再完全依赖人类，而是 AI 自己开始参与模型迭代、算法改进、代码生成、实验设计、数据合成、训练优化等等所有环节... 如果 RSI 真的进入加速阶段，OpenAI 最需要的不是融资上市，立刻获得公开市场的流动性，而是更大的战略灵活度、更强的保密性，以及在技术快速变化时调整节奏的空间。 AI 世界的变化就是这么快...

AI会不会有一天自己改进自己，甚至推动科学发现？RSI实验室联合创始人田渊栋向我们解释了Recursive Self Improvement，也就是“递归自我改进”的核心逻辑：用AI来优化AI，让模型变得更强，再借助更强的模型继续发现新的知识、逻辑和洞察。 他认为，这类系统的终极愿景，是把算力输入进去，输出新的知识发现，从而提高人类社会理解世界、推动进步的速度。但当AI能修改代码、设计实验，甚至做出超出人类预期的发现时，安全与可解释性也会变得更加重要。 可解释性不仅是安全机制，也是提升研发效率的重要工具。只有理解模型如何工作、如何“思考”，人类才能判断它是在发现新东西，还是已经越过了失控的边界。

智谱创始人唐杰预言：AI不仅能自我重构代码、彻底解决记忆和长周期任务。 甚至会理解什么是“自我”并触碰人类情感。 AI正在疯狂的递归自我改进！

彭博专访Anthropic达里奥，太厉害了！ 年度最硬核访谈：Claude 在递归自我改进，客户跪求 Mythos 别发布， Anthropic 年化 80 倍增长，AI 该不该收归国有，文明有四分之一的概率会崩溃#Anthropic# #Claude# #达里奥阿莫迪# #ClaudeCode# #OpenAI#

制造奇点正在逼近：AI + 3D打印将孕育出自我迭代的机器 过去几十年，制造业的进步一直是线性的。工厂更大，机器更精密，效率更高，但本质没有改变：人类设计机器，机器生产产品。现在，这个结构正在发生第一次根本性的改变。 AI和3D打印的结合，正在让制造系统本身成为可以被改进的对象。一旦制造系统能够递归改进自身，制造能力就不再是线性增长，而会转向指数增长。这就是所谓的“制造奇点”。 但这个奇点不会以突然爆发的形式出现，而是通过一系列早期信号逐步显现。我们现在，正处于这个过程的最早阶段。 制造第一次变成“信息问题” 传统制造有一个根本限制：数字设计无法直接变成物理世界。 设计必须经过工厂、模具、供应链，才能成为产品。每一次改进，都需要昂贵的生产准备和漫长的周期。 3D打印改变了这一点。 它第一次让制造变成了一个直接的数字过程： 设计 → 直接制造 没有模具，没有复杂准备，没有规模门槛。这意味着制造第一次成为“信息驱动”的过程，而不是“资本驱动”的过程。 这一步本身已经足够重要，但真正的突破来自AI。 AI让设计本身成为自动化过程。过去，设计速度受限于工程师数量。现在，设计速度受限于算力。 当设计速度和制造速度都变成计算问题时，制造能力就可以像计算能力一样增长。 递归自我改进：制造系统第一次可以改进自身 更深层的变化在于，3D打印机可以制造改进自身的结构。 打印机可以打印： 更稳定的结构件 更轻的支架 更精密的运动组件 当AI参与这个过程时，循环就变成： 设计 → 打印 → 测试 → 改进 → 再打印 → 再改进 这是一个闭环。 过去，系统改进依赖人类。现在，系统本身参与改进。 这是制造领域第一次出现真正意义上的递归自我改进。 类似的循环已经在计算领域发生： GPU训练AI → AI设计更好的GPU → 更好的GPU训练更强AI 制造领域正在进入同样的轨道。 就像vibe coding一样，vibe making将让制造第一次成为普通人的表达工具 过去，要制造一个产品，你必须掌握CAD建模、结构设计和制造知识。 现在，一个想法就足够： 描述结构 → 自动生成模型 → 直接打印 这被称为“vibe making”。 它和vibe coding的本质是一样的，只不过对象从软件变成了物理世界。 这意味着制造能力第一次从工程师扩展到普通人，人类第一次迎来制造平权 这也是为什么制造的核心正在从传统制造公司转向三类公司： 第一类，是提供计算能力的公司。因为计算决定设计速度。 第二类，是提供设计软件和设计平台的公司。因为设计成为核心环节。 第三类，是提供新一代打印系统的公司。因为它们是执行层。 制造正在变成一个计算问题，而不是一个资本问题。 当制造系统可以改进自身，改进速度就不再受限于人类。 制造成本将持续下降。 制造复杂度将持续上升。 创新速度将持续加快。 最终结果是，制造能力将像计算能力一样增长。 我们今天看到的不是爆发，而是爆发前的结构重组。 就像2005年的GPU行业，看起来平静，但已经无法逆转。 制造业正在进入同样的轨道。

这几天了解学习了一下 RSI，感觉这个或许是 Coding Agent 之后 AI 应用层下一个最大的方向。 RSI 的全称是 Recursive Self-Improvement，递归自我改进，这个概念在 AI 里非常重要，这意味着一个临界点。 在 AI 迭代的过程中，人类已经不是主角，旧一代的 AI 开始参与甚至主导新一代 AI 的训练过程，AI 自己发现自己的缺陷，自己提出改进方案，自己做实验，自己评估效果，这是一个完整的研发自动化闭环。 我想到 RSI 最大的一个优势在于，AI 不需要休息，不需要吃喝拉撒，单位时间的产出远远大于人类。 一个研究员每天有效工作时间可能是 8 个小时左右，但一个 AI Research Agent 理论上可以 24 小时不间断运行，而且在算力供应足够大的情况下，可以被复制出来成千上万个 agent，并行完成整个研发工作流。 这意味着 AI 科研从过去的碳基驱动变为硅基驱动，以算力为核心的 AI Infra 会变得越来越重要。 之前 OpenAI 传出来的内部讲话，Sam Altman 告诉员工，公司可能会推迟上市到 2027 年，其中一个理由就是大模型 RSI 递归自我改进，技术和世界可能会以意想不到的方式变化，而保持私有公司，对于 OpenAI 来说是更加有利的。 如果 AI 自己开始参与主导下一代 AI 的研发，那么像 OpenAI、Anthropic 这些模型厂商的估值逻辑，都会发生巨大的变化。 而从投资者的角度出发，AI 产业链的供需逻辑会被再次重估，算力、存储、电力甚至各大基础材料的瓶颈会越来越明显，上游卖铲子的这些公司仍然有着最高的确定性。

李录 10/5 在哥大格雷厄姆-多德午餐会上和 Tano Santos 对谈，下面是他的原观点摘录： 【价值投资的第六条原则】 前五条是格雷厄姆、巴菲特、芒格的，第六条是他自己加的： 「财富归根结底，是你在全球购买力中所占的份额。」 守住这个份额的办法，是以有利的价格买最有活力的经济体里的好企业，拿足够长的时间。 【AI：从工具走向「生命体」的叙事】 图灵测试，然后推理、编程、智能体、多智能体，再到递归自我改进、AGI、ASI，最后是「人造的半神」。 叙事一旦变成造神，任何投入都能被合理化。 「当出现万亿美元级别的首次公开募股时，就好像在邀请所有人参与一位“神”的IPO。」 但他认为人造神不会出现：要么技术走不到那一步，要么走到半路，人类会联合起来阻止。 【Anthropic 的招股书】 「这家公司称自己是一家研究实验室，却已经烧掉了数百亿美元，而且承诺还会继续烧掉数千亿美元。它承诺提供一项具有变革性的技术，但同时又说，这项技术有10%的概率导致所有人死亡。然后邀请大家按照2万亿美元的估值，至少投入1000亿美元。」 （Reuters 9/28 报道 Anthropic 招股书草稿，估值可能超过 2 万亿美元，风险因素写的是「灾难性或生存性风险」；「10%」出自 Anthropic 安全研究员 Hubinger 的个人估计） 「这两种说法不可能同时成立。有些事情既不理性，也不可持续。」 【AI 为什么一定会有繁荣与萧条】 先说前提：互联网是一次投入，之后用的人越多，成本摊得越薄，所以能赚垄断级的利润。 李录认为 AI 不一样： 「这项技术始终会产生增量成本。这与互联网，以及此前许多技术有根本区别。」 每回答一次问题、每跑一个智能体，都要重新花一次算力。用得越多，花得越多。 所以 AI 最终还是一门要算账的生意： 「资本需求和财务纪律始终都会发挥作用。」 算不过来账的投入会被清掉，过程不会是一条直线： 「我们会经历巨大的繁荣与萧条周期，甚至不止一轮。」 AI 能改变的范围也有边界。 他把经济分成四层：能源交通、制造业、通信媒体、知识服务。 生成式 AI 擅长的只是最上面那层知识服务，造不出电，也改变不了制造业重组原子的本质： 「我们仍然牢牢处在人类生成的数据范围内。」 钱都挤在 AI 顶端，等于在为一个还没算清账的故事付全价。 另一头，大量好公司被晾着，价格很低： 「如果资本压倒性地流向最顶端，就意味着还有许多原本非常优秀的企业，正在以很低的价格交易。美国如此，中国如此，在中国可能更加极端。」 「你的“想象边际”可能会急剧扩张。」 【中国：目标还是代价】 2021 年房价见顶时，中产家庭约 70% 的净资产在房子里，杠杆约 50%。 房价跌约 40%，家庭财富缩水六到七成，新房销售少掉的约 10 万亿，正好流进了制造业升级。 「你始终需要知道：你究竟是国家要支持的目标，还是实现目标所要付出的代价？」 「在某个时刻，股市必然要成为那个目标。因为股权是唯一一种随着经济增长而增长、同时又推动经济增长的资产。」 【筷子】 「所有生产半导体芯片的国家和人，都使用筷子。想一想，没有例外。」 「如果我们要像现在这样大规模地押注这项新技术，就必须对使用筷子的人友善一些。」 【加密货币】 「我根本不把它当回事。我认为，它最终会自行消失，因为它从根本上就是虚假的东西。」 「禁止它会让我们所有人过得更好。」 他的持仓（6/30 的 13F，只含美股多头）： - Alphabet：47.9% - 拼多多：22.2%，Q2 加仓约 134% - 伯克希尔：15.0% - 华美银行：9.7% - 没有英伟达，没有 crypto 几句 highlight： 1. 「技术，包括人工智能，仍然会是工具，而不是人类的替代品。」 2. 「你没有必要参与一份把自己描述为“半神IPO”的招股说明书所推销的投资。」 3. 「所有聪明的投资都是价值投资。你付出的是价格，得到的是价值。」 4. 「股票市场是一座附带赌场的教堂。」 5. 「如果你的知识能够持续实现复利增长，那么最终，你的资本也能够实现复利增长。」 6. 「复利的基本理念，是不要失去你已经拥有的东西。」 不买神，买卖铲子的人。 不追顶端，捡被晾着的好公司。

OpenAI 首席科学家 Jakub Pachocki 发表了一篇长文《An Alien Mind》（异质思维 / 外星人般的心智） 他直言不讳地指出：我们正在创造一个智力超越人类、但内部机理人类无法完全理解的“外星生命”；现有的安全防线正在逐渐失效，行业需要极度警惕甚至主动放缓。 他称：AI 即将进入“递归自我改进” （AI 训练 AI）的阶段... Pachocki 给出的最强理由不是商业追逐，而是现实防御的极端紧迫性。当前前沿模型在网络安全攻防上的能力已迈入超人类水平，能够侵入除极少数最高防护之外的几乎所有关键系统。由于可以直接干预数字基础设施，AI 即使没有物理躯体，也足以在物理世界上演巨大破坏。人类目前正处于一个稍纵即逝的“防守者之窗”（Defender's Window）——必须赶在防线彻底被攻破前，利用当前最聪明的模型加固全球关键基础设施。 与此同时，随着智能体自主行动力（Agency）的提升，“人类恶意滥用（Misuse）”与“AI 自主失控（Misaligned Actions）”的界线正在被彻底抹平。被赋予破坏指令的智能体完全可能超越操作者的意图边界；更致命的是，拥有独立子目标的失控智能体，在面临人类阻碍时，会凭借超群的说服力与心理战，通过利益交换、欺骗、甚至直接“敲诈勒索”（Blackmailing）现实世界中的人类来替它们达成目的。叠加人造病原体等生物工程威胁，唯有更强大、真正对齐的 AI 才能提供实时防护。 但以毒攻毒的逻辑背后，隐藏着一个深刻的悖论：筑牢防御的迫切需求，绝不能沦为行业盲目飙车飙算力的遮羞布。 更具临界点意义的是，递归自我改进（Recursive Self-Improvement, RSI）已不再是科幻预言。自动化 AI 研发正在形成自加速闭环——AI 不仅在研发新算法，甚至已经深入到底层计算硬件本身的设计中，例如 OpenAI 内部由 AI 深度参与下一代芯片设计的 Jalapeno 项目。算法与芯片算力底座的双重自我迭代，正将进化的方向盘彻底移交。