今天下班路上听了最新一期的 硅谷101
@Valley101_Qian 邀请了陈天桥 的 AI 公司 两位首席科学家 @SimonShaoleiDu 和 @beibin79 ，聊了一个今年硅谷最火的话题：大模型 RSI（递归自我提升）。
直觉上，AI 很快就会自己设计、自己训练下一代 AI！
RSI 的关键不在于更会聊天，而在于模型能执行真正的长程任务：自己出题、自己诊断、自己解答、自己验证，在闭环里一轮轮叠加，让能力垂直起飞。
单个大模型有 attention 注意力 上的物理极限，所以他们用多智能体协作：拆成很多子 Agent，互相交叉验证，绕开超长上下文的天花板。
这套系统会避免我们常说的大模型 一本正经的胡说八道，而且还会严格的 Verification，把验证逻辑直接写进训练闭环里，压制自我进化过程里的「递归漂移」。
在这条路线上，AI 的最大瓶颈不是算力，而是 学术品味：
敢不敢、也会不会在未知领域提出真正本质的假设，而不是刷增量小改进。大众投票式的 RLHF，只会把模型训练成一个会拍马屁、会对冲观点的聊天机器人（这点很多人应该深有体会吧，特别是 ChatGPT），而不是敢 All-in 的科学家。
感觉现在大模型不仅要有 品味，还要有 人类顶级科学家的品味，目标是让模型通过自我博弈，长出超越人类经验的独特科学直觉。
有朝一日，科学家是不是也要失业啊
Show more
@thevalley101 播客：从长程任务怎么训，到为什么我们做的是强调元能力的通用模型，再到一个更大的话题：自我进化(RSI)为什么绕不开验证，以及一个关键的前提—教会大模型真正拥有科学家一样的品味和判断力。👇
Show more
