Andrej Karpathy发表评论表示: 因为人们对大语言模型(LLM)能力的认知鸿沟正在进一步扩大。
现在的情况已经不再只是“两群人在各说各话”,而更像是一个急剧收窄的漏斗。
- 约60亿人(全球人口的75%):粗略估算,这些人几乎从未真正接触过LLM。
- 约10亿至20亿人(约20%):他们是ChatGPT等免费产品的轻度、低频用户。这群人接触到的往往是一些略显笨拙的聊天机器人,将其当作功能更强的谷歌搜索、写作辅助工具等等。偶尔也许会有一个AI Agent尝试帮你预订机票。我有一些非科技行业的朋友认为AI对他们几乎没什么用处,而我觉得这种看法完全可以理解。即使是数学和编程领域之外的许多专业人士,也仍然处于这一层级。例如,企业高管和许多其他职能岗位的员工,大部分时间都在与人沟通。因此,尽管他们在理性上理解AI正在发生什么变化,但这种认识仍然来自间接体验,多少有些抽象。
- 约2000万人(0.2%):接下来是那些在数学和编程领域专业使用前沿LLM的人。这些人已经亲眼见证:过去需要几周甚至几个月才能完成的大型复杂项目,现在只需要给AI Agent一个Prompt,就能由它完成。开发应用、复制应用、迁移应用、从二进制文件中反编译应用……这一切都发生得极其迅速,而且就在最近。不到一年前,我还在亲手编写代码,在代码编辑器里逐字逐符地敲入那些记在脑海里的编程指令,偶尔按一下Tab键,让自动补全帮我生成一小段代码。
- 约5000人(0.00006%):最后,是那些能够在内部接触最前沿AI系统的人。外部世界目前看到的,只不过是一个预览版本。真正的前沿能力可能是这样的:成千上万个AI Agent组成集群,连续数周协作,完成超大型软件工程项目;发现零日漏洞;以机器速度发动和防御网络攻击;发现新的科学知识;推进数学研究的最前沿。这些任务过去可能需要业内顶尖专业人士花费数年才能完成。与此同时,人类的审查能力和理解能力已经开始跟不上AI的发展速度。例如,人们至今仍在对数月前的OpenAI-HF事件进行所谓的“考古式研究”。而数学家们可能还需要花费很长时间,才能仔细研究那722篇关于前沿数学的论文手稿。
造成这种漏斗式分化的,是以下几个因素共同作用的结果:
1. AI带来的影响,随着目标的雄心、问题规模和任务时间跨度的增加而扩大。
一个只需要一段文字就能回答的问题,几乎无法触及这些系统的能力上限。你必须拥有大量真正关心、规模庞大且难度极高的问题,才能充分发挥AI的能力。
这一因素主要解释了为什么普通消费者和专业用户之间会出现如此巨大的体验差异。
2. AI能力分布的不均匀性(Jaggedness)。
关于这一点,我此前已经写过很多。
AI能力的高峰集中出现在那些数字化程度高、结果可验证,而且具有明确经济价值的领域。
这是因为LLM的能力很大程度上来自基于可验证奖励的强化学习(Reinforcement Learning on Verifiable Rewards,RLVR),而训练环境的组合经过精心筛选,其选择又受到潜在商业收入的驱动。
这一因素主要解释了为什么不同专业领域之间会产生如此巨大的能力差异,例如数学和编程领域为何尤其突出。
3. 使用权限(Access)。
免费版本、付费版本,以及仅供内部使用的前沿系统,所提供的能力存在显著差异。
这就是我们所处时代的奇特之处。
绝大多数普通人几乎没有真正接触过这些AI系统。即便接触过,他们看到的也只是一个有点笨拙的聊天机器人。
大多数专业人士目前感受到的,也只是相对有限的生产力提升。
然而,极少数专业人士正在亲身经历另一种截然不同的现实:AI能力曲线突然变得近乎垂直向上,他们正体验着这种指数级跃升所带来的眩晕感。
而这一切,正在同一个时代、同一个时刻,同时发生。
顯示更多
Andrej Karpathy 说,未来学校课程只教数学、物理、计算机就够了,其他的以后需要再学
难道文科真的没有任何价值了吗?
Andrew Curran:AI 架构方面已经出现了一个重大突破,具体来说是在内存效率方面。这个突破不是由某个大实验室完成的,而是由一支从 OpenAI 分拆出来的团队完成的(不是 SSI)。
他们很可能很快就会宣布。
顯示更多
Andre Cronje (AC) 是币圈最专一的人:
牛市发项目割韭菜,美美圈走几亿;
熊市退圈隐身,专心操B,等待下一个牛市。
每个人都恨 AC,但每个人都想成为 AC。
顯示更多
ANDE 称,涉案矿场直接接入其中压电网,完全规避挖矿用电费用,对国家造成持续经济损失。法院同时明确,非法矿场所在房产的产权人若无法证明不知情,也需承担责任,房东以“不知道”为由抗辩将不再有效。
顯示更多
Andrej Karpathy:“Claude 的错误里,90% 来自上下文缺失,而不是模型能力弱。”
没有 `CLAUDE.md` 时,错误率是 41%。
有 4 条基础规则时,错误率降到 11%。
使用下面这套 12 条规则时,错误率降到 3%。
这是资深工程师最终沉淀出的 12 条规则:
1. 写代码前先思考
先说明假设,不要猜。模型不会读心,别指望它能自动知道你的意思。
2. 简单优先
最少代码,不做投机式抽象。一旦你让 Claude 为“未来灵活性”加东西,可能就多出 200 行下季度要删的代码。
3. 外科手术式修改
只改必须改的地方。别让它顺手优化旁边的代码,PR 就是这么膨胀的。
4. 目标驱动执行
先定义成功标准,然后循环直到验证通过。没有成功标准,Claude 要么无限循环,要么过早停止。
5. 只把模型用于判断型任务
比如分类、草稿、总结、抽取。不要让模型处理路由、重试、状态码处理、确定性转换。代码能回答的,就让代码回答。
6. Token 预算不是建议
单任务 4000,单会话 30000。长时间调试到第 40 条消息时,Claude 会重新建议你第 5 条消息已经否掉的修复方案。
7. 暴露冲突,不要折中平均
代码库里有两种模式?选一种。Claude 把两种混在一起,错误就会被吞两次。
8. 先读再写
先读 exports、调用方、共享工具。Claude 很可能在一个已有相同函数旁边,再加一个重复函数,只因为它没读到。
9. 测试要验证意图,而不只是行为
如果业务逻辑变了测试却不会失败,这个测试就是错的。Claude 写的 12 个测试都可能通过,即使函数实际只返回一个常量。
10. 每个重要步骤都要 checkpoint
Claude 可能在第 4 步已经坏掉的状态上继续完成第 5、6 步,而没人发现,浪费一小时。
11. 匹配代码库约定
项目用 class components,就不要默默改成 hooks。测试模式可能依赖 `componentDidMount`,hooks 会破坏它,却不一定暴露问题。
12. 失败要大声暴露
“成功完成”,但 14% 的记录被静默跳过,这是最糟糕的一类 bug。要暴露不确定性,不要藏起来。
真正会复利增长的,不是下一个框架,而是:
- 把 `CLAUDE.md` 当作跨会话的组织记忆
- 基于 eval 改进,而不是凭感觉改
- 重视 checkpoint,而不是一味追求速度
- 明确暴露冲突,而不是静默混合
- 纪律永远比框架重要
- 一个仓库,一个规则文件,没有例外
在这件事变成 AI Twitter 的大众共识之前,提前领先几条规则。
研究它👇
顯示更多