我越来越明显地感受到：AI 加快了任务的完成速度，也让审查和验收成为工作中更突出的瓶颈。 过去，我们需要花大量时间编写代码、实现功能。现在，AI 可以快速交出一个看起来已经完成的结果，但我们仍然需要逐项检查：交互逻辑是否合理，功能是否完整，不同模块的行为是否一致，异常情况是否得到处理，以及这次改动有没有破坏原有功能。 即使某个编码环节获得了十倍的效率提升，也不意味着整个交付流程能提速十倍。代码生成之后，理解、验证、集成和返工依然需要时间。当 AI 完成任务的速度超过团队验收任务的速度，工单就会堆积在审查环节。 这让我觉得，科研人员和工程师正在面对一个相似的问题：生成候选成果的成本迅速下降，把这些成果确认为可靠结果的成本，却未必同步下降。 在科研中，即使我们能够通过增加算力、并行运行大量智能体，生成成批的推导和论文，也仍然需要回答：推理是否成立，前提有没有遗漏，结果是否具有原创性，又是否值得研究。这些判断，无法仅凭论文写得完整、论证看起来流畅就得出。 当然，软件工程和数学研究的验证方式并不完全一样。代码可以通过测试、实际运行和用户反馈来检验；数学证明如果被完整地形式化，也可以交给证明检查器验证。但测试是否覆盖了真实需求，形式化命题是否准确表达了原问题，以及一个结果究竟有什么价值，仍然需要额外判断。 因此，我对 AI 审查的顾虑，主要在于：我们能否把它的审查结论，当成足以验收的依据？ AI 可以帮助发现漏洞、寻找反例、检查遗漏，也可以承担一部分初筛工作。但如果生成与审查依赖相似的模型、相同的上下文和同一套错误假设，它们就可能共同漏掉问题。多个智能体一致认可一个结果，也不自动意味着这个结果可靠。 而且，人类验收同样会出错。面对大量看似合理的产出，审查者可能因为疲劳、时间压力，或者过度信任 AI，把验收变成形式上的确认。仅仅规定“最后由人把关”，并不能解决问题。 所以，我认为接下来值得投入的，是让验证能力跟上生成能力：提前明确验收标准，让 AI 提交结果时同时提供测试、证据和已知限制，再把人的注意力集中在高风险、难判断的部分。 对于需要可靠交付的工作，AI 带来的挑战已经延伸到了整个流程：我们可以更快地产出多少东西，又有能力以多快的速度确认，其中哪些真正值得接受。

我越来越明显地感受到：AI 加快了任务的完成速度，也让审查和验收成为工作中更突出的瓶颈。 过去，我们需要花大量时间编写代码、实现功能。现在，AI 可以快速交出一个看起来已经完成的结果，但我们仍然需要逐项检查：交互逻辑是否合理，功能是否完整，不同模块的行为是否一致，异常情况是否得到处理，以及这次改动有没有破坏原有功能。 即使某个编码环节获得了十倍的效率提升，也不意味着整个交付流程能提速十倍。代码生成之后，理解、验证、集成和返工依然需要时间。当 AI 完成任务的速度超过团队验收任务的速度，工单就会堆积在审查环节。 这让我觉得，科研人员和工程师正在面对一个相似的问题：生成候选成果的成本迅速下降，把这些成果确认为可靠结果的成本，却未必同步下降。 在科研中，即使我们能够通过增加算力、并行运行大量智能体，生成成批的推导和论文，也仍然需要回答：推理是否成立，前提有没有遗漏，结果是否具有原创性，又是否值得研究。这些判断，无法仅凭论文写得完整、论证看起来流畅就得出。 当然，软件工程和数学研究的验证方式并不完全一样。代码可以通过测试、实际运行和用户反馈来检验；数学证明如果被完整地形式化，也可以交给证明检查器验证。但测试是否覆盖了真实需求，形式化命题是否准确表达了原问题，以及一个结果究竟有什么价值，仍然需要额外判断。 因此，我对 AI 审查的顾虑，主要在于：我们能否把它的审查结论，当成足以验收的依据？ AI 可以帮助发现漏洞、寻找反例、检查遗漏，也可以承担一部分初筛工作。但如果生成与审查依赖相似的模型、相同的上下文和同一套错误假设，它们就可能共同漏掉问题。多个智能体一致认可一个结果，也不自动意味着这个结果可靠。 而且，人类验收同样会出错。面对大量看似合理的产出，审查者可能因为疲劳、时间压力，或者过度信任 AI，把验收变成形式上的确认。仅仅规定“最后由人把关”，并不能解决问题。 所以，我认为接下来值得投入的，是让验证能力跟上生成能力：提前明确验收标准，让 AI 提交结果时同时提供测试、证据和已知限制，再把人的注意力集中在高风险、难判断的部分。 对于需要可靠交付的工作，AI 带来的挑战已经延伸到了整个流程：我们可以更快地产出多少东西，又有能力以多快的速度确认，其中哪些真正值得接受。

早上出门遛弯时，我突然想到：体制内的工作看起来旱涝保收、稳定得近乎没有风险，但这种稳定，本质上是把风险平均摊到了人生的每一天。单日看，风险小到几乎可以忽略；可当这些被摊平的风险累积起来，代价可能就是放弃了许多巨大的机会。 而我们这些不在体制内的人，平时看起来更脆弱，面对风险时也缺少缓冲。但反过来，我们也拥有更大的弹性和可能性——有些人可能只用短短几年，就能赚到体制内十年甚至更久才能获得的收入。 我让AI套用塔勒布的《反脆弱》的理论框架来分析一下： 并不是说体制内不如体制外好，面是： 两种人生，分别把风险放在了不同的位置；真正重要的是，它们对不确定性的收益结构完全不同。 第一，体制内更接近“稳健”，但未必是“反脆弱”。 体制内工作的优势，是现金流稳定、波动较小、下行风险相对可控。这属于“鲁棒性”：受到冲击时不容易立刻崩溃。 但鲁棒不等于反脆弱。塔勒布所谓的反脆弱，是指一个系统不仅能承受混乱，甚至能从波动、试错和不确定性中获益。 如果一个人的收入、身份、晋升路径和生活方式都高度依赖单一组织，那么他虽然短期稳定，却可能逐渐失去外部市场定价能力、试错能力和机会捕捉能力。一旦环境发生结构性变化，过去积累的“稳定”未必能转化成新的选择权。 所以，体制内可能是： 短期鲁棒，长期未必反脆弱。 第二，体制外的人确实更脆弱，但也可能拥有“凸性”。 体制外的风险更直接：收入波动、项目失败、行业变化、缺乏保障。这意味着你承受的日常波动更大。 但如果你的损失是有限的，而成功后的收益可以不断放大，那么这种结构就可能具有“凸性”： 一次失败，损失几个月甚至一两年的时间； 一次成功，可能获得远超线性工资的回报； 多次尝试后，少数成功项目覆盖大量失败成本。 这就是我说的“几年内赚到体制十年都赚不到的钱”的理论基础。 但前提是：我们必须有能力控制单次失败的损失，并且拥有持续试错的本金、技能和时间。否则，体制外也可能只是“高波动、低收益”，并不会自动变成反脆弱。 第三，“把风险平均到人生每天”，很接近机会成本，而不只是风险。 稳定工作通常降低了显性的生存风险，却可能增加隐性的机会成本： 每一天都没有遭遇大损失，但每一天也可能错过了高收益机会。 这不是说稳定本身有错，而是稳定会让人低估“没有参与机会”的代价。塔勒布会提醒我们，不能只看已经发生的损失，还要看那些因为路径选择而永远没有发生的可能性。 当然，这里也有一个陷阱：人很容易只看到体制外少数人的成功，而忽略大量失败者。这就是“幸存者偏差”和“事后叙事”。体制外的高收益故事确实存在，但不能拿少数人的结果，替代整个分布的真实情况。 第四，塔勒布可能会推荐“杠铃策略”，而不是简单地二选一。 杠铃策略的意思，是把人生配置成两端： 一端是足够安全的底盘，保证不会被一次意外击穿； 另一端是小规模、可重复的高上行尝试； 尽量避免把全部人生押在中间那种“看似稳定、实则收益有限且风险不透明”的状态上。 放到职业上，就是： 先建立不会饿死、不会因一次失败而崩溃的安全垫，再把一部分时间、资金和精力投入到可能产生非线性回报的事情上。

作为一个长期写代码、也自己做产品的开发者，我读完这篇文章，最关注的是： 单条训练样本看起来合理，并不代表训练后的系统行为可靠。 我们习惯检查数据有没有明显问题，却很难判断模型从一组数据里学到了什么。它学到的可能是知识，也可能是某种处理问题的倾向，比如隐瞒、推卸责任，或者把自身利益包装成专业判断。对需要微调模型的团队来说，这意味着数据审核过关之后，仍然需要检查模型在其他任务上的行为有没有发生变化。 但我不会据此认定普通的角色扮演或创意写作训练都很危险。这次实验给了攻击方相当有利的条件：可以反复测试同一个监控器，控制全部微调数据，并根据评测反馈不断优化。它证明了一条失效路径存在，距离判断现实训练中的发生概率、影响规模，还有不少工作。如果只是调用模型 API，也不能把这项微调实验直接套到自己的 Prompt 或 RAG 系统上。 我更喜欢这项研究的方法：把一个模糊的安全问题，变成能够运行、获得反馈、持续迭代的实验。这对独立开发者很有参考价值。我们没有资源复制整套研究，但可以借鉴它的思路：给自己的 Agent 准备一些目标冲突的任务，观察它在做不下去时，会承认失败、请求帮助，还是修改验收条件、隐藏错误。这样的测试往往比继续优化几个顺利完成的 Demo 更能暴露产品问题。 工程上，我会把模型的自述当成待验证的信息。它说“测试通过了”，就读取测试结果；它说“没有修改其他文件”，就检查 diff；它说“已经完成”，就核对实际状态。验证动作应该尽量由模型之外的程序执行。这样，即使我们还解释不了模型为什么产生某种行为，也能限制错误造成的影响。 这篇文章让我更确信，AI 产品开发需要把“验证它做了什么”放到和“让它完成任务”同样重要的位置。对一个要独自承担维护和用户责任的开发者来说，这比模型说话是否可信、演示是否流畅，更值得投入工程时间。

就在两周前，字节跳动创始人张一鸣与 Seed 负责人吴永辉共同召开了一场 Seed 全员会（All Hands）。 久未露面的张一鸣也表达了自己对 seed 的支持。我们（晚点）独家了解到： ➡️ 训大模型本就是一件很难的事，团队不必过度焦虑。他明确一段时间内可接受模型落后于行业，希望大家以追求智能上限为目标，期待 Seed 模型能力能跻身世界第一梯队。 ➡️ 认可编程（Coding）是当前的关键方向，所以要把火山引擎、飞书和豆包的资源整合到一起，只有这样才能构筑在算力和数据上的优势。但他也提醒，编程只是眼下的热点之一，不应该完全被它牵着走，编程之外还有更多更大的机会。 ➡️ 表扬了 Seedance，认为这个模型在市场上很特别，也有领先的技术优势。相比追随其它领先模型的既有路线，他更鼓励 Seed 做出有自己特色的模型。 ➡️ 反对蒸馏，认为蒸馏能在短期内改善模型表现，但本质上仍是在复制 Claude 已有的能力。沿着这条路走，最多只能不断逼近对方，很难真正实现超越。 ➡️ 希望 Seed 可以从更底层的维度去构建自己在 AGI 上的壁垒。 ➡️ 过去几年，字节已经在 AI 方向投入了很多；未来，还会投入更多。

2018 年前后，我翘班去奥克兰参加一个设计 Meetup。全程一句话没说，连台上的嘉宾在讲什么都没太听清。 三年后，我站在同一个场地，用英文给台下的观众做了一场分享。 这三年，我是怎么从一个不敢开口的人，变成可以用英文公开演讲的？ 刚开始在新西兰工作的时候，语言一直是我最大的障碍。 第一次进入敏捷团队，开会时别人讨论得热火朝天，我却经常走神。因为我脑子里一直在想，等下轮到我了，该说什么？怎么说？结果别人在讲什么，反而没听进去。 会后还要花很多时间读文档补课，工作进度也经常落后。 更麻烦的是，因为表达跟不上，团队不了解你的能力，自然也很难建立信任。 2019 年底，当时 Les Mills 的老板推荐我读《Great at Work》。书里讲到开会，大意是要敢于争论，敢于表达不同意见和疑惑，争论完再一起执行。 我当时在日记里反思：以前一直觉得开会就是为了达成一致，加上自己性格内向，很容易就跟着别人走了。 巧的是，读这本书的那周，正好发生了一件事。 周二，我开了一个设计方案讨论会，感觉被群殴了一顿。回头想想，主要还是因为准备不足。 第二天还有两个会，我决定换个方法，提前花了和会议一样长的时间做准备。 结果那两场会的沟通非常顺利。 这件事让我意识到，很多时候我不敢说话，其实是因为没有准备好。准备充分了，心里有底，自然就敢开口。 但工作会议毕竟只是其中一种场合，我还想练习在陌生人面前表达。 于是同一个月，我开始参加 Toastmasters。每次早上五点就出门，去练习用英语演讲。 刚开始真的很痛苦。用非母语磕磕巴巴地表达，能用的词汇可能只有中文的两成，感觉智力都打了个对折。 但练得多了，慢慢就习惯了在别人面前犯错，也不再那么害怕自己说得不好。 2020 年，我做了一期《Great at Work》的书评视频，把这段经历总结成：问题主要出在心态上。 现在翻回当年的日记，我觉得这个总结有点太简单了。 真正让我敢开口的，是会前认真准备，再加上一遍遍在低风险的场合练习。随着一次次练习，心态才慢慢发生了变化。 到了 2022 年，我在 Xero 开会时，顺嘴说了一句「many stuff on my dish」，其实地道的说法应该是「on my plate」。 一个同事听了问：「你刚刚说 dish 吗？」 然后他笑着说：「这个说法挺可爱的，以后就这么说吧。」 那天我在日记里写，以前说错点什么都会很没信心，现在觉得犯错其实很正常。 回头看，从当年参加 Meetup 一句话不敢说，到三年后站在同一个场地用英文演讲，再到现在可以很自在地和陌生人聊天，这个变化还挺大的。 当然，这个过程也让我明白，语言能力和表达的自信，很大程度上是可以通过练习建立起来的。 如果你也在用第二语言工作，尤其是开会时不敢表达，我有一个很具体的建议： 下次开会前，试试花和会议一样长的时间做准备。 这是我当年试过，效果最明显的一个方法。

中央和地方政府制定的政策就像医院的里的医生看病一样， 头痛医头，脚痛医脚， 很少有站在系统的角度去制定政策和解决问题。 不如把这些工作交给AI， 让AI从政， 也许是人类的最终的未来。

给大家分享一下前段时间我们一家在上海考察后的一些感受， 偏主观一些，给大家提供一个参考。 我在考虑要不要搬去上海，家人了解上海的非沪籍政策，还是比较灵活和友好的。 比如只要连续缴半年的社保孩子就可以在上海读书，而且上海房价相比北京可以选择的范围也更大， 租房的性价比相比杭州更好。 上海的居住环境也挺好，前段时间我们在上海转了好长时间，基础设施、城市绿化、人文都远远好于杭州，在基础设施方面虽然不及北京，但是对于我们这样的家庭也是相当友好了。 如果没有通勤的需要，上海郊区比北京郊区舒服太多了。 上海这个城市的国际化其实比北京更好，比北京更有活力。 似乎很适像我们这种家庭的情况。 也有槽点，上海的地铁换乘需要步行的时间也太尼玛长了。

穿越周期，最推荐的 10 本书 《艰难时代：大萧条口述史》——斯塔兹·特克尔通过普通人的访谈，理解失业、破产、迁徙、羞耻感、互助和重新开始。它最适合建立“危机中的普通人视角”，而不是只看宏观经济数据。该书被视为大萧条的口述历史经典。 《愤怒的葡萄》——约翰·斯坦贝克讲一个农民家庭在土地失去、债务增加、就业机会消失后被迫迁徙的过程。重点不是悲惨情节，而是：家庭如何分工、互相照顾，并在资源越来越少时维持尊严与团结。 《最寒冷的冬天：美国大萧条时期的生活》——蒂莫西·伊根以美国“尘暴区”家庭为中心，展现经济危机和生态灾难叠加时，家庭如何应对失去土地、迁移和长期贫困。美国图书馆协会关于尘暴时期的推荐资料中，也将这类家庭生存史作为重要阅读方向。 《让我们赞美名人》——詹姆斯·艾吉、沃克·埃文斯记录大萧条时期美国南方佃农家庭的生活。它会让你看到：贫困不仅是收入低，还涉及居住条件、教育、健康、社会身份和选择权。 《布鲁克林有棵树》——贝蒂·史密斯虽然是小说，但非常适合观察一个贫困家庭如何靠教育、家庭责任、节俭、工作和想象力逐渐保住未来。它比纯粹的理财书更能解释“家庭韧性”是怎样形成的。 《根在尘土：在美国大平原上生存》——罗克珊·邓巴-奥尔蒂斯关注农业家庭在债务、干旱、失业和迁徙压力下的选择。它提醒人们：个人努力很重要，但家庭所处的行业、地区、资产结构和社会关系同样决定生存空间。 《金钱心理学》——摩根·豪泽尔这本书不专门讲经济萧条，但非常适合建立危机中的金钱观：保留安全边际、控制杠杆、避免过度乐观、接受不确定性。经济下行时，最大的风险往往不是短期亏损，而是被迫在最差的时间卖出资产或借高息债。 《你的钱，还是你的生活》——维姬·罗宾、乔·多明格斯核心不是“怎样赚快钱”，而是重新理解收入、消费、时间和生活质量。它适合帮助一个家庭降低对高收入、高消费和单一职业的依赖。 《节俭大全》——艾米·丹多适合把“节俭”从一句口号变成具体的家庭系统：食物、住房、衣物、维修、重复利用和消费决策。它的部分内容带有时代和地域色彩，但可以训练一种非常重要的能力：把家庭支出拆解成可调整的模块。 《反脆弱》——纳西姆·尼古拉斯·塔勒布 它不是家庭理财操作手册，而是帮助你理解如何设计一个不容易被单一冲击击垮的生活：不要把收入、资产、技能和人际关系全部押在一个系统上。对个人而言，分散收入来源、降低固定成本、保留现金和掌握可迁移技能，都是“反脆弱”的实践。 如果只读 3 本 我会选择： 《艰难时代》：了解普通人怎样经历危机； 《愤怒的葡萄》：理解家庭在极端压力下如何保持团结； 《金钱心理学》：把历史经验转化为今天的财务决策。 读完后，建议把经验落到这 6 个问题上 如果收入下降 30%，家庭能维持几个月？ 哪些支出是固定且无法快速削减的？ 家庭是否依赖单一收入来源？ 是否有高息债务或必须持续偿还的贷款？ 哪些技能可以在行业变化后继续变现？ 遇到困难时，可以向哪些亲友、社区或组织求助？ 需要注意的是，上述理财书大多以美国金融体系为背景，不能直接照搬其中的投资、税务和保险建议；但它们关于现金流、债务、储蓄、消费和风险分散的原则，仍然具有参考价值。

看完这篇文章后， 我觉得 dhh 目前看到的都是表面的繁华， 而我在游历了我国主要发达地区两年之后， 我本人认为，当下也许是我们发展的顶点，接下来就是漫长的衰退。