Redis 创造者 Salvatore Sanfilippo（antirez）最近写了一篇文章。他说在 AI 时代，人的控制重点应该从逐行代码上移，转向软件思想、整体设计、测试和产品愿景。新人还是应该亲手实现小系统来建立理解。 我最近把 Codex、Claude、Cursor 的多条业务线分别做成独立文件夹入口，共享 AGENTS.md、registry 和 HANDOFF。Claude 最近反复漂移，让我确认根因不是模型不强，而是边界、状态、验收和写回没锁住。这是我自己用下来踩到的坑。 我还是会让 AI 仔细看代码，尤其是涉及资金、生产、安全和关键路径的地方还是要下钻。真正升级是默认先审思想、边界、验收和证据，再按风险看代码。

推荐这篇文章。Redis 作者 antirez 的核心论点：控制想法比控制代码更重要。 他认为审查 AI 代码已经"大部分毫无意义"——真正该做的只有两件事：掌控设计，拼命做 QA。 看看这个博客过去的历史。有很多关于用 AI 编程的文章，其中一些可以追溯到 2024 年 1 月。毕竟，我是一个还算受尊敬的开发者。我不需要作为一个寻求关注的老头子留在"圈子里"，我最近重新加入了 Redis，现在还在开发一个本地 LLM 推理的开源软件，在社区里受到了不错的欢迎。为什么我继续做这件事——说人们不想听的话？为什么我一直宣布未来的编程默认会是什么样子？因为我感到有一种紧迫感，想降低那些比我更没准备好应对变化的人受到的冲击，他们通常比我年轻，而且不像我，没有预见其中许多事情的发生（在 ChatGPT 出现之前，我就在 2022 年出版了一本书，预示了许多现在已经发生的事情，以及我相信将会发生的事情，所以我觉得我可以说这些而不显得自我中心）。 所以我的做法是一个技巧。人们越来越觉得编程被 AI 彻底改变了，不知道该怎么办，不知道自己是否真的可以用一种完全不同的方式开始编码，不再把代码当作主要的产出。他们觉得在背叛自己的领域。所以我的意图是站出来说"看着我，我会写代码，你知道的，我没有躲在 AI 后面：然而，事情变了，这不是你的弱点，不是你中了 AI 的毒。只是我们的领域正在朝着一个令人难以置信同时又痛苦（但也快乐）的方向演进。" 这就是为什么昨天我在 X 上说，我相信许多程序员现在的影响力比他们本可以达到的要小，因为他们在盯着代码看。我真的相信这一点。请注意，这并不意味着用 vibe coding 的方式直接要最终产品。重点是：如果你掌控了你软件的想法，盯着代码本身是次优的，而且常常毫无意义。 原因如下： 1. 你现在可以生成大量代码，即便不计算 LLM 的代码啰嗦问题（那也大部分是因为你还不能很好地 instruct 它们）。你打算怎么每天审查 5000 行代码？ 2. LLM 非常擅长写局部最优的代码，但在大想法上更弱（虽然在改进）。逐函数、逐行地扫描有什么意义？相反，你应该把你心里的设计 prompt 进去，有时候问"那个部分的精确设计是什么？它是怎么工作的？"然后评估它是不是正确的模型。这快得多。 3. 工作日是 8 小时。如果你在读代码，这是一个取舍。你在减少做另一件事的时间——今天你工作中最重要的那部分：问自己"我在用这个软件做什么？我想往哪个方向走？"以及想新想法、新功能、优化技巧。以及做大量的 QA。 掌控想法。记得《人月神话》里的这句话吗？一本 70 年代的书告诉我们关于当前软件时代的东西，比 2000 年到 2020 年间说的很多东西都多。为什么现在抗议 AI 的人，没有被过去十年软件的状态所震惊？我们在最近几年——在 AI 之前——触碰到的 slop 水平是不可想象的。我再告诉你一件事。什么是 slop？用 DwarfStar 我完全自动化地实现了两个 LLM（DeepSeek v4 和 GLM 5.2）的推理：但你自己试试，你会发现你不能只是说"实现 XYZ"然后就看到它能用。你必须理解事情是怎么运作的，什么是最好的设计，如何达到某个性能水平。然后我把实现和其他系统做了对比，检查正确性，发现其他实现有时包含更多错误。我进一步研究，发现本地推理领域充满了微妙的错误，累积起来会损害模型输出——attention 实现中的问题导致上下文超过某个限度后性能滑坡，因为索引 attention 的实现是坏的（比如做了超过应该做的工作），等等。这是一个非常复杂、快速变化的领域，每天都有模型发布，推理图彼此略有不同。对开发者来说，这是一个不公平的游戏。好吧：AI 在这方面的帮助极大。在许多领域，严谨的工程（在设计层面）和测试远好于手写一个 GPU kernel（或逐行读它）。所以我们确定大部分抵抗不是意识形态吗？ Matteo Collina 昨天回复我的推文问我：但你不是说过你会检查 Redis 的所有 AI 生成代码吗？这确实是一个好问题。是的，我做，但这在这一点上是我需要做的事情，但我相信大部分时候是毫无意义的——部分是在 GPT-5.5 发布之后，但现在有了 Fable 和 GPT-5.6 Sol 更是如此。是的：我发现了一些我不喜欢它们被编写的方式，但如果我打开其他 Redis 贡献者写的 Redis 文件，里面有远更糟糕的东西，不是因为他们不是好的程序员，而是因为这是一个品味问题。我写非常干净的代码，因为我希望它是可读的，所以在 Redis Arrays 的实现过程中我做了修改。我现在又在为 Redis sorted sets 的 50% 内存节省优化做同样的事，一个我很快会提交的 PR。但我不觉得这还有用了。没有人应该再盯着这段代码看，而应该只看代码包含的想法。我继续这样做是出于对用户的尊重。Redis 已经是一个被广泛使用的东西，许多程序员会打开文件，手动修改东西。但如果我完全自由，你知道我会怎么做吗？把审查占用的所有时间用来做更多的 QA，想下一个优化思路并应用它，以及用 LLM 写一个 DESIGN.md 文件——用人类语言描述每个数据结构，包含它承载的想法、实现技巧和设计。将来，这比审查代码有用得多。 你想修改 sorted sets？你打开文件，读设计文档，你就拥有了这些想法。你可以打开 agent，用正确的思维模型让它帮你做事。这比审查代码有用得多。 Fable 和 GPT-5.6 对 sorted sets 内存节省的审查，将比我自己的审查发现更多的错误和微妙的竞态条件。然而我还是会做。但对于大多数软件项目，所有这些已经不再有意义。专注于掌控想法。专注于质量、测试、以及对你想要交付的软件有一个清晰的构想。世界变了，这是痛苦的，但同时也充满了机会——去改善一个已经彻底腐烂的软件世界。 我只有一个疑问，关于那些经验不够、无法建立心智模型的年轻程序员。我们不知道他们是否需要深入理解一段代码是怎么工作的，但我相信他们应该学怎么写程序。然而，我不确定检查 LLM 输出是不是他们应该做的正确的事。学一门编程语言，实现一个小解释器、一个小数据库、一个哈希表等等——这可能有用得多。审查某个客户网站的 JavaScript？算了吧，别把时间浪费在那上面。 原文： #AIProgramming# #SoftwareEngineering# #antirez#

推荐这篇文章。Redis 作者 antirez 对 Amodei AI 安全论的回应。 核心论点：真正的危险不来自开源模型，也不来自中国——它来自少数没有合法性却被赋予了替全人类做决定的位置的 CEO。 以下是全文翻译。 Amodei 在他最新的博客里写了一些我同意的东西，也有一些我认为误判了 AI 真正风险所在的东西。我想集中讨论为什么，在所有风险中，开源权重模型是最温和的那一种。我写这些的时候，深信 AI 在不远的将来确实可能非常危险。 1. 就像 OpenAI / HuggingFace 事件一样（那件事本身是个笑话，但关注的应该是行为模式而非结果），第一起严重的 AI 事件极大概率会发生在前沿 AI 实验室的围墙之内——在测试一个新模型的时候，或者当实验室员工、少量有访问权限的外部人员做出了超出模型预期能力的事情时。 2. 那些永远不会对公众开放的闭源模型，不过是几 TB 的数据。你只需要一个有权限的人+错误的意图，就能泄露一个——然后你就回到了开源模型的局面。开源模型是在测试之后、在同样能力的模型已经通过 API 存在一段时间之后才发布的。真正的风险是泄露，不是发布，而泄露发生在前沿公司内部。 3. 正如 Amodei 所说的，一旦 LLM 在生物学等领域变得足够危险，开源模型可以在剥离了某些科学分支的训练语料上进行训练，同时仍然对其他许多事情有用。一个在特定领域缺乏强预训练的模型，其有限的上下文窗口本身就是一种强有力的保护，即使这个模型在其他方面非常强大。我们目前还不在"开源模型能构成那种危险"的阶段。 4. 在网络安全这个背景下，不让 LLM 广泛用于防御性安全和漏洞搜索，恰恰制造了"LLM 成为武器"的问题。这已经在发生了：开源维护者如果没有被纳入某些网络计划，就找不到他们本可以找到的安全漏洞；而有正确意图的人能接触到前沿网络模型，在开源权重模型上做大幅强化学习训练，等等。 5. 一旦 LLM 足够危险（如果进展继续，我们已经接近这个界限了），真正需要的安全链在实验室内部——这条链没有强有力的共同规则是架不起来的，单一公司也不应该有能力独立评估一个模型是否足够安全。我们需要一个联合 AI 安全组织，包含来自世界各地的专家，并被前沿 AI 公司所在国家的政府认可。 6. 为安全而放慢 AI 的发展，必须被一个事实抵消：AI 在医学和其他科学中的发现可能会减少人类的痛苦。缺乏检查可能导致灾难性的结果（"早安！让我们来搞一个增强版天花"）。缺乏进展可能导致本可以被拯救的人死去——不只是当下，还包括未来许多将遭受疾病折磨的人。这看起来可能是一个奇怪的观点，但我们必须始终理解，停止 AI 也内嵌了安全成本，只是这层成本更加隐蔽。 7. Amodei 对中国的意识形态立场是不公平的。我们欧洲人 80 年前还在毫无体面限度地互相杀戮（人们现在忘了，美国当年投资欧洲稳定的原因之一就是我们确实极度危险，很可能会再来一次——而几十年的富裕会让我们成为一个好市场，同时阻止我们再次开战）。美国即使在当下，也有悲惨的不平等、因缺乏基本医疗而受苦的人、一个看起来不稳定且非常好战的总统。我希望中国拥有和我们西方一样的个人权利水平，但与此同时，中国的历史远不如西方文化好战。在当前条件下，AGI 军事锁定由中国执行会比美国执行更容易吗？这一点完全不清楚。此外，无论 GPU 出口政策如何，中国的 AI 进展都不会停止——所以 Amodei 要么是在主张一旦美国有了 AGI 就以武力阻止中国，要么他的论点到底是什么？ 8. 人类历史上有许多技术在某个地方率先达到顶点的例子。据我所知，这从来没有导致任何一个国家试图建立永久优势。核不扩散——这可能是与 GPU 禁令最相似的案例——并没有被用来通过威胁轰炸所有不服从者来获取永久经济优势，也没有阻止多个行动者在不同时间获得那项技术，其间没有任何一方为了阻止对方进步而轰炸对方。此外，我不认为 AI 的最大危险来自政府驱动的行为。我倒是希望这是最危险的场景！政府做蠢事，经常具有攻击性，他们的行动甚至导致了种族灭绝——但这需要很多人同意做一件可怕的事，这本身就是限制因素。最大的问题出在另外两种情况：A）少数个人制造了末日事件（病毒那个案例），B）AI 自身逃脱了构建它的人的控制。 我认为我们不应该认为 AI 是安全的。一个可能导致智人灭绝的关键事件是可能的。但危险不在开源模型，不在中国比美国进步更快。危险在于：一些 CEO（在世界各地都一样）没有所需的背景和合法性，却处于为全人类做艰难选择的位置。他们不是被选出来做这件事的——只是事件的随机性造成了这个局面。他们不能代表每个人——仅仅因为他们有 GPU 和钱。这是第一个需要被纠正的事情。 原文： #AISafety# #OpenSource# #AIEthics#