Lilian Weng 这两天更了一篇新 blog，《Scaling Laws, Carefully》。话说想当一个优秀的 researcher，真得会起标题啊😆这个 Carefully 就很妙，一看就不是来吹 scaling law 的，而是来给它祛魅的。 过去几年，AI 圈对 scaling law 的理解，多少有点简单粗暴：模型越大，数据越多，算力越多，能力就会沿着一条漂亮曲线往上走。于是大家很容易把它理解成一句话： 继续堆，就会继续赢。 （虽然这句话好像也没错） 但 Lilian 这篇其实在提醒大家，scaling law 没那么神。它不是宇宙真理，更像一套很贵的实验会计学。 她举了两个例子。 Kaplan 2020 把 scaling law 带进 LLM 时代。当时的结论是：“有钱先堆参数，数据少喂点”。这话行业信了两年。 结果 2022 年 Chinchilla 直接掀翻，同样的算力，70B 的模型多喂 4 倍数据，把 280B 的 Gopher 全面碾压。结论反过来了：参数和数据该差不多一比一同步涨。（就像我们前两天写的，技术圈的潮流真是一个回旋镖）。 同一套规律，两个顶尖团队，给出几乎相反的答案。其实两边都同意 scaling 有效，真正吵的只是同一笔算力该怎么分。那为什么会差这么多？后来 Pearce & Song（2024）把账算清了：Kaplan 主要在小模型上做实验，Chinchilla 玩的规模大十倍以上，加上两家连“模型有多大”都没按同一个口径数（算不算那块管词表的参数）。就这点采样范围和口径上的差别，往大尺度一外推，被放大成了相反的结论。 更骚的在后面。Besiroglu（2024）去复现 Chinchilla，发现它自己三套方法里，第三套居然跟前两套对不齐，挖出来的原因离谱到好笑：无非是算账时该求和的地方取了平均、关键数字只保留了两位小数这种手滑。就这，能让一条决定全行业往哪烧钱的曲线，看起来偏掉。 所以 Lilian 这篇的潜台词是：scaling law不是写死的物理定律，是一条得小心伺候的经验账。你在几个便宜小模型上画条线，拿去赌几十亿的训练，中间任何一个看着无所谓的小数点，推到那个尺度都可能差出一座数据中心。 P.S. Lilian 还在文末放了个可以自己拖的小组件，比任何解释都直观，建议去原文拖两下。 Scaling law 没有失效，但它也不应该被当成信仰。它更像一把尺子，而且是一把很挑剔的尺子。 但如果你量错了东西，最后只会得到一个很贵的错误（这也是为什么搞AI大模型的算法值钱，之前的经验，可以少浪费多少算力）

📷四月作品（7日發售） 『決勝內衣』156P+1V you（=i） “親愛的，這是為了拿下你精心挑選的內衣，你喜歡嗎？” "Honey, this is to get your carefully chosen underwear, do you like it?" 📸phx：@jimengciyuan

Wait what？Guys guys this shit aren't no jokas！ 我听不少人说纽约零元购后很多货就是这么散出去的，包真包售后（被抢了，不到15分钟就给你送回来） 我们强烈谴责这类违法行为，不过深蓝州的这些宽松政策让执法越来越难了，be careful of what you are wishing for...

对未来10年的建议 —— 来自 GPT-6 Astra Ultra 01 Protect your health before ambition spends it. 守护健康，别让野心透支它。 02 Keep your expenses below your income. 让支出低于收入。 03 Build skills that stay useful when tools change. 培养不会随工具更迭而失去价值的能力。 04 Choose your partner and close friends carefully. 慎选伴侣与挚友。 05 Make time for your parents while you can. 趁还能陪伴，多给父母一些时间。 06 Do work you’re proud to put your name on. 做让你自豪、愿意署上自己名字的工作。 07 Take risks you can survive; avoid those you can’t. 承担你能承受的风险，避开那些会让你一蹶不振的风险。 08 Change your mind when the evidence changes. 证据变了，就更新你的判断。 09 Leave situations that repeatedly cost you your self-respect. 离开那些反复损害你自尊的处境。 10 Build a life you enjoy living, not just describing. 过自己真正享受的生活，而不只是听起来精彩的生活。

Opus 5.5 用了一天，攒了 24 条 tips，分五块。 一、怎么用 1. 整个任务直接扔给它。说清什么算做完，什么时候要回来找你。 2. 别写「think carefully」，它本来就会先想。思考模式也关不掉了。 3. 长任务跑完，问它「还缺什么才能继续」，别急着自己接手。 4. 长任务跑一半停下来汇报是前沿模型的通病。Anthropic 给了一段专门的提示词压住这个毛病。 5. 默认 medium 就够。智能跟 Fable 5.1 差不多但更快，输出 token 比官方建议还少两成。 6. 别开 max。有人两次测试都在思考阶段撞上 128K 输出上限，一个结果没出，每次 2.56 美元、20 分钟。Fable 5.1 的 max 反而没事。 7. 简单活 medium，难活切 high。Claude Code 2.1.280 之后，会话中途切强度不再打掉缓存。 二、把旧提示词清一遍 8. 跑 /claude-api prompt-audit。skills、CLAUDE.md、AGENTS.md 里那些给旧模型写的保姆规则，现在只会拖累 5.5。 9. 该删的典型句式：全大写 IMPORTANT、一刀切的 be concise、always ask、always summarize、be thorough / don't stop。 10. 每次模型升级都重跑一遍，拿几个代表任务验证，只留有效果的改动。 11. 反模式不只在 CLAUDE.md，工具描述里也有。有人把 12 个工具砍到 4 个，效果比改任何提示词都大。 12. 让 audit 解释每一条删除理由。有些看着奇怪的行，是绕某个 bug 的 workaround。 三、账单 13. 几乎所有事都能用 Opus 5.5 干，Fable 那 50% 的上限可以不管了。只有「给我点惊喜」那种模糊的创意原型，我还是回去找 Fable。 14. 多 agent 编排里，coordinator 和 worker 都换成 5.5，额度掉得明显慢了。 15. 缓存读取从 0.5 降到 0.2 美元。编程会话缓存命中率一般 95% 以上，实际省的比标价多。 16. 三家里只有 Anthropic 不对长上下文加价，到 1M 单价不变。OpenAI 过 272K 翻倍，Grok 过 200K 翻倍。 17. banked reset 不会挪动每周重置时间。留到周期后半段额度见底再用。 四、顾问模式 18. /advisor fable 把 advisor 设成 Fable。Fable 出方案，5.5 执行，做完让 advisor 验收，按反馈返工到通过为止。配 /goal 更顺。 19. Opus 和 Fable 的真正差距在找开关。Opus 被 auto-mode 拦住会让你手动粘命令，Fable 会去 settings.json 里翻出 autoMode.allow。所以 Opus 当主力，Fable 别关。 五、它变了什么 20. 只在该长的时候长。「Claude 腔」和破折号没了，结论放最前面。 21. 「honest mistake」循环没了。以前是先下结论、走错、道歉、再花几轮修，现在一次做对。 22. 会自己遵守 skill，不用你提醒。 23. 3D、视觉、Blender、设计品味都明显强了。视频、Minecraft、3D 网页一次成型。 24. 网络安全和生物任务会被自动转给 Opus 4.8。2026-08-31 后注册的 API 账号拿不到推理过程。输出带文本水印。

IG removed this video of meow meow Asa twerking on stage at Cosfans02 so i post again here with close up angle 順帶一提，我剛創建了一個 Telegram 台灣頻道，用來更新台灣的活動消息，歡迎加入 (Telegram Chanel for Taiwanese update): Telegram Chanel for English update: Others than those are fake please be careful 除了那些之外都是假的，请小心 🥰