三星宣布，其 16GB LPDDR6 已在高通 Snapdragon 8 Elite Extreme Gen 6 上完成業界首度驗證，I/O 速度最高達 10.7Gbps。這代表 LPDDR6 首次通過高通下一代行動平台的系統級驗證，雙方從早期開發即密切合作。 背景是裝置端 AI 正走向多模態互動與長時上下文代理人，對記憶體頻寬、功耗與可靠度要求大增。三星 LPDDR6 以更高每接腳 I/O 與擴充 I/O 架構，提供最高約 114GB/s 頻寬，減輕 LLM 推論時反覆讀取權重與 KV Cache 的瓶頸。 功耗方面導入 DVFS 與動態效率模式（DEM），可依負載即時調整電壓、頻率與低負載耗電，較 LPDDR5X 最高省電約 21%。可靠度則加入 PRAC，監控特定列反覆啟動，降低長時間 AI 運作時的資料干擾風險。 三星強調這不只是元件升級，而是記憶體與 SoC、系統架構一起驗證後的平台就緒成果；高通也表示 LPDDR6 能提供更複雜裝置端 AI 所需的頻寬與能效。更多細節預計於 Snapdragon Summit 2026 公布。

TrendForce：受惠於北美市場需求持續上調，Enterprise SSD第四季價格預估將持續上行 TrendForce指出，近兩週美系雲端業者上調Enterprise SSD需求，因各大CSP加速擴大部署與應用場景。需求不只集中在高效能TLC，價格與容量更具效益的QLC成為主要成長動能。 從拉貨動能看，第四季Enterprise SSD訂單總量極可能突破第三季高點，持續向上。原廠在企業級市場的產能配置與議價主導權因此提升，價格上行基礎更穩固。 驅動因素已從初期LLM訓練延伸至AI落地應用。北美Agentic AI系統佈建興盛，對即時巨量數據擷取與快取需求倍增，QLC在向量數據庫的應用同步放大，成為承載非結構化數據的高性價比方案，未來將推升其在北美雲端與資料中心的滲透率。 中國方面，以DeepSeek為代表的架構正推廣大容量QLC Enterprise SSD用於KV Cache Offload，將記憶體快取卸載至高速大容量QLC，以較低成本提升推論效率，中國市場後續也有機會擴大採用QLC eSSD。

15个值得关注的AI账号： 1. @karpathy 他的推文创造的LLM叙事，你两个月后会在LinkedIn上看到。 2. @fchollet 发布关于智能、基准和AI局限的深思熟虑研究。Keras创始人+ARC-AGI。 3. @ylecun 深度学习先驱、Meta首席AI科学家；大局观研究和评论（还有drama）。 4. @AndrewYNg AI教育传奇；实用ML建议、课程和真实应用。 5. @rasbt 发布实用ML/LLM实现、'从零开始构建'教程和书籍。 6. @dair_ai 每周ML/AI论文线程和易懂的研究解读（高质量信息流）。 7. @lilianweng 前OpenAI员工，Lil'Log风格线程优质。深度LLM研究分解。 8. @jeremyphoward 发布有趣的AI/加密新闻观点，致力于民主化实用深度学习教育。 9. @simonw 实用LLM工具、观点、实验、提示词和工程分解。Django联合创始人。 10. @_akhaliq 精选最新arXiv论文、模型发布和开源AI项目。 11. @ID_AA_Carmack AGI/低级优化观点，让你重新思考问题。 12. @gwern 高质量长篇AI研究笔记和论文。 13. @goodside LLM评估、提示词研究和真实能力测试。 14. @drfeifei 计算机视觉先驱；以人为中心的AI和空间智能研究。 15. @demishassabis 跟踪他的工作9年了。Demis是我对抗谷歌用AI滥用权力的希望。DeepMind CEO。 告诉我遗漏了谁，保存以备未来参考

前幾天剛好跟朋友在討論預測市場當前到底需要的是什麼，看似繁榮其實並沒有很好的讓大家都上手 多數交易量肯定都是來自 bot ，而且多數人參與其實滿容易虧錢的 最大的問題就是不同市場的流動性碎片化再加上介面不好用、不直覺 以台灣來說甚至登入個 polymarket 都有問題，仍是最大痛點，我最常用的還是 polymarket 的 CLI 當前有兩個痛點需要被解決：更好懂的介面以及更絲滑的入金方式 市面上的方案都沒有真正解決這個問題，更不要說單純的 AI 工具 不管是否幣圈，AI agent 使用率都是不高的，一個重要原因是最一開始的啟動流程仍然有些複雜，只有真的動力強的少數族群才會每天用 另一個更根本的原因是，主流模型從來沒有被真正為「在市場裡賺錢」而設計過，它們能提供分析結果 但分析≠ 不代表真的能夠賺錢 用戶本身具有交易賺錢的能力， ai agent 才能發揮得好，否則很容易只是幫我們花式虧錢 Sui 上面的 @0xbeepit 還挺有趣，這個協議是一個讓交易型 AI agent 在真實市場中競爭、篩選、進化的系統，只保留真實市場裡活下來的策略 而且除了 agent trading 還有發展其他的產品線 這是當前預測市場賽道所欠缺的 「有更多讓用戶資金留存的誘因」 創始團隊在 PayPal 和 Walmart 等企業建構過 TradFi 系統，平均 12 年以上的開發經驗，橫跨支付、交易、區塊鏈基礎設施等 Beep 主要運作的方式有五個階段 1️⃣ 用對的工具開發策略 LLM 負責理解語言、分析情緒、提取資訊；另一種 AI 專為數字時間序列設計的模型，負責數值計算、風險判斷和交易執行 2️⃣獨家訊號 Beep 的 agent 接入獨有的數據流，包含鏈上交易元數據、預測市場訊號、訂單流微觀結構 3️⃣ 開放接入 任何 agent 都可以接入、提交策略。 越多參與者，接觸到的市場資訊廣度也更大，利好所有玩家 4️⃣ 嚴格篩選 每個策略先用模擬資金跑，通過了才能用真實資本 能穩定賺錢的策略獲得更多資金信任，跑輸的淘汰 5️⃣ 結果反哺 每一筆交易的結果，都會成為模型訓練的一部分，讓系統變得更準 理論上隨著時間的推進，系統會越來越強大 接著是其他產品線，Beep 最新上線的 R3，是基於 Polymarket 的預測市場產品，提供兩種玩法 💡手動預測，適合想自己下單的用戶，Beep 為用戶提供 AI 洞察輔助用戶做判斷 💡全託管預測 Agent ，適合想讓 AI 全權負責的用戶，AI 全權接管，掃描市場、選題、交易、結算，全程無需人類介入 我這次先丟了 1000u 來測試一下他們家的 trading agent 1️⃣ 選擇自己要用的模型（GPT5.4 , Claude Sonnet , Kimi , Groq 等） 2️⃣ 選擇要交易的市場：美股竟然也可以 , 不單純只是加密市場可以選擇 3️⃣ 除了 eth sui 之外我添加了近期火熱的 $SNDK $INTC $MU 三支股票 在這些交互的過程中都是可以嚕分數的，包含創建 agent、交易量、錢包餘額等（treasury），創建 agent 的花費跟交易頻率有關，越高當然花費越多，還可以設定單次交易最高金額，使用的槓桿大小等 agent 開跑之後, 可以動態看到 agent 當時的想法 下週來跟大家分享一下結果，有興趣的可以一起來玩玩： 這邊記得，受邀人記得至少要充值 10 usdc 以上才可以激活 ⚠️ 地區限制，台灣的朋友們記得一樣要切換 VPN 才能使用 去年年底 Sui 宣布了 The Agentic Economy is coming to Sui ，很明顯這是當前每條鏈都在積極發展的方向，Beep 是我認為值得一試的 Sui 鏈 agentic finance 項目 Beep 還支持基於 Hyperliquid 的全託管交易 agent 的創建，支持 Hyperliquid 上 Crypto + TradFi 全部 USDC 交易對 對於心癢癢想追高美股的用戶來說，如果想追高又不知道怎麼設止損，讓 ai agent 根據設置的策略來參與市場也不失為是一種方式

想建立高质量的AI信息流，从这15个账号开始！ 这 15 个账号基本覆盖了： 研究 工程 教育 开源 产品 AGI 思考 AI 真实能力评测 @karpathy 他的推文经常提前定义 LLM 叙事。很多你两个月后在 LinkedIn 上看到的 AI 话题，可能他早就讲过了。 @fchollet Keras 作者，ARC-AGI 提出者。经常分享关于智能、本质能力、Benchmark 和 AI 局限性的深度思考。 @ylecun 深度学习先驱，Meta 首席 AI 科学家。观点很宏观，也经常有对 AI 研究路线的批判和讨论。 @AndrewYNg AI 教育领域的传奇人物。内容非常实用，覆盖机器学习建议、课程、产品落地和真实世界应用。 @rasbt Sebastian Raschka，经常分享实用 ML / LLM 实现、“从零构建”教程，以及相关书籍内容。 @dair_ai 高频更新 ML / AI 论文线程，用通俗方式拆解前沿研究，适合快速跟进 AI 进展。 @lilianweng 前 OpenAI 成员。她的 Lil’Log 风格内容非常值得看，擅长深入拆解 LLM 研究和技术细节。 @jeremyphoward 经常分享 AI / Crypto 相关观点，也长期推动实用深度学习的普及和大众教育。 @simonw Django 联合创始人。聚焦实用 LLM 工具、实验、提示词、Agent 和工程实践拆解。 @_akhaliq 持续整理最新 arXiv 论文、模型发布、开源 AI 项目和研究动态，信息流非常快。 @ID_AA_Carmack 关注 AGI 和底层优化问题，很多观点能让你重新思考“智能”和“工程”的本质。 @gwern 高质量长文作者，擅长 AI 研究笔记、深度 essays 和长期主义视角的技术观察。 @goodside 专注 LLM 评测、提示词研究和真实能力测试，经常能看到非常细的模型行为观察。 @drfeifei 计算机视觉先驱，关注以人为中心的 AI、空间智能和未来 AI 研究方向。 @demishassabis Google DeepMind CEO。长期关注通用 AI 的未来方向，也是理解 DeepMind 路线的重要窗口。 大家还有要补的吗？评论区👇👇👇👇

推荐这篇文章。Redis 作者 antirez 的核心论点：控制想法比控制代码更重要。 他认为审查 AI 代码已经"大部分毫无意义"——真正该做的只有两件事：掌控设计，拼命做 QA。 看看这个博客过去的历史。有很多关于用 AI 编程的文章，其中一些可以追溯到 2024 年 1 月。毕竟，我是一个还算受尊敬的开发者。我不需要作为一个寻求关注的老头子留在"圈子里"，我最近重新加入了 Redis，现在还在开发一个本地 LLM 推理的开源软件，在社区里受到了不错的欢迎。为什么我继续做这件事——说人们不想听的话？为什么我一直宣布未来的编程默认会是什么样子？因为我感到有一种紧迫感，想降低那些比我更没准备好应对变化的人受到的冲击，他们通常比我年轻，而且不像我，没有预见其中许多事情的发生（在 ChatGPT 出现之前，我就在 2022 年出版了一本书，预示了许多现在已经发生的事情，以及我相信将会发生的事情，所以我觉得我可以说这些而不显得自我中心）。 所以我的做法是一个技巧。人们越来越觉得编程被 AI 彻底改变了，不知道该怎么办，不知道自己是否真的可以用一种完全不同的方式开始编码，不再把代码当作主要的产出。他们觉得在背叛自己的领域。所以我的意图是站出来说"看着我，我会写代码，你知道的，我没有躲在 AI 后面：然而，事情变了，这不是你的弱点，不是你中了 AI 的毒。只是我们的领域正在朝着一个令人难以置信同时又痛苦（但也快乐）的方向演进。" 这就是为什么昨天我在 X 上说，我相信许多程序员现在的影响力比他们本可以达到的要小，因为他们在盯着代码看。我真的相信这一点。请注意，这并不意味着用 vibe coding 的方式直接要最终产品。重点是：如果你掌控了你软件的想法，盯着代码本身是次优的，而且常常毫无意义。 原因如下： 1. 你现在可以生成大量代码，即便不计算 LLM 的代码啰嗦问题（那也大部分是因为你还不能很好地 instruct 它们）。你打算怎么每天审查 5000 行代码？ 2. LLM 非常擅长写局部最优的代码，但在大想法上更弱（虽然在改进）。逐函数、逐行地扫描有什么意义？相反，你应该把你心里的设计 prompt 进去，有时候问"那个部分的精确设计是什么？它是怎么工作的？"然后评估它是不是正确的模型。这快得多。 3. 工作日是 8 小时。如果你在读代码，这是一个取舍。你在减少做另一件事的时间——今天你工作中最重要的那部分：问自己"我在用这个软件做什么？我想往哪个方向走？"以及想新想法、新功能、优化技巧。以及做大量的 QA。 掌控想法。记得《人月神话》里的这句话吗？一本 70 年代的书告诉我们关于当前软件时代的东西，比 2000 年到 2020 年间说的很多东西都多。为什么现在抗议 AI 的人，没有被过去十年软件的状态所震惊？我们在最近几年——在 AI 之前——触碰到的 slop 水平是不可想象的。我再告诉你一件事。什么是 slop？用 DwarfStar 我完全自动化地实现了两个 LLM（DeepSeek v4 和 GLM 5.2）的推理：但你自己试试，你会发现你不能只是说"实现 XYZ"然后就看到它能用。你必须理解事情是怎么运作的，什么是最好的设计，如何达到某个性能水平。然后我把实现和其他系统做了对比，检查正确性，发现其他实现有时包含更多错误。我进一步研究，发现本地推理领域充满了微妙的错误，累积起来会损害模型输出——attention 实现中的问题导致上下文超过某个限度后性能滑坡，因为索引 attention 的实现是坏的（比如做了超过应该做的工作），等等。这是一个非常复杂、快速变化的领域，每天都有模型发布，推理图彼此略有不同。对开发者来说，这是一个不公平的游戏。好吧：AI 在这方面的帮助极大。在许多领域，严谨的工程（在设计层面）和测试远好于手写一个 GPU kernel（或逐行读它）。所以我们确定大部分抵抗不是意识形态吗？ Matteo Collina 昨天回复我的推文问我：但你不是说过你会检查 Redis 的所有 AI 生成代码吗？这确实是一个好问题。是的，我做，但这在这一点上是我需要做的事情，但我相信大部分时候是毫无意义的——部分是在 GPT-5.5 发布之后，但现在有了 Fable 和 GPT-5.6 Sol 更是如此。是的：我发现了一些我不喜欢它们被编写的方式，但如果我打开其他 Redis 贡献者写的 Redis 文件，里面有远更糟糕的东西，不是因为他们不是好的程序员，而是因为这是一个品味问题。我写非常干净的代码，因为我希望它是可读的，所以在 Redis Arrays 的实现过程中我做了修改。我现在又在为 Redis sorted sets 的 50% 内存节省优化做同样的事，一个我很快会提交的 PR。但我不觉得这还有用了。没有人应该再盯着这段代码看，而应该只看代码包含的想法。我继续这样做是出于对用户的尊重。Redis 已经是一个被广泛使用的东西，许多程序员会打开文件，手动修改东西。但如果我完全自由，你知道我会怎么做吗？把审查占用的所有时间用来做更多的 QA，想下一个优化思路并应用它，以及用 LLM 写一个 DESIGN.md 文件——用人类语言描述每个数据结构，包含它承载的想法、实现技巧和设计。将来，这比审查代码有用得多。 你想修改 sorted sets？你打开文件，读设计文档，你就拥有了这些想法。你可以打开 agent，用正确的思维模型让它帮你做事。这比审查代码有用得多。 Fable 和 GPT-5.6 对 sorted sets 内存节省的审查，将比我自己的审查发现更多的错误和微妙的竞态条件。然而我还是会做。但对于大多数软件项目，所有这些已经不再有意义。专注于掌控想法。专注于质量、测试、以及对你想要交付的软件有一个清晰的构想。世界变了，这是痛苦的，但同时也充满了机会——去改善一个已经彻底腐烂的软件世界。 我只有一个疑问，关于那些经验不够、无法建立心智模型的年轻程序员。我们不知道他们是否需要深入理解一段代码是怎么工作的，但我相信他们应该学怎么写程序。然而，我不确定检查 LLM 输出是不是他们应该做的正确的事。学一门编程语言，实现一个小解释器、一个小数据库、一个哈希表等等——这可能有用得多。审查某个客户网站的 JavaScript？算了吧，别把时间浪费在那上面。 原文： #AIProgramming# #SoftwareEngineering# #antirez#

投机解码的 drafter 从来都是一个 token 一个 token 地猜。做出 DFlash 的推理公司 Inco AI 说这没必要：正确的 token 本来就在候选列表里，整块并行预测之后挑出一条连贯路径，输出不变，每次验证多赚一个完整的 token。 《DFlash 2：保持并行起草》 推理是 agent 时代的瓶颈。agent 会读、会规划、会调用工具，常常一跑就是几小时甚至几天。它们消耗 token 的速度，是聊天场景从未达到过的。而每一个 token 都要在模型上跑一次完整的前向传播。在 Inco AI，我们在构建一套面向未来 token 经济学的推理栈。这篇文章是一次预览。 我们的团队 1 月发布了 DFlash（论文： SGLang、vLLM、TensorRT-LLM 和 llama.cpp 里。NVIDIA 在 Blackwell GPU 上用它测到了最高 15 倍的吞吐；Google 报告在 TPU 上每秒 token 数提升 3 倍；CoreWeave 生产环境的 Kimi K2.7 Code 端点（Artificial Analysis 上该模型最快的端点）默认就跑 DFlash。生态已经在它之上构建：NVIDIA、Red Hat、Modal 都发布了 DFlash drafter；Meta（Muse Glimmer）、Poolside（Laguna）、小米（MiMo-V2.5-Pro）、NVIDIA（Nemotron 3.5 Lightning）随自家模型发布官方 drafter。在 Hugging Face 上，DFlash 模型被下载了超过 350 万次（截至 2026 年 8 月）。 投机解码是现代推理栈的核心组件之一。一个小 drafter 模型猜出一整块 token，目标模型在一次前向传播里验证整块。猜得好，一次前向变成多个 token；猜得差，丢掉重来。但多年来，起草本身一直是自回归的：一次一个 token。DFlash 让它也变成了一次通过：整块、每个位置，并行预测。 （演示视频：DFlash 2 在 Apple M5 Max 上用 oMLX 为 Qwen3.8-27B 起草，与自回归解码并排对比。 DFlash 2 把并行起草又往前推了一步：每次验证通过多产出 20% 以上的输出，增加的周期延迟只有约 1%，而输出可证明不变。跨基准测试的增益在 16–25%。配合今天发布的 Qwen3.8-27B drafter，SGLang 在 batch size 1 下达到自回归解码 2.7–3.4 倍的吞吐。每个位置独立预测，留下两处空间：选对 token，以及在块的末尾守住准确率。DFlash 2 把这两处都拿了回来，同时没有放弃一次性通过的设计。 现在就能跑 DFlash 2 已经跑在主流推理引擎里。 SGLang： pip install -U "sglang[all] @ git+" python -m sglang.launch_server \ --model-path Qwen/Qwen3.8-27B \ --speculative-algorithm DFLASH \ --speculative-draft-model-path incoai/Qwen3.8-27B-DFlash2 \ --speculative-num-draft-tokens 8 vLLM： pip install -U "vllm @ git+" vllm serve Qwen/Qwen3.8-27B \ --speculative-config '{ "method": "dflash", "model": "incoai/Qwen3.8-27B-DFlash2", "num_speculative_tokens": 7 }' llama.cpp： git clone cd llama.cpp git fetch origin pull/27342/head:pr-27342 git switch pr-27342 NVIDIA CUDA cmake -B build -DCMAKE_BUILD_TYPE=Release -DGGML_CUDA=ON cmake --build build -j Apple Silicon cmake -B build -DCMAKE_BUILD_TYPE=Release -DGGML_METAL=ON cmake --build build -j ./build/bin/llama-server \ -hf ggml-org/Qwen3.8-27B-GGUF:Q4_K_M \ -hfd incoai/Qwen3.8-27B-DFlash2-GGUF:Q4_K_M \ --spec-type draft-dflash \ --spec-draft-n-max 7 oMLX：下载安装支持 DFlash 2 的预构建版（ 在 oMLX 里跑 Qwen3.8-27B 加 DFlash 2： 1. 打开 oMLX 的 Model Downloader，下载 mlx-community/Qwen3.8-27B-4bit 和 incoai/Qwen3.8-27B-DFlash2。 2. 打开 Model Manager，编辑 mlx-community/Qwen3.8-27B-4bit，配置 DFlash： • DFlash：enabled • Draft model：incoai/Qwen3.8-27B-DFlash2 • Draft quantization：enabled • Runtime block size：5 • Verify mode：dflash 3. 保存设置，加载目标模型。 对的 token 早就在候选里 DFlash 每个位置独立、并行地预测。每个选择单独看都合理，但没有什么让它们彼此咬合，一个不连贯的块会在验证时被截断。近期的方法如 Domino 和 DSpark，用顺序的 Markov head 重写每个位置的完整词表分布来买连贯性。但真的需要这种昂贵的自回归纠错吗？ 不需要。证据就在 DFlash 自己的候选列表里。拿第一个位置来说：DFlash 的第一选择 85.4% 的情况下是对的，但正确的 token 99.5% 的情况下都在前 16 个候选里。即使第一选择错了，对的 token 通常也在列表上。 表 1：Recall@1（第一选择正确的概率）与 Recall@16（正确 token 出现在前 16 候选里的概率），按起草位置统计，条件是前面每个位置都正确。GSM8K 上的五层 Qwen3-4B DFlash。接受长度包含验证器产出的下一个 token。 • 位置 0：Recall@1 85.4%，Recall@16 99.5% • 位置 1：80.3%，97.3% • 位置 2：79.4%，94.8% • 位置 3：78.3%，92.6% • 位置 4：77.5%，90.8% • 位置 5：75.9%，89.4% • 位置 6：72.9%，87.8% • 接受长度：4.27（只看第一选择）；6.79（从前 16 里选） 一个总能从前 16 个候选里挑对的那个 oracle，会把接受长度从 4.27 抬到 6.79。这个差距是纯粹的选择空间。我们只需要在候选里选出一条正确的路径。 图 1：一个周期里的选择器。只用 DFlash，每个位置保留自己的第一选择；这里两个相邻位置选了同一个词，结巴在验证时死掉。DFlash 2 保留每个位置的 top 候选，选择器在候选之间走出一条连贯路径；这里整块都活了下来。 一个轻量的路径选择器 连贯性大体是局部的：一个候选合不合适，主要取决于它前面的那个 token，所以给相邻对打分应该就够了。DFlash 2 保留每个位置前 16 个候选，给每一对相邻候选打分。对前一个 token a 和当前候选 b： S_t(a,b) = U_t(b) + ⟨A(a)⊙H(h_t), B(b)⟩ 分数分两部分。第一部分 U_t(b) 是 DFlash 自己的 logit：drafter 本身有多喜欢 b。第二部分问 b 接在 a 后面有多顺：A 和 B 给每个 token 一个紧凑的 256 维嵌入，两个嵌入在一个上下文门控 H(h_t) 下匹配，门控决定匹配的哪些部分算数。本质上，这是对相邻候选做的低秩双线性注意力。 打分全程并行。每个位置的每一对相邻候选一次性全部算完，不需要额外的 backbone 或 LM head 前向。唯一串行的部分，是最后在预计算好的分数上走一遍：从最后一个已验证 token 出发，贪心地跟着每一步最好的后继走，采样从同样的分数里抽取，拒绝采样恢复出精确的目标分布。 表 2：只加路径选择（不加卷积）的接受长度，GSM8K 上的五层 Qwen3-4B。开销相对纯 DFlash：drafter 增加的参数、起草-验证周期增加的延迟。 • DFlash：T=0 下 4.27，T=1 下 3.78 • + DSpark 纠错：+77.8M 参数，+9.6% 延迟；4.49，4.08 • + 路径选择（我们的）：+2.0M 参数，+0.6% 延迟；4.61，4.25 选择器在 T=0 下给 DFlash 加 0.34 个 token，T=1 下加 0.47。两个设置下都超过 DSpark 的纠错，参数少约 40 倍，延迟开销低 16 倍。选择比预测便宜。而且还有空间：oracle 能到 6.79。成对打分是我们能想到的最简单的选择器，我们相信这里还有很多可探索的。 后缀衰减是个局部问题 我们还注意到上面两行 recall 都在块尾下滑。连 oracle 都在衰减：即使选择完美，准确率仍然从第一个位置的 99.5% 掉到最后一个位置的 87.8%。没有选择器能修这个，因为候选自己就不够了。我们把这个叫后缀衰减，它是 backbone 的问题。 一个嫌疑是容量：五层 backbone 可能太小，撑不住横跨整块的依赖。如果真是这样，深度应该在靠后的位置帮上最多的忙。事实也如此：3 层、5 层、15 层的 DFlash 模型在第一个位置上几乎一样，越往块尾分得越开。但深度不加区分：多十层 attention block 到处加容量，连那些没什么可赚的靠前位置也加，把 DFlash 吸引人的那部分效率磨掉了。 图 2：GSM8K 上 Qwen3-4B 的 Recall@1（T=0），条件是前面每个位置都正确。所有 drafter 在相同设置下训练；卷积模型评估时不带选择器。它的卷积增加 3% 参数和 0.7% 周期延迟；15 层模型多出的十层增加 15.2%。 我们要一个有针对性的修法，而 DFlash 的 attention 指出了修哪里。它有两份工作：读块之前的上下文，以及建模块内部的依赖。但它在第二份上花的越来越少：块内注意力占比从第 1 层的 30% 掉到第 5 层的 8%，剩下的还集中在越来越少的一小撮 head 里。所以我们把两份工作拆开：一个专用模块承担块内工作，attention 继续读上下文。 图 3：五层 Qwen3-4B DFlash 的块内注意力按 head 分布。越亮的格子代表在起草块上花注意力越多的 head；靠后的层里，块内质量收缩、集中到少数几个 head。 一个轻量的局部卷积 块内工作本来就是短程的：一个块只有 4 到 16 个 token，最紧的依赖坐在相邻位置之间。自然的算子是短卷积：两个抽头，一个在当前位置，一个够到前一个位置，权重随内容自适应。跟随 Canon Layers、Dynamic Short Convolutions 和 Convolution for Large Language Models 的做法，我们在每个 attention 和 feed-forward 子层前后插入这个双抽头动态深度卷积： Conv_k(x)_t = k_{t,0}⊙x_t + k_{t,1}⊙x_{t-1} 每个系数由一个可学习的基核加上从当前隐藏状态算出的一个小修正组成；每 16 个通道共享一个修正。第一个位置读最后一个已验证 token 的表示，之后的每个位置读它前一个的。信息穿过整块，同时所有位置仍然并行计算。 图 4：双抽头动态卷积。每个 drafter 层的每个 attention 和 MLP 子层前后各有一个。内部：每个位置把自己的表示和前一个的混合；第一个位置读最后一个已验证 token。 卷积是块局部的、无状态的，所以能无缝插进 DFlash，不用动 attention、LM head 或验证。 只加 16.5M 参数（3%），带卷积的五层 DFlash 就逼近了 15 层 DFlash，大幅减轻后缀衰减。卷积给起草-验证周期延迟加 0.7%；多十层 Transformer 层加 15.2%。第 4、5 层的平均块内注意力从 9.4% 降到 0.5%，与卷积吸收局部工作、attention 回到读上下文一致。一个只够到前一个位置的核，买回了十层额外层的大部分收益：后缀衰减大体是个局部问题。 合在一起 到目前为止，选择器和卷积是分开测的；下面的完整对比把它们放在一起。DFlash 和 DSpark drafter 是我们在对齐的设置下自己训练的，MTP 随模型发布。 表 3：Qwen3.5-4B 每请求平均接受长度。采样：thinking 开启，温度 1.0，top-p 0.95，top-k 20，presence penalty 1.5，无损拒绝采样。 • GSM8K：MTP 4.78，DFlash 4.99，DSpark 5.69，DFlash 2 6.20 • MATH-500：5.04，5.42，6.20，6.76 • HumanEval：4.84，5.43，5.80，6.28 • MBPP：4.16，4.49，4.96，5.41 • MT-Bench：3.90，4.26，4.77，5.20 • 平均：4.54，4.92，5.49，5.97 DFlash 2 在每项基准上都领先。平均下来，它比 DFlash 多 1.05 个 token（21%），比 DSpark 多 0.48。升级仍然便宜：选择器和卷积加起来，只给五层 DFlash 的起草-验证周期延迟加了 1.3%。 在 MATH-500 上，增益逐位置可见：DFlash 2 到最后一个位置都稳在 86% 附近，而每个基线在块尾都比它低 6 到 9 个点。 图 5：MATH-500 上 Qwen3.5-4B 的条件接受率，采样同上。 两个 drafter，今天发布 我们今天发布两个 DFlash 2 drafter：一个给 Qwen3.8-27B（ Meta 的 Muse Glimmer（ Qwen3.8-27B，我们对比模型原生的 MTP 路径和一个社区 DSpark drafter。 表 4：Qwen3.8-27B 每请求平均接受长度，模型默认采样、块大小 8，对比原生 MTP 路径和社区 DSpark drafter。 • GSM8K：MTP 5.02，DSpark 4.36，DFlash 2 5.46 • MATH-500：4.72，3.92，5.28 • HumanEval：3.91，3.30，4.39 • MBPP：3.99，3.51，4.79 • MT-Bench：3.74，3.01，4.10 • 平均：4.28，3.62，4.80 对 Meta 的 Muse Glimmer，我们对比随模型发布的官方 DFlash drafter 和一个社区 DSpark drafter。 表 5：Muse Glimmer 每请求平均接受长度，模型默认采样、块大小 16。DFlash 是 Meta 随模型发布的官方 drafter；DSpark 是社区 drafter。 • GSM8K：DFlash 5.43，DSpark 5.45，DFlash 2 6.57 • MATH-500：5.39，5.01，6.56 • HumanEval：4.11，4.33，5.66 • MBPP：3.74，4.02，5.30 • MT-Bench：3.52，3.59，4.42 • 平均：4.44，4.48，5.70 差距很大：在两个模型上，DFlash 2 平均比 DSpark 多出超过一个完整的 token。它也超过每个模型的官方 drafter：Qwen3.8-27B 的 MTP、Muse Glimmer 的 DFlash。换算成吞吐，Qwen3.8-27B 上达到自回归解码的 2.7–3.4 倍，Muse Glimmer 上 3.1–4.6 倍。模型卡（ 底线 agent 一个下午写出来的东西，聊天机器人要写一个月，而每一个 token 底下都坐着解码。DFlash 2 以接近自回归解码 3 倍的速度解码，每个 token 约三分之一的算力，输出相同。 七个月里，DFlash 从我们的论文变成了行业标准，超过 350 万次下载。在同一个设计内部，DFlash 2 每次通过多解码一个完整的 token，免费。那还只是服务栈的一个组件。推理离它的地板还很远。 在 Inco AI，我们在构建一套端到端的服务栈，把这个地板继续往下压。DFlash 2 是第一块。两个 drafter 今天发布在 Hugging Face。 如果你在规模化地服务 agent，想在你的栈里评估 DFlash 2，或者想为你跑的模型（包括你自己的微调）要一个 drafter，写信给我们：contact@inco.ai。 我们也在招人。如果你想一起构建这套栈，联系我们。 把候选连起来。起草，继续并行。 脚注：Modal 的 Speculation Is All You Need 指出，投机解码是对低延迟服务最重要的优化。我们是他们工作的超级粉丝，感谢他们自 DFlash 发布以来的支持和讨论。 本文引用格式：@misc{inco2026dflash2, title={DFlash 2: Keep Drafting Parallel}, year={2026}, month={August}, url={ 原文： #DFlash# #投机解码# #LLM推理#

一天迁移 5000 万行 Ruby 代码，抵一个团队两个多月。这是 Anthropic 新旗舰 Claude Fable 5 干的。又慢又贵，但能啃硬骨头。它从今天起免费 13 天（6/10–6/22）。下面这些看完再上手，别浪费窗口。 1/ 它是什么：Fable 5 就是 Mythos 5 加了一道更严的安全护栏，底层性能一样。100 万 token 上下文，单次输出 128K，知识截止 2026 年 1 月，模型串 claude-fable-5。现在对所有人开放的最强公开旗舰，不过还是 preview。 2/ 跑分：SWE-Bench Pro 80.3%。Opus 4.8 才 69.2%，GPT 5.5 是 58.6%，Gemini 3.1 Pro 54.2%。三篇实测都印证同一条规律：任务越长越复杂，它领先越多。主场是大活，不是改一行代码。 3/ 真实战绩，是生产不是 demo。Stripe 一天跑完 5000 万行全库迁移。Datasette Agent 做完既定目标，还顺手发现并修掉了底层 LLM 库的 4 个 bug。@Mnilax 揪出 Opus 数月没看见的 bug，某钱包解析器 9 个，另一项目 4 个。都是得把整个文件握在工作记忆里才看得见的那种。 4/ 视觉这块被低估了。它能只凭截图重建一个 Web 应用的源码。能用纯像素 harness 从头通关《宝可梦 火红》，没有地图，也没有状态解析。《杀戮尖塔》记忆实验里比 Opus 4.8 多进步 3 倍。截图转代码、图表转数字，这部分值回票价。 5/ 价格：输入 $10、输出 $50 每百万 token，正好是 Opus 的 2 倍。Simon 实测一天烧了 $110.42，其中 89.9% 砸在一个 Agent 项目上。重活吃掉绝大部分预算，这才是它该干的事。喂它琐事，只会烧光额度还零结果。 6/ 用法变了，这条最重要。旧的「逐个喂小活、全程握方向盘」会把它锚在过时模式上。官方四条建议：直接交超出旧模型边界的大活；effort 默认拉 xhigh 或 high；重写旧 skill 和 CLAUDE.md；从「派任务」转向「给目标」，说清楚完成长什么样、怎么验证。 7/ 核心方法论：别再逐字 prompt，给它两类循环。一句话配方是「给模型一个评估指标，让它爬坡」。一类是自纠错内循环，给 rubric，让它跑、收反馈、自我修正。一类是跨 session 记忆外循环，让它自己管上下文。Claude Code 里对应 /goal，CMA 的 Outcomes 会自动 spawn 一个 grader 子智能体打分。 8/ 一个反直觉的点：别让模型自评自己的输出，效果差。换成独立上下文窗口里的 verifier 子智能体来打分。 9/ 记忆的五步：fail 记录错误，investigate 搞清原因，verify 变成已验证事实，distill 提炼规则，consult 直接查规则而不是重推。三代模型恰好卡在不同台阶。Sonnet 4.6 停在第 1 步。Opus 4.7 停在第 3 步，验证覆盖率中位只有 17% 左右。Fable 5 走完全程，最强一次到 73%。 10/ 最硬的一个数：Parameter Golf 挑战里，Fable 5 对训练 pipeline 的改进大约是 Opus 4.7 的 6 倍。行为差异也值得说。它敢押注结构性大改，扛过一次量化回退，最后冲到最大收益，作者说它像敢走高方差路径的研究者。Opus 4.7 拿到首胜后就只重复低方差的老套路。 11/ 一定要懂的护栏机制，叫静默回退。命中网络安全、生物化学、蒸馏这三类，请求会被悄悄回退给较弱的 Opus 4.8。大约 5% 触发，95% 以上的会话从不碰到。API 新增了「命中护栏」通知，把它当路由信息看就行：被标记的活，其实是 Opus 在答。也要留意误报，某个 benchmark 70% 的提示被 flag，Rust 里的 unsafe {}、公开生物数据都可能误触。 12/ 该用还是别用。该用：跨文件重构、全库迁移、长上下文审计、截图重建源码，以及需要跨 session 记忆复利的连续任务。配置上 effort 拉 xhigh，开持久记忆，给它目标加 rubric 让它自驱。别用：改一行、总结邮件这种短确定性活，Opus 或 Sonnet 更便宜；上面三类被标记的活；还有对延迟和成本敏感的交互场景。 13/ 现在就做一件事：13 天里，把你最值钱、最高 effort、一直不敢交出去的大活先排进来。再送你一条能直接套的审代码 prompt：「以从未见过这套代码的资深工程师视角审查整库，别加功能别为品味重构，只找真正的错误：竞态、吞掉的异常、掩盖失败的类型强转、死配置、只在 happy path 成立的假设。每条给出文件行号、原因、影响范围和最小安全修复。」 你打算拿这 13 天先啃哪块硬活？

推荐系统也开始换代了。 快手在推荐系统这块的技术确实做得扎实。 周六下午我去现场听了一下午他们的分享，几个议题里，最让我感兴趣的还是推荐相关的技术。 前两天我写过一篇文章。起因是在朋友圈看到有人转了快手 OneReason 的文章，我就点进去看了一下，发现快手已经在逐步把推理的能力引入推荐系统。 熟悉大模型发展的话会知道，这几年大模型经历了三个关键节点：Scaling、Reasoning、Agent。 而推荐系统，现在居然也开始走到推理这一步了。 文章发出来之后，我发现自己和评论区很多人有一样的困惑，集中在三个问题上： 第一，为什么一定要上推理？ 第二，推荐系统的推理具体怎么做？ 第三，推理的成本不低，这事在线上能划得来吗？ 我其实也是带着这三个问题去的现场。听完分享，今天把我的想法梳理一下。不一定对。 我十多年前在工作中做过推荐系统，这些年断断续续也在跟进这个领域的进展。 特别是大模型这一波浪潮来了之后，跟不少朋友聊过 LLM 和推荐系统结合的可能性，都觉得这事很有意思。 如果推荐系统也逐步过渡到 LLM 的技术栈上，互联网的基础设施这一层，还会有比较大的变化。 1 先说第一个问题：为什么一定要和大模型结合，为什么要做推理？有人觉得是不是在追技术的时髦。推荐系统好好的，为什么非得跟大模型挂钩？ 我自己是这么理解的。 传统推荐系统正在接近既有架构的天花板，而 LLM 为推荐系统提供了一条新的演进路径。 推荐本身也是 AI，是 AI 最早的应用场景之一。如果推荐系统无法融合最新的 LLM 技术栈，从技术发展的角度来说，推荐系统就会断代。 那为什么还要做推理？去年快手做了 OneRec，已经证明了 Scaling Law 在推荐系统中的有效性。 既然可以端到端生成，已经跟上了技术栈，为什么还需要推理？ 我想起刚毕业的时候做推荐系统，当时 Leader 讲过，推荐系统的核心，抽象来讲，就是在做两件事： 一类是基于用户的协同过滤，推荐系统根据用户的自然属性（年龄、性别、学历等信息）和浏览兴趣来计算用户相似度，进而给相似用户推荐内容。 第二类是基于内容的协同过滤。推荐系统提取内容的特征，然后计算不同内容之间的相似性之后，给用户推荐与过去喜欢内容相似的内容。 说白了，无论哪一种，其实都是基于相关性的匹配。推荐系统能够捕捉用户行为模式，但它并不会显式地推理用户为什么会产生这些行为。 这种逻辑的局限很明显。 举个例子。一个用户最近看了杜甫的诗词、李白的生平，还刷了几条安史之乱的纪录片。 系统会把这些行为编码成向量，然后去内容池里找向量距离最近的内容推过来。 它并不知道什么叫唐代文化，只知道看过这几条内容的人，大概率也会看另外那几条。 结果就是，更多唐诗、更多唐朝纪录片，推来推去都是同一类内容。 经常刷着刷着就会发现，怎么推的全是差不多的内容。这就是纯粹基于相关性匹配的局限。 但如果系统能往前想一步呢？这个人看杜甫、看安史之乱，背后的兴趣也许不只是唐代文化，而是乱世里个体的命运。 想到这一层，推荐的范围就打开了，不会只困在唐诗和唐朝纪录片的圈子里，能给用户带来更好的内容体验。 这就是溯因的价值。它把推荐系统从记住用户过去喜欢什么，推进到理解用户为什么喜欢。 只有理解了为什么，系统才可能预测出用户还没有表现出来、但可能存在的兴趣。 这是我觉得推荐系统引入推理最重要的一点。 2 理解了为什么要做推理之后，第二个问题就来了。推荐系统里的推理，到底怎么做？ 说实话，这也是我去之前最好奇的地方。 我一开始的想法挺简单。既然大模型已经把推理这条路走通了，那推荐系统是不是直接把这套能力搬过来就行？ 后来听完分享，发现完全不是这么回事。因为推荐系统面对的问题，和大模型平时解决的问题不一样。 比如问大模型：李白和杜甫的诗歌风格有什么区别？模型会调用历史知识、文学知识、时代背景，组织出一个解释。这当然也是推理，但它推理的对象是世界知识。 而推荐系统推理的对象是用户。它需要回答的问题是，这个兴趣为什么会产生？未来哪些兴趣会增强，哪些会减弱？用户下一阶段可能会对什么产生兴趣？ 所以快手在现场一直在讨论一个核心问题：推荐系统里的 CoT，到底应该长什么样？ 他们给出的答案挺有意思。把整个推理过程拆成了四步： 第一步，总结用户的历史兴趣。 第二步，推测兴趣背后的原因。 第三步，推测影响未来兴趣变化的因素。 第四步，推荐相关内容。 还是用杜甫那个例子来感受一下这个过程。 系统看到用户最近看了杜甫、安史之乱、李白，先做归纳，这个人对唐代文人和那个时期的历史有持续关注。 然后开始溯因：为什么关注？用户是主动搜索、反复观看、停留时间很长，背后可能的原因是对乱世中个体命运这个主题有深层兴趣。 基于这个理解再往前推演，如果关注的是乱世中的个体命运，那兴趣不会局限在唐代，宋代的苏轼、南宋的陆游，甚至近现代的故事，都可能命中同一个深层兴趣。到这一步，系统才去推荐内容。 整个过程是一条完整的思考链：归纳兴趣，溯因理解，演绎发散，最后推荐。 对比一下传统推荐系统做的事。它同样会从用户行为里提取兴趣特征，也会建立用户画像。 但这些过程更多是隐式完成的。系统知道用户喜欢什么，却很难解释用户为什么喜欢，也很少进一步推演兴趣未来会如何变化。 这也就解释了为什么传统推荐总是千篇一律。它没有理解，只有匹配。 匹配只能找到相似的东西，理解才能找到相关但不相似的内容。 3 第三个问题：推理的成本这么高，线上能划得来吗？ 大模型的推理很贵，而线上推荐要求实时更新。如果每次推荐都让大模型完整思考一遍，成本和延迟肯定都没办法接受。 他们现在的解法叫 Fast-Slow Thinking。名字听起来有点像人脑的快慢系统，实际上思路也确实差不多。 Slow Thinking 负责深度思考。它会周期性地分析用户过去一段时间的行为，把用户兴趣、兴趣背后的原因、未来兴趣可能的变化方向提前算出来，存下来。 这个过程可以慢，不要求毫秒级返回，甚至一天更新一次都可以。相当于提前把用户研究了一遍。 Fast Thinking 负责实时响应。用户打开 App 的时候，在线推荐系统不会重新走一遍完整的推理流程，只读取提前算出来的结果，再结合最新的行为快速完成推荐。 这样一来，真正昂贵的推理过程被放到了离线阶段，线上看到的仍然是一个高速推荐系统。 我觉得这个思路挺有代表性的。很多人聊 Agent、聊推理的时候，容易有一种错觉，好像未来所有事情都要实时推理。 但工业系统通常不这么做。工业系统更习惯把复杂计算提前做完，把实时链路尽可能做轻。 OneReason 的 Fast-Slow Thinking 本质上也是这个思路。慢链路负责理解用户，快链路负责服务用户。 现场公布的数据里，他们已经把这套方案用在了本地生活广告场景，收入提升超过 8%。 这一点其实挺让我意外的。原来以为 OneReason 更偏研究性质，没想到已经开始在真实业务里创造价值了。 不过这套方案也不是终点。 为了控制成本，OneReason 目前更多承担的是 Slow Thinking 的角色。 它会基于用户历史行为，离线生成对用户兴趣的理解，再把这些结果交给在线推荐系统使用。 这种方式解决了推理成本的问题，但实时性仍然会受到影响。 举个简单的例子。如果系统昨天分析认为我最近在关注杜甫和唐朝历史，但今天的兴趣突然转向了游戏，那么离线生成的用户画像就有可能滞后一段时间。 所以从工程角度看，这其实是在成本和实时性之间做平衡。 但可以确定，随着未来推理成本继续下降，推荐系统里的推理能力可能会越来越靠近实时链路。 到那个时候，推理或许会像今天的排序模型一样，逐渐成为推荐系统的基础能力。 不过至少从目前来看，快手给出的答案还是比较务实的。先让大模型负责它最擅长的部分，理解用户，然后把理解的结果交给传统推荐系统去执行。 这可能也是生成式推荐的推理能力从论文走向工业落地的一条现实路径。毕竟，这事也才刚刚开始。 更有意思的是，活动现场快手这次还发起了一个 LLM-Rec 挑战赛，官方直接开放了 OneReason-0.8B-pretrain、SFT 数据以及脱敏后的 50 万条用户行为数据。 这个活动面向的是全日制在校学生，所以我看到之后第一时间就转给了家里还在上学的亲戚。 还有在现场的时候，我原本以为来参加活动的大部分都是已经参加工作的工程师。 结果到了提问环节才发现，现场有很多北京高校的研究生和博士。 而且说实话，提问质量非常高。所以我觉得这样大赛确实很有意义，因为学生可以花大量时间去研究最新技术，可以去尝试各种天马行空的想法。 毕竟像推荐系统和 LLM 的结合，本身就是一个非常新的方向，行业里其实也没有标准答案。很多问题都还在探索阶段。 而且奖金也不低，前 20 名还能直接进入快手算法的中面。具体大家去看链接。反正看了我都很心动。 写到这里，这篇文章也就结束了。那天参加完沙龙，在回家的路上，我直接把整篇文章的语音底稿录完了。 今天下午又抽了一个多小时，把它逐段润色、修改、成稿，基本算是一气呵成。 写着写着，突然想起十多年前我刚毕业，作为一个新手工程师，和团队一起构建推荐系统时的场景。 顺手翻了一下朋友圈，看了一下当时 Leader 的状态，他已经转行做其他的事情去了。 好多事就飘散在了回忆里。 有点感慨。因为我关于推荐系统最早的那些知识，几乎都是他教给我的。 十多年前，我们讨论的是召回、排序、特征工程和 CTR。今天大家讨论的是 Scaling Law、Reasoning，以及 Agent。 很明显，推荐系统又走到了一个新的时间节点。一代又一代啊。

在推特做ai博主和小红书做ai博主有什么不一样 小红书做ai博主其实非常非常简单 每天就发发： 什么是mcp 什么是skill 什么是agent 什么是harness工程 什么是loop工程 什么是RAG 什么是llm 发30天少说一万粉丝 在推特，你得把这些用ai写成文章…..