#音频已删请放心观看# ChatGPT 实现微软在 Windows 11 中重点推荐的 Recall 回顾功能，ChatGPT for Mac 推出名为计算机历史的新功能。 该功能会记录用户的点击、输入、应用程序打开 / 切换等，信标事件会被记录并上传服务器生成 AI 时间线和记忆。 用户可以使用该功能快速回溯内容，例如生成当日工作总结、查找最近打开的文档、将重复工作转换为技能或自动化流程等。 查看全文：

特斯拉 Optimus 最新进展，Fremont 工厂原 S/X 产线改造后，产量从二季度的周产几十台，冲到 8 月的每周数百台（翻了约 10 倍）。年底目标冲刺周产 1000+，远期口号是 2 万台（特斯拉官方未证实）。周1000台跟中国供应链传出的消息一致，年底周目标是周2000台。 目前下线的是 V3 试点版而非最终商业版，绝大部分留在内部测试。商业化模式类似早期 FSD，先内部用、再出租给仓库/工厂，靠部署数据反哺软件。真正对外推出预计要等到 2027 年中至年底。出租而不卖帮助特斯拉在落地前期省去了很多产品recall，修复维保（直接替换即可）以及一些产品不成熟可能造成的法律纠纷。 目前的几个卡点依然很突出，手部和前臂 100 多个零件仍依赖手工装配；产线拉快后夹具对不齐，返修率剧增；触觉传感器极不稳定，现改做可更换的“传感手套”。 不少供应商（含中国供应商）样品达标，但到了工业化批量供货，一致性和质量跟不上。所以这次江浙沪审厂就很make sense了，特斯拉一贯有帮助供应商优化改善制造流程和工艺的传统。就像Terafab是跟三星一起项目攻关一样。 AI 泛化与数据采集阻力，对陌生场景适应差，学个基础任务要耗时几天。工厂工人因抵制“教机器人抢自己饭碗”，特斯拉只能改为雇专职采集员并在多地建数据采集点。你想你是产新工人，让你带着摄像头和数据采集设备干活知道未来训练好了大概率你就失业了，你会咋想？😂 人形机器人的制造逻辑与汽车截然不同，它不仅是汽车级的供应链整合，更是微型精密机械与具身 AI 的极限考验。Optimus 硬件放量虽然神速，但“手部复杂装配”和“泛化算法瓶颈”这俩硬骨头一天不啃下来，机器人就一天无法走出特斯拉的自家车间去创造商业价值。这也再次印证了：具身智能从来不是单纯的硬件工程，它是一场供应链、制造精度与 AI 算法深度咬合的长跑。

国内部分Ai应用股还是依靠Ai模型降价盈利（这是一家的叙事；当然本人还并不看好）： AI短剧+AI硬件+AI音乐+算力芯片 行业原因： 1、当地时间7月30日，OpenAI下调GPT-5.6部分模型价格，其中，GPT-5.6 Luna模型价格下调80%，GPT-5.6 Terra模型价格下调20%。 2、据国元国际7月22日研报，国内AI商业化进程加速，月之暗面发布2.8万亿参数开源模型Kimi K3，7月15日网信办发布7款手机端侧生成式AI服务备案信息，应用端价值有望重估。 公司原因： 1、据2026年5月6日投资者关系活动记录表，公司短剧和AI短剧平台截至2026年3月底单月流水超4800万美元，ARR超5.7亿美元，预计2026年全年收入保持高速增长。 2、据集团7月31日官微，Skywork Note正式上线七天，首批海外库存全部售罄。Skywork智能AI挂件Recall与AI戒指TriRing将于近期陆续上线。 3、据2026年7月28日互动易，公司围绕人工智能全产业链布局，以视频模型、音乐音频模型等四大SOTA级人工智能模型为技术底座，支撑AI短剧、AI音乐、AI游戏三大AI Native平台经济体。 4、据2026年7月28日互动易，公司旗下艾捷科芯AI算力芯片业务进展顺利；据2026年5月11日业绩说明会，2026年4月艾捷科芯完成新一轮增资扩股，融资总规模达5.5亿元，投后估值突破40亿元。

微软最怕的 GitHub 项目，54K stars，只干一件事 把 Windows 11 变回一台正常的电脑 开始菜单搜本地文件，跳出来 Bing 网页 右键菜单藏在一层"显示更多选项"后面 任务栏塞满小组件、Copilot、搜索框，关都关不掉 OneDrive 开机弹窗提醒你备份，比闹钟准时 这个脚本一条命令干翻全部： & ([scriptblock]::Create((irm ""))) ▸ 批量卸载预装应用和推广软件 ▸ 关闭遥测、广告ID、诊断数据回传 ▸ 移除 Copilot、Recall、Click to Do ▸ 禁用 Bing 搜索结果和 Edge AI ▸ 恢复 Windows 10 经典右键菜单 ▸ 一键开启 Sandbox 和 WSL MIT 开源，免费用，所有操作可回滚 微软花了十年把 Windows 塞成广告牌 这脚本一条命令把它变回操作系统

Hermes官方认可的外置大脑（负责记忆的），POLO不允许你们还不知道。 每天跟 Hermes 跑长任务的人最需要这个。你调过的参数、让它分析过的文件、当时你坚持的输出格式，下次重开一个新对话，这些东西不用再重复一遍。开箱即用，配一行 API 就能挂上。 它能把 Hermes 的对话记忆、用户偏好、引用过的资源、做过的 skill 全部塞到一个文件系统里。 设计上解决 RAG 五个老毛病：上下文碎片化、长期任务 token 爆仓、扁平检索召回差、检索过程不可调试、memory 只会堆聊天记录不会迭代。 和 Hermes 集成是 first-class，不用装插件。Hermes 官方文档明说 "viking_remember、viking_recall" 这些工具会自动可用。配完 `hermes memory setup` 选 openviking 就行。官方给的实测数据是把 Claude Code、Hermes、OpenClaw 拉到 80%+ 任务完成率，输入 token 砍 63%。

1/ 翻到一个刚开源的 agent 项目 Zleap-Agent，专为本地小模型设计，思路挺有意思。 出发点：本地小模型笨、上下文又小。你要是像用 cc、codex 那样，把系统提示词、工具、记忆、十几轮历史再加个长文档全丢给它，模型基本就被干烧了。。。 2/ 所以他们的想法是：大模型在做的稀疏注意力、长上下文压缩，本质就是别让模型每一步都看所有东西。那这套思路，干脆挪到 harness 层来做，更直接。 3/ 设计有点像电脑桌面。agent 一进去是个主空间，但这个空间纯调度，不配任何工具，只有四个控制能力 dispatch、recall、deliver、task_detail，唯一能干的就是“进到别的 workspace”。 (顺便，workspace 不是子 agent。子 agent 用完即弃，workspace 是常驻的，有记忆有上下文，相当于把我们手写进 md 文件的那部分固化在这儿。) 4/ 跟 Claude Code 最大的区别是做减法的时机。CC 默认模型够强，厚上下文、复杂工具链全给它，装不下了再用 compaction 事后压。Zleap 是事前做减法，东西没进模型就按 workspace 切干净了，对模型能力的要求天生就低。 5/ 想搓本地 agent 的可以试试 Mac 跑本地 7B、14B，套上这层 harness，很多活就能跑起来，也不用什么都丢给云端按 token 付费。 企业多人共享我感觉用处更大：不同部门进不同 workspace，权限、记忆隔离、操作可审计（共用一个 Agent，但不共享同一坨上下文）。 6/ 它最值钱的点，是把工具和上下文做了隔离、提出 workspace 这个概念。这套反过来也能用到 cc 那类 harness 上。之前本地模型 + agent 几乎跑不起来，这算补上了一块空白。还是 preview，但思路我挺喜欢🫡

👥 腾讯开源的 teamai-cli，能让一整个团队的 AI 编程配置只维护一份，谁的 Claude Code、Cursor、Codex 都同步到同一套技能和规则上。 GitHub 上 2.7K star，覆盖面挺狠：agent 侧认 Claude Code、Codex、Cursor、CodeBuddy、WorkBuddy、OpenCode 等十来个，Git 侧认 GitHub、GitLab、GitCode、CNB、TGit 和私有 Git 服务。 团队里用 AI 写代码久了都会遇到同一个尴尬：每个人的 CLAUDE.md 各写各的，某个同事调了一星期才调顺的 prompt 只躺在他自己电脑上，新人入职全靠口头交代，MCP 配置更是人人一份还互相不一样。 teamai-cli 的思路是把这些东西当代码管。团队开一个共享的 git 仓库，技能、规则、文档、hooks、MCP、环境变量全放进去，成员拉一次就同步下来，自己攒了好用的再推回去。还在测试阶段的两块也有意思：一块会在你跟 agent 反复磨了半天之后提醒你把这次经验沉淀出来，另一块用 tree-sitter 给代码库建知识图谱，之后 agent 能直接 recall 团队攒下来的东西。 后面这两块官方标的是测试阶段，先当尝鲜功能用。 一个人调好的 prompt，不该只留在一个人的电脑里。 GitHub：

冷知识，RAG 技术的演进路径 ① 2020 — 基础 RAG（解决"知识不在模型里"） 起点是 Lewis 等人的 RAG：DPR 稠密检索 + 向量相似度 + 生成。它第一次让 LLM 能"外接知识库"，缓解幻觉和时效性问题。但这代是"无脑检索"——先把所有文本切成 chunk 做向量索引，查询时取 top-k 就完事。痛点：chunk 彼此孤立、检索粗糙、对复杂问题无力。这正是所有分支要解决的问题。 ② 2022–2023 — 检索精度升级（更准） ColBERTv2：把"单向量"改成 token 级多向量 + MaxSim 延迟交互，匹配更细；残差压缩把存储降 6–10 倍。检索器本身从"粗"变"准"。 Modular RAG：意识到 RAG 不该是固定管道，而是一堆可编排模块（检索/重排/生成），像乐高一样组合。架构开始"模块化"。 ③ 2023–2024 — 反思纠偏 + 结构增强（更准、更懂关系） Self-RAG / CRAG：给系统装"质检员"——Self-RAG 用反思 token 自己决定要不要检索、内容对不对；CRAG 用轻量评估器三路径纠正（正确用/错误重写或联网/模糊混合）。解决了"检索到垃圾也不知道"的问题。 RAPTOR：用递归摘要树组织文档，适合全局性、多跳、总结类问题。 GraphRAG / LightRAG / HippoRAG2：把文本抽成实体–关系知识图谱，用图谱做多跳推理（Microsoft GraphRAG 用 Leiden 社区摘要；HippoRAG 用个性化 PageRank）。这是"结构化知识"路线，但全量图谱构建很贵。 ④ 2024–2025 — 路由与成本优化（更省） Adaptive RAG：按查询复杂度动态路由——简单问题直接 LLM 答、复杂问题才走多步检索。 LazyGraphRAG：把社区摘要延迟到查询时才算，索引成本降到 GraphRAG 的 0.1%。 长上下文路由：2M token 窗口出现后，结论是"不替代 RAG，而是分工"——简单查走 RAG（几分钱），复杂多跳走长上下文，视觉文档走 ColPali。GraphRAG-Bench（ICLR 2026）给出经验法则：图的价值随查询复杂度上升。 ⑤ 2025–2026 — 自主智能体 + 强化学习（更自主） Agentic RAG：让 AI agent 动态决定"用什么工具（向量库/网页/API/SQL）、查几轮、怎么合成"。 Search-R1 / DeepRetrieval / DeepResearcher / MCTS-RAG：用 RL 端到端训练 LLM 学会"何时搜、搜什么"。Search-R1 在 Qwen2.5-7B 上比普通 RAG 提升 41%；DeepRetrieval 直接以检索指标（recall@k、NDCG）为奖励优化查询；MCTS-RAG 把蒙特卡洛树搜索融进推理。这是从"固定流程"走向"会自己找信息的智能体"。

给 LLM Agent 堆越花哨的"记忆"架构，效果不一定越好。一篇新论文实测了 12 个记忆系统，没有通用赢家。 它把 Agent 记忆当成数据库来拆——表示与存储、抽取、检索与路由、维护四个模块，拉来 Mem0、Letta、Zep、Cognee、MemOS、MemTree、A-MEM、LightMem 等 12 个系统，外加 Long Context 和 Embedding RAG 两个基线，跑 5 类负载、11 个数据集。 几个反直觉的点： 1）在数据库操作类任务 DB-Bench 上，裸的 Long Context（48.20 EM）和最朴素的 MemoChat 反而赢过一众精致记忆系统。强记忆看的是它对主导瓶颈的对齐程度，而不是用了多花哨的表示。 2）检索的关键是怎么组织证据供后续重建，而不是把最相关那条排第一。证据拉远时图/层级结构碾压扁平：A-MEM Recall@10 达 85.9，而 Embedding RAG 的 Answer-F1 从 37.1 断崖跌到 7.4。 3）成本由"维护范围"而非"结构本身"决定，局部维护远胜全局重组。LongBench 上 LightMem 稳在 17.3 秒，而做全局协调的 Mem0/MemoChat/MemoryOS/A-MEM 飙到 374~552 秒，20~30 倍延迟差。 4）别急着压缩：保留原文胜过摘要，压一压 Substring-EM 就从 26.0 掉到 10.7；抽取要保上下文（MemOS Fast 25.5 EM vs Fine 2.5）；维护要保守整合，激进的延迟刷新反而把分数拉低。 还有个普遍毛病叫"过去的幻觉"：事实更新后系统照样返回旧值。所以论文标题才会问，我们真的准备好迎接 Agent 原生的记忆系统了吗。

投机解码的 drafter 从来都是一个 token 一个 token 地猜。做出 DFlash 的推理公司 Inco AI 说这没必要：正确的 token 本来就在候选列表里，整块并行预测之后挑出一条连贯路径，输出不变，每次验证多赚一个完整的 token。 《DFlash 2：保持并行起草》 推理是 agent 时代的瓶颈。agent 会读、会规划、会调用工具，常常一跑就是几小时甚至几天。它们消耗 token 的速度，是聊天场景从未达到过的。而每一个 token 都要在模型上跑一次完整的前向传播。在 Inco AI，我们在构建一套面向未来 token 经济学的推理栈。这篇文章是一次预览。 我们的团队 1 月发布了 DFlash（论文： SGLang、vLLM、TensorRT-LLM 和 llama.cpp 里。NVIDIA 在 Blackwell GPU 上用它测到了最高 15 倍的吞吐；Google 报告在 TPU 上每秒 token 数提升 3 倍；CoreWeave 生产环境的 Kimi K2.7 Code 端点（Artificial Analysis 上该模型最快的端点）默认就跑 DFlash。生态已经在它之上构建：NVIDIA、Red Hat、Modal 都发布了 DFlash drafter；Meta（Muse Glimmer）、Poolside（Laguna）、小米（MiMo-V2.5-Pro）、NVIDIA（Nemotron 3.5 Lightning）随自家模型发布官方 drafter。在 Hugging Face 上，DFlash 模型被下载了超过 350 万次（截至 2026 年 8 月）。 投机解码是现代推理栈的核心组件之一。一个小 drafter 模型猜出一整块 token，目标模型在一次前向传播里验证整块。猜得好，一次前向变成多个 token；猜得差，丢掉重来。但多年来，起草本身一直是自回归的：一次一个 token。DFlash 让它也变成了一次通过：整块、每个位置，并行预测。 （演示视频：DFlash 2 在 Apple M5 Max 上用 oMLX 为 Qwen3.8-27B 起草，与自回归解码并排对比。 DFlash 2 把并行起草又往前推了一步：每次验证通过多产出 20% 以上的输出，增加的周期延迟只有约 1%，而输出可证明不变。跨基准测试的增益在 16–25%。配合今天发布的 Qwen3.8-27B drafter，SGLang 在 batch size 1 下达到自回归解码 2.7–3.4 倍的吞吐。每个位置独立预测，留下两处空间：选对 token，以及在块的末尾守住准确率。DFlash 2 把这两处都拿了回来，同时没有放弃一次性通过的设计。 现在就能跑 DFlash 2 已经跑在主流推理引擎里。 SGLang： pip install -U "sglang[all] @ git+" python -m sglang.launch_server \ --model-path Qwen/Qwen3.8-27B \ --speculative-algorithm DFLASH \ --speculative-draft-model-path incoai/Qwen3.8-27B-DFlash2 \ --speculative-num-draft-tokens 8 vLLM： pip install -U "vllm @ git+" vllm serve Qwen/Qwen3.8-27B \ --speculative-config '{ "method": "dflash", "model": "incoai/Qwen3.8-27B-DFlash2", "num_speculative_tokens": 7 }' llama.cpp： git clone cd llama.cpp git fetch origin pull/27342/head:pr-27342 git switch pr-27342 NVIDIA CUDA cmake -B build -DCMAKE_BUILD_TYPE=Release -DGGML_CUDA=ON cmake --build build -j Apple Silicon cmake -B build -DCMAKE_BUILD_TYPE=Release -DGGML_METAL=ON cmake --build build -j ./build/bin/llama-server \ -hf ggml-org/Qwen3.8-27B-GGUF:Q4_K_M \ -hfd incoai/Qwen3.8-27B-DFlash2-GGUF:Q4_K_M \ --spec-type draft-dflash \ --spec-draft-n-max 7 oMLX：下载安装支持 DFlash 2 的预构建版（ 在 oMLX 里跑 Qwen3.8-27B 加 DFlash 2： 1. 打开 oMLX 的 Model Downloader，下载 mlx-community/Qwen3.8-27B-4bit 和 incoai/Qwen3.8-27B-DFlash2。 2. 打开 Model Manager，编辑 mlx-community/Qwen3.8-27B-4bit，配置 DFlash： • DFlash：enabled • Draft model：incoai/Qwen3.8-27B-DFlash2 • Draft quantization：enabled • Runtime block size：5 • Verify mode：dflash 3. 保存设置，加载目标模型。 对的 token 早就在候选里 DFlash 每个位置独立、并行地预测。每个选择单独看都合理，但没有什么让它们彼此咬合，一个不连贯的块会在验证时被截断。近期的方法如 Domino 和 DSpark，用顺序的 Markov head 重写每个位置的完整词表分布来买连贯性。但真的需要这种昂贵的自回归纠错吗？ 不需要。证据就在 DFlash 自己的候选列表里。拿第一个位置来说：DFlash 的第一选择 85.4% 的情况下是对的，但正确的 token 99.5% 的情况下都在前 16 个候选里。即使第一选择错了，对的 token 通常也在列表上。 表 1：Recall@1（第一选择正确的概率）与 Recall@16（正确 token 出现在前 16 候选里的概率），按起草位置统计，条件是前面每个位置都正确。GSM8K 上的五层 Qwen3-4B DFlash。接受长度包含验证器产出的下一个 token。 • 位置 0：Recall@1 85.4%，Recall@16 99.5% • 位置 1：80.3%，97.3% • 位置 2：79.4%，94.8% • 位置 3：78.3%，92.6% • 位置 4：77.5%，90.8% • 位置 5：75.9%，89.4% • 位置 6：72.9%，87.8% • 接受长度：4.27（只看第一选择）；6.79（从前 16 里选） 一个总能从前 16 个候选里挑对的那个 oracle，会把接受长度从 4.27 抬到 6.79。这个差距是纯粹的选择空间。我们只需要在候选里选出一条正确的路径。 图 1：一个周期里的选择器。只用 DFlash，每个位置保留自己的第一选择；这里两个相邻位置选了同一个词，结巴在验证时死掉。DFlash 2 保留每个位置的 top 候选，选择器在候选之间走出一条连贯路径；这里整块都活了下来。 一个轻量的路径选择器 连贯性大体是局部的：一个候选合不合适，主要取决于它前面的那个 token，所以给相邻对打分应该就够了。DFlash 2 保留每个位置前 16 个候选，给每一对相邻候选打分。对前一个 token a 和当前候选 b： S_t(a,b) = U_t(b) + ⟨A(a)⊙H(h_t), B(b)⟩ 分数分两部分。第一部分 U_t(b) 是 DFlash 自己的 logit：drafter 本身有多喜欢 b。第二部分问 b 接在 a 后面有多顺：A 和 B 给每个 token 一个紧凑的 256 维嵌入，两个嵌入在一个上下文门控 H(h_t) 下匹配，门控决定匹配的哪些部分算数。本质上，这是对相邻候选做的低秩双线性注意力。 打分全程并行。每个位置的每一对相邻候选一次性全部算完，不需要额外的 backbone 或 LM head 前向。唯一串行的部分，是最后在预计算好的分数上走一遍：从最后一个已验证 token 出发，贪心地跟着每一步最好的后继走，采样从同样的分数里抽取，拒绝采样恢复出精确的目标分布。 表 2：只加路径选择（不加卷积）的接受长度，GSM8K 上的五层 Qwen3-4B。开销相对纯 DFlash：drafter 增加的参数、起草-验证周期增加的延迟。 • DFlash：T=0 下 4.27，T=1 下 3.78 • + DSpark 纠错：+77.8M 参数，+9.6% 延迟；4.49，4.08 • + 路径选择（我们的）：+2.0M 参数，+0.6% 延迟；4.61，4.25 选择器在 T=0 下给 DFlash 加 0.34 个 token，T=1 下加 0.47。两个设置下都超过 DSpark 的纠错，参数少约 40 倍，延迟开销低 16 倍。选择比预测便宜。而且还有空间：oracle 能到 6.79。成对打分是我们能想到的最简单的选择器，我们相信这里还有很多可探索的。 后缀衰减是个局部问题 我们还注意到上面两行 recall 都在块尾下滑。连 oracle 都在衰减：即使选择完美，准确率仍然从第一个位置的 99.5% 掉到最后一个位置的 87.8%。没有选择器能修这个，因为候选自己就不够了。我们把这个叫后缀衰减，它是 backbone 的问题。 一个嫌疑是容量：五层 backbone 可能太小，撑不住横跨整块的依赖。如果真是这样，深度应该在靠后的位置帮上最多的忙。事实也如此：3 层、5 层、15 层的 DFlash 模型在第一个位置上几乎一样，越往块尾分得越开。但深度不加区分：多十层 attention block 到处加容量，连那些没什么可赚的靠前位置也加，把 DFlash 吸引人的那部分效率磨掉了。 图 2：GSM8K 上 Qwen3-4B 的 Recall@1（T=0），条件是前面每个位置都正确。所有 drafter 在相同设置下训练；卷积模型评估时不带选择器。它的卷积增加 3% 参数和 0.7% 周期延迟；15 层模型多出的十层增加 15.2%。 我们要一个有针对性的修法，而 DFlash 的 attention 指出了修哪里。它有两份工作：读块之前的上下文，以及建模块内部的依赖。但它在第二份上花的越来越少：块内注意力占比从第 1 层的 30% 掉到第 5 层的 8%，剩下的还集中在越来越少的一小撮 head 里。所以我们把两份工作拆开：一个专用模块承担块内工作，attention 继续读上下文。 图 3：五层 Qwen3-4B DFlash 的块内注意力按 head 分布。越亮的格子代表在起草块上花注意力越多的 head；靠后的层里，块内质量收缩、集中到少数几个 head。 一个轻量的局部卷积 块内工作本来就是短程的：一个块只有 4 到 16 个 token，最紧的依赖坐在相邻位置之间。自然的算子是短卷积：两个抽头，一个在当前位置，一个够到前一个位置，权重随内容自适应。跟随 Canon Layers、Dynamic Short Convolutions 和 Convolution for Large Language Models 的做法，我们在每个 attention 和 feed-forward 子层前后插入这个双抽头动态深度卷积： Conv_k(x)_t = k_{t,0}⊙x_t + k_{t,1}⊙x_{t-1} 每个系数由一个可学习的基核加上从当前隐藏状态算出的一个小修正组成；每 16 个通道共享一个修正。第一个位置读最后一个已验证 token 的表示，之后的每个位置读它前一个的。信息穿过整块，同时所有位置仍然并行计算。 图 4：双抽头动态卷积。每个 drafter 层的每个 attention 和 MLP 子层前后各有一个。内部：每个位置把自己的表示和前一个的混合；第一个位置读最后一个已验证 token。 卷积是块局部的、无状态的，所以能无缝插进 DFlash，不用动 attention、LM head 或验证。 只加 16.5M 参数（3%），带卷积的五层 DFlash 就逼近了 15 层 DFlash，大幅减轻后缀衰减。卷积给起草-验证周期延迟加 0.7%；多十层 Transformer 层加 15.2%。第 4、5 层的平均块内注意力从 9.4% 降到 0.5%，与卷积吸收局部工作、attention 回到读上下文一致。一个只够到前一个位置的核，买回了十层额外层的大部分收益：后缀衰减大体是个局部问题。 合在一起 到目前为止，选择器和卷积是分开测的；下面的完整对比把它们放在一起。DFlash 和 DSpark drafter 是我们在对齐的设置下自己训练的，MTP 随模型发布。 表 3：Qwen3.5-4B 每请求平均接受长度。采样：thinking 开启，温度 1.0，top-p 0.95，top-k 20，presence penalty 1.5，无损拒绝采样。 • GSM8K：MTP 4.78，DFlash 4.99，DSpark 5.69，DFlash 2 6.20 • MATH-500：5.04，5.42，6.20，6.76 • HumanEval：4.84，5.43，5.80，6.28 • MBPP：4.16，4.49，4.96，5.41 • MT-Bench：3.90，4.26，4.77，5.20 • 平均：4.54，4.92，5.49，5.97 DFlash 2 在每项基准上都领先。平均下来，它比 DFlash 多 1.05 个 token（21%），比 DSpark 多 0.48。升级仍然便宜：选择器和卷积加起来，只给五层 DFlash 的起草-验证周期延迟加了 1.3%。 在 MATH-500 上，增益逐位置可见：DFlash 2 到最后一个位置都稳在 86% 附近，而每个基线在块尾都比它低 6 到 9 个点。 图 5：MATH-500 上 Qwen3.5-4B 的条件接受率，采样同上。 两个 drafter，今天发布 我们今天发布两个 DFlash 2 drafter：一个给 Qwen3.8-27B（ Meta 的 Muse Glimmer（ Qwen3.8-27B，我们对比模型原生的 MTP 路径和一个社区 DSpark drafter。 表 4：Qwen3.8-27B 每请求平均接受长度，模型默认采样、块大小 8，对比原生 MTP 路径和社区 DSpark drafter。 • GSM8K：MTP 5.02，DSpark 4.36，DFlash 2 5.46 • MATH-500：4.72，3.92，5.28 • HumanEval：3.91，3.30，4.39 • MBPP：3.99，3.51，4.79 • MT-Bench：3.74，3.01，4.10 • 平均：4.28，3.62，4.80 对 Meta 的 Muse Glimmer，我们对比随模型发布的官方 DFlash drafter 和一个社区 DSpark drafter。 表 5：Muse Glimmer 每请求平均接受长度，模型默认采样、块大小 16。DFlash 是 Meta 随模型发布的官方 drafter；DSpark 是社区 drafter。 • GSM8K：DFlash 5.43，DSpark 5.45，DFlash 2 6.57 • MATH-500：5.39，5.01，6.56 • HumanEval：4.11，4.33，5.66 • MBPP：3.74，4.02，5.30 • MT-Bench：3.52，3.59，4.42 • 平均：4.44，4.48，5.70 差距很大：在两个模型上，DFlash 2 平均比 DSpark 多出超过一个完整的 token。它也超过每个模型的官方 drafter：Qwen3.8-27B 的 MTP、Muse Glimmer 的 DFlash。换算成吞吐，Qwen3.8-27B 上达到自回归解码的 2.7–3.4 倍，Muse Glimmer 上 3.1–4.6 倍。模型卡（ 底线 agent 一个下午写出来的东西，聊天机器人要写一个月，而每一个 token 底下都坐着解码。DFlash 2 以接近自回归解码 3 倍的速度解码，每个 token 约三分之一的算力，输出相同。 七个月里，DFlash 从我们的论文变成了行业标准，超过 350 万次下载。在同一个设计内部，DFlash 2 每次通过多解码一个完整的 token，免费。那还只是服务栈的一个组件。推理离它的地板还很远。 在 Inco AI，我们在构建一套端到端的服务栈，把这个地板继续往下压。DFlash 2 是第一块。两个 drafter 今天发布在 Hugging Face。 如果你在规模化地服务 agent，想在你的栈里评估 DFlash 2，或者想为你跑的模型（包括你自己的微调）要一个 drafter，写信给我们：contact@inco.ai。 我们也在招人。如果你想一起构建这套栈，联系我们。 把候选连起来。起草，继续并行。 脚注：Modal 的 Speculation Is All You Need 指出，投机解码是对低延迟服务最重要的优化。我们是他们工作的超级粉丝，感谢他们自 DFlash 发布以来的支持和讨论。 本文引用格式：@misc{inco2026dflash2, title={DFlash 2: Keep Drafting Parallel}, year={2026}, month={August}, url={ 原文： #DFlash# #投机解码# #LLM推理#