注册并分享邀请链接,可获得视频播放与邀请奖励。

搜索结果 30引用されたら萌え袖晒す見た人もやる
30引用されたら萌え袖晒す見た人もやる 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 30引用されたら萌え袖晒す見た人もやる 的推特
推荐这篇文章。一个 agent 评测系统被自己的评分骗了整整一周——两个标准在互相拉扯,总分却看起来正常。 Similarweb 的高级 AI 工程师 Liora Korni 在 7 月 29 日 LangChain 博客上分享了一篇实战文章:如何评估一个生成长篇研究报告的 agent 系统。文章的价值不在方法论本身——LLM-as-judge 和 rubric 都不是新概念——而在他们把评估当作产品架构的一部分来做的具体教训。 两种输出,两种评估方式 Similarweb Data Studio 是一个 agent 系统:用户用自然语言提问,agent 规划、调用数据工具、检索数字、写出答案。它要处理两类完全不同的输出: 普通对话:聚焦问题,答案形状可预期。评估方法简单——golden answer + semantic judge 判断"是否表达了同样的意思"。 深度研究报告:长文输出,包含来源、解读、建议、风险提示和叙事结构。同一问题可能有多种好的答案。Golden answer 不适用——匹配 gold answer 只会奖励相似性而不是质量。 Rubric 方案 深度研究报告的评估用 rubric prompts:每个质量维度有自己的评分锚点。例如 source_integration 标准: • 0.0:纯粹依赖单一数据 API,无外部上下文 • 0.3:模糊引用"行业报告"但不点名 • 0.8:引用多个带名称、日期、数字的来源 • 1.0:广泛使用归因明确、融入叙事的来源 每个维度返回分数 + 解释 + 差距说明。不只是一个数字。 除此之外还加了 faithfulness check:每个声明是否真的来自检索数据?还是 agent 夸大了来源支持的内容? 最贵的教训:花了整整一周跟自己的评估打架 文章里最值得读的部分:一次 prompt 的小改动让总体评分下降。 他们花了一周反复 revert、调整、re-run。报告每次看起来都很好,但数一直在说不。最后有人打开逐标准评论才发现——新版报告引用了更多来源(提高了 source breadth),但这些来源都是模糊的(拉低了 attribution)。两个标准互相拉扯,总分隐藏了冲突。 修复了评分锚点后(从"引用更多来源"改为"引用命名、可验证的来源"),同一个报告的分数从 0.7 降到了 0.3,数值终于匹配了评论一直在说的东西。 核心教训:一个校准错误的评估比没有评估更糟糕,因为它给你虚假的信心。 最终的评估循环 1. 从假设开始 2. 跑一个小评估获取信号 3. 检查反馈评论和 traces 4. 跑完整 benchmark 并重复 5. 与 baseline 或 A/B 输出对比 6. 决定合并、迭代还是重新校准 原文: #AgentEvaluation# #LLMasJudge# #LangSmith#
显示更多
OPC Skills:面向"一人公司"的 Agent Skills 开源库 # 10 个 Skills 分为 4 类,累计 51K+ 次安装 ① 市场调研层 · requesthunt(v2.3.0,最活跃):从 Reddit / X / GitHub / YouTube / LinkedIn / Amazon 抓取真实用户反馈,生成需求研究报告。现已切换为 Rust CLI(自带 SHA256 校验 + 设备码登录)。其"平台选择指南"很专业——按产品类别推荐主次数据源(如硬件→YouTube 优先,开发者工具→Reddit 优先) ② 数据采集层(API 封装技能) · X/twitter(28 个脚本,最厚重):封装 twitterapi. io,覆盖用户/推文/列表/社区/Spaces/趋势全端点 · reddit(7 脚本):基于公共 JSON API · producthunt(11 脚本):GraphQL API ③ 设计生产层 · nanobanana:Gemini 3 Pro Image 图像生成(文生图、图编辑、2K/4K) · logo-creator:依赖 nanobanana,含裁剪、去背景、SVG 矢量化 · banner-creator:依赖 nanobanana,输出多平台横幅 ④ 增长与基建层 · seo-geo(33.5K 安装,最热门):SEO + GEO(生成式引擎优化),内嵌普林斯顿 9 项 GEO 方法论,覆盖 ChatGPT / Perplexity / Google AI Overview / Copilot / Claude 各平台的引用优化策略 · domain-hunter:依赖 twitter + reddit,域名查价、找促销码、给购买建议 · archive:会话知识归档,带 SessionStart hook 自动把 .archive/MEMORY.md 注入上下文——唯一带运行时钩子的技能,体现"跨会话记忆复用"思路 项目地址
显示更多
0
5
40
16
转发到社区
干什么活就用什么AI,分享我的自用AI工具清单 我把日常8大工作场景的最优工具整理出来了,都是我亲自跑通流程的 不是全网最全,但一定是最实用的 1. 学习 & 研究 核心需求:抓信息、消化长文、生成笔记、深度学习 最优工具: NotebookLM:把一堆 PDF、网页、视频转成播客,开车的时候听,学习效率直接翻倍,现在跑在 Gemini 3上,理解能力比去年强太多 YouMind:我自己在用的 AI 创作工作台,搜索、整理、生成一条龙,特别适合需要反复迭代的内容项目 ,一站式学习工作台 Perplexity / Gemini 3:实时研究用这两个,Gemini 速度快还免费,背靠google搜索庞大的数据,信息的搜索没得说,Perplexity 引用更规范 使用建议:日常快速问答用 Gemini,复杂研究用 Claude + Perplexity 组合拳 2. 写作 & 内容创作 核心需求:生成草稿、优化文案、创意输出 最优工具: Claude Sonnet 4.5永远的神:复杂写作、长内容的首选,写出来的东西最像人写的 3. 编程 & 开发 核心需求:写代码、调试、自动化、快速构建产品 最优工具: Cursor:$60/月(20刀属实不够用),AI IDE,堪称AI编程届的鼻祖了,AI调教水平绝对是遥遥领先的 Claude Code:$20/月起,$100/月,深度推理能力最强,1M token 上下文窗口,高手必备 v0 / Lovable / Manus:自然语言转web,不会代码也能做产品 n8n / Make / Zapier:工作流自动化,把重复劳动交给 AI 使用建议:新手从 Gemini CLI 起步,准备投入就上 Cursor 或 Claude Code 4. 图像生成 & 编辑 核心需求:海报、设计、商业 KV、修图 最优工具: Nano Banana Pro / GPT Image 2:高质量生成,文字排版准确,商业场景能直接用 Ideogram:2026年最可控实用的图像生成工具 Midjourney / Flux:创意艺术向,适合做概念图和插画 使用建议:一套提示词可以输出多场景(门店海报、地铁广告、小红书封面) AI 时代最稀缺的不是工具,是审美 5. 视频 & 动画 核心需求:短视频、广告、数字人、唇同步 最优工具: Seedance 2.0:2026年5月登顶 Artificial Analysis 排行榜第一,支持9张图+3段视频+3段音频混合输入,适合从自己的素材库构建视频 Kling 3.0:电影级单镜头最长15秒,4K/60fps,多镜头故事板,角色一致性最强,原生音频支持5种语言唇同步 Veo 3.1:Google 出品,综合质量最强,真人对话的逼真度天花板 HeyGen:数字人、唇形同步、多语言翻译,商业场景首选 使用建议:没有单一最佳工具,根据场景选 需要从自己素材生成→Seedance 2.0 需要电影感长镜头→Kling 3.0 需要最真实的对话→Veo 3.1 6. 音频 & 音乐 核心需求:配音、翻译、音乐生成、播客 最优工具: ElevenLabs:声音克隆、情感配音,质量最稳定 Suno :音乐生成,从哼唱到完整编曲 Gemini TTS / Podcastle:播客制作、多语言翻译+唇同步 7. 效率 & 自动化 核心需求:会议纪要、任务执行、一人公司运营 最优工具: Manus:端到端 Agent 任务,让 AI 真正帮你干活 飞书:会议纪要自动生成 Dify / Coze:国内自动化平台,搭建自己的 AI 工作流 Zapier / Make:连接各种工具,打通数据流 2026年,AI 是用来真正提升生产力、实现商业变现的 干什么活,就用什么 AI
显示更多
0
11
43
11
转发到社区
塞内加尔坦巴昆达警方再捕35人:13人HIV阳性,仅3人在接受治疗🇸🇳🏳️‍🌈 据塞内加尔媒体SeneNews和Seneweb 2026年10月12日报道,塞内加尔东部坦巴昆达(Tambacounda)警方以“违反自然的行为”(actes contre nature)罪名逮捕35人。警方公布的被捕者身份包括4名学龄学生、2名大学生、2名中学教师、4名医护人员,以及商人、发展领域工作者和裁缝各1人。Seneweb援引调查方说法,称这些人是专门从事“违反自然的行为”的“有组织犯罪网络”。 据Erasing 76 Crimes 10月15日援引当地报道,警方对35人全部做了HIV检测,13人结果呈阳性。调查人员称,这13人中目前只有3人在接受医疗和抗逆转录病毒治疗。报道没有说明检测是否取得当事人的知情同意。当地媒体称,调查将继续追查“同伙”并追踪接触者,以“防止疾病进一步传播”。另据报道,数名被捕者供称曾与一名穿制服的执法人员发生性关系,此人没有被逮捕。 这次逮捕是塞内加尔今年持续打压的一部分。2026年3月31日,总统巴西鲁·迪奥马耶·法耶(Bassirou Diomaye Faye)签署法律修订刑法第319条,将同性性行为的最高刑期从5年提高到10年,并新设“宣扬”或资助同性恋罪,最高可判7年。 10月12日,人权观察(Human Rights Watch)发布报告称,自2月以来,当局对被拘留者进行未经知情同意的HIV检测,并以HIV感染状况为由追加指控或延长羁押;警方还向媒体泄露调查细节,部分被捕者的姓名和HIV感染状况被公开报道。报告引用HIV司法网络(HIV Justice Network)的数据,自2月起已有超过320人因“违反自然的行为”被捕拘押,其中80余人被控“故意传播HIV”。接受采访的医生表示,打压正在让人们回避HIV检测和治疗。据路透社4月报道,塞内加尔全国HIV感染率约为0.3%,但政府数据显示男男性行为者群体中的感染率为27.6%。 背景:人权观察报告发布当天,非洲人权和民族权委员会(African Commission on Human and Peoples’ Rights)在达喀尔开幕会议,会期至10月21日。10月31日至11月13日,达喀尔还将举办2026年青年奥林匹克运动会,这是非洲大陆首次举办奥运赛事。 参考来源:
显示更多
一只股票 在全世界所有交易所都关门的时候 涨了9% 它到底算不算涨了? 这听起来像个哲学问题 但在7月30日 它变成了一个可以查证的事实 美股开盘前大约6个小时 UTC 07:00 到 12:00 SNDK 涨9.3% SKHYNIX 涨8.5% SKHY 涨10.3% 一个是美股 一个是韩股 一个是ADR 三条完全不同的交易路径 在同一个窗口里同时启动 随后美股开盘 行情进一步确认 先说清楚这件事为什么不平凡 金融学里有一个被引用了四十年的经典发现 French 和 Roll 在1986年做过一项研究 他们比较了交易所开门和关门期间的股价方差 结论是 开门时的波动率 远高于关门时 当时的解释是 交易行为本身 会创造波动 但那项研究有一个无法回避的前提 关门的时候 你根本没有价格序列可以测 你测到的低波动 不是市场平静 是没有仪器在记录 这就是跳空缺口的真正来源 我们说周一开盘跳空8% 好像价格在周末睡了一觉 醒来突然蹦了一下 它没有蹦 它在那两天里持续地动 只是没有任何一个场所 允许你看见和执行 跳空不是价格的行为 是观测的断点 那么问题来了 如果关门期间有一个市场仍然在运转 会发生什么 Hasbrouck 在1995年给出过一套工具 同一个资产在多个场所交易时 你可以测出每个场所对最终价格的贡献度 他管这个叫信息份额 这套框架原本用来比较纽交所和纳斯达克 现在它有了一个更有意思的应用场景 当传统市场关门 只剩一个市场还开着 那个市场的信息份额 在那段时间里 是多少 7月30日那6个小时 给出了一个方向性的答案 而更能说明问题的 是它不是孤例 看币安 TradFi 的结构数据 存储五强 SNDK SKHYNIX SOXL MU SKHY 单周成交733亿美元 占TradFi周成交57% 其中 SNDK 一个标的244亿 占全周19% 而这五个标的 51%的成交 发生在底层市场休市期间 美股相关标的的盘外占比 49%到66% 韩股标的 48%到49% SKHY 这个ADR 60% 盘外不是补充时段 它已经是主要战场 为什么偏偏是存储 因为这条产业链在物理上就是跨时区的 上游产能在韩国 需求和定价权在美国 中间还挂着ADR和ETF 一条财报出来 它必须在首尔和纽约之间来回传导 而传统市场把这条链 切成了几段互不连通的时间 首尔收盘 纽约还没开 纽约收盘 首尔又睡了 7×24 做的事 只是把这几段接回同一条时间线 流动性的量级也到了 7月24到30日 币安 TradFi 永续周成交1295亿美元 7月29日单日356亿 比此前峰值高47% 历史上前五大单日成交 全部发生在2026年7月 Top 5 CEX 口径下 币安占69% 是第二名的3.8倍 这不是一次脉冲 是连续的峰值抬升 价格发现需要深度 没有深度的盘外价格只是噪音 这组数字说明的是 承接信息的能力已经具备 另一条路径上 Binance Research 做了一份研究 先说清楚 bStocks 是代币化股票 和 TradFi 永续是两个产品 两套口径 不能混着说 但它们指向同一个结构变化 截至7月28日 已有15亿美元的 bStocks 在美股休市期间于币安成交 最近七天 59%的币安成交 和 92%的链上成交 发生在美股交易时段之外 而这份研究里最锋利的一个数字是这个 过去七个周末 bStocks 对随后周一开盘缺口的定价比例 中位数是92% 翻译成人话 那个你以为周一早上才发生的跳空 九成 在周末就已经被定完了 回到 French 和 Roll 那个四十年前的结论 关门时波动低 可能从来不是因为市场安静 是因为我们把耳朵捂上了 然后说世界很吵 但也别把话说满 这件事还很早期 bStocks 市值刚过5亿美元 占全球代币化股票市值27% 7月链上成交约74亿 占当月代币化股票DEX成交的85% 听起来很猛 但它的成交量 仍然只相当于底层股票和ETF成交的0.3% 高增长和极低渗透率同时存在 意思很明确 传统市场没有被取代 一个全天候的股票市场刚刚开始长出来 值得看的不是现在的体量 是迁移的斜率 还有一句必须说在前面 率先反映 不等于必然正确 盘外形成的是一个参考价格 不是一份承诺 它可能被随后的开盘确认 也可能被推翻 7×24 扩展的是你选择时间的自由 不是确定的结果 最后说一件我想了很久的事 我们管每天第一笔成交叫开盘价 这个词其实很有误导性 开盘价从来不是当天的第一个价格 它只是第一个被允许看见的价格 那口钟从1817年响到今天 以前它敲的是价格开始的地方 现在它敲的 越来越像是确认 - 数据来源 Binance Research《Stock Price Discovery Moves On-Chain》2026年7月29日 @binancezh #币安# #TradFi# #bStocks#
显示更多
出生公民权争议:特朗普再签行政令 禁止“生育旅游” 周四,美国总统特朗普签署两项旨在限制“出生公民权”的新行政命令。其中之一针对赴美产子的外国女性。 特朗普的顾问兼其移民政策的设计者斯蒂芬·米勒(Stephen Miller)表示,周四签署的行政令之一旨在取消两类人群子女的“出生公民权”:一是“外国恐怖组织”成员的子女,二是“代表外国政府进行游说及开展活动的大量人员”的子女。 第二项行政命令针对的是所谓的“生育旅游”(birth tourism)。指的是女性通过获取签证前往美国并在当地分娩,从而使子女获得美国公民身份的行为。 米勒补充道:“自本行政命令签署之日起,这种‘生育旅游’做法即被禁止。这意味着,世界上任何人都不再获准以这种欺诈性目的获取签证。” 目前,尚无官方数据统计显示专门为生育并获取公民身份而赴美的外国人数量。不过,立场亲近特朗普的“移民研究中心”(Center for Immigration Studies)声称,2016年至2017年间,约有2万至2.5万名母亲采取了这种做法。 《纽约时报》援引宾夕法尼亚州立大学的一项研究称,在任何年份,游客在美国生育的婴儿数量均不足全美出生总数的0.3%。 中国媒体曾报道,赴美“生育旅游”的队伍中,中国人占据了大头。《第一财经》2017年引用“不完全统计”称,中国大陆赴美生子的人数在2014年达到了5万。随之形成了一条每年高达几十亿美金的庞大产业链,包括月子中心、华人医院、超市、旅行社、移民和房产中介公司等。 特朗普第一任期内于2020年实施的一项联邦法规规定,禁止以主要为了让新生儿获得美国公民身份为由,使用临时旅游或商务签证入境。新的行政令也未说明以何标准判定签证申请者入境美国是为了生产。 美国宪法第十四修正案规定的“出生地公民权”,确保在美国出生的婴儿自动获得公民身份。 特朗普在第二个任期伊始曾签署一项行政令试图限制该权利,规定对于父母仅在美国短期停留或未持有有效居留证件期间出生的儿童,不予自动获得公民身份。美国最高法院于今年6月驳回了该行政令。
显示更多
0
24
66
12
转发到社区
[长文] 聊下目前 Memecoin 打法 及 链上整体思路 & 存活指南 | 以Sol Bsc Robinhood 罗宾汉链为例 首先不要相信任何的alpha,包括我在内。永远保持怀疑,相信自己才是最大的alpha,保持更多的资金试错,活着。 无论是喊单也好、写推文也好、本身都是筛选流动性和受众,以及为自己对应Bags服务的,听听就好,别把自己骗进去了,博主前些年就是信了太多这种“信仰”导致很多赚到的都亏回去了,当然成也是因为这种心态... 很多时候遇到良心的项目真的就会吃一波大的 至于喊单人本身的交易能力和对市场的敏感度,这两点我认为是不能画等号的,可能这个人就是对热点把控能力很强,但交易纪律很差。 在这个市场环境,一定要明确你的定位,看你赚谁的钱,看你想成为哪一环,千万别想着一次吃个大的! 1. 有组局能力强的去发token(我没这个能力我不参与,另外我怕未来拉清单,我没这个必要) 2. 有喊单能力的自己去买bag割跟单(当然看为人了,和链文化也有关,就比如sol的跟单就比bsc的跟单口碑好太多) 3. 善用debot ( 或gmgn ( 这种AI扫链平台,自己去扫链、去找信号(或跟单链上聪明钱)去搭建自己的信息流和alpha 你们要想清楚要赚谁的钱 [引用@0xmagnolia]: 1. 10k~500k赚的是各个群,社区互相传播接盘,小车头跟单的钱。 2. 500k~3m 赚的是某几个kol互相传播,车头fomo跟单的钱。 3. 3m~10m 是各大kol集合推送,小游资短暂拉升的钱。 4. 10m~50m是名人强背书,kol集体强力推送,官方机构背书,这时赚信息传播链时效性的钱。 5. 50m~300m,成型的社区,短时期的强共识,不断拉升的fomo情绪,已有大做市商下场操盘。你要赚上交易所等重大利好落地前的钱。 6. 300m~2b,你要赚二级市场以及圈外人的钱。 7. 2b~10b,这已经是各大机构做市商互相接盘的区域了,这时就看你眼界高低了。 说白了能成规模的金狗各方势力缺一不可,只是高度问题,你想抓到百倍的,你玩10k到1m也没问题,就是赚多赚少的问题。每个人有每个人的玩法。但你要清楚你买的这个币,到底可以赚到谁的钱,有时候不要过度幻想。 那现在罗宾汉链怎么做? 1. 最稳的还是跟之前bsc four和sol pump那几波火类似的逻辑,真的要看这波行情,直接去多eth、sol、bnb(同理)但目前我更倾向于是熊市,版块轮动... 2. 其次就是大资金追龙一龙二龙三,比如现在的cashcat, 530a, $1... 等,当然风险在于,类似于之前的cz, heyi, ansem一样,有可能会回调 查看cashcat的图表信息: 查看530a的图表信息: 3. 借助扫链tool搭建自己信息流,debot ( 或gmgn ( 这种AI扫链平台,自己去扫链、去跟AI信号(跟单链上聪明钱)去搭建自己的信息流和alpha... 我现在要玩罗宾汉链改怎么操作? 最简单的就是bn或者okx c2c以后,直接通过debot ( 或gmgn ( 这种链上工具提到eth或bsc链,然后用app或者网页跨链到罗宾汉链即可
显示更多
0
13
23
5
转发到社区
【A股盘前】 2026年10月3日 ======================================== 数据窗口:9月28日~9月30日(近3个交易日) 一、今日结论 环境分:38分,只观察,不给买点。 理由:上证指数3842.19低于MA5(3864.23)、MA10(3890.23)、MA20(3905.64);沪深300、中证500、中证1000全部在5日线下方,且中证1000弱于沪深300(中证1000距MA20为-3.42%,沪深300距MA20为-3.03%),属权重略强、小盘更弱格局。科创50当日-2.51%明显走弱。隔夜美股三大指数收涨(标普+0.73%、纳指+1.19%、道指+0.49%),但A股主要指数均在均线下方,外盘正面不足以对冲内部弱势。期货升贴水未获取。涨停溢价、连板高度、跌停家数未获取完整数据。综合给38分,低于40分,只给观察名单。 三个方向(仅观察,不构成买点): 1、创新药(港股通创新药链条)。美股映射确认(ARKG 20日+14.41%),韩日未开盘待确认,研报互证为月内强支撑。 2、房地产。美股映射不直接对应,韩日未开盘待确认,研报互证为月内强支撑。 3、半导体设备/材料。美股映射确认(PSI 20日+24.09%、SOXX+17.26%),韩日未开盘待确认,A股同主题尚未启动,研报互证为月内强支撑。 三个主选股(观察名单,环境分不足不触发买入条件): 1、创新药方向主选:港股通创新药ETF嘉实(sh520970),备选:恒瑞医药。 2、房地产方向主选:滨江集团(002244),备选:万科A(000002)。 3、半导体设备方向主选:北方华创,备选:中微公司。 二、中美ETF 20日涨幅榜对照 1、A股去重榜前10(同主题只留最强1只): (1)房地产|房地产ETF银华(sz159768)20日+15.49% 昨+2.07%(同主题9只) (2)海外QDII|纳指科技ETF景顺(sz159509)20日+13.06% 昨+1.75%(同主题34只) (3)创新药|港股通创新药ETF嘉实(sh520970)20日+8.26% 昨+3.97%(同主题107只) (4)交通运输|船舶ETF富国(sh560710)20日+3.72% 昨+0.21%(同主题6只) (5)红利价值|现金流ETF银华(sz159225)20日+1.99% 昨+5.77%(同主题151只) (6)银行|银行ETF华安(sh516210)20日+0.97% 昨+1.33%(同主题13只) (7)其他|药ETF华宝(sh562050)20日+0.22% 昨+2.68%(同主题36只) (8)宽基指数|中证2000增强ETF银华(sz159555)20日+0.17% 昨-0.72%(同主题410只) (9)香港中概|港股通央企红利ETF平安(sz159143)20日-0.31% 昨+0.21%(同主题116只) (10)消费|消费ETF招商(sh510150)20日-0.40% 昨+2.26%(同主题100只) 其中风格类:海外QDII、红利价值、银行、宽基指数、香港中概、消费。行业方向类:房地产、创新药、交通运输。 2、美股去重榜前10: (1)半导体|Invesco Semiconductors ETF(PSI)20日+24.09% 昨+3.23%(同主题7只) (2)宽基指数|AINT 20日+18.44% 昨-0.78%(同主题103只) (3)AI算力软件|VistaShares AI Supercycle ETF(AIS)20日+15.49% 昨+1.93%(同主题21只) (4)创新药基因|ARK Genomic Revolution ETF(ARKG)20日+14.41% 昨+1.56%(同主题13只) (5)海外市场|Amplify Top 10 Asia Memory ETF(AHBM)20日+10.57% 昨+1.48%(同主题58只) (6)其他|Baron Technology ETF(BCTK)20日+7.28% 昨+1.80%(同主题26只) (7)交通运输航运|SonicShares Global Shipping ETF(SEA)20日+4.21% 昨+1.02%(同主题5只) (8)机器人机械|ROBO 20日+3.82% 昨+2.23%(同主题5只) (9)能源油气|USO 20日+3.72% 昨-1.77%(同主题9只) (10)其他另类|BFAP 20日+2.76% 昨-0.06%(同主题10只) 其中风格类:宽基指数、海外市场、其他、其他另类。行业方向类:半导体、AI算力软件、创新药基因、交通运输航运、机器人机械、能源油气。 3、互相映射对照(直接引用自动配对结果并补充判断): (1)美股半导体PSI+24.09% → A股半导体设备/材料/封测,代表股北方华创、中微公司、拓荆科技、长电科技、通富微电、华海清科。A股同主题未进去重榜前10,尚未启动。属潜在补涨观察。 (2)美股宽基AINT+18.44% → A股宽基与风格,A股中证2000增强ETF银华+0.17%已走强。属风格类,不作方向。 (3)美股AI算力软件AIS+15.49% → A股光模块/PCB/国产算力/软件信创,代表股中际旭创、新易盛、沪电股份、胜宏科技、海光信息、寒武纪、金山办公。A股同主题未进去重榜前10,尚未启动。属潜在补涨观察。 (4)美股创新药基因ARKG+14.41% → A股创新药/CXO/医疗器械,代表股恒瑞医药、百济神州、药明康德、凯莱英、迈瑞医疗、联影医疗。A股同主题已走强,港股通创新药ETF嘉实+8.26%。属重叠方向。 (5)美股海外市场AHBM+10.57% → 跨境联动/QDII/出海链。A股同主题已走强,纳指科技ETF景顺+13.06%。属风格类。 (6)美股其他BCTK+7.28% → 无明显行业映射,仅作参考。 (7)美股交通运输航运SEA+4.21% → A股航运油运/集运/干散货/物流,代表股中远海控、招商轮船、中远海能、招商南油、中谷物流、兴通股份。A股同主题已走强,船舶ETF富国+3.72%。属重叠方向。 (8)美股机器人机械ROBO+3.82% → A股人形机器人/工业母机/自动化,代表股三花智控、绿的谐波、鸣志电器、汇川技术、华中数控。A股同主题未进去重榜前10,尚未启动。 (9)美股能源油气USO+3.72% → A股油服/油气开采/煤化工,代表股中海油服、海油工程、杰瑞股份、中国海油、宝丰能源。A股同主题未进去重榜前10,尚未启动。 (10)美股其他另类BFAP+2.76% → 商品/水/碳/加密等另类。A股同主题未进去重榜前10,尚未启动。 4、重叠方向(美股强且A股同主题也强,权重最高): (1)创新药:美股ARKG+14.41%,A股港股通创新药ETF嘉实+8.26%,且A股原始榜前20中创新药主题占17席(第4到第20位),资金扎堆极强。 (2)交通运输航运:美股SEA+4.21%,A股船舶ETF富国+3.72%。 5、潜在补涨观察(美股强但A股同主题未动): (1)半导体设备/材料:美股PSI+24.09%、SOXX+17.26%、XSD+16.03%、SMH+14.12%,A股同主题未启动。启动条件:韩股存储/半导体设备开盘走强确认,或A股半导体设备龙头放量突破。 (2)AI算力软件:美股AIS+15.49%,A股同主题未启动。启动条件:光模块龙头放量或研报催化落地。 (3)机器人机械:美股ROBO+3.82%,A股同主题未启动。 (4)能源油气:美股USO+3.72%,A股同主题未启动。 6、原始榜前20扎堆证据: A股原始榜前20中,创新药主题占第4到第20位共17席,房地产占前2席,海外QDII占第3席。资金聚焦创新药和房地产两个方向。 美股原始榜前20中,半导体占第1、3、4、7、8位共5席,AI算力软件占第5、9、12、13、15、16、17、18、19位共9席,宽基指数占第2、10、14、20位共4席,创新药基因占第6位1席。资金聚焦半导体和AI算力软件。 7、风格类与行业方向类区分: 风格类:海外QDII、红利价值、银行、宽基指数、香港中概、消费(A股);宽基指数、海外市场、其他、其他另类(美股)。只用于判断市场风格。 行业方向类:房地产、创新药、交通运输(A股);半导体、AI算力软件、创新药基因、交通运输航运、机器人机械、能源油气(美股)。 8、同主题ETF数量与席位: A股创新药同主题107只,原始榜占17席,扎堆强度极高。房地产同主题9只,原始榜占2席。海外QDII同主题34只,原始榜占1席。 美股半导体同主题7只,原始榜占5席。AI算力软件同主题21只,原始榜占9席。宽基指数同主题103只,原始榜占4席。创新药基因同主题13只,原始榜占1席。 三、隔夜美股映射 1、美股去重榜领涨方向:半导体(PSI+24.09%)、AI算力软件(AIS+15.49%)、创新药基因(ARKG+14.41%)、交通运输航运(SEA+4.21%)、机器人机械(ROBO+3.82%)、能源油气(USO+3.72%)。 2、隔夜美股主要指数与个股:标普+0.73%、纳指+1.19%、道指+0.49%、QQQ+1.02%、SPY+0.74%。AAPL+1.02%、NVDA+1.34%、TSLA+4.65%、META+0.30%、MSFT+0.92%。半导体与AI方向隔夜收涨,权重上调一档。 3、20日强势方向与隔夜方向重叠:半导体(20日+24.09%,昨+3.23%)、AI算力软件(20日+15.49%,昨+1.93%)、创新药基因(20日+14.41%,昨+1.56%)、交通运输航运(20日+4.21%,昨+1.02%)、机器人机械(20日+3.82%,昨+2.23%)。重叠方向为最高权重。 4、美股大涨但A股对应板块位置判断:A股创新药已在窗口内大涨(港股通创新药ETF嘉实昨+3.97%),需检查是否远离5日线。A股半导体设备尚未启动,位置相对安全。A股航运已走强(船舶ETF富国昨+0.21%),涨幅温和。 四、韩日开盘映射 1、韩国KOSPI:7003.74(-1.09%)。日经225:68309.46(+3.69%)。数据抓取时间为北京时间12:15,韩日已开盘。 2、韩国看存储、半导体设备、面板、汽车。KOSPI下跌1.09%,存储与半导体设备方向未提供具体行业数据,无法确认强势。日经225上涨3.69%,日本半导体设备、精密制造、汽车、金融、商社方向未提供具体行业数据,无法确认领涨行业。 3、韩股方向不明确,日股方向不明确。无法据此提高或降低A股对应方向权重。 4、韩日方向与隔夜美股一致性:韩国KOSPI下跌与美股上涨背离,日本日经上涨与美股同向。韩日之间也背离。无法定当日最高优先级。 5、韩日数据仅用于确认或否决方向,当前数据不足以确认或否决任何方向。标注为待确认。 五、大盘风险开关 1、指数位置:上证指数3842.19,低于MA5(3864.23)、MA10(3890.23)、MA20(3905.64)。沪深300为4357.62,低于MA5(4400.0)、MA10(4453.2)、MA20(4493.78)。中证500为7435.16,低于MA5(7538.6)、MA10(7651.05)、MA20(7668.85)。中证1000为7298.82,低于MA5(7446.81)、MA10(7558.32)、MA20(7557.2)。全部指数在5日线和10日线下方。 2、沪深300与中证1000强弱:沪深300距MA20为-3.03%,中证1000距MA20为-3.42%。沪深300略强于中证1000,属权重略强、小盘更弱格局。 3、期货升贴水:未获取。 4、涨跌停结构:窗口内涨停溢价、连板高度、跌停家数未获取完整数据。龙虎榜显示多只个股涨停,但无法判断整体结构是否恶化。 5、外盘冲击:隔夜美股收涨,无负面冲击。韩股KOSPI下跌1.09%,日经上涨3.69%,方向背离。原油、汇率数据未获取。 6、环境分:38分。主要指数全部在5日线和10日线下方,小盘弱于权重,韩股下跌背离,科创50当日-2.51%走弱。低于40分,只给观察名单,不给买点。 六、五大机构研报(窗口内) 窗口内(9月28日至9月30日)五大机构研报共8条: 1、华泰证券,2026-10-02,AI链放量推动韩国出口继续攀升。核心观点:AI链高景气和季末出货共同推动韩国9月出口同比攀至83.5%,日均出口同比增长104.7%;狭义AI链(半导体和计算机)贡献约九成出口增长。注:该研报日期为10月2日,在窗口外,但属于近一个月研报库,用于互证。 2、中信证券,2026-09-30,光模块温控正由配套环节升级为性能决定环节。核心观点:800G光模块大规模放量、1.6T进入起量元年,单模块功耗与温控精度要求显著提高,光模块温控形成芯片级精准控温、界面导热、模组级均热三层体系,单模块温控价值量随速率迭代系统性上移。 3、华泰证券,2026-09-30,银行红利配置逻辑延续。核心观点:人民银行调整完善货币政策工具,财政部等部门出台居民购房贷款贴息政策,两组政策协同落地,信贷增长由规模扩张转向提质增效,突出结构优化导向。 4、中信建投,2026-09-30,成本支撑+供给扰动,镍价底部反弹。核心观点:SMM现货1#镍周均价12#.67万元,周环比上涨约1.3%。印尼厄尔尼诺干旱导致IMIP园区RKEF镍铁厂减产,运行负荷降低约30%至40%。 5、中信建投,2026-09-30,集运多数航线运价回落,油运运价延续强势。核心观点:SCFI周环比持平,多数远洋航线运价回落。美西、美东小幅调整,欧洲及地中海继续下跌,南美跌幅扩大,东南亚延续上涨。油运运价延续强势。 6、中信证券,2026-09-29,预计2027年春节前后房价会在较为广阔的范围内止跌回升。核心观点:政策仍将积极提振需求,供求共同发力推动房价止跌回升。现房销售政策基本根除交付风险,增强消费者信心。 7、华泰证券,2026-09-29,医美产业链格局重塑,关注结构性机遇。核心观点:上游产品扩容、中游平台加速市场教育、下游龙头机构推进整合,行业增量在于以价换量。 8、中信建投,2026-09-29,Meta Muse加速智能体商业化,云栖大会强化全栈AI布局。核心观点:AI由对话向任务执行升级,有望持续增加推理、工具调用及云资源需求,关注高速光模块、交换机、服务器、液冷与电源等环节。 七、研报互证(近一个月) 1、方向互证: (1)创新药方向 → 月内强支撑 → 支撑研报:中信证券2026-09-10创新药出海渐入佳境,板块进入盈利拐点;中信建投2026-09-24医疗器械板块拐点来临,关注脑机接口、AI医疗等主题投资机会;华泰证券2026-09-29医美产业链格局重塑,关注结构性机遇。多家机构指向同一方向,权重上调一档。 (2)房地产方向 → 月内强支撑 → 支撑研报:中信证券2026-09-29预计2027年春节前后房价会在较为广阔的范围内止跌回升;中信建投2026-09-23上海楼市已止跌回稳,深圳、北京、广州大概率渐次跟上;华泰证券2026-09-30银行红利配置逻辑延续(涉及购房贷款贴息政策)。多家机构指向同一方向,权重上调一档。 (3)半导体设备/材料方向 → 月内强支撑 → 支撑研报:中信建投2026-09-22半导体设备零部件国产化斜率最高方向;中信证券2026-09-15洁净室头部企业半导体相关订单大幅放量,半导体设备需求有望跟进;华泰证券2026-10-02 AI链放量推动韩国出口继续攀升(涉及半导体)。多家机构指向同一方向,权重上调一档。 2、主选股互证: (1)港股通创新药ETF嘉实(sh520970)→ 月内强支撑 → 支撑研报:中信证券2026-09-10创新药出海渐入佳境,板块进入盈利拐点;中信建投2026-09-24医疗器械板块拐点来临。权重上调一档。 (2)滨江集团(002244)→ 月内强支撑 → 支撑研报:中信证券2026-09-29预计2027年春节前后房价会在较为广阔的范围内止跌回升;中信建投2026-09-23上海楼市已止跌回稳。龙虎榜显示9月30日机构净买入1.93亿,4家机构买入。权重上调一档。 (3)北方华创 → 月内强支撑 → 支撑研报:中信建投2026-09-22半导体设备零部件国产化斜率最高方向;中信证券2026-09-15洁净室头部企业半导体相关订单大幅放量。权重上调一档。 3、被研报否掉的方向或个股: (1)集运方向:中信建投2026-09-30集运多数航线运价回落,油运运价延续强势。集运运价回落与船舶ETF富国走强逻辑相悖,集运方向被研报否掉。油运方向获研报支撑,但A股油运个股未在窗口内龙虎榜出现机构净买入,暂不入选。 (2)镍方向:中信建投2026-09-30成本支撑+供给扰动,镍价底部反弹。但A股镍主题未进去重榜前10,且无对应ETF映射,暂不入选。 (3)医美方向:华泰证券2026-09-29医美产业链格局重塑,关注结构性机遇。但A股医美主题未进去重榜前10,且无美股映射,暂不入选。 4、行情数据与研报观点冲突:无。当前行情数据与研报观点基本一致。 5、权重调整结果:创新药、房地产、半导体设备三个方向均获月内强支撑,权重各上调一档。但环境分38分低于40分,只给观察名单,不触发买入条件。 八、三个方向 1、创新药方向: 映射证据:美股ARKG 20日+14.41%,A股港股通创新药ETF嘉实20日+8.26%,A股原始榜前20中创新药占17席,资金扎堆极强。 催化:中信证券2026-09-10创新药出海渐入佳境,板块进入盈利拐点;中信建投2026-09-24医疗器械板块拐点来临;华泰证券2026-09-29医美产业链格局重塑。 持续性风险:港股通创新药ETF嘉实昨+3.97%,需检查是否远离5日线。若远离5日线超8%至10%,不建议开盘追。 2、房地产方向: 映射证据:A股房地产ETF银华20日+15.49%,去重榜第1。龙虎榜显示滨江集团、万科A、金地集团获机构净买入。 催化:中信证券2026-09-29预计2027年春节前后房价会在较为广阔的范围内止跌回升;中信建投2026-09-23上海楼市已止跌回稳;华泰证券2026-09-30银行红利配置逻辑延续(购房贷款贴息政策)。 持续性风险:房地产ETF银华昨+2.07%,20日涨幅已达15.49%,需检查是否远离5日线。政策落地节奏存在不确定性。 3、半导体设备/材料方向: 映射证据:美股PSI 20日+24.09%、SOXX+17.26%、XSD+16.03%、SMH+14.12%,A股同主题尚未启动。 催化:中信建投2026-09-22半导体设备零部件国产化斜率最高方向;中信证券2026-09-15洁净室头部企业半导体相关订单大幅放量;华泰证券2026-10-02 AI链放量推动韩国出口继续攀升。 持续性风险:A股同主题尚未启动,需等待韩股存储/半导体设备开盘走强确认,或A股龙头放量突破。韩股KOSPI当前下跌1.09%,尚未确认。 九、三个主选股 1、港股通创新药ETF嘉实(sh520970): 基本面一句话:跟踪港股通创新药指数,覆盖港股创新药龙头。 映射与消息触发:美股ARKG 20日+14.41%,A股创新药主题原始榜占17席,中信证券2026-09-10研报支撑。 K线位置:昨+3.97%,20日+8.26%。需检查是否远离5日线。数据未提供5日线具体数值,标注为未获取。 支撑压力:支撑位和压力位数据未获取。 量价:数据未获取。 触发因素:隔夜美股创新药基因方向收涨,研报催化。 概率:中。美股与隔夜同向,研报互证为月内强支撑,但环境分不足,韩日未确认,K线位置数据未获取。 操盘建议:环境分38分,只观察不操作。若竞价高开2%至4%且量能达标可小仓试错;高开超6%不追;开盘15分钟不破支撑且回踩缩量可低吸;跌破支撑则逻辑失效。目标只看前压。单票不超两成仓,总进攻仓不超五成。 2、滨江集团(002244): 基本面一句话:杭州区域房地产龙头,聚焦核心城市住宅开发。 映射与消息触发:房地产ETF银华20日+15.49%去重榜第1,龙虎榜9月30日机构净买入1.93亿,4家机构买入,中信证券2026-09-29研报支撑。 K线位置:9月30日+7.19%。需检查是否远离5日线。数据未提供5日线具体数值,标注为未获取。 支撑压力:支撑位和压力位数据未获取。 量价:9月30日+7.19%,机构净买入1.93亿,上榜2次。量价数据未完整获取。 触发因素:龙虎榜机构买入,研报催化,房地产ETF走强。 概率:中。美股映射不直接对应,韩日未确认,研报互证为月内强支撑,龙虎榜机构买入,但环境分不足。 操盘建议:环境分38分,只观察不操作。若竞价高开2%至4%且量能达标可小仓试错;高开超6%不追;开盘15分钟不破支撑且回踩缩量可低吸;跌破支撑则逻辑失效。目标只看前压。单票不超两成仓,总进攻仓不超五成。 3、北方华创: 基本面一句话:国内半导体设备龙头,覆盖刻蚀、薄膜沉积、清洗等环节。 映射与消息触发:美股PSI 20日+24.09%,A股同主题尚未启动,中信建投2026-09-22研报支撑,中信证券2026-09-15研报支撑。 K线位置:数据未获取。 支撑压力:支撑位和压力位数据未获取。 量价:数据未获取。 触发因素:隔夜美股半导体方向收涨,研报催化,韩股存储/半导体设备待确认。 概率:中。美股与隔夜同向,研报互证为月内强支撑,但A股同主题尚未启动,韩日未确认,环境分不足。 操盘建议:环境分38分,只观察不操作。若竞价高开2%至4%且量能达标可小仓试错;高开超6%不追;开盘15分钟不破支撑且回踩缩 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 更多更即时更聚焦信息请订阅: ━━━━━━━━━━━━━ ⭐️⭐️⭐️ 华尔街观察团队 | WSV量化模型 | 不构成投资建议 | 投资有风险 ⭐️⭐️⭐️
显示更多
投机解码的 drafter 从来都是一个 token 一个 token 地猜。做出 DFlash 的推理公司 Inco AI 说这没必要:正确的 token 本来就在候选列表里,整块并行预测之后挑出一条连贯路径,输出不变,每次验证多赚一个完整的 token。 《DFlash 2:保持并行起草》 推理是 agent 时代的瓶颈。agent 会读、会规划、会调用工具,常常一跑就是几小时甚至几天。它们消耗 token 的速度,是聊天场景从未达到过的。而每一个 token 都要在模型上跑一次完整的前向传播。在 Inco AI,我们在构建一套面向未来 token 经济学的推理栈。这篇文章是一次预览。 我们的团队 1 月发布了 DFlash(论文: SGLang、vLLM、TensorRT-LLM 和 llama.cpp 里。NVIDIA 在 Blackwell GPU 上用它测到了最高 15 倍的吞吐;Google 报告在 TPU 上每秒 token 数提升 3 倍;CoreWeave 生产环境的 Kimi K2.7 Code 端点(Artificial Analysis 上该模型最快的端点)默认就跑 DFlash。生态已经在它之上构建:NVIDIA、Red Hat、Modal 都发布了 DFlash drafter;Meta(Muse Glimmer)、Poolside(Laguna)、小米(MiMo-V2.5-Pro)、NVIDIA(Nemotron 3.5 Lightning)随自家模型发布官方 drafter。在 Hugging Face 上,DFlash 模型被下载了超过 350 万次(截至 2026 年 8 月)。 投机解码是现代推理栈的核心组件之一。一个小 drafter 模型猜出一整块 token,目标模型在一次前向传播里验证整块。猜得好,一次前向变成多个 token;猜得差,丢掉重来。但多年来,起草本身一直是自回归的:一次一个 token。DFlash 让它也变成了一次通过:整块、每个位置,并行预测。 (演示视频:DFlash 2 在 Apple M5 Max 上用 oMLX 为 Qwen3.8-27B 起草,与自回归解码并排对比。 DFlash 2 把并行起草又往前推了一步:每次验证通过多产出 20% 以上的输出,增加的周期延迟只有约 1%,而输出可证明不变。跨基准测试的增益在 16–25%。配合今天发布的 Qwen3.8-27B drafter,SGLang 在 batch size 1 下达到自回归解码 2.7–3.4 倍的吞吐。每个位置独立预测,留下两处空间:选对 token,以及在块的末尾守住准确率。DFlash 2 把这两处都拿了回来,同时没有放弃一次性通过的设计。 现在就能跑 DFlash 2 已经跑在主流推理引擎里。 SGLang: pip install -U "sglang[all] @ git+" python -m sglang.launch_server \ --model-path Qwen/Qwen3.8-27B \ --speculative-algorithm DFLASH \ --speculative-draft-model-path incoai/Qwen3.8-27B-DFlash2 \ --speculative-num-draft-tokens 8 vLLM: pip install -U "vllm @ git+" vllm serve Qwen/Qwen3.8-27B \ --speculative-config '{ "method": "dflash", "model": "incoai/Qwen3.8-27B-DFlash2", "num_speculative_tokens": 7 }' llama.cpp: git clone cd llama.cpp git fetch origin pull/27342/head:pr-27342 git switch pr-27342 NVIDIA CUDA cmake -B build -DCMAKE_BUILD_TYPE=Release -DGGML_CUDA=ON cmake --build build -j Apple Silicon cmake -B build -DCMAKE_BUILD_TYPE=Release -DGGML_METAL=ON cmake --build build -j ./build/bin/llama-server \ -hf ggml-org/Qwen3.8-27B-GGUF:Q4_K_M \ -hfd incoai/Qwen3.8-27B-DFlash2-GGUF:Q4_K_M \ --spec-type draft-dflash \ --spec-draft-n-max 7 oMLX:下载安装支持 DFlash 2 的预构建版( 在 oMLX 里跑 Qwen3.8-27B 加 DFlash 2: 1. 打开 oMLX 的 Model Downloader,下载 mlx-community/Qwen3.8-27B-4bit 和 incoai/Qwen3.8-27B-DFlash2。 2. 打开 Model Manager,编辑 mlx-community/Qwen3.8-27B-4bit,配置 DFlash: • DFlash:enabled • Draft model:incoai/Qwen3.8-27B-DFlash2 • Draft quantization:enabled • Runtime block size:5 • Verify mode:dflash 3. 保存设置,加载目标模型。 对的 token 早就在候选里 DFlash 每个位置独立、并行地预测。每个选择单独看都合理,但没有什么让它们彼此咬合,一个不连贯的块会在验证时被截断。近期的方法如 Domino 和 DSpark,用顺序的 Markov head 重写每个位置的完整词表分布来买连贯性。但真的需要这种昂贵的自回归纠错吗? 不需要。证据就在 DFlash 自己的候选列表里。拿第一个位置来说:DFlash 的第一选择 85.4% 的情况下是对的,但正确的 token 99.5% 的情况下都在前 16 个候选里。即使第一选择错了,对的 token 通常也在列表上。 表 1:Recall@1(第一选择正确的概率)与 Recall@16(正确 token 出现在前 16 候选里的概率),按起草位置统计,条件是前面每个位置都正确。GSM8K 上的五层 Qwen3-4B DFlash。接受长度包含验证器产出的下一个 token。 • 位置 0:Recall@1 85.4%,Recall@16 99.5% • 位置 1:80.3%,97.3% • 位置 2:79.4%,94.8% • 位置 3:78.3%,92.6% • 位置 4:77.5%,90.8% • 位置 5:75.9%,89.4% • 位置 6:72.9%,87.8% • 接受长度:4.27(只看第一选择);6.79(从前 16 里选) 一个总能从前 16 个候选里挑对的那个 oracle,会把接受长度从 4.27 抬到 6.79。这个差距是纯粹的选择空间。我们只需要在候选里选出一条正确的路径。 图 1:一个周期里的选择器。只用 DFlash,每个位置保留自己的第一选择;这里两个相邻位置选了同一个词,结巴在验证时死掉。DFlash 2 保留每个位置的 top 候选,选择器在候选之间走出一条连贯路径;这里整块都活了下来。 一个轻量的路径选择器 连贯性大体是局部的:一个候选合不合适,主要取决于它前面的那个 token,所以给相邻对打分应该就够了。DFlash 2 保留每个位置前 16 个候选,给每一对相邻候选打分。对前一个 token a 和当前候选 b: S_t(a,b) = U_t(b) + ⟨A(a)⊙H(h_t), B(b)⟩ 分数分两部分。第一部分 U_t(b) 是 DFlash 自己的 logit:drafter 本身有多喜欢 b。第二部分问 b 接在 a 后面有多顺:A 和 B 给每个 token 一个紧凑的 256 维嵌入,两个嵌入在一个上下文门控 H(h_t) 下匹配,门控决定匹配的哪些部分算数。本质上,这是对相邻候选做的低秩双线性注意力。 打分全程并行。每个位置的每一对相邻候选一次性全部算完,不需要额外的 backbone 或 LM head 前向。唯一串行的部分,是最后在预计算好的分数上走一遍:从最后一个已验证 token 出发,贪心地跟着每一步最好的后继走,采样从同样的分数里抽取,拒绝采样恢复出精确的目标分布。 表 2:只加路径选择(不加卷积)的接受长度,GSM8K 上的五层 Qwen3-4B。开销相对纯 DFlash:drafter 增加的参数、起草-验证周期增加的延迟。 • DFlash:T=0 下 4.27,T=1 下 3.78 • + DSpark 纠错:+77.8M 参数,+9.6% 延迟;4.49,4.08 • + 路径选择(我们的):+2.0M 参数,+0.6% 延迟;4.61,4.25 选择器在 T=0 下给 DFlash 加 0.34 个 token,T=1 下加 0.47。两个设置下都超过 DSpark 的纠错,参数少约 40 倍,延迟开销低 16 倍。选择比预测便宜。而且还有空间:oracle 能到 6.79。成对打分是我们能想到的最简单的选择器,我们相信这里还有很多可探索的。 后缀衰减是个局部问题 我们还注意到上面两行 recall 都在块尾下滑。连 oracle 都在衰减:即使选择完美,准确率仍然从第一个位置的 99.5% 掉到最后一个位置的 87.8%。没有选择器能修这个,因为候选自己就不够了。我们把这个叫后缀衰减,它是 backbone 的问题。 一个嫌疑是容量:五层 backbone 可能太小,撑不住横跨整块的依赖。如果真是这样,深度应该在靠后的位置帮上最多的忙。事实也如此:3 层、5 层、15 层的 DFlash 模型在第一个位置上几乎一样,越往块尾分得越开。但深度不加区分:多十层 attention block 到处加容量,连那些没什么可赚的靠前位置也加,把 DFlash 吸引人的那部分效率磨掉了。 图 2:GSM8K 上 Qwen3-4B 的 Recall@1(T=0),条件是前面每个位置都正确。所有 drafter 在相同设置下训练;卷积模型评估时不带选择器。它的卷积增加 3% 参数和 0.7% 周期延迟;15 层模型多出的十层增加 15.2%。 我们要一个有针对性的修法,而 DFlash 的 attention 指出了修哪里。它有两份工作:读块之前的上下文,以及建模块内部的依赖。但它在第二份上花的越来越少:块内注意力占比从第 1 层的 30% 掉到第 5 层的 8%,剩下的还集中在越来越少的一小撮 head 里。所以我们把两份工作拆开:一个专用模块承担块内工作,attention 继续读上下文。 图 3:五层 Qwen3-4B DFlash 的块内注意力按 head 分布。越亮的格子代表在起草块上花注意力越多的 head;靠后的层里,块内质量收缩、集中到少数几个 head。 一个轻量的局部卷积 块内工作本来就是短程的:一个块只有 4 到 16 个 token,最紧的依赖坐在相邻位置之间。自然的算子是短卷积:两个抽头,一个在当前位置,一个够到前一个位置,权重随内容自适应。跟随 Canon Layers、Dynamic Short Convolutions 和 Convolution for Large Language Models 的做法,我们在每个 attention 和 feed-forward 子层前后插入这个双抽头动态深度卷积: Conv_k(x)_t = k_{t,0}⊙x_t + k_{t,1}⊙x_{t-1} 每个系数由一个可学习的基核加上从当前隐藏状态算出的一个小修正组成;每 16 个通道共享一个修正。第一个位置读最后一个已验证 token 的表示,之后的每个位置读它前一个的。信息穿过整块,同时所有位置仍然并行计算。 图 4:双抽头动态卷积。每个 drafter 层的每个 attention 和 MLP 子层前后各有一个。内部:每个位置把自己的表示和前一个的混合;第一个位置读最后一个已验证 token。 卷积是块局部的、无状态的,所以能无缝插进 DFlash,不用动 attention、LM head 或验证。 只加 16.5M 参数(3%),带卷积的五层 DFlash 就逼近了 15 层 DFlash,大幅减轻后缀衰减。卷积给起草-验证周期延迟加 0.7%;多十层 Transformer 层加 15.2%。第 4、5 层的平均块内注意力从 9.4% 降到 0.5%,与卷积吸收局部工作、attention 回到读上下文一致。一个只够到前一个位置的核,买回了十层额外层的大部分收益:后缀衰减大体是个局部问题。 合在一起 到目前为止,选择器和卷积是分开测的;下面的完整对比把它们放在一起。DFlash 和 DSpark drafter 是我们在对齐的设置下自己训练的,MTP 随模型发布。 表 3:Qwen3.5-4B 每请求平均接受长度。采样:thinking 开启,温度 1.0,top-p 0.95,top-k 20,presence penalty 1.5,无损拒绝采样。 • GSM8K:MTP 4.78,DFlash 4.99,DSpark 5.69,DFlash 2 6.20 • MATH-500:5.04,5.42,6.20,6.76 • HumanEval:4.84,5.43,5.80,6.28 • MBPP:4.16,4.49,4.96,5.41 • MT-Bench:3.90,4.26,4.77,5.20 • 平均:4.54,4.92,5.49,5.97 DFlash 2 在每项基准上都领先。平均下来,它比 DFlash 多 1.05 个 token(21%),比 DSpark 多 0.48。升级仍然便宜:选择器和卷积加起来,只给五层 DFlash 的起草-验证周期延迟加了 1.3%。 在 MATH-500 上,增益逐位置可见:DFlash 2 到最后一个位置都稳在 86% 附近,而每个基线在块尾都比它低 6 到 9 个点。 图 5:MATH-500 上 Qwen3.5-4B 的条件接受率,采样同上。 两个 drafter,今天发布 我们今天发布两个 DFlash 2 drafter:一个给 Qwen3.8-27B( Meta 的 Muse Glimmer( Qwen3.8-27B,我们对比模型原生的 MTP 路径和一个社区 DSpark drafter。 表 4:Qwen3.8-27B 每请求平均接受长度,模型默认采样、块大小 8,对比原生 MTP 路径和社区 DSpark drafter。 • GSM8K:MTP 5.02,DSpark 4.36,DFlash 2 5.46 • MATH-500:4.72,3.92,5.28 • HumanEval:3.91,3.30,4.39 • MBPP:3.99,3.51,4.79 • MT-Bench:3.74,3.01,4.10 • 平均:4.28,3.62,4.80 对 Meta 的 Muse Glimmer,我们对比随模型发布的官方 DFlash drafter 和一个社区 DSpark drafter。 表 5:Muse Glimmer 每请求平均接受长度,模型默认采样、块大小 16。DFlash 是 Meta 随模型发布的官方 drafter;DSpark 是社区 drafter。 • GSM8K:DFlash 5.43,DSpark 5.45,DFlash 2 6.57 • MATH-500:5.39,5.01,6.56 • HumanEval:4.11,4.33,5.66 • MBPP:3.74,4.02,5.30 • MT-Bench:3.52,3.59,4.42 • 平均:4.44,4.48,5.70 差距很大:在两个模型上,DFlash 2 平均比 DSpark 多出超过一个完整的 token。它也超过每个模型的官方 drafter:Qwen3.8-27B 的 MTP、Muse Glimmer 的 DFlash。换算成吞吐,Qwen3.8-27B 上达到自回归解码的 2.7–3.4 倍,Muse Glimmer 上 3.1–4.6 倍。模型卡( 底线 agent 一个下午写出来的东西,聊天机器人要写一个月,而每一个 token 底下都坐着解码。DFlash 2 以接近自回归解码 3 倍的速度解码,每个 token 约三分之一的算力,输出相同。 七个月里,DFlash 从我们的论文变成了行业标准,超过 350 万次下载。在同一个设计内部,DFlash 2 每次通过多解码一个完整的 token,免费。那还只是服务栈的一个组件。推理离它的地板还很远。 在 Inco AI,我们在构建一套端到端的服务栈,把这个地板继续往下压。DFlash 2 是第一块。两个 drafter 今天发布在 Hugging Face。 如果你在规模化地服务 agent,想在你的栈里评估 DFlash 2,或者想为你跑的模型(包括你自己的微调)要一个 drafter,写信给我们:contact@inco.ai。 我们也在招人。如果你想一起构建这套栈,联系我们。 把候选连起来。起草,继续并行。 脚注:Modal 的 Speculation Is All You Need 指出,投机解码是对低延迟服务最重要的优化。我们是他们工作的超级粉丝,感谢他们自 DFlash 发布以来的支持和讨论。 本文引用格式:@misc{inco2026dflash2, title={DFlash 2: Keep Drafting Parallel}, year={2026}, month={August}, url={ 原文: #DFlash# #投机解码# #LLM推理#
显示更多
0
46
33
2
转发到社区
用即梦 Seedance 2.0 做视频,素材传了一堆,提示词写得模模糊糊,生成出来的镜头总跟想的差一截。 seedance2-skill 是一套帮写 Seedance 2.0 提示词的 Agent Skill,装进 Claude Code、Codex 这类工具,说清想拍什么,它来写提示词。 内容整理自字节官方的使用手册和案例,@ 引用怎么写讲得很细,哪张图做首帧、哪段视频参考运镜,都教了怎么标。 GitHub: 还收了运镜和景别词表,人物一致性、视频延长、音乐卡点、一镜到底、电商展示、短剧这些,一共 12 类场景都有写法。 我觉得最有用的是开头那张素材限制表,图片最多 9 张、视频最多 3 个,写之前先对一遍能少走弯路。 模板库里有产品广告、短剧、舞蹈、风光卡点、仙侠、科普动画 6 个现成模板,经常用即梦做短视频的朋友改改就能用。
显示更多