注册并分享邀请链接,可获得视频播放与邀请奖励。

搜索结果 軽量LLM
軽量LLM 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 軽量LLM 的推特
AI数采看似门槛低,实则是具身智能时代的核心基座;真正的百亿级大机会只属于拥有仿真闭环和底层工程能力的团队,普通人仅能分得执行层的小一杯羹。 数采正从单纯的“劳动密集型外包”转向决定物理AI泛化上限的“基础设施工程”。面对数十倍的高质量数据缺口,行业核心价值正向合成仿真、软硬件协同和数据闭环加速集中。 普通创业者应避开自研仿真等重资本赛道,转而发挥“轻资产、强执行”优势:一方面作为履约节点承接上游外包,用轻量化设备收集真实世界长尾数据;另一方面深耕特种工业、农业等垂直场景 Know-How,通过“采集+初洗+质检”的工程化服务吃下独家私域数据红利。 大家觉得普通人做数采外包这个工作如何?起码在机器人智能领域国内的机会应该是大把的吧,VLA技术路径天然有泛化问题,所以需要更多的数据进行强化训练,而且是多轮多迭代类型的,每次的数据可能还有些不同(例如拿不同的锅炒同样的菜),感觉就像当年个Scale AI赋能智驾和后面LLM大模型训练一样的道理,只是这个数据量还要大很多很多!
显示更多
比特币白皮书第一句话写的是Bitcoin: A Peer-to-Peer Electronic Cash System《比特币:一种点对点的电子现金系统》。 这也是比特币最迷人的地方之一,公开账本,所有交易都在链上。任何人都可以验证。没有黑箱。 但量子时代的讽刺是,公开账本让地址暴露。 中本聪时代的公钥直接写在链上,它们既是比特币公开透明的体现,也是未来量子攻击者最容易翻阅的一份目录。 如同赫兹当年觉得电磁波只是证明马克斯威尔方程的小实验,没想到它会走向无线电、Wi-Fi、手机和量子计算。 中本聪当年选的那种早期交易格式,当然不是为了在 2040 年变成一颗量子炸弹。但历史往往如此,一个早年随手做下的选择,多年后会变成整个世界必须回答的哲学考题。 如果未来比特币的底层签名必须升级到抗量子版本,那些多年不动、公钥已经暴露、又没迁移到新格式的旧地址,社群该不该通过改规则和共识,把里面的币锁住? 比特币遇到了两难问题。 打个比方。我的签名锁在一个保险柜里,这柜子在 2009 年绝对安全,但量子计算现在已经快能照着锁孔配出钥匙了。 不冻结,未来第一个掌握足够强量子计算机的人,就能把中本聪和其他早期地址的币直接拿走,先到先得。 冻结,比特币就得承认一件它最不想承认的事:社群可以靠共识,决定某些币被没收。对很多原教旨派来说,这比量子攻击本身还可怕。 CZ 最近在 Galaxy Brains 播客上的一段讨论,被解读成"CZ 想冻结中本聪的币"。 不过,得说清楚四点: 1. 他没说他本人能冻结中本聪地址。 2. 也没说 Binance 能单方面冻结比特币。 3. 他讲的是一个未来情境,升级完成后旧地址仍不迁移,才谈要不要靠改规则和共识,把这些旧地址的币锁住。 4. 他给的迁移窗口大约半年到一年,给真正的持有人时间搬家,过期没动的币,别留给未来的量子攻击者。 这套思路跟 BIP-361很接近:等比特币有了后量子地址,先禁止往旧的脆弱地址打钱,再在多年后淘汰旧的 ECDSA / Schnorr 签名。 CZ 把开发者社群吵了很久的一个问题摆上台面,当比特币的"不可改变",撞上"底层密码学必须升级",到底谁该让步? 或许,两害相权只能取其轻。 To be or not to be, that is the question 为什么中本聪的币会变成量子问题? 要说这个问题,就先要懂 Bitcoin 的公钥和私钥到底是什么。 Bitcoin 的所有权不是银行账户,不是身份证,也不是密码。本质上是:你能不能用某个私钥,对某个 UTXO 做出有效签名。 私钥像钥匙。公钥像锁。地址像门牌号。 现在,从私钥算出公钥很容易,从公钥反推出私钥几乎不可能。Bitcoin 用的 secp256k1 椭圆曲线签名,安全性就建立在这个不对称上。 但量子计算里有一个东西叫 Shor's algorithm。它不是“算得比较快”而已。它是把问题的数学解法改掉。 量子计算机不是能"同时把所有私钥试一遍"再直接读出答案,这是个常见的误解。它真正的本事在于,量子比特可以同时处在多种状态的叠加里,量子算法能让那些错误的路径互相干涉、彼此抵消,只把正确答案对应的信号留下来、放大。 Shor 算法用的就是这种能力,它把"从公钥反推私钥"这道暴力搜索题,换成了一道"找数学周期和结构"的题,再用量子的方式,把这个隐藏的周期读出来。 用 Bitcoin 的语言说,公钥不是一串无意义的乱码。它是私钥 k 乘上一个椭圆曲线基点 G 得到的结果:Q = kG。传统电脑看见 Q 和 G,想找回 k,基本上像在一个巨大圆环上倒推步数,没有捷径。量子电脑的威胁在于,它不是沿着圆环一步步猜,而是用量子态一次编码很多可能步数之间的关系,再透过干涉把隐藏的周期结构抽出来。这就是“解锁”的真正含义,找到了传统计算看不到的数学侧门。 所以说,更多古典算力只是线性加速,Shor 是算法类别的降维打击。 今天你拿再多闲置手机、GPU、LLM 去跑,对正常生成的私钥,破解是不可能的。但如果未来有足够大的容错量子计算机,已暴露公钥地址的币则不再安全。 中本聪的币之所以敏感,是因为早期比特币有大量最原始的交易格式:公钥直接写在链上,不像后来常见的格式,它至少先把公钥 hash 成地址。 所以在量子风险视角下,中本聪旧币,已经暴露了十几年。公开账本的本意是 Bitcoin 有透明性。到量子时代,变成了攻击目标清单。 也不是说“明天就会被破解” Google 今年 3 月的研究,重点是:用量子计算机破解比特币的签名,需要的资源,比过去估算的低很多。 按他们的测算,未来一台够强的量子计算机,可能只要不到 50 万个量子比特,就能在几分钟内办到,比之前估算的小了大约 20 倍。门槛在快速往下掉。 如果有足够多、足够稳的量子比特,足够长的纠错时间,足够快的运算节奏,以及一个能把整个流程完整跑完的工程系统。 换句话说,现在比特币保险的锁还没被打开,但是开锁工具的图纸变清楚了,尺寸也比以前以为的小很多。 这足以让大户、托管方、ETF 发行方、硬件钱包和比特币核心开发者提前开始准备。 真正的两难:冻结还是被偷走? 想象一个未来的场景:比特币已经有了抗量子地址,大部分活跃用户都迁移了,交易所、托管方、钱包也都支持新格式。 但链上仍躺着一大批没动的旧币,中本聪的币、早期矿工的币、私钥丢了的币、主人忘了或已经去世了,还有那些躺在冷钱包里、一动不动的币。怎么办? 社群有四条路: 1、什么都不做。旧币照样能用旧签名花掉,这最符合比特币不可篡改的精神,但代价是未来的量子攻击者可以把那些暴露的币直接拿走。 2、自愿迁移。提供一种更安全的新地址格式、让大家自己搬过去,阻力最小,但它管不了那些丢失或沉睡的暴露币。 3、强制淘汰。给一个期限、多年后限制旧签名,能降低量子盗币的诱因,但这很像直接冻结别人的财产,一些人肯定不同意。 4、救援机制。允许持有人用额外的证明把旧币救回来,比单纯冻结温和,但技术上非常复杂。尤其是那批最老的 P2PK 旧币,几乎没法设计出一套完美的救援方案。 CZ 支持的是第三种方向:升级后给窗口,未迁移就锁。 有道理吗?本质还是那个难题。什么都不做,等于把币交给第一个有量子能力的人。冻结的话,谁定义危险?谁定义过期?谁定义中本聪地址?谁负责误伤? 比特币不是第一次面对分叉之争了,但这一次和当年的扩容之争不一样。扩容争的是性能和去中心化之间的取舍,而量子迁移要回答"比特币还算不算有效的财产"。Not your key, not your coin 还成立吗? BIP-360 和 BIP-361 不是同一件事,必须把两个比特币提案分清楚。 BIP-360 更像修路。它提供一种新的地址格式,把暴露公钥的那条花费路径去掉,目的是减少长期暴露的风险,为未来的抗量子地址打基础。阻力小,因为是自愿的。你想更安全就搬过去,不搬,暂时也不会作废你的币。 BIP-361 更像设期限。它说,等新格式就位后,旧路不能无限期拖下去:先禁止再往脆弱的旧地址打钱,到了预定时间点,就限制旧签名的转账,同时配一套救援机制。旧路未来会被封死,肯定会引发社区争议。 CZ 的说法更接近 BIP-361 ,而且直接被把中本聪 100 多万枚比特币摆上桌,会引爆情绪。毕竟技术社群说"淘汰旧签名",只会听起来像个程序问题。 中本聪的币为什么是焦点? 量子风险不只针对中本聪,所有公钥已经暴露的币都有风险。 包括最早把公钥直接写在链上的旧币、重复使用过的地址、转账之后露出公钥的地址。较新的地址,在某些转账方式下也会暴露公钥。钱包主公钥外泄,连带一串地址和公钥一起暴露... 很多人根本不会去想,全网有三分之一的比特币曾暴露过公钥。 只要中本聪的币动了,就会变成焦点。一旦突然移动,大多数人的第一反应会是:是中本聪回来了?是私钥被偷了?量子攻击开始了?早期矿工苏醒了?中本聪要砸盘了? 中本聪的100 多万枚比特币,是整个比特币信仰系统里,最大的一颗心理地雷。 CZ 的想法可以这样理解:别等这颗地雷,被第一个量子攻击者踩爆。 但反方会说:你提前拆雷的。你提前拆地雷的方法,本身可能引起爆炸。 那 CZ 有没有道理? 我的判断有四个方面 技术层:有道理,且前提很多。 如果未来真的有了抗量子的地址格式,而且量子计算机成熟的时间点明显在逼近,那设计一个迁移窗口是合理的。大型金融系统本来就会定期更换密码学。美国国家标准与技术研究院定的后量子密码标准、谷歌给自己排的迁移时间表,方向都一样,别等攻击发生了才开始换锁。比特币不该例外。但"冻结"倒不是第一步。顺序是,先做出安全、可用、可审计的抗量子地址;让钱包、交易所、托管方都支持;让普通用户能低成本地试着迁移;让大户能先做一次冷钱包迁移演练;最后,再淘汰旧签名。 产权层:非常危险。 比特币最强的承诺,从来不是"永远不改代码"。它真正的承诺是:有效的私钥,可以拥有对应的币。如果有一天,全网共识说"你有私钥,但太晚了,所以不能用",那在很多人眼里,是被没收了。哪怕动机是防住量子小偷。 治理层:困难重重。 这类方案要落地,需要钱包、交易所、矿工、核心开发者、托管方、大户、ETF 这一整条链上的人同时点头。而比特币的文化,天生就抗拒这种"全网约定某一天一起改"的做法。所以我不会把 CZ 的话解读成"BIP-361 马上要通过"。更合理的理解是,开始有大体量的人物,把这件事从开发者的邮件列表,推到了市场层面。这会让托管方的尽职调查、ETF 的风险披露、企业的金库政策,更早地把量子迁移列为一个标准问题。 投资层:无需恐慌。 今天更现实的风险,仍然是托管、人、流程、交易所、社会工程、假钱包、AI 钓鱼、以及你自己的仓位。量子威胁是有的、重要但不紧急。正确的动作不是恐慌交易,不如盘点自己手里的币;标记每个地址的格式、看公钥有没有暴露;持续跟踪比特币技术社群的进展,等抗量子迁移的工具真正可用了,先小额试一试。 想象一座城市,每户人家的门锁都用了同一种老式机械锁。这种锁在 2009 年非常安全。所有人都相信:没有钥匙,就打不开。 十几年后,人们发现一种新工具,可以根据锁孔形状反推出钥匙。现在工具还没普及,但快了。 城市政府有四种选择: 1. 什么都不做,相信工具永远造不出来。 2. 提供新锁,鼓励所有人自愿更换。 3. 宣布五年后老锁作废,没换的人不能再开门。 4. 设计一种特殊救援流程,让真正屋主即使错过期限也能证明自己是屋主。 最难的是那些多年没人进出的老房子。它们可能是屋主死了,可能是钥匙丢了,可能是屋主刻意隐居,也可能只是屋主不看新闻。 如果城市不管,未来第一个拿到新工具的小偷可以把老房子全开了。 如果城市把老房子全封,那它也等于宣布:房子不是绝对属于钥匙持有人,城市可以为了公共安全改规则。 CZ 只是把这道题提前念了出来。 比特币到底能不能在 不被量子偷走 和 不被没收 之间,找到第三条路? 你觉得应该怎么办?
显示更多
0
49
83
2
转发到社区
Claude Fable 5 是 DeepSWE 记分板上最贵的模型。Together AI 拿它跟全场最便宜的模型各跑了 452 次,给出的用法建议是反过来:贵的当后手。 《DeepSWE 上的 DeepSeek V4 Pro 0813 vs Claude Fable 5:成本、编码与路由》 DeepSWE 上的 DeepSeek V4 Pro 0813 vs Claude Fable 5:成本、编码和路由 要点 • 先跑 DeepSeek V4 Pro 0813,只有它失败时才升级到 Claude Fable 5。这条级联链解决 82.7% 的 DeepSWE 任务,每个任务 8.28 美元。单用 Fable 是 69.7%、每个任务 21.63 美元。高 13 个百分点,便宜 62%。 • Fable 赢第一发。pass@1 69.7% 对 62.8%,领先 7 个点。 • Pro 赢之后每一发。pass@2 打平(78.5% 对 77.1%),pass@4 领先(88.5% 对 84.1%)。 • 价格差 90 倍。每次 rollout 0.24 美元对 21.63 美元。每花 100 美元,Pro 解决 260 个任务,Fable 解决 3 个。 • 它们栽在不同的任务上。逐任务相关性只有 0.39,是我们测过的分歧最大的一对。两者合计覆盖 113 个任务中的 107 个。分歧正是路由能成立的全部理由。 现已上线 · 美国托管:在 Together AI 上运行 DeepSeek-V4 Pro 0813——1.05M 上下文,支持 function calling 和 JSON mode,OpenAI 兼容 API,托管在美国基础设施。查看模型 在我们对 DeepSeek V4 Pro 0813 与 Claude Fable 5 的 DeepSWE 对比中——DeepSWE 是一个跨多种任务类型和编程语言测试模型软件工程能力的基准——这两个模型坐在价格表的两端。Claude Fable 5 的每次 rollout 是 DeepSWE 全榜最贵。DeepSeek V4 Pro 0813 是最便宜的之一。Fable 首发的准确率高 7 个百分点,单次 rollout 却贵 90 倍,所以真正的问题不是哪个模型更好,而是这 90 倍的溢价到底买到了什么、什么时候值得付。 DeepSWE · 正面对决 DeepSeek V4 Pro 0813 vs Claude Fable 5 一览 • claude-fable-5 [max]:pass@1 69.7% ± 2.3%,平均成本 21.63 美元,每 100 美元解决 3 个任务,输出 token 115k,79 步 • deepseek-v4-pro-0813 [max]:pass@1 62.8% ± 3.1%,平均成本 0.24 美元,每 100 美元解决 260 个任务,输出 token 101k,146 步 我们在全部 113 个 DeepSWE 任务上,用 DeepSeek V4 Pro 0813(max)对 Claude Fable 5(max)各跑四次 trial,取自已发布的逐 trial 记录:总计 904 次 rollout(各 452 次)。Fable 是贵价的手艺人;Pro 是性价比上的异类。这两个模型的分歧也大于这套数据里的任何其他组合——结果这成了它们最有趣的地方。下文的每个数字都来自本次运行,所以可能与其他公开的 DeepSeek V4 Pro 0813 vs Claude Fable 5 记分卡有出入。 DeepSWE 记分板:pass@1 与 pass@k 单发,Fable 领先:pass@1 69.7% 对 Pro 的 62.8%(官方计分)。但这个领先很脆弱。两次尝试时 Pro 追平(78.5 对 77.1),四次尝试时 Pro 的 pass@4 88.5% 比 Fable 的 84.1% 高出 4 个多百分点。对一个贵 90 倍的模型来说,Fable 既没有守住天花板,也没有在重试下保住首发优势。更便宜的模型覆盖更广,best-of-k 也更高。 成本对比:DeepSeek V4 Pro 0813 vs Claude Fable 5 的价格 每次 rollout 0.24 美元,DeepSeek V4 Pro 0813 比 Fable(21.63 美元)便宜 90 倍:每 100 美元解决 260 个任务,Fable 只有 3 个。这是我们测过的所有组合里最宽的成本差距,Fable 也是榜单上最贵的单个配置。而且与直觉相反,低价格没有带来速度惩罚:Fable 的中位 rollout 31 分钟,Pro 35 分钟,基本持平——因为 Fable 是榜单上话最多的模型(115k 输出 token),尽管它的步数更少(79 对 146)。Pro 走的步数多;Fable 每步写得多。两个模型谁也没有明显更快。 失败模式:两个模型分别怎么错 两者在「不破坏东西」上都算自律:DeepSeek V4 Pro 0813 和 Fable 各自只在 11% 的失败里回归了现有测试套件,远低于 GPT 家族的 20%。差别在另一个方向:Fable 的大偏差失误占比是这里最高的(18% 对 Pro 的 10%),也就是说 Fable 一旦错,更常是错得离谱——给出离题很远的方案,而不是差一个边界用例。Pro 更多时候倒在离正确答案不远的地方(66% 的近似失手,对 Fable 的 57%)。所以两者都可以不加重度回归门禁就放心接入,但 Fable 的失手是调试成本更高的那种。 按任务类型,各自赢在哪 Fable 的手艺体现在推理重、契约精确的领域:8 个领域里它赢 6 个,领头的是数据建模与序列化(88%,比 Pro 高 24 个点)和语言内部机制(78)。但 DeepSeek V4 Pro 0813 拿下两个,两个都分量不轻:有状态响应式(66 对 64),以及——更有说服力的——并发与持久化(58 对 45):在恰恰是 Fable 最弱的领域里领先 13 个点。Fable 在并发上的 45% 是它最弱的格子,也是唯一一个便宜模型不只是更便宜、而是工程师水平更高的领域。 按编程语言 Fable 赢下五种语言里的四种,但真正对得起它价格的是 Rust:85% 对 Pro 的 65%,20 个点的差距,也是这场对决里最大的一处差距。Fable 显然是序列化和 Rust 专家。其他语言都比价格暗示的接近(Python 70 对 60,Go 71 对 67,JavaScript 75 对 65),DeepSeek V4 Pro 0813 则实际拿下 TypeScript(61 对 57)。Rust 和序列化之外,付 90 倍价格的理由很难成立。 这两个模型到底有多不一样? 亮点在这里。逐任务相关性只有 0.39,是我们测过的 DeepSeek-Pro 组合里最低的——这两个模型是真心意见不合。它们各自解决了 88 个任务;Pro 单独拿下 12 个,Fable 单独拿下 7 个,只有 6 个任务两边都栽。两者的并集覆盖 113 个任务中的 107 个(94.7%),而且分歧是双向的:DeepSeek V4 Pro 0813 在 awilix-async-container-initialization 上四发四中,Fable 一次没成;Fable 在四个 Pro 全挂的任务上四发四中(包括 koota-query-predicates 和 testem-bail-on-test-failure)。这是真正的互补,不是冗余。 在两者之间路由:组合打法 多样性加上价格差,让级联变得很划算。先跑 DeepSeek V4 Pro 0813,只有测试套件否决答案时才升级到 Fable:82.7% 的解决率,每个任务 8.28 美元。比单用 Fable(69.7%)高 13 个百分点,价格不到 Fable 单任务价格(21.63 美元)的一半。廉价的第一阶段清掉大部分队列,Fable 的溢价只花在难啃的剩余任务上,而且那些任务在上面还多获得一次独立的尝试。级联甚至赢过完美的一次性 oracle 路由(78.8%)。顺序不是可选项:Pro 先行每个任务 8.28 美元,Fable 先行 21.71 美元,准确率一样。 这意味着什么 Fable 5 是这张榜单上最难被当作默认模型的:最贵的一次 rollout 遥遥领先,首发优势被重试抹平,四发也没有天花板优势。只为两件事买它:Rust(85%)和序列化密集的工作(88%)——只有在这里它的质量才真正对得起价格。 DeepSeek V4 Pro 0813 是相反的画像:首发准确率接近 Fable,天花板更高,失败画像持平或更好,便宜 90 倍——尽管它在 Rust 和契约精确的领域让位。而因为两者是我们测过最多样的一对,Fable 最好的用法不是当默认,而是躲在低成本的 Pro 第一阶段后面做选择性升级,只在那少数真需要 Rust 或序列化专家的任务上付费。 现已上线 · 美国托管:在 Together AI 上运行 DeepSeek-V4 Pro 0813——1.05M 上下文,支持 function calling 和 JSON mode,OpenAI 兼容 API,托管在美国基础设施。查看模型 数据表:DeepSeek V4 Pro 0813 vs Claude Fable 5 完整结果 DeepSWE · 完整结果 • Pass@1(官方计分):Pro 62.8%,Fable 69.7% • Pass@1(错误计为失败):62.8%,67.3% • Pass@2 / pass@4:78.5 / 88.5%,77.1 / 84.1% • 覆盖率 / 可靠性:88.5 / 71.0%,84.1 / 82.0% • 四发四中 / 全挂:35 / 13,56 / 18 • 每次 rollout 成本 / 总成本:0.24 美元 / 109 美元,21.63 美元 / 9,346 美元 • 每 100 美元解决数:261,3 • 中位分钟 / 步数:35 / 146,31 / 79 • 中位峰值上下文 / 输出 token:232k / 101k,202k / 115k • 失败构成(近似 / 大偏差 / 回归):66% / 10% / 11%,57% / 18% / 11% • 赢下的领域(共 8 个):2(有状态、并发),6 • 赢下的语言:1(TypeScript),4(Rust 大胜) • 逐任务相关性 / 并集(两模型合计):0.39 / 113 中的 107(94.7%) • Pro → Fable 级联(准确率 / 成本):82.7% / 8.28 美元(单用 Fable 69.7% / 21.63 美元) • 单发 oracle 路由:78.8% • 基础设施错误:0,16 FAQ DeepSeek V4 Pro 0813 比 Claude Fable 5 更好吗? 看指标。Claude Fable 5 赢 DeepSWE 上的单次尝试质量(pass@1 69.7% 对 62.8%),四发四中的任务也更多(56 对 35)。DeepSeek V4 Pro 0813 在 pass@2 追平、pass@4 反超(88.5% 对 84.1%),且每次 rollout 便宜 90 倍,所以在大批量或容忍重试的 agent 工作里,它是更强的性价比之选。 DeepSeek V4 Pro 0813 比 Claude Fable 5 便宜多少? 在我们的运行里,DeepSeek V4 Pro 0813 每次 rollout 0.24 美元,Claude Fable 5 满血档 21.63 美元,约便宜 90 倍。按解决的任务算,Pro 每 100 美元解决 260 个,Fable 是 3 个——每美元的产出大约差 80 倍。 编码该用 DeepSeek V4 Pro 0813 还是 Claude Fable 5? 大多数编码工作,两者的差距比价格暗示的小。Claude Fable 5 领先 Rust(85 对 65)、Python、Go 和 JavaScript,赢下 8 个领域中的 6 个,领头的是数据建模与序列化。DeepSeek V4 Pro 0813 拿下 TypeScript(61 对 57)、有状态响应式,以及并发与持久化(58 对 45)——那正是 Fable 最弱的领域。 要不要在 DeepSeek V4 Pro 0813 和 Claude Fable 5 之间做路由? 要,前提是你能验证结果。两者是我们测过的所有组合里逐任务相关性最低的(0.39),合计覆盖 113 个任务中的 107 个。先跑 DeepSeek V4 Pro 0813,当测试套件否决输出时升级到 Claude Fable 5,能达到 82.7%、每个任务 8.28 美元——赢过单用 Fable,也赢过完美的一次性 oracle 路由。 DeepSWE 的 pass@k 是什么? pass@k 衡量一个任务在 k 次尝试中是否至少有一次通过隐藏测试套件。pass@1 奖励一次做对;更高的 k 奖励能在多次尝试后最终到达方案的模型。DeepSeek V4 Pro 0813 的优势随 k 增大而扩大。 原文: #DeepSWE# #AI编程# #LLM评测#
显示更多
让 AI 读代码,最怕一股脑塞进去 token 烧爆还理解的不准。 这 5 个工具帮你把代码整理成 AI 好读的格式。 1、Repomix — 整个仓库打包成一个文件,26.7k star 一条命令把项目压成一份对 AI 友好的文本,直接丢给 Claude 或 GPT 让它读懂全局,不用手动复制粘贴几十个文件。 2、cocoindex-code — 给代码库建语义索引,2.3k star 用 AST 给代码建索引,coding agent 要找哪段逻辑它精准捞出来喂过去,官方实测省 70% token 能以 Skill 或 MCP 接进 Claude、Codex、Cursor。 3、gitingest — 把 GitHub 链接变成 AI 可读文本,15.0k star 任意仓库网址里的 hub 改成 ingest,立刻得到一份适合喂模型的提取结果,看别人项目时尤其方便。 4、files-to-prompt — Simon Willison 写的拼接工具,2.8k star 把一个目录的文件拼成一个 prompt,专为喂 LLM 设计,轻量到极致,搭命令行工作流很灵。 5、code2prompt — 代码库转单个 prompt,7.4k star 带上源码目录树一起生成 prompt,让 AI 既看到代码又看到结构,理解项目更准。 让 AI 在大项目里干活,既快又不烧钱。
显示更多
冷知识,RAG 技术的演进路径 ① 2020 — 基础 RAG(解决"知识不在模型里") 起点是 Lewis 等人的 RAG:DPR 稠密检索 + 向量相似度 + 生成。它第一次让 LLM 能"外接知识库",缓解幻觉和时效性问题。但这代是"无脑检索"——先把所有文本切成 chunk 做向量索引,查询时取 top-k 就完事。痛点:chunk 彼此孤立、检索粗糙、对复杂问题无力。这正是所有分支要解决的问题。 ② 2022–2023 — 检索精度升级(更准) ColBERTv2:把"单向量"改成 token 级多向量 + MaxSim 延迟交互,匹配更细;残差压缩把存储降 6–10 倍。检索器本身从"粗"变"准"。 Modular RAG:意识到 RAG 不该是固定管道,而是一堆可编排模块(检索/重排/生成),像乐高一样组合。架构开始"模块化"。 ③ 2023–2024 — 反思纠偏 + 结构增强(更准、更懂关系) Self-RAG / CRAG:给系统装"质检员"——Self-RAG 用反思 token 自己决定要不要检索、内容对不对;CRAG 用轻量评估器三路径纠正(正确用/错误重写或联网/模糊混合)。解决了"检索到垃圾也不知道"的问题。 RAPTOR:用递归摘要树组织文档,适合全局性、多跳、总结类问题。 GraphRAG / LightRAG / HippoRAG2:把文本抽成实体–关系知识图谱,用图谱做多跳推理(Microsoft GraphRAG 用 Leiden 社区摘要;HippoRAG 用个性化 PageRank)。这是"结构化知识"路线,但全量图谱构建很贵。 ④ 2024–2025 — 路由与成本优化(更省) Adaptive RAG:按查询复杂度动态路由——简单问题直接 LLM 答、复杂问题才走多步检索。 LazyGraphRAG:把社区摘要延迟到查询时才算,索引成本降到 GraphRAG 的 0.1%。 长上下文路由:2M token 窗口出现后,结论是"不替代 RAG,而是分工"——简单查走 RAG(几分钱),复杂多跳走长上下文,视觉文档走 ColPali。GraphRAG-Bench(ICLR 2026)给出经验法则:图的价值随查询复杂度上升。 ⑤ 2025–2026 — 自主智能体 + 强化学习(更自主) Agentic RAG:让 AI agent 动态决定"用什么工具(向量库/网页/API/SQL)、查几轮、怎么合成"。 Search-R1 / DeepRetrieval / DeepResearcher / MCTS-RAG:用 RL 端到端训练 LLM 学会"何时搜、搜什么"。Search-R1 在 Qwen2.5-7B 上比普通 RAG 提升 41%;DeepRetrieval 直接以检索指标(recall@k、NDCG)为奖励优化查询;MCTS-RAG 把蒙特卡洛树搜索融进推理。这是从"固定流程"走向"会自己找信息的智能体"。
显示更多
0
37
101
20
转发到社区
推荐这份清单,几个新出的 TTS 和实时语音工具。 首个专门的开源 TTS 模型来了,WebRTC SDK 也开源了——从模型到基础设施,都有东西在动。 Voice Agent 领域的几个新发布和工具。 1. Qwen3-TTS(新) 阿里 Qwen 团队发布的开源 TTS 模型。目前细节不多但值得标记——Qwen 系列在语音方向上的第一个专门 TTS 模型,不再是通用 LLM 的附加功能。 GitHub: 2. MOSS-TTS / MOSS-TTS-Nano OpenMOSS 团队发布的两个 TTS 模型。Nano 版本主打轻量和本地部署,适合嵌入式和边缘设备场景。 GitHub: 3. LLMRTC — 开源实时语音/视觉 Agent SDK 纯 TypeScript 的开源 SDK,用于构建实时语音和视觉 AI agent。基于 WebRTC,直接支持浏览器端和 Node.js。适合想自己搭建类似 ChatGPT Voice Mode 或 Gemini Live 体验的开发者。 GitHub: 4. Building Enterprise Realtime Voice Agents from Scratch 一篇从零构建企业级实时语音 Agent 的技术教程。覆盖了 WebRTC 信令、STT 选型(Whisper vs Deepgram vs 自建)、LLM 延迟优化、TTS 流式输出、以及生产环境的断线重连和状态恢复。 5. Voice Agent Latency Optimization 最佳实践 社区维护的语音 Agent 延迟优化指南。核心发现:端到端延迟的主要瓶颈往往不在模型推理,而在 audio chunking 策略和 VAD(Voice Activity Detection)参数调优。一个常被忽略的优化点是服务端音频缓冲区大小——默认 20ms 的帧长在某些网络条件下会导致不必要的等待。 GitHub:voice-agent-examples #VoiceAgent# #TTS# #WebRTC#
显示更多
我尼玛可以哟,同样跑 Agent 任务成本砍到 1/9——OpenSquilla,6134 个 Star!0.5.0 Preview 4,微内核 AI Agent。 一句话:本地模型路由器把每一轮对话分给“够用且最便宜”的模型,同预算换更高智能密度。 核心不是又一个聊天壳,而是把 Agent 运行层做成了省 token 的 harness: (1)SquillaRouter 本地路由——LightGBM + ONNX 分类器在本地给每轮打分,按 C0-C3 层级选模型,路由判断不把 prompt 送出机器。 (2)自适应推理和 Prompt——简单任务轻量处理,复杂任务才开扩展推理和完整系统提示,尽量不把 token 浪费在废话上。 (3)20+ LLM 提供商——OpenAI、Anthropic、OpenRouter、Ollama、DeepSeek、Gemini、Qwen/DashScope 等都能接,主备选择不动代码和配置结构。 (4)技能按需加载 + MCP——15 个内置技能用到才加载;既能当 MCP client,也能跑成 MCP server。 (5)本地持久记忆——MEMORY.md + 日期 Markdown 笔记,SQLite 全文搜索和 sqlite-vec 语义召回,embedding 可走本地 ONNX。 (6)分层安全沙箱——Standard/Strict/Locked 三档权限矩阵,Linux 用 Bubblewrap,macOS 走 Seatbelt,敏感操作可接人工审批。 它把 Web UI、CLI、聊天频道都接到同一个 TurnRunner,工具分发、重试、决策日志行为一致;还有会话/子代理/定时任务、成本统计,适合长期跑 Agent 工作流。 官方 PinchBench 1.2.1 的 25 个任务里,OpenSquilla 平均分 0.9251、总成本 ;对照是、6.233。分数几乎贴住,成本差了一个数量级,这就很牛逼了。 支持 Windows、macOS、Linux;可桌面安装、终端安装,也能从源码跑。适合想用 Agent 干活、但不想每轮都硬烧顶配模型预算的兄弟。 好东西转给需要的兄弟。🚀 #AIAgent# #开源工具# #老杨啊分享#
显示更多
MSR Memora:一个解耦"存什么"和"怎么取"的 agent 记忆系统 问题: 现有 agent 记忆系统在抽象和具体之间无法兼得。RAG/Mem0 保留细节但碎片化;摘要压缩高效但丢失约束和数字。知识图谱需要预定本体论,不跨域。 核心洞察: 记忆内容可以保持丰富(时间线、多轮讨论),但检索走一条独立的轻量结构层。 架构: 每条记忆两个部分。Primary abstraction——6-8 词的短语(what this memory is about),嵌入做相似搜索。Memory value——完整内容,永远不直接通过内容检索。Cue anchors——从 value 里提取的短标签,提供替代检索路径,不需要本体论。 例子:"Dave 和 Sarah 同意原型 4/1、试点 5/2、MVP 5/30"。Primary abstraction = "Updated Project Orion timeline agreed by Dave and Sarah"。Cue anchors = "Dave Project Orion update"、"Project Orion prototype schedule"等。后续查询 Dave 的贡献、原型进度、试点时间,都能通过不同 cue 到达同一条记忆。 检索: 不是一次性 top-k。Policy-guided retriever 迭代精化查询、通过 cue anchors 扩展、决定何时停止。可以蒸馏到小模型。 结果: LoCoMo 86.3%,LongMemEval 87.4%,SOTA。比 RAG、Mem0、Zep、LangMem 全高。多跳推理上差距最大。token 消耗减少 98%(vs 完整上下文)。存储条目数约 Mem0 的一半(344 vs 651)。 代码: | ICML 2026 #Agent记忆# #MSR# #LLM#
显示更多
终端编程 Agent(最接近 Claude Code) 1. OpenCode ⭐ 165k+ - 协议: MIT | 语言: Go/TypeScript - 免费: 完全免费开源,支持 75+ LLM 提供商 - 特色: - 事实上的开源 Claude Code 替代品 - 本地优先架构,支持本地模型(Ollama 等) - Provider-agnostic:同一会话可切换 Claude/Gemini/GPT/本地模型 - 精美 TUI 界面,支持桌面端和 IDE 扩展 - 中国讨论度: 低,国内媒体很少报道 - 🔗 2. Pi ⭐ 54k+ - 协议: MIT | 语言: Python - 作者: Armin Ronacher(Flask/Jinja2 作者) - 免费: 完全免费开源 - 特色: - 系统提示 < 1,000 tokens,极简设计 - "Lazy Skills" 机制:技能按需加载 - 专为 fork 和二次开发设计 - 增长速度惊人(短时间内突破 54k stars) - 中国讨论度: 极低 - 🔗 3. Crush ⭐ 25k+ - 协议: FSL(2年后转MIT)| 语言: Go - 团队: Charm(Bubble Tea 团队) - 免费: 免费使用 - 特色: - 终端美学标杆,极其流畅的 TUI - 多模型支持,会话中可切换模型 - 原生 LSP 和 MCP 支持 - 适合追求终端体验的开发者 - 中国讨论度: 低 - 🔗 4. Qwen Code ⭐ 25k+ - 协议: Apache-2.0 | 语言: TypeScript - 免费: 免费,配合 Qwen 模型有免费额度 - 特色: - 阿里巴巴出品,Gemini CLI 的开源 fork - Gemini CLI 6月停服后,这是其开源延续 - 专门优化 Qwen-Coder 模型 - 国内用户访问友好 - 中国讨论度: 中等(但远低于其价值) - 🔗 --- 通用 Agent 框架 5. OpenClaw - 协议: 开源 | 免费: 完全免费,云版待定 - 特色: - 自托管 AI Agent,50+ 原生集成 - 零外部 API 调用,隐私优先 - 连接 Slack/GitHub/Notion 等无需第三方 API - 支持 Docker 部署 - 中国讨论度: 低 - 🔗 6. Agno - 协议: 开源 | 语言: Python - 免费: 开源免费,平台版 $99/月起 - 特色: - 2 微秒 Agent 运行时间,极致轻量 - 内置记忆、存储、多模态工具 - 生产级 Python 框架 - 适合需要高性能的场景 - 中国讨论度: 极低 - 🔗 7. Hermes Agent ⭐ 60k+ - 协议: 开源 - 免费: 开源免费 - 特色: - 2个月内突破 60k stars,增速最快 - 持久多层记忆:长期语义记忆 + 工作记忆 + 情景日志 - 云优先架构,独立于本地设备 - 30天学习期后能理解用户工作模式 - 与小米 MiMo V2 Pro 合作 - 中国讨论度: 中等(小米合作有报道,但产品本身讨论少) - 🔗 --- MCP 生态工具 8. MCPX (IBM) - 协议: 开源 - 免费: 开源免费 - 特色: - MCP 网关,统一管理多个 MCP 服务器 - Tool Groups:不同团队看到不同工具子集 - Agent 访问控制 + 实时 Prometheus 指标 - 支持 Cursor/Claude Code/VS Code/Copilot 等 - 中国讨论度: 极低 - 🔗 9. ContextForge (IBM) - 协议: 开源 - 免费: 开源免费 - 特色: - 联邦化 AI 网关,跨多集群 Kubernetes - 支持 MCP/A2A/REST-to-MCP/gRPC-to-MCP - 40+ 插件 - OpenTelemetry 追踪 - 中国讨论度: 极低 - 🔗 --- 多 Agent 编排 10. Microsoft Conductor ⭐ 新项目 - 协议: MIT | 版本: v0.1.1 - 免费: 完全免费开源 - 特色: - 微软出品,GitHub Copilot SDK + Anthropic Agents SDK - YAML 定义工作流 + Web 仪表板 - 适合企业级多 Agent 场景 - 中国讨论度: 极低 - 🔗 11. Agent Skills (by Addy Osmani) ⭐ 43.8k+ - 协议: 开源 - 免费: 完全免费 - 特色: - 23 个生产级工程技能 - 7 个斜杠命令覆盖完整开发生命周期 - 编码 Google 工程文化(Hyrum's Law、trunk-based development) - 渐进式披露设计 - 中国讨论度: 低 - 🔗
显示更多
推荐这篇文章,Together AI 的 ThunderAgent(ICML 2026 Spotlight)。 把 agent 工作流当成一个"程序"来调度,而非一系列无关的请求——单节点吞吐翻倍,8 节点近线性扩展。 Together AI 在 7 月 29 日发布了 ThunderAgent——一个面向 agentic 推理的高吞吐调度系统。ICML 2026 Spotlight 论文。核心贡献:把 agent workflow 抽象为"程序"而非"一系列不相关的请求"。 问题:KV Cache Thrashing Agent 工作流在两个阶段之间交替:GPU 密集的推理阶段和 GPU 空闲的等待工具返回阶段。当数百个 agent 并发运行时,各自的 KV cache 在每轮不断增长,竞争有限的 GPU 内存。 传统推理引擎(vLLM、SGLang、TensorRT-LLM)按请求级别调度——agent A 暂停等待工具调用时,它的 KV cache 被 LRU 淘汰腾出空间给 agent B 的 prefill。当 A 的工具返回,引擎必须从头重算 A 的整段对话历史,这又淘汰了 C 的 cache。高并发下,这种淘汰和重算的级联反应导致严重的吞吐量和延迟退化——论文称之为 KV cache thrashing。 能通过加 GPU 节点解决吗?不完全。现有多节点路由器(如 SGLang Gateway)把每个 agent 钉在固定节点上以保留 cache 局部性——但 agent 的上下文长度不可预测增长,某些节点被赋予长上下文 agent 导致内存耗尽,其他节点闲置。 能通过 KV cache offloading 解决吗?也解决不了。LMCache 和 HiCache 把 KV cache 卸载到 CPU 内存或磁盘,扩大了总容量但只是延迟 thrasthing。当并发 agent 的工作集超过所有存储层级时,淘汰恢复,同一个恶性循环重现。 ThunderAgent 的解法 ThunderAgent 在 agentic 客户端和推理后端之间插入一个轻量调度层。它将每个 agent 工作流抽象为一个可调度程序(program),追踪其执行阶段、KV cache 占用和节点位置。 Program-level admission control:监控每个节点的内存压力,选择性暂停低优先级工作流,减少竞争 cache 的程序数量。当被暂停的工作流准备恢复时,通过全局等待队列路由到容量最充足的节点。 多节点部署:用全局等待队列替代了基于 session 的静态节点绑定。暂停的工作流恢复时被路由到可用容量最多的节点,在 KV cache 局部性和多节点负载均衡之间取得平衡。 评测 集成在 Together AI 自己的合成数据生成管道里——就是产生 CoderForge 等数据集的那套基础设施。对比 SGLang 默认调度器: 单节点 8×H100(HiCache offloading),batch size 192: • SGLang:吞吐 390 token/s,平均延迟 65s • ThunderAgent:吞吐 803 token/s,平均延迟 10.6s 多节点(2→8 节点): • 近线性扩展,16 GPU 到 64 GPU 吞吐从 671 增长到 2248 steps/min • 加速比随集群规模增大:2 节点 1.79× → 8 节点 2.39× 使用 一个 program_id 字段,OpenAI 兼容 API,直接适配现成的 offloading 和 speculative decoding。已被 SkyRL 和 NVIDIA Dynamo 集成。 GitHub: 论文: #AgentInference# #KVcache# #ThunderAgent#
显示更多