花絮！！ 碧蓝航线信浓cos x Tara so carzy 开了一点点收腰 让我也相机直出一下下嘻嘻 这是花絮花絮 我还要剪辑下！！！ @ToBulaer @ToBuerma @KawasawaSen @BulmaList

推荐这篇文章，Together AI 的 ThunderAgent（ICML 2026 Spotlight）。 把 agent 工作流当成一个"程序"来调度，而非一系列无关的请求——单节点吞吐翻倍，8 节点近线性扩展。 Together AI 在 7 月 29 日发布了 ThunderAgent——一个面向 agentic 推理的高吞吐调度系统。ICML 2026 Spotlight 论文。核心贡献：把 agent workflow 抽象为"程序"而非"一系列不相关的请求"。 问题：KV Cache Thrashing Agent 工作流在两个阶段之间交替：GPU 密集的推理阶段和 GPU 空闲的等待工具返回阶段。当数百个 agent 并发运行时，各自的 KV cache 在每轮不断增长，竞争有限的 GPU 内存。 传统推理引擎（vLLM、SGLang、TensorRT-LLM）按请求级别调度——agent A 暂停等待工具调用时，它的 KV cache 被 LRU 淘汰腾出空间给 agent B 的 prefill。当 A 的工具返回，引擎必须从头重算 A 的整段对话历史，这又淘汰了 C 的 cache。高并发下，这种淘汰和重算的级联反应导致严重的吞吐量和延迟退化——论文称之为 KV cache thrashing。 能通过加 GPU 节点解决吗？不完全。现有多节点路由器（如 SGLang Gateway）把每个 agent 钉在固定节点上以保留 cache 局部性——但 agent 的上下文长度不可预测增长，某些节点被赋予长上下文 agent 导致内存耗尽，其他节点闲置。 能通过 KV cache offloading 解决吗？也解决不了。LMCache 和 HiCache 把 KV cache 卸载到 CPU 内存或磁盘，扩大了总容量但只是延迟 thrasthing。当并发 agent 的工作集超过所有存储层级时，淘汰恢复，同一个恶性循环重现。 ThunderAgent 的解法 ThunderAgent 在 agentic 客户端和推理后端之间插入一个轻量调度层。它将每个 agent 工作流抽象为一个可调度程序（program），追踪其执行阶段、KV cache 占用和节点位置。 Program-level admission control：监控每个节点的内存压力，选择性暂停低优先级工作流，减少竞争 cache 的程序数量。当被暂停的工作流准备恢复时，通过全局等待队列路由到容量最充足的节点。 多节点部署：用全局等待队列替代了基于 session 的静态节点绑定。暂停的工作流恢复时被路由到可用容量最多的节点，在 KV cache 局部性和多节点负载均衡之间取得平衡。 评测 集成在 Together AI 自己的合成数据生成管道里——就是产生 CoderForge 等数据集的那套基础设施。对比 SGLang 默认调度器： 单节点 8×H100（HiCache offloading），batch size 192： • SGLang：吞吐 390 token/s，平均延迟 65s • ThunderAgent：吞吐 803 token/s，平均延迟 10.6s 多节点（2→8 节点）： • 近线性扩展，16 GPU 到 64 GPU 吞吐从 671 增长到 2248 steps/min • 加速比随集群规模增大：2 节点 1.79× → 8 节点 2.39× 使用 一个 program_id 字段，OpenAI 兼容 API，直接适配现成的 offloading 和 speculative decoding。已被 SkyRL 和 NVIDIA Dynamo 集成。 GitHub： 论文： #AgentInference# #KVcache# #ThunderAgent#

《零八宪章》签署者— 孙宇晨 首席，关于08宪章是什么，各位可以自行去了解下，百科在这不多做赘述。 根据公开资料显示：截止至2018年，共计有一万五千多人签署了《零八宪章》。 这15000+实名签署人里面就有孙宇晨。 同年，2012年4月22日，孙宇晨在宾夕法尼亚大学留学期间，参加了方励之追思会。 至于 #方励之# 是谁，各位也可以自行了解下。 故，孙宇晨@justinsuntron ,不仅是个财富投机者，更是个政治投机份子。 孙割，你忘了当年是怎么被胡舒立锤的？ @PDChinese @XinhuaChinese @XHNews @NewsCaixin @caixin @ChineseWSJ @thepapercn @CNS1952 @Echinanews @globaltimesnews @Shanghai_City @shanghaidaily @ChinaDaily @zaobaosg  @takungwenwei_hk  @Tong_Shuo  @QiushiJournal  @FTChinese @ChineseWSJ @nytchinese  @ABCChinese  @rijingzhongwen  @ReutersChina @SpokespersonCHN @zlj517 @chinascio @DeFi8362 @nine_DeFi @yuyy614893671 @brc20niubi @TaoRay @Wujizhuzhu @WallStreet0Name @CryptoApprenti1 @Trader_S18 @qinbafrank @xukego @zengying1107

7月24日，中国商务部给欧盟的14家企业拉黑了= =禁止两用物项出口。 出口管制管控名单 （2026年7月24日） 1.拉法特集团（Lafert S.p.A.） 地址：Via J.F. Kennedy 43, San Donà di Piave, Venice, Italy 邮编：30027 2.嘉耐特公司（Garnet S.r.l.） 地址：Via De Gasperi 31, Concorezzo (MB), Italy 邮编：20863 3.辛德豪瑟材料有限公司（Sindlhauser Materials GmbH） 地址：Daimlerstraße 68, Kempten, Germany 邮编：87437 4.莱茵金属公司（Rheinmetall AG） 地址：Rheinmetall Platz 1, Düsseldorf, Germany 邮编：40476 5.安特拉科化工贸易有限公司（Antraco Chemie-Handelsgesellschaft mbH） 地址：Düsseldorfer Landstraße 17, Duisburg, Germany 邮编：47279 6.InPACT公司（InPACT S.A.） 地址：265 Rue de la Volta, Saint-Marcel, France 邮编：73600 7.三五实验室（III-V LAB） 地址：1 avenue Augustin Fresnel, Palaiseau, France 邮编：F-91767 8.Cavok UAS公司（Cavok UAS） 地址：Allée des Cuirassiers, Sainte-Menehould, France 邮编：51800 9.维戈尔光电公司（Vigo Photonics S.A.） 地址：129/133 Poznanska St., Ozarow Mazowiecki, Poland 邮编：05-850 10.弗罗茨瓦夫理工大学（Politechnika Wroclawska） 地址：Wybrzeze Stanislawa Wyspianskiego 27, Wroclaw, Poland 邮编：50-370 11.IHC公司（IHC Merwede Holding B.V.） 地址：Smitweg 6, Kinderdijk, The Netherlands 邮编：2961 12.太脱拉卡车公司（TATRA TRUCKS a.s.） 地址：Areal Tatry 1450/1, Koprivnice, Czech Republic 邮编：74221 13.Opticoelectron集团（Opticoelectron Group） 地址：Industrial Park Opticoeletron, Panagyurishte, Bulgaria 邮编：4500 14.Ekspla公司（Ekspla UAB） 地址：Savanoriu Ave 237, Vilnius, Lithuania 邮编：LT-02300