AI顶会 ICML 2026在韩国举办，OpenAI和Anthropic同时现场邀请专家去闭门会 大部分专家都去了 OpenAl 不是因为 OpenAi 比 Anthropic更专业，也不是模型更强 而是因为OpenAi 现场安排了女团跳舞.....🤣

推荐这篇文章，Together AI 的 ThunderAgent（ICML 2026 Spotlight）。 把 agent 工作流当成一个"程序"来调度，而非一系列无关的请求——单节点吞吐翻倍，8 节点近线性扩展。 Together AI 在 7 月 29 日发布了 ThunderAgent——一个面向 agentic 推理的高吞吐调度系统。ICML 2026 Spotlight 论文。核心贡献：把 agent workflow 抽象为"程序"而非"一系列不相关的请求"。 问题：KV Cache Thrashing Agent 工作流在两个阶段之间交替：GPU 密集的推理阶段和 GPU 空闲的等待工具返回阶段。当数百个 agent 并发运行时，各自的 KV cache 在每轮不断增长，竞争有限的 GPU 内存。 传统推理引擎（vLLM、SGLang、TensorRT-LLM）按请求级别调度——agent A 暂停等待工具调用时，它的 KV cache 被 LRU 淘汰腾出空间给 agent B 的 prefill。当 A 的工具返回，引擎必须从头重算 A 的整段对话历史，这又淘汰了 C 的 cache。高并发下，这种淘汰和重算的级联反应导致严重的吞吐量和延迟退化——论文称之为 KV cache thrashing。 能通过加 GPU 节点解决吗？不完全。现有多节点路由器（如 SGLang Gateway）把每个 agent 钉在固定节点上以保留 cache 局部性——但 agent 的上下文长度不可预测增长，某些节点被赋予长上下文 agent 导致内存耗尽，其他节点闲置。 能通过 KV cache offloading 解决吗？也解决不了。LMCache 和 HiCache 把 KV cache 卸载到 CPU 内存或磁盘，扩大了总容量但只是延迟 thrasthing。当并发 agent 的工作集超过所有存储层级时，淘汰恢复，同一个恶性循环重现。 ThunderAgent 的解法 ThunderAgent 在 agentic 客户端和推理后端之间插入一个轻量调度层。它将每个 agent 工作流抽象为一个可调度程序（program），追踪其执行阶段、KV cache 占用和节点位置。 Program-level admission control：监控每个节点的内存压力，选择性暂停低优先级工作流，减少竞争 cache 的程序数量。当被暂停的工作流准备恢复时，通过全局等待队列路由到容量最充足的节点。 多节点部署：用全局等待队列替代了基于 session 的静态节点绑定。暂停的工作流恢复时被路由到可用容量最多的节点，在 KV cache 局部性和多节点负载均衡之间取得平衡。 评测 集成在 Together AI 自己的合成数据生成管道里——就是产生 CoderForge 等数据集的那套基础设施。对比 SGLang 默认调度器： 单节点 8×H100（HiCache offloading），batch size 192： • SGLang：吞吐 390 token/s，平均延迟 65s • ThunderAgent：吞吐 803 token/s，平均延迟 10.6s 多节点（2→8 节点）： • 近线性扩展，16 GPU 到 64 GPU 吞吐从 671 增长到 2248 steps/min • 加速比随集群规模增大：2 节点 1.79× → 8 节点 2.39× 使用 一个 program_id 字段，OpenAI 兼容 API，直接适配现成的 offloading 和 speculative decoding。已被 SkyRL 和 NVIDIA Dynamo 集成。 GitHub： 论文： #AgentInference# #KVcache# #ThunderAgent#

MSR Memora：一个解耦"存什么"和"怎么取"的 agent 记忆系统 问题： 现有 agent 记忆系统在抽象和具体之间无法兼得。RAG/Mem0 保留细节但碎片化；摘要压缩高效但丢失约束和数字。知识图谱需要预定本体论，不跨域。 核心洞察： 记忆内容可以保持丰富（时间线、多轮讨论），但检索走一条独立的轻量结构层。 架构： 每条记忆两个部分。Primary abstraction——6-8 词的短语（what this memory is about），嵌入做相似搜索。Memory value——完整内容，永远不直接通过内容检索。Cue anchors——从 value 里提取的短标签，提供替代检索路径，不需要本体论。 例子："Dave 和 Sarah 同意原型 4/1、试点 5/2、MVP 5/30"。Primary abstraction = "Updated Project Orion timeline agreed by Dave and Sarah"。Cue anchors = "Dave Project Orion update"、"Project Orion prototype schedule"等。后续查询 Dave 的贡献、原型进度、试点时间，都能通过不同 cue 到达同一条记忆。 检索： 不是一次性 top-k。Policy-guided retriever 迭代精化查询、通过 cue anchors 扩展、决定何时停止。可以蒸馏到小模型。 结果： LoCoMo 86.3%，LongMemEval 87.4%，SOTA。比 RAG、Mem0、Zep、LangMem 全高。多跳推理上差距最大。token 消耗减少 98%（vs 完整上下文）。存储条目数约 Mem0 的一半（344 vs 651）。 代码： | ICML 2026 #Agent记忆# #MSR# #LLM#

现在很多人聊 AI Web3，都在盯着模型、应用、空投这些地方，但真到了一堆 AI Agent 上链执行任务、调用数据、协同交易、管理资产的时候，问题就会变得特别特别现实： 它的推理能不能被验证？ 它调用的数据靠不靠谱？ 它的记忆放在哪里？ 它和其他 Agent 协作时，出了问题谁来审计？ 底层协议有没有隐藏的 bug？ 这些东西听起来一点也不性感，而且作为乐观主义者，我平时也反感只提问题不给解决方案，但真出事的时候，以上的每一个都会是扎心的大问题。 —————————————————— 这也是我觉得 @0G_labs 近期的几个动作值得看的原因。 根据这次 APAC Hackathon 黑客松的最终数据，1.04M+ 社媒曝光、1145 名全球参与者、293 个最终提交项目，放在现在这个市场环境里，已经能说明 0G 生态不只有声音，是实实在在的有人在持续动手构建。 更关键的是，这批项目并没有只挂一个链上 AI 的概念，很多都实际落地应用到了 0G 存储、0G 算力、0G 链、隐私计算、Agentic ID。 这也说明 0G 的全栈基础设施，已经开始被开发者拿去做真实的东西了。 从我的视角看，黑客松最有价值的地方在于它能不能把开发者、场景和工具栈一起给跑通了,因为如果一个生态只有叙事，没有人愿意去动手搭东西，那热度一定会很快就消散了。 但是如果有几百个项目提交，有人用存储、有人用算力、有人用隐私计算、有人尝试 Agentic ID，这就说明 0G 的生态闭环开始有雏形了。 另一个点我觉得更硬，那就是 0G Lab 的这篇多智能体安全论文。 —————————————————— 他们联合新加坡国立、北大、北邮做了一个叫 Agora 的框架，专门拿来 debug 共识协议。 共识协议直白的说就是链和分布式系统最底层的记账规则，节点怎么达成一致、异常节点怎么处理、状态怎么同步、签名和执行结果怎么保证不出问题，很多核心风险都藏在这里。 Agora 的思路是让多个 Agent 分工协作，有人负责理解全局状态、有人负责设计异常场景、有人负责生成测试代码、有人负责跑结果和复盘问题。 最后在 Raft、EPaxos、HotStuff、BullShark 等主流共识协议里，挖出了 15 个之前没人发现的协议级深层逻辑漏洞（零日漏洞），论文也中了顶会（我特意去查了下，论文已被 ICML 2026 接收，这是全球人工智能和机器学习领域历史最悠久、规模最大、最具影响力的顶级学术会议之一，这含金量懂的都懂）。 因为 AI Agent 以后真的要在链上跑，光靠会聊天、会生成内容、会自动执行任务肯定不够，底层系统必须能被测试，能被验证，能提前把风险挖出来，毕竟安全才是第一位的。 所以模型会换、应用会换，但 AI Agent 需要的可信执行、链上存储、隐私保护、安全验证这些需求不会消失。 这才是我看 0G 的核心逻辑，它正在补齐 AI Agent 上链之前必须要具备的底层能力。 熊市里，真正做事的项目反而更容易看清楚 ，你们觉得呢？ @0G_labs @0g_cn