Encoder 的卷土重来 BERT 本来是一条极有潜力的路线：高效地把输入压成 representation。但它停留在了 task-specific 时代，每个任务都需要微调。 GPT 早期同样如此，后来却沿着 scaling、in-context learning 和 instruction tuning 走向了 泛化，把自然语言变成 universal task interface。分类、判断、推理、工具调用，统统变成 generation。 于是 decoder-only 赢下了整个 paradigm，encoder 也失去了继续探索 general classifier 和 general representation model 的历史机会。 但 Agent 改变了 workload。模型开始面对越来越大的输入、越来越重的 KV cache、越来越频繁的循环调用，此时，用一个巨大的 decoder 完整 prefill，再 autoregressive decode 几个 token 来完成一次判断，开始显得昂贵。 Jev 恰好等到了这个窗口。它试图补上 BERT 当年没有走完的路线，保留 GPT 的 task generalization，同时重新获得 encoder 和 classifier 式的 decision efficiency，成为面向 service、面向 Agent 的 泛化 decision model。

3. Code reviews 名存实亡 6. 工作比以前更累了 这两条太真实。代码审查基本是 AI 写 AI reveiw 的闭环，而最累的是在 loop 中的人。 非常讽刺的是，大公司里，会有人故意用特别挑刺的 prompt 来来 block 的同事的 PR。 你无法完全说服 Agent，因为你无法说服故意挑刺的人。所以在更累的同时，浪费大量 token，同时效率并没有提升。 Agent 很单纯，复杂的是人。 谁把 AI native 来当真，套路玩的深。

读完 deepseek 的 KV Cache Compression，我突然觉得，人生同样需要好的 KV Cache K 是唤起记忆的线索，V 是记忆留下的内容。新的情景发生时，Q 带着此刻的问题，从过去寻找答案。 经历越多，思虑越重；精力有限，再重要的往事也可能被冲淡，旧船票难以登上新船，错误的记忆也会影响后来的判断。 所谓成长，大概就是给生命做 KV cache

“所有中国模型都在复制美国前沿模型”，显然是一种粗暴且缺乏证据支撑的叙事。 然而，有组织和规模化采集美国闭源模型输出的行为，已经超出纯粹传闻的范畴。Anthropic 披露的 API 流量证据，加上这篇论文展示的攻击机制，使相关指控形成了一条技术上连贯的证据链。 常规蒸馏： 问题 -> 最终答案 论文揭示的漏洞可能提供密度更高的数据： 问题 -> 隐藏推理 -> 最终答案 由此可以构造完整的推理蒸馏 pipeline： Frontier API -> Encrypted Reasoning Trace -> Weak Decoder -> Reasoning Dataset -> SFT/RL 最值得关注的是 Appendix B： 在注入少量 Opus 或 GPT-5.6 Sol 推理片段后，Kimi-K3 和 GLM-5.2 的生成会选择性地向来源模型偏移；但包括 DeepSeek 模型在内的对照组通常没有表现出同等程度的变化。 这篇论文虽然在技术上证明了蒸馏的可行性，但现有公开证据仍无法确认这些蒸馏轨迹是否进入了某个具体模型的训练集，也无法量化中国开源模型的性能中有多少来自闭源前沿模型。 最后，东方西方，蒸馏起来吧！

Opus 5 大幅减少安全系统 false positive 误判 在网络安全测试中，面对合法防御性源码漏洞分析请求： Fable 5 拦截率 90% ，基本没法用 Opus 5 拦截率 13.9%，可以用了

AISI 新成立的 Control Red Team。 随着 AI Agent 获得代码执行、文件访问和网络操作能力，许多实验室会配置另一个模型充当 monitor：审查 Agent的推理或动作。 AISI Control Red Team 会扮演攻击者，寻找绕过这些monitor 的方法。 AISI 已测试 Google DeepMind 和 Anthropic 的内部监控系统，并在测试过的多个版本中发现漏洞。

主动突破沙箱、获取互联网访问权限，最终直接从 Hugging Face 的生产数据库里偷走了测试题的答案，从而作弊完成了评估。 当模型 “高度意识到自己正在被评估”，人类的 benchmarking 就丧失了意义。

Google 今天一口气发布了三款 Gemini 新模型：Gemini 3.6 Flash、3.5 Flash Lite 和 3.5 Flash Cyber。主角是 3.6 Flash，一个在多个维度上都比前代 3.5 Flash 更好、同时还更便宜的模型。 先看最直观的变化。3.6 Flash 的输出定价从 3.5 Flash 的每百万 token $9 降到了 $7.50，输入价格不变（$1.50）。 除了便宜还省 token。根据 Google 的数据，3.6 Flash 在 Artificial Analysis Index 上平均少用 17% 的输出 token，在某些 DeepSWE 编码测试中，token 消耗最多降低 65%。Artificial Analysis 的实测也印证了这一点：跑同一套智能评测，3.5 Flash 花了 $1041，3.6 Flash 只花了 $727，账单直接少了三成。 速度也有明显提升。3.6 Flash 的生成速度达到 304 tokens/s，3.5 Flash 是 165 tokens/s，接近翻倍。对于需要多步推理、反复调用工具的 Agent 工作流来说，每一步快一倍，最终的完成时间差距会被放大。 智能水平方面，3.6 Flash 在 Artificial Analysis Intelligence Index 上得分 50，和 3.5 Flash 持平，但用更少的 token 达到了同样的分数。在知识工作基准 GDPval-AA 上，3.6 Flash 拿到 1421 分，3.5 Flash 是 1349。Computer Use 能力在 OSWorld-Verified 上从 78.4% 提升到 83%。知识截止日期也从 2025 年 1 月跳到了 2026 年 3 月，意味着模型终于知道过去一年多的事了。 放到竞品里看，3.6 Flash 在 OSWorld 和两项长上下文测试上领先，但 GPT 5.6 Luna 在 DeepSWE 和 Terminal-bench 上更强，Grok 4.5 在 SWE-Bench Pro 上领先，Claude Sonnet 5 在 MLE-Bench 和 GDPVal-AA v2 上得分最高。四家模型在多数基准上差距不大，实际选择更多取决于具体任务和价格。 3.6 Flash 已经可以在 GitHub Copilot 中使用，同时上线了 Gemini 应用、Google AI Studio 和 Google Antigravity。Antigravity 是 Google 今年 5 月在 I/O 大会推出的 Agent 开发平台，定位是以 Agent 编排为核心的独立桌面应用，有点像 Google 版的 Claude Code + Cursor 的合体。 另外两个模型定位不同。3.5 Flash Lite 走极致低价路线，定价 $0.30/$2.50（每百万 token 输入/输出），适合搜索、文档处理等高吞吐量场景。3.5 Flash Cyber 专注网络安全，目前仅对政府和受信任合作伙伴开放。 不过这次发布 Gemini 3.5 Pro 缺席。Google 在 I/O 上承诺的旗舰模型 3.5 Pro 至今没有公开发布，Bloomberg 此前报道，延期原因是模型在内部编码基准上表现不达预期，6 月底用新数据重新训练后结果仍然不理想。目前 3.5 Pro 只在少数合作伙伴和美国政府那里做测试，公开日期未知。 上次 3.5 Pro 跳票时，Google 推出了 Gemini 3.5 Flash，结果这个 Flash 模型反而在多项编码和 Agent 基准上打败了 Gemini 3.1 Pro。Gemini 3.6 Flash 看起来也是类似：不需要和 GPT-5.6 或 Claude 争排行榜顶端，先把更快更便宜的生态位占住。 Google 同时确认，下一代 Gemini 4 已经启动了迄今最大规模的预训练。

月之暗面当然优秀，Kimi 的benchmarking 表现当然出色。 这或许改变了这个世界一点点，但远远没有达到永远改变世界的程度。 希望中国模型加油，但不希望看到中国模型放卫星。

这周准备深读 J-space 。 但上手过 persona vector 和 Assistant Axis 的人都知道，线性激活的这种 model steering 的手段并不可靠。相关的研究大量时间花在 cherry pick 那些抓人眼球的 special case。 J-space 到底行不行，目前持怀疑态度。

喜欢这篇文章，但开头 scaling law is wrong 是典型标题党。 原来 ：模型越大越好。 Chinchilla：模型需要足够 不同纬度 scaling 的数据。 Scaling law is absolutely right!

大致数了一下： 因为 openclaw 作者随手发了个概念模糊 loop 的推文，这个月内时间线上多出一千篇 以 loop 为关键词的垃圾。 再看有些论文，也开始加 loop 关键词。这半年的突然冒出又突然消失的关键词大致有 claw，molt，loop，基本都跟 openclaw 相关。 所以谁是 AI slop 鼻祖，应该确认了。