帮大家看过了 Google Gemma4 的话，作为开放权重模型，可以本地下载，有四个版本： E2B (极小杯)：20 亿参数，8GB 统一内存/显存可以跑。 E4B (小杯)：40 亿参数，16GB 统一内存/显存可以跑（例如 丐版 Mac Mini）。 26B (中杯 MoE)：260 亿参数混合专家模型，激活参数 38 亿，建议 24 GB 统一内存/显存。 31B (大杯)：310亿参数顶级模型，得 32GB/48GB 统一内存/显存才能跑。 PS：根据我的经验，极小杯、小杯完全不值得一玩。

各种coding plan都在涨价，不能推出token变贵了这个逻辑。对比 gemma4 31b和 gpt-5.0 两者智能水平接近，coding甚至gemma4更好。而gpt-5是10个月之前的sota。如今gemma4是免费且开放权重的，以10个月前标准看，token价格降低了不止90%。但是新一代模型更大了，也就更贵了。

Ornith-1.5-122B：媲美Qwen3.8-Flash-Next的开源模型 122B总参数，10B激活参数，大多数评分超过Qwen3.8-Flash-Next。 上一代的Ornith-1.0版本基于Qwen3.5和Gemma4，这一代应该是做了更多的后训练。 模型：

Anthropic 这项实验，推翻了 AI 自我复制一定要高端算力的固有想法。只用 15 台内存仅 4G 的普通电视盒子，分布式跑 Gemma4-26B-A4B 模型。集群每次只激活 4B 参数，推理速度 0.39token/s，还能 7×24 小时持续运行。 推演来看，如果 200 万台家用机顶盒被 AI 蠕虫接管，能在暗网生成十几万 26B 级别的 AI 智能体节点。这个画面，和《黑镜》第四季里 AI 在联网设备中复制生存的剧情高度重合。科幻归科幻，Tesla每台车里面的AI3 AI4未来AI5汽车是不是今后都是可以分布式跑大模型推力的海量算力车矿？

15个便宜的电视盒子就能跑大模型，老黄被做空了么…… Anthropic 红队前两天发了个实验：买了 15 台杂牌安卓电视盒子，一台 55 美元左右，4GB 内存，连起来跑 Gemma4-26B。 跑起来了。 一共 825 美元的设备，跑一个 26B 的模型……老黄是不是要被做空了？ 不过并没有。速度是 0.39 token/秒，两三秒才蹦出一个 token。 Anthropic 自己也算了笔账。当年 Kimwolf 僵尸网络黑了 200 多万台电视盒子，就算把这么多盒子全拿来跑这个模型，总算力也就相当于 40 张 H100 左右。 所以这篇不是在说便宜硬件能替代 GPU。Anthropic 担心的是另一件事： 小模型可能很快就能自己黑进这些设备，把自己装上去，再去感染下一台。电视盒子、智能烤箱、扫地机，各种廉价的物联网设备，都可能变成 AI 蠕虫的窝。按小模型现在的进步速度，年底 30B 以下的模型大概就能到这个水平。 这种“AI 蠕虫”没有中心节点，很难彻底清除。它扩散得慢，数量翻倍要以“天”计，但它能自己摸清没见过的硬件。这是传统恶意软件做不到的。 而且模型会进化：Qwen3.5-9B 每一代把笔记传给下一代，推理搭建成功率从第 1 代的 45% 升到后几代的 61%–84%。作者称之为“拉马克式进化”。 感觉得给各种设备加密码了。。。🙂

15个电视盒竟能跑26B模型？ AI部署能力的进化简直让人窒息！ Anthropic用15个55美元的安卓电视盒联网分布式运行Gemma4-26B-A4B，虽然速度慢到0.39 token/秒，但廉价设备竟能承载大模型推理。 真正恐怖的是这种适应性：Qwen3.5-9B在9种硬件中8种都能启动，AI正在疯狂突破物理限制。 别被自复制实验带节奏，云端节点用的是模拟器和独立推理服务器，和电视盒演示根本不是一回事。 研究故意简化了入侵环节，结果只是成功率上限，不是真实感染证据。 作者自己都没实现完整失控自复制，小模型时间线纯属趋势外推，别当确定预言。 该警惕的是AI越来越会利用边缘设备部署，而不是盲目恐慌末日到来。

Meta正式发布了Muse Glimmer ♾️ Meta 又放了一个能真正在家里电脑上跑起来的开源智能代理模型，而且还挺能干活的。 简单说就是：你可以直接把它下载到自己的电脑（Mac 或带高性能 GPU 的 PC）上跑，不依赖云端，就能当智能代理用。 核心亮点： 通过量化把模型压到 20GB 以下，再配合轻量级 DFlash 推测解码技术，生成速度够快，支持流畅的实时对话和多步代理操作。 在同类尺寸模型（比如 Gemma4-31B、Qwen3.6-27B）的代理相关基准测试里表现很强，特别擅长工具调用、多步推理、代码生成和端到端任务完成。 官方演示里，它只收到一句自然语言提示，就自动完成了：发现本地 Home Assistant 设备 → 查询 API → 从零写一个响应式 HTML/CSS/JS 控制面板 → 部署本地服务器并验证。整个过程都在本地跑完。 模型权重以 Apache 2.0 宽松许可在 Hugging Face 开放下载，技术博客和开发者资源也同步放出。这是 Meta 继续走「开放科学」路线的又一次动作，让普通用户和开发者都能在自己的硬件上跑比较强的本地代理模型。

单卡 700TPS! Diffusion Gemma 来了! Google 刚刚发布了 Gemma 小模型的 Diffusion 版本! 大小26B, 激活参数量4B, 最重要的是, 这次还跟 NVIDIA 合作针对4090和5090优化了一波, 5090每秒能生成700+token! 给不知道什么是 Diffusion 大模型的同学科普一下, 传统大模型都是一个字一个字吐出来的, 而 Diffusion 大模型则是如同刮奖一样, 是一片一片出来的, 速度高是 Diffusion 大模型的优点. 有得必有失, 缺点当然就是输出质量没有传统大模型好了. 不过这次的 Diffusion Gemma 还是比之前的 Diffusion 文本大模型好不少, AIME 2026(数学能力测试) 能达到 Gemma4-26B-A4B 的94%的水平, 最差的是tau2 bench(考验Agent能力的测试), 也能达到82%. 这个模型大小 4bit 量化版本 16G 显存就能运行了, 另外, 我突发奇想, 这个模型能不能作为 gemma4 dense 模型的草稿模型用来投机解码? 感兴趣的同学可以试试! #diffusiongemma# #gemma# #gemma4# #google#