4/4-4/5這兩天，我將參加在高雄舉辦的 CCF 動漫盛典！🩷 4/5也會舉辦限定8人參加的攝影會📸✨ 並同步推出僅限攝影會參加者才能預購的限定禮包，錯過就沒有囉！ 報名連結將於近日公布，敬請密切關注! 👇CCF動漫盛典

✈️【活動公告】💗 4/4～4/5 台北 #秋葉原動漫祭# ▶︎B39(iKkyu3) 4號:勝利女神NIKKE 米哈拉寫真集&拍立得販售 5號:Cosplay參加 第一次參加ACF!能再次來到最愛的台灣真的好開心💕 一定要來找我喔~🥰 詳細資訊請看留言欄！

✈️【活動出演公告】💗 4/4～4/5 兩天！ 我將參加在台北舉辦的「 #秋葉原動漫祭# 」✨ ▶︎B43 4號預計會在同人攤位登場，(NIKKE／毒蛇 Viper) 5號也會參加 Cosplay 廣場📸💗 (七龍珠／布瑪 Bulma) 這次是我第一次在台北參加活動， 很期待能和大家見面！

两周前 台湾股市市值也第一次超越英国 老牌的西方第一大国都干不过湾湾 而现在台湾股市总市值冲上 4.5 万亿美元历史新高 也首次超过加拿大的 4.4 万亿美元 过去 12 个月，台湾股市暴增 2.7 万亿美元，涨幅高达 150% 照这个速度，台湾最快下个月就可能超过印度，跻身全球第五大股票市场 AI 正把台湾推上全球经济权力牌桌，速度凶猛，势头惊人 湾湾 Crypto 氛围和这期 #XClub# 台湾活动一样炸裂 1/ 台湾大约有 230 万人持有加密资产 对比 2300 万人口，相当于接近每 10 个人里就有 1 个下场 2/ 本地市场交易强度非常高 日交易量超过 2 亿美元，这还是在银行体系基本隔离的情况下完成 3/ 用户路径已经标准化 本地买币 → 转到OKX等主流交易所 → 做合约、做链上 OKX 在台湾可直接使用，主要的交易平台之一

google今天这篇2025年4月的论文居然引发了存储的下跌，那我们就再重读一下： KV cache 一直是大模型推理里的最大内存消耗来源。论文的做法，本质是用信息论最优的方式去压缩这些数据。不是简单地降低精度，而是重新分配信息密度。普通部分用极低比特表示，异常值单独保留更高精度。同时不再逐元素处理，而是以向量为单位编码，因为 attention 本身就是内积结构。 关键的是，它的误差已经贴近信息论下界（香农极限），也就是说压缩效率已经非常接近理论极限。论文里给出的结果，大致是 4 到 4.5 倍的压缩，性能几乎没有明显损失。效果很明显，但后续再压缩而不损伤性能的可能性已经很小。 基于大科技的内部研发流程，论文的方法及可能对模型产生的优化效果很可能已经被工程分阶段吃掉了。 比方说，低比特量化早就被用起来了，从 int8 到 int4，再到更低精度，主流模型在推理侧基本都在用。异常值单独处理这件事也不是新东西，SmoothQuant、AWQ 这些方法本质上都在做类似的事情。KV cache 本身的压缩、滑窗、分层缓存，在大模型里也已经是常规配置。 真正还没完全落地的，是论文里更极致的那一部分，比如向量量化，以及更接近信息论极限的编码方式。这些方法的问题不是原理，而是工程实现，GPU 不友好，延迟控制难，稳定性和泛化也更复杂，所以可能需要更长时间实现。 如果一定要拍脑袋猜一下论文已经落地和还没落地的部分可能有多少的话，大致可能是这么个情况：最早的 KV cache 是 1 倍成本，简单量化之后可以做到 2 到 3 倍压缩，加上异常值处理可以到 3 到 4 倍，论文再往前推一点，大约到 4 到 4.5 倍。也就是说，大部分红利已经被拿走了，剩下的提升空间不大，而且代价越来越高。 这背后的原因也很清楚。前期压缩是在去掉冗余信息，后面面对的是有效信息，再压就会直接影响模型能力。误差不再是平滑变化，而是到某个点之后快速恶化。实现难度也不是线性增长，而是明显抬升。 从模型表现可以反推，现在的主流模型已经在用这些技术。长上下文能力、推理成本下降、性能稳定，这些现象本身就说明 KV cache 的效率已经被大幅优化。像 Google 这种级别的团队，大概率已经实现了低比特量化、异常值处理和一部分 KV 压缩。 也就是说，如果说google的这篇论文对存储可能有影响的话，其大部分的影响已经被体现了出来，还没体现出来的部分，其实施难度也会较之前更大。 更重要的是，这篇论文的意义不在于多省了多少内存，而在于给出了一个边界。KV cache 压缩这条路已经接近极限，剩下的提升空间很有限。接下来真正能带来变化的，不太可能再来自压缩本身，而是需要找到其他的路径。

#泡泡玛特# 要在北京买楼了，告别租房。 一、核心事件 1. 标的：北京朝阳太古坊四号楼（原颐堤港二期） 整栋 2. 规模：地上16层，建面约4.4万㎡ 3. 时间：2026年官宣，预计2026Q3交付，2027年春节后正式入驻 4. 用途：替代望京租赁总部，作为集团全新总部大楼 二、价格测算 1. 核心区甲级写字楼单价：3.5–4万元/㎡ 2. 整栋估算总价：15–18亿元人民币 3. 资金基础：2025年净利润、账面现金储备充足，现金流无压力 三、财务影响 1. 告别长期租赁，每年节省8000–10000万租金成本 2. 转为自有固定资产，年度折旧对利润影响可控 3. 核心地段不动产持有，具备长期资产保值属性 四、战略与业务影响 1. 办公面积约为原总部8倍，承载2000–3000人办公 2. 集IP孵化、设计研发、全球运营、线下体验于一体 3. 顶级区位地标加持，强化品牌影响力与行业龙头地位 4. 空间扩容，支撑未来3–5年业务及全球化扩张 五、资本市场&行业影响 1. 低谷期抄底核心资产，释放对国内潮玩长期发展信心 2. 公司属性从轻资产潮玩消费，新增商业地产重资产估值逻辑 3. 行业标杆效应，开启头部IP企业自持核心办公资产的趋势

一个感觉，从商业逻辑来看，未来GPT6/7/8，可能和手机常规升级换代一样，不会再有从GPT1到GPT4的数据量+训练量巨大飞跃了(GPT4.5已经试过了) 让GPT5做了一幅这几年的旗舰模型token定价曲线，发现有很多地方和PC/手机芯片的商业逻辑是非常相像的，这集我看了太多遍，其实能看出很多很有意思的结论 GPT4.5刚推出的时候$150/M，价格非常昂贵，官方称为“非常大而且计算成本高”（very large and compute-intensive model），是一次“超大且昂贵”的实验性base model 从token价格来推测，GPT4.5是GPT4的10倍规模，这可能是大力出奇迹路线和商业可行性冲突的一次探索，于是四月的时候openai就计划未来将GPT4.5下线了。从token价格推测GPT5可能只有5T参数，GPT4的3倍规模 所以chatGPT以后的升级，大概会是沿着大家能支付意愿的sweet spot(比如$80/M旗舰 + $15/M普通)，分成几档价位，做出这个成本下最好用的模型，每隔一段时间比如12~24个月更新一代新产品（GPT5.5/GPT6） 在下一代新算力/数据/架构范式变革之前，Benchmark爆炸式上台阶的时代大概已经过去了 GPT5就是典型，营销层面上也在淡化数字游戏，每年的提升不再单纯的聚焦benchmark，而是更加全方位的提升：成本降低，幻觉减少，对用户刻意讨好改善，长上下文，一致性，多步思考推理机制等等，从单纯的base model升级变成了系统级升级，同时要考虑长线商业盈利 --------------- 类似的剧本在芯片界就见的太多了 PC/手机每年的旗舰机芯片阉割之后变成次旗舰和中低端芯片，比如intel i7芯片和i5/i3都是同样的设计同一批芯片，测试出来，性能最好的标为i7，性能差一些的就降频，关闭核心，变成i5和i3 每一次换代之后，旗舰芯片的价格保持基本不变，性价比最高的就是i5/i3，单核性能比上一代旗舰i7持平甚至更好，但是价格一半都不到 每一代旗舰i7的单核通过超频和堆料达到略高一点的分数，但是因为架构同属于同一代，单核跑分和次旗舰比提升非常小 ----- 至于大模型，旗舰模型(比如GPT-5 pro)的定价基本上就在$80/百万token附近，这代表了当前模型的最高水平 每一次换代之后，性价比最高的就是次旗舰模型，性能会和上一代旗舰类似甚至更好，但是价格会便宜，甚至到只有不到20%，就比如GPT5的价格($10/M)，但是性能比上一代（按一年来算）旗舰o1要好一些，盈利靠海量用户 以后每一代推出例行升级情况下，之前的o3/4.1/4.5/o1 pro/o4 mini high之类的命名就太复杂了，干脆把这些全部隐藏起来，由内部router去根据用户画像以及意图，去给出用最低成本让用户满意的模型 从此以后就和PC/手机一样，每一代跑分改善一些，全方位提升一些（幻觉减少，对用户逢迎改善，长上下文，一致性，多步思考推理），然后分几档价位去满足各类用户的需求，GPT6 pro, GPT6, GPT mini，每一代的次旗舰相当于前一代旗舰水平 以前讲究的是手机贬值的速度，以后就是模型的贬值速度 从商业逻辑来看，模型公司和fabless芯片公司的成本花销的模式也非常相像： 每一代大模型一次性的训练费用就像是芯片的开发(数亿美元)和tapeout费用成本（上亿$），而推理token费用是边际分发成本，就像是每一个芯片的成本 从2015年的六七十美元一片手机旗舰芯片(连定价都如此相似$70/M)，随着台积电涨价和通胀，到了2025年的200~250刀一枚旗舰芯片 AI的技术浪潮不像是互联网，靠生态本身的繁荣和更多链接就能创造更多价值，AI的破坏性革命几乎是完全建立在模型的能力大小之上的，由此带来的范式转移影响也是建立在模型能力上的 从这一点来看，我们可能更像是在2010~2012年的移动互联网时代：手机经历了前面三四年的飞跃性成长，来到了一个稳定发展期，每一代的硬件进步仍然非常可观：十四年前的手机芯片开始趋于稳定迭代，那时还不到1B晶体管数量(28nm节点)，十四年之后的今天，手机芯片已经接近了30B晶体管数量(3nm节点) 这十四年还包括了摩尔定律放缓的2012年到2019年整整七年，在功耗墙被手机卡死的情况下，仍然规模增长了30倍 大模型的进步也一样，每一代的进步可能会让人失望（比如GPT5的平淡相比GPT4问世时候的炸裂程度），但是到十年后回看，仍然是非常不可思议的进步 即便是每一代提升让人失望，这也仍然是指数发展的奇迹