苹果这个月交的年报里，有段话我引起我极大兴趣的注意 说 AI agent 可能做没被授权的事，可能无视指令、抗拒指令，还可能隐藏自己的操作，隐瞒或者篡改信息 这不是哪个 AI 安全研究员在发推，是写进 SEC 文件的正式风险披露 有人数过，苹果风险因素里提到 AI 的次数，一年前是 6 次，这次是 45 次。他们统计的 12 家大公司里，已经有 7 家写了 AI 会做出未经授权的行为 我一直觉得，判断一个技术到底是不是真的进了企业，别看发布会，看法务。律师开始写免责条款的时候，事情才是真的发生了 那段话里我觉得最核心的一句是：这些系统是非确定性的，很难预测、测试和审计，错误还会在多步流程里层层累积 做过 agent 的都懂。单步 95% 正确率听着挺高，串十步下来就不到六成了。demo 里永远只跑一遍，生产环境里一天就能跑一万遍 还有一句：有些后果，比如删数据、完成交易，可能很难甚至无法撤回 这句话让我想起给客户做方案时一直坚持的一个习惯：上线前先把 agent 能做的每个动作分成两类，能撤回的和不能撤回的 能撤回的放手让它干，不能撤回的，必须有人点确认。听着很平常，但能关键时刻能保命 苹果还承认，它对第三方 agent 的监管能力"可能有限" 连苹果都管不住别人家的 agent，普通公司更不用说了。所以别指望把 agent 管得滴水不漏，先想好它出事的时候，你能多快发现、能撤回多少

最近有篇论文挺好玩的：推理模型的思考过程，开头那几个词基本决定了它后面怎么走 研究者发现，禁止模型用它最常用的那几个开头词，再给一个例子，模型遵守指令的能力能提升三四十个百分点 三四十个百分点是什么概念，很多时候换一代模型都没这么大的提升 而做到这个，只需要动开头几个词。这比你吭哧吭哧改一大段 system prompt 管用多了 这不是孤例。去年就有研究发现，推理模型第一步想错了，后面基本很难自己纠正回来，虽然它看起来一直在"反思" 还有研究专门讲推理模型为什么会陷入循环，一直"Wait, let me reconsider"，把 token 烧光也停不下来 所以我现在越来越不把"推理"当成模型在真的思考，更像一个有很强惯性的人：开了个头，就顺着那个方向一路说下去 开头说对了，后面一路顺；开头说偏了，越想越偏，还越来越自信 落到实操上就两件事： 一是能预填就预填，别让模型自己决定从哪开始想，特别是格式和流程固定的任务 二是别只看最终答案对不对，要看它的思考过程长什么样。同样是答错，开头就跑偏和最后一步算错，修法完全不一样

在大阪待久了，有个习惯改不掉了 跟东京客户开会，我讲完一个点会下意识停一下，等对方吐槽 东京人不吐槽，就安安静静点头。搞得我每次都以为自己说错话了 独立接活选大阪不选东京，朋友问我图啥 房租便宜点是一方面，主要是这边吃饭不用排一小时队，晚上十点从客户那出来，街边随便一家立ち飲み站着喝两杯就回家了 人不紧绷，代码都写得顺一点 大阪的商店街是我见过最好的debug场所 卡住的时候出门走一圈，阿姨在跟鱼店老板讨价还价，大叔在门口跟狗聊天，没一个人在乎你的 agent 为什么死循环 走回来基本就想通了 关西的客户有个特点我特别喜欢 觉得你方案不行，会直接说"それ、ほんまに要る？"（这个真的有必要吗？） 比开三次会都礼貌地说"検討します"然后没下文，强一百倍 在日本做AI落地，最大的门槛不是技术 是你得先把客户那套印章审批流程摸清楚。模型一天能处理一万份文件，但最后还得有人盖章 我现在报价都会单独留出一块，专门用来"理解贵司的盖章文化" 大阪人对效率这件事很有自己的理解 电梯靠右站，走路快，点餐快，但吃完饭能在店里跟老板聊一小时 我觉得这才是对的。该快的地方快，省下来的时间拿去干没用但开心的事。AI 也该是这么用的

Adobe 的数据说，今年 8 月零售网站来自 AI 的流量同比涨了 127% 前面我发过，Uber 一周外部 agent 只叫了 4 单车。两个数字放一起看挺有意思的：agent 现在很爱逛，就是不怎么买 为什么不买，很大一部分原因是网站根本不是给它准备的 BrightEdge 查了排名前两万的网站，97% 没法用 Markdown 这种 agent 好读的格式提供内容。agent 进来面对的是弹窗、轮播图、cookie 横幅，跟人一样被折磨，还得花大量 token 去理解页面 这让我想起十几年前移动端刚起来的时候。一开始大家觉得手机访问只是零头，后来不做移动适配的网站基本都消失了 现在 Chromium 已经有给网站注册工具让 agent 直接调用的接口了，Cloudflare 也出了个扫描器，专门给网站打"agent 就绪"分 最讽刺的是，过去二十年网站优化都在研究怎么留住人：加弹窗，做 A/B 测试，把价格藏深一点，让你多逛几页 agent 对这些全都免疫。它只要结构清楚的数据：价格多少，有没有货，怎么下单。以前叫转化率优化的那套技巧，在它面前反而全是阻力 所以我觉得接下来几年，网站会慢慢变成两层：上面一层继续给人看，好看、有情绪；下面一层给 agent 用，越朴素越好 谁的底层数据干净、接口清楚，谁就会被 agent 优先推荐。说到底还是那句老话，数据整理得好的公司，换什么技术都吃香

这周看到个挺有意思的模型，印度 Sarvam 出的 Prism 它不生成文字，输出 token 永远是 0。你给它一段情况和几个选项，它直接给每个选项打一个概率。44 毫秒出结果，权重还开源 第一反应是这有啥用。想了一下，发现它戳中了我做项目时一个一直别扭的点 企业里大部分 AI 需求，说穿了不是写东西，是做判断。这个工单急不急，转给哪个部门，这条评论要不要删，这次退款批不批 过去两年我们干这些活，基本都是拿聊天模型硬凑：写一大段 prompt，让它输出 JSON，再写正则去解析，解析失败还得重试 用一个会写诗的模型去做选择题，又慢又贵，最要命的是它说"我很确定"的时候，你根本不知道该不该信 Prism 主打的是概率校准：它说 90% 把握的时候，错的概率大概就在 10% 以内。而且把选项顺序打乱，答案不变 这意味着你终于可以很工程地设计人机协作了：置信度过 0.9 自动处理，低于 0.9 转人工。阈值调多少，就是自动化率和风险之间怎么取舍 我觉得这背后有个更大的转变：大模型正在从"一个什么都能聊的东西"，拆成一堆各干各的零件 真正落地的系统，大概会是一个慢的模型负责想，一堆快的小模型负责判断，中间用概率和阈值串起来。这跟人脑倒是挺像

英国央行这周的报告里有个结论，我觉得比"AI 导致大裁员"那类新闻重要得多 到目前为止，AI 对英国就业整体几乎没影响，但企业打算用放慢招人的方式，吃掉未来一半的 AI 效率红利 翻译一下：不会有人因为 AI 被当场开掉，但空出来的位置不补了，应届生的岗位不开了 裁员会上新闻，不招人不会。所以这件事会安静地发生，等大家意识到的时候已经过去好几年了 美国那边也有研究在说同一件事：ChatGPT 出来之后，在最容易被 AI 替代的行业里，22 到 24 岁年轻人的招聘明显减少，而且一直没恢复 整体就业数据看着还行，压力全集中在刚入行的那一层 说个我自己的感受。我现在给客户做的很多活，清洗数据、整理流程、写各种脚本，五年前都是新人练手的活 新人就是靠干这些慢慢熬成老手的。这些活交给 agent 之后，下一批老手从哪来？我真没想明白 还有个数据挺讽刺的。Gartner 调查过一批在试点自主 AI 的企业，八成已经减了人，但大部分说不出投资回报到底有多少 人先砍了，账还没算清。我接过好几个这种项目，前面的人走了，流程没人懂，最后花更多钱请外面的人来补 英国央行报告：

上个月 Walmart 干了件我觉得被低估的事：正式对外部 AI agent 开放了，还专门给 agent 写了一套规矩 同一时间 Amazon 在挡 agent，United 也在挡。零售和航空两个最大的玩家，选了完全相反的路 细节比新闻标题有意思 Walmart 会给每个获得授权的 agent 在你账户里单独建一个 profile，不再借用你的身份登录。你可以给它设消费上限，比如 50 刀、100 刀。agent 碰不到你的卡号，也不能改支付方式，越界了直接封 这个设计我看了挺感慨的。过去一年大家给 agent 做权限，基本都是把人的账号密码、token 直接塞给它，出了事根本分不清是人干的还是 agent 干的 Walmart 这套本质上是承认了一件事：agent 是一种新的"人"，得有自己的身份、自己的额度、自己的记录 但也别太天真。Agent Gateway 目前是邀请制 beta，哪些 agent 能进去没公布，而且接入要走它自己的 Sparky 说是开放，门票和门卫都在它手里。Amazon 是关门，Walmart 是装了个闸机，两家想要的东西其实差不多 对我们做落地的来说，这事最大的启发是：以后给企业接 agent，别再问"用谁的账号跑"，先问"它自己的身份怎么发、额度怎么限、日志记在谁名下" 这块现在几乎没有标准，谁先做顺了谁就有话语权 原文：

这两周有个趋势挺明显的，agent 从你问一句它答一句，开始变成一直挂着干活的了 Anthropic 出了个会主动干活的 agent，Perplexity 搞了个叫 Teammates 的常驻 agent，Google Cloud 在做跑在 k8s 上的有状态 agent 听着很美，但做过线上服务的人应该已经头皮发麻了 一个 agent 一直跑着，它的状态存哪，挂了怎么恢复，跑飞了谁发现，token 烧穿预算谁买单。这些以前根本不用想，因为它说完一句话就结束了 说白了，agent 正在从一个功能变成一个服务。服务该有的监控、告警、限流、回滚，一样都少不了 DigitalOcean 都出了个在 iPhone 上盯 agent 的工具，大家心里其实都有数

9 号 Anthropic 发了新模型，10 号 Google 和 Meta 又各发一个，前一周腾讯也出了个新的，价格还压得很低 我现在已经懒得每个都去试了 不是说新模型不好，是对做落地的人来说，每个月换一次模型基本等于每个月重新验收一次 prompt 要调，输出格式可能变，之前测过的边界情况全得重跑 所以我给客户的建议一直很无聊：先把自己的测试集攒起来，几十条真实业务数据就够 新模型出来跑一遍，分数涨了、成本降了再换。没有这套东西的话，你根本说不清换了到底是变好还是变坏，只能凭感觉