SKILL.state:让Agent处理长任务时更聪明、更省钱
现在的Agent在干活时,会把每一步的操作、思考过程和看到的反馈全都记在聊天记录里。任务一旦变长,这个对话历史就会像滚雪球一样越来越长。不仅让AI每次思考都要读一大堆旧内容、算力成本飙升,还很容易让AI被之前的陈旧信息干扰,导致后续步骤出错。
谷歌设计了一套叫 SKILL.state 的新运行架构,这个架构给Agent准备了一个结构化的“状态笔记本”。每次AI要行动时,只要看三样东西:最初的任务目标、笔记本上记录的当前最新状态、刚刚发生的新情况。AI想清楚下一步要干什么、更新完笔记本的状态之后,刚才推导用的草稿纸就可以直接扔掉,不用一直塞在对话框里。
这样一来,不管整个任务进行了几百步,AI每次需要看的提示词长度都保持固定。整体消耗的Token数量直接从指数级暴增变成了平稳的线性增长,长任务下能省下大半成本。环境里偶尔冒出一些无关的杂音或者日志,AI在更新状态时会自动过滤掉,不会被旧干扰项带偏。
不过我觉得这种方法肯定会损失信息,还是更喜欢Codex压缩上下文的方式,因为命中缓存价格低,保持长上下文性能更好。
论文:
显示更多