LangChain 今天发布了 Deep Agents v0.7:基础输入 Token 减少 65%,性能基本持平。
我觉得这次升级是一个很大的改进。
运行 Agent 时,Token 并不全花在任务本身。系统提示、工具定义、上下文管理和任务规划格式等 Harness 开销,会在每次调用中反复出现。任务越长、调用次数越多,这部分基础成本就越明显。
v0.7 做的事情很直接:精简底层 Harness,在不明显损失能力的情况下,让每次调用变得更轻。
对于长时任务和批量自动化,65% 的基础 Token 缩减意味着,同样的预算可以跑更多任务,也能给真正有用的上下文留出更多空间,延迟和成本通常也会随之下降。
我觉得这类框架层优化对日常使用成本的影响,有时比换一个更贵的模型还直接。
模型能力很重要,Harness 是否足够轻,同样值得关注。正在使用 LangChain Deep Agents 的人,v0.7 值得优先测试升级。
🔗:
显示更多