TL;DR 会話履歴を積み上げ続けるのをやめて「現在の状態」だけを持たせたら、長時間タスクのトークン消費が最大50倍減って精度も上がったそうです。
SKILL.state: Scalable Long-Horizon Agent Skills
ポイント
📉 履歴を毎回追記せず、JSON形式の構造化状態だけをモデルに渡す設計でプロンプト長がO(1)に収まります
🧮 累積トークン消費が従来のO(T²)からO(T)に低減し、T=200では実に50.5倍のトークン削減を達成しました
🎯 倉庫管理タスクで精度0.94を維持しつつ平均プロンプトを1,905トークンまで圧縮しています
🛡️ 無関係なノイズイベントが50件混ざっても精度0.98を維持し、履歴型手法の劣化を回避しました
🩹 外部要因で状態が変わっても訂正アラートで即座に更新でき、幻覚からの回復ステップがゼロで済みます
🏆 InterCode CTFでpass
@1が54.2%とReActの43.2%を上回り、トークン消費も大幅に削減しました
長い会話を賢く圧縮するのではなく、そもそも履歴を溜めないという発想の転換が印象的でした。
#
AIエージェント# #
LLM#