註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

cv usk
@cv_usk
AI / Software Research Notes AI Agent, LLMOps, MLOps, Software Architecture 投稿は個人の意見です。
加入 May 2026
280 正在關注    415 粉絲
TL;DR 会話履歴を積み上げ続けるのをやめて「現在の状態」だけを持たせたら、長時間タスクのトークン消費が最大50倍減って精度も上がったそうです。 SKILL.state: Scalable Long-Horizon Agent Skills ポイント 📉 履歴を毎回追記せず、JSON形式の構造化状態だけをモデルに渡す設計でプロンプト長がO(1)に収まります 🧮 累積トークン消費が従来のO(T²)からO(T)に低減し、T=200では実に50.5倍のトークン削減を達成しました 🎯 倉庫管理タスクで精度0.94を維持しつつ平均プロンプトを1,905トークンまで圧縮しています 🛡️ 無関係なノイズイベントが50件混ざっても精度0.98を維持し、履歴型手法の劣化を回避しました 🩹 外部要因で状態が変わっても訂正アラートで即座に更新でき、幻覚からの回復ステップがゼロで済みます 🏆 InterCode CTFでpass@1が54.2%とReActの43.2%を上回り、トークン消費も大幅に削減しました 長い会話を賢く圧縮するのではなく、そもそも履歴を溜めないという発想の転換が印象的でした。 #AIエージェント# #LLM#
顯示更多