🧠 一度書いたメモが間違っていたとき、エージェントはそれをずっと信じ続けてしまう。そんな地味だけど深刻な問題に挑んだ研究を紹介します。 長期間動き続けるLLMエージェントは、過去の経験から「反思（教訓）」を書き残し、後から読み返して行動を決めます。ところが既存の仕組みは書き込みと読み込みが前方向にしか流れず、一度書いた教訓が環境の変化によって的外れになっても、誰も直してくれません。データベースのスキーマが変わったのに古い前提のままだったり、一度の失敗から過度に一般化したルールを引き続き信じてしまったり。こうした「古くなった記憶」が、エージェントを静かに誤導し続けるのです。 これに答えたのが「Recurrent Harness for Agentic Continual Learning」で提案されたReHarnessです。前方向の書き込み・読み込みに加えて「後方フィードバック」という新しいステップを挟み込みます。今の経験から得たフィードバックを使って、過去に取得した反思そのものを、元の経験に根拠を残したまま書き直すのです。 結果は明確でした。CL-Bench・MemoryBench・MemoryArenaの3ベンチマーク全てで既存手法を上回り、全体平均の正規化ゲインは0.240と最高評価。しかもトークン消費は生の経験をそのまま使う手法の3分の1以下に抑えられています。 URL: #LLMエージェント# #継続学習#

昨日の失敗を、AIエージェントは今日も繰り返します。 重みは固定で、コンテキストにも限りがあるからです。ファインチューニングは破滅的忘却を招き、多くのメモリは「過去を検索できる」だけの置き場にとどまっています。 そこで本論文は問いを変えます。メモリは何を思い出せるかではなく、次の行動を良くしたかで測るべきだ、と。基盤モデルを更新せず、メモリだけで継続学習を実現する枠組みMCCLを提案しています。 「どこに」「どんな形で」「どう管理するか」の3軸で整理し、経験を書き込む内側のループと、管理ポリシー自体を改善する外側のループで捉えます。評価も、保存・検索・利用・効果の4段階に分けて、失敗の原因を特定します。 実験結果は示さない研究アジェンダですが、エージェントのメモリ設計を見直す視点として重要だと感じます。 論文: Memory-Centric Continual Learning for AI Agents #AIエージェント# #継続学習#