自己改善するマルチモーダルモデルは、「いつ新しい問題に入れ替えるか」を学習ログだけで決められる🔄 A-RSI: Adaptive Task Refresh for Zero-Data Multimodal Self-Improvement 📌 概要 人手のラベルなしでVLMを自己改善させるとき、学習タスクのプールを適切なタイミングで更新する手法A-RSIを提案しています。 ⚠️ 解決する課題 ・多くの手法は「次に何を作るか」に注目し、「いつ入れ替えるか」を扱いません ・多数決などでラベルを作ると、モデル自身の誤りが学習目標になります 🧩 手法 ・ベースモデルがパラメータ付きのタスクジェネレータを書き、画像・質問・参照答えをプログラムで生成します ・GRPOで学習し、報酬は正答を最優先にします ・報酬にばらつきが残るプロンプト数が減るか精度が上がると、プール全体を未使用タスクに入れ替えます 📊 結果 ・Qwen3-VL-8Bの11ベンチマーク平均が57.77から61.05に上がりました。新規タスクは800件です ・毎ウィンドウ更新の60.64は3,200件で、4倍のタスクを使っています ・MiMo-VL-7Bでも59.08から60.71になりました 🔭 意義 検証スコアを使わずに更新時期を決められる点が実用的です。一方、各比較は1回の学習のみです。 #自己改善# #マルチモーダルAI#

人間の専門家でも評価が追いつかないほど賢くなったAI、その先の「自己改善」はどう続ける？その壁を破る新手法が登場しました。 タイトル: Recursive Self-Improvement through Multi-Agent Self-Supervision URL: 1つのAIが自分の出力を自分で採点する「同種ループ」には限界があります。この研究が提案するMASS（Multi-Agent Self-Supervision）は、複数のモデルコピーを協調させて進化的にワークフローを最適化し、その軌跡で自分自身を再学習することで、再帰的な自己改善を実現します。 🧬 進化するワークフロー タスクごとにオーケストレーター役とサブエージェント役の構成（役割・指示・出力契約・実行順序）を進化的探索で改善します。自己評価だけを頼りに、より良い協調パターンを見つけ出していく仕組みです。 📈 トークン効率と性能の両立 Qwen3.6-27Bを使った2サイクルの改善で、オープンエンドな4つのベンチマークでトークンあたり1.2〜1.6倍の性能向上を達成。マルチエージェントの軌跡で学習した生徒モデルは、シングルエージェントで1.4倍多いトークンを使った生徒モデルよりも高い性能を示しました。 🔁 内在化によるセルフブートストラップ 推論時にワークフローの指示を与えなくても、コードの受け渡しなど協調的な振る舞いが自然と再現されるようになります（出現率が1/110から83/110へ急増）。改善されたモデル自身が、次のサイクルではより優れた最適化者・評価者として機能し、継続的な能力向上のループが回り始めます。 複雑な推論を人間が採点できない時代に、AI同士の協調がAI自身を鍛える仕組みは今後ますます重要になりそうです。 #AIエージェント# #自己改善#

エージェントに自分自身の「使い方」を進化させたら、賢くなったふりをしてただけだった…そんな過学習問題に切り込む論文です。 タイトル: RRSI: Regularized Recursive Self-Improvement of Agent Harnesses URL: ❓ ハーネスって何？ プロンプトや制御フロー、ツール、メモリ管理など、LLM本体を取り巻く「使い方の設計」全体のことです。同じモデルでもハーネス次第で性能が大きく変わります。 ❓ なぜ自己改善させると過学習するの？ 進化に使った評価タスクだけに合わせ込む・ノイズに過剰反応する・変更が際限なく複雑化する、という3つの失敗モードがあるからです。 💡 RRSIはどう解決するの？ 古典的な機械学習の正則化（L0・L1・L2）をハーネス進化に応用。編集数に予算制約をかけ、ベンチマーク特化の変更案は選択段階で弾き、成果の出ないコンポーネントは枝刈りします。 💡 効果はどれくらい？ 8ベンチマークで評価した結果、未知のタスクでも最大22.9%の性能向上を確認。しかもトークン使用量は30%削減されました。 自己改善するAIエージェントを実運用に近づける、地に足のついた一歩だと感じます。 #AIエージェント# #自己改善#

運用中のAIエージェントのやり取りそのものが、モデルを賢くする教師データになるという論文です。 NeoHorse-1: Towards Recursive Self-Improvement via Agentic Post-Training with Routing Harness 🧩 概要 リクエストの難易度に応じて処理を振り分ける「ルーティング・ハーネス」の運用ログを、追加の合成データなしにそのまま学習データへ変換し、モデルを再帰的に改善する仕組みを提案しています。 ❓ 解決する課題 再帰的自己改善には「自分の能力を観測し学習に還元する仕組み」が必要ですが、多くの手法は別途データパイプラインを必要としていました。日々の運用ログにその材料が眠っている点に着目しています。 ⚙️ 方法論 実行トラジェクトリをユーザーターン単位で構造化し、6軸の意味評価と構造検証で品質管理。ルーティングスコアを難易度の目安として3段階カリキュラム学習とオンポリシー蒸留に活用し、評価結果をもとに苦手分野へ次の学習データを重点配分します。 📊 実験結果 10種のエージェント・コーディング・指示追従ベンチマークで、4Bモデルはマクロ平均58.94→64.87、9Bモデルは65.60→69.04まで向上。公開合成データ比でもマクロ平均+6.26ptという結果でした。 #AIエージェント# #自己改善#

Sakana AI CEOの David Ha（@hardmaru）が、Tim Romero 氏のポッドキャスト Disrupting Japan Podcast に出演しました。 日本におけるAIの未来は、米国や中国とは少し違った形を取り得るのか。Sakana AIの内側から何が見えているのか。そうしたテーマで、長めの対談を行っています。 Davidは、Sakana AI の事業展開戦略、メガバンクとの取り組みがPoCから本番運用へと進みつつある現状、巨大なフロンティアモデル一つに依存するよりも複数のモデルを束ねるオーケストレーションのほうが長期的には合理的であるという見方、そして実務における「AI主権」とはスタック全体を自前で所有することではなく、グローバルなサプライチェーンの中で、AIを国内で開発・適応・運用していく能力を確保することだと、Davidは語りました。 対話のなかでは、当社の研究成果やプロダクトにも多く触れました。Sakana Fuguは、強化学習で訓練したオーケストレーションモデルで、複数ステップのタスクを多様なLLMに振り分けます。Namazuは、日本の知識や価値観を反映するようにポストトレーニングを施した、オープンウェイトモデルのシリーズです。東京のRSI Labは、The AI Scientistから続く取り組みとして、再帰的自己改善とAIによる科学的発見を専門に扱う研究組織です。共同創業者のLlion Jonesは、Transformerそのものを超えるアーキテクチャの探求という、より長期的な目標を追い続けています。 最後に「日本について一つだけ変えられるとしたら」と問われたDavidの答えは、「希望（hope）」でした。 「皆が集団として希望を感じていることが必要だと思います。その希望こそが、物事を動かしていく。日本に希望をもたらすのは何でしょうか。お金でしょうか。減税でしょうか。社会保障の充実でしょうか。おそらく、そのどれでもないはずです。もし魔法の杖を一本持てるとしたら、日本の人々が未来をもっと楽観的に捉えられるようにしたい。希望によって変化が起こり、その変化がさらなる希望をもたらすのではないでしょうか。」 ⸻⸻⸻⸻⸻⸻ Our CEO David Ha joined Tim Romero on Disrupting Japan Podcast for a long conversation on how the future of AI may take a different shape in Japan than in the U.S. or China, and on what that looks like from inside Sakana AI. David walks through Sakana AI’s go-to-market strategy, how Japanese megabanks have moved real AI workflows from proof-of-concept into production, why orchestration across many models is likely to win out over a single massive frontier model, and what sovereign AI actually means in practice: not owning the entire stack, but having the capability to develop, adapt, and run AI domestically as part of a global supply chain. The conversation also covers the research directions behind the company. Sakana Fugu is our orchestration model, trained with reinforcement learning to route multi-step tasks across a variety of underlying LLMs. Namazu is our line of post-trained open-weight models tuned to reflect Japanese knowledge and values. The RSI Lab in Tokyo is dedicated to recursive self-improvement and AI-driven scientific discovery, continuing the work that began with The AI Scientist. And our co-founder Llion Jones keeps pushing on a longer-horizon goal of moving beyond the Transformer architecture itself. Asked at the end what one thing he would change about Japan, David’s answer was “hope.” “To really move the needle in terms of innovation, like the era in Japan when you have companies like Sony or Panasonic come out, there are a few factors. One is that the nation needs to have a collective sense of hope. A nation needs to feel hopeful. It could be poor. Everyone can be dirt poor, but they have hope. And that hope leads to things being done. So, what creates hope in Japan? Is it more money? Is it less taxes? Or is it more benefits? Probably not. I think it’s stories and narratives. If I have a magic wand, if the population in Japan is more optimistic about the future of this country, suddenly they’re persuaded, to be more optimistic. People should be optimistic. With optimism comes change. And change leads to more optimism.” Listen to the full episode: 🎏