自己改善するマルチモーダルモデルは、「いつ新しい問題に入れ替えるか」を学習ログだけで決められる🔄
A-RSI: Adaptive Task Refresh for Zero-Data Multimodal Self-Improvement
📌 概要
人手のラベルなしでVLMを自己改善させるとき、学習タスクのプールを適切なタイミングで更新する手法A-RSIを提案しています。
⚠️ 解決する課題
・多くの手法は「次に何を作るか」に注目し、「いつ入れ替えるか」を扱いません
・多数決などでラベルを作ると、モデル自身の誤りが学習目標になります
🧩 手法
・ベースモデルがパラメータ付きのタスクジェネレータを書き、画像・質問・参照答えをプログラムで生成します
・GRPOで学習し、報酬は正答を最優先にします
・報酬にばらつきが残るプロンプト数が減るか精度が上がると、プール全体を未使用タスクに入れ替えます
📊 結果
・Qwen3-VL-8Bの11ベンチマーク平均が57.77から61.05に上がりました。新規タスクは800件です
・毎ウィンドウ更新の60.64は3,200件で、4倍のタスクを使っています
・MiMo-VL-7Bでも59.08から60.71になりました
🔭 意義
検証スコアを使わずに更新時期を決められる点が実用的です。一方、各比較は1回の学習のみです。
#
自己改善# #
マルチモーダルAI#