cv usk
@cv_usk
AI / Software Research Notes
AI Agent, LLMOps, MLOps, Software Architecture
投稿は個人の意見です。
가입 May 2026
286 팔로잉 중 470 팬
TL;DR: 生成型LLMの順位付けの判断を、1回の順伝播で動くリランカーに蒸留する手法です。8Bの生徒が、リストワイズのリランカーに近い精度を約24倍の速さで出します。
DecisionRank: On-Policy Distillation for Decision-Model Rerankers
ポイント
・🎯 各候補に単一トークンIDを割り当て、最初のトークンのロジットを並べて順位を出します
・🔁 教師と生徒を、語彙ではなく候補アイテム単位で合わせるので、語彙やアーキテクチャが違っても蒸留できます
・👀 生徒の上位20件の並びを教師に評価させる、オンポリシーのフィードバックを使います
・📐 オフラインのRankNet損失と組み合わせて学習します
・📊 DecisionRank-8BはTREC DLで64.34、リストワイズのDirectRank-8B(62.92)を上回りました
・⚡ レイテンシは同じ8BのDirectRankの約24.5分の1です(TREC DL、B200+vLLM)
R2MEDではDirectRank-8Bに届かず、BRIGHTでは27Bの教師が上です。それでも、速度と精度のバランスは実用的です。
#リランキング# #知識蒸留#
더 보기
