cv usk(@cv_usk):TL;DR: 生成型LLMの順位付けの判断を、1回の順伝播で動くリランカーに蒸留する手法です。8Bの生徒が、リストワイズのリランカーに近い精度を約24倍の速さで出します。 DecisionRank: On-Policy Distillation for Decision-Model Rerankers https://t.co/vgLQCnaidG ポイント・🎯 各候補に単一トークンIDを割り当て、最初のトークンのロジットを並べて順位を出します・🔁 教師と生徒を、語彙ではなく候補アイテム単位で合わせるので、語彙やアーキテクチャが違っても蒸留できます・👀 生徒の上位20件の並びを教師に評価させる、オンポリシーのフィードバックを使います・📐 オフラインのRankNet損失と組み合わせて学習します・📊 DecisionRank-8BはTREC DLで64.34、リストワイズのDirectRank-8B(62.92)を上回りました・⚡ レイテンシは同じ8BのDirectRankの約24.5分の1です(TREC DL、B200+vLLM) R2MEDではDirectRank-8Bに届かず、BRIGHTでは27Bの教師が上です。それでも、速度と精度のバランスは実用的です。 #リランキング #知識蒸留

2026.11.04 00:56

TL;DR: 生成型LLMの順位付けの判断を、1回の順伝播で動くリランカーに蒸留する手法です。8Bの生徒が、リストワイズのリランカーに近い精度を約24倍の速さで出します。 DecisionRank: On-Policy Distillation for Decision-Model Rerankers ポイント・🎯 各候補に単一トークンIDを割り当て、最初のトークンのロジットを並べて順位を出します・🔁 教師と生徒を、語彙ではなく候補アイテム単位で合わせるので、語彙やアーキテクチャが違っても蒸留できます・👀 生徒の上位20件の並びを教師に評価させる、オンポリシーのフィードバックを使います・📐 オフラインのRankNet損失と組み合わせて学習します・📊 DecisionRank-8BはTREC DLで64.34、リストワイズのDirectRank-8B(62.92)を上回りました・⚡ レイテンシは同じ8BのDirectRankの約24.5分の1です(TREC DL、B200+vLLM) R2MEDではDirectRank-8Bに届かず、BRIGHTでは27Bの教師が上です。それでも、速度と精度のバランスは実用的です。 #リランキング# #知識蒸留#