TL;DR: 系列と非系列の特徴を1つのバックボーンで双方向に融合し、有効ランク(eRank)を意識したアテンションで表現の多様性を保つ推薦ランキングモデル「HiRank」の提案です。Taobaoホームページのオンラインテストで、ユーザーあたり注文数が+2.27%向上しました。
タイトル: Unified Heterogeneous Feature Interaction via Effective-Rank Scaling for Recommender Systems
URL:
ポイント
・🧩 エンコードしてから相互作用させる従来構成をやめ、イベント単位の系列状態を層をまたいで参照
・🚪 HSTU型のゲート付きアテンションで主行動系列をモデル化
・🔎 興味クエリと候補クエリの2種で長期履歴メモリを検索し、検索の多様性を確保
・🔀 系列・検索結果・特徴・候補トークンをトークンミキシングで融合
・🎯 シナリオ認識の圧縮と複合トークンで、High-Rank Attentionをかける
・📊 オフライン: ホームページGAUC 0.7801(最強ベースライン比+0.0186)
・🛒 オンライン: 注文数/ユーザー +2.27%、GMV/ユーザー +2.86%
💡 モデルを大きくするだけでなく、系列長と表現の多様性が効くという示唆が面白い論文です。
#
推薦システム# #
LLM#