タオバオを運営するアリババが、ECサイトの「あなたへのおすすめ」を支えるレコメンドAI「RecGPT-V3」の技術レポートを公開した(https://arxiv[.]org/html/2607.15591v1)。数億人規模の日次アクティブユーザーを抱えるタオバオのホーム画面「Guess What You Like」枠に実際に投入し、本番A/Bテストまで行った上での報告。 前身のRecGPT-V1・V2は「ユーザーの行動履歴を読んでLLMに意図を推論させる」設計で成果を出してきたが、大規模運用の中で3つの壁にぶつかった。 1つ目は、リクエストのたびに行動履歴を全部読み直す非効率さ。V3は「Memory Hub」というユーザーごとの永続的な記憶層を新設した。ガジェット好き、バドミントン好き、育児中といった興味ごとにメモリユニットとして蓄積しておき、新しい行動が来たら該当ユニットだけを差分更新する仕組みに変えることで、ユーザー理解にかかる計算コストを55.8%削減している。 2つ目は、LLMが出す自然言語タグと実際の商品とのズレ。「バドミントンラケットスタンド」のようなタグ1つに幅広い商品群が対応してしまい、本当に欲しい商品を絞り込む手がかりが失われていた。V3ではLLM(ベースはQwen3-14B)の語彙に、商品の意味を離散コードで表す「Semantic ID」を65,536個追加し、自然言語とSemantic IDの両方で推論できるハイブリッドモデルにした。 3つ目は、精度を上げるための思考の連鎖(Chain-of-Thought、答えを出す前にLLMが踏む思考ステップ)が長すぎる問題。1サンプルあたり2,840トークンにも及ぶ思考過程が推論を遅くしていた。V3は「Latent Intent Reasoning」でこれをわずか10個の潜在トークンに圧縮しつつ、必要なときは人が読める説明文に復元できる仕組みも保っている。論文中の実例では、この10トークンだけから、本格派で攻撃的なプレースタイルのバドミントン好きでフルカーボンラケットやガットが必要、という趣旨の説明文まで復元できたと報告されている。出力トークン数は95.7%減り、処理速度は3.46倍(1,020秒から295秒)になった。 結果、本番A/Bテストではフィードで商品詳細ページ閲覧数(IPV)が1.28%、クリック率(CTR)が1.00%、取引件数(TC)が1.97%、流通取引総額(GMV)が3.97%向上しながら、サービング全体の計算コストは52.4%削減された。精度とコストを同時に改善できているのが実運用ならではの説得力がある。