米Netflix、LLMを活用した推薦システム「GenRec」を発表　自然言語入力と独自学習で長年の本番モデルを上回る

要点

• 米Netflixが、コンテンツ推薦の順位付けにLLM（大規模言語モデル）を活用する新システム「GenRec」に関する論文を公開した。

• 従来の手作業による特徴量設計を排し、ユーザーの行動履歴や利用状況を自然言語として入力する構成へ移行した。

• 汎用基盤モデルと推薦特化学習を組み合わせた2段階構成により、長期的なユーザー満足度を評価に反映している。

• 全トラフィックの約10%を用いた4週間のA/Bテストで、長年運用されてきた既存の本番システムを有意に上回る成果を記録した。

• 履歴情報の圧縮によってコンテキスト長を約3分の1に削減し、精度を維持したまま推論コストをおよそ3分の1に抑えた。

• 米動画配信大手のNetflix（ネットフリックス）が、コンテンツ推薦の順位付けをLLM（大規模言語モデル）で行う新システム「GenRec」に関する論文を公開した。従来の推薦システムで不可欠だった膨大な手作業の特徴量設計を取りやめ、視聴履歴や利用状況を自然言語としてモデルに入力する設計を採用している。実トラフィックを用いた大規模なA/Bテストでも、長年改善されてきた既存の本番システムを有意に上回る成果が確認されたという。

特徴量設計から自然言語入力への転換

従来のNetflixの推薦システムは、大量の手設計特徴量や用途ごとの専用アーキテクチャに依存していた。そのためコンテンツ種別や推薦面の追加時に特徴量やモデルの再設計、インフラ改修が生じ、ビジネス要件の変化へ迅速に対応できない課題を抱えていた。

GenRecではこれらを排し、ユーザー履歴や利用デバイス、時間帯、コンテンツ情報などを自然言語や軽く構造化されたテキストに変換してLLMに入力する。設計の中心を、特徴量を作り込む「特徴量エンジニアリング」から、入力文脈を整える「コンテキストエンジニアリング」へ転換した形だ。

2段階の学習と長期満足度の最適化

GenRecのモデル学習は、役割の異なる2段階で構成されている。

第1段階では、オープンソースのLLMをベースにNetflix独自のデータで学習を行い、コンテンツやユーザー行動を理解する基盤モデルを構築する。続く第2段階では、このモデルを推薦固有のデータや報酬シグナルで事後学習（ポストトレーニング）する。最新トレンドや関心の変化に追従するため、第2段階は高頻度で更新される。

第2段階では推薦順位の学習と同時に言語モデリング（文章の次単語予測）も行い、LLM本来の言語理解力やプロンプト制御能力を維持している。さらに、短期的なクリックだけでなく再訪や多様な探索、映画やゲームなどの露出バランスを含む長期的な満足度を評価する報酬モデルを活用。強化学習を直接適用するのではなく、サンプルの損失を報酬で重み付けする方式を採用し、学習コストを抑えながら安定した最適化を図った。

作品名を生成しない高速な推論設計

GenRecの大きな特徴は、LLMに推薦作品名を1単語ずつテキスト生成させない点にある。

ユーザー履歴などの文脈をLLMに入力し、内部状態からユーザーの嗜好を表すベクトル表現を取得する。このベクトルと各作品の埋め込み表現を用い、専用ヘッドがカタログ内の全作品に対して直接スコアを算出して順位付けを行う。

入力を一度モデルに通すだけでカタログ全体を一括スコアリングできるため、逐次的な生成に伴う膨大な計算コストを回避できる。カタログに実在する作品のみを採点するため、存在しない作品を架空生成するハルシネーション（もっともらしい嘘を出力する現象）も防止できるという。

本番A/Bテストでの成果と推論コストの削減

既存の本番システムとの比較検証では、オフライン評価において本番システムの約40分の1の学習データでありながら、推薦精度の指標であるMRR（平均逆順位）が約1.6%改善した。

さらに、全トラフィックの約10%を対象とした4週間のオンラインA/Bテストでは、短期エンゲージメント指標で+0.115%、長期指標で+0.006%の改善が確認され、いずれも統計的に有意であった。

2段階学習の寄与度についても、オープンソースLLM単体に比べ第1段階で10〜20%改善し、第2段階でさらに35〜50%向上した。第1段階から2週間経過後には第2段階による改善幅が約80%に達し、高頻度な更新が鮮度追従を担うことが裏付けられた。

また、重要度の低い行動の除外や重複の圧縮により、入力長を約5,000トークンから約1,700トークンへ約3分の1に削減。性能を落とさず推論コストもおよそ3分の1に抑えられたとしている。