AI Lab のリサーチサイエンティスト冨田( @miiitomi )、協業リテールメディアディビジョンのデータサイエンティスト兵頭 ( @onysuke )、メディア統括本部の機械学習エンジニア橋爪( @runnlp )です。9月18日から9月22日にシンガポールで開催されたRecSys2023に現地参加してきました。また、サイバーエージェントから提出した論文が本会議で採択され、発表を行いました。このブログでは、発表した論文、本会議やワークショップの内容、そして現地の様子について紹介します。

目次

• RecSys とは：橋爪
• サイバーエージェントからの発表：冨田
• Main Conference（Keynotes：兵頭、論文紹介：橋爪）
• Tutorials / Workshops（Tutorials：兵頭、Workshops：兵頭・橋爪）
• 現地の様子：橋爪
• おわりに：冨田

RecSysとは

RecSysは、推薦システムのトップカンファレンスで、今年で17回目の開催となります。参加者の割合としては、Academiaが37.37%、Industryが62.63%と、企業からの参加が非常に多いという特徴があります。Industryセッションが設けられていることから、現場のデータサイエンティストや機械学習エンジニアも発表を行うことも多いようです。

昨年に引き続き、ハイブリッド形式で開催されました。参加者は997人で、日本人参加者も58人と、アメリカと中国に次ぐ3番目の多さでした。今年の論文投稿数は483本で、採択率は19.6%でした。日程は、初日と2日目にチュートリアルとワークショップがあり、3日目から5日目が本会議となっていました。

また提出された論文のトピックと採択された論文のトピックが紹介されていました。提出された論文のトピックとしてはSequential, Bias, Graphなどが多かったのに対し、採択された論文のトピックとしては、提出された論文にも多かったSequentialに加えて、LLM, Framework, Evaluateが多かったようです。発表を聴いた感じとしても、Sequentialは昨年に引き続き多く、今年の新たなトピックとしてはLLMが多かったように感じました。また、昨年の様子も気になる方はこちらの参加ブログも併せてご覧ください。

 

サイバーエージェントからの発表

サイバーエージェントからは、今年は1件、RecSys2023の本会議で研究論文の発表を行いました。

 

発表の様子

私たちの研究は、全体3日目、本会議初日のApplicationのセッションで発表しました。RecSysの本会議は2トラックしかなく、また大きい方のメイン会場に割り当てられたため、広く立派な会場で大勢の参加者がいらっしゃり大変緊張しました……。

経済学分野のTUマッチングという、おそらく推薦コミュニティの方の多くが聞きなれない手法を用いた研究なので、どのような反応があるだろうかと思っていたのですが、興味を持って聞いてくださった方も多かったようで、ありがたいことに沢山の質問をいただきました。特に、マッチング理論の分野では有名なゲール・シャープレー（DAアルゴリズム）の話を踏まえての質問も複数あり、推薦の分野でもマッチング理論に興味のある人は想像以上に多いようで嬉しく思いました。

私見ですが、推薦の問題に対して経済学・マッチング理論のアプローチを応用できる話はまだまだあるように感じています。今回の学会でこの分野での研究へのモチベーションがさらに高まったので、来年も本会議で研究発表ができるようまた頑張っていきたいと思います。

Main Conference

本会議は学会の3日目から5日目にかけて行われました。Keynotesと研究発表の中で興味をもったいくつかの論文をピックアップして紹介します。

Keynotes

Keynotes には Jaime Teevan 氏（Microsoft）、Tat-Seng Chua 氏（National University of Singapore）、Rajeev Rastogi 氏（Amazon）の3人が登壇しました。それぞれ簡単に紹介します。

“From Documents to Dialogues: How LLMs are Shaping the Future of Work” by Jaime Teevan

大規模言語モデル（LLM）がどのように働き方を再定義するか？についての話です。知識の伝搬がドキュメントから対話へとシフトしている現在において、様々なデータソースを取り込むLLMにより、人間の生産性や創造性が向上することが強調されていました。

主なトピックは以下の3つでした

• Enterprise Grade AI：エンタープライズにおけるAI
• Knowledge in Conversation：会話を通じた知識伝搬
• Lead like a scientist !：科学者のようにリードするビジネスリーダーの必要性

1つ目の「Enterprise Grade AI」のポイントとして、多言語対応や信頼性などが挙げられましたが、最後に「既存のワークフローへの組み込み」の重要性が強調されました。私も最近 業務でフル活用しているGithub Copilot がその最たる例だと思いますし、データサイエンスの社会実装やDXにも共通する要素を感じました。

最後の「Lead like a scientist !」は、ビジネスリーダーが科学者のようにリーダーシップを取ることが求められているという、LLM時代に必要とされるリーダー像についての話でした。これは、仮説構築・検証を繰り返し、既存の知識をもとに新しいものを創出し、成果をオープンに共有して他者と議論し、行っていることの外部性と長期的な影響を考えることが、これからのリーダーシップに必要であるとのことでした。

LLMの隆盛により、働き方を含むあらゆる物事が変化する中で、小手先のハックではなく、技術による構造変化を考え続けていくことが重要だと感じました。

“Towards Generative Search and Recommendation” by Tat-Seng Chua

生成AIの基本トピックから始まり、推薦システムや情報検索に生成AIを応用した研究のサーベイについての話です。スライドはこちらで公開されています［slide］。

LLMはユーザーの意図を理解して、推薦システムや情報検索のアプローチを変革する可能性があります。一方で、生成されるコンテンツの信頼性や、外部知識から取り出したコンテンツと生成コンテンツの一貫性などの課題も存在します。その上で、推薦システムにおけるLLM（LLM4Rec）のパターンとして、

• LLM-enhanced RecSys：表現力の高い feature encoder としての LLM
• LLM-based RecSys：レコメンドシステムとしての LLM

の2つを挙げ、上記の課題に対する取り組みをいくつか紹介しています。

本会議やワークショップを含めて、推薦システムとLLMの組み合わせに関する研究は増えてきていますが、まだ模索中の段階だという印象を受けました。しかし、この分野の進展速度を考えると、次回の開催時には状況が大きく変わっていることも容易に想像できます。

“Recommendation systems: Challenges and solutions” by Rajeev Rastogi

Amazonにおける推薦システムの変遷、その課題とアプローチについての話です。Amazon Science のブログ記事が公開されています［blog］。

Amazonの推薦システムは、1998年の Item-to-Item の協調フィルタリングから始まり、2014年にニューラルネットワークへ移行しました。そして、未来の推薦システムは “会話型ショッピングアシスタント（Conversational Shopping Assistant）” になると紹介されています。そのシステムアーキテクチャとして、レビューテキストなどのデータソースを参照した RAG（Retrieval Augmented Generation）によるLLMを説明していました。Q&Aセッションでアーキテクチャに関する質問に対して、「（End-to-End / サブタスクなど）最適なアーキテクチャはまだ確定していない。この領域はまだ新しく、現在も実験が進行中だ。」と述べており、まさに今開発中である様子が伺えました。

推薦システムの3つの課題として、

• Handling asymmetry：構造（非対称性）を扱う
• Delayed feedback：遅延フィードバック
• Leveraging uncertainty：不確かさの活用

が挙げられ、各課題に対するアプローチと指標改善の事例を紹介していました。

私たちの会社でも、プロダクトの課題から生まれた2つ目の課題に関連する 研究論文 が WWW2020 に採択されており、ドメインは異なりますが、実務で感じる課題感が近いことを再認識しました。

発表紹介

Reward innovation for long-term member satisfaction [paper]

Netflixにおける長期的なユーザー満足度を最適化するための報酬設計に関する論文です。

Netflixでの長期的な満足度とは、視聴者が楽しみ、継続的にサブスクリプションを利用し、友人に勧めることを意味します。しかし、多くの大規模な推薦システムは、データ量や即時性などの理由から、ユーザーのエンゲージメントを最適化することが一般的です。これは短期的な指標が最適化される結果となり、長期的なユーザー満足度を考慮することが難しくなります。

そこで、この研究では代理報酬を設計し、それを最適化することで、間接的に長期的なユーザー満足度を最適化する方法を提案しています。さらに、アイデアの発想から開発、評価へと進むプロセスを報酬イノベーションと定義し、そのサイクルを繰り返せるようなインフラを構築しています。これにより、報酬の作成と評価のサイクルを円滑に進めることが可能となり、さらに異なるシステム間での共有も可能となります。これにより、長期的なユーザー満足度の最適化に効率的に取り組むことが可能となりました。

長期的な指標に関する課題は、私自身も実務を通じて感じています。しかし、ワークショップや研究発表などを通じて、この問題が頻繁に取り上げられていることから、この領域全体で注目されているトピックであると認識しました。

Track Mix Generation on Music Streaming Services using Transformer [paper]

音楽配信サービスにおけるプレイリスト生成に関する論文です。

配信されている楽曲は9000万曲にも及び、ユーザが自身の好みに合致した楽曲を見つけ出すことは非常に困難です。そこで、ユーザーがお気に入りのコンテンツに似た音楽を発見するために、ユーザが好きな曲を起点にそれに続くプレイリストを自動生成する方法を提案しています。

既存の手法では、ユーザーのプレイリストやお気に入りリスト内の楽曲の共起行列を特異値分解(SVD)を使用して、ユーザーの好みを反映したembeddingを生成し、それを近傍探索して得た楽曲群をルールベースでリランクしていました。しかし、提案手法では、ユーザープレイリストから得られた数百万のトラックシーケンスを使用して学習させた1つの隠れ層を持つデコーダーのみのtransformerを用いています。これにより1曲を入力としてそれに続く楽曲のシーケンスを出力しています。

プレイリスト生成の品質の評価指標を再生時間とお気に入りに登録された曲数と設定し、オンラインでの検証を行っています。その結果、提案手法では再生時間が向上することを確認しました。一方、お気に入りに登録された曲数については新規ユーザのみに改善が見られました。これは、提案手法がより人気の高い楽曲を推薦したため、既存ユーザの音楽発見体験を向上させることができなかった可能性があると考察されています。また、この論文では機械学習のアルゴリズムだけでなく、インフラ構成やレイテンシを抑えるための工夫についても言及されています。

私はこれまで音楽配信サービスをユーザーとしてのみ利用してきましたが、今回の論文の企業（Deezer）の過去の研究を見て、音楽推薦に焦点を当てたサーベイを行うことも興味深いと感じました。

Beyond Labels: Leveraging Deep Learning and LLMs for Content Metadata [paper]

動画配信サービスにおけるジャンルメタに関する論文です。

コンテンツのメタデータは動画の推薦システムにおいて極めて重要な役割を果たします。この論文では特にジャンルメタデータに焦点を当てています。ジャンルメタには、ノイズが多い、一貫性が欠けている、アノテータによって判断が左右する、複数のジャンルに属するコンテンツが多い、ジャンル間での重複が多いなど課題が存在します。

そこで、メタデータのテキスト情報からジャンルラベル情報を含むembeddingを学習し、これらの課題に対処する方法を提案しています。オフラインとオンラインの検証を通じて、この手法の有効性を示しています。

さらに、LLMを活用した解釈可能なジャンルラベル付与方法も提案しています。この手法では、コンテンツに対して複数のジャンルラベルを設定し、それぞれのラベル名、スコア、および判断の根拠を出力します。このジャンルメタを利用することで、コールドスタート問にへの対応や説明可能な推薦システムを実現することが可能になります。また、アニメや海外映画などの人気ジャンルを特集するカルーセル型のUIモジュール作成にも、このジャンルラベルが有用であると紹介されています。

 

Tutorials / Workshops

学会の1日目と2日目には、Tutorials と Workshops が並行して行われました。

Tutorials

計6の Tutorials が行われました。その中から2つピックアップして紹介します。

“On Challenges of Evaluating Recommender Systems in Offline Setting” by Aixin Sun

推薦システムのオフライン評価についての話です。発表スライドはこちらで公開されています［slide］。

推薦システムの評価において、アカデミックとインダストリーの間に大きなギャップが存在することが指摘されています。学習データと評価データの分割ミスによるリークの話もありましたが、私が最も興味を持ったのはコンテキストを考慮した評価とモデリングに関する話です。

1つ目に挙げられたのは、”Ignorance of timeline”、つまりユーザーの好みの時間変化を無視するパターンです（p29）。例えば、スマートフォンの購入シーンでは、新型iPhoneの発売前と後ではユーザーの意思決定や好みが変わることが予想されます。この時間変化を考慮せずに評価やモデリングを行うことの問題提起がなされていました。

2つ目は、意味のあるユーザーの好みをモデリングするための取り組みです（p44）。推薦システムはユーザーの意思決定の結果（例：クリック）をもとにユーザーの好みをモデリングします。この際、ユーザーが意思決定を行う状況（コンテキスト）を考慮することで、より良いユーザーの好みの表現を得る試みです。例えば、選択肢 {A, B, C} から C を選んだユーザーと、選択肢 {C, D, E} から C を選んだユーザーの意思決定の状況（Decision-making context）は同じか？という、選択肢集合のコンテキストがあります。このような状況をうまく扱うアプローチは、後述の CONSEQUENCES ワークショップのトピックでもある反実仮想との親和性が高いと感じ、非常に興味を持ちました。

これら2つのテーマは私が業務で取り組んでいる小売領域で直面する問題であり、コンテキストを考慮した推薦システムについて深く調査してみようと思いました。

“Recommenders in the Wild / Practical Evaluation Methods” by Kim Falk, Morten Arngren

実務における推薦システムとその評価に関する話です。

前半パートでは、Kim Falk氏（Practical Recommender Systems の著者）が、主にアカデミックを対象に、実際のプロダクトにおける推薦システムについて語っていました。ユーザーエクスペリエンス（UX）を考慮したレコメンドシステムの重要性を強調しており、具体的には、ユーザージャーニーやユースケース（例えば、商品検索？、商品購入後？）によって最適なレコメンドが異なるという話でした。後半パートでは、Morten Arngren 氏による、A/Bテスト、ベイジアンA/Bテスト、そしてそれらの課題を踏まえたバンディットアルゴリズム（Bayesian Bandit）についての話が展開されました。後半パートの資料はこちらで公開されています［slide］。

特に後半パートでは、登壇者にマーケティングやコンサルタントの経験があるためか、一般的なCTRの説明だけでなく、コストを考慮した意思決定までの説明があり、とても実用的な印象を受けました。

Workshops

計18の Workshops が行われました。その中から2つピックアップして紹介します。

CONSEQUENCES

推薦システムにおける因果推論や反実仮想に関するワークショップです。推薦システムの因果効果の推定や反実仮想を考えた評価・学習は、ビジネス指標や意思決定の改善が求められる分析において重要だと考えて参加しました。

ワークショップは研究発表（Oral、Poster）、Keynote、Tutorial で構成されており、とても充実していました。この記事では、Keynote と Tutorial について紹介します。このワークショップはすべて Youtube で公開されています。

Keynote: “Exploration in Recommender Systems” by Minmin Chen（Google Brain）［Youtube］

推薦システムにおける探索（Exploration）の価値についての話です。

推薦システムの探索とは、ユーザーが好むアイテムを見つけ出すための一環で、アルゴリズムが推薦するアイテムだけでなく、それ以外のアイテムもユーザーに提示することを指します。一方、活用（Exploitation）は、最もユーザーが好むであろうアイテムをそのまま推薦することを指します。この 活用と探索のトレードオフ は、推薦システムにおいて重要な課題とされています。

発表では、推薦システムの閉じたフィードバックループを指摘しています。つまり、活用に偏重した結果、多くのアイテムやクリエイターが未発見のままになるという問題です。探索の恩恵として、幅広い学習データが得られることによる性能の改善だけでなく、短期 / 長期的なユーザー体験の指標が改善することを説明しています [Chen et al., 2021]。そして、上記を実現するためのアルゴリズムとして、Neural Linear Bandits やリアルタイムな継続学習を紹介しています。Future workでは長期指標を測定する実験フレームワークの必要性が言及されており、本会議の研究でもいくつか見られましたが、長期指標の測定（surrogate index, proxy metrics）やその最適化は注目されていきそうなトピックだと感じています。

これまで推薦システムでよく言われる Diversity・Serendipity はあまり納得できませんでしたが、この Keynote では探索による長期指標への貢献という新しい角度から説明されていて、非常に興味深かったです。

Tutorial: “Doubly Robust Estimation for Position-Biased Clicks” by Harrie Oosterhuis（Radboud University）［Youtube］

ランキングにおけるクリックなどの暗黙的なフィードバック（Implicit Feedback）を使って学習する Unbiased な Learning to Rank（LTR）のための Doubly Robust の話です。発表資料はこちらで公開されています［slide］。

ランキング上のクリックを考えたときに、ポジションバイアスの問題が存在します。つまり、ユーザーの好みが高いにも関わらず、ランクの低いアイテムは露出が少なく、クリックされる可能性が低いという問題があります。

発表は大きく二部構成となっており、パート1では意思決定ポリシーの性能をオフラインで評価するための標準的な方法であるInverse Probability Weighting（IPW）、Direct Method（DM）、Doubly Robust（DR）の紹介をした後に、パート2でポジションバイアスを考慮したランキングにおけるDR推定を説明していました。

LARGE-SCALE VIDEO RECOMMENDER SYSTEMS

今年初めて開催された大規模な動画推薦システムに関するワークショップです。

Instagram、Facebook、TikTokなどのSNS領域や、Netflix、Youtubeなどのエンターテイメント領域で動画コンテンツが幅広く利用されるようになり、動画推薦システムへの需要は急速に高まっています。このワークショップでは、動画推薦システムの専門家による5つの講演が行われました。その中にはYoutube、Netflix、Instagramなど、私たちが日常的に利用しているサービスの関係者による発表もありました。その中から2つの講演を紹介します。これらの講演はすべてYoutubeで公開されています。

“Intents and Journeys: An LLM Approach” by Minmin Chen (Google Brain) [Youtube]

この発表では、ユーザーの意図を理解することが長期的なユーザーエクスペリエンスの向上に必要であると述べています。また、この目的を達成するためには、LLMを活用できるのではないかと提案しています。

従来の推薦システムは、ユーザーとアイテムのインタラクションに主に焦点を当て、クリックなどの短期的な指標を最適化することが多いです。しかし、ユーザーの根本的な意図を把握しない限り、長期的なエクスペリエンスの向上は難しいという問題を提起しています。これは、同じアイテムを購入したとしても、その行動の背後にある意図が異なることが多く、それによってユーザーが好む他のアイテムも変わってくるということを示しています。

ユーザーの意図を抽出し、推測することで長期的なユーザーエクスペリエンスを向上させることができるかどうかをリサーチクエスチョンとし、ユーザーの意図を予測して推薦システムに活用した場合、オンラインでの検証により指標が改善したことを示しています。また、ユーザー理解を促進するためにLLMを活用できるのではないかと提案していました。

本会議でも長期的な指標に関する話題が多く取り上げられており、この講演の内容は、動画推薦に限らず、他の推薦システムにも適用可能な情報が多いと感じました。

“From Stranger Things to Your Things: Netflix’s Recommendation Evolution ” by Ko-Jen Hsiao (Netflix) [Youtube]

Netflixでの推薦システムの活用先について述べた上で、自社の推薦システムのサイクルに関する4つのトピックについて紹介する発表です。スライドは公開されています。[slide]

Netflixでは、ホーム画面上ではビルボード、新着、前回の続き、人気、トレンドなど、様々なカテゴリーでコンテンツをどのように配置するか、またこれらのコンテンツの集合をどのように縦に並べるか、さらに検索時にどのようなコンテンツを表示するかなどに推薦が活用されており、”Everything is a recommendation”と表現していました。

さらに、以下の4つのトピックについて説明しています。

• Objective and Reward: 各設計における考慮点など
• Model Consolidation: マルチタスク学習や異なるデータ間でのモデル共有など
• Everything is Changing: 変化に対応する必要性、バッチ学習と逐次学習の時系列的な精度比較など
• Personalization Power-up: LLMの活用について

アプリ内での推薦システムの利用が増えると、開発が個々に分散し、各々が最適化されてしまうなどの課題が出てくる可能性があります。しかし、一部を共通化したり、全体を最適化する仕組みが導入されているのかなと感じました。

現地の様子

ここからは、メンバーから集めた写真を用いて、現地の様子を紹介します。学会現地の雰囲気を少しでも伝えられたらと思います。

本会議の会場は、去年よりも大きく感じました。ただ、誰かに去年の方が大きかったと言われた記憶もあるので、私の感じ方かもしれません。冨田さんの発表を見て、いつか自分も同じように大きな会場で発表できるくらいの成果を出せたらと思いました。

 

 

 

 

 

 

 

現地参加ならではの魅力として、他の参加者との交流が挙げられます。ポスター発表や休憩時間には、参加者と議論する機会があります。また昨年に引き続き、今年もWomen in RecSys Breakfastが開催され、女性参加者との交流も楽しむことができました。私の座ったテーブルでは、アカデミアと企業の方々が半々でした。企業の機械学習エンジニアの方でも、社会人博士を取得しようと考えている方が多く、それは非常に刺激的でした。また、今年初めて参加する方がほとんどで、2年連続で現地参加させていただけていることはありがたいことだなと改めて感じました。

Welcome Receptionでは獅子舞のようなパフォーマンスが披露され、シンガポールの文化に触れることができました。後で調べたところ、それはドラゴンダンス、ライオンダンスと呼ばれるシンガポールのお正月名物だとわかりました。また、今年は昨年に比べて、現地参加している日本人が多く、他の企業の推薦チームの方々と実務に関する話や、海外の大学院や企業にいる方からの話を聞くことができたのも印象的でした。Banquetは、本会議から場所を移してMarina Bay Sands Expo and Convention Centreで開催されました。会場は広くて豪華で、驚きました。ここではBest Paperの発表や楽器の演奏などが行われました。

 

 

 

 

 

 

 

シンガポールの様子も少し紹介します。

シンガポールと言えばマーライオンですので、学会の3日目の夜に見に行きました。後で知ったのですが、この学会直後の9月25日からマーライオンはメンテナンス作業に入ったそうです。今回見ることができたのは幸運でした。

 

 

 

 

 

 

 

 

 

 

 

 

チリクラブ

 

おわりに

今回サイバーエージェントからは4名の社員が現地参加させていただきましたが、ただ発表を聞いて学ぶだけではなく、カンファレンス期間を通して社員同士あるいは他の参加者さんと互いの興味やプロダクトの推薦技術について議論を交わすことができ、非常に有意義な機会となりました。特に私（冨田）個人としては、普段は研究組織所属のリサーチャーであるためプロダクトの推薦システムの現場の課題に直接接する機会は必ずしも多くないのですが、実際のプロダクトの推薦システムを担当されているみなさんから興味や課題について議論できたことは、これからの私自身の研究開発にとって大変有用であるように感じています。さらに、私たちの今回の研究発表やマッチングと推薦についての話に興味があるといった反応も多くいただき、これからの研究へのモチベーションも得ることができました。参加した4人それぞれが今回のRecSys参加を通して学んできたことを担当プロダクトに活かしていくとともに、私としてはイタリア・バーリで開かれる来年のRecSysでもまた研究発表ができるよう、これから頑張っていきたいと思います。