はじめに

こんにちは。九州大学大学院 修士1年の秋庭 孔樹です。2026年10月7日〜10月29日の3週間、CyberAgentが主催するインターンシップ「CA Tech JOB」に参加しました。配属先は株式会社AJAのDSP(Demand-Side Platform:広告主や代理店が広告枠を買い付けて広告を配信するシステム)チームで、機械学習(ML)エンジニアとして勤務しました。

インターンシップでは動画広告を配信するユーザーのリスト(以下、配信リスト)のサイズを、当日の配信の進み具合に合わせて毎時自動で調整するパイプラインを構築しました。日予算を使い切れなかった案件の過去データでオフライン評価を行ったところ、日予算の消化率の平均は56.3%から99.9%に改善しました。

この記事では取り組んだ課題と、ロジックの検討、パイプラインの実装、オフライン評価、評価を受けた改良までを紹介します。

想定読者は次のような方です。

  • 機械学習エンジニアやデータサイエンティストの仕事に興味がある学生・エンジニア
  • MLOps(機械学習のモデルを本番で動かし続けるための仕組みづくり)に興味がある方
  • 広告配信の仕組みに興味がある方

 

Smart Targeting と広告予算の基本

Smart Targeting とは

Smart Targeting は、株式会社AJAが提供する動画広告プラットフォーム「インクリー」の、広告配信を最適化する機能です(プレスリリース)。ユーザーごとに、購入や登録などの行動であるコンバージョン(CV)をする確率を機械学習で推定し、確率の高いユーザーを集めた配信リストに広告を配信します。

従来のターゲティングでは性別や年代などのデモグラフィック属性の単位で配信先を決めていました。たとえばマッチングアプリの広告であれば、経験則から20代・30代の男性に配信します。しかし、20代にもマッチングアプリに興味がない人はいますし、40代にも興味がある人はいます。

Smart Targeting は属性の区分ではなく、ユーザー単位で配信先を選びます。従来の配信方法と同じ月で比べて、広告からCVにつながる割合であるコンバージョン率(CVR)が3.4倍になった事例もあります(CyberAgent Way の記事)。

インプレッションと日予算

広告が1回表示されることをインプレッション(imp)と呼びます。広告費はimpに応じて使われていきます。

広告主は広告の配信にかける費用を予算として決めます。このうち1日に使う金額が日予算です。日予算を使い切れないと、広告主が予定していた量の広告を配信できないおそれがあります。

 

日予算を使い切れない「ショート」の課題

既存の Smart Targeting では、配信リストを毎日次の手順で作成します。

  1. 直近の動画メディアに出現したユーザーについて、統計的な手法もしくは機械学習を用いてCV確率などの定量的な指標を算出する
  2. 広告の日予算に基づき、配信リストのサイズを決める
  3. 1で算出した指標と2で決めたサイズをもとに、広告効果の高いユーザーに絞った配信リストを作成する

手順1の予測の役割はユーザーに順位を付けることです。その順位のどこまでをリストに入れるかは、手順2で別に決めます。今回取り組んだのはこの手順2で、順位のどこで区切るかを決める部分です。

サイズを決める手がかりは、日予算から求めたその日に必要なimp数です。ただし、リストに入れたユーザーがその日に動画を見に来るとは限りません。そこで、ユーザーごとにその日に動画サービスを訪問する確率(以下、その日に来る見込み)も予測しておきます。そして順位の高いユーザーから見込みを足し上げ、必要なimp数に見合うところまでをリストに入れます。既存の仕組みでは、この見積もりを1日1回、前日までのデータをもとに行うため、当日の視聴の状況とずれることがあります。

配信リストのサイズを大きくすると、配信できるユーザーが増えるため、日予算を使い切りやすくなります。一方で、対象のユーザーが増える分、効果の低いユーザーへの配信も増える可能性があります。逆にサイズを小さくすると、効果の高いユーザーに絞って配信できますが、配信量が足りずに日予算を使い切れないおそれがあります。

これまで、Smart Targeting を適用した案件では、日予算を使い切れない「ショート」と呼ばれる事象が起きていました。既存のロジックは配信リストのサイズを日次で決めるため、日中に配信が伸びなくても、配信の進み具合をもとにその日のうちにサイズを見直すことはありません。ショートが起きたときは、担当エンジニアが配信リストのサイズを手動で微調整する必要がありました。

そこで、当日の配信の進み具合に合わせて、配信リストのサイズを毎時自動で調整するパイプラインの構築に取り組みました。目標は次の2つです。

  • ショートをなくす
  • ショートが起きない範囲で、配信リストのサイズをできるだけ小さく保つ

2つ目の目標を置いたのは、ショートを防ぐために常に大きなリストで配信すると、効果の低いユーザーへの配信が増えてしまうためです。

 

配信の進み具合をもとにリストのサイズを毎時更新する

ショートをなくすために、毎時の配信の進み具合をもとに配信リストのサイズを制御することにしました。理由は2つあります。

1つ目は当日の配信の進み具合をもとに制御するのが、ショートをなくすうえで確実だと考えたからです。2つ目は当日のimpの履歴や日予算、配信時間といった少ないデータから比較的シンプルにロジックを組めるので、インターンシップの期間内に実装と評価まで終えられると考えたからです。

考案したロジックは、これから必要な1時間あたりのimp数と直近1時間のimp数を毎時比べて、配信リストのサイズを更新します。更新式を図1に示します。

図1 配信リストのサイズの更新式

これから必要な1時間あたりのimp数は、1日の目標imp数からすでに配信したimp数を引き、その日の配信時間の残り(残り有効時間)で割って求めます。直近1時間のimp数がこの値より少なければ、今のリストでは配信先が足りないのでサイズを大きくし、逆に多ければサイズを小さくします。

たとえば、1日の目標が100imp、残りの有効時間が5時間で、すでに50impを配信しているとします。残りの50impを5時間で配るには、1時間あたり10impが必要です。直近1時間の配信が5impならサイズを2倍の方向に、10impならそのまま、20impなら半分の方向に調整します(数値は説明のための例です)。

図1の式は、これから必要なimp数と直近のimp数の比を今のサイズに掛けています。考え方が伝わるように、式を簡略にしています。実装では比を人数に直接掛けず、前の章で説明した「その日に来る見込み」を順位の上から足し合わせた値に掛けます。そのうえで、掛けたあとの値に届くまでの人数を新しいサイズとしています。

 

Agent Platform Pipelines での実装

考案したロジックは、Agent Platform Pipelines(旧 Vertex AI Pipelines)で日次と毎時の2本のパイプラインとして実装しました。重いデータの準備は日次のパイプラインにまとめ、毎時のパイプラインはサイズの更新だけを行う構成です。毎時のパイプラインの処理時間をなるべく短くすることで、配信の進み具合とサイズの更新とのずれを小さくしました。

日次のパイプラインは深夜に1度だけ動きます。必要なデータをBigQueryとCloud Storageから読み込んで結合し、その日の配信リストの初期サイズを決めて、毎時のパイプラインが使うデータを保存します。

毎時のパイプラインは、日次のパイプラインが動いた1時間後から、その日の最後の時間帯まで動きます。当日の配信実績を集計し、日次のパイプラインが保存したデータと合わせて、配信リストのサイズを更新します。図2は2本のパイプラインの構成です。

図2 日次と毎時の2本のパイプラインの構成

 

オフライン評価で効果を確かめる

評価の方法

考案したロジックの効果を確かめるため、過去の配信データを使ったオフライン評価を行いました。対象は過去にショート(日予算の消化率98%未満)が起きた、Smart Targeting を適用した案件の配信日のうち、その日のうちに日予算などの設定を変えなかった日です。

評価では、ロジックが毎時行う判断を過去のデータで再現し、各時刻の配信額の変化をシミュレーションしました。ロジックによって新しくリストに入ったユーザーは、実際にはリストにいなかったので、そのimpを観測できません。そこで、このユーザーの入札リクエストの数に一定の率を掛けて、impを見積もりました。入札リクエストは、ユーザーが広告枠のある動画を見に来るたびに届く広告の要求です。また、更新したサイズはすぐに配信へ反映されるとみなしています。

評価の結果

評価の結果、日予算の消化率の平均は56.3%から99.9%に改善しました。すべての日で消化率が上がり、最も低い日でも98.3%でした。過去のデータの上ではロジックの効果を確認できました。

ただし、この結果は見積もりに大きく左右されます。シミュレーションのimpの46%は、新しくリストに入ったユーザーへの配信でした。ある案件では、もともとリストにいたユーザーで比べると、実際のimpが見積もりの約6分の1しかなく、この案件の結果は実際より高く出ていると考えられます。そのため、実際の配信での検証が必要です。

ある1日について、既存のロジック(灰色)と新しいロジック(オレンジ)で、日予算の消化率と配信リストのサイズの推移を比べたものを図3に示します。どちらのグラフも横軸はその日の時刻で、左は消化率、右は配信リストのサイズを表します。左のグラフの斜めの破線は、日予算を1日の中で偏りなく使うために設けた、その時刻までの消化率の上限です。この仕組みをペーシングと呼びます。この上限があるため、リストを大きくしても、その分だけ配信量が増えるとは限りません。

図3 既存のロジックと新しいロジックの比較(ある1日の消化率とリストのサイズの推移)

 

時間帯による視聴の偏りを考慮した改良

一方で、評価からは課題も見えてきました。ロジックはどの時間帯でも同じimp数を出そうとするため、視聴ユーザーの少ない深夜から早朝にはリストのサイズを大きくしすぎてしまい、視聴の多い夜の時間帯には縮めきれない傾向があります。

そこで、時間帯による視聴の偏りを考慮するように、ロジックを改良しました。改良後のロジックでは、時間帯ごとの重みを使って直近1時間のimp数と次の1時間に必要なimp数を計算します。重みは前月の入札リクエストの数をもとに、メディア・曜日ごとに時間帯別の割合を求めたものです。これによって、深夜から早朝の視聴の少なさと夜の視聴の多さを考慮して、サイズを制御できます。改良後の更新式は図4のとおりで、この重みを各時間帯のimp数の配分f(h)として使っています。

図4 改良後の更新式

重みにimpなどの配信実績ではなく入札リクエストを使ったのは、配信実績がこのロジック自身の判断で変わってしまうからです。リストのサイズを変えれば、その時間帯の配信実績も変わります。配信実績から重みを作ると、ロジック自身の判断の結果が、次の判断に使う重みに反映されてしまいます。入札リクエストはユーザーが動画を見に来た量を表すので、リストのサイズには左右されません。

改良後のロジックについても同じ方法でオフライン評価を行いました。ショートが起きた日での結果を、ここまでの結果とあわせて表1にまとめます。

表1 ショートが起きた日での比較

ロジック 日予算の消化率の平均 各時刻のリストのサイズの合計の中央値(改良前を100%とした比)
既存のロジック(実際の配信) 56.3% —
改良前のロジック(シミュレーション) 99.9% 100%
改良後のロジック(シミュレーション) 99.5% 約89%(約11%小さい)

 

改良後のロジックでは、消化率の平均がわずかに下がった一方、配信リストのサイズは改良前と比べて約11%小さくなりました。サイズは1日の各時刻のサイズを足し合わせた値を配信日ごとに求め、その中央値で比べています。また、消化率が99%を下回った日もありました。なお、新しくリストに入ったユーザーのimpを一定の率で見積もる評価の方法は、改良後のロジックの前提と近い形をしているため、この比較は改良後のロジックに少し有利になっています。

リストを小さくできたことは、広告効果のより高いユーザーに絞った配信につながると考えられます。ただし、広告効果そのものは今回の評価では測っていません。改良前後の推移を図5に示します。図3と同じく、左が消化率、右が配信リストのサイズです。

図5 改良前と改良後の比較(消化率とリストのサイズの推移)

 

今後の展望

今回実装したパイプラインは、インターンシップの期間内に実際の広告配信へ適用するところまでは進められませんでした。今後はまず日次のパイプラインを実際の配信を変えずに動かして結果を確かめ、日次を切り替えたあとに毎時のパイプラインを動かす、という順に段階的に切り替えていく予定です。

本番環境に反映したあとは、実際の配信でもショートが減るかを確かめる必要があります。今回の評価は過去のデータを使ったオフライン評価で、実際の配信での検証はまだ行えていないためです。

また、改良後のロジックは時間の都合上、パイプラインへの組み込みまではできませんでした。最初の評価結果を受けて考案した改良版をパイプラインに組み込むことも、今後の課題です。

 

インターンを通して学んだこと

今回のインターンシップでは Smart Targeting の配信リストを自動で調整するタスクを通して、AJAのMLエンジニアがどのようにプロダクトの改善に取り組んでいるのかを学べました。実装まで進められたのはシンプルなロジックだけでしたが、自身のMLのバックグラウンドを活かしてプロダクトや事業の改善に取り組めた経験は、とても貴重でした。

これまで興味はあったものの、なかなか経験できなかったMLOpsについても、実際に動かしたりコードを読んだりしながら学べました。この経験は自身の成長につながったと実感しています。

特に勉強になったのは、パイプラインを組むときに障害を考慮する観点です。ロジックの性能を見るだけでなく、特定のサービスが不具合で動かない場合にどのような挙動になり、それが許容できるのかまで細かく想定します。たとえば、パイプラインを起動するCloud Runが止まったときにどう動くか、処理を再実行するときにどの方針をとるかを検討しました。この観点はこれまでの自分にはないものでした。

 

まとめ

動画広告の日予算を使い切れない「ショート」をなくすため、配信リストのサイズを当日の配信の進み具合に合わせて毎時更新するロジックを考え、オフライン評価で効果を確かめました。さらに、時間帯による視聴の偏りを考慮した改良も行いました。

予測モデルの精度だけでなく、予測をもとに配信リストのサイズを決める部分にも、ロジックの設計や評価、本番での運用で考えることが多くあります。MLエンジニアやデータサイエンティストの仕事、MLOps、広告配信の仕組みに興味がある方の参考になれば幸いです。

このような経験ができたのも、トレーナーやメンターの方々をはじめ、AJAの皆さまが親切にサポートしてくださったおかげだと感じています。この場を借りて、心より感謝申し上げます。