こんにちは、株式会社AI Shift、AI Workerチームの山口 (@key60228) です。
この記事はKubeCon + CloudNativeCon Japan 2025特集 Blog 4日目の記事です。
今回は「クラウドネイティブ技術を採用することでサイバーエージェントの事業はどんな恩恵を受けているのか」という観点について、AI Workerというプロダクトの例を挙げてご紹介出来ればと思います。
AI Workerについて
AI WorkerはAI Shiftが開発している「エンタープライズ向けAIエージェント構築プラットフォーム」です。
AI ShiftはChatbot/Voicebotを祖業に持つサイバーエージェント100%子会社ですが、2023年11月から新規事業としてAI Workerの開発がスタートしました。
当初は「法人向けChatGPT」のようなコンセプトからスタートしましたが、移り変わりの激しい生成AIマーケットのトップランナーたり得るため、数回のピポットを経て今の「AIエージェント構築プラットフォーム」になっています。
現在はSaaSモデルでの提供のみとなっていますが、機密を伴うRAGやAIエージェントによる顧客社内ツールの実行等も発生するため、「移植性を高く保つ (≒ 顧客要件に合わせて顧客クラウド/オンプレ環境に移植出来る)」ことが1つ大きな非機能要件として存在しています。
クラウドネイティブ技術が生成AIマーケットで戦う事業にもたらす恩恵
各ビッグテックの動きからも分かる通り、AI Workerの主戦場である生成AI市場は変化が非連続的で、迅速かつ柔軟な開発が求められます。
また先述のプロダクトの特性上、ベンダーロックインを極力避け、マルチクラウド/オンプレミス対応が可能な状態を保つ必要があります。
こうした特性上クラウドネイティブ技術採用による恩恵は大きく、AI WorkerでもKubernetes、ArgoCD、Redis、PostgreSQLを初めとした各クラウドネイティブプロジェクトを採用しています。
以下クラウドネイティブ技術を採用したことでAI Workerが受けている恩恵を挙げていきます。
サービスの規模と負荷に応じた柔軟なスケーリングによるコストの最適化
インフラ基盤にKubernetesを採用したことでサービスごとのスケールが容易になっています。
立ち上げ期は小さくスタートし、サービス規模/ユーザー数の拡大に伴い垂直スケールすることでコストの最適化を実現しています。
また、一般的なWebアプリケーション同様、生成AIプロダクトにも負荷のスパイクポイントがいくつか存在しています。
AIエージェントの利用者が増えるビジネスアワーはもちろん、AIエージェントの構築タイミングではドキュメントのindexingやツールの多重実行による精度検証など、実行負荷の高い処理が繰り返し走ります。
前者は比較的予測が容易ですが後者はユーザー依存で予測が難しいため、CPU利用率に合わせて水平スケールさせることでコストの最適化と安定したサービス提供を両立しています。
Kubernetesの採用は初期の構築工数がやや重たく感じるところですが、AI Shiftでは先述のChatbot/Voicebotが既にKubernetesで稼働していたことから、同一クラスターにnamespaceを切って相乗りすることで迅速に立ち上げることができました。
ちなみに最初期はビジネス要件からAzure Container Appsを使っていました。
AzureからGoogle Cloudへの移行時の試行錯誤の舞台裏はZennにまとめています。
継続的デリバリーの容易化によるフィードバックサイクルの高速化
ArgoCD (とGitOps) の導入により、機能実装から各環境へのデプロイをシームレスに行えるようになっています。
生成AI市場のように不確実性が高く、絶対的なプラクティスやニーズが確立していないマーケットでは、「フィードバックサイクルをいかに短く保つか」が1つ重要な指標として挙げられます。[1]
また、AI Workerの開発チームには専属のインフラ/SRE/プラットフォーム担当がいないため、アプリケーションエンジニアがデリバリーまで責務を持つ必要があります。[2]
開発チームがアプリケーションの開発・改善に集中でき、社内でのドッグフーディング/ユーザーへのデリバリーを迅速に行える体制をArgoCDが支えています。
高いポータビリティによる導入柔軟性と市場対応力の向上
PaaS準拠のマネージドサービスへの依存を極力排除し、Kubernetesを初めとする各クラウドネイティブ技術を採用しています。
これによって移植性が高く保たれ、市場/顧客からの幅広い要望に柔軟に対応できる体制を築いています。
先述の通り、AI Workerは機密を伴うRAGやAIエージェントによる顧客社内サービスへのアクセスなども発生し得るため、顧客要件に合わせて顧客クラウド/オンプレミス環境に移植するケースが今後考えられます。
「まずはPoCとして試したい」という顧客にはSaaSモデルで提供し、本格的に社内に導入する際には「パッケージ的に顧客環境へ移植する」という柔軟なビジネスモデルをクラウドネイティブ技術が支えています。
終わりに
ここまで見てきたように、サイバーエージェント/AI Shiftの一プロダクトであるAI Workerはクラウドネイティブ技術により大きな恩恵を受けています。
とはいえまだまだ改善の余地は多く、既存事業のGKEクラスターからの分離や監視基盤のGoogle Cloudへの依存排除などを今後予定しています。
横串Platform TeamやAI Worker開発チームと連携しながらプロダクトの改善を重ね、生成AIマーケットの覇権を握りにいきたい方、絶賛募集中です！
是非カジュアル面談等でお話しましょう！
Cloud Native Technology Map
KubeCon + CloudNativeCon当日にサイバーエージェントブースでお渡しさせていただいたCloud Native Technology Mapは以下よりダウンロード可能です！
KubeCon + CloudNativeCon Japan 2025 特集 Blog
- KubeCon + CloudNativeCon Japan 2025 現地参加を最大限に活かす！現役エンジニアが注目するポイントと歩き方
- KubeCon + CloudNativeCon Japan 2025 1日目参加速報
- KubeCon + CloudNativeCon Japan 2025 2日目参加速報
- 生成AIマーケットの不確実性に立ち向かうためのクラウドネイティブ技術 (👈 この記事)
- Cloud Nativeとサイバーエージェントのこれまでとこれから
- 若手だけじゃない！ベテラン層だって活躍したい
- CyberAgent の若手が KubeCon に参加して学んだこと 〜入社2年目AJA所属〜
- Kubernetes SIG Node に Deep Dive する 〜入社1年目CIU所属〜
- Kubernetsを活用したインフラ基盤運用の安定化について 〜入社2年目CIU所属編〜
- テナント志向で考える、マルチクラスタ・マルチクラウド運用 〜入社1年目ABEMA所属〜
- Argo CD x Cluster Inventoryで実現するマルチクラスタ運用の新境地 〜入社2年目 ABEMA 所属〜
[1]: AI Workerの開発において大切にしていることは「開発ストーリー」に書いていますので、ご興味ある方は是非…