KubeCon India 2026: クラウドネイティブ・スタック上のソブリン AI

ムンバイで開催された KubeCon + CloudNativeCon India 2026 は、一貫したテーマで貫かれていました。ソブリン AI はスローガンではなくアーキテクチャ上の要請であり、Sarvam や NPCI のような国民規模のプラットフォームが商用プラットフォームと同じクラウドネイティブのツールで負荷を処理し、Prometheus、Thanos、Argo CD、vLLM という CNCF ネイティブ・スタックが繰り返し登場していました。本稿では、基調講演が実際に示したものと、他の環境にも持ち帰れるパターンを整理します。

数週間前、AWS Summit Seoul 2026: 韓国企業とエージェンティック AI を取り上げ、韓国企業がどのようにエージェンティック AI を本番環境へ持ち込んでいるかを紹介しました。KubeCon + CloudNativeCon India 2026 でも同様のテーマが浮かび上がりましたが、そこには固有の課題がありました。インドの膨大な人口と 22 の公用語は、市民にサービスを提供する際に、マラーティー語で農家に応答したり、ヒンディー語でローンの問い合わせに対応したりすることを意味し、それもアプリ経由ではなく電話越しに行われることがしばしばあります。こうした多様性は別種のエンジニアリング上の課題を生み出し、それがムンバイの基調講演の焦点を形作っていました。

基調講演に共通した一貫したテーマ

KubeCon India の基調講演では「ソブリン（sovereign）」という言葉がたびたび登場し、特に 2 つの講演がこれを正面から取り上げていました。Sarvam はインド全体のためのソブリン AI の構築について語り、National Payments Corporation of India（NPCI）は、クラウドネイティブ技術が今や大規模なソブリン AI のための不可欠なインフラであることを強調しました。この流れはインドに限ったものではありません。2025 年 11 月にソウルで開催された Naver Cloud の DAN25 カンファレンスでも、CEO の Kim Yuwon 氏らがソブリン AI に注目し、自国の言語、データ、産業を理解する企業によって構築される垂直特化型モデルだと説明していました。この発想がソウルとムンバイの両方で独立して現れたことは、ソブリン AI が単なるスローガンではなく、今やアーキテクチャ上の要請になっていることを示しています。

このイベントで大規模であることは織り込み済みでしたが、それが主題だったわけではありません。すべての基調講演が大規模運用に触れていましたが、その切り口はそれぞれ異なっていました。Sarvam と NPCI は国民全体へのサービス提供に焦点を当て、Flipkart、Rapido、JioHotstar は大規模な商用プラットフォームを代表していました。

Sarvam のソブリン AI へのアプローチは政策に根ざしています。同社は IndiaAI Mission の Innovation Center の柱のもとで選ばれた 12 の組織の 1 つであり、₹246.72 crore の資金と計算資源の提供を受けています。Sarvam は Bulbul（39 の音声を備えた 11 のインド言語向けのテキスト読み上げ）や Saaras（22 のすべての指定言語向けの音声認識）といった、中核となる言語・音声モデルを構築しています。

エンタープライズの基調講演が実際に示したもの

Sarvam の Avi Kothari 氏と Vinayak Gavariya 氏は、マラーティー語で作物を確認する農家から、政府の制度にアクセスする市民向けのタミル語、ローン照会向けのヒンディー語まで、インドが必要とする 22 言語で会話する会話型 AI プラットフォームについて説明しました。彼らが挙げた規模は、1 日あたり数百万件の API コールと音声会話を、サブ秒のレイテンシで、かつ監査可能な状態を保ちながら処理するというものでした。そしてそれを具体的な導入事例で裏付けています。1 回 24 日間のキャンペーンで 1,700 万人の農家にリーチした全国規模の作物確認プログラムであり、翌シーズンには 8,000 万人の農家へ拡大するロードマップを描いていました。スタックは完全に CNCF で構成されており、ゼロトラストのサービスメッシュには Linkerd、イベントストリーミングには Strimzi で管理する Kafka、約 20 のコンポーネントにまたがる GitOps デリバリーには Argo CD と Helm、マルチクラスタを統合したオブザーバビリティには Prometheus と Thanos、そして記録用のデータベースとして CloudNativePG を採用していました。

NPCI の Tittu Varghese 氏は、決済において国民規模が何を意味するのかを示しました。NPCI は月間 240 億件を超えるトランザクションと、1 日あたり 7 億件の決済を処理しています。さらに、Kubernetes、Kubeflow、Prometheus、vLLM、OpenStack、NVIDIA AI プラットフォームを用いて、リアルタイムの不正検知をサブ秒の速度で実行しています。これは、AI 推論が不可欠な国家インフラの一部となっていることを最も明確に示す例でした。

Flipkart のセッションは AI 推論ではなく信頼性に焦点を当てており、同社の Reliability Engineering チームは、LitmusChaos プロジェクトを用いて、数百のマイクロサービスを強化するための一元化されたマルチテナント型のカオスエンジニアリング・プラットフォームを構築していました。彼らは Litmus を 4 つの方法でカスタマイズしました。ハイブリッドなマルチテナンシー構成、カオス注入のための DaemonSet ベースの高可用性モデル、動的なターゲット選択のための Script Runner、そして Kubernetes 外の VM ワークロード向けのハイブリッド拡張です。こうした取り組みは、CNCF End User Case Study Contest での受賞という形でステージ上で評価されました。彼らはカオス実験の約 90% をステージング・クラスタへ移行し、データベースのインデックスや重複名のバリデーションの改善を含む 5 件の修正をアップストリームに貢献しました。

Rapido と JioHotstar は、コンシューマー規模のさらなる事例を提供してくれました。Rapido の CTO である Srivatsa Katta 氏と Adarsh K Kumar 氏は、ライダーとドライバーをリアルタイムでマッチングすることで 1 日 400 万件を超える乗車を処理する、インド最大のタクシープラットフォームについて語りました。彼らのシステムは 150 を超えるマイクロサービス上で稼働し、Kubernetes、Istio、Prometheus、Thanos、Cert Manager、External DNS を用いて毎秒 200,000 件のリクエストを処理しています。JioHotstar の Pradeep Bishnoi 氏は、大規模なイベントの際に、Kubernetes、Amazon EKS、OpenTelemetry、Karpenter、Envoy Gateway を世界中の多数のクラスタにまたがって用いることで、5,000 万〜6,000 万人のユーザーへ同時にライブのクリケットを配信する方法を説明しました。彼はまた、会話型の Kubernetes トラブルシューティングや、よりスマートな SRE 自動化といった、新しい AI 主導の機能もプレビューしました。

繰り返し浮上した GPU の問題

もう 1 つの重要なテーマは、AI ワークロードにおける主たる課題が、十分な数の GPU を確保することではなく、GPU を効率的に使うことにあるという点でした。vCluster の Saiyam Pathak 氏は、コンテナ、オートスケーリング、マルチテナンシー、RBAC はすでに解決済みである一方で、Kubernetes は、ワークロードが GPU の 10% しか必要としない場合でも依然として GPU 全体を要求してしまうと説明しました。彼の解決策は、物理 GPU をメモリベースのスライスに分割する HAMi と、Kubernetes が GPU を単なる個数以上のものとして扱えるようにする DRA です。彼はこれをライブで実演し、MacBook で NVIDIA DGX Spark を制御しながら、単一の Blackwell GPU が 2 つのチーム向けに 2 つのオープンソース LLM を同時に動かす様子を見せました。別のセッションでは、Red Hat の Ravindra Patil 氏が、同じ問題を llm-d によってルーティング層で扱いました。彼はこれを、繰り返されるプロンプトを複数の pod へ分散させ、不要なキャッシュの再読み込みを引き起こす単純なラウンドロビン・バランサーと対比させました。これに対して llm-d は、各リクエストを、必要なキャッシュをすでに保持している pod（キャッシュ・アウェア）へ、あるいは新規に開始する場合は最も負荷の低い pod（負荷アウェア）へ送り、スクレイパー、フィルター、スコアラーから成るパイプラインを使って最適なターゲットを選びます。このアプローチにより、冗長なキャッシュ読み込みが減り、P95/P99 のレイテンシが改善されました。

繰り返し登場した CNCF ネイティブ・スタック

いくつかのプロジェクトが複数の基調講演に登場しました。Prometheus はほぼすべての講演で言及され、マルチクラスタのオブザーバビリティでは Thanos と組み合わせて使われることが多くありました。Argo CD は GitOps デリバリーの主要なツールでした。vLLM が推論を担い、GPU の分割（HAMi、DRA、KAI-Scheduler）に関する議論は、AWS Summit Seoul の Dynamic Resource Allocation のテーマと呼応していました。サービスメッシュは広く使われており、各社は Linkerd と Istio のいずれかを選択していました。

持ち帰る価値のあるテーマ

いくつかの重要なパターンが浮かび上がりました。第 1 に、ソブリンであることは単なるバズワードではなく、中核的なアーキテクチャ上の要請になっており、この発想はムンバイの Sarvam や NPCI から、ソウルの Naver の DAN25 まで、地域を越えて現れています。第 2 に、Sarvam の数百万人の農家や NPCI の 1 日 7 億件の決済のように、賭け金が真に国民規模になったときでも、Flipkart、Rapido、JioHotstar が商用トラフィックに用いているのと同じクラウドネイティブのツールが、その負荷を処理していました。第 3 に、GPU の課題は、十分なハードウェアを確保することから、それをより有効に活用することへと移っており、HAMi、DRA、KAI といった解決策が、Kubernetes による分割可能で能力（capability）を意識した GPU の管理を支えています。最大の学びは、これらのいずれもが AI のためだけに新しく構築されたインフラに依存しているわけではなく、既存の CNCF スタックをうまく使いこなすことが本質だ、という点です。