トピックス

大阪堺データセンターの推論環境を拡充 汎用から独自AIモデルまで対応

~推論環境の強化により企業のAI社会実装を加速、27年度に「NVIDIA HGX Rubin NVL8」を導入~

KDDI株式会社

KDDIは2026年12月から順次、ソブリン性の高い大阪堺データセンターの推論環境(以下 本環境)において、活用可能なAIモデルを拡充します。Google の高性能なAIモデル「Gemini」に加え、「Gemma」などのオープンウェイトモデルを追加します。
これにより、最先端の汎用AIモデルであるフロンティアモデルから、オープンウェイトモデル、お客さま独自のAIモデルまで対応し、機密性の高いデータを国内で保管・管理したまま、用途や要件に応じて最適なAIモデルを選択できる推論環境を提供します。
さらに、KDDIは2027年度にリファレンスデザインに基づくNVIDIAの最新世代「NVIDIA HGX Rubin NVL8(以下HGX Rubin NVL8)」を大阪堺データセンターに導入し、企業のAI社会実装を加速していきます。

<大阪堺データセンターにおける推論環境>
<NVIDIA 最新世代GPU「Rubin」>

なお、先行パートナーとして、株式会社リコー(本社:東京都大田区、社長執行役員:大山 晃、以下 リコー)、株式会社医用工学研究所(本社:東京都千代田区、代表取締役社長:笠﨑 州雄、以下 MEI)への本環境の提供を予定しています。パートナー各社とともに多様な推論ニーズとの適合性を検証し、企業のAI社会実装に向けた取り組みを支援します。

KDDIは大阪堺データセンターの計算基盤をさらに高度化するため、2027年度にNVIDIAの最新世代「HGX Rubin NVL8」を導入します。HGX Rubin NVL8は、AIモデルの学習・推論からAIエージェントまで、大規模かつ効率的に処理可能な次世代AIプラットフォームで、前世代のBlackwellと比べ、メモリ容量が約1.4倍、メモリ帯域幅が約2.1倍、FP4演算性能が約2.8倍に向上しています。また、推論におけるスループットは最大10倍(該当項目へジャンプします注1)となり、複雑かつ大規模なAI処理を要する多様なニーズに対応します。
KDDIはこれらの性能向上を生かし、お客さまの多様なAIモデルの活用とAIサービスの提供に貢献します。

なお、HGX Rubin NVL8の導入にあたっては、大阪堺データセンター内にコンテナ型データセンターを整備し、従来型のファシリティ構築と比較して工期の大幅な短縮を目指しています。またHGX Rubin NVL8は主要な演算処理やネットワークコンポーネントに対して、高度なダイレクト液体冷却をサポートし、最大45℃の冷却水温で稼働するように設計されています。これにより外気を利用するフリークーリングを採用することができ、冷却に関わる電力を最大90%削減します。

KDDIは、今後、活用可能なAIモデルを追加していくとともに、モビリティやロボット、ドローンなどのフィジカルAI領域への本環境の活用も見据え、推論環境のさらなる拡充を進めます。

■背景

  • AIの社会実装が進む中、AIモデル開発などの学習用途だけでなく、業務システムやサービスにおける推論用途での活用が進んでいます。また、推論用途の拡大に伴い、利用規模や利用期間に応じて必要な計算資源を柔軟に利用したいというニーズも高まっています。
  • AIモデルは、得意とする業務が異なることから、企業では用途や要件に応じて選択することが重要になっています。また、機密性の高いデータをAIで扱う場合には、データの処理場所や利用環境への配慮も求められます。
  • KDDIは2026年1月に大阪堺データセンターの稼働を開始しました。学習向けのGPUサービス「KDDI GPU Cloud(該当項目へジャンプします注2)」を提供しており、「IDC MarketScape: Japan Accelerated Compute as a Service 2026 Vendor Assessment(IDC #JPJ54111126、2026年9月発行)」のレポートにおいてリーダー(Leaders)として評価(該当項目へジャンプします注3)されています。また、Google の高性能生成AIモデル Gemini のオンプレミス版「Gemini on Google Distributed Cloud(該当項目へジャンプします注4)」を提供するなど、学習だけでなく推論環境の整備にも取り組んできました。

■本環境について

1. 特徴

本環境は、機密性の高いデータを国内で保管・管理したまま、用途や要件に応じて最適なAIモデルを選択しながら推論を実行できる環境です。
フロンティアモデル「Gemini」に加え、以下のモデルを利用することができます。

(1)オープンウェイトモデル

汎用的なAIモデルを手軽に利用したいお客さま向けに、大阪堺データセンター内のGPU環境で稼働する「Gemma」などのKDDI選定のAIモデルをAPI形式で提供します。推論データは国内で処理されるため、データ管理要件に配慮しながらAIモデルを利用可能です。

(2)お客さま独自のAIモデル

自社独自の知識やノウハウ、機密データを活用したAIサービスを構築したいお客さま向けに、独自のAIモデルを大阪堺データセンター内で運用できる環境を提供します。他ユーザーから分離された環境で、機密性の高いデータを利用した推論を実行できます。

2. 活用事例

(1)オープンウェイトモデルの活用
  • 企業向けAIサービス導入時の利便性向上

    リコーは、オンプレミス環境におけるセキュアなAI活用を実現するため、環境構築から導入、運用支援までをパッケージ化した「RICOHオンプレLLMスターターキット(該当項目へジャンプします注5)」を提供し、お客さまの業務における生成AI活用を支援しています。一方で、オンプレミス環境ではGPUサーバーの調達リードタイムや設置スペースの確保、運用・保守負荷などが導入拡大における課題となる場合があります。本環境のオープンウェイトモデルをAPI形式で利用することで、ソブリン性を維持しながら、GPU環境を自社で構築・運用しない提供モデルの有効性を検証します。これにより、セキュアな環境でより手軽にAIを導入したいというお客さまの利便性向上を目指します。

(2)独自モデルの活用
  • 医療特化AIモデルによる医療ビッグデータ活用の高度化

    MEIは、本環境を活用して、電子カルテ由来の医療ビッグデータの分析による診療実態把握の高度化を推進します。
    電子カルテには医師の所見や症状経過など診療実態を理解する上で重要な情報がテキスト形式で記録されています。一方、データ活用のためには、情報抽出や表記ゆれ補正をはじめとするデータ整備に多大な工数を要するという課題があります。
    これに対し、事前検証として、MEIは大阪堺データセンターのセキュアな環境に構築した医療特化AIモデルを活用し、電子カルテに記載されたテキストデータの解析を行いました。データ整備における一部の工程で最大99%の工数削減を確認しています。
    今後、MEIは医療特化AIモデルを本環境で運用することで、分析可能なデータの拡充を進めます。これにより、MEIは医療機関やアカデミア、製薬企業との連携を通じて、アンメットメディカルニーズの把握に取り組み、データに基づく患者さんへの新たな価値創出に貢献していきます。

3. 問い合わせ先

詳細や申し込み方法については、KDDI法人営業担当者またはKDDI GPU Cloudのサービスページ新規ウィンドウで開くよりお問い合わせください。

(参考)

■KDDI SUMMIT 2026」展示について

大阪堺データセンターおよびその建屋内に整備するコンテナ型データセンターを表した模型の展示を、2026年10月27日・28日に開催するKDDIグループ最大級のビジネスイベント「KDDI SUMMIT 2026」(会場:TAKANAWA GATEWAY Convention Center)において実施します。ご参加には事前登録(無料)が必要です。詳細・お申し込みは、「KDDI SUMMIT 2026」特設サイトからご登録ください。

■関連記事

前の記事

関連記事

  • ※この記事に記載された情報は、掲載日時点のものです。
    商品・サービスの料金、サービス内容・仕様、お問い合わせ先などの情報は予告なしに変更されることがありますので、あらかじめご了承ください。