NVIDIAとのグローバルアライアンスを通じて、AI導入検証を強化

~NVIDIA NeMo・NIMをAI検証環境へ組み込み、設計から運用まで一貫したAI実装を支援~

トピックス

2026年3月12日

株式会社NTTデータグループ

株式会社NTTデータグループ(以下、NTTデータグループ)は、NVIDIAとのグローバルアライアンスを通じて、2026年3月12日から、NTTデータグループのAI検証環境を強化します。NVIDIAの企業向けエージェント型AIの構築、カスタマイズ、運用管理を可能にするモジュール型ソフトウェア群「NeMo」およびGPU上で効率的に動作するよう最適化され、標準API経由でAIアプリケーションを本番環境へ迅速に展開できる「NIM」を組み込み込むことで、GPUを前提として、設計から学習、推論、運用まで本番利用を想定した検証を支援します。
近年、生成AIやエージェント型AIの企業活用が進展する一方、PoC(概念実証)段階で構築した環境と本番環境との差異により、再設計や追加検証が発生する課題が顕在化しています。本取り組みにより、提案段階から本番導入を見据えた技術確認が可能となり、企業のAI活用を実装段階へと引き上げます。
本取り組みは、NTTデータグループがNVIDIAのCloud Partner、Solution Provider、Global System Integrator(GSI)として推進してきた協業をさらに発展させるものです。今後、AI検証環境の提供を含めフルスタック型AI基盤の展開も検討していきます。

背景

近年、生成AIやエージェント型AIの企業活用が急速に進展しています。特に、大規模AIモデルやエージェント型AIの活用においては、GPUを活用した高性能な計算処理環境の確保が不可欠です。加えて、設計、学習、推論、運用を分断せずに最適化できる検証基盤が求められています。また、本番環境を想定し、データ管理やアクセス制御を含む条件下で事前に確認できる仕組みの整備も重要です。
一方で、PoC段階で構築した環境と本番導入時の構成との差異により、追加の設計変更や再検証が必要となるケースが多くあります。モデル開発環境と推論実行環境が別々に構築される場合、性能や運用条件を包括的に確認することが困難になります。さらに、自社データを活用する場合には、セキュリティや管理要件を踏まえた統合的な検証が不可欠です。
NTTデータグループ全体ではこれまで、NVIDIAのパートナープログラムにおいてSolution Provider、Cloud Partner、Global System Integratorの各分野で連携し、企業のAI導入検討段階からシステム構築、クラウド環境の提供、運用支援までを一気通貫で提供してきました。今回、こうした取り組みをさらに発展させ、NTTデータグループのAI検証環境を強化します。

概要

NTTデータグループのAI検証環境は、NTTデータグループの技術者が、AI活用に必要な技術要素を迅速に検証するためのもので、RAG(検索拡張生成)、エージェント型AI、ファインチューニングなどの機能群を組み合わせ、設計から検証、デモ作成までを一気通貫で実施し、お客さまの業務特性に応じたAI導入・実装を支援します。
当社は、NVIDIAとのグローバルアライアンスを通じて、企業向けエージェント型AIの構築、カスタマイズ、運用管理を可能にするモジュール型ソフトウェア群「NeMo」および、GPU上で効率的に動作するよう最適化され、標準API経由でAIアプリケーションを本番環境へ迅速に展開できる「NIM」マイクロサービスを、社内向けAI検証環境に組み込み、拡張しました。従来のプロトタイプ中心の検証環境から、GPUを前提とした本番利用想定の検証が可能な環境へと高度化することで、設計、学習、推論、運用までをGPU前提で一元的に検証できる体制を整備しました。
本取り組みによる拡張内容は次のとおりです。

1.自社データを活用したエージェント型AIの構築

NVIDIAの「NeMo」を活用することで、企業が保有するデータや業務知識を組み込んだエージェント型AIの設計・構築が可能となります。例えば、社内文書や業務マニュアルを学習させることで、自社業務に即した回答を行うエージェント型AIを構築できます。また、学習データの整理やモデル評価機能も備えており、精度や応答品質を事前に確認できます。これにより、企業は自社環境に近い条件下でAIモデルの設計・学習プロセスを検証できます。

2.GPU前提の推論環境活用

AI活用においては、モデルの性能だけでなく、応答速度や同時利用時の処理能力が重要です。NVIDIAの「NIM」はGPUに最適化されており、企業利用を想定した負荷条件下での動作確認が可能です。これにより、企業は実運用に近い形で推論性能を検証可能となります。

3.設計から運用までを分断しない統合検証

NIVIDIAの「NeMo」によるモデル設計・学習と、「NIM」による推論実行を同一環境で実施できるため、AI開発から運用準備までを分断せずに検証できます。さらに、データ管理やセキュリティを考慮した条件下で検証を行えるため、本番利用を想定した技術確認が可能です。

今後について

グローバルでは既に株式会社NTT DATA, Inc.を中心に、NVIDIA技術を活用し、データ、インフラ、AIモデル、業務ワークフローおよびガバナンスまでを統合し、設計から運用までを一体で提供するフルスタック型AI基盤の提供を進めています。医療、製造、自動車などの分野において、エンタープライズ向けに本番運用を前提としたAI基盤の活用が広がっています。今後日本でもAI検証環境の提供を起点に、フルスタック型AI基盤の展開を検討していきます。

代表者コメント

「企業がAIを業務で活用するためには、検証段階から本番利用を見据えた環境整備が重要です。NVIDIAとの連携を強化し、AI検証環境を拡充することで、設計から学習、推論、運用までを一体で検証できる環境を整えました。これにより、お客さまが自社データを活用したAIを安心して実装段階へ進めることを支援してまいります」

株式会社NTTデータグループ 代表取締役社長 佐々木 裕

NTTデータグループが描くAI活用の未来

NTTデータグループは、積極的なAI活用の推進とガバナンスの両輪でお客さまのビジネス、当社のビジネスの変革を推進します。お客さまのビジネスでは、AIエージェントが指示に応じ自律的に対象業務のタスクを抽出・整理・実行する「Smart AI Agent」の実現をめざします。当社のビジネスでは、ソフトウェア開発の大幅な生産性向上や実践的AI人財の育成を加速します。これらを通じて、AIネイティブな業務プロセス改革に取り組み、人手不足等の社会課題解決に貢献するとともに、人が付加価値の高い業務領域に注力できる世界を実現していきます。

関連リンク

注釈

  • Smart AI Agentは、株式会社NTTデータグループの米国、英国、欧州連合および日本国内における登録商標です。
  • その他の商品名、会社名、団体名は、各社の商標または登録商標です。

本件に関するお問い合わせ先

株式会社NTTデータグループ
グローバルイノベーション本部
Global AI Office
E-mail:gai-office@hml.nttdata.co.jp