NTT DATA

DATA INSIGHT

NTT DATAの「知見」と「先見」を社会へ届けるメディア

カテゴリで探す
サービスで探す
業種で探す
トピックで探す
キーワードで探す
カテゴリで探す
サービスで探す
業種で探す
トピックで探す
2026.4.22技術トレンド/展望

AI CoE-生成AI時代の事業・業務変革を加速する中核組織

生成AIの波は今、企業の事業・業務構造を大きく変えようとしている。文書作成や調査など単一業務での部分的な活用にとどまらず、業務プロセス全体で自律的にタスクを遂行する「AIエージェント」時代に突入した。一方で、「生成AIが定着しない」、「PoCで止まってしまう」、「取り組みが経営課題に直結しない」といった課題が存在し、生成AIを活用して大きな経営的成果を上げている企業はまだ少ない。本稿では、それらの課題を包括的に解決し、全社レベルでの生成AI活用を主導するAI CoE(Center of Excellence)設置の必要性を提起する。
目次

同時進行する“成長鈍化”と“コスト高”を克服するには

市場の成熟化や需要の多様化によりトップライン(売上高)の伸びは鈍化する一方、人件費・エネルギー・セキュリティ/規制対応などの経営コストは上昇しています。この「二重苦」を脱却し、プラスの企業成長サイクルへ導くためには、これまでの延長線上の業務改善だけでは不十分です。新たな価値創造とコスト構造の抜本的見直しを同時に実現する非連続な変革が必要です。ここで鍵を握るのが生成AIです。高度な推論・生成能力、マルチモーダル入出力、人間らしい対話能力などにより、顧客体験/バリューチェーン/ビジネスモデルの変革を同時に達成するための技術として、新たな事業・業務構造への変革を下支えします。

生成AIを活用して大きな成果創出を狙うためには、業務における人の役割を抜本的に見直す必要があります。その未来像を示したのが、図1です。人とAIエージェントが協調することで、人の役割は「作業の実行主体」から「方針策定/業務遂行監督/意思決定主体」へと移り業務の抜本的改善を実現します。その結果、トップラインの向上とコスト構造の変革を同時に達成することが可能となります。

図1:Smart AI Agent®がもたらす企業活動の未来

生成AI推進の“5つの柱”

生成AIを活用した事業・業務変革の過程において、「導入・定着」課題と「全社レベルでの成果創出」課題が存在します。前者は利用率やユースケースの広がりなど利活用に関する論点が中心となり、後者は生成AI活用をいかに経営課題と結び付け、変革を構想・実行するかが論点となります。これらの課題を解決し、全社レベルで生成AI活用を推進するために取り組むべき項目は次の5つです。

  • 1.戦略策定:経営課題を起点に変革テーマを設定し、生成AI前提の将来像(業務・事業)を描きます。期待効果を見積もり、優先度とロードマップを策定します。
  • 2.運用評価・改善:KGI/KPIを設定した上で、活動の成果をモニタリングするための仕組みや制度を整備し、改善施策を検討します。
  • 3.活用支援:現場でのユースケース創出支援から実装・定着まで支援するとともに、その成果を収集し他部門に共有することで、自発的な活用を促進します。
  • 4. 生成AI人材育成:生成AIを業務で活用できる基礎を身につけ、生成AI活用の裾野を拡大するとともに、高度な開発や変革に関する研修プログラムを実施し、生成AIを活用した変革を推進するリーダー(高度生成AI人材)を育成します。
  • 5.IT環境整備:生成AIを効果的に活用するための共通基盤やデータ・ナレッジを整備するとともに、セキュリティ・ガバナンスを整備し、活用の安全性を担保します。

図2:生成AI活用に向けた取り組み事項

生成AIを活用した変革のアプローチ

生成AIは、今の事業・業務を根底から変えてしまうほどの強力なテクノロジーです。そのため、「現在どのように業務を行っているか」というAS-IS分析をやりすぎることは非効率になる可能性があります。一方で、業務の自動化を一足飛びに実現できるわけではありません。業務を分解し、生成AIを部分的に適用して、AIエージェントによる自動化を進めた上で、それらを段階的に連携していくという地道なステップを踏む必要があります。NTTデータが推奨する生成AIを活用した変革アプローチは、「大きく構想する」→「小さく早く成果を上げる」→「つなげて拡大する」です。

図3:生成AIを活用した変革アプローチ

【大きく構想する】:
生成AIを全面的に活用することを前提にめざす事業・業務の在り方を描き、実行テーマとロードマップを定めます。ここで重要なのは現状起点で考えすぎないことです。生成AI時代は業務プロセスが抜本的に変わり得るため、生成AI前提のTO-BE像を先に描き、現行業務をどう近づけるかを設計します。

ただし、計画を精緻に立てすぎると実行が遅れてしまうため、大きな方向性をまず定め、活用を進める中で修正・具体化していきます。

【小さく早く成果を上げる】:
大きなロードマップを細かなプロセスに分解し、着手可能な領域から適用します。小さくても早期に成果を出し、学習と改善を積み重ねることが重要です。最初から大規模実装に踏み込むと、失敗時にプロジェクトが停滞するリスクが高まります。一定の失敗を前提に小さく試し、確実に積み上げていくことが重要です。

【つなげて拡大する】:
成果が出た領域をAIエージェントで自動化し、エージェント同士を連携させることで自動化領域を拡大します。「Human in the Loop」の考えのもと、人とAIの役割を明確化しながらAIエージェントの比重を高めていきます。

この3つのフェーズは一度で完結するものではありません。サイクルを繰り返すことで精度と効果が高まり、やがて大きな成果へとつながります。このサイクルを回し続けることで、生成AIの精度と適用領域を段階的に拡大させていくことが重要です。

AI CoE:生成AIによる変革をドライブするための中核組織

ここまでで生成AIを活用した企業変革において「何に取り組むか」を整理しました。しかし実務においては、その変革を「誰が進めるか」によって成果に大きな差が生じることも少なくありません。多くの場合、戦略は経営層、現場での活用・推進は事業部門、IT環境整備はIT部門が担当することになります。しかし、課題に対する視点や意識の違いにより、それぞれの実行主体の取り組みがちぐはぐになり、結果として大きな成果を上げられないケースもみられます。

この「推進主体不在」の課題を解決し、5つの柱を全社で束ねて推進を加速させる中核組織がAI CoE(Center of Excellence)です。

AI CoEの役割は2つあります。
第一に、経営戦略から生成AI活用方針を落とし込みつつ現場の課題を吸い上げて計画へ反映する「トップダウン/ボトムアップ双方向の推進」です。経営層が策定する全社戦略を踏まえ、生成AI活用戦略を具体化し、ROIの可視化やユースケースの創出を通じて事業部門での活用を促進します。また、IT部門と連携し、ルール設計や共通基盤の構築支援など生成AI活用のための環境整備を促進します。

第二に、社内外の知見を蓄積・共有し再現性を高める「内製化の促進」です。外部ベンダーからの最新情報や社内の課題・ニーズを収集し、全社で活用可能な形に整理します。その結果、各事業部門における自発的な活用・開発を促進します。

図4:AI CoEの活動目的

AI CoEは冒頭で説明した「生成AI推進5つの柱」を実行する機能を持ち、課題やニーズに応じて各部門に対してその機能を提供します。

図5:AI CoEの活動イメージ

AI CoEの支援内容は、ビジネスからテクノロジー、人材など多岐にわたります。そのため、AI CoEは企業のニーズや課題に応じて多様な人材タイプを組み合わせ、適材適所で支援を提供できる体制の構築が求められます。以下に、その人材タイプの例を示します。

図6:AI CoEを構成する人材タイプ例

AI CoEはこれらの人材タイプから構成され、経営層・事業部門・IT部門に対して生成AI活用の推進に必要な支援を行います。これにより、部門単位で局所的に進みがちな取り組みを、共通の優先順位・指標・ガバナンスのもとで推進し、全社最適で迅速に展開するとともに、成果を横展開可能な環境を整備します。
結果として、企業は生成AIを活用した変革の達成に近づくことができます。

NTTデータのAI CoE立ち上げ・推進事例

NTTデータでは、以下のようなAI CoEの立ち上げ・推進支援を数十社に対して実施しています。

図7:NTTデータのAI CoE支援事例

AI CoEが扱うテーマは多岐にわたります。どのテーマから推進すべきか、またどのように推進すべきか判断に迷うこともあるかと思います。ご相談があれば、ぜひお気軽にお問い合わせください。

記事の内容に関するご依頼やご相談は、こちらからお問い合わせください。

お問い合わせ

お問い合わせ

記事の内容に関するご依頼やご相談は、
こちらからお問い合わせください。

お問い合わせ