1.拡大するAIのビジネスへの適用領域 ~RAG(※1)は定着化フェーズへ~
生成AIの技術は飛躍的に進化し続けており、テキストだけでなく動画や音声などマルチモーダルな生成AIが登場したことで、ビジネスにおける活用範囲が広がりを見せています。さらに、業務プロセス全体に複数のAIエージェントを活用し、業務を抜本的に改革する世界観へと適用領域も拡大しています。
特に、業務データと連携し、情報検索と回答生成を組み合わせたRAGの活用が進んでいます。例えば問い合わせ応答業務においてRAGを用いることで、従来のルールベースのチャットボットに代わり、より自然で高度な対話を実現できます。生成AIを活用した質問応答ソリューションを活用すれば、企業は迅速かつ正確な情報提供が可能になり、人手をかけずに顧客対応の品質を高めることができます。NTT DATAでもRAGを容易に活用できるソリューションとしてLITRON Generative Assistant(※2)をご提供し、業務改革をご支援しています。

図1:生成AIのトレンド
2.生成AI定着化へのハードル
生成AIの活用により大きな成果を期待する企業は多いですが、単に導入しただけでは期待通りのビジネス価値創出には至りません。自社の生成AIに対する成熟度を把握しつつ、次のステップに進むために必要な取り組みを継続する必要があります。

図2:成熟度レベルの基本的な考え方 出典:経済産業省「DX推進指標」とそのガイダンス
生成AIの成熟度を測るには、より大きな枠組みであるDX推進成熟度の考え方を応用するのがお勧めです。ここでは、企業の生成AI活用状況を成熟度レベルに基づき、「導入」、「限定的普及」、「全社普及」の3つのフェーズに分類します。以下では各フェーズにおいて、現状を維持するために乗り越えるべき「定着のハードル」と、次のフェーズに進むために克服すべき「レベルアップのハードル」を整理しています。

導入フェーズ
成熟度が低いこの段階では、生成AIの基本的な仕組みについて理解を深め、利用者の知識レベルを向上させることが重要です。導入フェーズを成功させるためには、以下3つのレベルアップのハードルを克服する必要があります。
レベルアップのハードル
- 知見不足
生成AIに関する知識不足により、具体的な活用方法が明確にならない - 業務適用イメージの欠如
実業務に生成AIを組み込むイメージがなく、適切なユースケースが見つけられない - 導入効果の明確化
生成AIが実業務に対してどの程度の効果をもたらすかが分からない
限定的普及フェーズ
特定の部署における生成AIの活用を通して習熟度を高め、着実に業務改善を進めるフェーズです。成功事例や業務改善の成果を他部署へ共有することが、全社的な利用拡大を促進する鍵となります。
定着のハードル
- 習熟度の停滞
サポート体制が整っていないと生成AI利用時の問題点を解決できず、習熟度が上がらない - 業務改善の停滞
サポート体制が整っていないと新たなユースケースへの適用を検討することが難しく、業務改善が滞る - 出力結果の品質
業務活用できる水準の出力精度が出ないと、現場メンバーの継続的な利用につながらない
レベルアップのハードル
- 全社での業務適用イメージの欠如
全社規模で生成AIをどのように活用できるかの具体的なイメージが描けない - 全社適用の有用性判断
生成AIが全社での実業務に対してどの程度の効果をもたらすかが分からない
全社普及フェーズ
全社的に生成AIが普及するフェーズです。ユーザーが信頼性の高い回答を継続的に得られる状態にすることが重要となります。
定着のハードル
- 持続的な精度改善
回答品質の劣化を防ぐため、継続的なチューニングが必要となり時間と労力を要する - ユーザー離れ
生成AIの性能が安定しない場合、ユーザーの信頼が損なわれ、利用頻度が低下する
生成AIを企業内で効果的に定着させるためには、上記各フェーズでそれぞれのハードルを考慮した適切な対策を講じる必要があります。次章では、各フェーズにおける具体的な対策について解説します。
3.生成AIの定着化に必要なこと
以下では、成熟度レベルごとのハードルを乗り越えるための具体的な対策を紹介します。
導入
生成AI導入の初期段階では、「役に立たないのでは?」という疑念が生じがちです。そこで重要なのがPoC(概念実証)です。PoCは、知見不足を解消する第一歩になります。実際に手を動かすことで、生成AIの基礎知識や可能性を肌で感じられ、また自社データを用いた検証を通して、具体的な活用イメージが湧き、業務適用の解像度アップにもつながります。
さらに、PoCは導入効果を把握する有効な手段です。短期間・低コストで効果を検証できるため、本格導入前に、どの程度効果があるのかを定量的に把握できます。例えば、顧客対応時間の短縮やコンテンツ作成効率の向上など、具体的な成果を確認できます。
PoCの成功体験は、関係者の理解と協力を得る上で不可欠であり、次のステップへの推進力となります。まずは小さく始め、成功体験を積み重ねることが、生成AI導入を成功させる鍵となるでしょう。
限定的普及
限定的普及フェーズでは、”生成AIに精通した”データサイエンティスト(DS)の伴走支援が各ハードルを乗り越える鍵となります。習熟度の停滞に対しては、DSが部署ごとの課題に特化した研修や個別相談を実施し、現場メンバーが直面する問題解決と着実なスキルアップを支援します。これにより、生成AIを使いこなすスキルと自信が醸成されます。
業務改善の停滞に対しては、DSが現場メンバーと協力しながら各部署の業務プロセスや課題を整理することで、新たなユースケースの発掘をサポートします。そして、PoCで得られた知見を基に具体的な活用方法を提示することで、現場主導での業務改善を促進します。
出力結果の品質に関しては、DSがモデルのチューニングやプロンプトの最適化を支援することが重要となります。業務利用に耐えうる精度を実現し、現場メンバーの継続的な利用を後押しします。
さらに、全社での業務適用イメージを構築するためには、成功事例を基に他部署への展開シナリオを具体的に検討することが効果的です。DSを中心にワークショップなどを実施し、全社規模での活用アイデアを創出することで、適用イメージが醸成されます。
また、全社適用の有用性を判断するにあたっては、DS中心にまずは限定的な導入効果を分析し、全社導入による費用対効果を明確に示すことが重要です。客観的なデータに基づいた判断材料を提供することで、経営層や各部署からの理解と協力を得やすくなります。このように、DSによる継続的な支援こそが、限定的普及フェーズを成功に導きます。
全社普及
全社普及段階では、利用者に信頼される高品質な回答を継続的に提供し、さらなる精度向上と広範な業務領域への適用拡大が重要です。このフェーズにおいてもDSによる伴走支援が引き続き有効です。
まず、DSはユーザーからのフィードバックを定期的に、多様なチャネルを通じて収集し、その内容を構造化・分析。このフィードバックを基に、生成AIのモデル再学習やプロンプト改善といったチューニングを継続的に実施し、回答品質の維持・向上を図ります。これにより、生成AIは常に最新の業務ニーズに対応し、ユーザーの信頼性を高めることができます。
さらに、特定の業務に限定せず、DSは各部署と連携し、生成AIを活用した高度な業務ユースケースの探索を積極的に支援します。PoCを通じて効果を検証し、成功事例を全社に展開することで、適用範囲が拡大されます。これらを通じ、より広範な業務領域における効率化と改善を同時に実現していくことが可能となります。
PoC事例
NTTデータでは定着化に有効なサービス(PoC、伴走支援サービス、チューニングサービスなど)を提供していますが、その中のPoCについての事例を紹介します。
某社ではお客さまからの問い合わせ増加に伴う、問い合わせ対応業務の負荷削減が課題となっていました。この課題に対し、当社のLITRONを活用してどの程度の業務削減効果が見込めるかを検証するため、PoCを実施しました。取り組みの結果、お客さまは生成AI適用に向けた業務選定、評価基準の考え方の整理、業務導入効果の定量的な試算を実現しました。以下では当社のDSが伴走しながら進めたPoCのタスクをご紹介します。
本PoCでは図3に示すタスクを実施しました。「評価用QAの作成」では、LITRONの性能評価用データセット(実際の問い合わせ+模範解答)を構築。質の高いQAセット作成には、生成AIが得意・不得意とする質問の特性把握が不可欠です。この取り組みを通じ、お客さまは実践的な経験に基づき、生成AIの能力と限界を理解し、活用スキルを向上させました。
「検証サイクル」では評価用QAによる評価結果とそこから見えた課題の整理とチューニングを実施。このサイクルを複数回実施することにより業務適用可能な精度に向上させることを目標とします。最後の「評価」では、LITRONの精度から問い合わせ対応の年間稼働時間の削減率を定量的に評価することで、生成AIの有用性判断を実施していきました。

図3:PoCのステップ
4.データ活用によるビジネス成果創出に興味がある方へ
本稿では生成AIの定着化に必要な取り組みとPoC事例についてご紹介しました。NTTデータ テクノロジーコンサルティング事業本部では、生成AIをはじめとしたDXを活用してお客さまにビジネス成果を創出いただく活動(デジタルサクセス)(※3)を推進しています。データ活用がうまくビジネス成果に結びつかないなど悩みを抱えている方や、今回ご紹介した内容にご興味がある方はお声掛けください。
LITRON®についてはこちら:
https://www.nttdata.com/jp/ja/lineup/litron/
あわせて読みたい:
~ビジネス成果を創出するデータ活用アプローチとは~