- 目次
1.LLMの進化と用途に応じたモデル選定
近年、クラウド型大規模LLMの性能向上により、生成AIを活用できる業務領域は大きく広がっています。問い合わせ対応や社内ナレッジ活用に加え、営業支援、システム開発支援、マーケティング活動支援など、企業の業務プロセスに組み込まれる用途での活用も進んでいます。
その結果、生成AIは個人の作業効率化ツールにとどまらず、情報検索、文書確認、要約、分類、判断支援といった実務を支える基盤の一部になりつつあります。生成AIを業務に組み込むことで、業務の効率化・高度化が期待されています。
一方で、実業務におけるすべてのユースケースで、こうした大規模LLMが最適となるわけではありません。業務によって求められる能力は異なるため、モデルの規模や汎用性だけで判断せず、業務内容、求められる精度、処理コスト、セキュリティ要件、運用環境を踏まえ、用途に応じたモデル構成を選定することが重要です。
2.SLMの進化が広げるPrivate AIの実用領域
SLMは、比較的軽量な構成を取りやすく、社内ネットワークや限定された環境内で運用しやすいという特徴があります。このように、社内ネットワークや限定された環境内で生成AIを活用する構成は、個人情報や機密情報を外部に出さずに扱う「Private AI」として注目されています。
従来、SLMは軽量である一方、大規模LLMと比べて回答品質や対応できるタスクの幅に課題があり、実業務で活用できる場面は限られると見られていました。しかし近年は、SLMの性能向上により、対象業務や処理範囲を明確に定義すれば、実務で活用できる領域が広がっています。
例えば、社内ナレッジ検索、文書の要約・整理、申請内容の不備確認、定型的な情報抽出などの用途において、SLMの性能向上により、実務で求められる要件を満たせる場面が広がっています。
特に、金融、保険、公共など、外部サービスへのデータ送信に慎重な業界では、セキュリティを確保しながら生成AIを活用するための構成が求められます。SLMを活用したPrivate AI構成は、こうした領域における生成AI導入の現実的なアプローチの一つです。
3.「RikAIパイプライン × tsuzumi 2」によるPrivate AIの実用可能性
NTTデータでは、NTTが開発した国産SLM「tsuzumi 2」と、Lazarus AI社の「RikAIパイプライン」を組み合わせた構成について検証を実施しました。
本検証では、現在人手で行っている文書・画像の確認、必要情報の抽出、業務ルールに基づく判断といった業務を、AIでどこまで代替・支援できるかを確認することをテーマとしました。
対象とした業務では、帳票や証憑を担当者が目視で確認し、必要項目を抽出したうえで、期限切れの有無、不備の有無、後続処理に進められるかなどを判断しています。これらの業務では、書類の種類や記載内容に加え、同じ種類の書類でも発行元や提出元によって様式が異なるため、必要項目の記載位置や表現が一定せず、人手による確認・判断に時間がかかるケースがあります。
本構成では、RikAIパイプラインによって文書・画像の内容や構造を読み取り、後段のモデルが処理しやすい形に整えます。そのうえで、日本語文書の理解・推論に強みを持つtsuzumi 2が、必要情報の抽出や判定を行います。
これにより、文書確認から情報抽出、業務ルールに基づく判定までを一連で支援し、後続の業務システムによる処理や担当者による確認・判断につなげることを狙いました。
図1:RikAIパイプライン × tsuzumi 2での処理フロー
本検証では、実際の業務で扱われる帳票を想定し、撮影画像やスキャンデータを含む複数種類の書類を用いて、公的書類の分類・有効期限判定、医療費領収書の記載内容の抽出、複数年分の健康診断書における必要項目の抽出などを対象に、後続処理に必要な確認・判断に対応できるかを確認しました。
図2:検証対象帳票のサンプル例(公的書類、医療費領収書、健康診断書)
その結果、ユースケースや処理内容を適切に設計することで、SLMを活用した構成でも、実務に必要な情報抽出・判定支援に適用できる可能性を確認しました。
図3:検証結果の概要
「RikAIパイプライン × tsuzumi 2」は、機密性の高い文書や画像を外部に出さずに、情報抽出や判定結果を後続処理につなげたい業務に対して、閉域環境で運用しやすいPrivate AI構成として有効な選択肢になり得ます。
今後、tsuzumi 2.1の視覚読解機能が利用可能になれば、RikAIパイプラインで整えた読解結果に加え、モデル側でも画像や文書構造も踏まえた処理が可能になると考えられます。これにより、情報抽出・判定支援の精度向上につながり、閉域環境におけるPrivate AIの適用領域を広げることが期待されます。
4.Private AI領域における生成AI活用にご関心をお持ちの方へ
本稿では、LLM・SLMの進化とモデル選定の重要性を踏まえ、「RikAIパイプライン × tsuzumi 2」によるPrivate AIの実用可能性検証を紹介しました。NTTデータでは、閉域環境での個人情報・機密情報を扱う業務におけるPrivate AI活用の検証・提案を進めています。閉域環境での生成 AIを活用した業務効率化に関心をお持ち企業はぜひNTTデータにご相談ください。


Lazarus AI 導入・基盤構築支援サービスについてはこちら:
https://www.nttdata.com/jp/ja/lineup/lazarus-ai/
生成AI(Generative AI)についてはこちら:
https://www.nttdata.com/jp/ja/services/generative-ai/
あわせて読みたい: