NTT版LLM tsuzumiと連携したLITRON®の新サービスを提供開始
～閉域環境でセキュアに低コストで生成AI利用範囲を拡大～
報道発表
2024年1月26日
株式会社NTTデータ
株式会社NTTデータ（以下、NTTデータ）は、NTT版LLM注1tsuzumiと連携した生成AIを活用した文章検索・回答生成システム「LITRON® Generative Assistant」（読み、リトロン ジェネラティブ アシスタント、以下、LITRON GA）の新サービスを2024年4月から提供開始します。
LITRON GAの新サービスでは、従来から提供している関連文章検索機能に業務データを学習したtsuzumiを組み合わせて利用することで、より業務に特化した日本語の回答文章を生成します。新サービスはまた、閉域環境で利用できるため会社の重要情報を扱うユースケースにも適用でき、生成AIの利用を拡大することができます。tsuzumiは追加学習する場合においても大規模なマシンリソースが不要となるため、従来に比べ1／20以下注2にコストを低減することができます。
本サービスの提供にあわせて、生成AIに関するコンサルティング、データサイエンティストによる支援、システム構築・運用、人財育成を一貫して提供します。
今後もNTTデータはお客さまの業務に最適なサービスを提供し、ビジネス変革を支援していきます。
背景
2023年6月のLITRON GAの提供開始以降、多くのお客さまと共創PoCを実施しています。一方、会社の重要情報の流出を懸念してインターネットを経由しない、生成AIの活用が求められていました。これに対して、NTTデータは閉域環境でも高精度な生成AIが活用できるサービスを提供することで、課題を解決します。
概要（特長）
新サービスは、日本語の回答精度が高いtsuzumiと最新版のLITRON GAの組み合わせにより、閉域環境でも安全かつ高精度な文章検索・回答生成システムを活用できます。効率的な業務運営とセキュリティーリスクの低減が見込まれます。
図：LITRON Generative Assistant動作イメージ図（例：旅行代理店のユースケース）
本サービスのメリット
1、セキュアな環境で会社の重要情報の利用が可能
LITRON GAが提供する情報抽出・検索アルゴリズムとtsuzumiを組み合わせて、お客さまの閉域環境に専用の生成AIの活用システムを構築することができます。これにより、会社の重要情報の流出を懸念するお客さまでも安全にシステムを導入・利用できます。
2、マシンリソース節約によるコスト低減
軽量なtsuzumiを採用することで、マシンリソースを大幅に節約できます。大きな学習・推論環境を必要とするLLM環境のコストを従来に比べ1／20以下に低減することができます。
3、業務特化したLLMによる生成AI利用の拡大
tsuzumiに業務固有の情報を学習させることで、特定の用語や業務知識を前提とした回答を生成できます。
本サービスの業務適用例
金融商品のレコメンド支援
tsuzumiに金融業務知識や取引履歴などを学習させ、最新の市場動向や商品情報を参照することで、顧客ごとにカスタマイズした顧客満足度の高い金融商品のレコメンドを支援
患者ごとの治療計画策定支援
tsuzumiに医療の専門知識とガイドラインなどを学習させ、患者ごとの詳細なライフスタイルなど顧客情報を参照することで、個別化された治療計画策定を支援
行政サービス窓口における問い合わせ応答支援
tsuzumiに行政窓口対応マニュアル、用語集、規則やポリシーなどを学習させ、FAQなどの関連ドキュメントを参照することで、問い合わせに即した行政サービスの案内を支援
自動車販売店におけるパーソナライズされた提案書の作成支援
tsuzumiに取引履歴や過去の提案資料、トークスクリプトなどを学習させ、最新の商品情報やマーケットトレンドを参照することで、成約率が高い顧客エンゲージメントや提案を支援
今後について
今後も以下の取り組みを通して、生成AI業務利用を推進します。業務改善や新たな知見の提供を通じて、お客さまのビジネスをサポートしてまいります。
- 多様なLLMやマルチモーダルAI（視覚読解、音声認識など）への対応
- 生成AI活用コンサルティングサービスの提供
（構想策定、AIガバナンス、共創ワークショップでのユースケース検討、人材育成、など） - tsuzumiの学習・推論環境も含めたお客さま専用の生成AI環境の提供
- NTTデータの他サービス上での生成AI機能・サービスの提供
注釈
- 注1 LLM：Large Language Model 大規模言語モデルの略です。
- 注2 NTT研究所が公開している情報より引用しています（https://www.rd.ntt/research/LLM_tsuzumi.html）
- LITRONはNTTデータで開発したテキストを短時間で高精度に読解できる文書読解AIおよびそのAIを活用したサービスです。
詳細は下記サイトをご覧ください。
https://enterprise-aiiot.nttdata.com/service/litron - LITRONは日本国内における株式会社NTTデータの登録商標です。
- その他の商品名、会社名、団体名は、各社の商標または登録商標です。
本件に関するお問い合わせ先
報道関係のお問い合わせ先
株式会社NTTデータ
広報部
田中
E-mail：nttdata-pr-inquiries@am.nttdata.co.jp
製品・サービスに関するお問い合わせ先
株式会社NTTデータ
デザイン＆テクノロジーコンサルティング事業本部
デジタルサクセスコンサルティングユニット
野村、齋藤、岡本、伊藤
E-mail：contact.litron@kits.nttdata.co.jp
ニュースについて
ニュースに掲載されている、サービス内容、サービス・製品の価格、仕様、お問い合わせ先、その他の情報は、発表日現在の情報です。その後予告なしに変更となる場合があります。また、ニュースにおける計画、目標などは様々なリスクおよび不確実な事実により、実際の結果が予測と異なる場合もあります。あらかじめご了承ください。
ニュースメール配信
ニュースの更新状況をいち早くお知らせするために、メール配信を行っております。
メール配信のお申し込み
イベント・セミナー
NTTデータが出展・講演するイベント・セミナーの情報をご覧いただけます。
イベント・セミナー
