1．生成AI活用におけるリスク
生成AIの技術は急速に進化しており、さまざまな分野で活用が進んでいます。生成AIの活用推進は業務を効率化する一方で、以下のような新たなリスクも顕在化してきています。
- 法的リスク：AIシステムが誤作動した場合の責任の所在が不明瞭なことによる法的トラブル発生のリスク
- 社会的リスク：プライバシーの侵害や差別や偏見につながる不公平な意思決定を引き起こすリスク
- 技術的リスク：機密情報漏洩等のセキュリティ上の懸念やAIモデルに内在するバイアスによるリスク
これらのリスクは、企業の経済的損失や社会的信用の低下を引き起こす可能性があります。また、生成AIの活用やリスクの拡大に伴い、高度なAIシステムに関するルール整備を目的とした「広島AIプロセス」など、国際的な取り組みも進められています。こうした状況を踏まえ、企業には生成AIの活用推進を進めると同時に、ルールへの準拠やリスク対策を進めていくことが求められます。
2．リスクを低減するAIガバナンスツール
このようなリスクを低減するための重要な対策の1つとして、AIガバナンスツールの導入が挙げられます。AIガバナンスツールは大きく、ガードレールツールとテスティングツールに分類されます。
- （1）ガードレールツール
生成AIモデルを含むAIシステムの入出力を常時監視し、望ましくない入出力をブロックするツール - （2）テスティングツール
生成AIモデルの安全性やセキュリティなどをモニタリングし、異常がないかを評価するツール
図1：AIガバナンスツールの役割
AIガバナンスツールは、AWSやMicrosoft Azureのようなクラウドサービスが機能の一部として提供するものから、独立系ツールベンダが個別にツール提供するものまで、数多く存在します。これらのツールを適切に選定し、導入することで、生成AIのリスクを効果的に低減することが可能です。
3．AIガバナンスツールの選定の難しさ
AIガバナンスツールを導入するためには、自組織に適切なツールを選定する必要があります。しかし、市場にはそれぞれ機能や特徴の異なるツールが多数存在しており、それらの比較・評価は容易ではありません。加えて、AIガバナンスの市場自体が発展途上にあり、提供されているツールの多くは十分に成熟しているとは言えません。このような状況におけるツール選定の主要な課題として、以下の2つが考えられます。
- （A）同一基準での機能比較
AIガバナンスツールが具備するべき機能は抽象度が高く（例：有害情報、バイアス、プライバシー保護等）、カタログ上では同様の機能を備えているとされても、各ツールの実際の挙動や精度を公正に評価することは困難です。例えば、プライバシー保護と言っても、氏名、住所、生年月日などさまざまな種類があります。また、同じ氏名でも、著名人の氏名を個人情報と判定するか、公知情報とみなすかといった基準はツールにより差異があります。
図2：ツールごとの評価の違い（個人情報の場合）
このように、ツールによってどのような種類の情報を対象としているか、また、それらを検知・制御する基準は異なるため、同一の評価環境で各ツールの実際の挙動を平等に比較することが重要です。
- （B）最新動向を反映した機能評価
AIガバナンス市場は発展途上にあり、技術革新や社会的要請に応じて日々進化を続けています。AIの活用が多様な領域に広がる中で、新たなリスクが発生したり、各国で法規制の見直しが行われたりするケースも増えています。こうした変化に伴い、AIガバナンスツールの機能も非常に早いペースで進化しているため、ツールを選定する際には、技術動向や法規制、ツール自体のアップデートの最新動向を反映して評価・選定することが重要です。
4．東京海上グループとNTT DATAのアプローチ
NTT DATAは、このような課題に対して、東京海上ホールディングス株式会社及び東京海上日動システムズ株式会社と連携し、AIガバナンスツールの評価・選定に向けた以下の取り組みを実施しています。
- （ア）評価観点の確立
経済産業省・総務省の「AI事業者ガイドライン」を中心に、AISI（AI Security Initiative）やOWASP（Open Web Application Security Project）など、複数の外部機関の最新の評価観点を組み合わせ、ユニバーサルな評価基準（26観点）を策定しました。さらに、東京海上グループが特に重要と判断した評価項目を追加し、合計30の評価観点により、それぞれのツールを現場で求められるレベル感で比較することにしました。 - （イ）評価用データセットの作成
NTT DATAが過去のPoC（概念実証）で収集したデータと、市中で公表されているデータを統合し、計933件の潤沢なデータセットを作成しました。これらのデータセットを（ア）の評価観点とマッピングすることで、評価観点ごとの定量的な評価を可能としました。 - （ウ）20社以上のツールを比較・評価
網羅的な評価を実施するにあたり、国内外の20社以上のAIガバナンスツールベンダにアプローチを行いました。まず、（ア）で作成した評価観点に基づくチェックシートを使用して机上評価を行い、スクリーニングを実施しました。そして、スクリーニングを通過したツールについては、（イ）で作成した評価用データセットを用いたPoCを通じて、さらに詳細な機能評価を実施しています。
5．今後の展望
東京海上ホールディングス株式会社、東京海上日動システムズ株式会社及びNTT DATAは、このAIガバナンスツール評価の取り組みを通じて最適なツールを選定し、2025年度中のツール導入を目指しています。これにより、生成AI活用におけるリスクを低減しつつ、積極的な生成AIの活用を推進する方針です。この取組みによって、両企業にとっての業務効率化や競争力の強化だけでなく、保険業界全体における革新と進化をもたらしていきます。
AIリスク診断から対策実行・運用まで支援する「AIガバナンスコンサルティングサービス」についてはこちら：
https://www.nttdata.com/global/ja/news/topics/2024/073100/
あわせて読みたい：