絞り込み検索
キーワードで探す
カテゴリで探す
サービスで探す
業種で探す
トレンドで探す
キーワードで探す
カテゴリで探す
サービスで探す
業種で探す
トレンドで探す
2019.7.1技術ブログ

AIのビジネス適用を後押しする「説明可能なAI技術」

AIのビジネスへの適用検証が積極的に進められる中で、「AIに対する信頼性の確保」が課題となっている。業務適用のために、これから求められる技術の一つである「説明可能なAI」と、弊社が着目している審査領域におけるユースケースを紹介する。

1.説明可能AI(XAI)とは

近年、ディープラーニングをはじめとする機械学習技術の進歩により、AIによる判定精度が著しく向上し、ビジネス適用への期待が高まっています。一方で、高性能なAIは大量の教師データから学習した複雑なルールを用いて判定するため、利用者からはそのロジックをうかがい知ることができません。このため、AIの判定を信用してよいのか判断がつかず、利用を躊躇する要因となることがあります。
また、AIの判定根拠を分析しようとしても、内部構造が複雑なため、一般的な方法では解析が困難です。つまり、「どうしてそう判定したの?」というような問いにAIは答えることができません。このため「AIはブラックボックス」と言われ、思いもよらない判定から重大な問題を引き起こすことへの不安感が、ビジネス適用の妨げになることがあります。
例えば、人材採用にAIを適用する場合、男性の事例に偏ったデータで学習すると女性に不利な判定をするといった、「差別につながる問題」が指摘されています。(※1)他にも医療の診断を例に取ると、単に病名を判定するだけでなく、判定結果の根拠を示す必要があります。どのような症状の組合せによる判定なのかという、「理由の提示」があって初めて利用者が納得することが出来るのです。
このような問題を解決するため、AIの判定根拠を人間にも分かる形で説明できるようにする仕組みが研究され始めています。この技術は「説明可能AI」と言われ、Explainable AIの頭文字を取って「XAI」と呼ばれることもあります。
XAIの技術は世界中の産官学の各界から注目されています。この技術が確立されれば、「理由の提示」が求められる分野へのAI適用が促進され、活用の幅が大きく広がります。NTTデータでもAIの幅広いビジネス適用のためXAIの研究開発に取り組んでいます。

2.XAIの代表技術

XAIを実現する代表的な技術として、2016年にワシントン大学のM. T. Ribeiroらによって提案された、LIME(※2)が挙げられます。
LIMEのアイデアは、特定の入力データに対して、ブラックボックスであるAIの判定ロジックを解釈が容易な形式で表現することで、AIの判定根拠を示そうというものです。入力された画像をAIで「猫」と判定した事例に対して、LIMEを用いた判定根拠を示すための具体的な処理手順を図1に示します。

図1:LIMEの処理イメージ

図1:LIMEの処理イメージ

LIMEは、現在の入力データに対するAIの判定において、重要な基準となった画像中の着目領域を特定し、判定根拠として提示します。この実現方法は、入力データとその近傍に特化した解釈を可能とするため、局所的な説明を行うアプローチとも呼ばれています。
この方法では、入力データは部分的に変化可能であればよいため、数値、テキスト、画像といったあらゆるデータに対応可能です。また、AIの学習済みモデルの判定結果があればよいため、決定木やディープラーニングといった判定ロジックの構成には依存しません。このように汎用的に利用可能であることから、LIMEはXAI技術の中でも注目されています。

3.XAIのビジネス適用

NTTデータでは、XAIの主要な適用先の1つとして審査業務を見据えています。例えば、申告書をもとに持ち込み物品の適否を審査する業務の場合、XAIを適用することで、「申告された品目と重量が矛盾しているため不適切」といった理由も含めた提示が可能となります。このように、判定結果の理由付けが求められる審査業務は、XAI技術と非常に相性が良い適用先と言えます。
XAI技術はAIの魅力を増やす技術の一つです。NTTデータではこのようなAI活用を促進する技術開発により、様々な分野へのAI導入を実現していきます。
※1 焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で

https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN

※2 “Why Should I Trust You?”: Explaining the Predictions of Any Classifier

https://arxiv.org/abs/1602.04938

お問い合わせ