本記事では、XAI（説明可能なAI）とはどのようなものか概要や必要とされる背景を解説した上で、活用事例4選を紹介します。
AIの機能が高度になる中で、回答内容に至った経緯がブラックボックス化していることが問題となっています。
AIが回答に至るまでの過程を理解することで、ビジネスなどにどのようなメリットがあるのか順番に見ていきましょう。
目次
XAI（説明可能なAI）とは
XAI（説明可能なAI：Explainable AI）とは、AIが行った回答について、その判断や予測に至った経緯を人間が理解できる形式で説明するAIなどの技術全般を指す言葉です。
AIツールにはまだまだ不完全な部分があり、誤った内容を出力するなどの不具合が生じることもあります。
また、AIの機能が進化を続ける中で複雑化し、処理の過程を人間が紐解くことが難しくなっています。
AIを使って不具合が生じたときに、その回答を行ったときの判断ポイントなどを知ることができればユーザーへの説明や、人間が手を加えることも可能です。
内閣府の「AI戦略2022の概要」においても、情報基盤の信頼性を担保するために「責任あるAI」の技術開発を目標に掲げており、その実現に必要な要素の一つとしてXAIが挙げられています。
参照：
・「【事例7選】”XAI（説明可能なAI）”とは？その概要からメリット、活用事例まで」SELECK [セレック]
・「XAI（説明可能なAI）とは｜意味や手法、メリット、導入課題、活用事例などを解説」スキルアップAI Journal
・「AI戦略2022の概要」内閣府
XAIが台頭した背景
生成AIなどのAI技術が発展していく中で、短いテキストプロンプトでも複雑な処理を内部で行い、精度の高い回答を返してくれるようになりました。
これを受けてビジネスでも用いられるようになった一方で、AIの思考プロセスがわかりにくくなり、ブラックボックス化している側面もあります。
AIが誤った回答をした理由がわからなければ、再発防止や原因究明が難しいため、AIに対する不信感が生まれ、ビジネスへの導入を阻害する要因となってしまいます。
そこで求められているのが、AIが回答に至った経緯や根拠を明らかにできるホワイトボックス化です。
XAIはホワイトボックス化を可能にする技術として、社会的ニーズが高まっています。
参照：
・「【事例7選】”XAI（説明可能なAI）”とは？その概要からメリット、活用事例まで」SELECK [セレック]
・「XAI（説明可能なAI）とは｜意味や手法、メリット、導入課題、活用事例などを解説」スキルアップAI Journal
XAIを導入するメリット
次にXAIを導入するメリットを3つ解説します。
XAIを活用することでどのようなメリットがあるのか知りたい方は参考にしてみてください。
● 顧客へ納得感のある説明が可能になる
● バイアスの検出とモデルの修正が行える
AIの判断過程を検証できる
XAIによってAIがどの情報を基に出力を行ったのか回答の過程が見えるようになるため、AIツールを使用する中で、誤りなどが生じたときの対応が取りやすくなります。
たとえば、問題が生じたときの原因究明とそれに対する初動対応、再発防止策の策定などに利用可能です。
また、AIツールを活用して得られた成果物や判断についてその思考過程が確認できるようになることで、社会的な説明責任を果たしやすくなります。
参照：
・「【事例7選】”XAI（説明可能なAI）”とは？その概要からメリット、活用事例まで」SELECK [セレック]
・「XAIとは？解釈性の高い出力へのアプローチ手法、メリット・デメリット、活用分野を徹底解説！」AI Market
顧客へ納得感のある説明が可能になる
AIツールを使用して得られた判断結果を顧客にそのまま伝えても、納得してもらえないことも多いでしょう。
その結果に至った根拠を併せて伝えることで、顧客の納得感を高められます。
しかし、AIツールの判断過程を人間が一から検証するのは難しいです。
そこでXAIを活用して、データのどの部分が学習データから得られたパターンのどれと類似しているかなど、AIの判断過程を人間がわかる形で示してもらうことで、顧客への説明材料になります。
反対に、判断過程を辿っていくと、AIの回答が誤りであることがわかる場合もあります。
その場合、AIの回答を使用しない選択も可能です。
また、AIの判断過程を確かめる中で、人間が気づかなかった判断ポイントを見つけるなど、新たな発見を得られることもあります。
参照：
・「【事例7選】”XAI（説明可能なAI）”とは？その概要からメリット、活用事例まで」SELECK [セレック]
・「XAI（説明可能なAI）とは｜意味や手法、メリット、導入課題、活用事例などを解説」スキルアップAI Journal
バイアスの検出とモデルの修正が行える
AIが誤った回答をした場合、なぜその判断を行ったのかXAIによって検証できれば、AIモデルを修正してアルゴリズムの改善が可能です。
判断過程に必要ない情報を参照して誤った回答を導き出していることがわかれば、学習に用いるデータセットや思考プロセスの見直しが行えます。
また、Web上の情報を基に回答を行っている場合、人間がアップロードした情報に含まれるバイアスが誤った回答の生成につながっている可能性があり、人間の持つ偏見がAIの誤回答につながっていることもXAIを通して知ることができます。
参照：
・「【事例7選】”XAI（説明可能なAI）”とは？その概要からメリット、活用事例まで」SELECK [セレック]
・「XAIとは？解釈性の高い出力へのアプローチ手法、メリット・デメリット、活用分野を徹底解説！」AI Market
XAI（説明可能なAI）の活用事例
ここからはXAI（説明可能なAI）をビジネスに活用した事例を4つ解説します。
XAIがビジネスにおいてAIツールだけでは生じるリスクや不具合をどのようにフォローしているのか、知りたい方は参考にしてみてください。
● AIへの不信感をXAIで解決（日立コンサルティング）
● タイヤ設計支援システム（横浜ゴム）
● Grad-CAM++（日本IBM）
住宅ローンQuick審査（三菱UFJ銀行）
三菱UFJ銀行は、住宅ローンの事前審査を短時間で行う「住宅ローンQuick審査」サービスにNECのAI技術「NEC the WISE」を採用しました。
同サービスでは最短15分で審査結果の確認が行えます。
このAI技術には「異種混合学習技術」が採用されており、多種多様なデータを分析し、自動で複数のパターンを見つけ出すことが可能です。
また、予測を行った根拠を示すホワイトボックス化も行えるため、審査結果とその理由をユーザーに対して提示可能となっています。
参照：
・「NECのAI技術が、三菱UFJ銀行の「住宅ローンQuick審査」サービスに採用」NEC(Japan)
AIへの不信感をXAIで解決（日立コンサルティング）
日立コンサルティングには、AIの判断内容をXAIによって分析し、判断理由を説明したことで取引先の不信感を払拭できた事例があります。
担当する企業の海外支社が、取引先のデフォルトによる損害を低減するため、デフォルトリスクの予兆を検知できるAIを求めていました。
しかし、この企業の本社経理部門ではPL（損益計算書）ベースで与信管理を行っていたため、AIのような根拠に乏しいものの回答結果には業務を任せられないと否定されていました。
そこでAIを活用して個々の判断を洗い直し、その判断内容をXAIで分析し、AIの判断理由まで併せて本社経理部門に伝えてみたようです。
すると、AIの判断内容は正しく、その判断理由も的確であることが伝わりました。
これを受けて本社経理部門の理解が得られ、AI活用に納得感を持って取り組んでもらえるようになりました。
参照：
・「”AI導入の課題”の解決に貢献する説明可能なAI(XAI) イベントレポート」日立
タイヤ設計支援システム（横浜ゴム）
横浜ゴムは、XAIを利用したタイヤ設計支援システムを独自開発しました。
このシステムでは技術者が設定したタイヤの基準仕様と目標特性値から改善が必要な特性を決め、特性の改善を行うのに必要と考えられる特徴量をXAIで提示してくれます。
タイヤ開発においては、開発目標を達成できるよう特性値を改善できる特徴量を探索します。
このシステムでは、開発を目指すタイヤの特性値の達成に役立つ特徴量や得られた特徴量をどう調整すればよいかなどをXAIを通じて技術者へ多角的に提案することが可能です。
これによって、経験の少ない技術者でも効率的にタイヤ設計を行えるようになります。
技術者はXAIに示された情報を基に仕様を修正し、修正した仕様の特性値をシミュレーションします。
修正を繰り返して、目標とする特性値を満たす仕様が作れれば、最終仕様を決定可能です。
これによって、経験年数にかかわらず、技術者がタイヤ設計を行えるようになり、開発の効率化やコスト削減につなげられています。
参照：
・「横浜ゴム、XAIを活用したタイヤ設計支援システムを独自開発」 横浜ゴム
Grad-CAM++（日本IBM）
東京大学と日本IBMは、脂肪肝から肝がん発症リスクを予測する新しいAIモデルを構築し、その予測過程で病理画像のどの部分にAIが着目しているかを分析するXAI「Grad-CAM++」を使用しました。
新しいAIモデルでは、2,432人の症例で撮影した28,000枚の画像を用いて深層学習を行っており、正答率は82.3%と高い数値を誇っています。
AIモデルの判断過程を確認するために「Grad-CAM++」を用いて分析したところ、細胞異型、核細胞質比の上昇、炎症細胞浸潤を肝がん発症のリスクが高い病理学的特徴、大型脂肪滴の沈着を肝がん発症リスクが低いことの病理学的特徴として認識していることが判明。
これらの特徴は、人間がチェックする際は暗黙知として言語化され切っていない部分であったため、AIモデルの判断過程を分析したことで、新たな知見を得ることにつながったようです。
参照：
・「脂肪肝病理画像から発がんを予測するAIモデル ―暗黙知が解き明かす肝がんのサイン―」IBM
まとめ
今回はXAI（説明可能なAI）の概要や活用事例などを解説しました。
AIの精度が上がり、ビジネスの様々な場面で活用されるようになった一方、AIが回答に至った根拠や経緯を把握しておかないと、顧客への説明責任などを果たせなくなってしまいます。
この流れを受けて、XAIの必要性が高まっています。
● まだ仕事を受けることは考えていないけど、どんな案件があるのか知りたい
● 働く場所にとらわれずリモートでできる案件を探したい
フリーランス向けのフルリモート案件をお探しの方へ
✔高単価案件多数
150万円以上の案件が80％以上、200万円以上も！
✔フルリモート案件多数
リモートで完結するDX・戦略案件が見つかる
✔上場企業や優良企業から直接スカウトが届く
簡単なプロフを見てみる
