AIの判断結果の妥当性を論文などを参照して検証

次は、AIの思考法をモデル化するアプローチとAIの注目点を特定するアプローチを組み合わせたXAIの例を示す。

富士通は、様々な要因が複雑に絡み合って起きる現象を対象にして将来起こることを予測するAI「Deep Tensor」と、判断結果に至った論理的な根拠を提示するための判断プロセスのモデル化技術「Knowledge Graph」を開発した（図6）。両者を組み合わせて活用することで、判断結果と同時に判断理由が提示され、さらにはその判断理由の妥当性も検証することができる。セキュリティや企業の勤怠管理や健康管理、金融機関の融資リスク判定、医薬品業界での創薬での活用を想定している。

［図6］Deep TensorとKnowledge Graphのしくみ
複雑な現象の予測を予測理由と共に提示する。
出典：富士通研究所／富士通　2017年9月20日プレスリリース「AIの推定理由や根拠を説明する技術を開発」

Deep Tensorは、判断対象となるデータの表現形式を工夫した技術であり、ベースはディープラーニングである。通常のディープラーニングは、画像のように量がほぼ一定で、構造が定まったデータの学習は得意だが、人やモノ、コトの様々な要因が絡み合った複雑な構造で、量も固定していないないようなデータを学習して高精度に分類するのは得意ではない。富士通が開発したDeep Tensorでは、データをテンソル^*3と呼ばれる統一的な数学表現に変換して規格化。複雑で量が定まらないデータを対象にして、ディープラーニングを適用できるようにした。こうしたデータの表現方法を採用することで、判断結果から遡り、結果に大きな影響を及ぼした要因を特定できる付加的なメリットが生まれる。

さらに、過去の文献や専門家のデータベース内の知識同士の関連をグラフ形式で表現したKnowledge Graphを用意しておくことで、AIの判断理由の妥当性を検証できるようになる。Deep Tensorで得た判断結果と判断要因をヒントとして活用し、Knowledge Graphに対応させながら判断プロセスを明確にしていくことで、判断に至った論理的な根拠を探ることができる。

説明可能なルールベースAIに機械学習の要素を加味して高性能化

最後に、元々、判断プロセスの透明性が高いルールベースのAIを高度化させるために、機械学習を上手に活用した例も示す。日本のIT企業は、1980年代に実施した国家プロジェクト「第五世代コンピュータ」プロジェクトを通じて、ルールベースのAIに関連した豊富な開発資産と深い知見を保有している。判断プロセスの透明性という観点から見れば、現在流行している機械学習ベースのAIよりもルールベースの方が有利である。このため、日本企業の技術に、急激に進歩した機械学習関連の技術要素を加えることで、競争力の高いAIを生み出せる可能性がある。

NECは多種多様なデータの集まりの中から、そこに内在する複数の規則性と、その規則が成立する条件を自動抽出し、未来予測に役立てる技術、「異種混合学習」を開発した（図7）。抽出した規則性を、分析対象に応じて使い分けることで、ルールベースのAIとして電力や水の需要予測、サービス契約の解約予測、商品価格の予測、工場での保守部品の在庫最適化などに活用できる。基本的にルールベースであるため、予測の根拠も明確に示すことが可能だ。

異種混合学習の巧妙な点は、機械学習を活用して、雑多なデータの中から規則性を高精度で見つけ出しているところである。予測プロセスそのものには、機械学習を適用していないため、ルールベースの利点である透明性は維持できている。

［図7］異種混合学習
機械学習で雑多なデータから規則性を見つけ出し、ルールベースAIに活用する。
出典：NECホームページ「最先端AI技術群　～NEC the WISE～」

XAIは、AIの応用分野を広げるために必要不可欠な技術であり、技術開発が始まったばかりの伸び盛りの技術である。世界中でAI活用を推し進める動きが加速しているが、AIビジネスの成否は、よりよいXAIを手中にできるかどうかで決まるのではないだろうか。