No.021 特集:デジタルテクノロジーが拓くエンターテインメント新時代

No.021

特集:デジタルテクノロジーが拓くエンターテインメント新時代

連載02

ブラックボックスなAIとの付き合い方

Series Report

第3回
技術でブラックボックスを透明化

2019.10.31

文/伊藤元昭

技術でブラックボックスを透明化

未来に起きる出来事を驚くほど正確に予測し、複雑な状況での判断を的確に下すことができるようになった現在の人工知能(AI)。だが、予測や判断のプロセスがブラックボックス化しているため、AIが出した答えは本当に信用できるのか、利用者はその扱いに苦慮している。これまでの機械は、動く仕組みを人間が把握・理解できて当たり前だった。そして、機械は常に、人間が信頼・制御・管理できる存在だった。多くの人は、理解不能な機械と同居して、生活や仕事をする準備ができていない。こうした状況を打開するため、ブラックボックス化しているAIの判断プロセスを透明化し、AIが出した答えや判断の根拠を知るための技術開発が、精力的に進められるようになった。AIが何を考えているのかを知るということは、AIをパートナーとして人間社会の中に迎え入れるための大前提である。どのような技術によって、どのようなことが説明可能になったのか。技術開発の最前線の動きを紹介する。

人間が信頼・制御・管理できないAI

AIの能力が人間を超える「技術的特異点(シンギュラリティ)」が、2045年にやってくるのだという。それ以降は、人間の頭を頼るまでもなく、AI自身がより進化した次世代のAIを生み出していくようになるそうだ。シンギュラリティを境に、人間が機械を操るという当たり前の状態は終焉。力関係が逆転して、機械に人間が操られるようになるのではという懸念の声が出ている。

ただし、機械が人間を超える力を持つのは、何もAIが初めてではない。クルマは人間よりも速く走り、飛行機は人間にはできない空中での飛行ができる。そもそも現時点の多くのコンピュータが、人間が扱いきれないような膨大な計算を一瞬で終わらせる力を持っている。それでも、多くの人は、ことさら脅威を感じているわけではない。ところが、なぜかAIの進化によるシンギュラリティには、別格の恐怖心を覚える人が多い。これは、科学技術について疎い人だけでなく、一線級の研究者や技術者でも同様だ。

AIの進化に恐怖心を感じる理由の一つが、ブラックボックス問題にある。現在の機械学習ベースのAIは、これまでの機械とは異なり、人間が動きや処理の仕組みを把握・理解し、信頼・制御・管理することができない。不安の本質はここにある。AIは、正確な答えや判断を出してくる有用な機械ではあるが、人間を置き去りにして進化していく機械でもあるのか。近未来の生活、仕事、社会活動を進める中で、人間がAIと同居することになるのは確実だ。しかし、その同居人は、今のところ、人間と向き合って、心通じる相手ではない(図1)。

[図1]現在の人間とAIは、お互い向き合うことのない同居人
出典:AdobeStock
現在の人間とAIは、お互い向き合うことのない同居人

精力的に進められる「説明可能なAI」の技術開発

近年、「人中心のAI活用」をビジネスの理念として掲げるIT企業が増えてきた。AIは、人の豊かな暮らしや円滑な社会活動を実現するための道具である。より多くの場所でAIを活用していくための必要条件は、人が信頼・制御・管理できること。このため、答えや判断を導き出した理由を説明できるAI技術の開発が、世界中で精力的に進められるようになった。こうしたブラックボックス化したAIの判断プロセスを透明化する技術は、「説明可能なAI(Explainable AI:XAI)」と呼ばれている。

2016年以降、AI関連の国際会議では、XAIに関連した研究成果に関する論文の発表が急増している(図2)。特に、この分野の研究に熱心に取り組んでいるのが、米国防総省・国防高等研究計画局(DARPA)である。約80億円の予算を投入し、研究を進めている。そして、多くのIT企業や大学などの研究機関も、XAI関連の研究開発を活発化させている。

[図2]XAI関連の論文の推移
2015年以降、説明可能なAIに関連した研究成果の発表が急増している。
出典:IEEE,“Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI)”
XAI関連の論文の推移
ナノテクミュージアムから最新情報をお届けします。FacebookFACEBOOK
MAIL MAGAZINE