No.021 特集:デジタルテクノロジーが拓くエンターテインメント新時代

No.021

特集:デジタルテクノロジーが拓くエンターテインメント新時代

連載02

ブラックボックスなAIとの付き合い方

Series Report

かつてのAIは人間の完全支配下にあった

現代のAIが出す答えの根拠が分からないことで、どのような不都合が生じるかについて考える前に、そもそもディープラーニングでは、答えが得られる根拠がなぜ分からいないのか、AIの進化の歴史をたどりながら説明しておきたい。

「電卓やパソコンで出す計算の答えだって、なぜ正しいのか根拠が分からない」という人もいるだろう。確かに、これらの電子計算機も、外から電子的メカニズムが動く様子が見えないため、一見、ブラックボックスであるように感じる。しかし、一般消費者の理解が及ばなかったとしても、どのような演算器を使って計算しているのかは回路図を見れば一目瞭然であり、計算の手順や条件もソフトウエアで明確に記述されている。つまり、処理の過程には透明性があり、知識を持った専門家の口添えがあれば、得られた答えの根拠をはっきりと示すことができる。

こうした処理過程の透明性は、ディープラーニングが台頭する前のAIにはあった(図2)。1990年代前半までのAIは、専門家や熟練技能者の知恵や技能の手順を、従来のコンピュータと同様に演算回路の構成と処理手順に焼き直して作られていた。高度な思考形態、判断基準を研究者が分析し、手法として体系化しながら一種の“解答マニュアル”や“判断マニュアル”を作り、それをプログラムで記述していたのである*1。たとえば、犬と猫を見分ける場合には、注目すべき点を指定し、耳のとがり方や体つき、毛の模様などの特徴をパターン化して、画像を照合しながら見分けていた。この方法ならば、犬と猫を見分けた答えの根拠を明確に示すことができる。

[図2]判断理由が示されないAIの時代に突入した
作成:伊藤元昭
現在のAIは、判断理由を示さないブラックボックス化した解答マシーンである

ただし、判断の手順や基準をプログラマーが逐一指定するAIでは、答えや判断の精度を高めようとすればするほど、ルールを詳細化・厳密化する必要が生じ、狭い範囲の問題にしか適用できなくなる。これは、作業マニュアルの常である。また、AIで再現したい専門家の判断や熟練技能者の技は、その手順や基準を言葉で表現できないものも多く、そもそもマニュアル化できない場合もあった。さらに、高度な判断ができるAIを作るためのルールの策定とプログラムには、莫大な手間と時間が掛かるのも問題だった。

ディープラーニングは、なぜブラックボックスなのか

判断のルールを明確にしたAIの欠点を補う手法として利用されるようになったのが、機械学習である。そして、機械学習は、ニューラルネットワーク、ディープラーニングと進化することで、解答の精度が高まり、応用範囲が広がっていった。ただし、それと機を同じくして、処理の手順と基準のブラックボックス化も深まっていった(図3)。

[図3]AIは解答精度と汎用性の向上と引き換えにブラックボックス化が進んだ
作成:伊藤元昭
AIは解答精度と汎用性の向上と引き換えにブラックボックス化が進んだ

機械学習とは、判断の手順や基準をプログラマーが逐一指定するのではなく、応用先のデータを用いて機械が自ら学習する技術である。データの中に含まれる共通点や特徴を近似式で表し、その近似式を基に未知のデータの値を推測する。学習前に決めておくのは処理手順の大枠だけで、判断の基準となるパラメータ(近似式の係数)の最適値をデータから求めてプログラムを完成させる。この時点で、AIの処理の手順や基準はかなりブラックボックス化している。得られる答えを左右する要因は、パラメータの値の違いであり、先の犬と猫を見分ける例であげたような人間にとって分かりやすい特徴ではないからだ。

特定の現象や物理法則を想起させる数式の近似式を決めておくのではなく、もっと汎用性の高いモデルを基にして機械学習を適用するため、利用されるようになったのがニューラルネットワークである(図4)。極めて汎用性の高い天然の情報処理システムである脳の神経細胞(ニューロン)の働きを電子回路で模して再現する。ニューラルネットワークでは、複数の層に分けた多数の電子的なニューロンをつなげた構造を取り、学習によってニューロン同士のつながりの強さ(“重み”と呼ばれる)が調整されて、正しい判断ができる回路へと育っていく。答えを導き出すルールは、ニューロン同士のつながりの強弱の組み合わせの中に内包されている。そこから、答えの根拠を探り出すことは極めて困難である。

[図4]ニューラルネットワークでは、ニューロン同士の結びつきの強さの組み合わせに、判断のルールが内包している
作成:伊藤元昭
ニューラルネットワークでは、ニューロン同士の結びつきの強さの組み合わせに、判断のルールが内包している

[ 脚注 ]

*1
こうした専門家を模したコンピュータのことを、エキスパート・システムと呼び、処理手順を明示するタイプのAIをルールベースのAIと呼ぶ。ルールベースのAIでも、スタンフォード大学が開発した有機化学の化合物を分析するAI「Dendral」やハーバード大学が開発した医療診断用AI「MYCIN」など、高度な判断を下すことができるAIが登場した。
TELESCOPE Magazineから最新情報をお届けします。TwitterTWITTERFacebookFACEBOOK