ブラックボックスAIとホワイトボックスAI

　ブラックボックスは周囲を黒く塗りつぶした箱であり、その中身は外から見えません。その意味が転じて、ブラックボックスは「動作するロジックをユーザーが容易に理解できないシステム」という意味でも使われています。ディープラーニングに代表される機械学習で作ったAIは多くの場合でブラックボックスになり、しばしばブラックボックス型AIと呼ばれます。

　一方で、金融や医療の分野ではお金や命を預かることから、AIブーム当初から、その分野のAIは自身の回答（特に誤答）に対して、説明責任が強く求められる時代が来るだろうと感じていました。そして、この「説明可能なAI」の開発には、「なぜ」を明らかにするデータサイエンスの考え、特に探索的データ解析[1] が重要になるとも思い始めていました。

　第三次AIブームが進むにつれて、この説明可能なAIの概念と重要性をIT業界の方たちに紹介する機会が増えましたが、そのたびに「ホワイトボックスのAIを作るのですね」と言われるようにもなりました。当時の私はホワイトボックスという語にはあまりなじみがなかったのですぐに調べました。もちろん、今となってはどの辞典で調べたかまでは覚えていませんが、IT用語辞典 e-words のように「ホワイトボックスとは、内部構造や動作原理、仕様などが公開されたり明らかになっている装置やソフトウェア、システムなどのこと」という意味が載っていて、合点がいったことはよく覚えています。それ以後（おそらく2016年ごろから）、IT業界の方にはホワイトボックス型AIという語を使って「説明可能なAI」の考えを紹介することが多くなりました[2]。

　このホワイトボックスという語を使い慣れた2017年の春、イギリスで在外研究をしていた際、ホワイトボックスAIの話を現地のデータサイエンス研究者に話したところ、かなり怪訝な顔をされました。彼は、白く塗りつぶしても黒と同様にAIの中身は見えないのではないかというのです。この反応に困った私は、すぐに英英辞書のサイトを調べてみたのですが、日本のように透明の箱の意味で white box が使われる例は見つけられませんでした。

　在英の日本人研究者にも聞いたところ、white boxという言葉はOEMの意味であり、英語圏の人には transparent （透明）と説明する必要があるだろうと言われ、それ以後、相手によって「トランスペアレントなAI」と「ホワイトボックス型AI」の言葉を使い分けるようになりました。海外輸入の言葉や概念が多いITにもいまだに和製英語らしき語が入り込んでいたことは、当時の私にはなかなかの衝撃でした。

 

Transparent AIに加えて、最今では XAI(eXplainable AI) という「説明可能なAI」の直訳のような語も世界で使われ始めています。このようないくつかの方言の存在を見てわかるように、どうも「説明可能なAI」の必要性は徐々にですが世の中に理解されつつあるようです。

米大統領選や学術会議の問題が日々テレビ等のメディアで議論されていますが、どれも当事者が丁寧に説明すれば（できれば）、簡単に終わる問題なのになあと思う今日この頃です。