ブラックボックスAIとホワイトボックスAI

2020年11月10日 横内 大介 氏

ブラックボックスは周囲を黒く塗りつぶした箱であり、その中身は外から見えません。その意味が転じて、ブラックボックスは「動作するロジックをユーザーが容易に理解できないシステム」という意味でも使われています。ディープラーニングに代表される機械学習で作ったAIは多くの場合でブラックボックスになり、しばしばブラックボックス型AIと呼ばれます。


一方で、金融や医療の分野ではお金や命を預かることから、AIブーム当初から、その分野のAIは自身の回答(特に誤答)に対して、説明責任が強く求められる時代が来るだろうと感じていました。そして、この「説明可能なAI」の開発には、「なぜ」を明らかにするデータサイエンスの考え、特に探索的データ解析[1] が重要になるとも思い始めていました。


第三次AIブームが進むにつれて、この説明可能なAIの概念と重要性をIT業界の方たちに紹介する機会が増えましたが、そのたびに「ホワイトボックスのAIを作るのですね」と言われるようにもなりました。当時の私はホワイトボックスという語にはあまりなじみがなかったのですぐに調べました。もちろん、今となってはどの辞典で調べたかまでは覚えていませんが、IT用語辞典 e-words のように「ホワイトボックスとは、内部構造や動作原理、仕様などが公開されたり明らかになっている装置やソフトウェア、システムなどのこと」という意味が載っていて、合点がいったことはよく覚えています。それ以後(おそらく2016年ごろから)、IT業界の方にはホワイトボックス型AIという語を使って「説明可能なAI」の考えを紹介することが多くなりました[2]

このホワイトボックスという語を使い慣れた2017年の春、イギリスで在外研究をしていた際、ホワイトボックスAIの話を現地のデータサイエンス研究者に話したところ、かなり怪訝な顔をされました。彼は、白く塗りつぶしても黒と同様にAIの中身は見えないのではないかというのです。この反応に困った私は、すぐに英英辞書のサイトを調べてみたのですが、日本のように透明の箱の意味で white box が使われる例は見つけられませんでした。


在英の日本人研究者にも聞いたところ、white boxという言葉はOEMの意味であり、英語圏の人には transparent (透明)と説明する必要があるだろうと言われ、それ以後、相手によって「トランスペアレントなAI」と「ホワイトボックス型AI」の言葉を使い分けるようになりました。海外輸入の言葉や概念が多いITにもいまだに和製英語らしき語が入り込んでいたことは、当時の私にはなかなかの衝撃でした。

 

blackbox_whitebox.png

Transparent AIに加えて、最今では XAI(eXplainable AI) という「説明可能なAI」の直訳のような語も世界で使われ始めています。このようないくつかの方言の存在を見てわかるように、どうも「説明可能なAI」の必要性は徐々にですが世の中に理解されつつあるようです。

米大統領選や学術会議の問題が日々テレビ等のメディアで議論されていますが、どれも当事者が丁寧に説明すれば(できれば)、簡単に終わる問題なのになあと思う今日この頃です。

  1. Tukeyによって提唱された対話的なデータ解析方法。詳しくは次回以降のコラムで解説します。
  2. このブラック、ホワイトという接頭語の使い分けは、日本のIT業界ではよく見られます。プログラムの動作確認をする際に、コードを読まずに外形的に検証する方法をブラックボックステストと呼び、コード情報が記載されている詳細設計書を基に検証する方法をホワイトボックステストと呼びます。また、部品を集めて作るパソコンやOEM製品のことをホワイトボックスパソコンと呼ぶこともあります。

執筆者プロフィール

横内 大介 氏

一橋大学大学院経営管理研究科 准教授

慶應義塾大学大学院理工学研究科後期博士課程修了、博士(工学)。慶應義塾大学理工学部数理科学科データサイエンス研究室助手、一橋大学大学院国際企業戦略研究科専任講師を経て、現職。現在、複数の民間企業の技術顧問や社外取締役に就任し、AI開発やビッグデータ分析の監修、データサイエンス人材の育成も行っている。