「だしの伝道師®」土居でございます。

赤の次は黒です。

 

学位論文

筆者が学位を取った時の博士論文は、平たく言うと「かび付けでかつお節の香りが変化するのはなぜか」という内容でした。具体的には、燻製で形成されたかつお節香り成分の構造が、かびによって変化する反応を検証し、枯節の香りを明らかにした有機化学的研究。微生物変換反応というジャンルです。

研究がひと区切りついた後は、香り成分に関わらずかびにさまざまな化合物を与えて、その反応を特許と論文にしていきました。とりあえず「エサ」を与えれば培養3週間後に何らかの結果を出してくれるわけで、かなりおいしい実験系だったんです。実験において、かびはいわば「ブラックボックス」。中で何をやっているかは不明ですが、インとアウトさえ押さえてストーリーを付けとけばよかった。

 

黒魔術

いま、AI（人工知能）の世界で「ブラックボックス化問題」がクローズアップされています。ディープラーニング（深層学習）を使ったAIがどのような仕組みで判断を下したのか、開発者を含め専門家から見てもよくわからないという問題です。

 

 

コンピューターソフトと棋士が戦う将棋の「電脳戦」で名人を破った「ポナンザ」の開発者、山本一成氏も「黒魔術の影響がポナンザにも及んでいる」と語ってました。ここでの黒魔術は、「魔女が意味不明な呪文とともに材料を鍋に入れると妙薬ができる」というイメージ。

 

ホワイトボックス化

かびの実験なんてかわいいもんです。将棋や囲碁も「強ければいい」と考えれば、開発者の想像を絶する「奇手」の意味がわからなくても問題はない。これが、自動運転や病気の診断など人命に関わってくると話は違ってきます。安全と安心を担保するために、AIの判断過程が見えるようにする「ホワイトボックス化」が必要で、各企業が取り組みを開始しているんです。

 

2014年に天才物理学者ホーキング博士が「完全な人工知能を開発できたら、それは人類の終焉を意味するかもしれない」と語った時、あまり実感はなかったんですが、開発者の理解を越えて賢くなるわけですから「終焉」もあながち大げさではないのかもしれません。
AIの暴走を止める黒魔術を、いまから修行するべきではないでしょうか。