診療内容スタッフ紹介アクセスまつもとメディカルAIのブラックボックス問題2019.03.20AIのブラックボックス問題ってご存知ですか?たとえばコンピューターに人間と同じ目を持たせます。AIに目を付ければいいだけです。これはもうすでに開発されています。コンピューターにネコを認識させるのにはネコの特徴をデータ入力します。耳があって目があって四足で、しっぽが長くて・・・あとは犬との違いも入力しないと犬と間違えてしまいますね?入力しなければいけないデータは満載です。すると、AIは「実物を見せてください。データを沢山くれれば自分で学習します。」と言うようになります。沢山のネコを見せれば、コンピュータはいくらでも覚えます。犬との違いはもちろん、豹や虎や・・・なんでも沢山見せて違いを覚えてもらいます。するとAIはどんどん覚えて学習し、ネコを判断できるようになります。実はそのコンピュータの仕組み?認識する仕組みがわからない。やってネコと認識し、ネコじゃないのを選べるのか・・・。これがいわゆるブラックボックスなんだそうです。考えているのかもしれないし、間違っているのかもしれない。多少間違えても問題ないネコの認識ぐらいなら良いのですがたとえば自動運転をAIにさせて「直進です」と動いたら事故が起こった。済まないし、なにが間違いの原因なのか?わからなければ変更することも出来ない。説明するシステムを構築しないといけない。今、そんな事をやっているそうです。AIが考えて、その答えの理由を説明できるシステム。コンピューターが進歩していきます。サイバーダイン社の「スカイネット」が稼動する日もそんなに遠い日ではないのかもしれません・・・・。