人工知能という言葉からは、AIは人間と同じように考えて人が行ったのと同じような結果を出すことができるものだというイメージを抱きがちです。最近のAIはちょっとしたニュース記事を読み上げてみたり、俳句を詠んでみたり、とより人間らしい知的作業をこなすようになってきています。そのため、ますます人工知能が人間並みに考えているように思えてきてしまうでしょう。少なくとも現在のAIはあくまでも「人間が行うのと同じような結果」を出せるようにしているだけで、人間と同じように考えるように作られているわけではありません。そのことは何か問題を生じることになるでしょうか。人間同士であっても、たとえば二人の人間が同じような判断を下した場合でも、それぞれは全く異なる考えからそうした判断に至っている場合などざらにあります。AIだって同じでAIが何を考えているのかわからないが、その結果人間が行うのと同じような判断になっていれば何も問題はなさそうに思えます。AIが出す判断が何も問題を起こさない場合はそれで全く問題ないでしょう。その判断が間違っていた場合にはどうするのでしょうか。人間同士であればなぜそうした判断になったのかを説明して判断の基準や観点の抜け漏れなどを修正して正しい判断が出来るように修正することができます。ところが、AIの中身はブラックボックスです。何か間違った判断をAIがしたときにそれがどうして起きたのかを知ることは難しく、逆に言えば予めまたそうした間違った判断が起こることを知ることも難しいのです。AIの判断ロジックというのは当然一般的な人間の判断ロジックとは全く異なるので、人間にとっては常識的にありえないような判断をすることだってありえます。AIのミスを避けるために、AIにミスをさせる研究をするAI研究の中には、こうしたAIの特性をうまく使ってAIにわざと誤認識をさせる方法を研究している事例があります。良く人工知能の成功例として挙げられる「画像分類AI」は高い精度で、ある画像に写っている物や生き物の種類を答えてくれます。人間と同じように見た目で判断をしているので、チャーハンを「ピラフ」と誤答するならともかく、色や模様が全く異なる「カレー」とは間違えないでしょう。ところが、ある研究では画像から動物の種類を答えさせる実験で、AIにパンダの画像を見せて「テナガザル」と答えさせることに成功しています。パンダとテナガザルでは色や模様、顔の大きさなど考えられる特徴の多くが異なっていてどうしてそんな間違いをするのかと思う人も少なくないでしょう。実はそのパンダの画像には人間には見えずAIにだけ見えるノイズのようなものが加えられており、AIはこのノイズから何かしらテナガザルと似た特徴を見つけることで、テナガザルであるという間違った回答をしてしまいます。AIに誤認識させる“悪意”をも想定することが必要この例のように人間であれば気づかない、特徴としては無視してしまうようなノイズを画像に加えることでAIを誤認識させてしまえる例は他にも報告されています。顔認識システムでも特殊な模様の入った眼鏡をかけることで顔認識をできなくしたり、道路標識のそばに置いておくだけで道路標識の種類を誤認識させるなど、ちょっとしたことでAIの精度を下げる方法は色々あります。悪意の工作はいくらでもできてしまうわけです。やっかいなのは、人間が見ればすぐにわかるような特徴で誤認識が起きるのではなく、人間では気づかないようなAIならではの判断ロジックを狂わせるような特徴を使われた場合、人間はそれを知ることが非常に難しいということです。した、思わぬ誤認識を防ぐには結局従来のITシステムと同様にAIに入力されるデータに想定外のものが入らないようにするセキュリティ対策を講じるしかないでしょう。助教としてウェアラブルメディア、コミュニケーションに関する研究を行う。2016年より株式会社TMJに入社。現職では統計処理や機械学習などの新技術に関する調査、研究・開発を担当。AIをはじめとする新規技術を使ったサービスやソリューションの提案やコンサルティングに取り組んでいる。(JIPDEC)より個人情報について適切な取り扱いが行われている企業に与えられる「プライバシーマーク」を取得しています。