#いたるところに監視カメラがある時代だ。AI(人工知能)の画像認識技術は普遍的なものとなり、カメラに映る人物を特定するのも容易となった。今や私たちは、お店や職場にいる間にもAIによって顔や体を見つめられているかもしれないのだ。国によっては、こうした技術を警察や監視体制の中に積極的に採用しようとするところもある。ビッグブラザーが見ているような社会だ。なんだか息苦しくなってくる話だが、ベルギーのルーヴェン・カトリック大学の研究者によれば、ちょっとしたカラーの印刷物でかんたんにAI監視システムの目を騙せるという。動画では、まず、左側の男性はYOLOによって「人(person)」と認識されているが、右側の男性はまったく無視されてしまっている。両者の違いは、右側の男性がお腹のところに40×40センチのカラーの印刷物を持っていることだ。右の男性がためしにその印刷物をくるりと回して真っ白な裏側にしてみると、ただちに人と認識された。ちなみに鳥の絵柄入りのTシャツを着た場合には、人ではなく鳥と認識されたりするそうだ。YOLOv2AIの盲点、ブラックボックス研究者によれば、なぜこんなことでAIが人を認識できなくなるのかはっきりとはわからないそうだ。ほとんどのAIの認識能力は、ニューラルネットワークに物体のサンプルを与え、それがきちんと対象を判断できるようになるまでパラメーターを調整することで完成される。ところが、このパラメーターは数百万という膨大なものである。そのため、AIの訓練を行なっている人にとってすらも、その中身はブラックボックス化しており、具体的にどのように物体を認識しているのかわからないのだ。さあ、いたちごっこの始まりだこれによるセキュリティの穴は結構深刻だ。今回、カラーの印刷物でAIをごまかせるという欠陥が明らかになった。その印刷物を持っていても人であるとAIに教えることはできるだろう。この動画が出回るころには既に対処されているはずだ。ほかにも欠陥があるだろうことはまず間違いない。AIがブラックボックスと化してしまっている以上、それらすべての欠陥を修正することは至難の技である。AIを騙す方法はほかにもあるはずだ。それが発見されれば修正される。さあ、いたちごっこのはじまりだ。parumoあわせて読みたい汚職を取り締まるために導入したAI(人工知能)が高性能すぎてお蔵入りに(中国)驚愕!この世に存在しない人物の顔をクリック一つで次から次へと生成するサイトが登場お前は常に見張られている。生徒の行動を監視するため、中国の学校で採用された顔認証カメラ顔認証アプリで本人を特定。points情けは人の為ならずは本当だった。points亡くなった娘と(仮想現実(VR)で再会した母親、涙が止まらず。pointsペンギンは人間と同じように話す。静止画と動画を切り分けられるからどうにかなるだろうけど。人間は、なぜ「紙を持った人間」を、静止画からきちんと認識できるんだろう。#上半身と下半身が写真によって分断されてしまっているから、人として認識されないのかな。個々のパーツがつながっていないように見える工夫をすれば、AIを騙せるのかな。#※4今後一世紀くらいは無理だと思う、やってみて失敗しちゃったって例が続くと思うよ。全ての物質(生物)の構造、機能、動き、日照や気候、環境による変化、予想される重なりからターゲットを選り分ける、これらが数百万程度の観察で完遂出来るとは思えない。#AIはノイマン型プログラムではないから修正が簡単にはできないんですねブラックボックス化はこわいですね。#人間には認識できるけどAIには認識できない、まさにこの状況を描いたアニメがありましてね。『電脳コイル』というのですが。2007年の作品でございます。#子供が鳥の写真を見て「あ!鳥さんだ!うふふ」って言ってるみたいだね。人によっては「鳥の写真」や「写真」と言うのかもしれない。興味や触れてきた環境の差で認知の優先順位がひっくり返っちゃうの。ゴルゴの「BEHOLDER」で金で雇った少年に、街中に自分の顔写真を貼らせて顔認証システムを攪乱してた現実のシステムでもそうなるかはとにかく、仕組み的にはあり得そうだ。#人が写った写真に「人間には判別できるけどAIには判別できない加工」を施して再度学習させれば認識できるようになるんじゃないかな。こればかりはひたすらAIが認識できなくなるパターンの作成と人力でのラベル付で対応するしかなさそう。#逆に、何もない空間に「person」って出てたら怖いな。研究者「二人だぞ」AI「横縞の男性、ひげの男性、髪の長い女性、三人です。#AIに対抗して、デジタルなディスプレイをアナログな手縫いで形にした迷彩服がパリコレに登場。AIをかいくぐる技術が芸術やファッションの中で模索・追求されようとしている。人間がAIの性質を知るために必要な試みであることは確か。#この記事の問題は誰でも触れられるオープンソースのYOLOの問題だが、こういう物体認識システムの誤認識問題の効率的な解決法としては、別々に作り上げた他の複数の物体認識システムを協働させ、異なる認識に至った物体があったら互いに訂正し合う仕組みを構築したらどうだろう。これはGANの発想に似ているが、より正確を期すためにはシステムは2つより3つ4つと多い方が良い。#これ確か、画像認識に誤認を与える加工を施した特殊なイラストで実験してる。#オープンソースの物体認識システムなんてあるのね。#AIって結局人間が作って人間の行動をデータにしているのだから人間と同じくポンコツさは消えない気もする。#※35とりあえず「横縞の男性」はフレディで「長髪の女性」は貞子でいいとして、「髭の男性」は誰だろう。ひげ面のホラーのキャラって、思い付かないんだけど。#これだと町中の自動運転は100年とは言わないがまだ20年は無理やな。#※38>人間がAIの性質を知るために必要な試みであることは確か。人間が作ったAIが既に人間にとって未知のモノとなりつつあるってのはなんか興味深いですね。子の心親知らずですかね。#※8>これらが数百万程度の観察で完遂出来るとは思えない。それらはただの「見た経験」だけでは完全ではない。「触る」「味わう」「聞く」「においをかぐ」も含めたうえでようやく人間と同じレベルの「トータル的な認識・識別」になる。Aiにも身体が無ければダメなんだ。(しかも、「触る」ひとつとっても、「感触」だけではなく、「熱い、冷たい」とかの要素も必要で、さらにさらに「触ったら手が切れた」とかの「手:センサーに危険」とかの「経験」も必要なんだぜ...)※19多分、視覚データ(画像データ)だけからの学習なんだろうね。下手すると距離(2つの物体のどちらが前にあるか)さえ理解できていないかも。#※24俺もそう思った。