自動運転車に罠をしかけてみた。自動運転車に罠をしかけてみた。自動運転車に罠をしかけてみた。#このままいけば、近い将来、おおくの自動車が自動運転車にとって代わるだろう。交通事故の軽減が期待されている。自動運転車ゆえの落とし穴が存在する。イギリスのアーティスト、ジェームズ・ブライドル氏は、自動運転車にこんな罠をしかけてみた。白線を描きそこに自動運転車で乗り込んでいくのだ。どんな結果がおきるのか?まずは動画の方を見てみよう。001自動運転車が最初に学習すべきことは、道路に引かれた線の解釈についてだ。車線の境界だったり、追い越し可能/禁止車線だったりといったことだ。ジェームズ・ブライドル氏が明らかにしているのは、文脈のない知識の限界である——これは現代の人工知能に内在する問題でもある。人口知能は、まず道路の最も重要なルールとして、反対が破線である白線を越えてはならないと学ぶ。破線の側からは越えることができる。動画にある内側を実線で、外側を破線で描いた円には何の意味もない。これが塩で描かれているのは偶然ではない。古来より、精霊や悪魔を召喚したり、捕縛したりする魔法陣は塩や灰で描かれてきた。あとは秘密の呪文を知っていれば、そうした存在に打ち勝つ力を得ることができるのだ。動画でも、単純なシンボルで自動運転車を”捕縛”することに成功している。何者かが魔法陣を破壊するか、運転席に乗り込んでAIから制御を奪わない限り、自動運転車はそこから脱出することができない。自律システムが世界を乗っ取ってしまった遠い未来を想像してみてほしい。人工知能の仕組みについての知識はとうに忘れ去られている。その時代に暮らす無知な人々にとって、こうした単純なトラップはまるで魔法のように見えるだろう。前に紹介したように、自動運転車にはもし事故が起こりそうになった場合、誰を優先して助けるべきかのジレンマ問題がある。奇妙な時代はもう直ぐだ。parumo▼あわせて読みたい「自動運転車のジレンマ」問題。車のハイテク化はどこまで進んでいるのか?3つの最新ドライブサポート機能にズームイン!アメリカ国防総省は真剣にAIとの戦争を恐れている。points情けは人の為ならずは本当だった。points亡くなった娘と(仮想現実(VR)で再会した母親、涙が止まらず。#でもこれって動かないで正解だよね。#うまくパラドックスを作れば、AIをフリーズさせることができるかもしれない。AI開発者は、基本的なルールより上位のルールを作ることでその問題を解決するかもしれない。そんなこんなでメタレベルの階層がある程度複雑化したところで、AIに自我が生ずるのかもしれない。犬派の俺、怒りの自動運転反対運動への参加を決意。#AIが人間を越えることはないって言われてるよね、人間が作ったのだから人間の知能以上には成らないと。人間が成長し続ける限りAIにも限界はないんだよね。限界のないAIはいつか人間より先にいってしまうかもしれないというパラドックスを含んでいる。それに本当に自動運転なら、むしろ円を回避しそう。嫌なAI「おやおや、これは困りましたねぇ、私はこの線を越えても構わないとはプログラムされていないのです。私には、この白線は無効ではないかと、そう思われるのです。#近い将来、子供とかが自動運転車にいたずらする事案が発生するんだろうなぁ。解説が無ければ車が円の中に停まったってだけにしか見えない。#これ、そもそも動画の車は自動運転カーじゃないんだよ。「こうなるかも?」ってデモでしかない。現状のテスト段階の自動運転システムでもこうはならないだろう。#※27動画見りゃわかるけど円の外から入ってきて立ち往生してるよ。#実は人間にもこのような自動的・自律的な判断が多数存在している。これらは生存を円滑&スピーディにするために必要不可欠なシステム。ところが人間には同時に、こういった自動的・自律的な判断に一時的にブレーキをかけて、判断(の基準となる文脈の解釈)を変更したり消去したりすることができる、不可思議な能力も備わっている。その不可思議な能力が“意識”であるらしい。白線の内側で正座してなさい。#様々な分野でAIを使って、「作業効率を図る」とか「AIで〜をする方がより良い結果を生む」などと言ってるが、人間にしか出来ない事もある。技術を過信し過ぎている。それに技術競争が過熱し、各国の名誉を掛け相手国を滅ぼす兵器を生み出す事も過去に証明されている。高度な技術がなかった時代の方が本当の意味で豊だった。人類は1度、何もなく文明等が未発達の時代に戻った方が良い。恣意的に事故を起こせるってことだ。#様々な分野でAIを使って、「作業効率を図る」とか「AIで〜をする方がより良い結果を生む」などと言ってるが、人間にしか出来ない事もある。技術を過信し過ぎている。それに技術競争が過熱し、各国の名誉を掛け相手国を滅ぼす兵器を生み出す事も過去に証明されている。高度な技術がなかった時代の方が本当の意味で豊だった。人類は1度、何もなく文明等が未発達の時代に戻った方が良い。#これ、アートの一環であって、この車も自動運転の車じゃないし、自動運転の車で試してないって本人がコメントしてたはずだけど。他のサイトで紹介されてたときはちゃんとそこの注意書きまで書いてたよ。#まあこれは人為的に引き起こしたものだけども、たぶん普通に袋小路に陥っちゃうパターンってけっこうあると思うんだよね。少なくともおれにはできない自信がある。いうわけで、自動操縦車の一般化はまだまだ先なんだろうと思ってます。#前にまとめられてた気がする、ロシアの落書きみたいな無茶苦茶な車線はどうするのかな。#これ自動運転の試作車じゃないよ。ただの揶揄動画それに実際の道路上に描かれる破線の間隔はこんなに短くないからこれをはみ出し禁止と認識するようではプログラミングのミス。ついでに言えば実際の自動運転車は前方向に遠近法で伸びていく白線について走行用の補助線として認識するようになっているのであって、車両の前に水平に横たわる白線は横断歩道や停止線として認識するようになっている。従ってこの動画でまず最初に白線をまたいで円に入ってきてしまった時点で認識ミスとなってしまう。#まぁこの画像がフェイクだとしても自動運転はまだまだ先になりそうだな。雪をどうするか、消えかけた白線をどうするか、いたずら書きをどうするか、誤作動しないのか......課題をあげたらきりが無いな。#白線の認識をどれだけできるかってのも課題だが、もっと大変なのは人間のドライバーが無意識でやってる暗黙の了解ってやつをAIに理解させることだそうだ。#温泉街で自動ブレーキ付きのレンタカーを借りた時は本当に参った。いちいち湯けむりで止まるな。#自動運転はゴリ押ししてでも通すはずだから反対派の意見は通らんと思う。今後イタズラ含めて渋滞問題は凄そうだ最悪線路で止まっちゃったりしてな。#※61面白そうですね。ありがとうございます。#※36スバルの軽自動車に自動運転はついてないぞ。#これで野生の自動運転車を狩ることが出来る。古くから受け継がれてきた民族の知恵である。#自動運転に求めるものは応用じゃないからなんもおもわん。注意したって実線と破線のルールを常に守りきれないのがヒューマンエラーでそれを取り除きましょうってのが自動運転だろ。#アクセルは控えめに、ブレーキは早めにってね。マイナスを一つずつ克服して行きます。#起こる確率の低い状況に対応するには、不釣り合いなほどコストが掛かる。運送会社の社長さんが、この動画を見た後で、自動運転無人トラックをただ放つだろうか。万一の為に、人を付けて監視しようと考えるだろう。人を雇って監視させるなら、運転させればいいとも考えるだろう。いうわけで、ドライバーの仕事は当分無くならないと思います。#問題だらけなのに自動運転車をごり押しされそうで怖い。実は不便なのに気付こう。上手くいっても専用道路が精一杯だろうね。自動運転車優先の(笑)というか制限速度守ることになるのかな?強風時などは高速を時速50キロ以下で走ったりするの?やめてくれ。#※26???「ああー、もうめんどくさい。#車内映像や計器の反応がわかる映像、音声または字幕による解説が不足してるな。#AI、AIって言うけど、それの目と耳と触覚等の六感+霊感+ヤマ感に相当するセンサー類が未発達なんだよね。それに類するセンサー類もあるだろうけど、瞬時に解析してAIに情報渡せるようにならないと、人間に目隠しで点字のメモ渡されて判断しろと言っているようなもん。量子コンピューターの様に同時並行処理を瞬時に判断出来ないと、実用化してもかなりレベルが低くなると思う。