裕AIやロボット関連の話題が多くなった昨今。20日、人工知能(AI)を用いたネットワークシステムの社会・経済への影響、課題などを検討する会議の報告書をまとめた。AIで動くロボットに起こり得るリスクについて、ハッキングや制御不能のほか、ロボットがAIにより自らの意志を持って動き出し、人間との関係が変わっていく可能性にも言及。リスクを管理するため、「人間に反乱するおそれのある人工知能の開発の事前の制限」の必要性も指摘した。待て!(^_^)リスクを想定するのはいいが、かなり気が早すぎるぞ。AI技術は進歩していくだろうが、現状、実現できているAIは限定的な能力しかなく、過大評価しすぎだ。囲碁で人間の棋士を制圧したからといって、人間に対して権利を要求するようになるわけじゃない。その間には、エベレストよりも高い壁が立ちはだかっている。AIは計算はしているが、「思考」をしているのではない。上記エントリでは粘菌の例を挙げたが、現在のAIはもう少し高度なので、「蟻」のレベルかもしれない。蟻の個々の個体は、それぞれに役割を与えられて、遺伝子に刻まれた本能というプログラムを実行している。個々の蟻が「思考」して作業を実行しているのではなく、わずかばかりの神経系で計算して行動しているだけだ。餌を探しに行くときは、障害物に遭遇したら迂回して道を探し、巣に帰るときには自分が残した臭いを辿って戻る。機能と行動としてはシンプルだが、女王蟻を頂点とする群れとしては、高度に社会的なシステムを構築している。一種の集合知だが、そこに「意思」や「思考」はない。蟻は生存本能の遺伝子プログラムを実行しているにすぎない。人間が観察すると、統率された行動や、蟻塚のような造形をすることから、社会的な生物であると考えてしまう。「社会的」という認識そのものが、蟻を擬人化している発想だ。蟻は社会的などという意識は、微塵も持っていない。蟻は個体だけでは生存できず、集団としてのみ生きられる。数百匹~数千匹の蟻の集団が、生物としての蟻ともいえる。囲碁のAlphaGoや接客ロボットのPepperは、目の前にある端末が本体ではなく、AIはクラウド上の巨大なサーバー群だ。いう意味では、端末としてのロボットは個々の蟻のような存在。上記の記事では、想定リスクの目立つ部分が取り上げられているが、詳細は以下のページの「報告書」PDFに記載されている。