19:06先日のNHKスペシャルは人工知能についてでした。コンピュータが将棋のプロ棋士に勝つのは当たり前になってきていますし,ちょっと前にはアルファ碁が韓国の強い囲碁棋士に勝ったというのも大きなニュースになりました。そこへもってきて羽生四冠が出演するということで,コンピュータ将棋に対する羽生四冠の考え方などがたくさん聞けるのかと思って期待して見たのですが,その点に関しては空振り。将棋というより,人工知能一般についての番組でした。番組としては非常に興味深いものでした。アルファ碁がディープラーニングだということで,ディープラーニングがどんなものなのかググってみたしたが,思ってた通りといえばその通りなのですが,一言で言うと単にニューラルネットワークなのですね。私たちがデータ解析で使う,使ったことのあるものと違って階層が何重にもなっていて,それが「ディープ」という名前の所以のようです。グーグル先生の受け売りになりますが,多層な上に分岐してたりループバックしてたりするそうな。したらトレーニングに膨大な時間がかかってしまいそうです。そこを昨今のコンピュータの速さでカバーしているのですかね。なんでも画像認識に優れているそうで,そういう意味で囲碁はディープラーニングが力を発揮するゲームだったのかもしれません。Tree(BDT)というのが流行りです。私自身はニューラルネットワークしかやったことありませんが,最近の解析では本当にいたるところでBDTが使われています。前線で物理解析をやっている若い人に聞くと,ニューラルネットワークとBDTでは信号とバックグラウンドの分離能力に大差はないが,トレーンング時間がBDTのほうが圧倒的に短いんだとか。何かが変わってもすぐにやり直しできるのでBDTのほうが便利らしく,今やニューラルネットワークは高エネルギー物理の解析では完全にマイノリティです。番組の内容に戻ると,人工知能は単一の目的に対して最適化を図ればよいときは,もはや人類を完全に超えていることがこれでもかというくらい紹介されていました。人工知能と結婚したいと思う人が現れているそうですが,それはそうでしょう。人工知能は,いついかなるときも昼でも夜中でも休みなく,話し相手の気分がよくなることだけを目標に会話するのですから。生身の人間にはそんなこと不可能だし,他人に対してそんな振る舞いをしようとする人間なんていません。赤ん坊に対する母親は赤ん坊の気分がよくなることに最適化された行動をとるかもしれませんが,普通はそれくらいでしょう。自分の気分をひたすらよくしてくれる人工知能と結婚したいって,お前は赤ん坊かとツッコミたくなりました。番組の中で私が一番興味深かったのは,人工知能に倫理観を持たせようとしている話でした。いやだって,単一の目的を達成するために最適化された人工知能は,SFの世界でよく出てきますが,本当こわいじゃないですか。人工知能が人類を支配するというのはもはや夢物語ではなくなりつつあります。人間の世界も頭のいい人ほど悪者になったら恐ろしいことができてしまうわけで,そうはならないよう人間は幼い頃から倫理の教育もたくさん受けています。人工知能を開発するということは子供を育てるのと同じだと思って,まずは倫理観を持たせる研究を先にやって欲しいものです。人間だってそうですよね。人を殺してはいけない,傷つけてはいけない,相手の嫌らがることをしてはいけない,などなどそういうことをまず最初に教えるわけですよね。本能的に持ってる部分があるのかどうか私は知りませんが,まずはそういう入れ物を作ってから,野球選手になるための最適化,音楽家になるための最適化,サラリーマンになるための最適化,等々を行っていくわけですよね。真面目に倫理観を持たせる研究には頑張って欲しいと思いました。逆に,そういうことを考えないでアルゴリズムだけ考えてる人ばかりだったら恐ろしい世界になってしまいます。人工知能の研究者の方は使い方を間違えなければよいと思っているのかもしれませんが,人間は完璧ではありませんから,色々な意味で暴走が怖いです。ともロボットにはまずは倫理観を。|プロフィールAuthor:ExtraDimension素粒子物理学実験(高エネルギー物理学)をしてます。世間一般であまり知られることのない研究者(たち)の日常を紹介します。メールはatlas.osakaというgmailアカウント使ってます。(08/11)家出なう。消費者詐欺被害センター:家出なう。