機械には好奇心がない。2-3機械には好奇心がない。好奇心がないと、未知なるものとは出会えない未知なるものを探索したければ、「好奇心」が必要になる。機械が好奇心を持ち、未知なるものを探すことは可能なのか。Labsのケネス・O・スタンレーは機械学習とは別のアプローチで、機械の自律性を解き明かそうとしている。2018」のなかで、特に興味をもったのが、ケネス・O・スタンレーのものだった。「未知を検索する」という彼の講演テーマは、現在の検索万能主義に警鐘を鳴らし、かつ機械の自律性について優れた視座を提唱していた。スタンレーいわく、「機械には好奇心がない。好奇心がないと、未知なるものとは出合えない」。未知を検索する「『最適化』とは多くの分野において発見可能な範囲を狭めてしまう。2018」のプレゼンテーションの3日後に単独取材に応じてくれたスタンレーは、インタヴューの冒頭でこのように語った。ある目的を解決する特化型人工知能(AI)は、特定の目的を達成するために開発される。スタンレーが取り組むのは、目的がない状態でも機械が自律的に答えを探していくアルゴリズムだ。スタンレーは「ノヴェルティ・サーチ」というアプローチに挑戦している。ある解を導き出そうとするときに、過去に発見された組み合わせを記録し、そこから外れた「目新しいもの(Novelty)」の組み合わせを追求するアルゴリズムだ。「まだ探索されていない領域はなにか」を明らかにし、積極的に探索することで、より良い答えにたどり着く確率が上がるという。それは、向かうべき目標を決めるのではなく、「目新しいもの」に向かうアルゴリズムを設計することだ。スタンレーは「ノヴェルティ」を「人間の好奇心に似たもの」だと表現する。「ノヴェルティとは、未知の方向を指し示す矢印です。未知なるほうへ向かうといっても、その先に何があるかもわからずに窓から飛び降りるようなことはしません。過去の情報から、どの方向に面白いものがあるかがわかった上で探索するんです。それには好奇心が必要なのです。機械のエラーを人間は許容できるか未知なる領域を検索するアルゴリズムを設計する。そんなスタンレーの足かせとなるのが、エラーだ。「まず機械も人間もエラーをなくすことは不可能なんです。自律的なシステムがエラーを起こしてはいけないとしたら、そのシステムを使うことはできません。エラーが起こる確率を下げることはできますけれどね」エラーには良い側面も、悪い側面もある。AIやアルゴリズムによるレコメンデーションの最適化が進むなかで、そこから”道を踏み外す”エラーの重要性は高まっていくはず──そんな背景からか、「エラー」はオーストリアのリンツで開催されるメディアアートの祭典「アルス・エレクトロニカ」の2018年度テーマにも選ばれた。“笑えない”エラーだって世の中には存在する。機械によって自分の娘や息子が殺されたとき、わたしたちは機械にどんな感情をもつのだろうか。「人々の多くは『人間は過ちを犯す』と認識している一方で、機械が過ちを犯すことを許容できない。人間よりも遥かに低いエラー率の機械をつくることができれば、それは徐々に受け入れられていくのではないか、と考えます」スタンレーはエラーに対応するアプローチのひとつとして、人間と機械が協力する選択肢にも言及する。「人間が得意でも、機械が苦手な領域はありますよね。人間と機械は補完的な関係になれるんです。機械は主観を持ち得るか「このアート作品は美しいのか」といった問いには、主観的な判断が求められる。それは機械に可能だろうか。「そもそもあなたとわたしの間ですら合意が取れない問題ですよね」と語りつつも、スタンレーは次のように答えてくれた。「主観的で正しい答えがない問題に、答えを出すのは難しい。いい作品かどうかの絶対的な真実はありませんが、偉大な芸術作品においては、ある程度のコンセンサスはあります。AIとそのコンセンサスを分かち合う日が来たら、それはAIの進化の最終段階でしょうね」なぜ機械はそのコンセンサスにたどり着けないのか。欠けているピースは「経験」だと、スタンレーは言葉を続ける。「機械に主観的な判断をさせることは、とても難しいと思っています。主観的判断は、その人間の生涯にわたる経験や文化的背景に基づくからです。機械はそのような経験を持ち得ない。経験していないが、関連する情報にアクセスできたとしても、それは人間と同じレヴェルの頭脳をもつ“なにか”に過ぎません。そこには幼少期や人生経験はなく、ましてや野心ももっていません」スタンレーの研究は、現在のAI研究の大きな流れとなっている機械学習とあまり相性が良くないアプローチだ。「いままで見たことがない、経験したことがない事態に直面したとき、機械よりも人間のほうが柔軟に対処できます。人間は未知の状況でも、過去の経験をもとに問題への解決策を考えられるからです。機械にそれはできない。その状況は稀にしか起こらないため、ビッグデータによる機械学習が難しいからなんです。特化型AIに限れば、その進化のスピードは驚異的だ。仕事に内包されるタスクの多くは、機械が代わりにやってくれるようになるかもしれない。スタンレーは人間に残される役割を「わたしたちの人間性が反映された芸術的な営み」だと話す。「もし機械が芸術的な営みすらも行なえるようになれば、社会変化はとても深刻なものになります。わたしたちができることすべてが、機械に取って代わられてしまうわけですから」だが、それはまさしく「人間とほぼ近いレヴェルの機械を生みだすということであり、それは想像を遥かに超える結果をもたらす」とスタンレーは言葉を続けた。歴史学者ユヴァル・ノア・ハラリは、AIの進化によって職を失う人間を「無用な人々」と表現したが、多くのタスクが機械に代替される世界でわたしたちは為す術がないのだろうか。「わたしはテクノロジーの変化が新しい仕事を生みだすことを信じています。新しい仕事のために人々が再び訓練するのは簡単ではない。歳を重ねた人であれば、より難しいでしょう。人々の一部が『必要でない』と考えられる社会を受け入れることも難しいわけです。『よりクリエイティヴな仕事に就くようになる』と言いますが、誰しもがクリエイティヴなことに関心があるわけではありませんよね」だが、わたしたちは大きな変化に対して準備することができると彼は言う。スタンレーは専門家として自身が取り組むべきことを次のように考える。「わたしたちにとっての最善策は、どのような世界になるかを前もって考えることです。わたしのようなAIの専門家はその影響について考えるべきですし、経済学者や社会学者の協力も必要です。汎用型AIの鍵を握る自律性を研究する池上、スタンレーのふたりの話からは、いかに自律性がいまだ未知なる領域であり、実装が難しいかがわかるだろう。機械は苦しみや好奇心をもちにくい。それらの感覚がわからないが、経験によって電気をつける/消すことのような自律的な判断はできる。機械の計算能力や記憶能力は指数関数的に発展するだろうが、それらだけでは未知なるノイズやハプニングに満ちた世界で、自らの意思で行動や判断することは難しい。一方で、わたしたち人間が、どれだけ自律的な意思決定を日々しているかと問われると、実際は慣習や指示されたことで多くの日常行為が為されているのも現実だ。自律性を巡る研究は、人間にとっても大きな問いを投げかけている。わたしたちはどれだけ機械で、どれだけ動物であり、そしてどれだけ意思のある人間なのかということを。深圳に潜入する人工知能(AI)やバイオテクノロジーの急速な進化と、人間の動物化という両側面から「人間性の未来」を問う連載『動物と機械からはなれて』。第3章では、人類史上稀に見る速度で成長した都市・深圳を訪ねる。そこは、テクノロジーの進化に根ざした「楽観主義」が支配する街だった。人工生命の研究者、池上高志が長年の研究を経てたどりついた答えは「自律性こそが、機械を生命に近づけるために必要なエッセンス」ということ。そんな彼は、自律的な機械が誕生した世界における〈人間〉のあり方を問う。SUGATSUKE|編集者/株式会社グーテンベルクオーケストラ代表取締役。『コンポジット』『インビテーション』『エココロ』の編集長を務め、出版物の編集から内外クライアントのプランニングやコンサルティングを手がける。著書に『はじめての編集』『物欲なき世界』、対談集『これからの教養』等がある。アートブック出版社ユナイテッドヴァガボンズの代表も務める。下北沢B&Bで「編集スパルタ塾」を主宰。