人間について悲観的になったら,AI(人工知能)研究者と話をするとよいだろう。顔認識や言語翻訳,ボードゲームやアーケードゲームのプレイ,車のウインカー操作などにおいてAIの能力が人間と同等,あるいはそれ以上になった今,あなたはAI研究者が勝ち誇った気持ちでいると思うかもしれない。実際にはその反対で,彼らがよく口にするのは,人間の脳は素晴らしく,適応力があって,効率良く働き,無限の能力を持っているということだ。マシンにはまだそうした特性が欠けている。柔軟性が低く,愚鈍で,学習が遅いうえに,かなりの量の訓練を必要とする。広く報道されている成功事例もごく限られた範囲のものだ。多くのAI研究者は,人間の知能を理解して再現し,最終的にはそれを超えたいと考えてこの分野に足を踏み入れた。実用に関心がある研究者でさえ,AIはもっと私たち人間のようにならないといけないと考えている。画像認識システムを訓練しているソーシャルメディア企業が猫や有名人の写真のデータを揃えるのは苦労のないことだ。別の種類のデータは入手しにくく,もっとのみ込みの早いマシンができなければ幅広い問題を解決できるようにはならないだろう。データが実世界(フィジカル空間)に関わるものになると,その量は特に限られる。ロボットがテーブル上のブロックを動かすことを学習する際,直面する可能性があるあらゆるブロックの配置が示されることは現実にはあり得ない。人間同様,ロボットも丸暗記するのではなく,汎用的なスキルを身につける必要がある。マシンは少ない情報入力で何とかやっていくと同時に,妥当な結果を出力する必要もある。答えだけでは不十分だ。人々はその根拠も知りたいと考えるからだ。アルゴリズムで銀行のローンや量刑を判断する場合には。役人が相手なら,先入観や利益相反について問いただすことができる。現在のAIシステムにも,できることなら同様に問いただしたいところだ。