現在の子どもたちは、人工知能(AI)に囲まれた世界で育っている。AIアルゴリズムがどのように作られるのかを子どもたちに教える新たなカリキュラムは、今後AIと付き合っていくうえで自身を守るだけでなく、テクノロジーの未来を創っていく意欲を与えてくれるかもしれない。Hao2019.09.18981325ある1人の生徒が映像の中で話している。「AIは赤ちゃんや人間の脳みたいなものなんだ。それは学ぶ必要があるし」。「AIは、(中略)保存して、その情報を使って物事を把握するんだ」。この複雑な問題をこれほど説得力のあるものにまとめようとすると、ほとんどの大人は四苦八苦してしまうだろう。この映像に出てくる生徒はわずか10歳だ。生徒はこの夏、MITメディアラボの試験的プログラムに参加した。AIについて教えるためのこのプログラムに参加したのは、9歳から14歳までの28名の中学生たち。プログラムのカリキュラムは、MITメディアラボの大学院生であるブレイクリー・ペイン研究助手が、AIの概念を中学校の教育に取り入れようとする広範な計画の一環として開発したものだ。試験的プログラムの後、ペイン研究助手はカリキュラムをオープンソース化している。いったことを生徒が学ぶためのインタラクティブなアクティビティが含まれている。現在の子どもたちは、AIに囲まれた世界で育っている。アルゴリズムがどの情報を見るかを決定し、見るべき動画を選択し、どのように会話すべきかを学ばせていく。望むらくは、アルゴリズムがどのように作られ、どのように社会に影響を及ぼすのかを子どもたちがよりよく理解することで、AIを賢く利用できるようになってほしい。なれば、子どもたちにテクノロジーの未来を創り出す意欲を持ってもらうことさえも可能かもしれない。「子どもたちにテクノロジーがどのように働くのか理解してもらうことが大切です。テクノロジーをうまくコントロールして利用できるようになるためです。子どもたちに力を感じてほしいのです」とペイン研究助手は言う。受講生らが、自分だったらどのようにユーチューブを作り直すかを想像している写真提供:MITメディアラボなぜ子どもたちなのか子どもたちにAIについて学ばせる理由はいくつかある。実利的な議論から見ていこう。研究の結果、子どもを技術的な概念に触れさせると、問題解決能力や批判的思考能力が刺激されることが明らかになっている。後になって、計算技能をずっと早く学べるように準備させることもできる。次は、社会的な議論だ。中学生時代は特に、子どもたちの個性の形成と発達にとって大切な時期だ。この年頃の女の子にテクノロジーについて教えると、将来テクノロジーを研究したり、テクノロジーに関する仕事についたりする傾向が強くなる。説明するのは、カリフォルニア州立工科大学で心理学と子どもの発育学を研究するジェニファー・ジプソン教授だ。それにより、AI産業やテクノロジー産業全体の多様化が期待できる。早い時期にテクノロジーの倫理やその社会的影響について取り組んだ経験は、子どもたちがより意識の高いクリエイターや開発者、情報に通じた国民に成長するのを後押ししてくれるだろう。最後に、脆弱さに関する議論がある。若者は柔軟性があり影響も受けやすい。そのため、他人の行動をまねして、そこから、中毒的行動に陥ってしまう倫理的危険性が高まる。Design)」を専門とするユニバーシティ・カレッジ・ロンドンのローズ・ラッキン教授だ。子どもたちを受動的な消費者にしてしまっては、主体性やプライバシーに悪影響をおよぼし、長期的な成長も阻んでしまう可能性があるという。「10歳から12歳というのは、子どもたちが初めて携帯電話を与えられたり、ソーシャルメディアのアカウントを持ったりする年齢です。その年頃の子どもたちに本当に理解して欲しいのは、そういったテクノロジーの中に必ずしも自分にあった意見や目的があるわけではないということです。テクノロジーにどっぷりはまり込んでしまう前にね」とペイン研究助手は話す。受講生が設計した倫理的マトリクス。サンドイッチ作成アルゴリズムの利害関係者と彼らの価値観を考えるためのもの写真提供:MITメディアラボ意見としてのアルゴリズムペイン研究助手のカリキュラムには、生徒がアルゴリズムの主観性について考えるように促す一連のアクティビティがある。アルゴリズムを、入力、一連の指示、出力などを備えたレシピとして学習することから始める。それから子どもたちは、最高のピーナッツバターとゼリーのサンドイッチを出力するアルゴリズムを「ビルド」する、つまり指示を書き出すよう求められる。夏の試験的プログラムに参加した子どもたちは、プログラムに隠された教訓を即座に理解し始めた。事実だと思う?』と尋ねたんです」とペイン研究助手は言う。自分の力で発見する過程で、受講生たちは、意図せずに自分の好みをアルゴリズムに組み込んでいたことに気づいたのだ。次の活動は、以下のようなコンセプトに基づいて作られている。ペイン研究助手が「倫理的マトリクス(Matrix)」と呼ぶものを受講生らが描いて、さまざまな利害関係者と彼らの価値観が、サンドイッチ・アルゴリズムの設計にどのように影響するかを考えるのだ。ペイン研究助手は試験的プログラムの各レッスンに、現在起こっている出来事を取り上げた。受講生はみんなで、ウォール・ストリート・ジャーナル紙の記事の要約版を読んだ。その記事はユーチューブの役員らが「おすすめ」アルゴリズムを変更して、子ども向けバージョンのアプリを別に作るべきかを検討しているという内容だ。受講生たちは、投資家の要求や、子を持つ親からの圧力、子どもの好みなどによって、企業がまったく違ったアルゴリズムを設計し直すことがあると学ぶことができた。別のアクティビティでは、AIバイアスの概念について学ぶ。Machine)」ツールを利用する。ティーチャブル・マシンは機械学習モデルを訓練するためのプログラミング不要のインタラクティブなプラットフォームで、これを使って猫と犬の分類機を作る。受講生には内緒で、偏ったデータセットを与えておく。受講生は、実験と議論を重ねるうち、データセットによって分類機が猫ばかりを正確に分類してしまうことに気づく。その後、受講生にその問題を修正する機会が与えられる。ここでもペイン研究助手は、試験的プログラムにおけるこの練習を、現実の世界の例と関連づけた。MITメディアラボのジョイ・バオラムウィーニ研究員が、顔認識の偏りについて議会で証言する映像を受講生に見せたのだ。「現実世界において、どのような思考プロセスを経たかよって、システムの作られ方がどう変わってしまうのかを、子どもたちは理解してくれました」(ペイン研究助手)。受講生の1人がユーチューブの完成した変更デザイン案を披露する写真提供:MITメディアラボ教育の未来ペイン研究助手は、一般の意見を参考にしてプログラムを微調整していく計画だ。プログラムを広げるためのさまざまな手段を模索している。目標は、このプログラムを何らかの形で公教育に取り入れてもらうことだ。ペイン研究助手は、このプログラムが、テクノロジーや社会、倫理などを子どもたちにどのように教えるかを示す1つの例になることも願っている。前出のラッキン教授やジプソン教授も、このプログラムが、ますますテクノロジー主導型になっていく世界の要求を満たすために、いかに教育が進化できるのかを示す有望なテンプレートを提供すると考えている。「現在、私たちが世間で目にしているAIは、すべてを平等にする素晴らしいものではありません。少なくともそうであって欲しいと望みます。これはもっと公平で公正な社会へと向かうために基礎となる第一歩なのです」(ペイン研究助手)。AI担当記者MITテクノロジーレビューの人工知能(AI)担当記者。応用といった領域についてカバーしています。AIに関する最新のニュースと研究内容を厳選して紹介する米国版ニュースレター「アルゴリズム(Algorithm)」の執筆も担当。X)からスピンアウトしたスタートアップ企業でのアプリケーション・エンジニア、クオーツ(Quartz)での記者/データ・サイエンティストの経験を経て、MITテクノロジーレビューに入社しました。宇宙ビジネスの時代かつて国家主導だった宇宙開発がいま、大きく変化している。テクノロジーの進化とリスクマネーの流入によって民間企業による宇宙開発が加速し、自社の事業拡大に宇宙を活用しようとする「非宇宙」企業やベンチャー企業の動きも活発だ。そのヒントとなる記事を集めた。北朝鮮系のハッカー集団が暗号通貨取引所から多額の資金を盗み続けている。侵入手口の巧妙化に加え、暗号通貨を匿名で現金化できる資金洗浄インフラの増加も背景だ。Orcutt加州の2045年炭素中立化は実現可能、「バイオマス」にカギ2045年までに「カーボンニュートラル」を目指すカリフォルニア州の大胆な目標は、その実現性が疑問視されている。ローレンス・リバモア国立研究所の研究グループは、技術的には実現可能との見解を示した。アプリ、どこが問題か?新型コロナウイルス感染症の感染者との濃厚接触の可能性を調べるために中国政府が提供しているアプリは、人々に誤った安心感を与えるうえに、市民の分断を招く可能性がある。自律型の乗り物やドローン、量子コンピューティングについて。「深層学習の父」も注目のAIピッキングロボ、倉庫作業員を置き換え米国のスタートアップ企業が、強化学習の手法を用いて、かつてない正確さで商品を判別して移動させるロボットアームを開発し、すでにドイツの電子機器メーカーの倉庫などで実運用されていることが明らかになった。人工知能研究の著名人などから2700万ドルの資金を調達している注目企業だ。深層学習に基づく自然言語処理技術は最近、長足の進歩を遂げているが、人工知能(AI)は読んだ文をどれだけ本当に理解しているのだろうか?アレン人工知能研究所(AI2)の研究チームは、機械が文の意味をどれだけ理解しているのかを評価するための新たな大規模データセットを作成し、最先端の言語モデルでテストして人間の結果と比較した。Hao「説明可能なAI」はなぜ透明性を高めるだけではダメなのか?深層学習の人工知能(AI)システムがさまざまな分野で使われるようになるにつれ、ブラックボックス批判が高まっている。AIをただ「説明可能」にするだけでは不十分だ。世界を理解するための知識を獲得していただくためにあります。よって、あるいは口述記録の形態によっても、製品にしたり、公衆向けか個人用かに関わらず送信したり複製したりすることはできません。