19:00学校の授業時間再編を巡る騒動から得た、人工知能にまつわる重要な視点:伊藤穰一ボストン公立学校の授業時間がアルゴリズムに基づいて変更され、不満を覚えた一部の保護者が強く反発する出来事があった。始業や終業の時刻、スクールバスの運行スケジュールを学年に応じて最適化し、所得の影響を考慮し、さらに運営コストの削減まで盛り込んだアルゴリズムは最適解を導いたはずだったが──。マサチューセッツ工科大学(MIT)のメディアラボ所長・伊藤穰一による『WIRED』US版への寄稿。IMAGES[編註:記事は英語による『WIRED』US版への寄稿の日本語訳]1年以上前の話になるが、2017年12月にボストン公立学校(BPS)の各学校の授業時間が変更され、保護者が強く反発する出来事があった。始業時刻や終業時刻が変わったことでスクールバスの運行スケジュールも改定されており、新しいスケジュールがあまりに非合理的だというので不満が噴出したのだ。新しい授業時間はコンピュータープログラムを使って作成されており、そのアルゴリズムを開発したのはマサチューセッツ工科大学(MIT)の研究チームだった。Program」の責任者を務めるケイド・クロックフォードからメールが届いた。政治家たちに対し、市民生活に影響を与えるような政策の決定にアルゴリズムを使うことには慎重になるよう呼びかける論説に、共同で署名を入れてほしいというのだ。ケイドはMITメディアラボのフェローで、わたしの同僚でもある。彼女はデジタル世界における自由について考えるうえで重要なトピックを追いかけており、注目すべき話題があれば知らせてくれるのだ。当時は問題のアルゴリズムを設計したMITの研究者たちのことは、個人的には何も知らなかった。「行政プロセスに欠陥」と指摘したが...ケイドが書いた論説の下書きにわたしが何点か修正を入れたあと、この論説は『ボストン・グローブ』紙に送られた。この論説は2017年12月22日付の紙面に掲載されている。タイトルは「学校の要求に従ったからといって、アルゴリズムを非難することはできない」だ。わたしたちはここで学校の新しいスケジュールを検証した上で、問題はアルゴリズムそのものではなく、さまざまな意見を組み上げてシステム変更の影響を判断するという行政プロセスに欠陥があったのではないかと指摘した。この論説が掲載されたちょうどその日、BPSは新しいスケジュールの導入を見合わせる方針を明らかにし、ケイドとわたしはハイタッチで喜びを分かち合った。この時点では、反対運動を起こした保護者もわたしたちも、そのとき手に入る情報に基づいて正しいと思ったことを実行に移したに過ぎない。それからしばらくして、この問題を別の角度から考えさせられる出来事があった。これから書くことは、公共のルールづくりにおいてテクノロジーをどのように利用すべきか、またこうしたルールの影響を受ける人々からのインプットを政策づくりにどのように反映していくべきかについて、重要な視点を与えてくれると思う。現在は民主主義にとって暗澹たる時代であると同時に、人間がテクノロジーを制御しきれなくなるのではないかという不安が増している。した状況にあって、わたしの体験した一連の出来事から、どうすればアルゴリズムを適切に活用できるのかという問題について、より深い理解を得られるはずだ。「デモクラシー2.0」というものを考える上でも役に立つかもしれない。冒頭の事件から数カ月後、今度はMITのオペレーションズ・リサーチ・センターで博士課程に在籍するアーサー・デラルーとセバスティアン・マーティンから連絡をもらった。彼らは新しい授業時間を組み上げたアルゴリズムを開発したチームの一員で、ボストン・グローブの論説を読んだという。電子メールには丁寧な口調で、わたしが「事態の全容をつかめていないのではないか」と書かれていた。ケイドとわたしは、アーサーとセバスティアンに会うことにした。この面会には、彼らのアドヴァイザーでMIT教授のディミトリス・ベルツィマスも参加してくれた。彼らはまず、わたしたちに変更に反対する保護者による抗議運動の写真を見せた。そこに写っていたのはほぼすべてが白人だったが、学区内の子どもたちの多くは非白人で、白人家庭は全体の15パーセントにすぎない。明らかに何かがおかしかった。アーサーとセバスティアンの研究チームは、時間割を変更した場合の影響を割り出して評価するアルゴリズムも開発した。なかでも重要だったのが、登下校に使われるスクールバスに関するアセスメントで、BPSは運行スケジュールの最適化だけでなく、コストの削減も求めていた。Challenge」と題したコンペティションが行われ、MITのチームがつくり出したアルゴリズムが選ばれたという経緯がある。BPSはかなり前から授業時間の調整に取り組んでいたが、コストを抑えたままでバスのスケジュールを最適化するのは至難の業で、最終的には外部の力を借りることにしたのだ。すべての問題を解決し、コストを上げないという難題MITのチームのアルゴリズムは、必要な要素をすべて盛り込んだ上で、バランスを保った解決策を見つけ出すことに成功した。これまでは複雑なバスシステムの運用コストを算出するのはほぼ不可能で、それが授業時間の変更を検討する際の障害になっていたという。チームはコンペの終了後、BPSと共同でアルゴリズムの改良に取り組んだ。行政が主催した住民参画のための説明会などにも加わって保護者らの要望を聞き、さらなる最適化を進めていった。チームはこの過程で、アルゴリズムに各家庭の資産状況という要素を付け加えることにした。既存の授業時間体系は、主に低所得世帯に対して著しく不公平だということが明らかになったためだった。高校生は始業時間が早すぎると睡眠にマイナスの影響が出るという調査結果があったので、この点も考慮した。発達障害などを対象とした特別支援プログラムも最適化の優先事項に加えたほか、低学年の児童たちの下校時刻が遅くなりすぎないように注意が払われた。アルゴリズムは、これらすべての問題をコストを上げないようにしながら解決するよう命じられた。それどころか、できれば予算を削減したいという期待までかけられたのだ。事前調査からは、学区内のどの学校でも変更そのものに反対している層が一定数いることがわかっていた。一部の学校では多数派の声をくんで、終業時刻を午後1時半に設定するといった特殊な条件を設定することも可能だったが、そんなことをすれば少数ではあっても強い反発が出ることは必至だった。アルゴリズムが導き出した解決策には、始業時刻が朝8時より遅い高校の数を大幅に増やす、終業時刻が午後4時以降になる小学校の数を減らすといった変更が含まれていた。最終的に出来上がった案は、大多数の人にとって既存のシステムよりかなり優れたものになっていた。不満を表明する保護者がいることは予想された。アーサーもセバスティアンも、あれほどまでに激しい抗議運動が起こるとは考えていなかったという。大きな論点のひとつが、最適化の条件に各家庭の「資産」を組み込んだ結果として、アルゴリズムの出した答えには裕福な世帯に対する「バイアス」がかかっていたという点だ。コンピューターが決定を下したという事実も人々を動揺させたのではないかと、わたしは思っている。新しい授業時間を受け入れた保護者は、その決定プロセスにまで注意を払うことはなかったが、不満を抱いた人々は変更中止を求めて市庁舎に押し寄せた。そのニュースを知ったケイドとわたしは、当時は反対派への支持を表明して、アルゴリズムの提案の「問題点」を訴えたのだ。行政側は反対運動に押され、変更を断念すると決めた。ボストンのスクールバス改革は頓挫し、BPSとMITのチームの努力も水泡に帰したわけだ。白人を中心とした裕福な世帯で構成される反対派の保護者たちが、低所得層の家庭を助けるために自分たちにとって有利な既存の時間割の廃止に賛成するかどうかはわからない。高校生の睡眠、低学年の児童たちの下校時刻、特別なケアが必要な子どもたちを優先する、運用コストの削減、所得による不公平が生じないようにするといったアルゴリズムに組み込まれた諸条件は、どれもごく普通に納得できるものだ。最適化はこうした条件に基づいて行なわれたということを理解すれば、たいていの人は新しいシステムが現行のものより優れているという意見に賛成するのではないかだろうか。問題は、大局的な視点から個人という立ち位置に移ると、人々は急に身構えて文句を言い始めるという点だ。Groupが実施したある研究を思い出した。グリーンは自動運転システムについて、社会の大半が事故の際に多数の歩行者を救うにはクルマの搭乗者を犠牲にするといった人工知能(AI)の合理的な判断を支持する一方で、自分はそんなクルマは買わないと考えているという矛盾を指摘したのだ。テクノロジーはどんどん複雑になっているが、そのおかげで、わたしたちが社会をつくり変えていく能力も強化されつつある。同時に、合意形成やガヴァナンスといったものの力学が変化していることも確かだろう。社会の均衡を保つためには妥協も必要だという考え方は、なにも目新しいものではない。民主主義を機能させていく上で基礎となる理念だ。決定過程のブラックボックス化という問題MITの研究者たちは、アルゴリズムの開発過程で保護者らと話し合う機会があったが、保護者たちは授業時間の最適化において考慮された要素をすべて理解しているわけではなかったという。時間割を改良するために必要となるトレードオフは明確には示されておらず、また変更の結果としてもたらされる利点も、それぞれの家庭が受ける影響と比べれば曖昧なものに見えた。保護者たちの抗議運動がニュースで報じられたときには、個々の変更がなされた理由や、そもそもなぜ時間割を刷新するのかという俯瞰的な視点は失われてしまっていたのだ。一方で、今回の事例で難しかったのは、アルゴリズムの決定過程のブラックボックス化という問題だ。これに関しては、スタンフォード大学の熟議民主主義センターが討論型世論調査(DP)という手法を紹介している。これは民主主義を採用したガヴァナンスにおける意思決定の方法のひとつだ。具体的には、政策立案の過程で影響を受けるグループの代表者に集まってもらい、数日間にわたって討議を行う。その政策の目的を評価し、必要な情報を全員で検討することで、利害対立のある人々の間で合意形成を目指すのだ。BPSの場合、保護者たちがアルゴリズムによる最適化における優先事項を十分に検討し把握していたなら、自分たちの要望がどのように反映されたかをより簡単に理解することができただろう。人間の協力の重要性アルゴリズムを開発した研究者たちとのミーティングのあと、ケイドがデヴィッド・シャーフェンバーグというジャーナリストを紹介してくれた。シャーフェンバーグはボストン・グローブの記者で、BPSの授業時間変更についての調査記事を書いたという。この記事には、読者がMITのチームのアルゴリズムを理解できるようにシミュレーターが組み込まれており、コストや保護者の要望、子どもたちの健康といった要素があるなかで、どれかを重視すればほかのものは犠牲にせざるを得ないという難しい状況がよくわかるようになっている。テクノロジーを利用して学校運営の改革を実施しようとしたBPSの試みは、こうしたツールによってバイアスや不公平を増幅させないためにはどうすべきかを理解する上で、貴重な授業となった。アルゴリズムを使えば、システムを公平かつ合理的なものに改良することができる。それには人間の側の協力も必要なのだ。ITO1966年生まれ。起業家、ヴェンチャーキャピタリスト。『WIRED』US版アイデアズ・コントリビューターも務める。2011年よりマサチューセッツ工科大学(MIT)メディアラボ所長。してのテクノロジー』〈NHK出版〉など。「ユニヴァーサル・ベーシックインカム」のパラドックスAIは未来を予測しない。NewPROMOTION七大陸最高峰を最年少制覇した南谷真鈴、「クルマで移動する自由」を体感する。PROMOTION足にも地球にも優しい「ジ・オニツカ」という“革新”PROMOTIONこれまでにない「新しい材料」を生み出す。それがよりよい社会をつくるから。ARの可能性PROMOTIONテクノロジーが拡張するスポーツとアートの可能性:東京2020は世界の若者の希望となるかPROMOTIONあまねく人に社会復帰の機会を。そのために、わたしは農業を続ける。──小島希世子PROMOTION謙虚に耳を澄ませば、建築はやがて「未来の記憶」になる。