大学と社会システム共同・寄付研究プラットフォーム機能IFIは、未来社会に関連する大学の知見を統合する国際ネットワーク・ハブおよび産官学民との協創のプラットフォームとしての役割を果たします。Scienceサステイナビリティ・サイエンス誌は、英語による国際学術誌として新たな学術分野「サステイナビリティ学」の発展のためのプラットフォームを提供しています。未来ビジョン研究センターは、現代世界の抱える課題の解決に取り組む中核的拠点となることを目指しています。クリティカルな場面において、意思決定支援として用いられはじめています。その時、人と機械の役割や責任はどのようになっているのでしょうか、またどのようであるべきなのでしょうか。技術はグローバルに展開をするため、現在、OECDなどの国際的なレベルでAIをどのようにガバナンスするかの議論を開始しています。日本も内閣府が「人間中心のAI社会原則」を発表しましたが、国際的な議論において日本の政府、産業、そして大学はどのような取り組みができるでしょうか。テイラー・レイノズル(MIT)をお招きして話題提供を行っていただいたのち、本学の教員も交えてAIガバナンスとセキュリティの課題と展望について議論します。―の可能性は、政策関係者と研究者の間で大きな注目を集めている。先進的な人工知能システムは壊滅的な被害や失敗をもたらす可能性が非常に高く、それを制御したり修正したりするには、国家や人類一般の力では不可能だとよく言われている。解決策としては、完全に自律的な兵器開発の一時停止と、その使用を先制的に禁止する国際的な取り決めがある。潜在的な将来の脅威について何をすべきかの議論は広範囲で重要である。地政学的にも深い意味を持つリスク―を覆い隠してしまうという問題がある。今回の話題提供の議論は、既存のAI主導の軍事的兵器(特に人間が意思決定に関与しつつもターゲットの設定支援をする自動化兵器)が、「われわれがどのように計画し、どのように行動し、自分たちを責任あるエージェントと見なすか」の認識を変えてしまうことで、現在、国際的に支持されている武力行使の際の寛容の原則を損なう恐れがあるという懸念に端を発している。戦争時に人工知能に依存することが、私たちが個人的にも集団的にも、抑制の責任をどのように理解し、実行するかにどのように影響するかを問う必要がある。メディアの世界では議論されていないが、重要である。テイラー・レイノルズ世界の経済システムは対照的だ。投資の減速などの数十億の人々の生活水準を脅かすような重大な経済リスクに直面している。同時に、機械学習やロボット工学のような分野における技術の飛躍的進歩は、高効率低コストに改善されたサービスを消費者に提供する。新たなセキュリティやプライバシーの問題も引き起こす。した対抗勢力の中で、政策立案者は最終的に、より多くの人々により良い経済成長と社会的利益をもたらしたいと考えている。このため、政策立案者は、すべての人々の経済成長を支え、社会福祉を向上させるために、コンピューティング技術の利点をどう社会として活用できるかという疑問を投げかける。先進国と開発途上国の両方の政策立案者は、新たな規制に機敏に対処するための十分な準備ができているだろうか。これらの新しいシステムを構築する際に、技術者は長期的な影響を十分に考慮できていると確信できるだろうか。どのように協力できるだろうか。Intelligence)アソシエート・フェロー。