公開Googleさん:GoogleはAI原則で戦争利用を回避したか?米軍が戦場で使うツールのAI開発に協力するなんてEvilだ、という内外からの批判を受け、GoogleのピチャイCEOがAI利用原則を発表しました。Googleは、これでEvilにならずに済むでしょうか。});Googleのスンダー・ピチャイCEOが6月7日にGoogleのAI事業についての原則(以下仮に「AI原則」)を発表しました。2016年のCEO就任以来、AIファーストと唱えているピチャイさん。「GoogleはAIのリーダーだから、AIを正しく扱わなくちゃいけない」ということで、なんだかアシモフのロボット三原則みたいなプリンシプル(行動規範とか、原則とかいう意味)を内外に示しました。アシモフの三原則みたいにすっきり分かりやすくないところが残念ですが、少なくとも「武器その他の関連技術」の領域にはAIを使わないとはっきり書かれています。Principles」よりピチャイさんがAI原則を発表した背景には、Googleが米国防総省とAI開発に関する契約を結んだことに対して社内で批判が高まったことがあります。請願書には3000人以上(4000人という報道もあります)が署名し、この契約に反対してGoogleを去った人もいます。Maven」と呼ぶ、画像/動画解析のためのAIアルゴリズム開発プロジェクトに協力しています。Mavenは、ドローンが(恐らく戦場で)撮影した膨大な量の画像/動画を学習データとして使い、画像/動画から目的のオブジェクトを自動抽出するアルゴリズムを構築するというもの。Cloudのダイアン・グリーンCEOは「この契約は、ドローンが撮影する動画と低解像度のオブジェクトをAIで解析するもので、目的は命を救うことだ」と説明していますが、使われるのが戦場である時点で反対派の人々にとってはアウトなのでした。「AmazonやMicrosoftも一緒(に契約に参加している)というのは言い訳にならない。Evilというモットーがあるのだから」と請願書には書いてあります。目的は命を救うことだ、というのは分からなくもないです。国防総省の説明文だけでは具体的にどう使うのか分かりませんが、たぶん、例えば攻撃目標設定の際、最も一般人に被害が及ばず、“効率的に”敵にダメージを与えられる地点を選んだり、戦闘機から地上を攻撃する際に、敵側の兵士と一般人を瞬時に識別できるようになったりするんじゃないかと思います。それはつまり、一般人の犠牲者を減らし、命を救うことにはなるでしょう。それは、マンハッタンプロジェクトのときの科学者たちの判断を思い起こさせます。Mavenの契約は2019年の契約更新段階で更新せずに終了するけれど、今後も政府機関にAI関連で協力することはやめないとしています。できれば紛争を話し合いで解決するためのAI開発に注力してほしいところ(既にやっているでしょうけれど)。話し合いのためのAIだって、使いようによっては平和のためではなく、米国に有利な結果を得るためのAIになる可能性はあり、それはそれでEvilです。どこまでいっても、危険はAI自体ではなく、それをどう利用するかという人間側にあることには変わりなさそうです。Evilのモットーを捨てた」と騒がれました。Evilのフレーズが最後の方に1回だけ出てくるものの、冒頭にあったこのフレーズについての説明の段落がなくなったことが挙げられていました。ConductGoogleさんは冒頭を変えた理由を、今のところ少なくとも対外的には説明していません。広告に関するお問い合わせメールマガジンSpecialインデックスRSSfacebooktwitter利用規約ITmediaはアイティメディア株式会社の登録商標です。