するカートに商品は入っていません。本誌掲載の論文をPDF形式でご購入いただけます。各論文にある「PDFをカートに入れる」をクリックすると、カートに商品が追加されます。データ・アンド・ソサエティ・インスティチュートで人工知能システムの社会的側面を研究している。データアナリティクスと人工知能。エシカル・リソルブのコンサルタントも務める。Staff/Pexelsテクノロジーの急速な発展は社会に恩恵をもたらすと同時に、規範の整備が追いつかずに大きな混乱を招いている。なかでも法律が未整備の分野で何がどこまで許されるのかという「倫理」の線引きについては、毎週のように激しい議論が繰り広げられているものの、明確な結論は先送りにされているのが現状だ。企業の倫理担当者(倫理オーナー)は、社外からはもっと厳格に対応すべきだと叱責され、社内からは必要以上の縛りを設けられたと批判されており、ジレンマを抱えている。テクノロジー業界の倫理問題が、毎週のようにニュースになっている。業界が努力をしていないわけではない。問題は、「倫理的にやる」ためのプラクティスと、「何が倫理的か」という認識の間に大きなギャップがあることだ。グーグルが「AI倫理委員会」をわずか1週間で解散することになった(超保守的なヘリテージ財団役員が委員に加えられたことに社内外から批判が集まったため)のも、国防総省の事業契約を断念することになった(技術系社員が組織的なボイコットなどで抗議した)のも、このギャップが関係している。したギャップは重要だ。そのおかげでテクノロジー業界は、アルゴリズム技術がどのような影響をもたらすかを調べ、追跡し、緩和することに、かなりの投資をするようになった。長年その必要性を訴えてきた学識者たちは、小さな勝利を祝福すべきかもしれない。彼らはテクノロジー業界の選択に、新たに激しい批判の声を上げている。それにはたいてい、もっともな理由がある。数年前は、「テクノロジー業界における倫理」とは何かについて、共通の理解が存在するかに見えた。ところがいま、「倫理」は強力なパワーを持つようになり、その定義とプラクティスを誰が決めるのかをめぐり、激しい議論が繰り広げられている。シリコンバレーでは、こうしたことすべてが何を意味するかは不透明である。倫理的な原則を、ビジネスのプラクティスや言語に変換しようとするときは、なおさらだ。テクノロジーの倫理は、力強いプロセスの一部にすぎないのか。テクノロジーの倫理を唱える人たちは、何を目指しているのか。すれば変化を起こせるというのか。その作業は、企業が価値を算出する際に使う既存のフレームワークで評価できるのか。「倫理」は企業の経費をどのくらい増やすのか。それは設立間もないスタートアップ、新規株式公開(IPO)準備中の企業、そして誰もが知っている有名企業によって異なるのか。した疑問を明らかにするために、私たちは共同研究者のデーナ・ボイドとともに、企業の倫理担当者(私たちは「倫理オーナー」と呼ぶ)を対象として、どのような仕事をしているのか聞いた。「オーナー」とは、フラットな企業構造において、ある領域に関して組織内の部署を超えた連携を図る責任者を意味する。倫理オーナーは、テクノロジー業界でも新しい肩書きと言えるだろう。聞き取り調査では、プロセスへの注目が集まるとともに、結果への懸念が高まったことで、倫理オーナーの任務が徐々に具体的な形になってきたことがわかった。彼らはまた、根本的に折り合いをつけることが不可能な、重要な緊張と向き合っていることもわかった。倫理問題は解決できるものではなく、倫理オーナーの仕事の一環としてナビゲートされ、交渉されるのだ。倫理オーナーが直面する最大の問題は、倫理問題に対処しろという社外からの圧力と、会社や業界の論理に応えなくてはならない圧力との間で、板挟みになることだ。社外からの批判は、会社の中核的なビジネスのやり方や優先順位のつけ方を見直すよう、彼らに圧力をかける。他方、シリコンバレー(と経済界全般)の論理では、倫理問題に対処しつつ、きちんと収益を確保できる予測可能なプロセスを構築しろという圧力がかかる。私たちは、この社内と社外のプレッシャーから生じる緊張には、3つの特徴的な論理があることに気がついた。play(ストアによっては販売開始のタイミングが異なるためお取り扱いがない場合もございます。「後で読む」から削除するしおりを挟むしおりを挟む位置をクリックしてください。クリックしてください。この記事は以前に読み進めています。前回読み進めたページまで移動しますか?移動する移動しない。