2017/02/14山本一郎さんがFBでシェアしたこちらの記事を拝見しました。Yahoo!ニュースこの記事を拝見して、自分が以前に書いた記事を思い出しました。アルゴリズムのミスが原因で子供が死んだら、ヒューマンエラーのせいで死ぬよりも一層耐え難い。:平凡でもフルーツでもなく、、、:オルタナティブ・ブログこちらのエントリ、当時読んでいたダニエル・カーネマンのファスト&スローに登場するネタを紹介したものですが、いまの時代にぴったりなネタだと思うので再掲しておきます。-証拠の理論分析の評価」を紹介しています。この本は、20種類の調査結果に基づいて、訓練を積んだ専門家の主観的な印象に基づく臨床的予測と、ルールに基づく数項目の評価・数値化による統計的予測とを比較し、どちらがすぐれている分析しているものです。この章でカーネマンはアルゴリズムに対する敵意として、臨床心理学者の敵意と不信に満ちた反応を紹介しています。人間と機械が勝負するときには、ジョン・ヘンリーからガルリ・カスパロフにいたるまで、私たちはいつだって心情的に人間の見方なのだと指摘し、人間に関わる決定を下すアルゴリズムに嫌悪感を抱くのは、多くの人が人工物や合成物よりも自然のものを好むからだとしています。機械やアルゴリズムの進化は今後ますます進むことでしょう。この進化により人間よりミスの少ないアルゴリズムが利用可能であるなら、重要な決定を人間の直感に頼るのはリスクであるとも考えられます。自分の子供の診断を機械に任せ、その機械的で杓子定規な判断のミスが原因で子供が死んだら、ヒューマンエラーのせいで死ぬよりも耐え難いのではないでしょうか、これについてカーネマンは「この感情的な痛手のちがいが、人間による判断を好むことにつながっている。あなたは人間のミスと、機械のミスを同等に受け入れる自信はありますか?機械がどんどん進化する未来を肯定的に捉えるのも自由だし、否定的にとらえるのも自由です。最近ちょっと違和感を感じるのは、人工知能が病気を診断、いかにも病気を治してくれるかのような記事を見かけたときに感じる違和感があります。病気の早期発見が重要ではないと言いたいのではありません。診断結果によらず、生きているのは自分であり、最終的に病から回復するには自分の意志と治癒力があってこそとか、自分はどうするいう部分が抜け落ちるとまずいのでは?と思うのです。このような観点から、山本さんのこちらの指摘であったり、途中紹介したカーネマンの指摘にも考えべきところは多いと思います。AIが状況判断を間違えて人を怪我させてしまったときの責任はどこにいくのか、と考えたときに、ケセラセラでとりあえず動けばβで良いやと思っていたICT業界の文脈だけではなかなかむつかしいのでしょう。スケールが大きいから、マネタイズされているからと言って、保険をかけ何かあったら賠償でいいや、というわけにもいかないでしょう。康彦1965年生まれ。青森からバンド活動を夢見て18歳で上京、20代前半からセッションギタリストとして仕事を得て、ドリカムのライブ、レコーディングに参加し、300万枚のセールスを記録したアルバムへの参加など貴重な経験を積む。フリーランスで10年ほど活動、30代で音楽とウェブの制作会社を起業。友人からの誘いでITmediaのオルタナティブブログでブログ生活をスタート。ひょんな事からBLOGOSにも転載されることに。思うところあり、47歳で大学に編入し、そのまま大学院に進んで経営管理のMBAを取得したのが52歳。60歳までにもう一段進歩できないものかと、いろいろ試行錯誤中。疑問の声を紹介する朝日新聞。次に来るのはSpiTech(仮)だろうオルタナティブ・ブログは、専門スタッフにより、企画・構成されています。入力頂いた内容は、アイティメディアの他、オルタナティブ・ブログ、及び本記事執筆会社に提供されます。利用規約プライバシーポリシーお問い合わせアイティメディアからのお知らせプレスリリースメールサービスRSSTwitterITmediaはアイティメディア株式会社の登録商標です。