シンプルな暮らし、自分の頭で考える力。知の楽しみにあふれたWebマガジン。新潮社シンプルな暮らし、自分の頭で考える力。初老の男は、うなだれて座っていたが、上目遣いでぼんやりとわれわれを見つめていた。その顔は、ただただ白く、能面のような表情で、しかし、その充血した目からは、内に渦巻く怒りの大きさが推し量られた。われわれはその場で凍りついた。時間にすれば、ほんの10秒程度だったのだろう。緊張感に、私には、まるで永遠の時が流れているかのように感じられた。男はふぅーっと息を吸い込むと、ゆらりと立ち上がり、われわれ一人一人の顔を順に確認していった。ここにいたり、たまらず、私の隣に立っていたS課長が口を開いた。「この度は、わ、私どもの落ち度により、I社様に多大なご迷惑をおかけし、本当に申し訳ございませんでした!」その言葉を合図に、われわれ3名が直立不動の姿勢で90度のお辞儀をした。私はリノリウムの床にこびりついた汚れを眺めながら思い返していた。調査会社Mを通じて広告代理店I社に納入した広告視聴率予測プログラム。半年の間、なんの問題もなく運用され、I社もクライアントにその効用を宣伝し、すべては順調であるかに見えた。ところが、3日前、クライアントからI社の担当者の元に「先月の数字がおかしいのではないか」という苦情が舞い込んだ。視聴率の予測数値が、テレビ放映後のビデオリサーチ社による実測値と乖離しており、無駄な宣伝広告費を使ってしまったという。2日かけて調べたところ、どうやら、調査会社MのK係長がビデオリサーチ社の「過去データ」を入力する際にミスを犯したらしいことが判明した。私のプログラムは、過去データを元に、次の月の視聴率を計算し、広告出稿を最適化するアルゴリズムだった。当然のことながら、過去データをきちんと入力しないとうまく予測できない。今となっては、なぜ、几帳面で仕事熱心なK係長がそのような入力ミスをしでかしたのかはわからないが、他の仕事が重なったか何かで、充分にチェックできなかったのかもしれない。当時のシステムには、大量の手入力という信じられない状況があり、それは頭の痛い問題であった。データが紙媒体でしか供給されていなければ、それをOCRで読み取る方法もあるが、(当時の読み取り精度では)読み取りミスが頻発する。人間が入力した方が、むしろ安全だったのだ。本来なら、別人が同じようにデータを入力してみて、計算結果が同じになるかどうかまでをチェックすべきだったが、人手が足りなかった。そのため事実上、K係長がひとりでダブルチェックしてから、広告代理店I社へ集計表を送る手順になっていた。調査会社Mの内部では、こんな会話が交わされていたにちがいない。S課長「Kくん、今回は、単なる入力ミスではすまないんだ」K係長「......」S課長「数値は再確認したのかね」K係長「はい、......いいえ、すみませんでした」S課長「とりあえず始末書を書いてくれ。減給処分くらいですめばいいんだが」K係長「本当に申し訳ありませんでした......」この一件はその後、不信感を抱いたクライアントをI社が競合他社に奪われるという最悪の展開となった。われわれが謝罪に訪れたとき、I社の担当者が顔面蒼白だったのには充分な理由があったのだ。M社は調査会社としての信頼を失い、納入先のI社は大事な顧客を失い、K係長には重い内部処分が下された。元のプログラムを書いた私にはお咎めはなかったが、心の中では、大いに反省していた。「おかしな数字」が入力されたり、おかしな予測値が出たときに、人間側に注意を促す仕組みがあってもよかったのではないか。コンピュータは、ほとんど計算ミスをしないが、人間は元々ミスをする生き物だ。「異常値が出ています。一度、入力データをチェックしてください」という表示をK係長がパソコンの画面で見ていれば、大きな損害は防げたのではあるまいか。テレビ番組の視聴率というものは、競合するテレビ局の特番によっても大幅に変わるし、当時は、プロ野球の巨人の放送があるかないかでも変わっていた。それなりに変動が大きい上、そもそも視聴率データには4%程度の誤差がある。人間に注意喚起するシステムは開発できずに終わった。この連載の初め頃、数字の入力ミスによる証券の大量誤発注(2005)を採り上げたが、それよりも10年も前に、おそらく入力ミスによるビジネスの損失は多発しており、K係長の事件も、その一つにすぎなかったのだと思う。AIと人間が同じ職場で一緒に仕事をするような社会が到来したとき、K係長が陥ったような「悲劇」が、新たな形で多発するのではないか、と私は心配している。仕事上のトラブルが生じた場合、仮にAI側に問題があったとしても、AIを管理している技術担当者にすら問題点が理解できない時代が到来するだろう。AIが出した答えの理由を人間が推測できなくなる「シンギュラリティ」である。K係長がほぼ一人で責任を取らされたのと同様、未来社会においては、AIは責任を取らず、そのAIと直接関わっている人間の担当者が詰め腹を切らされるような事態は容易に想像できる。現在のコンピュータと人間の接し方が、さらに複雑化することが予想される。今のうちからAIの特性をしっかりと理解し、うまく付き合うことができるように準備をしておく必要があるだろう。卒業、カナダ・マギル大で物理を専攻、理学博士に。『99・9%は仮説』、『文系のための理数センス養成講座』など著書多数。NHK『サイエンスZERO』ナビゲーター。[...]つづきを読むメルマガ登録する「考える人」から生まれた本もっとみるテーマとは何かについて考え、それが「わかる」とはどういうことでしょうか。「わかる」のが当然だった時代は終わり、平成も終わり、現在は「わからない」が当然な時代です。わからないことを前提として、自分なりの考え方を模索するしかありません。わかるとは、いわば自分の外側にあるものを、自分の尺度に照らして新しく再構成していくこと。thinking"(シンプルな暮らし、自分の頭で考える力)*を編集理念に、Webメディア「考える人」は、わかりたい読者に向けて、知の楽しみにあふれたコンテンツをお届けします。*産業革命後に急速な都市化が進むロンドンで、イギリスの詩人ワーズワースが書き遺した言葉。卒業、カナダ・マギル大で物理を専攻、理学博士に。『99・9%は仮説』、『文系のための理数センス養成講座』など著書多数。NHK『サイエンスZERO』ナビゲーター。「考える人」から生まれた本メールマガジンイベント編集部からのおしらせ。