CO-CREATIONともに学び、ともに産業を創る。毎朝7時に公式LINE@で新着記事を配信しています。Youtubeチャネルの登録はこちらから!「AIやデータの活用が企業経営を変える(シーズン2)」9回シリーズ(その5)のテーマは、AIが“ブラックボックス化”してしまっている問題。そのAIが下した意思決定に従うことの是非についてです。人間の脳に潜む未解明の能力にも迫ります。ご覧ください!▶ICCパートナーズではコンテンツ編集チームメンバー(インターン)の募集をしております。興味がございましたら採用ページをご覧ください。ICCサミットは「ともに学び、ともに産業を創る。毎回200名以上が登壇し、総勢800名以上が参加する。参加者同士が朝から晩まで真剣に議論し、学び合うためのエクストリーム・カンファレンスです。福岡市での開催を予定しております。参加登録は公式ページのアップデートをお待ちください。この1つ前のセッション「AI時代到来!働き方や経営はどう変わるのか?」でお話を伺っていても、やはりIBMさん、さすがだなと思いました。透明性とか説明性のような観点をとても気にされているのだと思い、すごく感動したのですが、同じセッションで佐藤さんがお話しされていたAI人事の例も、非常に説明力がありますよね。そこで、あえて僕の方から若干ひねくれた投げかけをさせてください。AIやビッグデータの議論において、因果関係と相関関係が結構混同されている傾向が、世の中にあるように感じています。いいのは、因果関係まで説明できることだと思っています。いろいろな人事のデータを機械学習させて、出てきた結果を経営陣がよくよく見ると、「ああ、こういうことなのか」と思えたり、「やはりこの変数が効いているんだ」ということが理解できれば、企業経営者にとっても納得性があります。「何かよく分からないけど相関性がある」というケースもあります。先ほどのセッションでも、バーや飲み屋が流行るとパンデミックの確率が上がる、みたいな話がありましたが、あれは普通に考えると因果関係はよく分からないけれど、統計的に見るとどうも何らかの相関があるらしい、という状況ですよね。いった場合、経営者はどう行動したらよいのでしょうか?もっとひねくれた投げかけをすれば、僕は、因果関係をほとんど説明できなくても、明確な相関があるのであれば、それに従って意思決定して、行動した方がいいと思っている派です。言うと、AIはブラックボックスでも構わないと思っている派です。言うと、しばらくは大丈夫だと思いますけど、ある程度時間が経ったらどうせ説明できなくなるから、と考えているからです。これは、共相関性とかもあるので、気を付けなあかんな、という話です。北川さんの専門(※北川さんは理論物理学者)ですよね。簡単に言えば、Aという現象があって、AからB、AからCという現象が(別々に)起こった場合、BとCは強烈に相関するわけですね。経営者がBをやっても、Cは起こりません。この理由によって共相関というのは非常に起こりやすいので、因果関係が全く読めないものをやると経営判断を間違える可能性が高まると思います。直観的に何となく、「いやこれは何かあるだろうな」と思っているところに相関があった場合はやっても構わないと思いますけど、先ほど申し上げた理由によって、強烈な相関があるだけで何かをやるというのは結構危ないです。変な投げかけですが、僕がAIのブラックボックス化の説明をするときに出す例があります。AIをはじめとした先進的な技術というのは、やはり軍事や金融の分野で最初に使われることが少なくありません。クライアントがいることもあって、これらの業界について調べたりしているのですけど、ジョージ・ソロスという伝説のヘッジファンド・マネージャーがいます。online)もうおじいさんですが、ものすごい相場師というかトレーダーな一方で、普段は部下に取引を丸投げしているらしいのです。部下といっても、相当の腕利きを投資銀行などから引き抜いてくるので、めちゃくちゃ優秀です。普段はそんな感じで部下に任せているのですが、ある日ソロスが「今日は朝から背中がひどく痛い」と言いました。昨日の夜からおかしいと思っていたんだけど、朝から背中の痛みがひどくなったので今日はもうポジションを全部閉じてくれ(※)、と言ってきたらしいのです。▶編集注:「ポジションを閉じる」とは、保有株をすべて売却し、一時的に相場を離れること。「背中が痛いから今持っているポジションを、損でも何でもいいから全部切れ」というのには、因果関係はないですよね。それ、直観の話と相関関係をごちゃ混ぜにしている気がします。いや、ソロスの中では何かの相関があるんだと思うんですよ。百戦錬磨の経験を持つソロスの頭のブラックボックスの中では何らかの相関があって「切れ」と言っていると。その話には続きがあって、その後に確かに相場が暴落しているんですよ。正しい判断だったという話なんですね。上司に「背中が痛いからポジションを閉じろ」と言われたら、自分だったらどうするかな、会社辞めるかな、なんて一瞬考えたことがあります。それは結局、人間が考えていることをどこまで言語化できるかという中で、言語化できていない脳の働きの部分を、意思決定のレバーにどれくらい実際に出力できるかということなのだろうなというふうに、今聞いていて思いました。おっしゃる通り、そういうことなんだと思います。それは、上手く間の仕組みが整うと、むしろ今よりもよくなるのではないでしょうか。言語化が要らなくなる、ということです。実際に言語にする前に、人が正しいとか正しくないとか、GoとかNoGoと感じることを「直感」と言いますが、直観のプロセスはもう少し分解していけるのではないかと思います。どの部分の働きで直観が生まれているのか、その間の部分の意思決定、実際にこれをやるかやらないかとか、どういうふうにするかとか、言語化の手前の部分のプロセスを何らか解析して自動化できれば、結局答えを出しているのは人間です。説明できないのだけれども、説明できない部分を「いや、いいからやれ」と言っても人は動かない。実際にそれを人間の代わりに何らかの言語にしてくれるファンクションみたいなものは、今のジョージ・ソロスの事例でいうと、何か間で作れるのではないですかね。今ちょうど台風が来ていますよね。昔は人工衛星などなかったので、台風が来るかどうかなんて分かりませんでしたが、何かちょっと関節が痛むな、これは雨が降るぞ、みたいな予測は昔からありました。何をやっているかというと、気圧の変化を感じ取っているわけですよね。要は、気圧が下がると熱帯性低気圧が来ているということをいち早くかぎ取っているんです。虫の声とかもあります。気圧の変化などを、五感を使ってあらゆる感覚器官を使ってかぎ取り、ニューラルネットワークの中で、複数の感覚器官から得られた情報が統合されて、何か学習プロセスが走っているのだけれども、すべてが言語野(※)を通るわけではありません。▶編集注:ヒトの脳の領域の一部で、言語処理全般に関わる部分。言語的なもの抜きに、瞬間的に反応できるように動物というのは進化しているわけですよ。人間が言語を獲得したのが、そもそもこの数万年のことなので。進化の中では最近の話ですね。いう極めて多様な能力を獲得しているから、僕たちは死なないわけですよね。それはたとえば相場でも同じで、基本的には、ジョージ・ソロスがいったい何のシグナルを得ているのかは分からないし、多分本人にも分からないんですよ。悪寒がするとか、何か変だ、というような体調の変化が起きると、それによってある種、逃走本能みたいなものが働くわけです。それは生物というものが40億年間、捕食者から食べられないために身に着けてきた能力です。人間というのは今でこそ食べる側の存在ですけれども、生態系の頂点ではない時代の方が長かったのです。食べられないように「逃げる」ことに対してものすごく多くの時間を使ってきました。そのようにして鍛えられてきた人間の動物としての能力というのは、極めて高いわけですよ。複数の感覚器官には、相場のいろいろな情報やシグナルなども入ってきます。ソロスは、相場の世界でたくさん失敗もしているはずですから、鍛えられています。言語化されていない、ロジックにはならないものによってニューラルネットワークが学習します。ディープラーニングなんかも基本的に、動物が進化の過程で獲得した能力の一部が極端な方向で使えるようになっているわけです。そのファンクションだけは極めて優秀なんですね。人間や動物が持っている他のニューラルネットワークの能力というのはまだ解明されていません。視覚野などに関しては、動物が人間を遥かにテークオーバーしているのだけど、人間にはそれ以外の能力がいろいろあるのと、複数の感覚器官を統合した時に何が起こるのかなど、まだ分からないことがたくさんあります。今の話だと、いわゆる言語以外の部分をどう活用していくか、経営の実務に言葉以外の部分を使えるのかというところですね。それは、人間の知性や知能をパフォーマンスに変えていく間の部分だと思っていて、言葉によってやはりかなりロスされているというか、ディスカウントされています。マネジメントでいうと、尖りがなくなるということです。よって中和された、尖りのない意思決定に繋がっていって、「まあまあ」のパフォーマンスに落ち着くというようなことが、実際によくあると思うんですよね。いうものをそぎ落として、新しいタイプの意思決定プロセスができないだろうかと思っています。正しいということが皆から信任されれば、より動物的な本能に従ってもいいのではないでしょうか。直観に基づく判断であっても、後から結果を検証しても正しいという判断がたくさんなされるような、そういう世界感になった方がいいかなと個人的に思っています。脳のプロセスのもっと深い部分の解明を進めて、今日はAIとビックデータそして経営という話ですが、それをもっと実際の経営に活かすにするにはどうすればいいんだろう、という投げかけをぜひしたいですね。佐藤さんがそうおっしゃってる理由は、結局言語化しなければ人が説得できない、人が説得できないとエグゼキューションに繋がらないということですね。歴史的には一緒に飲んだり、一緒に運動をしたり、グループワークを一緒にやることによって身体的な信頼を得るというのも1つのやり方でしたよね。従来の方法はそうですよね。いいやり方があるのではないか、みたいな話ですね。皆で運動会というのは、規模が10倍になってもできるかというと難しくて、やはり物理的限界があります。AIやデータがベースになってくると、これは若干突飛な考え方でもあるんですけど、物理的限界を超えることができる。実際にAIを人事のダッシュボードに使ってみて分かったのですが、会社が10倍になっても100倍になっても、このシステムでできるなと思えたんですよ。精度が上がるかもしれませんね。いうことは、1人のトップがマネジメントできる人数が指数関数的に増えているはずなのです。今までは、100人の会社を経営するのと、1万人の会社を経営するのだと、結構な違いがありました。いわゆる大企業的な技が使えないと1万人規模の会社の経営はできないというのが従来のノンデータのときの行動様式でした。データありきの経営になってくると、1万人、10万人を正しく導くことが、100人規模の会社と同じようにできるようになります。尖ったトップが1万人の社員を率いるための土台というか、ダッシュボードが、従来よりもデータ基盤が整って洗練されてきているからです。何を言いたいかというと、運動会なしでも従来のフィジカルな繋がりがなくとも、非言語による繋がりなどで、信頼関係を醸成し、人をドライブさせていくことができるようになります。人を動かしていくというのは、まさに経営の本質ですよね。フィジカルな繋がりなしで、人を動かす意思決定をし、エグゼキューションして人を動かしていくことができるのではないかと僕は思っています。資本も10倍、社員も10倍、データも10倍。毎朝7時に公式LINE@で新着記事を配信しています。他にも多く記事がございますので、TOPページからぜひご覧ください。更新情報はFacebookページのフォローをお願い致します。資本も10倍、社員も10倍、データも10倍。サミット/ICCサミット」の企画・運営および新規事業創出・アライアンスなどのアドバイザー業務を行っています。サミット」の企画・運営および新規事業創出・アライアンスなどのアドバイザー業務を行っています。ICCサミットでは業界トレンドやマネジメントに関する質の高い意見交換をする場を提供しています。ICCサミットで議論された内容を記事として配信するメディア運営も行っております。