「AIによる意思決定」と「人間の直感」は似ている? ブラックボックス化されたAIを人間はどこまで信じてよいのか | 【ICC】INDUSTRY CO-CREATION

5.「AIによる意思決定」と「人間の直感」は似ている? ブラックボックス化されたAIを人間はどこまで信じてよいのか

Pocket

平日 毎朝7時に公式LINE@で新着記事を配信しています。友達申請はこちらから!
ICCの動画コンテンツも充実! Youtubeチャネルの登録はこちらから!

「AIやデータの活用が企業経営を変える(シーズン2)」9回シリーズ(その5)のテーマは、AIが“ブラックボックス化”してしまっている問題。そしてそのAIが下した意思決定に従うことの是非についてです。人間の脳に潜む未解明の能力にも迫ります。ぜひご覧ください!

▶ICCパートナーズではコンテンツ編集チームメンバー(インターン)の募集をしております。もし興味がございましたら採用ページをご覧ください。

ICCサミットは「ともに学び、ともに産業を創る。」ための場です。毎回200名以上が登壇し、総勢800名以上が参加する。そして参加者同士が朝から晩まで真剣に議論し、学び合うためのエクストリーム・カンファレンスです。次回 ICCサミット FUKUOKA 2020は、2020年2月17日〜20日 福岡市での開催を予定しております。参加登録は公式ページのアップデートをお待ちください。

本セッションは、ICCサミット KYOTO 2018 プレミアム・スポンサーの日本アイ・ビー・エム様にサポート頂きました。


【登壇者情報】
2018年9月4〜6日開催
ICCサミット KYOTO 2018
Session 4D
AIやデータの活用が企業経営を変える(シーズン2)
Sponsored by 日本アイ・ビー・エム

(スピーカー)
荒川 朋美
日本アイ・ビー・エム株式会社
取締役 執行役員 カスタマーサクセス事業担当

北川 拓也
楽天株式会社
執行役員 CDO グローバルデータ統括部ディレクター

佐藤 光紀
株式会社セプテーニ・ホールディングス
代表取締役 グループ社長執行役員

鈴木 健
スマートニュース株式会社
代表取締役会長兼社長 CEO

(モデレーター)

山内 宏隆
株式会社HAiK
代表取締役社長

『AIやデータの活用が企業経営を変える(シーズン2)』の配信済み記事一覧


連載を最初から読みたい方はこちら

最初の記事
1.「身体を持たずして『知能』は生まれえない」“ルンバの父” R.ブルックス博士が語る人工知能論とは

1つ前の記事
4. IBMの人工知能「ワトソン」は、IBMの営業達成すらも予測する

本編

山内 この1つ前のセッション「AI時代到来!働き方や経営はどう変わるのか?」でお話を伺っていても、やはりIBMさん、さすがだなと思いました。

透明性とか説明性のような観点をとても気にされているのだと思い、すごく感動したのですが、同じセッションで佐藤さんがお話しされていたAI人事の例も、非常に説明力がありますよね。

そこで、あえて僕の方から若干ひねくれた投げかけをさせてください。

AIによる意思決定に「因果関係の理解」は必要か?

株式会社HAiK 代表取締役社長 山内 宏隆さん

山内 AIやビッグデータの議論において、因果関係と相関関係が結構混同されている傾向が、世の中にあるように感じています。

一番いいのは、因果関係まで説明できることだと思っています。

たとえば、いろいろな人事のデータを機械学習させて、出てきた結果を経営陣がよくよく見ると、「ああ、こういうことなのか」と思えたり、「やはりこの変数が効いているんだ」ということが理解できれば、企業経営者にとっても納得性があります。

でも、「何かよく分からないけど相関性がある」というケースもあります。

先ほどのセッションでも、バーや飲み屋が流行るとパンデミックの確率が上がる、みたいな話がありましたが、あれは普通に考えると因果関係はよく分からないけれど、統計的に見るとどうも何らかの相関があるらしい、という状況ですよね。

こういった場合、経営者はどう行動したらよいのでしょうか?

もっとひねくれた投げかけをすれば、僕は、因果関係をほとんど説明できなくても、明確な相関があるのであれば、それに従って意思決定して、行動した方がいいと思っている派です。

もっと言うと、AIはブラックボックスでも構わないと思っている派です。

なぜかと言うと、しばらくは大丈夫だと思いますけど、ある程度時間が経ったらどうせ説明できなくなるから、と考えているからです。

北川 これは、共相関性とかもあるので、気を付けなあかんな、という話です。

山内 北川さんの専門(※北川さんは理論物理学者)ですよね。

北川 簡単に言えば、Aという現象があって、AからB、AからCという現象が(別々に)起こった場合、BとCは強烈に相関するわけですね。

しかし、経営者がBをやっても、Cは起こりません。

山内 なるほど。

北川 この理由によって共相関というのは非常に起こりやすいので、因果関係が全く読めないものをやると経営判断を間違える可能性が高まると思います。

直観的に何となく、「いやこれは何かあるだろうな」と思っているところに相関があった場合はやっても構わないと思いますけど、先ほど申し上げた理由によって、強烈な相関があるだけで何かをやるというのは結構危ないです。

「AIの意思決定」と「人間の直感」は似ている?

山内 さらに変な投げかけですが、僕がAIのブラックボックス化の説明をするときに出す例があります。

AIをはじめとした先進的な技術というのは、やはり軍事や金融の分野で最初に使われることが少なくありません。

クライアントがいることもあって、これらの業界について調べたりしているのですけど、ジョージ・ソロスという伝説のヘッジファンド・マネージャーがいます。

ジョージ・ソロスはなぜ世界を支配する「スーパーハブ」になれたのか(ZUU online)

もうおじいさんですが、ものすごい相場師というかトレーダーな一方で、普段は部下に取引を丸投げしているらしいのです。

部下といっても、相当の腕利きを投資銀行などから引き抜いてくるので、めちゃくちゃ優秀です。

普段はそんな感じで部下に任せているのですが、ある日ソロスが「今日は朝から背中がひどく痛い」と言いました。

昨日の夜からおかしいと思っていたんだけど、朝から背中の痛みがひどくなったので今日はもうポジションを全部閉じてくれ(※)、と言ってきたらしいのです。

▶編集注:「ポジションを閉じる」とは、保有株をすべて売却し、一時的に相場を離れること。

「背中が痛いから今持っているポジションを、損でも何でもいいから全部切れ」というのには、因果関係はないですよね。

北川 それ、直観の話と相関関係をごちゃ混ぜにしている気がします。

山内 いや、ソロスの中では何かの相関があるんだと思うんですよ。

百戦錬磨の経験を持つソロスの頭のブラックボックスの中では何らかの相関があって「切れ」と言っていると。

しかも、その話には続きがあって、その後に確かに相場が暴落しているんですよ。

だから、正しい判断だったという話なんですね。

でももし上司に「背中が痛いからポジションを閉じろ」と言われたら、自分だったらどうするかな、会社辞めるかな、なんて一瞬考えたことがあります。

佐藤 それは結局、人間が考えていることをどこまで言語化できるかという中で、言語化できていない脳の働きの部分を、意思決定のレバーにどれくらい実際に出力できるかということなのだろうなというふうに、今聞いていて思いました。

山内 おっしゃる通り、そういうことなんだと思います。

佐藤 でもそれは、上手く間の仕組みが整うと、むしろ今よりもよくなるのではないでしょうか。

山内 間の仕組みが整うというのは、解析が進むということですか?

佐藤 言語化が要らなくなる、ということです。

実際に言語にする前に、人が正しいとか正しくないとか、GoとかNoGoと感じることを「直感」と言いますが、直観のプロセスはもう少し分解していけるのではないかと思います。

どの部分の働きで直観が生まれているのか、その間の部分の意思決定、実際にこれをやるかやらないかとか、どういうふうにするかとか、言語化の手前の部分のプロセスを何らか解析して自動化できれば、結局答えを出しているのは人間です。

説明できないのだけれども、説明できない部分を「いや、いいからやれ」と言っても人は動かない。

でも実際にそれを人間の代わりに何らかの言語にしてくれるファンクションみたいなものは、今のジョージ・ソロスの事例でいうと、何か間で作れるのではないですかね。

鈴木さん、どうなのでしょうか?

人間の脳に潜む、未解明の能力とは

スマートニュース株式会社 代表取締役会長兼社長 CEO 鈴木 健さん

鈴木 たとえば、今ちょうど台風が来ていますよね。

昔は人工衛星などなかったので、台風が来るかどうかなんて分かりませんでしたが、何かちょっと関節が痛むな、これは雨が降るぞ、みたいな予測は昔からありました。

何をやっているかというと、気圧の変化を感じ取っているわけですよね。

要は、気圧が下がると熱帯性低気圧が来ているということをいち早くかぎ取っているんです。

虫の声とかもあります。

気圧の変化などを、五感を使ってあらゆる感覚器官を使ってかぎ取り、ニューラルネットワークの中で、複数の感覚器官から得られた情報が統合されて、何か学習プロセスが走っているのだけれども、すべてが言語野(※)を通るわけではありません。

▶編集注:ヒトの脳の領域の一部で、言語処理全般に関わる部分。

言語的なもの抜きに、瞬間的に反応できるように動物というのは進化しているわけですよ。

人間が言語を獲得したのが、そもそもこの数万年のことなので。

北川 わりと最近ですよね。

鈴木 進化の中では最近の話ですね。

そういう極めて多様な能力を獲得しているから、僕たちは死なないわけですよね。

それはたとえば相場でも同じで、基本的には、ジョージ・ソロスがいったい何のシグナルを得ているのかは分からないし、多分本人にも分からないんですよ。

でも、ちょっと悪寒がするとか、何か変だ、というような体調の変化が起きると、それによってある種、逃走本能みたいなものが働くわけです。

それは生物というものが40億年間、捕食者から食べられないために身に着けてきた能力です。

人間というのは今でこそ食べる側の存在ですけれども、生態系の頂点ではない時代の方が長かったのです。

食べられないように「逃げる」ことに対してものすごく多くの時間を使ってきました。

そのようにして鍛えられてきた人間の動物としての能力というのは、極めて高いわけですよ。

複数の感覚器官には、相場のいろいろな情報やシグナルなども入ってきます。

特にソロスは、相場の世界でたくさん失敗もしているはずですから、鍛えられています。

言語化されていない、ロジックにはならないものによってニューラルネットワークが学習します。

たとえばディープラーニングなんかも基本的に、動物が進化の過程で獲得した能力の一部が極端な方向で使えるようになっているわけです。

そのファンクションだけは極めて優秀なんですね。

けれども、人間や動物が持っている他のニューラルネットワークの能力というのはまだ解明されていません。

たとえば視覚野などに関しては、動物が人間を遥かにテークオーバーしているのだけど、人間にはそれ以外の能力がいろいろあるのと、複数の感覚器官を統合した時に何が起こるのかなど、まだ分からないことがたくさんあります。

AIは、言語に依らない新たな意思決定を可能にする

株式会社セプテーニ・ホールディングス 代表取締役 グループ社長執行役員 佐藤 光紀さん

佐藤 そこですね。今の話だと、いわゆる言語以外の部分をどう活用していくか、経営の実務に言葉以外の部分を使えるのかというところですね。

それは、人間の知性や知能をパフォーマンスに変えていく間の部分だと思っていて、言葉によってやはりかなりロスされているというか、ディスカウントされています。

マネジメントでいうと、尖りがなくなるということです。

つまり、本当はもっと尖った方針を出した方が成果を出せるのに、結果的に中庸な意思決定、反対意見などによって中和された、尖りのない意思決定に繋がっていって、「まあまあ」のパフォーマンスに落ち着くというようなことが、実際によくあると思うんですよね。

なので、そういうものをそぎ落として、新しいタイプの意思決定プロセスができないだろうかと思っています。

正しいということが皆から信任されれば、より動物的な本能に従ってもいいのではないでしょうか。

直観に基づく判断であっても、後から結果を検証しても正しいという判断がたくさんなされるような、そういう世界感になった方がいいかなと個人的に思っています。

脳のプロセスのもっと深い部分の解明を進めて、今日はAIとビックデータそして経営という話ですが、それをもっと実際の経営に活かすにするにはどうすればいいんだろう、という投げかけをぜひしたいですね。

AIによる組織マネジメントは“スケール”できる?

北川 佐藤さんがそうおっしゃってる理由は、結局言語化しなければ人が説得できない、人が説得できないとエグゼキューションに繋がらないということですね。

佐藤 その通りです。

北川 歴史的には一緒に飲んだり、一緒に運動をしたり、グループワークを一緒にやることによって身体的な信頼を得るというのも1つのやり方でしたよね。

佐藤 従来の方法はそうですよね。

北川 もう少しいいやり方があるのではないか、みたいな話ですね。

佐藤 皆で運動会というのは、規模が10倍になってもできるかというと難しくて、やはり物理的限界があります。

やはりAIやデータがベースになってくると、これは若干突飛な考え方でもあるんですけど、物理的限界を超えることができる。

実際にAIを人事のダッシュボードに使ってみて分かったのですが、会社が10倍になっても100倍になっても、このシステムでできるなと思えたんですよ。

山内 むしろもっと精度が上がるかもしれませんね。

佐藤 そうです。

ということは、1人のトップがマネジメントできる人数が指数関数的に増えているはずなのです。

今までは、100人の会社を経営するのと、1万人の会社を経営するのだと、結構な違いがありました。

いわゆる大企業的な技が使えないと1万人規模の会社の経営はできないというのが従来のノンデータのときの行動様式でした。

しかし、データありきの経営になってくると、1万人、10万人を正しく導くことが、100人規模の会社と同じようにできるようになります。

尖ったトップが1万人の社員を率いるための土台というか、ダッシュボードが、従来よりもデータ基盤が整って洗練されてきているからです。

何を言いたいかというと、運動会なしでも従来のフィジカルな繋がりがなくとも、非言語による繋がりなどで、信頼関係を醸成し、人をドライブさせていくことができるようになります。

人を動かしていくというのは、まさに経営の本質ですよね。

フィジカルな繋がりなしで、人を動かす意思決定をし、エグゼキューションして人を動かしていくことができるのではないかと僕は思っています。

(続)

次の記事を読みたい方はこちら

続きは 6. 資本も10倍、社員も10倍、データも10倍。AI分野における中国の圧倒的競争力に日本が立ち向かうためには? をご覧ください。

平日 毎朝7時に公式LINE@で新着記事を配信しています。友達申請はこちらから!
ICCの動画コンテンツも充実! ICCのYoutubeチャネルの登録はこちらから!

編集チーム:小林 雅/浅郷 浩子/尾形 佳靖/戸田 秀成/鈴木ファストアーベント 理恵

他にも多く記事がございますので、TOPページからぜひご覧ください。

更新情報はFacebookページのフォローをお願い致します。

Pocket

ICCパートナーズ

ICCパートナーズ

ICCパートナーズ(ICC Partners Inc.)は産業を共に創る経営者・経営幹部のためのコミュニティ型カンファレンス「Industry Co-Creation サミット/ICCサミット」の企画・運営および新規事業創出・アライアンスなどのアドバイザー業務を行っています。