「人間の仕事はAI(人工知能)に代替されてしまうのか?」最先端の研究者が描く知能と生命の境界 – INDUSTRY CO-CREATION(ICC)

「人間の仕事はAI(人工知能)に代替されてしまうのか?」最先端の研究者が描く知能と生命の境界

LINEで送る
Pocket

「人工知能によって人間の仕事は代替されてしまうのか?」や「ヒューマンオーグメンテーション(Human Augmentation=人間拡張)テクノロジーが人間の存在をどう変えうるのか?」といった、20〜30年後の人工知能時代を見据えた問いを第一線の研究者たちが真剣に議論。ICCカンファレンス TOKYO 2016の参加者から賞賛を集めた、最先端研究の動向に関する記事を是非ご覧ください。

(その2)は「人間の仕事はAI(人工知能)に代替されてしまうのか?」という問いから、最終的に「人工物と人間の境界」といった根源的な議論を展開しました。ぜひご覧ください。

登壇者情報
2016年3月24日開催
ICCカンファレンス TOKYO 2016
Session 3B 
最先端研究の動向(人工知能 コグニティブ IoA)
(スピーカー)
武田 浩一   日本アイ・ビー・エム株式会社 技術理事
松尾 豊    東京大学大学院 特任准教授
暦本 純一   東京大学大学院情報学環 教授/ソニーコンピュータサイエンス研究所副所長
(モデレーター)
田川 欣哉     takram design engineering 代表

その1はこちらをご覧ください:「IoTからIoAへ」最先端の研究者が考える人工知能と人間の未来


今5つ伏線を頂きました。僕の方がもともとお三方と話が出来たらな、と思っているところと被ってくるところもあるので、この5つの質問の中で、最初の入り口として、ぶっちゃけAIってどの程度のいわゆる跳躍、あと限界、そこらへんはおそらく、かなりまだら模様なのかもしれないけれども、どう思っていますか?

多分ご自身の中でも、まだ不明点があると思うのですが、これをですね、少し10分くらい議論をしていきたいと思います。その後ですね、そこから派生する色んなことをやるのですが、そしたらまずど真ん中ということで、松尾さんに聞いてみましょうか。

ご著書の中でもここら辺の議論っていうのはかなりされているのですが、過去、現在、未来を考えたときに、そこら辺をちょっと整理をして話して頂けると助かります。

session3b-1-2

ディープラーニングは万能なのか?

松尾 ディープラーニングの質問がありましたけど、ディープラーニングが万能みたいに言ったり、ディープラーニングにこれは出来ないんじゃないかという意見もあるんですが、「そりゃそうです」という感じでですね。

万能なんて誰も言ってないんですけど….という感じなんですけども、なぜかっていうと、ディープラーニングっていうのが一番出来るのは、認識というところの一番ローデータに近いところでの認識や特徴量の生成が出来るようになって、認識が出来るようになると、というところが一番のイノベーションです。

今までAIにそこだけがごっそり欠けていた部分なんですね。ですからそこが出来るようになることによって、今までAIでやってきたことが次々に本当に出来るようになるという世界が来るはずだと思います。

ですから、自分が持っているデータにディープラーニングを使ってみたんだけど、これが上手くいかないっていう話です。

まあ、そりゃそうでですね。自分が持っているデータは既に特徴量抽出された後のデータなんですね。なんで、相当考えて作りこんでいるんですね。

しかも、それをどうやって活用するかも、今まで散々やってきてはずなんですね。特に、検索の領域とか自然言語処理の領域なんていうのは、さまざまなモデリングが検討されていて、例えばトピックモデルというのもずっと研究されていましたけども、したがってディープラーニングをやったからといって、そんなに急に上がるようなものではないんですよ。

なので、僕が今やるんだったら、とにかく画像が一番いいと思いますし、もし自然言語処理に適応するんだったら、僕が思うのは、結局ですね、今まで長年やってきた例えば翻訳とかですね、検索とかそういう領域って、もうモデルがつくりこまれているから、ディープラーニングでやろうがそんなに勝てないんですよね。

ですから、よくある研究は、前提知識なしに従来手法と同じくらいの精度が出ましたという研究が多いんですけども、そんな感じなんですよね。

ということは裏を返せば、今までやられていなかったタスクだったり、今まで評価するのが難しかったタスクっていうのに適応すると、いきなりすごい精度が出る可能性があって、その1つは会話だと思うんですね。

会話のログをたくさん読み込ませて、それっぽい会話を創るというのはあんまりやられていなかった。もちろん研究としてはやられたことはあるんですけど。

なぜかと言うと、評価がすごく難しかったというところに、今LSTMというのはディープラーニングの1つのタイプですけれども、それにたくさんの会話ログをくわせると、いきなりそれっぽい会話が出来ちゃうとかですね。

そういう、今までタスクとしてあんまり出て来てなかったものに、ディープラーニングに適応するのはこれは面白いとは思います。でも基本は画像だと思います。

田川 なるほどね。今の話は、結構至近の話だと思うんですけど、20年後とか30年後とか、いわゆる2045みたいなところがありますけど、そういうところ、これはもう、科学者としてのお立場は置いておいて、どう思われますか。

松尾 まず、ロボットががしがし動いているはずで、もうボストン・ダイナミクスとか動いていますけど、あと例えばGoogleがロボットアームをですね、ピッキングというのを何度か試行錯誤することによって、上手に持てるようになるというのも、2週間くらい前に動画を出していましたけれども、そういう動作系がすごくまず向上すると思います。

ですから例えば、調理とか掃除とかですね、今まで人の認識をすごく必要とするから、人じゃないと出来なかったようなことが自動化できる可能性は、劇的に上がってくるというのが1つ目の大きな変化で、もう1つが自動翻訳だと思うんですね。

これは、武田さんのご専門でもありますけども、やっぱりその言語の意味理解というのは長年の夢だった訳ですけれども、全く出来なかった。

で、何で出来なかったかっていうと、やっぱりシンボルグラウディング、言葉とその意味内容を紐付けるのが、すごく難しくて出来なかった訳ですけれども、僕はそれがですね、ロボット系が出来ると、結局視覚的な概念とか運動的な概念というのが、どんどん生成することが出来るので、それと言葉を紐付けることによって、人間ほど完璧ではないにしても、ある程度、言葉と意味を理解するということがコンピューターによって実現出来るようになる。

そうすると、翻訳したり要約したりっていうことが、今までにない精度で出来るようになる、と。僕は自然言語処理のすごい飛躍というのが、多分5年から10年の内に起こるんじゃないか、と思っています。

田川 ありがとうございます。武田さん何かありますか、今の話の関連で。

武田 そうですね、Watsonの研究開発は2006年くらいから始まって、実質2011年2月に(クイズ王との)対戦が放映されましたので、4年間くらいでしたけれども、その短期間で開発出来た最大の理由は、コンテンツがデジタル化されていたということで、IBM自身が解答作成の情報源となるコンテンツを開発しなかったということですね。

当時のWikipediaのエントリーを見れば、 Jeopardy!(ジョパディ:米国のクイズ番組)の質問に出てくる95%の回答が見出し語で存在していたっていうことで、驚異的な情報源です。

ですので、自然言語処理のそういう変化が本質的で、第5世代のコンピュータ・プロジェクトのときのプログラミングスタイルとか、エクスパート・システムを使ったとしても、30年前であれば、Wikipediaがなかったので出来なかったという、単純にコンテンツの処理の部分が大きい。

次に問題になるのが、適切な質問と答えは何かということで、信頼できるシステムをつくるためのトレーニングデータを作成する必要があります。その場合、例えば医療のケースで言えば、ガンの治療に関する知識を提示できるシステムを作るために、最初の事例では数千時間をかけてカスタマイズして、適切な質問と答えを医師の感覚に合うように分野適合させています。

session3b-1-1

ですので、現実的な最大の問題はおそらく、多くのケースでトレーニングのデータが無いということですね。ラベル付けされたトレーニングのデータが自然言語の世界にあまりなくて、かつ、色々モデル化はしているとしても、属性抽出を何もしなくても、単語の集まりだけでディープラーニングにかけられるかっていうと、そこもちょっとよく分からないところです。

ですので、そういった学習データや属性のある程度の抽出が出来れば、松尾先生が言われるように一気に加速するかもしれないですし、最近見かけた研究報告として、一番驚異的なのは対話の事例でした。

対話のコーパスがあったときに、コールセンターの会話の事例ですけれども、ユーザーが何かトラブルの話をしたときに、結構適切に人のように質問をしてくるんですね。

使っているOSは何ですか?とか。それは純粋に統計的に出てきた質問なんですけれども、あたかもまるで問題を理解して質問しているかのように見えますし、そういうタスク志向の、本当にトラブルシューティングだとか、そういうタスク志向のコーパスがあれば、意外に対話的な応答まで出来るかもしれないと感じています。

ですので、Googleさんのように毎日毎日すごいキーワード・クエリーが入って、クリックログで適切な答えも紐付いているウェブページに、紐付けされた学習データがあるというのは、とてつもないアドバンテージだと思います。

対話にしても、データサービスを通して、人がどういうことを考えているかとか、例えば、単に注文するためだけのコールセンターでも、自分はこういう人間でこういう商品が欲しいとおっしゃる方が多いので、そういったデータはユーザを理解するうえで貴重なデータになるでしょう。

田川 例えば、ちょっと先ほどの質問頂いたところに通じてくるんですけど、一般の人たちの感覚値の中に、大学の研究で、今後現存する人間の仕事が、マシンによって巨大に置き換えられていくだろうというのを、今の松尾さんと武田さんの話を聞いていると、起こるとおっしゃっているように思いますね。

例えば、プロフェッショナル型とか、タスクをさばくっていうタイプの形であれば、例えば、コールセンタービジネスは結構大きいと思うんですけど、そういったものというのは、一気にこう自動化されたりというような、そういうところはもう起こると思っていいんでしょうか?

人間の仕事はAI(人工知能)に代替されてしまうのか?

武田 そうですね。単純に入力に対して答えを返すだけのタスクが欲しいんであれば、かなりのことが自動化出来ると思いますけど、本当にそれがユーザーが欲しているサービスかどうかっていうことですね。

例えば、止まっているのであれば、止まっている理由を聞いた上で、何か回答を与えるとかアドバイスをするというのが、本来の人間的なサービスだとすれば、その部分というのは追いついていないと思います。

ですので、IBMが一番AIという言葉を使わずに、コグニティブコンピューティングと呼んでいるのは、そういうサービスを支援するという役割の分担があるからですね。それが短期的に実現出来るレベルだろうと思ってのことなんですね。

田川 なるほど。そこがひとつの限界という感じですね。有難うございます。

暦本先生は、ちょっと違う観点から人間の限界みたいなものを認識しつつ、その部分にこそ切り込んでいこうとしていらっしゃるような感じもするんですけど、AIという伏線と、例えば人間側の変化というところも含めてどう思われますか?

暦本 そうですね。多分今のAIで一番得意なのは、パーセプション(認知)とかクラシフィケーション(分類)みたいな、人間の思考から言えば割と前段のところなんですよね。

だから、面白いと思っているのは、ある種のAIサイボーグみたいに、そういうのが付いた人間とはどうなるだろうかというのはあります。

どういう組み合わせかというのはいろいろありえます。、ヒューマンAIインタラクションをどう設計するかですね。ヒューマンロボットインタラクションのように、擬人的な対象があって、人間がいて、その間で対話するみたいなものも1つヒューマンAIインタラクションです。

それだけではなく、補聴器の中にニューラルネットが入っていて、それが聞きにくい外国語の発音をなんとなく調整してくれるみたいなのもあるかもしれない。AIと人間の関わり方がよりインテグレートされていくという方向があると思います。

新しい応用を考えると、非常に大きな可能性があって、職種としても単純に失われるというのもあるんですけど、ハイブリッドな職種が出てくるという希望的観測はありますね。

作曲と言っても単純なシーケンスはつくるんだけれども、その中からどれかをピックするセンスは人間にあるとか、絵とかデザインとかもそうで、デザインも多分人間がいちいちレンダリングするというのはなくなってしまうかもしれません。

何がいい方向かというのを、大局的にコントロールするのは作家性があるということで、AIと人間の新しい関係を上手く創れるということに大きな発展性があると思っています。

session3b-2-3

機械学習などにより将来の人間の職業がどう影響を受けるかという有名な論文があって、そういうのを見ると47%の職業が深刻な影響を受けると書いてあります。結構脅威だな、と思ってリストをみると、大学教授も意外となくなる方に入っているんですね(笑)。

(会場笑)

暦本 つまり大教室で教員が一方的に教えるよりは、AIが一人ひとりに対して細かい気配りをして教えるほうが効果的であろうと。

という風に消える職業はもちろんありますけれども、私の希望はAIと人間のハイブリッドみたいなところに可能性を感じています。

田川 なるほど。暦本先生のお話を聴いていると、人間に対する希望とか愛みたいなものが感じられるんですけど、逆にそれを否定してしまいたい、例えば、人間というもの自が持つ限界性をテクノロジーで打ち破っていきたいというタイプの研究者たちも、結構いるんじゃないかと思うんですが、どうですか?

僕はこの前のアルファ碁を見ていて、アルファ碁というソフトウェアのネーミングにちょっとそれを感じたところがあって、実際作っている人と話した訳じゃないんで分かんないですけど、アルファ碁の次はベータ碁というのがあって、最後ベータ版を抜けると、碁というものが残って、もはや、それそのものが碁である、と。

だからその時点に到達したら、その先人間は碁そのものと戦うんだみたいな意思が、ネーミングの伏線として感じられるんですね。

例えばそうなったときに、もはやAIは人間自体を超越している。そんなところを、研究者たちが求めているのかなと思うんですけど、どうなんでしょうか?

暦本 プロの方が、人間の持っていた囲碁の常識というのが実は結構狭かったんだと気づいたと言っているのがすごく印象的でした。

人間はずっと碁というものを延々とやっていたんだけども、人類が探索できていたスペースはそんなに広くなかったんじゃないか、と思わせたということですよね。

しかしそこは、前向きに捉えると、コンピューターをツールにして、我々はもっと碁を深く理解できて、碁をもっと楽しめるというポジティブな判断できるかもしれない。

もうそんなプレイは無駄という判断ももちろん出来るだろうし、それは当然両面あるかなと思いますね。

田川 今どこまで、AIというものが、人間の仕事を置き換えていくのかいかないのかという話で言うと、松尾先生の話を聞いていると、運動というものが急速に磨かれていく。

ロボットが何度か自分で学習しながら、より良く人間よりも上手く動けるようになって、しかも翻訳能力も上がって来るとなると、なんとなくスターウォーズに出てくるC-3POみたいなものがイメージとして出てくるんですけど、どうなんですかね。

松尾 なんていうんですかね、認識が出来るというのと、それが出来るがゆえに運動が出来るということなんですけど、まずロボットはロボット歩きはしなくなります。だから、ロボットっぽい歩き方はしないと思うんですよね(笑)。

(会場笑)

松尾 あとそれが出来ると、多分いいことろがとてもたくさんあって。基本的に肉体労働系でコストがかかっている仕事を出来るようになりますね。

そうなると農業とか建設の仕事だとなと思っています。

あと言葉の意味理解というのも出来るようになると翻訳が出来るようになるので、日本からすると世界が日本語になるのと同じですから、多分いきなり世界観が変わりますよね。

大学は国内の大学に行く理由がないし、東京で働く理由もないしとなってくると、人々の生活は相当変わりますし、企業の競争力もすごく変わっていくんじゃないかと思います。

session3b-2-1

日本だけで通用するブランドで商売しているところというのは相当厳しくて、それはもう東京大学が一番そうなんですけど(笑)。

(会場笑)

松尾 そういうことが色んな領域で起こってくると思います。なんていうかSF的な映画の世界観があるんですけど、何で出来るのか出来ないのかと考えていくと、やっぱり起こるべき変化と起こらないだろうところ正確に分かるんじゃないかなと思っています。

田川 有難うございます。

ちょっと議論を少しずつスライドさせていきたいと思います。

最近、人間自身の自己の感覚の中で、例えば、分人のようなキーワードが出てきたり、暦本先生の研究の中でも、人間の持っている能力をアビリティーという言葉で一般化して、人工物でも人間でも、そういう一般化をしとところでつなげると、価値の結びつきが出てくるだろうという考え方があります。

人工物の輪郭や、人間の輪郭が技術によって解きほぐされはじめている。分解されて再構成されるという時代に入りつつあるのかなと思うんですね。

暦本先生にひとつですね、今ご自身の仕事の中で、一番これがテンション上がっているんだというのを事例として紹介して頂きつつ、そこら辺の話を少し教えて頂ければなと思うんですが、いかがでしょうか。

人工物と人間の境界は?

暦本 そうですね。先ほどもお話しましたが、研究室でテレプレゼンス的に人間をほかのものとつなぐというデモをしていて「ドローンにジャックインします」とか「ドローンが振り向くと自分が見えました」とか、体外離脱して自分が外から見えるっていう体験してもらったりします。これは割とまず驚いてもらおうとデモンストレーションパーパスでやるんですが、結構あういう自己の境界が変化する体験が本質かなと思っています。

つまり私という輪郭がありますよね。でもその私という輪郭はテクノロジーによって溶けちゃうんですね。そして、他人とつながると、どこまで自分かどこまで相手か分からないとか、相手は実はロボットだったのかもしれないとか、SelfとOtherという関係を、割とある意味再定義してしまうこと出来るし、コントロールすることも出来る。

余談ですが、人工知能を「人」の「口」と書くの間違いですよね。

よくある典型的な変換間違えですけど、逆にそれも面白いと思います。つまり、人「口」知能は「クラウドインテリジェンス」という意味になる。

1万人くらいの人間やAIがつながった状態の知能はどうあるべきかみたいなことって、面白いなって思っています。

アリやハチは実はそういう生命体ですね。スーパーオーガニズム(超個体)といって、アリ1匹の能力は限られているけれども、数万匹のアリのクラウドは驚くべきことをする、集団としてかなりの知的な行為をするということがあります。人間という個体がさらに超個体化することになるかもしれない。

哲学的なんですけど面白いなと思っています。

田川 月に行った人が新たな一体感覚みたいなものに目覚める話をよく聞くんですけど、ああいう啓示体験みたいなのってあるんでしょうか?

暦本 「サロゲート」が面白いです。

参考資料:映画「サロゲート」(脳波で遠隔操作できるロボット)

「サロゲート」は何かっていうと、人間にiPad(FaceTime)を被らせて顔を出して、他人の「サロゲート」になって、ネットワーク上に置いて、ネットワーク背後から、右行けとか左行けとか言うと。要するに、完全な制御ロボットみたいにすると、意外に楽しいということが分かります(笑)。

(会場笑)

暦本 何て言うんでしょう、人間の自由意志は結構大変だったんだな、と。だから、完全に受動体になって、もうロボットみたいに右行け左行けに、ハイハイハイと行くと、結構人間は何も考えないのも気楽でいいなということを思ってしまいます(笑)。

(会場笑)

暦本 これってどうしようと、逆の意味で感じますよね。我々は生きていて、普通に自分で判断して、セルフコンシャスで、フリーウィル(自由意志)でという自立した人間がいいと思っているけど、結構バラバラにすると実は違うところの価値があるかなと思うところがあります。

田川 なるほど、面白い話ですね。松尾さんの方はどうですか。

人間自身については、そもそもどう思われますか?

例えば、人間の限界みたいなところとか、知能の話とかみたいなところで考えたときに、そこをたぶん暦本先生は紐解いていって、再構築して逆転させたりということで、新しい可能性を探っていらっしゃるような気がするんですけど。

松尾 そうですね。

まず、電卓はすごいですよねというのがあります。計算めっちゃ速いですよね。人間絶対勝てないじゃないですか。

で、それがですね、囲碁とかになると、「おぉ」となる訳ですよね。

だから、何て言うんですかね、別に違うものだし、コンピューターの方がいくらでも速くすることは出来るので、原理さえ分かれば工学的にすごいもの作れるはずなんですね。

だから、人は鳥のように飛びたかった訳ですけれども、「飛ぶ」という原理、揚力をどうやって得るのかという原理が分かると、飛行機を作れることができるわけです。

それで何百人も乗せて飛ばせたりする訳ですよね。そういうことが、知能の世界でも起こると思ってるんですよね。

で、そのことと鳥を知りたいというのはちょっと違う話です。

もちろん鳥も主要機能は飛ぶということだから、人間の場合は知能というのをすごい競争力にしているから、そこの原理を知りたいというのはありますけど、工学的な応用範囲はかなりすごい広いと思います。

一方で、人間の感情とか本能みたいなものは、これはもう進化の過程で相当つくりこまれているので、単一の原理があるというよりは、なんかその方が生存確率が上がったからそうなっているということがすごくたくさんあると思うんですね。

尖っているものを持つとなんか嫌な気がするとか、高い所に登ると怖い気がするとかですね。

高い所に登ると怖い気がするとか、すごいよく出来ているなと思ってですね。

強化学習しようとすると、死んじゃうじゃないですか。落ちられないはずなんですけども、落ちられないにも関わらず、しかも高いかどうかっていうのはかなりハイレベルな認知のはずで、それが分かると怖い気がするような人が生存確率が高いから、そういう風になっている訳ですよね。
だから、すごいよく出来ているんですよ。

そういう例であるのがですね、格闘技で何でもありなルールのものがありますよね、金網の中で。

あれでも、目潰しと急所攻撃は禁止しているんですよ。なぜかと言うと、卑怯な感じがするんですよね(笑)。

(会場笑)

松尾 なんか目を潰すとか急所とかって、男同士の戦いとしてなんか卑怯な気がするんですよね。

卑怯という感覚は何かと言うと、結局、動物の時代の戦いとは、いい遺伝子を判定するためにやっている訳なんで、その戦いの最中に急所攻撃してしまったら、これ意味がない訳ですよ(笑)。

(会場笑)

田川 フィードバックがかかんないですよね(笑)。それをやり続けるだけの人も…

松尾 意味がないっていうことを実装するのに、卑怯という感覚を植え付けていて、すごくよく出来ているな~と思っていて。

田川 卑怯という感覚が人間を進化させてきたと。

松尾 そうそうそう。そういう感覚を持っていた方が生き残ってきたから、卑怯という感覚を持ってる訳です。

それは完全につくりこみの世界なんですね。知能の原理と飛行機が飛ぶメカニズムの話と、卑怯みたいなものとか高い所みたいなつくりこみの世界は全然違っていいます。

人間の場合は、こういう大きな知能の原理はあるんだけれども、細かい作りこみで人間が出来ている。

作りこみのところは、決して真似出来ない世界だと思っています。

田川 面白いですね。武田さんはどうですか。人間と知性とか知能とかっていうところでいくと。

武田 そうですね。Watsonのような技術をエンタープライズソリューションとして使えるものにするという比較的短期的な仕事をしていますから、そういう体験で思うのは、例えば個人の遺伝子の変異や多型ですね。

一人の遺伝子をシーケンシングすると、10万とか1000万個くらいの遺伝子の変異や多型が見つかって、それを見たときに、人は一人ひとりが全部が違うという認識ですよね。

session3b-2-4

これまでの医療は、多分最大公約数に対して効き目があるということを主に考えてきたと思います。ただ教育と医療は、結局究極的にはどんどんどんどんパーソナライズしていくとすると、本当にひとりずつ違う教育や、一人ひとり違う医療に進んでいっているんですけれども、そのある意味、工学的な効率を考えた最大公約数のアプローチと、現実の人間が一人ずつ違うというところのギャップにすごく関心があります。

それと、対話機能を実現すると、ヒューマノイドロボットとかアンドロイドが、いきなり人に違う感じで接するように感じられるんですよ。リアルすぎて気持ち悪かったものがすごく親しげだったり、人に話せなかったことが何でも話せるようになったりとか、その変化が人というものに対する道具としての、いわゆる人工知能というものが、これまでの知見と違う本来の人の本質的なところが、インターフェースとかコミュニケーションとか色んなところに出てくるのを観察出来るのがすごく面白いな、と思います。

田川 なるほど、今ちょっと話が出てきたところで、お三方どなたでもいいんですけど、ちょっと教えて頂きたいのが、なんとなくお話を聴いていると、人間とAIにようなものは、すみ分けというか役割分担があって、そこは残るものは残っていくだろう、と。

その中でハイブリッドになるタイプもあると思うんですけど、そういう意味で、僕らは今萌芽が始まったそういったものを、道具として思っていていいんですかね。

というところについて、どう思われますか。例えば、対話する…武田さんが最後道具という言葉をお使いになりましたけれども、道具だと思い続けていいんでしょうか。それは違う何か、タームが必要になってくるんでしょうか。

松尾 いや、道具じゃないですかね。

田川 それが聞きたかったです、なるほど。

松尾 僕はよく知能と生命は違うんだって言うんです。

先ほどの話と近いですけど、知能というのは目的が与えられたときに、それを達成する問題解決の力を指していると。一方で、生命というのは目的を持っていて、自分を残したいとか、子孫を残したいとか、それから仲間を助けたいとかそういう目的がある。

それは長い進化の中で、そういう目的を持っていない人は滅んできたので、今の生命はそういう目的を持っていると。人間の場合は、生命の目的を、知能を使って達非常に高いレベルで達成する。

人工知能の技術は、知能の技術なので、問題解決の技術ですね。そうすると、それは道具ですよね。それが一定のレベルを超えると、いきなり生命的な目的を持つというのは、僕はないのではないかと思っていまして…

田川 それは断絶があると。

松尾 その意識を持って人間を襲うというのはないと。その代わり…いや絶対ないかと言われると…

田川 起こっちゃったらどうします?あの時言っていたじゃないですか、襲わないと言ってたじゃないですかって(笑)

(会場笑)

松尾 それは分かんないですけど、そのリスクよりも、よっぽど、悪い人が悪い目的で人工知能を使うリスクの方が、全然リアリティーがあるんですよ。

田川 そうですよね、武器と火のようなみたいなものですよね。

松尾 犯罪と軍事なんですよね。これはすごい怖いと思いますよ。だから、これに関してはちゃんと議論した方がいいけど、人工知能が人間を襲い始めるのは…

田川 それは多分あれなんですよ、悪の人工知能で強化された軍隊と、善の人工知能で強化された軍隊が戦うみたいな…(笑)

(会場笑)

松尾 で、ところが、善悪というのが分かりやすければいいんですけど、やっぱり人間社会は色んな価値観の人がいて、例えば、自動運転で事故起こしたらどうするんですか?というのをよく議論されますよね。

僕がいつも言うのは、では制限速度を時速10キロにすればいいじゃないですかと言うんですよね。つまり、制限速度 時速10キロにしたら誰も死なないですよ、と。

だけど、多分、制限速度10キロだと人はあんまり車に乗りたくないんですよね。

これは結局どういうことかというと、安全性と利便性というのがトレードオフになっていて、本質的に、どっちかを上げるとどっちかが下がるんですよ。

今までは、制限速度をなんとなく時速60キロと適当に決めていて、皆安全運転しましょうよと言って、なんとかごまかして来た訳ですけども、本質的にはトレードオフの曲線のどこを選択するのかっていうのを社会で決めないといけないんですね。

これは今までだったら、色んな問題で時速60キロを時速50キロにするのか、時速100キロにするのかというのは、結構難しかったかもしれないですけど、今後は自動運転になる訳だから、時速10キロにしようが時速60キロにしようが時速300キロにしようが、これは設定次第でいくらでも出来るんですよね。

ということは、人の命と経済の効率というのがどこらへんでバランスすればいいの?という、非常に難しい問題を社会で決めていかないといけなくなる。

そこが僕は人工知能が普及してきたときの、多分一番重要な社会的課題であるとか、社会の役割になってくるんじゃないかと思いますね。

田川 なるほどね、有難うございます。

そしたらですね、ちょっと白熱してきている感じなんですけど、もう一歩ちょっと踏み込んで…逆に反論の方いらっしゃいますか。道具じゃないだろという。

道具が人間を発明した

暦本 A・C・クラーク(アーサー・チャールズ・クラーク)というSF作家が、50年くらい前に書いた「未来のプロファイル」という未来予測本があります。

「充分に発達した技術は魔法と区別がつかない」という有名なフレーズが掲載されている本なんですけど、そこにも実は道具と人間について書いてあるんですね。

そこで面白いのは、「人間が道具を発明したのではなく、道具が人間を発明したと」と書いてあるんですよ。つまり、作った道具によって、我々が逆に再定義されている訳ですね。

田川 メディアっぽい感じですね。

暦本 はい。それはでも、ある面の真実だと思います。、ケビン・ケリーが提唱してるテクニウムという概念があります。テクノロジーと人間は生態系でありお互いが共進化しているという発想です。そうするとやっぱり、作ったものによって我々自身が変わってしまうということも含めての道具だと思います。

テクニウム――テクノロジーはどこへ向かうのか? ケヴィン・ケリー (著), 服部 桂 (翻訳) みすず書房

田川 なるほど。松尾さん、どうですか。どんどん言って下さい、言いたいことがあったら。

松尾 道具じゃない時代もあるにはあって、ちょっと近いと思うんですけど、多分そのうちですね、手を怪我すると義手つけたり、肝臓壊れると人工肝臓を入れるじゃないですか。

すると部分的にロボットの人が出てくるんですよね。部分的にロボットの比率が高まっていって、60%ロボットですとか、100%ロボットですとなってくると、ほぼもう元人間なんだけども、今は100%ロボットです、みたいな(笑)。

田川 “元”人間(笑)。攻殻機動隊ですね(笑)。

(会場笑)

松尾 そういうのが出てきたときに、じゃあこいつどうすんだみたいな、なんか権利がないと悲しいと言ってるぞ、みたいなときに初めて、じゃあちょっとこういうロボットも人間扱いしないといけないね、みたいになってくるとは思いますね。

田川 今の話は面白いですね。生身の人間が、徐々に置き換わりながらいった先に、人工物と生命と不可分な、それを踏み越えちゃう人たちが出てきて、そこで初めてそういうものが社会的に…

松尾 そうじゃない限りは、今だって別に、犬とかに権利をあげてもいいはずなのにあげてない訳で、それは文句言わないからですよということだと思うんでよね。

徐々に変わっていく人がいて、すごく文句言われると、ちょっと考えようかみたいなことになる訳ですよ。

田川 僕もちょっと聞きたいことが大分はっきりしてきました。AIは道具だろう、というときに、2つ質問しますね。どなたに答えて頂いてもいいんですけど。

聞いていくと、道具は道具なんだけど、先ほど暦本先生もおっしゃっていたように、道具側が人間を擬似進化させるようなシナリオもあるから、それは相互関係の話だよね、と。

主客がある訳ではないよねという相対観をお持ちなんだと思うんですけど。

とはいえ、AIが「One of 道具」だとしたら、何でみんなこんなに、議論が社会的に巻き起こっているのかという現象を、ちょっと引いて見る必要があると思います。

人工物と人間の関係を考えるときに、人間機械系みたいな話をしますけど、例えば機械人間系だったりとか、人間機械機械系だったりとか、人間人間機械機械系だったりとかっていうのが、今まではある程度、いち人工物と人間の紐付きというのはありましたが、ネットワーク化したりとか、チェーン化していくというのが、猛烈に進むんじゃないかと思っていています。

(続)

編集チーム:小林 雅/藤田 温乃

続きはこちらをご覧ください:「人工知能時代に磨くべき力とは?」最先端の研究者が語る今後求められるスキル

更新情報はFacebookページのフォローをお願い致します。

LINEで送る
Pocket

ICCパートナーズ

ICCパートナーズ

ICCパートナーズ(ICC Partners Inc.)は産業を共に創る経営者・経営幹部のためのコミュニティ型カンフ ァレンス「Industry Co-Creation(ICC) カンファレンス」の企画・運営および新規事業創出・アライアンスなどのアドバイザー業務を行っています。