▶平日 毎朝7時に公式LINE@で新着記事を配信しています。友達申請はこちらから！
▶ICCの動画コンテンツも充実! Youtubeチャネルの登録はこちらから！
2016年に配信した、AI（人工知能）に関する議論を総特集いたします。今回は、ICCカンファレンス KYOTO 2016から、「AIや技術の進化によって人間はどのように再定義されるのか？」を再編集して3回シリーズでお届けします。AI特集（その11）は、ヤフーCSO安宅さんやスマートニュース鈴木さんらが、AI時代に再定義される人間の役割を議論しました。楽観論と悲観論が混在する刺激的な議論となりました。ぜひご覧ください。
ICCカンファレンスは新産業のトップリーダー160名以上が登壇する日本最大級のイノベーション・カンファレンスです。次回 ICCカンファレンス KYOTO 2017は2017年9月5〜7日 京都市での開催を予定しております。
▼
登壇者情報
2016年9月6日・7日開催
ICCカンファレンス KYOTO 2016「ICC SUMMIT」
Session 9A
「AIや技術の進化によって人間はどのように再定義されるのか？」
Supported by 日本アイ・ビー・エム株式会社
(スピーカー)
安宅 和人
ヤフー株式会社
チーフストラテジーオフィサー
稲見 昌彦
東京大学
先端科学技術研究センター
教授
鈴木 健
スマートニュース株式会社
代表取締役会長 共同CEO
福田 剛志
日本アイ・ビー・エム株式会社
東京基礎研究所 所長
理事 博士(情報科学)
(モデレーター）
尾原 和啓
Fringe81株式会社 執行役員
▲
【前の記事】
【本編】
▼▼
本記事はパネルディスカッション部分を再編集した記事となっております。全文は以下の記事をご覧ください。
「AIはきっと暴走する」人工知能テクノロジーに対する楽観と悲観【K16-9A #5】
人工知能（AI）時代に再定義される人間の役割とは？【K16-9A #6】
▲▲
尾原 そもそも、シンギュラリティのようなコントロールできないことが起こるのではないかという不安、そもそも、人工知能が進んでいったときに自己責任として回収できない、自分ではない自己が出来てきたときにその責任は誰が回収するのかという不安、人工知能が発達していったときに人間はどう変わっていくのか、争い続けるのか平和になるのかという幸せの再定義という不安、この3つが出てきたわけです。
これらに対して共通するところは、登壇者の人がなぜ楽観的でいられるかという点だと思っていて、その点をショートコメントで、登壇者の方に伺っていきたいと思います。技術がなぜ人を不安に陥れず楽観的に構えていられるのかということを伺いたいです。
稲見 まず、私は技術を人間の野性だと思っています。アンディ・クラークの著書「生まれながらのサイボーグ」でも語られているのですが、野性としての人間の営みの1つですので、ただ単に身体の一部に過ぎないかもしれないと思っています。
また、仮にAI的な人工システムが出来たとしても、結果的に人と人工物のハイブリッドのシステムが、人だけ、あるいは人工物だけよりもプラスになる可能性が高いと楽観的に捉えています。
1980年代は、ARといえばArtificial Realityの略だったのですが、今はAugmented Realityの略称と言われるようになりました。AIはArtificial Intelligenceのままのわけですが、早くAugmented Intelligenceになってほしいと思います。
尾原 結局AIは人間と技術のハイブリッドで、人間の中に眠る少しコントロール出来ない野性のようなものだから、結果的にはコントロール出来て収まっていくだろうということですよね。
でも、先ほどの不安の話は、人間と離れた存在として暴走するかもしれないという問題ですよね。自動運転する車が人をひいてしまったときに、それは運転していた技術側にいる人のせいなのかという問題については、どういう風に思いますか？
福田 AIに頼るか、他人に頼るかというのは基本的には同じ話だと思います。誰か運転手を雇って、運転してもらったときに、その人が運転をして事故を起こしたら誰の責任かという話と同じですよね。
あるいは、AIのアドバイザーにアドバイスをもらうのと、コンサルタントにアドバイスをもらうのとでは、本質的に違いはないと思います。
そのアドバイスに対して100%合意して財産をかけるのか、あるいは他の意見も聞くのかというのは、本人の責任です。
少し突き放した言い方なのですが、AI固有の問題ではなく、何をもって自分自身が行動するかという話で、普遍的な話題かと思います。
それに対して、社会として、法律としてどう考えるかという話ですと、今は車を運転していれば、運転手が悪いと決められていますが、そういう点での見直しは必要になってくるかもしれません。ただし申し上げたように、AIになったからといって、基本的な違いはないのではないかと思います。
尾原 短期的な視野で見たときの、AIと人間の関係は、あくまで他者であり、他者である以上は、責任論が明確になってコントロール出来る範囲だろうという話ですよね。
鈴木さんは、思考の範囲の射程距離が1番長い人で、人間自体が細胞の1つとして多細胞になっていくといった未来観があったかと思いますが、参加者から出てきた不安に対してはどのように考えていますか？
鈴木 そうですね。僕は60兆個くらいの細胞で出来ていて、皆さんも同じくらいの数の細胞だと思います。それに含まれている原子や分子レベルは1年もすると完全に入れ替わっています。
そう考えると、私とは何かという話になるわけです。そこに少しくらい機械が混ざっていてもそう変わらないだろうなと思います。
今までの社会がそんなに素晴らしいものだったかを考えると、人間が創り出して、制御出来ているのか出来ていないのかよく分からない仕組みはたくさんあります。
例えば、貨幣とか資本主義ですね。これはコントロール出来ているのでしょうか。あるいは、民主主義と国民国家はコントロール出来ているのでしょうか。かなり暴走することがありますよね。
なんとなくコントロール出来ている気がするのだけれども、時々すごく暴走するという感じですよね。
おそらくAIに関しても、そのような感じになるのではないかと思っていて、そうすると、ある種 僕らが世界の豊穣さに依存していて、ある地点までいくとシステムが戻してくれるみたいな働きがあります。
資本主義は、最初から様々な理論があったわけではありません。色々な恐慌や破綻が起こり、その中でマルクス経済学、一般均衡理論、厚生経済学、ファイナンス理論など色々な経済理論が出てきて、理論が洗練されていき仕組みが分かってきましたが、それでもまだコントロール出来ない状況ですよね。AIに関しても、そういう状況になると思っています。
僕は、周りに思われるよりも、悲観的です。基本的に悲観的なのですが、この変化の時代に自身が関与することを通して、何か変わるのではないかという思いで、研究だけではなく実装もやりたいと思って取り組んでいます。
尾原 最後に、人間が望まないものだからシンギュラリティは起こらないと片付けていいのかという点で、安宅さんは何かありますか？
AIには「肉体」がない
安宅 いくつも質問があったのですが、なぜ人間にAIが置き換えられないのか？という質問に対しては、置き換えられないから置き換えられないというのが、本能的な答えです。
本質的に、肉体がないというのが根本的な理由です。
肉体がないために、生存本能がありません。例えば、ミミズですら、肉体があって、嫌なものは嫌だと反応します。生命というものは、そういうものです。大腸菌もそうで、嫌なものは嫌で、逃げます。
でも、機械はそういうものがないので、自分を守るように行動しろという設定を埋め込まない限りは、意思の発生が起きる可能性はゼロです。身体性がないというのが本質的な根拠です。それがないために、意思が生まれないし、身体がないので、そもそも判断が出来ないというのは大きな点です。
今はAIという言葉で皆さんは惑わされているかもしれませんが、AIとデータによって本質的に今起こっているのは、情報の識別と未来予測と目的が与えたことの実行の3つが出来るようになったことです。これの組み合わせにすぎません。
例えば、八百屋は「雨が降りそうだから出先の野菜のこれとそれを片付けて…」と行動しますが、これは、単に識別とか予測とかの話では解決しない、見立てと意志が組み合わさった、相当複合的な行動です。そういうことは、AIが出来る見込みは今のところ全くありません。これが事実であって、人間の活動をまるごとキカイに置き換えるのは無理なのです。
AIはもちろん間違う可能性はある
安宅 それからAIが間違う可能性についてですが、これはもちろん間違います。間違いますが、膨大なデータで訓練した特定の目的に関して言えば、おそらく人間より正しいです。
ただ、先ほど申し上げたような実態なので、例外的な状況については判断出来ず、間違う間違わないの前に判断が出来ません。
もう1つ、根本的に我々が考えないといけないリスクは、間違う間違わない以外にあります。今起こっているのはパラメーターがとても多い学習に基づく自動実行、自動判断です。ニューラルネットワークの中身はパラメーターが10万、100万単位で入っているので、中で何が起こっているかはよく分かりません。100個×100個ですぐに1万個になって、それが何十層につながっています。
そういう中身に何が入っているか分からないものに、我々が依存する社会がまもなく来るわけです。そうすると、完全にブラックボックス化します。暴走する可能性が実はあるわけです。
8年前のリーマン・ショックというのは、モデルに依存しきった我々の経済界がそのモデルの限界を知らずに依存していたことに因るわけです。今でも分かっていることはそれほどありません。
リーマン・ブラザーズだろうが、ゴールドマン・サックスだろうが、世界第一級クラスの企業のチーフトレーダークラスが、自分たちのモデルの限界について知らなかったわけです。例えば自分たちが依存しているモデルが1日5%以上相場が動くと実は暴走するということを知らなかったので、あのような結末になりました。
これと同じことが起こるかもしれません。あの時はモデルだったので中身を見たら分かりました。これからは中身を見ても分かりません。そのリスクはあります。それをどうするのかは、我々は解いていかないといけません。
なおかつ、そのような力を使って、新しいコンピュータウイルスを作ったり、逆に新しい脆弱性を発見したりすることが、今までとは比較にならない10万倍、100万倍のスピードで行われるようになります。
ですから、わけの分からないサイバーリスクが起こります。空間がほとんどサイバー化していくことだけは、IoTの文脈から明確です。今までは生活空間が把握できる範囲で、ほとんどALSOKがセキュリティをやっていればよかったのですが、これからは例えばこの会場でいえば、突然ハッキングされて窓が閉まって空調から55度の熱風が吹き込んで、会場全員が蒸し風呂になる可能性があるわけです。
そのようなリスクの中で、我々は生きる可能性があることは認識していた方がいいです。どうやって守るのかという課題があります。間違う間違わないよりも、そちらの方がよほど難しい問題です。
人間の本質は変わらない
安宅 それから、人間の争いについてですが、AIが入ってきたところで、人間の本質は変わるわけがないので、すぐにいじめを始めるみたいなことが起こります。
(会場笑)
車を持った瞬間に、毎日世界中で人を殺しているわけです。殺すために乗っているわけではなくて、結果的に殺しています。これまで述べてきたようなAIがでてきたからと言って、人を本質的に変えることは考えられません。
今、突然色々なことが回り始めているのは、コンピューティングパワーが劇的に良くなったということと、もう1つはデータのアベイラビリティがすごく上がったということです。
生命はデジタルである
安宅 これ以外に何か必要かというと、結局身体の話に戻っていきます。僕が生命科学者として、自分の生命観を振り返ると、学んだことで1番衝撃的だったのは、あらゆる生命がデジタルであるというのを学んだ瞬間です。
それは分子生物学ではそういう捉え方をしています。皆さんあまり気づいていないかもしれませんが、DNAで我々の遺伝情報がコードされているということは、0・1・2・3という4種類の組み合わせだけで、我々の全ての情報が出来ているということです。
つまり、1953年の発見の本当の意味は、生命はデジタルだったということで、いつか人が作るキカイに置き換えることが出来うるということを示しています。生命体そのものがある種の機械であることを証明してしまったわけです。
だから、我々が生命を創れるというのは、その時点から半ば証明されているので、やる気になれば実現出来ます。それは、今までのようなAIを創るようなアプローチでは全くない方法で、生命を創るアプローチを本来取り得るはずです。そこに飛躍すればかなり変わります。
実際にはその間に攻殻化（編集注：アニメ攻殻機動隊の世界のような電脳化やサイボーグ化）みたいなのが行われるのは、ほぼ確実です。
今も人工網膜を埋め込むと視力が再生するというのは海外の実験ですでにかなり行われはじめています。このように、人間が攻殻化するという流れは、ほぼ確実です。我々の足りない部品を強化する時代は必ず来ます。今のAIの技術かというと、また少し大分違った感じですね。
視力を10.5にしたかったら、網膜を「鷹バージョンにお願いします」と言って変えることが出来るようになります。「鷹バージョンは大変ですよ。モノを考えられなくなりますよ」と言われたものの変えてみると、本当に視覚に脳の全てが奪い取られて大変なことになるといったことが起こり得ます。
(会場笑)
そろそろ終わった方がいいようなのでまとめますと、大丈夫です。大丈夫ですが、大変な時代が来ます。大変な時代をどうやってワイルドに楽しんでいくというのが、我々に課されたチャンスであり、冒険であり、夢であると思っています。
AI時代の人間の役割は何か？
尾原 少なくとも、今日分かることは、これだけ頭のいい人たちが考えていて、これだけ楽観的にいられるというのは、この時代をチャンスとして楽しもうということだと思います。
最後に1つだけ質問して締めたいと思います。そういう時代が来たときに、人間の役割は何か？というのを1言ずつ話してもらって終わりたいと思います。
鈴木 今日は本をたくさん紹介したのですが、どういう意図かと言いますと、人の意見を聞いてもよく分からないので自分で考えようということです。
人によって答えも違うでしょうし、そういう答えの出ないような問いをするのが人間の性であり、役割なのではないかと思っています。一緒にそういう哲学をしていきましょう。
稲見 AIがどんどんブラックボックスになっていくというのは、たしかにその通りだと思いますが、ブラックボックスが何かと言えば、それは自然科学と変わらないわけです。
ミトコンドリアもAIも将来変わらなくなります。ミトコンドリアの中身が分からなくても、我々は信じていて、それでも暮らしていますよね。
先ほどのロバート・フックのお話に戻りますけど、彼も発見する中で、色々と楽しいものを見ました。つまり、我々もAIがあることによって、自然界とは別の発見する楽しみを見つけたかもしれないです。
人間が何をするかというと、きっとそういうものに対して楽しいと思い続けて、その楽しんでいる姿を後進の人に見せていくのが、役割ではないかと思っています。
福田 私は人間に固定された役割はないと思っています。車や蒸気機関車が誕生し、インターネットが発展し、そういった事象によって人間の生活が変わって、世界が変わって、人間の役割が変わってきました。
新しい環境になったときに、それをもって何が幸せか、そこで何をしたいと思うか、その環境における新たな人間の存在の意味を考えるというのが人間の役割ではないでしょうか。
元々定義された人間の役割はないと思っている研究者の立場からすると、また今日のような議論をやり直していく間に新しいやりたいことを発見し、それに向かってどんなAIが必要かを考え直すという、そういう繰り返しなのではないかと思っています。
安宅 難しい答えと簡単な答えがあります。
尾原 簡単な答えでお願いします(笑)。
安宅 簡単な答えで言うと、これから当面の間人間が明らかにやらないといけないのは、全体を総合的に見立てるということです。方向性を決めるような意思を必要とすることは人間がやらないといけません。
また、問いを投げかけるというのは、我々の重大な仕事として、相当長い間残るはずです。正しい時に、正しいタイミングで、正しい相手に、正しいことを聞くというのは、重大な能力であって、それこそが我々の重大な仕事になるだろうと想定されます。
キカイは人間の集まりを指導することは出来ないので、組織を率いたり、人の集団を率いたりするのは、人間の仕事として残ると思います。同じような話で、人を奮い立たせるというのは残ると思いますね。
難しい答えは…難しいからやめましょうかね(笑)。
テクノロジーによって人間の役割は再定義される
尾原 つまり、皆さん色々な角度から言っているけれども、結局同じことを言っていて、人間というのは、このテーマは発せられる前から再定義をされ続けているものということですよね。
モノを書くという文字を発明したときに、人間の記憶というものが再定義されたし、グーテンベルグの活版印刷によって知識が共有されるときも、人間が再定義されました。
稲見さんが言うように、VRが現れて、グーテンベルグの活版印刷のように誰もがインタラクティブを新しく創れる時代に突入する。こういう風に人間は、人間自身を再定義出来ることが1番の強みであって、人間の再定義というものを楽しむためには、問いをし続けることです。
問いをし続ける態度として楽観的にどうしたらいいのか、何を楽しみたいのかを決めることが、人間にとって、1番面白くて楽しいことなのではないかと思います。
まさに東京ではなくて京都において議論するのに相応しい宗教的な話で最後終わるわけですが…最後にもっていかれるのでしょうか。
安宅 最後に戻します(笑)。我々には、「感じる」ということだけが最後の最後には残ると思いますね。
尾原 ということで、感じましょう！”Don’t think, just feel”ということで終わります。有難うございました。
（終）
編集チーム：小林 雅／榎戸 貴史／戸田 秀成／藤田 温乃
【編集部コメント】
最後までお読みいただきありがとうございます！
更新情報はFacebookページのフォローをお願い致します。
