▶平日 毎朝7時に公式LINE@で新着記事を配信しています。友達申請はこちらから！
▶ICCの動画コンテンツも充実! Youtubeチャネルの登録はこちらから！
「AIや技術の進化によって人間はどのように再定義されるのか？」【K16-9AI】セッションの書き起し記事をいよいよ公開！6回シリーズ(その6)は、人工知能等のテクノロジーがもたらす人間の役割の変化についてお話を頂きました。非常に考えさせられる締めくくりとなりました。是非御覧ください。
日本アイ・ビー・エム株式会社はICCカンファレンス KYOTO 2016のプラチナ・スポンサーとして本セッションをサポート頂きました。「いまIBM Watsonが取り組んでいること」もぜひご覧ください。
ICCカンファレンスは新産業のトップリーダー160名以上が登壇する日本最大級のイノベーション・カンファレンスです。次回 ICCカンファレンス FUKUOKA 2018は2018年2月20日〜22日 福岡市での開催を予定しております。
▼
【登壇者情報】
Session 9A
AIや技術の進化によって人間はどのように再定義されるのか？
Supported by 日本アイ・ビー・エム株式会社
(スピーカー)
安宅 和人
ヤフー株式会社
チーフストラテジーオフィサー
稲見 昌彦
東京大学
先端科学技術研究センター
教授
鈴木 健
スマートニュース株式会社
代表取締役会長 共同CEO
福田 剛志
日本アイ・ビー・エム株式会社
東京基礎研究所 所長
理事 博士(情報科学)
(モデレーター）
尾原 和啓
Fringe81株式会社 執行役員
▲
▶「AIや技術の進化によって人間はどのように再定義されるのか？」配信済み記事一覧
【前の記事】
【本編】
尾原 最後に、人間が望まないものだからシンギュラリティは起こらないと片付けていいのかという点で、安宅さんは何かありますか？
安宅 いくつも質問があったのですが、なぜ人間にAIが置き換えられないのか？という質問に対しては、置き換えられないから置き換えられないというのが、本能的な答えです。
AIには「肉体」がない
これは、川田さんのお話に繋がっていくのですが、本質的に、肉体がないというのが根本的な理由です。
肉体がないために、生存本能がありません。例えば、ミミズですら、肉体があって、嫌なものは嫌だと反応します。生命というものは、そういうものです。大腸菌もそうで、嫌なものは嫌で、逃げます。
でも、機械はそういうものがないので、自分を守るように行動しろという設定を埋め込まない限りは、意思の発生が起きる可能性はゼロです。身体性がないというのが本質的な根拠です。それがないために、意思が生まれないし、身体がないので、そもそも判断が出来ないというのは大きな点です。
今はAIという言葉で皆さんは惑わされているかもしれませんが、AIとデータによって本質的に今起こっているのは、情報の識別と未来予測と目的が与えたことの実行の3つが出来るようになったことです。これの組み合わせにすぎません。
例えば、八百屋は「雨が降りそうだから出先の野菜のこれとそれを片付けて…」と行動しますが、これは、単に識別とか予測とかの話では解決しない、見立てと意志が組み合わさった、相当複合的な行動です。そういうことは、AIが出来る見込みは今のところ全くありません。これが事実であって、人間の活動をまるごとキカイに置き換えるのは無理なのです。
AIはもちろん間違う可能性はある
安宅 それからAIが間違う可能性についてですが、これはもちろん間違います。間違いますが、膨大なデータで訓練した特定の目的に関して言えば、おそらく人間より正しいです。
ただ、先ほど申し上げたような実態なので、例外的な状況については判断出来ず、間違う間違わないの前に判断が出来ません。
もう1つ、根本的に我々が考えないといけないリスクは、間違う間違わない以外にあります。今起こっているのはパラメーターがとても多い学習に基づく自動実行、自動判断です。ニューラルネットワークの中身はパラメーターが10万、100万単位で入っているので、中で何が起こっているかはよく分かりません。100個×100個ですぐに1万個になって、それが何十層につながっています。
そういう中身に何が入っているか分からないものに、我々が依存する社会がまもなく来るわけです。そうすると、完全にブラックボックス化します。暴走する可能性が実はあるわけです。
8年前のリーマン・ショックというのは、モデルに依存しきった我々の経済界がそのモデルの限界を知らずに依存していたことに因るわけです。今でも分かっていることはそれほどありません。
リーマン・ブラザーズだろうが、ゴールドマン・サックスだろうが、世界第一級クラスの企業のチーフトレーダークラスが、自分たちのモデルの限界について知らなかったわけです。例えば自分たちが依存しているモデルが1日5%以上相場が動くと実は暴走するということを知らなかったので、あのような結末になりました。
これと同じことが起こるかもしれません。あの時はモデルだったので中身を見たら分かりました。これからは中身を見ても分かりません。そのリスクはあります。それをどうするのかは、我々は解いていかないといけません。
なおかつ、そのような力を使って、新しいコンピュータウイルスを作ったり、逆に新しい脆弱性を発見したりすることが、今までとは比較にならない10万倍、100万倍のスピードで行われるようになります。
ですから、わけの分からないサーバーリスクが起こります。空間がほとんどサイバー化していくことだけは、IoTの文脈から明確です。今までは生活空間が把握できる範囲で、ほとんどALSOKがセキュリティをやっていればよかったのですが、これからは例えばこの会場でいえば、突然ハッキングされて窓が閉まって空調から55度の熱風が吹き込んで、会場全員が蒸し風呂になる可能性があるわけです。
そのようなリスクの中で、我々は生きる可能性があることは認識していた方がいいです。どうやって守るのかという課題があります。間違う間違わないよりも、そちらの方がよほど難しい問題です。
人間の本質は変わらない
安宅 それから、人間の争いについてですが、AIが入ってきたところで、人間の本質は変わるわけがないので、すぐにいじめを始めるみたいなことが起こります。
(会場笑)
車を持った瞬間に、毎日世界中で人を殺しているわけです。殺すために乗っているわけではなくて、結果的に殺しています。これまで述べてきたようなAIがでてきたからと言って、人を本質的に変えることは考えられません。
最後の川田さんの質問ですが、今、突然色々なことが回り始めているのは、川田さんが言われた通り、コンピューティングパワーが劇的に良くなったということと、もう1つはデータのアベイラビリティがすごく上がったということです。
生命はデジタルである
これ以外に何か必要かというと、結局身体の話に戻っていきます。僕が生命科学者として、自分の生命観を振り返ると、学んだことで1番衝撃的だったのは、あらゆる生命がデジタルであるというのを学んだ瞬間です。
それは分子生物学ではそういう捉え方をしています。皆さんあまり気づいていないかもしれませんが、DNAで我々の遺伝情報がコードされているということは、0・1・2・3という4種類の組み合わせだけで、我々の全ての情報が出来ているということです。
つまり、1953年の発見の本当の意味は、生命はデジタルだったということで、いつか人が作るキカイに置き換えることが出来うるということを示しています。生命体そのものがある種の機械であることを証明してしまったわけです。
だから、我々が生命を創れるというのは、その時点から半ば証明されているので、やる気になれば実現出来ます。それは、今までのようなAIを創るようなアプローチでは全くない方法で、生命を創るアプローチを本来取り得るはずです。そこに飛躍すればかなり変わります。
実際にはその間に攻殻化（編集注：アニメ攻殻機動隊の世界のような電脳化やサイボーグ化）みたいなのが行われるのは、ほぼ確実です。
今も人工網膜を埋め込むと視力が再生するというのは海外の実験ですでにかなり行われはじめています。このように、人間が攻殻化するという流れは、ほぼ確実です。我々の足りない部品を強化する時代は必ず来ます。今のAIの技術かというと、また少し大分違った感じですね。
視力を10.5にしたかったら、網膜を「鷹バージョンにお願いします」と言って変えることが出来るようになります。「鷹バージョンは大変ですよ。モノを考えられなくなりますよ」と言われたものの変えてみると、本当に視覚に脳の全てが奪い取られて大変なことになるといったことが起こり得ます。
(会場笑)
そろそろ終わった方がいいようなのでまとめますと、大丈夫です。大丈夫ですが、大変な時代が来ます。大変な時代をどうやってワイルドに楽しんでいくというのが、我々に課されたチャンスであり、冒険であり、夢であると思っています。
AI時代の人間の役割は何か？
尾原 少なくとも、今日分かることは、これだけ頭のいい人たちが考えていて、これだけ楽観的にいられるというのは、この時代をチャンスとして楽しもうということだと思います。
最後に1つだけ質問して締めたいと思います。そういう時代が来たときに、人間の役割は何か？というのを1言ずつ話してもらって終わりたいと思います。
鈴木 今日は本をたくさん紹介した(「人間を定義することの意味とは何か？」スマートニュース鈴木氏が熱く語る を参照)ですが、どういう意図かと言いますと、人の意見を聞いてもよく分からないので自分で考えようということです。
人によって答えも違うでしょうし、そういう答えの出ないような問いをするのが人間の性であり、役割なのではないかと思っています。一緒にそういう哲学をしていきましょう。
稲見 AIがどんどんブラックボックスになっていくというのは、たしかにその通りだと思いますが、ブラックボックスが何かと言えば、それは自然科学と変わらないわけです。
ミトコンドリアもAIも将来変わらなくなります。ミトコンドリアの中身が分からなくても、我々は信じていて、それでも暮らしていますよね。
先ほどのロバート・フックのお話に戻りますけど、彼も発見する中で、色々と楽しいものを見ました。つまり、我々もAIがあることによって、自然界とは別の発見する楽しみを見つけたかもしれないです。
人間が何をするかというと、きっとそういうものに対して楽しいと思い続けて、その楽しんでいる姿を後進の人に見せていくのが、役割ではないかと思っています。
福田 私は人間に固定された役割はないと思っています。車や蒸気機関車が誕生し、インターネットが発展し、そういった事象によって人間の生活が変わって、世界が変わって、人間の役割が変わってきました。
新しい環境になったときに、それをもって何が幸せか、そこで何をしたいと思うか、その環境における新たな人間の存在の意味を考えるというのが人間の役割ではないでしょうか。
元々定義された人間の役割はないと思っている研究者の立場からすると、また今日のような議論をやり直していく間に新しいやりたいことを発見し、それに向かってどんなAIが必要かを考え直すという、そういう繰り返しなのではないかと思っています。
安宅 難しい答えと簡単な答えがあります。
尾原 簡単な答えでお願いします(笑)。
安宅 簡単な答えで言うと、これから当面の間人間が明らかにやらないといけないのは、全体を総合的に見立てるということです。方向性を決めるような意思を必要とすることは人間がやらないといけません。
また、問いを投げかけるというのは、我々の重大な仕事として、相当長い間残るはずです。正しい時に、正しいタイミングで、正しい相手に、正しいことを聞くというのは、重大な能力であって、それこそが我々の重大な仕事になるだろうと想定されます。
キカイは人間の集まりを指導することは出来ないので、組織を率いたり、人の集団を率いたりするのは、人間の仕事として残ると思います。同じような話で、人を奮い立たせるというのは残ると思いますね。
難しい答えは…難しいからやめましょうかね(笑)。
テクノロジーによって人間の役割は再定義される
尾原 つまり、皆さん色々な角度から言っているけれども、結局同じことを言っていて、人間というのは、このテーマは発せられる前から再定義をされ続けているものということですよね。
モノを書くという文字を発明したときに、人間の記憶というものが再定義されたし、グーテンベルグの活版印刷によって知識が共有されるときも、人間が再定義されました。
稲見さんが言うように、VRが現れて、グーテンベルグの活版印刷のように誰もがインタラクティブを新しく創れる時代に突入する。こういう風に人間は、人間自身を再定義出来ることが1番の強みであって、人間の再定義というものを楽しむためには、問いをし続けることです。
問いをし続ける態度として楽観的にどうしたらいいのか、何を楽しみたいのかを決めることが、人間にとって、1番面白くて楽しいことなのではないかと思います。
まさに東京ではなくて京都において議論するのに相応しい宗教的な話で最後終わるわけですが…最後にもっていかれるのでしょうか。
安宅 最後に戻します(笑)。我々には、「感じる」ということだけが最後の最後には残ると思いますね。
尾原 ということで、感じましょう！”Don’t think, just feel”ということで終わります。有難うございました。
（終）
編集チーム：小林 雅／榎戸 貴史／戸田 秀成／藤田 温乃
【編集部コメント】
最後までお読みいただきありがとうございます！感想はぜひNewsPicksでコメントを頂けると大変うれしいです。
更新情報はFacebookページのフォローをお願い致します。
