「AIはきっと暴走する」人工知能テクノロジーに対する楽観と悲観【K16-9A #5】 – INDUSTRY CO-CREATION

「AIはきっと暴走する」人工知能テクノロジーに対する楽観と悲観【K16-9A #5】

LINEで送る
Pocket

「AIや技術の進化によって人間はどのように再定義されるのか?」【K16-9AI】セッションの書き起し記事をいよいよ公開!6回シリーズ(その5)は、会場からの質問を受け付け、人工知能等のテクノロジーに対する悲観論と楽観論について会場全体で議論しました。参加者から鋭い質問が多く出ました。是非御覧ください。

日本アイ・ビー・エム株式会社はICCカンファレンス KYOTO 2016のプラチナ・スポンサーとして本セッションをサポート頂きました。「いまIBM Watsonが取り組んでいること」もぜひご覧ください。

watson_expertise_300x250

ICCカンファレンスは新産業のトップリーダー160名以上が登壇する日本最大級の招待制カンファレンスです。次回ICCカンファレンス FUKUOKA 2017は2017年2月21〜23日 福岡市での開催を予定しております。日本アイ・ビー・エム株式会社はICCカンファレンス FUKUOKA 2017のプラチナ・スポンサーです。

登壇者情報
Session 9A
AIや技術の進化によって人間はどのように再定義されるのか?
Supported by 日本アイ・ビー・エム株式会社
 
(スピーカー)
安宅 和人
ヤフー株式会社
チーフストラテジーオフィサー
 
稲見 昌彦
東京大学
先端科学技術研究センター
教授
 
鈴木 健
スマートニュース株式会社
代表取締役会長 共同CEO
 
福田 剛志
日本アイ・ビー・エム株式会社
東京基礎研究所 所長
理事 博士(情報科学)
 
(モデレーター)
尾原 和啓
Fringe81株式会社 執行役員

その1はこちらをご覧ください:「人間を定義することの意味とは何か?」スマートニュース鈴木氏が熱く語る【K16-9A #1】
その2はこちらをご覧ください:超人スポーツって何だ? 東京大学 稲見 氏が語る人間の機能拡張とは?【K16-9A #2】
その3はこちらをご覧ください:日本IBM 東京基礎研 福田所長が語るWatsonがもたらすコグニティブの時代と人間の変化【K16-9A #3】
その4はこちらをご覧ください:ヤフーCSO安宅氏が考える人工知能(AI)の課題【K16-9A #4】


尾原 ここから30分しかディスカッションと質疑応答の時間に残っていないのですが、濃密に議論をするために皆さんの関心の方向性を伺いたいと思います。

最初に伝えたように、2人ペアになって頂いて2分間、この荒唐無稽なフィールドの中で、何を1番感じて、何を1番聞きたいのかを話してみて下さい。

(参加者議論)

今日は登壇してもおかしくないような参加者がいらっしゃいますので、2人で話したことで、この話は全体で共有した方がいいというのを、他者指名制で挙手して頂ければと思います。

コンピューターが人間を支配する中での幸せとは?

質問者1 マイネットの上原と申します。私は、2045年を過ぎたら自己増殖をしていくコンピューターが人間を呑み込んでしまうのだという悲観的な考え方をしていたところがあります。

k16-s9a-22

上原 仁
株式会社マイネット
代表取締役社長
 
1974年生まれ。神戸大学経営学部卒業後、1998年NTTに入社し同社のインターネット事業開発に従事。2006年7月株式会社マイネット・ジャパン(現マイネット)を創業し同社代表に就任。自社のモバイルCRM事業を国内3万店舗まで育成した後にヤフーへ事業売却しスマホゲーム事業に注力。現在はゲームタイトル買収・再生のリーディングカンパニーとしてスマホゲームセカンダリ市場をリードする。

それが起こらないということの論拠が薄いと思っていて、コンピューターが人間を支配する状況になった先で、人間にとってハッピーな状態になるというのを描きたいと思っています。

悲観論を否定し切るような論拠があれば、知りたいです。

尾原 特に、聞いてみたい人はいますか? 安宅さんですね。あとでお話伺いますので、まだマイクは持っていて下さい。他に質問がある人はいますか?

質問者2 京都信用金庫に勤める増田(増田 寿幸 氏、京都信用金庫 理事長/京都経済同友会 代表理事)と申します。安宅さんがおっしゃったことにも関係するのですが、私のパートナーが言っていたことで、AIが我々の判断をサポートしてくれるとして、それを本当に信じていいのかという不安が生じないのかという話です。

k16-s9a-19

人類が当初自分の身体の感覚によって生活をしていた時代においては、仮に間違った結果になっても、全部自己責任で引き受けられると思います。ですが、AIのような技術にアシストされるようになり、その判断が間違っていた場合に、自分がAIのアシストを受けて決断したとしても、それが自己責任と言われたときに新しい不安感のようなものが社会に生じないかと思いました。

どなたでも結構ですので、そのようなことについて何かご見識があれば教えて下さい。

尾原 有難うございます。一旦、引き受けさせて頂きます。

テクノロジーによって人間の争いはなくなるのか?

質問者3 データ未来研究センターという京都大学でベンチャー企業を経営している小田です。僕はそんなに賢いわけではないので、小学生みたいな質問をしたいと思います。

k16-s9a-20

小田 雄一
株式会社データ未来研究センター
代表取締役CEO
 
京都大学大学院農学研究科博士課程満期取得退学。修士、博士課程在籍時にイスラエルへ渡航。ベンチャー精神にふれ起業を決意。京都大学VBLにて会社を設立、京都大学理学研究科花山天文台台長柴田一成教授(宇宙事業)、JAXA主幹研究員中野不二男(衛星データ)、京都大学医学研究科浜中雅俊研究員(人工知能)を顧問にむかえ研究開発を開始、CEOに就任。衛星データをディープラーニングにより解析する事業をおこなう。現在それらを用い、非GPS下におけるドローンの位置推定技術、3次元位置情報サービスを開発中。イスラエル・ヘブライ大学、アリエル大学と研究交流をもつ。好きな仏教者は法然、好きな寺は当麻寺。

人間の定義でいえば、僕は人間は争うものだと思っています。ずっと人間は争いをしてきて、テクノロジーが進化しても人間の争いは大小問わずあるわけです。こういう新しいテクノロジーが入ってきたときに、世の中ハッピーにしたいというのを僕はすごく感じます。

争う人間というのが、このテクノロジーによって、また更に争いを続けるのか、それとも違う争い方になったり、争いがなくなっていったりするのかという点について、見立てが聞きたいです。

僕の感覚としては、テクノロジーを使って、まだまだみんな争っているという印象なので、将来どうなるかを知りたいです。

テクノロジーの進化によって「人」の解明は進むのか?

質問者4 DeNAの川田です。すごく面白かったです。ここ最近のAIブームについては尾原さんともよく話をしますが、コンセプトとしては、僕らが20年くらい前に大学で研究していた頃とあんまり変わっていないながらも、コンピューティングパワーが圧倒的に伸びてきてディープラーニングが実現したという話だと思っています。

k16-s9a-21

川田 尚吾
投資家 / 株式会社ディー・エヌ・エー 顧問
 
1996年に東京都立大学大学院にて博士(工学)を取得後マッキンゼー・アンド・カンパニー入社。1999年にディー・エヌ・エーを共同創業。以降COOとしてサービス開発、システム開発の統括、営業部門立ち上げ、マーケティング統括など一連の事業立ち上げをリード。2008年に非常勤取締役、2011年より顧問(現任)。
現在は日米欧のスタートアップへの投資、支援を中心に活動。

先ほどの鈴木さんのお話の通り、身体性とコンピューティングがセットでないと、知能は出来上がっていかないと思っています。コンピューティングパワーはどんどん伸びると思うのですが、本当の知能を実現するために、身体性で必要なエンジニアリング領域が何かを知りたいです。

1つのハードウェア領域としては、VRがあると思うのですが、もっとケミカルやバイオロジーの技術がもう少し出て来ると、コンピューティングパワーと組み合わせて、人の解明が進むのかなと思っています。

尾原 まさか最後の質問でまとめてくれると思った川田さんにもっと広げられるということで、背中をうたれたような気分になっております(笑)。

(会場笑)

k16-s9a-18

結局、未来のテーマに対して、不安とどう向き合っていくかというのが皆さんの質問に表れてきたと思います。

そもそも、シンギュラリティのようなコントロールできないことが起こるのではないかという不安、そもそも、人工知能が進んでいったときに自己責任として回収できない、自分ではない自己が出来てきたときにその責任は誰が回収するのかという不安、人工知能が発達していったときに人間はどう変わっていくのか、争い続けるのか平和になるのかという幸せの再定義という不安、この3つが出てきたわけです。

これらに対して共通するところは、登壇者の人がなぜ楽観的でいられるかという点だと思っていて、その点をショートコメントで、登壇者の方に伺っていきたいと思います。技術がなぜ人を不安に陥れず楽観的に構えていられるのかということを伺いたいです。

稲見 まず、私は技術を人間の野性だと思っています。アンディ・クラークの著書「生まれながらのサイボーグ」でも語られているのですが、野性としての人間の営みの1つですので、ただ単に身体の一部に過ぎないかもしれないと思っています。

また、仮にAI的な人工システムが出来たとしても、結果的に人と人工物のハイブリッドのシステムが、人だけ、あるいは人工物だけよりもプラスになる可能性が高いと楽観的に捉えています。

k16-s9a-17

1980年代は、ARといえばArtificial Realityの略だったのですが、今はAugmented Realityの略称と言われるようになりました。AIはArtificial Intelligenceのままのわけですが、早くAugmented Intelligenceになってほしいと思います。

尾原 結局AIは人間と技術のハイブリッドで、人間の中に眠る少しコントロール出来ない野性のようなものだから、結果的にはコントロール出来て収まっていくだろうということですよね。

でも、先ほどの不安の話は、人間と離れた存在として暴走するかもしれないという問題ですよね。自動運転する車が人をひいてしまったときに、それは運転していた技術側にいる人のせいなのかという問題については、どういう風に思いますか?

福田 AIに頼るか、他人に頼るかというのは基本的には同じ話だと思います。誰か運転手を雇って、運転してもらったときに、その人が運転をして事故を起こしたら誰の責任かという話と同じですよね。

あるいは、AIのアドバイザーにアドバイスをもらうのと、コンサルタントにアドバイスをもらうのとでは、本質的に違いはないと思います。

そのアドバイスに対して100%合意して財産をかけるのか、あるいは他の意見も聞くのかというのは、本人の責任です。

少し突き放した言い方なのですが、AI固有の問題ではなく、何をもって自分自身が行動するかという話で、普遍的な話題かと思います。

それに対して、社会として、法律としてどう考えるかという話ですと、今は車を運転していれば、運転手が悪いと決められていますが、そういう点での見直しは必要になってくるかもしれません。ただし申し上げたように、AIになったからといって、基本的な違いはないのではないかと思います。

尾原 短期的な視野で見たときの、AIと人間の関係は、あくまで他者であり、他者である以上は、責任論が明確になってコントロール出来る範囲だろうという話ですよね。

鈴木さんは、思考の範囲の射程距離が1番長い人で、人間自体が細胞の1つとして多細胞になっていくといった未来観があったかと思いますが、参加者から出てきた不安に対してはどのように考えていますか?

鈴木 そうですね。僕は60兆個くらいの細胞で出来ていて、皆さんも同じくらいの数の細胞だと思います。それに含まれている原子や分子レベルは1年もすると完全に入れ替わっています。

そう考えると、私とは何かという話になるわけです。そこに少しくらい機械が混ざっていてもそう変わらないだろうなと思います。

今までの社会がそんなに素晴らしいものだったかを考えると、人間が創り出して、制御出来ているのか出来ていないのかよく分からない仕組みはたくさんあります。

k16-s9a-30

例えば、貨幣とか資本主義ですね。これはコントロール出来ているのでしょうか。あるいは、民主主義と国民国家はコントロール出来ているのでしょうか。かなり暴走することがありますよね。

なんとなくコントロール出来ている気がするのだけれども、時々すごく暴走するという感じですよね。

おそらくAIに関しても、そのような感じになるのではないかと思っていて、そうすると、ある種 僕らが世界の豊穣さに依存していて、ある地点までいくとシステムが戻してくれるみたいな働きがあります。

資本主義は、最初から様々な理論があったわけではありません。色々な恐慌や破綻が起こり、その中でマルクス経済学、一般均衡理論、厚生経済学、ファイナンス理論など色々な経済理論が出てきて、理論が洗練されていき仕組みが分かってきましたが、それでもまだコントロール出来ない状況ですよね。AIに関しても、そういう状況になると思っています。

僕は、周りに思われるよりも、悲観的です。基本的に悲観的なのですが、この変化の時代に自身が関与することを通して、何か変わるのではないかという思いで、研究だけではなく実装もやりたいと思って取り組んでいます。

尾原 つまり、人間というのは哺乳類以降、群れで進化する生き物で、特に人間というものは、群れに対して群れとしての個性を与えてきましたよね。国家であったり会社であったりします。

そもそも群れ自体が、アンコントローラブルなものですが、その中に自律的なものが含まれていくから必ずいい方向にいくだろうということですよね。

この登壇者の方々が、なぜ想像力が豊かかというと、最も悲観的に想像するから想像力が豊かで、自分でいい方向に持っていくということで楽観的になることを決めているということですよね。なので、それは楽観的になれる、なれないというより、なると決めているわけですね。

(続)

続きは 人工知能(AI)時代に再定義される人間の役割とは?【K16-9A #6】 をご覧ください。

編集チーム:小林 雅/榎戸 貴史/戸田 秀成/藤田 温乃


【編集部コメント】

続編(その6)では、人工知能等のテクノロジーがもたらす人間の役割の変化についてお話を頂きました。非常に考えさせられる締めくくりとなりました。是非ご期待ください。感想はぜひNewsPicksでコメントを頂けると大変うれしいです。

更新情報はFacebookページのフォローをお願い致します。

LINEで送る
Pocket

ICCパートナーズ

ICCパートナーズ

ICCパートナーズ(ICC Partners Inc.)は産業を共に創る経営者・経営幹部のためのコミュニティ型カンフ ァレンス「Industry Co-Creation(ICC) カンファレンス」の企画・運営および新規事業創出・アライアンスなどのアドバイザー業務を行っています。