▶平日 毎朝7時に公式LINE@で新着記事を配信しています。友達申請はこちらから！
▶ICCの動画コンテンツも充実! Youtubeチャネルの登録はこちらから！
2016年に配信した、AI（人工知能）に関する議論を総特集いたします。今回は、ICCカンファレンス TOKYO 2016から、AI時代を見据えた問いを第一線の研究者たちが議論したセッションを4回に再編集してお届けします。AI特集（その2）は、人工物と人間の境界を探り、人間の役割はどう変わるのか？といった点を議論しました。ぜひご覧ください。
ICCカンファレンスは新産業のトップリーダー160名以上が登壇する日本最大級のイノベーション・カンファレンスです。次回 ICCカンファレンス KYOTO 2017は2017年9月5〜7日 京都市での開催を予定しております。
▼
登壇者情報
2016年3月24日開催
ICCカンファレンス TOKYO 2016
Session 3B
最先端研究の動向（人工知能 コグニティブ IoA)
（スピーカー）
武田 浩一
日本アイ・ビー・エム株式会社 技術理事
松尾 豊
東京大学大学院 特任准教授
暦本 純一
東京大学大学院情報学環 教授/ソニーコンピュータサイエンス研究所副所長
（モデレーター）
田川 欣哉
Takram 代表
▲
【前の記事】
【本編】
田川 ちょっと議論を少しずつスライドさせていきたいと思います。
最近、人間自身の自己の感覚の中で、例えば、分人のようなキーワードが出てきたり、暦本先生の研究の中でも、人間の持っている能力をアビリティーという言葉で一般化されています。人工物でも人間でも、そういう一般化をしたところでつなげると、価値の結びつきが出てくるだろうという考え方があります。
人工物の輪郭や、人間の輪郭が技術によって解きほぐされはじめている。分解されて再構成されるという時代に入りつつあるのかなと思うんですね。
暦本先生にひとつですね、今ご自身の仕事の中で、一番これがテンション上がっているんだというのを事例として紹介して頂きつつ、そこら辺の話を少し教えて頂ければなと思うんですが、いかがでしょうか。
人工物と人間の境界は？
暦本 そうですね。先ほどもお話しましたが、研究室でテレプレゼンス的に人間をほかのものとつなぐというデモをしていて「ドローンにジャックインします」とか「ドローンが振り向くと自分が見えました」とか、体外離脱して自分が外から見えるっていう体験してもらったりします。
これは割と驚いてもらおうとデモンストレーションの目的でやるんですが、自己の境界が変化する体験が本質かなと思っています。
つまり私という輪郭がありますよね。でもその私という輪郭はテクノロジーによって溶けちゃうんですね。そして、他人とつながると、どこまで自分かどこまで相手か分からないとか、相手は実はロボットだったのかもしれないとか、SelfとOtherという関係を、割とある意味再定義してしまうこと出来るし、コントロールすることも出来る。
余談ですが、人工知能を「人」の「口」と書くの間違いですよね。
よくある典型的な変換間違えですけど、逆にそれも面白いと思います。つまり、人「口」知能は「クラウドインテリジェンス」という意味になる。
1万人くらいの人間やAIがつながった状態の知能はどうあるべきかみたいなことって、面白いなって思っています。
アリやハチは実はそういう生命体ですね。スーパーオーガニズム（超個体）といって、アリ1匹の能力は限られているけれども、数万匹のアリのクラウドは驚くべきことをする、集団としてかなりの知的な行為をするということがあります。人間という個体がさらに超個体化することになるかもしれない。
哲学的なんですけど面白いなと思っています。
田川 月に行った人が新たな一体感覚みたいなものに目覚める話をよく聞くんですけど、ああいう啓示体験みたいなのってあるんでしょうか？
暦本 「サロゲート」が面白いです。
▶ 映画「サロゲート」／脳波で遠隔操作できるロボット
「サロゲート」は何かっていうと、人間にiPad(FaceTime)を被らせて顔を出して、他人の「サロゲート」になって、ネットワーク上に置いて、ネットワーク背後から、右行けとか左行けとか言うと。要するに、完全な制御ロボットみたいにすると、意外に楽しいということが分かります（笑）。
（会場笑）
暦本 何て言うんでしょう、人間の自由意志は結構大変だったんだな、と。
だから、完全に受動体になって、もうロボットみたいに右行け左行けに、ハイハイハイと行くと、結構人間は何も考えないのも気楽でいいなということを思ってしまいます（笑）。
（会場笑）
暦本 これってどうしようと、逆の意味で感じますよね。我々は生きていて、普通に自分で判断して、セルフコンシャスで、フリーウィル（自由意志）でという自立した人間がいいと思っているけど、結構バラバラにすると実は違うところの価値があるかなと思うところがあります。
田川 なるほど、面白い話ですね。松尾さんの方はどうですか。
人間自身については、そもそもどう思われますか？
例えば、人間の限界みたいなところとか、知能の話とかみたいなところで考えたときに、そこをたぶん暦本先生は紐解いていって、再構築して逆転させたりということで、新しい可能性を探っていらっしゃるような気がするんですけど。
松尾 そうですね。
まず、電卓はすごいですよねというのがあります。計算めっちゃ速いですよね。人間絶対勝てないじゃないですか。
で、それがですね、囲碁とかになると、「おぉ」となる訳ですよね。
だから、何て言うんですかね、別に違うものだし、コンピューターの方がいくらでも速くすることは出来るので、原理さえ分かれば工学的にすごいものは作れるはずなんですね。
だから、人は鳥のように飛びたかった訳ですけれども、「飛ぶ」という原理、揚力をどうやって得るのかという原理が分かると、飛行機を作れることができるわけです。
それで何百人も乗せて飛ばせたりする訳です。そういうことが、知能の世界でも起こると思ってるんですよね。
で、そのことと鳥を知りたいというのはちょっと違う話です。
もちろん鳥の場合は主要機能は飛ぶということで、人間の場合は知能というのをすごい競争力にしているから、そこの原理を知りたいというのはありますけど、工学的な応用範囲はかなりすごい広いと思います。
一方で、人間の感情とか本能みたいなものは、これはもう進化の過程で相当つくりこまれているので、単一の原理があるというよりは、なんかその方が生存確率が上がったからそうなっているということがすごくたくさんあると思うんですね。
尖っているものを持つとなんか嫌な気がするとか、高い所に登ると怖い気がするとかですね。
高い所に登ると怖い気がするとか、すごいよく出来ているなと思ってですね。
強化学習しようとすると、死んじゃうじゃないですか。落ちられないはずなんですけども、落ちられないにも関わらず、高いかどうかっていうのはかなりハイレベルな認知のはずです。それ（高さ）が分かると怖い気がするような人が生存確率が高いから、そういう風になっている訳ですよね。だから、すごくよく出来ているんですよ。
そういう例であるのがですね、格闘技で何でもありなルールのものがありますよね、金網の中で。
あれでも、目潰しと急所攻撃は禁止しているんですよ。なぜかと言うと、卑怯な感じがするんですよね（笑）。
（会場笑）
松尾 なんか目を潰すとか急所とかって、男同士の戦いとしてなんか卑怯な気がするんですよね。
卑怯という感覚は何かと言うと、結局、動物の時代の戦いとは、いい遺伝子を判定するためにやっている訳なんで、その戦いの最中に急所攻撃してしまったら、これ意味がない訳ですよ（笑）。
（会場笑）
田川 フィードバックがかかんないですよね（笑）。それをやり続けるだけの人も…
松尾 意味がないっていうことを実装するのに、卑怯という感覚を植え付けていて、すごくよく出来ているな～と思っていて。
田川 卑怯という感覚が人間を進化させてきたと。
松尾 そうそうそう。そういう感覚を持っていた方が生き残ってきたから、卑怯という感覚を持ってる訳です。
それは完全につくりこみの世界なんですね。知能の原理と飛行機が飛ぶメカニズムの話と、卑怯みたいなものとか高い所みたいなつくりこみの世界は全然違っています。
人間の場合は、こういう大きな知能の原理はあるんだけれども、細かい作りこみで人間が出来ている。
作りこみのところは、決して真似出来ない世界だと思っています。
田川 面白いですね。武田さんはどうですか。人間と知性とか知能とかっていうところでいくと。
武田 そうですね。Watsonのような技術をエンタープライズソリューションとして使えるものにするという比較的短期的な仕事をしていますから、そういう体験で思うのは、例えば個人の遺伝子の変異や多型ですね。
一人の遺伝子をシーケンシングすると、10万とか1000万個くらいの遺伝子の変異や多型が見つかって、それを見たときに、人は一人ひとりが全部違うという認識ですよね。
これまでの医療は、多分最大公約数に対して効き目があるということを主に考えてきたと思います。ただ教育と医療は、結局究極的にはどんどんパーソナライズしていくとすると、本当にひとりずつ違う教育や、一人ひとり違う医療に進んでいっているんですけれども、そのある意味、工学的な効率を考えた最大公約数のアプローチと、現実の人間が一人ずつ違うというところのギャップにすごく関心があります。
それと、対話機能を実現すると、ヒューマノイドロボットとかアンドロイドが、いきなり人に違う感じで接するように感じられるんですよ。リアルすぎて気持ち悪かったものがすごく親しげだったり、人に話せなかったことが何でも話せるようになったりとか、その変化が人というものに対する道具としての、いわゆる人工知能というものが、これまでの知見と違う本来の人の本質的なところが、インターフェースとかコミュニケーションとか色んなところに出てくるのを観察出来るのがすごく面白いな、と思います。
田川 なるほど、今ちょっと話が出てきたところで、お三方どなたでもいいんですけど、ちょっと教えて頂きたいのが、なんとなくお話を聴いていると、人間とAIのようなものは、すみ分けというか役割分担があって、そこは残るものは残っていくだろう、と。
その中でハイブリッドになるタイプもあると思うんですけど、そういう意味で、僕らは今萌芽が始まったそういったものを、道具として思っていていいんですかね。
というところについて、どう思われますか。例えば、対話する…武田さんが最後道具という言葉をお使いになりましたけれども、道具だと思い続けていいんでしょうか。それは違う何か、言葉が必要になってくるんでしょうか。
松尾 いや、道具じゃないですかね。
田川 それが聞きたかったです、なるほど。
松尾 僕はよく知能と生命は違うんだって言うんです。
先ほどの話と近いですけど、知能というのは目的が与えられたときに、それを達成する問題解決の力を指していると。一方で、生命というのは目的を持っていて、自分を残したいとか、子孫を残したいとか、それから仲間を助けたいとかそういう目的がある。
それは長い進化の中で、そういう目的を持っていない人は滅んできたので、今の生命はそういう目的を持っていると。人間の場合は、生命の目的を、知能を使って非常に高いレベルで達成する。
人工知能の技術は、知能の技術なので、問題解決の技術ですね。そうすると、それは道具ですよね。それが一定のレベルを超えると、いきなり生命的な目的を持つというのは、僕はないのではないかと思っていまして…
田川 それは断絶があると。
松尾 その意識を持って人間を襲うというのはないと。その代わり…いや絶対ないかと言われると…
田川 起こっちゃったらどうします？あの時言っていたじゃないですか、襲わないと言ってたじゃないですかって（笑）
（会場笑）
松尾 それは分かんないですけど、そのリスクよりも、悪い人が悪い目的で人工知能を使うリスクの方が、よっぽどリアリティーがあるんですよ。
田川 そうですよね、武器と火のようなものですよね。
松尾 犯罪と軍事なんですよね。これはすごく怖いと思いますよ。だから、これに関してはちゃんと議論した方がいいけど、人工知能が人間を襲い始めるのは…
田川 それは多分あれなんですよ、悪の人工知能で強化された軍隊と、善の人工知能で強化された軍隊が戦うみたいな…（笑）
（会場笑）
松尾 で、ところが、善悪というのが分かりやすければいいんですけど、やっぱり人間社会は色んな価値観の人がいて、例えば、自動運転で事故起こしたらどうするんですか？というのをよく議論されますよね。
僕がいつも言うのは、では制限速度を時速10キロにすればいいじゃないですかと言うんですよね。つまり、制限速度 時速10キロにしたら誰も死なないですよ、と。
だけど、多分、制限速度10キロだと人はあんまり車に乗りたくないんですよね。
これは結局どういうことかというと、安全性と利便性というのがトレードオフになっていて、本質的に、どっちかを上げるとどっちかが下がるんですよ。
今までは、制限速度をなんとなく時速60キロと適当に決めていて、皆安全運転しましょうよと言って、なんとかごまかして来た訳ですけども、本質的にはトレードオフの曲線のどこを選択するのかっていうのを社会で決めないといけないんですね。
これは今までだったら、色んな問題で時速60キロを時速50キロにするのか、時速100キロにするのかというのは、結構難しかったかもしれないですけど、今後は自動運転になる訳だから、時速10キロにしようが時速60キロにしようが時速300キロにしようが、これは設定次第でいくらでも出来るんですよね。
ということは、人の命と経済の効率というのがどこらへんでバランスすればいいの？という、非常に難しい問題を社会で決めていかないといけなくなる。
そこが人工知能が普及してきたときの、多分一番重要な社会的課題であるとか、社会の役割になってくるんじゃないかと僕は思いますね。
田川 なるほどね、有難うございます。
そしたらですね、ちょっと白熱してきている感じなんですけど、もう一歩ちょっと踏み込んで…逆に反論の方いらっしゃいますか。道具じゃないだろという。
道具が人間を発明した
暦本 A・C・クラーク(アーサー・チャールズ・クラーク)というSF作家が、50年くらい前に書いた「未来のプロファイル」という未来予測本があります。
「充分に発達した技術は魔法と区別がつかない」という有名なフレーズが掲載されている本なんですけど、そこにも実は道具と人間について書いてあるんですね。
そこで面白いのは、「人間が道具を発明したのではなく、道具が人間を発明したと」と書いてあるんですよ。つまり、作った道具によって、我々が逆に再定義されている訳ですね。
田川 メディアっぽい感じですね。
暦本 はい。それはでも、ある面の真実だと思います。ケビン・ケリーが提唱してる「テクニウム」という概念があります。テクノロジーと人間は生態系でありお互いが共進化しているという発想です。そうするとやっぱり、作ったものによって我々自身が変わってしまうということも含めての道具だと思います。
田川 なるほど。松尾さん、どうですか。どんどん言って下さい、言いたいことがあったら。
松尾 道具じゃない時代もあるにはあって、ちょっと近いと思うんですけど、多分そのうちですね、手を怪我すると義手つけたり、肝臓壊れると人工肝臓を入れるじゃないですか。
すると部分的にロボットの人が出てくるんですよね。部分的にロボットの比率が高まっていって、60％ロボットですとか、100％ロボットですとなってくると、ほぼもう元人間なんだけども、今は100％ロボットです、みたいな（笑）。
田川 “元”人間（笑）。攻殻機動隊ですね（笑）。
（会場笑）
松尾 そういうのが出てきたときに、じゃあこいつどうすんだみたいな、なんか権利がないと悲しいと言ってるぞ、みたいなときに初めて、じゃあちょっとこういうロボットも人間扱いしないといけないね、みたいになってくるとは思いますね。
田川 今の話は面白いですね。生身の人間が、徐々に置き換わりながらいった先に、人工物と生命と不可分な、それを踏み越えちゃう人たちが出てきて、そこで初めてそういうものが社会的に…
松尾 そうじゃない限りは、今だって別に、犬とかに権利をあげてもいいはずなのにあげてない訳で、それは文句言わないからですよということだと思うんでよね。
徐々に変わっていく人がいて、すごく文句言われると、ちょっと考えようかみたいなことになる訳ですよ。
田川 僕もちょっと聞きたいことが大分はっきりしてきました。AIは道具だろう、というときに、2つ質問しますね。どなたに答えて頂いてもいいんですけど。
聞いていくと、道具は道具なんだけど、先ほど暦本先生もおっしゃっていたように、道具側が人間を擬似進化させるようなシナリオもあるから、それは相互関係の話だよね、と。
主客がある訳ではないよねという相対観をお持ちなんだと思うんですけど。
とはいえ、AIが「One of 道具」だとしたら、何でみんなこんなに、議論が社会的に巻き起こっているのかという現象を、ちょっと引いて見る必要があると思います。
人工物と人間の関係を考えるときに、人間機械系みたいな話をしますけど、例えば機械人間系だったりとか、人間機械機械系だったりとか、人間人間機械機械系だったりとかっていうのが、今まではある程度、いち人工物と人間の紐付きというのはありましたが、ネットワーク化したりとか、チェーン化していくというのが、猛烈に進むんじゃないかと思っていています。
（続）
続きは 〔AI特集〕AI時代において生き残るために必要なのは人間力 をご覧ください。
▶平日 毎朝7時に公式LINE@で新着記事を配信しています。友達申請はこちらから！
▶ICCの動画コンテンツも充実! Youtubeチャネルの登録はこちらから！
編集チーム：小林 雅／榎戸 貴史／戸田 秀成／藤田 温乃
【編集部コメント】
続編(その3)では、AI時代に本当に必要になる能力について議論しました。是非ご期待ください。
更新情報はFacebookページのフォローをお願い致します。
