11. 2025年の生成AIはどうなる? 未来を信じて新たな産業を創ろう!【終】

2025年1月27日

▶カタパルトの結果速報、ICCサミットの最新情報は公式Xをぜひご覧ください！
▶新着記事を公式LINEで配信しています。友だち申請はこちらから！
▶過去のカタパルトライブ中継のアーカイブも見られます！ ICCのYouTubeチャンネルはこちらから！

ICC KYOTO 2024のセッション「AIの最新ソリューションや技術トレンドを徹底解説(シーズン7)」、全11回の最終回は、NSV Wolf Capital 柴田尚樹さんが、生成AIスタートアップやAIガバナンスの今後について語ります。スピーカーがセッションの感想を述べた後、モデレーター尾原和啓さんが135分に及ぶセッションを、ビル・ゲイツの言葉で締めくくります。最後までぜひご覧ください!

ICCサミットは「ともに学び、ともに産業を創る。」ための場です。そして参加者同士が朝から晩まで真剣に学び合い、交流します。次回ICCサミット FUKUOKA 2025は、2025年2月17日〜 2月20日福岡市での開催を予定しております。参加登録は公式ページをご覧ください。

本セッションのオフィシャルサポーターは Notion です。

▼
【登壇者情報】
2024年9月2〜5日開催
ICC KYOTO 2024
Session 11C
AIの最新ソリューションや技術トレンドを徹底解説(シーズン7)
Supported by Notion

(スピーカー)

青木俊介
チューリング株式会社
取締役共同創業者

柴田尚樹
NSV Wolf Capital
Partner

砂金信一郎
Gen-AX株式会社
代表取締役社長 CEO

山崎はずむ
株式会社Poetics
代表取締役

(リングサイド席)

上地練
株式会社Solafune
代表取締役CEO

小田島春樹
有限会社ゑびや / 株式会社EBILAB
代表取締役社長

柴戸純也
株式会社リンクアンドモチベーション
執行役員

武藤悠輔
株式会社 ALGO ARTIS
取締役 VPoE

(モデレーター)

尾原和啓
IT批評家
▲

生成AIスタートアップの今後の動向

柴戸　せっかくなので、前に戻って質問してもいいですか？

ふわっとした、かつ未来についての質問で、柴田さんのAI Agentは、僕も楽をしたいなと思って、先ほどのDevinとか、SWE-Bench（※AIモデルのソフトウェアエンジニアリング能力を評価するベンチマーク）の高いGenieとかを使ったりするのですが、まだまだ人の介入が必要です。

それが柴田さんがおっしゃっていた10数パーセント（Part.8参照）だと思うのですが、投資対象の企業を見たりエクスポネンシャルな歴史などを見る中で、数年後どこら辺までいきそうだとか、ここまで行っているとか、未来について見込みを教えていただけたら嬉しいです。

柴田　業界特化型のスタートアップがすごく多いです。

業界特化型にならざるを得ない理由がやはりあって、実は次のセッションでお話ししようと思っているのですが、縦軸に業界、横軸に職種を取ったマトリクスがあるとしてください。

今の生成AIのスタートアップは、本当に特定の業界の特定の職種だけを狙い撃ちして伸びている会社がすごく多いのです。

MBAで習うような経営論的には、横に何か独占するとか、縦に独占するなどをしたいじゃないですか。

でも、できないのですよね。

なぜなら、その特定の業界の特定の職種の知識をちゃんと研修、つまりFine Tuningしないと、あるいはRAGにきちんと入れないと動かないし、使い物にならないからです。

今現在、2024年の秋現在はそういう状況です。

ただし、きちんと業界の知識、業界の職種の知識をLLMに追加学習（Fine Tuning）できた時に、やはりAIが生産性を爆上げするとか、コストを劇的に下げるとか、売上を急に伸ばすみたいな事例は、個々のさっきのマトリクスの個々のマスで起こっているところもあります。

もちろん全部ではないですが、起こっているところもあります。

この後何が起こるかというと、おそらくみんなが空いているマスを狙って攻めるわけですよね。

このますが空いているから、ここにAIを入れたらいけるかもと、スタートアップがどんどん入って来て、当然うまくいくものもあればだめなものもあると思います。

おそらく隣のマスに進出したり、隣のマスの会社を買収したり、あるいはもうすでにAIとは関係なく特定の業界のお客様を大量に持っている会社が、AIの会社をM＆Aしたりみたいなことが多分起こってくると思います。

今は、一見するとニッチなところでみんな始めています。

それでも十分TAMが大きいのですが、今後はおそらくもう少し買収なのか統合なのかが起こってくるのかなと個人的に思いますね。

根幹となる技術を深く理解し構造的にとらえる

砂金　この領域で事業をするときに一番難しいのは、技術変革のレバーを自分たちで握っていないことです。

チューリングに対してすごくうらやましいなと思っているのは、テスラに勝つか負けるかは、自分たちの努力じゃないですか。

青木　もちろんそうですが、今のスライドを見ていると、データをいろいろ持っているし、うらやましいなと僕も思っていましたよ。

砂金　結局GPT-5、6、7がどうなるのかということに、運命を委ねざるを得ません。

もしかすると、そういうプレイヤーも出てくるかもしれませんが、運命に抗うことはなかなか戦略として取りにくいです。

その中で、GPT-5がどこまでできるかをモデルとして予測して、コンテキストウィンドウがどのぐらいで、応答速度がどのぐらい速くなって、コストとしてはどのくらい下がりそうだという予測はできるので、それに基づいてプロダクトのロードマップを作るぐらいしかできないのではないかと思います。

尾原　なぜすごいと言ったかというと、ここにいる方たちは、変革する技術が何の技術を変革させたかという根っこの部分をちゃんと理解した上で、この根っこから生まれる限界がどこにあるから、どうチューニングしなければいけないのかを理解しています。

その上で、性能が良くなっていくと、性能によって解決できる部分はここ、ビジネスとしてインパクトが出るところはここ、という変わらない部分と変わる部分をものすごく構造的にとらえているのです。

砂金さんのGen-AXも、チューリングもすごいのは、結局変わらないものとは何かというと、今のところLLMで使っているトランスフォーマーモデルは、一言でいうと入力されたものの汎用知性を通して最大公約数の答えを返すということが1つ目なのです。

最大公約数の答えを返してしまうから、普段使っている分にはすごく先回りしてくれるのは便利なのだけれど、特定の仕事に絞って使おうとなると、ここに絞ってねということの知識を入力しなくてはいけません。

ここに絞ってねというのは、日本語は特に京都では肯定的なことを言いながら否定的なことも言いますよね。僕も含めてですが。

山崎さんも言っていましたが、そういうところをちゃんと理解するみたいなことができないといけないというのが1つ目です。

2つ目は、先ほどのコンテキストウィンドウ問題で、長いトークンを維持することによって大きな仕事ができるようになった分、どの指示を覚えて、どの指示を忘れるかということがコントロールできないという問題があります。

Agentがそれを解決していて、例えば、先ほどプログラムを書く行為を、プログラムを書く人とレビュアーでわざわざエージェントに分けていましたよね（Part.7参照）。

あれはなぜかというと、プログラムを書く人はできるだけ問題解決をするためにあらゆる手段を使うというキャラクターでやったほうが作れるわけですね。

でもレビュアーは、どちらかというと保守的にミスを潰すという人格のほうがいいわけです。

この2つの人格がコンテキストウィンドウが長いと交ざってしまうので、レビュアーのくせに発散的なことを言う僕らみたいな役割になってしまうみたいな話があります。

(会場笑)

でももっと大事なことは、こういう根幹構造を理解しながら、先ほど砂金さんが言ったように、思っている以上に早くなり、思っている以上に安くなるということです。

だから前までこんなに大きなことはできないと考えていたものができるようになるという予測を立てながらやっていらっしゃって、そうすると最後にビジネスに、お金になるのはどこなの？と。

あと、AI自体はコモディティ化していくから、独自性は、結局お金になるデータが勝手にぐるぐる入る仕組みをちゃんと作るというのが、共通点なのかなと思います。

AIガバナンスとHuman-in-the-Loop

武藤　すみません、どうしても1つお聞きしたいと思います。

AIガバナンスに今すごく関心が高くて、今日も結構お話を聞けたと思っています。

AIセーフティとか、あと変更は難しいとか、意思決定のガードレールはできるけどみたいなところなのですが、そうすると、基本はもう業務効率化して、最後の意思決定だけ残るという、このHuman-in-the-Loopのような話に帰着するなと思っています。

▶編集注：Human-in-the-Loopとは、人工知能などによって自動化・自律化が進んだ機械やシステムにおいて、一部の判断や制御にあえて人間を介在させること。HITL。（コトバンク）

それ以外の期待を持って、つまりもっと踏み込んだAI、Human-in-the-Loopを超えて、AIガバナンスを考えられている方はいるのか、すごく聞きたかったのですけれども。

柴田　マルチエージェントにすると、ユーザーにアウトプットを見せる前にコンサバティブなレビュアーのLLMも置いておいて、それが見て大丈夫かどうかを確認して、大丈夫なもの以外は出さないというのは1つできますね。

それとセキュリティの会社は特に2024年に相当増えています。

インターネットもそうだったと思いますが、最初はセキュリティのソフトなどなくて、バーっと盛り上がってスパムやウイルスが出てきて、それでマズいとなってセキュリティのソフト会社が後から儲かるみたいな感じでした。

多分、今年はそのセキュリティの会社が出始める1年目なのかなという気がします。

「LLMの暴走を防ぐLLM」みたいなものを見たことがありますし、そこはやはり人間がやるというのはもちろん最後のゲートキーパーとして、本当にどうしてもミッションクリティカルなところは残るとは思うのですが、大半の部分はおそらくAIを監視するAIが……。

砂金　AIを監視するAIを監視するAI…が無限ループで走るので、答えがないですね。

柴田　答えがないのですが、人間でも多分そうだと思うのですよね。

おそらく皆さんの上司は皆さんよりも権限があって、おそらく正しい判断ができると会社は信じていると思うのですが、本当に上司のほうが正しい判断を100％できるかというと、必ずしもそうではないですよね。

すみません、上司の方がいらっしゃったら（笑）。

ですから、構造的にいうと、意外と経験と知識と与えられた役割で防げるものなのかなと。

尾原　ここはずっと議論が進んでいる辺りの話で、AIセーフティサミット（AI Safety Summit 2023）が2023年の11月に行われて、なんとG7にも参加しなかった中国やロシアがAIセーフティサミットには参加して、ここには向かおうという話をしています。

実はAIセーフティサミットが開催されたイギリスのブレッチリー・パークは、第二次世界大戦中に暗号を解読した場所で、そこはちゃんと人間を信じていいと僕は思うのですね。

気になる方はぜひAIセーフティサミットの情報を見にいっていただけると、AI各社がどういうふうにそれをやろうとしているのかみたいなことも見えると思います。

▶AI Safety Summit 2023

135分のセッションの残り時間があと2分になりまして、リングサイドから質問を受けられなかったところもあってごめんなさい。

最後に30秒ずつ皆さん、今日気づいたこと、あとはぜひ会場の方に一言エールを頂ければと思います。

各スピーカーより本日の感想

青木　すごく楽しいセッションでした。もっと柴田さんと砂金さんのお話を聞きたかったなと思います。

あとは砂金さんから自分たちのレバーを握っていないというお話がありましたが、これを自分が握っていると思っている人は、人類の中であまりいないのではないかと僕は思っています。

人類は今はここにいます、（右斜め方向を指し）10年後はここにいますということがなんとなくわかっている人とわかっていない人がいるけれど、自分自身でレバーを握っていると思っている人は、実はスタートアップにも大企業にも、そんなに多くいないのではないかなというのが、面白い気づきだなと思って聞いていました。ありがとうございました。