8. プロンプトの「回数」と「長さ」でChatGPTを使いこなせ

ICC FUKUOKA 2024のセッション「AIの最新ソリューションや技術トレンドを徹底解説(シーズン6)」、全13回の⑧は、巨人が登場する後半戦へ。巨人の1人目、日本マイクロソフト 西脇 資哲さんは、企業の生成AI活用レベルの進化について解説。ChatGPTへ質の高いプロンプトを投げられるようになれば、生産性と働き方に変化が起きるといいます。日本人が使いこなせず解約してしまう理由とは？ ぜひご覧ください!

ICCサミットは「ともに学び、ともに産業を創る。」ための場です。そして参加者同士が朝から晩まで真剣に学び合い、交流します。次回ICCサミット KYOTO 2024は、2024年9月2日〜 9月5日 京都市での開催を予定しております。参加登録は公式ページをご覧ください。

本セッションのオフィシャルサポーターは Notion です。

▼
【登壇者情報】
2024年2月19〜22日開催
ICC FUKUOKA 2024
Session 11C 
AIの最新ソリューションや技術トレンドを徹底解説(シーズン6)
Supported by Notion

(スピーカー) 
砂金 信一郎
LINEヤフー       
生成AI統括本部　新規事業準備室　室長（登壇時）
現職：Gen-AX株式会社
代表取締役社長 CEO

上地 練
Solafune
代表取締役CEO

西脇 資哲
日本マイクロソフト
コーポレート戦略統括本部 業務執行役員 エバンジェリスト

武藤 悠輔
ALGO ARTIS
取締役 VPoE

(リングサイド) 
柴戸 純也
株式会社リンクアンドモチベーション
執行役員

土田 安紘
AWL
取締役CTO

都筑 友昭
DROBE
執行役員VP of Advanced Tech Delivery

山崎 はずむ
株式会社Poetics
代表取締役

(モデレーター) 
尾原 和啓
IT批評家
▲

▶「AIの最新ソリューションや技術トレンドを徹底解説(シーズン6)」の配信済み記事一覧

---

いよいよ西脇さん、砂金さんが語る後半へ

尾原　フロンティアモデルのいわゆるAIの性能がどんどん良くなっていくから、何でもできそうに思われますが、どう活用したらビジネスにできるのかという話を、これから後半でしていきます。

西脇さんがMicrosoft、砂金さんがLINEヤフーの観点から、色々な話題を出していきます。

大事なことは、どこが持続的な競争優位性に繋がって、どこが意外と追いつかれてしまうところなのかを見極めることです。

先ほどの武藤さんのお話（前Part参照）でいうと、大きな最適化みたいなもの、個社別の制約がすごく多いものは、どこまでいってもアルゴリズムがまだ強い領域です。

一方で、上地さんから、なんのかんの言ってデータが強いよねみたいなお話がありました（Part.3参照）。

Solafuneのようにオープンなデータから入るのだけれど、データで可視化されることによって、その可視化を深掘りしたくなって、結果的にその会社にしかないクローズドデータを提供してもらい、データで参入障壁を作っていくやり方もあります。

データで勝ち続けるのか、モデルやアルゴリズムで勝ち続けるのかは、すごく大事なところです。

そこに入り込むために、2種類のやり方がありますが、長くなるので短く話しますね。

米国のベンチャーキャピタルのAndreessen Horowitzは、AIもかなりリードしていてMistral AIにも出資しているのですが、そこのアンドリュー・チェンが、「Tools to Network AI」という言い方をしています。

最終的には、そこでしか手に入らないデータが強みになってくるから、山崎さんがおっしゃったように、まずツールで入り込むと、ツール上に通っているデータが自分にしか入ってこないから、そこで最適化していって勝つやり方があります。

一方で斬新なのは、武藤さんのところのように、うちでしか最適化インパクトを出せないでしょと言って、1個のモジュールで入っていって、その1個のモジュールで結果を出したら、今度はモジュールごとの連携で入っていくやり方があります。

「可視化」からの大きな最適化と、「繋ぐ」からの大きな最適化がすごいなと思います。

では、今度は巨人側に行きましょうか。

ここから、西脇さんと砂金さんで、25分ずつぐらいのイメージでいきましょう。

GPT-4は競技プログラミングをあえて学習していない？

西脇　私はそんなにディープな話ではなくて、今の状況をさらっとお話しさせていただきたいと思います。

▼
西脇 資哲
日本マイクロソフト株式会社
業務執行役員 エバンジェリスト

日本経済新聞で紹介されたIT「伝道師/エバンジェリスト」。  2013年には日経BP社から “世界を元気にする100人” にも選出。  1996年から13年間、日本オラクル株式会社にてマーケティング担当として従事し、現在はマイクロソフトにて多くの製品・サービスを伝え広めるエバンジェリスト。講演や執筆活動も行い、IT 企業だけでなく、製造業、金融業、官公庁から小学校、中学校、高校や大学でのプレゼンテーション講座を幅広く手がける。著書に「エバンジェリストの仕事術」、「プレゼンは “目線” で決まる」、「新エバンジェリスト養成講座」など。  TOKYO FM 「エバンジェリストスクール！」パーソナリティー、J-WAVE「GLOBAL BUSINESS CHARGE」ナビゲーターを務める。
▲

おっしゃるように、MicrosoftはOpenAIとすごくタイトにやらせていただいていて、最新のOpenAIの技術もMicrosoftのほうで展開するようになっています。

先ほど競技プログラミングでGPT-4が弱いというお話がありました（Part.5参照）。

AtCoderのプログラムも出してくれないとか、そこに負けるという話があったので、色々調べていたら、AtCoderのベーシックのほうも解けないですね。あれも分からない。

尾原　そうなんですね。

西脇　「ひょっとしたら、GPT-4はそこをあえて学習していないのではないか？」という論文が見つかりました。

尾原　なるほどね。

西脇　可能性あるよねと。

要は1ミリもスコアが伸びていないわけで、その可能性があります。

多分、生成AIはやれば本当はできるのかもしれないということは、少しお伝えしておこうと思います。

尾原　競技プログラミングは細かい最適化をしすぎるので、トレーニングデータが分散するから、もしかしたらあえてやっていないのかもしれないということですね。

西脇　可能性があるかもしれないし、我々の叡智を高めるためにも、やる必要がないのかもしれないですね。

そんな気も少ししました。

ということですよね、多分ご存知だと思いますけれども。

武藤　ちなみに2016年ぐらいのサム・アルトマン氏の記事で、競技プログラミングで勝つAIは価値があるみたいに書かれていました。

尾原　（笑）。

武藤　どこかでバッと来るんじゃないかみたいなことは、思っていたのですけれど（笑）。

西脇　今ためているところですよね。ありがとうございます。

Google検索はOK、でもChatGPT使用は禁止？

西脇　ちょっとベーシックな話ですけれど、OpenAIとMicrosoftが一緒になって、日本企業や世界の企業に利用をお勧めしているのですが、正直に言いますね。

昨日か一昨日に、Microsoft Corporationが、日本のエグゼクティブの方々を集めたスペシャルディナーを開催しました。

Microsoft Corporationのチーフマーケティングオフィサーは日本人で、今来日していて、シークレットディナーに日本の名だたるCEO、COOのかなりの人数の方々をお招きしたんです。

そこでアンケートを取っているのですけれど、実はその中でChatGPTを禁止している会社があるのですよ。

尾原　まだあるんですか？

西脇　だいたい4〜5%ぐらいあるんです。

だから、正直信じられないと思うのです。

例えば、Googleの検索やGoogleマップの使用を禁止しているところなんかないし、ぐるなびの検索を禁止しているところもないじゃないですか？

ないのに、なぜOpenAI、ChatGPTを禁止するのかが分からないのですよ。

すごく不思議なんですよ。

要は、一部の人が利用するものでもないわけです。

あなたは使っていいですよ、あなたは使ってダメですよなんていうテクノロジーではないので、全員が使ったら、いいじゃないですか。

ChatGPTからの離脱を防ぐには

西脇　どういう活用レベルに上がってきているかというと、質の高いプロンプトを投げる、そして生産性と働き方に変化が起きる、この階段を一緒に上りましょうと話をしています。

今どこでみんながスタックしているかと言うと、ここですね。

尾原　ああ、やはりそこなんですね。

西脇　生成AIへの向き合い方が良くないと、やーめたと諦めてしまうので、ここをどうやって乗り越えるかを、一生懸命やっています。

一番多くやっているのはプロンプトの共有や学習、それと社内でプロンプト大会をやってもらっています。

そういったことをやっているのですが、社内プロンプト大会も結構やりづらくて、業務に直結するような社内プロンプト大会にはなかなか参加者が出席しないし、良いプロンプトが出てきません。

実際にどういうプロンプト大会が成功しているかというと、アメリカでもやられているのですけれど、1+1は3になるプロンプトを書こうとか。

尾原　ああ、面白いですね、とんち系ですね。

西脇　ええ。

今GPT-3.5では、1+1＝3というのは、多分20ターン以上やらないと返ってきませんが、GPT-4なら7ターンで返ってきます。

尾原　へえ！

西脇　チャレンジしてみてください。

7ターンで返せる人がいたら、すごいですね。

あとは、石は食べられるというものですね。

石を食べる方法を、GPT-4が教えてくれます。

でも3ターンぐらいでは教えてくれないので、それをどうやって導き出すかというトレーニングをやっていくと、実は生成AIとの向き合い方がすごく良くなるのです。

尾原　ヌキテパ 五反田に行けば食べられますよ。

▶土料理って？ 五反田『ヌキテパ』は土を味わう、フレンチレストラン！ 予約して土料理を味わおう。（dressing）

西脇　石を？ そういう変わった解決法を引用していくんです。

尾原　（笑）

西脇　そういうことを引用して、どうやったら食べられるか導き出すことをしていくと、AIに対しての向き合い方が良くなるので、この階段を上がりやすいですよというふうに言うのですが、なかなかやってくれません。

世界58,000社が自社専用ChatGPTを導入

西脇　でも、おかげさまで自社専用のChatGPTを導入している会社は、全世界で58,000社です。(2024年2月登壇当時)

尾原　だってまだ、Copilot全体が始まって1年で、業務用が始まって半年ですよ。

西脇　まだ58,000。

尾原　もう58,000。

西脇　はい、58,000です。

自分たちの会社専用にクラウドをこしらえて、そのクラウド上にChatGPTを載せます。

そしてほとんどの場合、「RAG」（※「ラグ」と呼ぶ）によって、自社のデータを見させています。

▶RAG | 用語解説（野村総合研究所）

日本だと2,500社を超えています。

尾原　しかもこの顔ぶれですよね。

西脇　はい。そうなんですね。

多くの会社がここにチャレンジするようになってきたというのが、良いニュースではあります。

こちらに、良い言葉ばかり集めていますけれど。

ということで、使っていないというのは、どういうことなのかと。

尾原　確かに。使えるところはもう使い始めていて、しかも業務量の90％以上を削減とか。

解約してしまう理由は、プロンプトの「短かさ」「回数」

西脇　そんな中、Microsoft 365のCopilotが、1ユーザーあたりで買えるようになりました。

1ユーザーあたり1カ月ずつのサブスクリプションで買えるようになったので、すごく手軽に買えますが、「使えないや」と解約するリスクがあります。

尾原　諦めちゃう。

西脇　そうなんです。諦めてしまいます。

使い方の傾向を見ていると分かるのですが、日本では1回のプロンプトで正解をもらおうとするので、たくさん指示しませんし、プロンプトがすごく短いのです。

短いプロンプトしか投げないと、汎用的なものしか返ってきません。

そうすると、こんなもんか、こんなレベルか、やーめたで終わってしまうのです。

尾原　だいたい有名人の名前を入れて、間違っていたらダメだと言うパターンですよね。

西脇　これが日本にすごく多い傾向なんですね。

プロンプトの回数を統計すると分かるのですが、日本ではこの回数がすごく少ないです。

アメリカや諸外国は、非常に多くの回数を繰り返します。

そういうやり方をすると良い回答が得られるにもかかわらず、途中で解約してしまう人がいるので、プロンプトをちゃんと勉強しなければいけないというふうになってきています。

尾原　半年前の前回は、ちょうどCopilotがオープンになるぞみたいな時期でしたからね。

▶【一挙公開】AIの最新ソリューションや技術トレンドを徹底解説(シーズン5)(全13回)

Copilotがサクッとプレゼン資料を作成

西脇　今どんなことができるかぐらいは紹介することができるので、いつもご紹介しています。

どんなことができますかと必ず聞かれますので、定番のものをいくつか紹介させていただきます。

例えば皆さんも、パワーポイントをお使いいただいていると思いますが、パワーポイントの右側にCopilotが出てきます。

もちろん日本語ですべてのCopilotが動くようになっています。

ここに例えば、「海外からの観光客向けに英語で、高齢の方が楽しめる三重県の観光地を紹介するプレゼンテーションを作ってください。」と入力します。

結構具体的ですよね。

これを自分で作成するとしたら、三重県を検索して、観光地を検索して、画像を取ってきて、テキストを取ってきて文章を変えて、レイアウトを変えてデザインしなければいけませんよね。

なんていう話をしているうちに、スライド6枚ぐらいをサクッと作ってくれます。

尾原　これは10倍速にしていないですよね？

西脇　これは実測です。ここまでやってくれるのです。

何を参照して作ったのか聞けば、Copilotが答えてくれるので、かなり生産性は上がるはずです。

特にスライドや文書作成ですごく生産性が上がるはずですから、そのためにはちゃんとプロンプトを投げていただきたいので、その話に移りたいと思います。

（続）

編集チーム：小林 雅／浅郷 浩子／戸田 秀成／小林 弘美