▶カタパルトの結果速報、ICCサミットの最新情報は公式Xをぜひご覧ください！
▶新着記事を公式LINEでお知らせしています。友だち申請はこちらから！
▶ICCの動画コンテンツも充実! YouTubeチャンネルの登録はこちらから！
ICC KYOTO 2025のセッション「徹底解説 – 生成AIの最新動向」、全7回の⑤は、日本マイクロソフト西脇さんが、「AI組み込みデバイス」を紹介。ハードウェアへのAI実装はスピーディーに進むといいます。NSV Wolf Capital柴田 尚樹さんは、AIに知識を与える2つのアプローチ、「RAG」と「ファインチューニング」の違いを、新入社員教育に例えて分かりやすく解説。ぜひご覧ください!
ICCサミットは「ともに学び、ともに産業を創る。」ための場です。そして参加者同士が朝から晩まで真剣に学び合い、交流します。次回ICCサミット FUKUOKA 2026は、2026年3月2日〜 3月5日 福岡市での開催を予定しております。参加登録は公式ページをご覧ください。
本セッションのオフィシャルサポーターはリブ・コンサルティングとノバセルです
▼
【登壇者情報】
2025年9月1〜4日開催
ICC KYOTO 2025
Session 3A
徹底解説 – 生成AIの最新動向
Supported by リブ・コンサルティング
Co-Supported by ノバセル
(スピーカー)
砂金 信一郎
Gen-AX
代表取締役社長 CEO
柴田 尚樹
NSV Wolf Capital
Partner
西脇 資哲
日本マイクロソフト
コーポレート戦略統括本部 業務執行役員 エバンジェリスト
(モデレーター)
尾原 和啓
IT批評家
▲
デバイスへAIを組み込んだ事例
西脇 これで最後です。これについても柴田さんからご意見を頂きたいですが、私はデバイスへの組み込みが、すごく増えてきていると思います。
こちらは、インドの農業を支援するアプリです。
Phi-3（※） なので、SLM（Small Language Model）です。
▶編集注：Phiは、Microsoft が提供する小規模言語モデル (SLM) のシリーズ。クラウドに接続せずにデバイスに直接AIを実装するためのツールを、開発者に提供するために作成された。
オフラインで使います。
尾原 小型なので、携帯に内蔵できます。スマホの中で動くレベルです。
西脇 おっしゃる通りです。
10万人が使っていますが、インドは電波が通じないところがあります。
電波が通じないといったら、JALです。
これはPhi-4で、SLMです。
尾原 確かに。飛行機ですものね。
西脇 そうです。要はハードウェアへの組み込みが、非常に速いスピードで進みます。
セブン銀行では、ATMに間もなく入ってきます。
すかいらーくでは、配膳ロボットに入ってきます。
メルセデスベンツでは、次のCLA（メルセデスベンツの車種）から入ってきます。
尾原 はー。
西脇 こういったやり方で、いよいよ実際にハードウェアへの組み込みが進む気がしていますね。
柴田 ハードウェアは間違いなく来ると思います。
西脇 フィジカルAIですよね。
柴田 ええ。OpenAIがこの間GPT-5を出した時に同時にオープンモデルも公開しました。彼らは「オープンソース」と言っていましたが、実際には「オープンウェイトモデル」なので、全然オープンソースではないのですが、あれを出したというのが、1つのポイントかなと思います。
あれは明らかに、エッジコンピューティングへの対応だと思うのですよね。
▶エッジ コンピューティングとは何ですか?（Microsoft）
多分彼らは、心の中ではオープンソースにしたいと1ミリも思っていないと思いますが、エッジでオフラインで動かなければいけないという時に、そこのマーケットが全部取れなくなるのは困るので、クローズドモデルではないものも出したのだと思います。
西脇 そうですよね。その後、Googleも発表しましたものね。
柴田 はい。
ファインチューニングが必要になるケースは？
尾原 でも一方で、AIのスタートアップはいけるぞと柴田さんが言っているそばから、何もファインチューニングしていないもので、あれだけ建築の進捗分析ができます（前Part参照）。
これはまるで、砂金さんがLINEにいた時にちょっと新しい開発をしたら、スタートアップが10個死ぬみたいな、そういうシチュエーションじゃないですか。
これは、お二人の立場でどう思っているのですか？
柴田 実はさっきの不動産現場のものは、NSVで1社投資しているものがあって、OnsiteIQという会社です。
大型の不動産開発をする時に、だいたい建設は進捗が遅れるのですが、遅れがどの程度なのか可視化されなくて、デベロッパー、投資家との間で大トラブルになります。
西脇 まさにそれです。
柴田 そうならないために、1週間に1度、リュックに入ったカメラを背負って、担当者が現場をずっと歩いて、360度カメラで現場を動画で撮ります。
それによって進捗が全部見える化しますし、証拠にもなります。
尾原 なるほど！
西脇 まさにそれですよね。
柴田 はい。このような会社に詳細を聞くと、ファインチューニングしなくてもそこそこ動くけれど、やはりちゃんとお金を取ろうと思ったら、という話をしていました。
精度が6〜7割でいいのだったら、そういうちょっとしたRAGでいけるけれど、本当にちゃんとしたAIエージェントにしようと思ったら、それなりにきちんとファインチューニングしないといけないという話が、これから増えてくるのかなとは個人的に思います。
砂金 これはデモのプロフェッショナルの西脇さんの仕事の邪魔をするわけでは決してないのですが、上手くいっているところを切り取って見せるじゃないですか。
西脇 もちろん。
尾原 （笑）
砂金 多分皆さんがプロダクトと接して、これでだいたいいけると思った時に、「上手くいかない時は、どういうところがまだ残っているのですかね？」というところをもう少し詰めることができると、「ああ、そうですね」と。
西脇 やはり、これは上手くいかないことも多いのですよね。
砂金さんが言うように、例えば、先ほどの話では設計図面と設計図面のデータと工程表、それをどれだけ与えられているかということです。
事前情報が少ないと何もできません。
写真だけ分析したら、何かが造られていますね、建物がありますね、工事をしていますね、コンクリートが敷かれていますね、ぐらいです。
ところが進捗工程表がものすごく細かく定義されていて、そこに写真の例などを提示していると、マッチングし始めるのです。
だから、どれだけ予め指示して、データを与えておくか。
これを学習しておくというやり方もあるのですが、事前にそういったものを1回見せておく、そして、それを一緒に与えていくことが、すごく大事だと思います。
尾原 そうですよね。
だから、いわゆるプロンプトを、こちら側から入力するのを、向こう側でプロンプトを補足してfew-shotというような少数の具体例を入れるような、裏側のプロンプトのメタ加工で済むのか、RAGでいくのか、ファインチューニングでいくのか、ここは永遠の課題じゃないですか。
西脇 そうですね。
尾原 ここは、少し答えが見えてきているのですか？
西脇 柴田さん、その辺りはどうですか？
RAGとファインチューニングを新入社員教育に例えると
柴田 試行錯誤する時は、絶対RAGっぽいやり方がいいと思います。
尾原 RAGというのは、ローカルのデータベースから持ってきたりする方法ですね。
柴田 お分かりいただいている方が多いと思いますが、一応補足説明すると、RAGっぽいやり方というのは、毎回プロンプトに超大量の指示や例やデータを、長文で入れるやり方です。
一方でファインチューニングは、事前にモデル側にある程度学習させておくので、毎回例やサンプルを与えたりしなくてもいけるのです。
その二極の対比でいくと、試行錯誤する時は絶対RAGがいいのです。
何を追加学習していいか分からないわけなので。
西脇 RAGは、自分でできますからね。
ファインチューニングはやはり自分ではできないです。
そんな簡単にできないですからね。
柴田 はい。ただRAGは、毎回毎回ものすごい数のトークンを使うわけです。
尾原 そうですね。
柴田 トークンを使うというのは、人間で言うと徹夜で仕事させているようなものです。
夕方に上司が来て、「この大量の本を読んで、明日の朝までにスライドを作っておいてね、じゃあ！」みたいな感じがRAGです。
もちろん1回、2回ならいいですが、毎回やられると社員が疲弊して、辞めてしまいますよね。
それと同じで、AIはいなくなったりはしませんが、それでもコストがかかるという話があって、ファインチューニングはどちらかと言うと、研修をちゃんと受けさせてあげるというイメージです。
ちゃんと業務知識を体系的に入れてあげるのがファインチューニングで、やり方がはっきり分かって来たらファインチューニングは当然コストが安いと思いますし、逆にそうでない時はRAGのほうがいいかなという感じです。
尾原 この辺で難しいのが、一方でAIインフラのほうも圧倒的に進化してきて、最近はもうチップセットのほうでどんどんコストが安くなるというバランスもあるから、なかなか難しいところですけれども。
西脇 総じて言えるのは、業務データがかなりしっかり管理されていないと、RAGにしてもファインチューニングにしても、非常に難しいのですよね。
それをどうもっていくかということに、だんだん話がシフトしてきている気がします。
そうすると柴田さんが言われた企業の中の業務知識、事業の中のノウハウをどれだけ持っているかということが、ものすごく重要になってきました。
AIのほうの進化は、専門家が非常に増えてきています。
壇上もそうですし、会場の皆さんもそうかもしれません。
そことのマッチングが、すごく難しくなってきたかなという気がします。
尾原 そうですね。
（続）
▶カタパルトの結果速報、ICCサミットの最新情報は公式Xをぜひご覧ください！
▶新着記事を公式LINEでお知らせしています。友だち申請はこちらから！
▶ICCの動画コンテンツも充実! YouTubeチャンネルの登録はこちらから！
編集チーム：小林 雅／小林 弘美／原口 史帆／浅郷 浩子／戸田 秀成