いよいよ「ノートPCだけでChatGPTが動く」時代がやってきた

Photo: 小野寺しんいち

OpenAIが、ローカルで動くAI、gpt-ossを8月に発表しました。これは、業界がローカルAI(オンデバイスAI)へ舵を切った決定的なニュースだったと思います

日本HPの岡戸伸樹社長は、オンデバイスAI時代の幕開けをこう宣言します。

Photo: 小野寺しんいち岡戸伸樹氏

いまや仕事でも日常でも、ChatGPTやGeminiのようなAIを使うのが当たり前になってきたという人も多いんじゃないでしょうか。

でも、AI業界の進化は恐ろしいほど早い。私たちが日常的に使えるAIは、次なるステージへと移行しようとしています。それが、「オンデバイスAI」です。

2025年10月3日に、日本HPが開催した「HP Future of Work AI Conference 2025」では、オンデバイスAIの最前線が語られました。

本記事では、カンファレンスで得た情報をもとに、「結局オンデバイスAIって何がすごいの?」、「AI PCって何ができるの?」を解説していきたいと思います。

セキュリティ、コストなどに優れるオンデバイスAI

そもそも、オンデバイスAIって何なんでしょう?

たとえばChatGPTで調べ物をしたとします。いつものようにすぐ回答を返してくれるわけですが、この処理、クラウドで行なわれています。

入力バーに入れた"質問"が、OpenAIが管理するクラウド上のサーバーに送られ、解析され、あなたのデバイスに戻ってくるわけですね。こうしたクラウドを経由した処理を行なうAIは、クラウドAIと呼ばれています。

ただ、これにはデメリットがあって、一つがセキュリティの問題です。

データが外部のサーバーに送信されるため、情報漏洩のリスクがあります。だから、企業秘密、個人情報の扱いには不向きなんですね。

それに、コストも大きな壁。OpenAIのAPIなどを使っている場合、使うたびに費用がかさんでしまいます。

端末内で処理するから、リスクを回避

Photo: 小野寺しんいちGlobal Head of Future of Work and AI Software Ecosystem Loretta Li-Sevilla氏。オンデバイスAIの強みと、HPのAI PCに搭載されているソリューションについて紹介された

こうした課題を解決するのが、ネットを介さず、手持ちのデバイス内で動くオンデバイスAIです。NPUなどのAI専用チップを使って、端末内で処理を実行します。

これにより、情報漏洩のリスクを回避でき、従量課金的に費用がかかることもありません。それに、クラウドを行って帰ってすることもないのでレスポンスが早く、ネットに繋げないところで使えるのも利点です。

たとえば、社内の極秘プロジェクトを進めるときや、自分のプライベートな情報を加味してチューニングしたいとき、通信環境が整っていない現場で作業するときなんかに、活躍してくれる"身近"な相棒って感じ。

オンデバイスAIは、次世代企業の成長の鍵

さらにオンデバイスAIは、これからの企業の大きな推進力にもなると言います。

Photo: 小野寺しんいち入山章栄氏

基調講演の中で、早稲田大学大学院経営管理研究科 早稲田大学ビジネススクール教授の入山章栄氏は、大手IT企業のトップとの過去の会話を引用しながら、こう語りました。

いま我々人類は、データの1%しかAIに食わせていないんです。残りの99%は、皆さんの会社の中にあるんです

ChatGPTやGeminiは、基本的にネットに出回るデジタル化された情報をソースにしています。だからこそ誰もが使えるわけですが、これからはこうした「パブリックAI」がアクセスできない情報、まさに企業の中にある機密情報が鍵になるそうです。

誰もが当たり前にAIを使うようになるので、単純にAIを導入するだけは、企業の優位性を担保できなくなる時代がやってきます。

これからは、公には存在しない、企業の中だけにあるような希少データを学習した各企業固有のAI、プライベートなAIがどんどん登場し、差別化の源泉になっていくと思います。そして、そんなAIを動かせる環境が、強く求められていくでしょう

オンデバイスAIを使うなら、AI PCだ

では、そんなオンデバイスAI、どうやったら使えるようになるんでしょう? その答えの一つが、オンデバイスAIを実行できるPC、「AI PC」です。

「Copilot+ PC」って最近よく聞きますよね。これは、AI PCの代表例。Copilot+ PCは、NPUを搭載し、一定以上の性能を持つPCのことで、これに認定されたPCなら、オンデバイスAIをフルに活用できちゃいます。

Photo: 小野寺しんいち

イベント会場にも、Copilot+ PCに準拠したHPのAI PCがずらり。

PC内の情報を瞬時に探してくれる「Recall」や、画像を生成してくれる「Cocreator」、音声にリアルタイムに字幕をつけてくれる「Live Captions」などのCopilot+ PC共通の機能を使えるのはもちろんのこと、面白いのがAIを活用したHPの独自機能です。

HPのAI PCにしかない、ちょっと便利なAI機能たち

Photo: 小野寺しんいちHP AIコンパニオンの画面

「HP AIコンパニオン」は、ネット接続なしでローカルで動くオンデバイスAIアシスタントです。チャット形式で質問ができ、PCの設定に関することや、機密性の高い内容でも、プラバシーを守ってやり取りできます。

ファイルを取り込むこともでき、外には出せない情報でも投げらるのがいいところ。たとえば、契約書を読み込ませて、要約させるなんてことができそうですね。

Photo: 小野寺しんいちNPUを使用することにより、人物がクリアに映し出されている

他にも、ビデオ通話中に背景をぼかしたり、話者の動きに合わせて自動で追従してくれたりする「Poly Camera Pro」も便利。

流通しているビデオ通話アプリでも標準的な機能ですが、そのパフォーマンスははるか上。会場で使ってみて驚きましたが、デバイス内のNPUを使って処理するので、非常に鮮明で動きが早いです。

NPUに仕事を任せることで、CPUやGPUに負荷をかけることなく、電力消費にも優れます。

また、作業の裏側では、ユーザーのPCの使い方に合わせてAIが電力と排熱のパフォーマンスを最適化してくれてます。あらゆるところでAIがお仕事してくれているPC、それがAI PCなんですね。

AI作業のモヤモヤが、晴れる日も近い

Photo: 小野寺しんいち

私自身、クラウドAIサービスにお世話になりっぱなしの昨今。当たり前になったからこそ、一般のサービスを使うとき、「え、これAI化されてないの…」とすら思うこともある始末。

これまでローカルに貯めてきた情報を横断的に参照してくれたらいいのになと思うことは多々ありますし、外に出せない情報を扱うときなど、"AIを使いたくても使えない"場面に直面することも日常茶飯です。

そんな中、オンデバイスAIとAI PCは、まさにその"壁"を越える可能性を感じさせます。

事実、まだまだNPUを最大限に使い倒すアプリケーションは少ないので、これから発展していく領域です。

ただ確実にやってくる未来。今からチェックしておいて、あるいはAI PCを手に入れて、一足先の未来に備える&体験しておくのはありかもしれません。

Source: HP (1, 2)

訂正[2025/10/20]記事初出時、「ノートPCだけでChatGPTが動く」と表記していましたが、こちら「ノートPCだけでチャットAIが動く」の誤りです。謹んで訂正いたします。

関連記事: