月額3万円、年間36万円。それ、まだ払い続けますか？

ChatGPT APIやClaude APIに月3万円。中小企業にとっては地味に痛い固定費だ。社員5人の会社なら、1人分のスマホ代より高い。

ところが今、USBメモリ1本からAIが起動する時代が来ている。月額ゼロ円。クラウド不要。ネット接続すら不要。これは「ちょっと安くなった」という話ではない。コスト構造そのものがひっくり返る話だ。

何が起きているのか、いくらかかるのか、そして中小企業にとって何が変わるのか。具体的に整理する。

—

何が起きているのか——3つの技術が同時に揃った

今回注目すべき動きは3つある。

① USBブート型LLMランタイムの登場

USBメモリにAIの実行環境ごと入れて、差し込めば動く。OSを問わず、インストール不要。「Hermes Desktop」のようなツールを使えば、ハードウェアに合ったモデルを自動判定してワンクリックでセットアップできる。技術者がいなくても動かせるレベルまで来た。

② ローカルLLMの性能が「使える水準」に到達

Meta Llama 3.1、Mistral、Phi-3など、オープンソースのモデルが急速に進化している。7B〜13Bパラメータのモデルなら、VRAM 8GBクラスのノートPCでも動く。議事録の要約、メール下書き、社内FAQ対応——中小企業の日常業務なら十分こなせる品質だ。GPT-4級の性能は不要な業務のほうが圧倒的に多い。

③ NVIDIAパーソナルAIルーター（PAIR）

社内ネットワーク上にある複数のPCのGPUリソースを束ねて、AIリクエストを分散処理する仕組み。専用サーバー不要。社長のデスクトップ、経理のノートPC、倉庫の古いゲーミングPC——それぞれの空きGPUを「社内AIインフラ」に変える。1台に負荷が集中しないから、複数人が同時に使っても待たされにくい。

この3つが揃ったことで、「社内AI」の導入障壁が事実上消えた。

—

コストを正直に試算する——本当に月額ゼロ円か？

「月額ゼロ円」は煽りすぎだろうか。正直に数字を出す。

ケース1：既存PCだけで始める場合

これは極端な例ではない。2020年以降に買ったゲーミングPC、あるいはGTX 1660以上のGPUが載ったデスクトップがあれば、今日から試せる。

ケース2：GPUつきPCを1台新調する場合

クラウドAPIとの3年比較

ケース1なら3年で107万円以上の差。ケース2でも3年で93万円の差。中小企業にとって、この差は無視できない。93万円あれば、パート1人を半年雇える。

見落としがちなコスト：人件費

ここで正直に書いておく。ローカルAIには「セットアップと運用に多少の手間がかかる」というコストがある。モデルの選定、プロンプトの調整、トラブル時の対応。クラウドAPIなら全部お任せだったものを、自分たちでやる必要がある。

ただし、Hermes DesktopやPAIRのようなツールが「技術者不要」の方向に急速に進化している。現時点でも、ITに詳しい社員が1人いれば半日で立ち上がるレベルだ。そして一度セットアップすれば、日常運用はほぼ手がかからない。

—

コスト以外に何が変わるか——中小企業にとっての本当の価値

月額ゼロ円のインパクトは大きい。だが、本当に面白いのはコスト削減の先にある構造変化だ。

1. データが外に出ない

クラウドAPIを使う限り、社内データは外部サーバーに送られる。顧客リスト、見積書、社内の議事録——すべてだ。「うちは機密情報なんてない」と思っていても、取引先から「AIに顧客データを入れてないよね？」と聞かれたらどう答えるか。

ローカルAIなら、データは社内のPCから一歩も出ない。これは中小企業にとって、大企業との取引を守るための信用コストでもある。

2. ネット障害に強い

地方の中小企業にとって、ネット回線の不安定さは日常だ。クラウドAIはネットが落ちれば使えない。ローカルAIはUSBを差したPCさえ動いていれば、台風の日でも、回線工事の日でも止まらない。

3. 「試す」ハードルが消える

クラウドAPIは従量課金だから、「試しに使ってみよう」にも心理的コストがかかる。社員が自由に触れば、月末に請求が跳ねる。ローカルAIなら、何回使ってもゼロ円。社員全員が遠慮なくAIを触れる環境は、AIリテラシーの底上げに直結する。

これが一番大きいかもしれない。中小企業のAI活用が進まない最大の理由は、技術でもコストでもなく、「社員が触り慣れていない」ことだからだ。

4. 属人化しない

USBメモリにAI環境が丸ごと入っている。つまり、同じUSBを別のPCに差せば、同じ環境が再現できる。「あの人のPCでしか動かない」がなくなる。退職リスク、異動リスクに強い。仕組みがUSBの中に閉じているから、引き継ぎも「このUSBを渡す」で終わる。

—

注意点——ローカルAIが向かない場面

万能ではない。正直に書く。

• 最先端の性能が必要な場合：GPT-4oやClaude Sonnet級の推論品質が必須なら、まだクラウドが優位。ただし「その品質が本当に必要か？」は問い直すべき。
• 大量の同時アクセス：社員50人が同時にヘビーに使うような場面では、PCのGPUリソースでは足りない。PAIRで分散しても限界はある。
• マルチモーダル（画像・音声）の高度な処理：ローカルで動くマルチモーダルモデルはまだ発展途上。テキスト中心の業務から始めるのが現実的。

逆に言えば、社員10人以下、テキスト中心の業務、機密性の高いデータを扱う——この条件に当てはまる中小企業なら、ローカルAIは今すぐ検討する価値がある。

—

で、結局どうすればいいのか

ステップは3つだけ。

① 今日：USBメモリを1本買う（1,000円）
Hermes Desktopをダウンロードして、手元のPCで試す。30分で動く。

② 今週：社内の「GPU棚卸し」をする
社内のPCに載っているGPUを確認する。意外とゲーミングPCが眠っていたりする。PAIRで束ねれば、それが社内AIインフラになる。

③ 今月：1つの業務で置き換えてみる
議事録の要約、日報の下書き、問い合わせメールのテンプレ生成——何でもいい。1つだけ、クラウドAPIからローカルに切り替えてみる。品質に問題がなければ、順次拡大すればいい。

大事なのは「完璧に理解してから始める」ではなく、「1,000円で試してから考える」こと。

—

AIのコストが限りなくゼロに近づいたとき、何が起きるか

最後に、少し先の話をする。

AIの利用コストがゼロになると、「AIを使っているかどうか」は差別化にならなくなる。全員が使えるようになるからだ。

そのとき差がつくのは、「AIに何をやらせるか」を設計できるかどうかだ。業務のどこにAIを挟めば効果が最大化するか。どのデータを食わせれば、自社だけの価値が出るか。

これは大企業より中小企業のほうが有利だ。意思決定が速い。業務フローが短い。社長が「明日からこれ使おう」と言えば、明日から変わる。

USBメモリ1本。1,000円。月額ゼロ円。

道具のコストが消えた今、問われているのは「何をやるか」だけだ。

—