結論から言う。年間60万円が600円になる——ただし「それだけ」で判断すると痛い目を見る

スマホの上で30億パラメータのLLMをファインチューニングできる。これ、もう未来の話じゃない。iPhone 17 Proクラスの端末なら、バッテリー1回の充電で3BパラメータLLMをユーザーごとにチューニングできるという報告が出てきている。

これが何を意味するか。

今まで月額5万円払ってクラウドAIを使っていた中小企業が、「電気代だけ」でAIを動かせる可能性が出てきた。年間60万円が、年間600円になる。99.9%のコスト削減だ。

ただし、この数字だけ見て飛びつくと判断を誤る。本当に得なのか？ どこに落とし穴があるのか？ 中小企業の現場目線で、冷静に損益分岐点を計算してみる。

クラウドAIの「月額5万円」は何に払っているのか

まず、クラウドAIサービスの月額5万円の内訳を分解しよう。多くの中小企業が使っている典型的なシナリオはこうだ。

• 議事録の要約：週3回の会議 × 月4週 = 月12回
• 問い合わせ対応の自動化：月200〜500件のメール・チャット処理
• 在庫分析・需要予測：日次バッチ処理

これらをGPT-4クラスのAPIで処理すると、トークン消費量にもよるが月3〜8万円程度。SaaS型のパッケージなら月額5万円は現実的なラインだ。年間60万円。3年で180万円。

この金額には、モデルの性能維持・アップデート、インフラ管理、セキュリティパッチ、サポートが含まれている。つまり「自分では何もしなくていい」代金だ。

ローカル実行の「電気代だけ」は本当か

では、スマホでLLMを動かした場合のコストを具体的に計算する。

3BパラメータLLMのファインチューニング1回あたりのエネルギー消費は約0.5kWh。電気代を1kWhあたり25円とすると、1回あたり12.5円。月4回ファインチューニングしても月50円、年間600円だ。

推論（実際にAIを使う処理）のコストはさらに安い。3Bモデルの推論はファインチューニングの数十分の1のエネルギーで済む。議事録要約を1日5回、問い合わせ処理を1日20回走らせたとしても、電気代は月数十円のオーダーだ。

つまり、ランニングコストだけ見れば「年間60万円 → 年間数千円」は誇張ではない。

だが、ここで見落としてはいけないコストがある。

隠れたコストを全部出す

1. 初期投資

iPhone 17 Proは推定15〜20万円。ただし、これは「AI専用端末」として買うわけではなく、日常業務用のスマホとして使うなら追加コストはゼロに近い。すでに社員がiPhoneを持っているなら、機種変更のタイミングで乗り換えるだけだ。

Android端末なら、Snapdragon 8 Elite搭載の端末が10〜15万円帯で出ている。AI処理性能はiPhoneに匹敵する。

2. セットアップと運用の人件費

ここが最大の落とし穴だ。クラウドAIサービスは「設定して終わり」だが、ローカルLLMは自分でモデルを選び、ファインチューニングのデータを用意し、プロンプトを調整し、出力品質を検証する必要がある。

社内にこれができる人材がいるか？ いなければ外注するか、学習コストをかけるか。仮に月10時間の運用工数がかかり、時給換算3,000円なら月3万円。年間36万円。

これだとクラウドの60万円に対して36万円＋電気代数千円で、約40%の削減にとどまる。99.9%削減の夢は消える。

3. モデル性能の差

ここが最も冷静に見るべきポイントだ。3BパラメータのローカルLLMと、GPT-4oやClaude 4のようなクラウド上の大規模モデルでは、性能に明確な差がある。

• 3Bモデルで十分な業務：定型的な議事録要約、FAQ応答、テンプレートベースの文章生成、簡単な分類タスク
• 3Bモデルでは厳しい業務：複雑な推論を伴う分析、長文の構造化、専門知識を要する回答、マルチステップの意思決定支援

中小企業の業務の7〜8割は前者だ。ここがポイントになる。

損益分岐点はどこにあるか

3つのシナリオで計算してみる。

シナリオA：社内にAIに詳しい人材がいる場合

• ローカル運用コスト：電気代 年間5,000円 ＋ 運用工数 年間12万円（月5時間 × 2,000円）= 約12.5万円
• クラウドAI：年間60万円
• 年間47.5万円の削減。初年度から黒字。

シナリオB：外部に運用を委託する場合

• ローカル運用コスト：電気代 年間5,000円 ＋ 外部委託 年間48万円（月4万円）= 約48.5万円
• クラウドAI：年間60万円
• 年間11.5万円の削減。得はするが、インパクトは小さい。

シナリオC：クラウドとローカルのハイブリッド

• 定型業務（全体の7割）をローカル、複雑な処理（3割）をクラウドに振り分け
• ローカル運用コスト：年間12.5万円 ＋ クラウド（3割利用）：年間18万円 = 約30.5万円
• フルクラウド：年間60万円
• 年間29.5万円の削減。現実的にはこれが最適解。

中小企業にとっての「本当の価値」はコスト削減じゃない

ここまでコストの話をしてきたが、実は最も重要なのはコスト以外の部分だ。

1. データが外に出ない

クラウドAIを使うということは、議事録も、顧客からの問い合わせ内容も、在庫データも、すべて外部サーバーに送信するということだ。ローカル実行なら、データは端末の中で完結する。

これは医療、介護、士業、製造業の図面管理など、「データを外に出したくない」業種にとって決定的な差になる。今までAI導入をためらっていた企業が、ローカル実行なら踏み切れる。ここに新しい市場が生まれる。

2. オフラインで動く

工場の現場、建設現場、山間部の農場、移動中の営業車の中。ネット接続が不安定な場所で仕事をしている中小企業は多い。ローカルLLMなら、圏外でもAIが使える。

「現場で使えるかどうか」は、中小企業にとってAIが役に立つかどうかの分水嶺だ。クラウド前提のAIは、オフィスワーカー向けの設計になっている。現場で手が汚れている人たちのためのAIは、ローカルでこそ実現する。

3. 属人化しない仕組みが端末に載る

ベテラン社員の判断基準をファインチューニングでモデルに覚えさせれば、その知見が端末の中に残る。人が辞めても、モデルは残る。

中小企業最大の課題である「属人化」に対して、スマホ上のLLMは一つの回答になりうる。しかもクラウドサービスのように「サービス終了」のリスクがない。モデルは手元にある。

で、結局どうすればいいのか

3つだけ言う。

1. まず試せ。
今すぐスマホでローカルLLMを動かしてみろ。MLC LLMやllama.cppベースのアプリなら、既存のスマホでも3Bモデルは動く。体感しないと判断できない。

2. 全部をローカルに移すな。
定型業務はローカル、複雑な判断はクラウド。このハイブリッド構成が現時点での最適解だ。「クラウドかローカルか」の二択で考えると失敗する。

3. コスト削減より「今までできなかったこと」に目を向けろ。
データを外に出せなくてAIを使えなかった業務、ネットがなくてAIが使えなかった現場。そこにローカルLLMを持ち込んだときに何が起きるか。本当の価値はそこにある。

これは「AIの民主化」の次のフェーズだ

ChatGPTが出てきたとき、「AIが誰でも使える時代になった」と言われた。だが実態は、月額数万円のサブスクを払い、データをクラウドに預け、ネット接続が前提だった。

スマホ上でLLMが動く時代は、その前提をひっくり返す。AIを使うのに、月額課金もクラウドもネット接続もいらない。必要なのは、ポケットの中のスマホだけだ。

年間60万円が600円になるインパクトは大きい。だが、それ以上に大きいのは、「AIを使える企業」と「使えない企業」の境界線が消えることだ。

地方の町工場も、山間部の農家も、移動ばかりの営業マンも、全員がAIを持ち歩ける。大企業と同じ土俵に立てる。

これが、中小企業にとっての本当のゲームチェンジだ。

—