結論から言う。「AIを動かすコスト」の桁が変わった

つい先週まで、まともなAIモデルをローカルで動かそうとしたら、数十万円のGPUを複数枚積んだマシンが必要だった。それが今週、2つのニュースで景色が一変した。

1つ目。DeepSeek V4 Flash——家庭用GPU（VRAM 24GB級）で動く大規模言語モデルが登場した。
2つ目。NVIDIAのNVFP4——4ビット精度での事前学習技術が公開された。モデルのサイズと計算コストを従来の半分以下に圧縮できる。

この2つが同じ週に出てきた意味を、中小企業の経営者は真剣に考えたほうがいい。

—

何が起きたのか：「高級品」が「日用品」になった瞬間

まず事実を整理する。

DeepSeek V4 Flashは、パラメータ数こそ大規模だが、量子化（モデルの圧縮技術）によってVRAM 24GBのGPU 1枚で推論が動く。NVIDIA RTX 4090は現在約28万円。RTX 5090なら35万円前後。高いと思うかもしれないが、これ1枚で「自社専用のAI」が手元で動く。

一方、NVIDIAのNVFP4は学習（トレーニング）側の革命だ。従来、AIモデルの学習にはFP16（16ビット浮動小数点）が標準だった。これを4ビットに落とす。単純計算でメモリ使用量は4分の1になる。学習に必要なGPUの枚数が減り、時間も短くなり、電気代も下がる。

つまり「動かす」も「育てる」も、必要なハードウェアの桁が下がった。

—

コストで語る。中小企業にとって何が変わるのか

抽象論はいらない。数字で見よう。

パターンA：クラウドAI（GPT-4oクラス）を使い続ける場合

従業員30人の会社で、営業・カスタマーサポート・社内文書作成にAIを活用するとする。1人あたり月3,000〜5,000円のAPI費用がかかるケースは珍しくない。

• 月額：30人 × 4,000円 = 12万円
• 年額：144万円
• 3年：432万円

しかもこれは「使った分だけ課金」なので、利用量が増えればさらに膨らむ。データは外部サーバーに送信される。機密情報を扱う業務では使えない場面も多い。

パターンB：ローカルGPU + DeepSeek V4 Flashで自社運用する場合

• GPU（RTX 4090）：28万円（1枚）
• PC本体（GPU搭載ワークステーション）：15万円〜20万円（既存PCの増強含む）
• 初期セットアップ：社内 or 外部支援で5万〜15万円
• 電気代：月額約3,000〜5,000円（GPU 1枚稼働）
• ソフトウェア：オープンソースのため0円

初期投資：約50万円
月額ランニング：約5,000円
年額ランニング：約6万円
3年総コスト：約68万円

432万円 vs 68万円。

6倍以上の差だ。しかもローカル運用なら、顧客データも社内文書も外に出さずに済む。地方の中小企業が最も気にする「情報が外に漏れないか」という不安が、構造的に解消される。

—

「安くなった」の先に何が起きるか

ここからが本題だ。コストが下がること自体は手段でしかない。問題は「コストが下がった先に、何が可能になるのか」だ。

1. 属人化が壊れる

地方の中小企業で最も深刻な問題は「あの人がいないと回らない」だ。ベテラン社員の頭の中にある業務知識、取引先との対応履歴、見積もりのさじ加減。これらが個人に張り付いている。

ローカルAIに自社データを食わせれば、この属人知識を「仕組み」に変換できる。過去の見積書1,000件を学習させたAIが、新人でも使える見積もり支援ツールになる。退職リスクがそのまま経営リスクだった構造が変わる。

クラウドAIでもできる？ できる。だが、自社の見積書や顧客情報をOpenAIのサーバーに送れるか？ 多くの中小企業経営者は「NO」と言う。ローカルで動くからこそ、本当に価値のあるデータを突っ込める。ここが決定的に違う。

2. 「試す」コストがゼロに近づく

従来、AIを業務に組み込もうとすると、PoC（概念実証）だけで100万〜300万円かかった。SIerに依頼し、要件定義をし、3ヶ月後にようやく「使えるかどうか分かりました」と報告が来る。

ローカルAIなら、今日セットアップして、明日には自社データで試せる。ダメなら別のモデルに差し替えればいい。DeepSeek V4がダメならLlama 4を試す。コストはゼロだ。

この「試行コストの崩壊」は、中小企業にとって大企業以上に大きい。大企業は稟議と承認で3ヶ月かかる。30人の会社なら、社長が「やってみよう」と言えば今日始められる。意思決定の速さが、そのまま競争優位になる構造が生まれている。

3. 「AIを使える会社」と「使えない会社」の格差が不可逆になる

これは警告だ。

AI導入コストが下がるということは、「やらない理由」がなくなるということだ。3年後、同業他社がAIで見積もり作成を5分で終わらせているとき、自社はまだベテラン社員が2時間かけて手作業しているのか？

技術の進化は「できるかできないか」の問題から、「やるかやらないか」の問題に移行した。そしてこの差は、時間が経つほど取り返しがつかなくなる。

—

NVIDIAの4ビット学習（NVFP4）が意味すること

もう少し技術の話をする。NVFP4の本質は「学習の民主化」だ。

従来、自社データでAIモデルをファインチューニング（追加学習）するには、A100やH100といった1枚100万〜500万円のデータセンター向けGPUが必要だった。中小企業には論外の投資だ。

4ビット学習が実用化されれば、RTX 4090やRTX 5090クラスの家庭用GPUでもファインチューニングが現実的になる。つまり「動かす」だけでなく「自社向けに育てる」ことが、手元のマシンでできるようになる。

推論（使う）のコストが下がった。学習（育てる）のコストも下がった。 この両方が同時に起きている。これが今週のニュースの本当の意味だ。

—

で、結局どうすればいいのか

中小企業の経営者が今日やるべきことは3つだ。

1. まずGPU 1枚買って、触ってみる。
RTX 4090（約28万円）で十分だ。中古なら20万円を切る。ollama等のツールを使えば、DeepSeek V4 Flashのセットアップは1時間で終わる。

2. 自社の「属人化ポイント」を洗い出す。
見積もり、問い合わせ対応、日報の要約、マニュアル作成——「あの人しかできない」業務をリストアップする。そこがAIの最初の投入先だ。

3. 「完璧」を待たない。
今のローカルAIは完璧じゃない。GPT-4oに比べれば精度は落ちる場面もある。だが、80点の回答を5秒で出すAIと、100点の回答を2時間かけて出すベテラン社員、どちらが業務全体の生産性を上げるか？ 答えは明白だ。

—

この流れは止まらない

DeepSeek V4 Flash、NVFP4。名前は覚えなくていい。覚えるべきは構造の変化だ。

「AIを使うのに大金がいる時代」は終わった。

半年前は「クラウドAPIを使うのが現実的」だった。今は「ローカルで動かすほうが安くて安全」になりつつある。半年後にはさらに性能が上がり、コストが下がる。

大企業はベンダーとの契約や社内調整に縛られて、この変化に機敏に対応できない。中小企業は違う。社長が決めれば、来週には動ける。

「小さいこと」が、初めて本当の武器になる時代が来ている。

問いかけたい。あなたの会社は、この変化に乗るのか、見送るのか。見送った3年後に、同じ選択肢がまだ残っていると思うか？

—