結論から言う。「AIはクラウドで」の時代が終わりはじめた

NVIDIAが発表したDGX Spark。デスクトップサイズで1ペタFLOPS（FP4）、メモリ128GB、価格は約3,000ドル（約45万円）から。

この数字の意味がわかるだろうか。

3年前なら、1ペタFLOPSの計算能力を手に入れるにはサーバールームと数千万円の投資が必要だった。それが今、机の上に置ける箱で、中古の軽自動車より安い。

「AIはクラウドAPIを叩くもの」——そう思い込んでいる中小企業の経営者は多い。だが、この価格帯のハードウェアが出てきた今、その常識は一度疑ったほうがいい。

毎月クラウドにいくら払っているか、把握しているか

まず現実の数字を見よう。

OpenAIのAPI（GPT-4oクラス）を業務で本格的に使うと、トークン消費は想像以上に膨らむ。社内文書の要約、顧客対応の自動化、レポート生成——これらを日常的に回すと、月額5万〜20万円は普通にかかる。繁忙期やエージェント的な使い方をすれば、月50万円を超える会社もある。

しかもクラウドAPIの厄介なところは、使えば使うほどコストが増える構造だということだ。業務にAIが浸透すればするほど、請求書が膨らむ。成功すればするほどコストが上がる。これは中小企業にとって、かなり危険な構造だ。

DGX Sparkで何ができるのか——スペックを正直に見る

DGX Sparkの中身を整理する。

• チップ: GB10 Grace Blackwell スーパーチップ
• 性能: 1ペタFLOPS（FP4）
• 統合メモリ: 128GB（CPU/GPU共有）
• 価格: 約3,000ドル（約45万円）〜
• サイズ: Mac Miniより少し大きい程度のデスクトップ筐体
• OS: Linux（Ubuntu）ベースのNVIDIA DGX OS

128GBの統合メモリは大きい。これがあれば、200億パラメータクラスのオープンモデル（Llama 3系、Mistral系など）を量子化なしでそのまま動かせる。700億パラメータクラスでも量子化すれば載る。

つまり、GPT-4oには及ばないが、GPT-3.5〜4の中間レベルの推論を、ローカルで無限に回せるということだ。

ここが重要なポイントだ。多くの業務用途——社内文書の分類、定型メールの生成、議事録の要約、FAQの自動応答——では、最高性能のモデルは必要ない。「そこそこ賢いモデルを、コストゼロで無制限に使える」ほうが、実務ではよほど価値がある。

損益分岐点を電卓で叩いてみた

具体的に計算しよう。

クラウドAPI利用の場合：

• 月額コスト: 10万円（中小企業の平均的な業務利用を想定）
• 年間コスト: 120万円
• 3年間コスト: 360万円

DGX Spark導入の場合：

• 初期投資: 約50万円（本体＋セットアップ費用）
• 電気代: 月約2,000〜3,000円（消費電力は公式未発表だが、デスクトップ級のため200W前後と推定）
• 年間ランニングコスト: 約3万円
• 3年間総コスト: 約59万円

差額: 3年で約300万円。

この計算が成立するのは「月10万円以上クラウドAPIに払っている場合」だが、もっと控えめに見てもいい。月5万円のクラウド利用でも、1年で60万円。DGX Sparkの初期投資50万円は10ヶ月で回収できる。

逆に言えば、月3万円以下のAPI利用しかしていないなら、まだクラウドのほうが合理的だ。ここは正直に言っておく。

損益分岐点は、月額約4〜5万円のライン。これを超えているなら、ローカルAIの導入を真剣に検討する価値がある。

「データを外に出さなくていい」——これは中小企業にとって想像以上に大きい

コストの話ばかりしたが、もう一つ見逃せない論点がある。プライバシーだ。

クラウドAPIを使う場合、顧客データ、売上データ、社内のノウハウ——これらをすべて外部サーバーに送信している。OpenAIやGoogleが「学習には使わない」と言っていても、中小企業の経営者が感じる不安は消えない。取引先から「うちのデータ、どこに送ってるの？」と聞かれたとき、明確に答えられるか。

DGX Sparkなら、すべてのデータ処理が自社のデスクトップ上で完結する。ネットワークに繋がなくても動く。これは、医療、法律、金融、製造業の図面管理など、データの機密性が高い業種の中小企業にとって、クラウドでは絶対に得られない価値だ。

「プライバシーのためにAI導入を見送っていた」という会社にとって、ローカルAIは導入のブロッカーそのものを消す。

ただし、甘い話だけではない——正直なリスクも書く

ここで冷や水をかけておく。DGX Sparkを買えばすべて解決、という話ではない。

1. 運用には技術力がいる
オープンモデルのセットアップ、ファインチューニング、プロンプト設計——これらは現時点ではまだ「買ってきて電源を入れれば動く」というレベルではない。NVIDIAはNIMマイクロサービスなどのソフトウェアスタックを提供しているが、それでも社内に最低限の技術的な理解がある人間が必要だ。

2. モデルの性能はクラウド最上位には及ばない
GPT-4oやClaude 3.5 Sonnetの最高性能が必要な用途——複雑な推論、高度なコード生成、マルチモーダルな分析——では、まだクラウドAPIに軍配が上がる。ローカルで動くオープンモデルは「8割の用途を9割の品質でカバーする」ものだと思ったほうがいい。

3. 将来のモデル進化への追従
クラウドなら、APIの向こう側で勝手にモデルがアップデートされる。ローカルの場合、新しいモデルへの切り替えは自分でやる必要がある。ただし、これは裏を返せば「勝手に仕様が変わらない」という安定性でもある。

中小企業にとっての本当の意味——「AIのコストが固定費になる」

ここまで読んで、「うちには関係ない」と思った経営者もいるかもしれない。だが、この流れの本質はDGX Sparkという製品そのものではない。

「AIの計算コストが、変動費から固定費に変わる」という構造変化だ。

クラウドAPIは従量課金。使うほど金がかかる。これは大企業には問題にならないが、中小企業には致命的だ。予算が読めない。成功してスケールしたら、コストも一緒にスケールする。

ローカルAIなら、初期投資さえすれば、あとは電気代だけで無限に使える。月100回使っても10万回使っても、コストは変わらない。AIの利用量に対してコストが比例しない。これが中小企業にとっての逆転の構造だ。

大企業はクラウドの従量課金でも予算を組める。だが中小企業は「月の支払いが読めない」時点でAI導入を躊躇する。固定費化できるローカルAIは、まさに中小企業のための選択肢だ。

で、結局どうすればいいのか

3つのステップを提案する。

Step 1: 今のクラウドAI費用を正確に把握する
OpenAI、Google、AWSなど、AIに関連する月額費用を洗い出す。月5万円を超えているなら、次のステップへ。

Step 2: 「クラウドでなければならない用途」と「ローカルで十分な用途」を分ける
最高性能が必要な用途はクラウドに残す。定型的な処理、データの機密性が高い処理はローカルに移す。ハイブリッドが現実解だ。

Step 3: まず小さく試す
DGX Sparkの正式出荷は2025年5月以降とされている。それを待つ間に、既存のローカルLLM（Ollamaなど）を手持ちのPCで試してみる。「ローカルでどこまでできるか」の感覚を掴んでおくだけで、判断の精度が上がる。

AIの世界では、半年前の常識が通用しない。「クラウドで十分」という判断も、「ローカルは難しい」という判断も、定期的にアップデートしなければ、気づいたときには競合に差をつけられている。

45万円のデスクトップが、300万円のクラウド費用を消す。この計算が成立する会社は、思っているより多いはずだ。

—