結論から言う。月5万円以上クラウドAIに払っているなら、自前運用を検討すべきフェーズに入った

AIのAPI課金、毎月いくら払っているだろうか。ChatGPT API、Claude API、あるいはAzure OpenAI。月1万円で済んでいるうちはいい。だが業務に本格的に組み込み始めると、月5万、10万、気づけば年間100万円を超える。しかもデータは全部外部に出ている。

ここに来て、構造が変わり始めた。3つの変化が同時に起きている。

• ハードウェア：Apple M5チップが推論性能を劇的に引き上げた
• モデル：10Bパラメータ級の軽量モデルが実用レベルに到達した
• ツール：オープンソースのAIエージェントフレームワークが成熟してきた

この3つが揃ったことで、「Mac1台で業務用AIを自社運用する」という選択肢が、中小企業にとって現実的になった。本記事では、実際にコストの損益分岐点を試算し、「どこから自前が得になるのか」を具体的な数字で示す。

—

Apple M5で何が変わったのか——推論スループット6.4倍の意味

Apple M5チップの最大の特徴は、各コアに専用のニューラルアクセラレーターを搭載した点だ。従来のGPUベースの推論とは設計思想が異なる。CPUとメモリが統合されたユニファイドメモリアーキテクチャにより、大規模モデルでもメモリ転送のボトルネックが起きにくい。

具体的な数字を見よう。推論ランタイム「BaseRT」を使った検証では、M5 Pro上での推論スループットが従来のM3/M4世代と比較して最大6.4倍に向上した。これは何を意味するか。

例えば、10Bパラメータのモデルで1リクエストあたりの応答生成に従来6.4秒かかっていたとする。M5なら1秒で返る。社内チャットボットや文書要約ツールとして使う場合、この速度差は「使えるか使えないか」の境界線を超える差だ。

しかも重要なのは、これがNVIDIA A100のような100万円超のGPUではなく、約30万円のMac miniやMacBook Proで実現できるということだ。電源を入れてモデルをロードすれば動く。ラックマウントサーバーも、冷却設備も要らない。

—

軽量モデル「Domyn-Small」が埋めた最後のピース

ハードウェアだけでは足りない。動かすモデルが重すぎれば意味がない。

ここで注目すべきが、欧州発のオープンウェイトモデル「Domyn-Small」だ。10Bパラメータという軽量さながら、以下の特徴を持つ。

• 32Kトークンのコンテキストウィンドウ（推論時128Kまで拡張可能）
• 多言語対応（日本語含む）
• コーディング、要約、分類、抽出など汎用タスクで高精度
• 商用利用可能なオープンウェイトライセンス

70Bや400B級のモデルと比べれば、複雑な推論や創造的な文章生成では劣る場面もある。だが中小企業の業務で求められるのは、「議事録を要約する」「問い合わせを分類する」「定型文書のドラフトを作る」といったタスクだ。10Bモデルで十分すぎるほど対応できる。

むしろ問うべきは逆だ。「その業務に70Bモデルが本当に必要なのか？」

—

コスト逆転ラインを計算する——月いくらから自前が得か

ここからが本題だ。自社サーバー（Mac）でAIを運用する場合と、クラウドAPIを使い続ける場合で、コストの損益分岐点を試算する。

【自前運用のコスト】

ここで重要な補正をしておく。元のドラフトでは「AIエンジニアの人件費月30万円」を計上していたが、これは常勤エンジニアを雇う前提だ。中小企業の現実はそうではない。初期セットアップは外注し、運用は月数時間の保守で回す。モデルの入れ替えや微調整が必要な場合だけスポットで依頼する。この前提なら月3.4万円で収まる。

【クラウドAPI利用のコスト】

利用量によって大きく変わるが、中小企業の典型的なユースケースで試算する。

• 社内チャットボット：1日50リクエスト、1リクエスト平均2,000トークン（入出力合計）
• 月間リクエスト数：約1,500件
• 月間トークン数：約300万トークン

GPT-4oクラスのAPIで計算すると、入力$2.5/100万トークン、出力$10/100万トークン（2025年6月時点の概算）として、月額約3,000〜5,000円程度。これだけなら安い。

だが実務ではこうはいかない。

• エージェント型の処理（複数回のAPI呼び出しを連鎖させる）を組むと、1タスクあたりのトークン消費は10〜50倍に膨れる
• 文書処理（契約書チェック、マニュアル検索等）は1回あたり数万トークンを消費する
• 利用者が増えれば線形にコストが増える

現実的に業務に組み込んだ場合、月額3万〜10万円のレンジに入る企業が多い。さらにRAG（検索拡張生成）を組み合わせると、ベクトルDBのホスティング費用も加わる。

【損益分岐点】

自前運用の月額コストが約3.4万円。つまり——

> クラウドAPI課金が月3.5万円を超えたら、自前運用のほうが安くなる。

しかもこの分岐点は「利用量が増えるほど自前有利」に傾く。クラウドは従量課金だから、使えば使うほどコストが増える。自前は固定費だから、使い倒すほど1リクエストあたりの単価が下がる。

社員が「便利だから」とどんどん使い始めたとき、クラウドなら請求書が膨らむ。自前なら「どんどん使え」と言える。この差は大きい。

—

コストだけじゃない。データが外に出ない価値

中小企業の経営者と話していて、コストと同じくらい——場合によってはそれ以上に——気にされるのが「データの行き先」だ。

顧客情報、見積もり金額、社内の議事録。これらをクラウドAPIに投げるということは、外部サーバーにデータを送信するということだ。利用規約上「学習には使わない」と書いてあっても、経営者の肌感覚として「外に出したくない」というのは合理的な判断だ。

自前運用なら、データは自社のMacの中で完結する。インターネット接続すら不要だ。これは規約を読み込む手間も、情報漏洩リスクの検討も、まるごとゼロにできるということだ。

—

「で、結局どうすればいいの？」——3つのステップ

理屈はわかった。で、明日から何をすればいいのか。

ステップ1：今のAPI課金を正確に把握する
まずは現状の支出を確認する。月いくら払っているか。利用量のトレンドは増加傾向か。ここが月3.5万円を超えているなら、次に進む価値がある。

ステップ2：小さく試す
いきなり全業務を移行する必要はない。M5搭載のMac miniを1台買い、Domyn-Smallクラスのモデルを載せて、社内の1業務だけ動かしてみる。議事録要約でも、FAQ応答でもいい。投資額は30万円＋セットアップ費用。失敗しても致命傷にならない金額だ。

ステップ3：効果を測定し、判断する
1ヶ月動かして、速度・精度・コストを比較する。クラウドAPIと遜色なければ、業務を順次移行していく。精度が足りなければ、その業務だけクラウドに残せばいい。全か無かではなく、ハイブリッドで最適化する。

—

まとめ：「AIは大企業のもの」という時代は終わった

30万円のMac1台と、無料のオープンウェイトモデル。月3.4万円のランニングコストで、自社専用のAIが動く。データは外に出ない。使い放題。

3年前なら冗談のような話だ。GPU1枚100万円、モデルはクローズド、APIは従量課金——中小企業がAIを使うには、大企業と同じ土俵でコストを払うしかなかった。

その構造が、いま逆転しつつある。ハードウェアの価格性能比が劇的に改善し、オープンウェイトモデルが実用水準に達し、セットアップのハードルも下がった。

中小企業だからこそ、意思決定が速い。中小企業だからこそ、1台のMacで全社員分をカバーできる。中小企業だからこそ、「まず1台買って試す」ができる。

問いはシンプルだ。「このまま毎月API課金を払い続けるのか、それとも自分たちの手元にAIを持つのか。」

答えを出すのに、半年も待つ必要はない。Mac1台、30万円、1ヶ月。それで検証できる。

—