SaaSに毎月10万円払い続けるか、自前AIを月3万円で回すか

結論から言う。自社専用AIの運用コストが月5万円を切り始めた。

これは大企業の話ではない。社員10人の中小企業でも手が届く数字だ。トムソン・ロイターが自社AIで世界トップ級の精度を叩き出し、AMDが学習データまで完全公開したオープンLLMをリリースし、わずか335Mパラメータの超小型モデルがRAGで81%超の精度を出した。この3つのニュースが同時期に出たことの意味は大きい。

「自前AIは大企業のもの」——その常識が、いま静かにひっくり返っている。

—

トムソン・ロイターの自社AI：「汎用モデルに勝てる」という事実

トムソン・ロイターが発表した自社開発AIモデルは、法律・税務・会計といった同社の専門領域において、GPT-4クラスの商用モデルを上回る精度を記録した。

ここで注目すべきは「精度が高い」こと自体ではない。自社が持つ業界特化データで鍛えたモデルが、汎用の巨大モデルに勝ったという構造だ。

これが何を意味するか。OpenAIやGoogleに数千億円の学習コストで作られた汎用モデルに対して、自社データという「ホームグラウンド」で戦えば中小企業でも勝てる可能性があるということだ。

考えてみてほしい。地方の建設会社には20年分の施工報告書がある。町の税理士事務所には数千件の申告データがある。これらは OpenAI が絶対に持っていないデータだ。そのデータで特化モデルを作れば、汎用AIより正確な回答が出せる領域が必ずある。

トムソン・ロイターの事例は、「データを持っている者が勝つ」というAI時代の原則を改めて証明した。そしてそのデータは、実は地方の中小企業こそ大量に持っている。

—

AMDのオープンLLM「Instella-MoE-16B」：学習データまで全公開の衝撃

AMDが公開した「Instella-MoE-16B-A3B」は、単なるオープンソースモデルではない。モデルの重み、学習データ、トレーニング設定、すべてを公開した完全オープンモデルだ。

MoE（Mixture of Experts）というアーキテクチャを採用しており、全体で16Bパラメータを持ちながら、推論時にはそのうち約3Bしか動かない。つまり、見た目は大きいが動かすコストは小さい。

これが現場のコストにどう効くか、具体的に試算してみる。

外部API利用の場合（GPT-4クラス）：

• 1日あたりの問い合わせ：500件
• 1件あたり平均トークン数：入力500＋出力500
• 月額コスト：約8〜12万円

Instella-MoEを自社運用する場合：

• クラウドGPUインスタンス（A10G相当）：月額約2〜3万円
• 推論時に動くのは3Bパラメータ分のみ
• 月額コスト：約2.5〜3.5万円

ざっくり言えば、月10万円が月3万円になる。年間で84万円の差。5年で420万円。中小企業にとって、この差は人ひとり分の年収に近い。

しかも学習データが公開されているということは、「このモデルが何を学んで、何を学んでいないか」が分かるということだ。ブラックボックスのAPIに月10万円払うのと、中身が見える自前モデルに月3万円払うのと、どちらが経営判断として合理的か。答えは明らかだろう。

—

335Mパラメータの「B1ade」：小さいのに強い、の意味

3つ目のニュースが最もインパクトがある。B1adeと呼ばれるモデルは、わずか335Mパラメータ——GPT-4の推定1兆パラメータ超と比べれば3000分の1以下のサイズだ。

それでいて、RAG（検索拡張生成）を組み合わせた場合の精度は：

• PopQA（一般知識QA）：81.82%
• PubMedQA（医療論文QA）：65.8%

この数字の意味を考えてほしい。335Mパラメータなら、ノートPC1台で動く。GPUすら不要だ。クラウド費用ゼロ。電気代だけ。月額コストは事実上ゼロに近い。

なぜこんな小さなモデルで精度が出るのか。答えはRAGの設計にある。モデル自体に知識を詰め込むのではなく、外部のデータベースから必要な情報を検索して、それを元に回答を生成する。つまり、「頭の良さ」ではなく「調べ方の上手さ」で勝負するモデルだ。

これは中小企業のAI導入にとって革命的な意味を持つ。自社のマニュアル、FAQ、過去の問い合わせ履歴をデータベースに入れておけば、335Mの小さなモデルでも「うちの会社専用のAIアシスタント」が作れる。サーバー代もAPI代もかからない。

—

3つのニュースが指し示す構造変化

この3つのニュースを並べると、ひとつの構造変化が見えてくる。

AIのコストが100分の1になったとき、何が起きるか。

答えは「全員が持てるようになる」だ。ホームページがそうだったように、SNSがそうだったように、AIも「持っているのが当たり前」の時代が来る。そしてその変化は、大企業より中小企業に大きなインパクトを与える。

なぜか。大企業はすでに人を雇って業務を回している。AIが安くなっても「便利になる」程度だ。だが中小企業は違う。人手が足りない業務をAIで埋められれば、採用コスト年間300万円が、AI運用コスト年間36万円に変わる。これは効率化ではなく、事業構造の転換だ。

—

で、結局どうすればいいのか——中小企業のための現実的な3ステップ

抽象論は要らない。明日から動ける具体策を3つ示す。

ステップ1：自社データを「検索できる状態」にする（初日〜1週間）

AIモデルの選定より先にやることがある。自社のマニュアル、FAQ、メール対応履歴、見積もりテンプレートなど、社内に散らばっているテキストデータを1箇所に集めることだ。Google DriveでもNotionでも構わない。まずはここから。

これがRAGの「検索対象」になる。データがなければ、どんな高性能AIも役に立たない。

ステップ2：小さく試す——335Mモデル＋RAGで社内QAボットを作る（1〜2週間）

いきなり大きなモデルを導入する必要はない。B1adeクラスの軽量モデルとRAGを組み合わせて、まずは社内向けのQAボットを作る。「この案件の過去の見積もりは？」「このエラーの対処法は？」といった社内の問い合わせに答えるだけのものでいい。

構築コスト：ほぼゼロ（ノートPCで動く）。効果測定：1ヶ月使って、問い合わせ対応にかかっていた時間がどれだけ減ったかを計測する。

ステップ3：効果が出たら、MoEモデルで本番環境へ（1〜3ヶ月）

ステップ2で効果が確認できたら、AMDのInstella-MoEクラスのモデルに切り替えて本番運用に移行する。クラウドGPUを使っても月3万円程度。自社データで追加学習すれば、汎用APIでは出せない精度が出る。

この時点で、SaaSのAIツールに月10万円払う理由がなくなる。

—

「自前AI」は贅沢品ではなくなった

繰り返す。自社専用AIの月額コストが5万円を切った。

335MモデルならノートPC1台で動く。MoEモデルなら月3万円のクラウドで動く。自社データで特化させれば、GPT-4より正確な回答が出せる領域がある。

この状況で「うちにはまだ早い」と言っている間に、隣の会社は自前AIで見積もり作成を自動化し、問い合わせ対応を無人化し、ベテランの暗黙知をデータベース化している。

技術の民主化とは、要するにこういうことだ。コストが下がれば、やらない理由がなくなる。

大企業の真似をする必要はない。数億円のAI投資も、専任のデータサイエンティストも要らない。自社のデータと、月3〜5万円のコストと、「まずやってみよう」という判断だけあればいい。

AIは、ようやく中小企業の道具になった。