結論から言う。「AIは高い」が終わりつつある

Reflection AIが発表した新モデル「Beam」。501Bパラメータのスパース型MoEモデルで、推論コストは入力100万トークンあたり0.15ドル。これはGPT-4oの入力コスト（100万トークンあたり2.50ドル）と比較すると、約16分の1だ。

さらに注目すべきは、このBeamから「オンポリシー蒸留」で小型モデルを量産できるという点。大きなモデルの知識を小さなモデルに移し替える技術が実用段階に入った。つまり、高性能な推論をさらに安く、さらに小さく回せる時代が来ている。

これが中小企業にとって何を意味するのか。「AIを使うかどうか」ではなく、「AIのコストが消えたとき、自社の何が変わるか」を考えるフェーズに入った、ということだ。

そもそもReflection Beamとは何か

Reflection Beamは、501Bの総パラメータ数を持つMoE（Mixture of Experts）アーキテクチャのモデルだ。MoEとは、全パラメータを毎回使うのではなく、入力に応じて必要な「専門家」モジュールだけを動かす仕組み。これにより、パラメータ数に対して実際の計算量を大幅に抑えられる。

Reflection AIの公表値によれば、同等性能のオープンモデル比で推論計算コストが3〜4分の1。特にコーディングタスクやエージェント的なワークロード（複数ステップの自律実行）で強いとされている。

そして最大のポイントが「オンポリシー蒸留」。Beamの推論結果を教師データとして、70Bや14Bクラスの小型モデルに知識を転写する。従来の蒸留は「オフポリシー」、つまり既存のデータセットで学習させるのが主流だったが、オンポリシー蒸留はモデル自身が生成した推論過程をそのまま使う。これにより、推論の「考え方」まで小型モデルに移せるため、精度の劣化が小さい。

要するに、大きなモデルで出した品質を、小さなモデルで再現できる。コストは桁違いに下がる。

中小企業の3つの使い方で試算する

では実際、中小企業がAI推論を使うとき、コストはどうなるのか。月額課金・自社運用・API従量課金の3パターンで考える。

パターン1：月額課金（ChatGPT Pro等）

現状、多くの中小企業が使っているのはこのパターンだ。ChatGPT Plusなら月額20ドル/人、Proなら月額200ドル/人。社員10人で使えば月2,000〜20,000ドル（約30万〜300万円）。

この月額課金モデルは「使い放題」に見えるが、実はAPI経由の自動化には使えない。人間が画面に向かってチャットする用途に限定される。つまり、業務の自動化にはつながらない。

月額課金は「お試し」としては優秀だが、ここに留まっている限り、AIは「便利なツール」で終わる。

パターン2：API従量課金

本命はこちらだ。APIで推論を呼び出し、業務フローに組み込む。ここでBeamクラスのコスト構造が効いてくる。

具体的に計算してみよう。

• 地方の製造業が、日報200件/日をAIで要約・分類する場合
• 1件あたり入力1,000トークン＋出力500トークンと仮定
• 月間稼働日22日で、月4,400件

Beamクラスのコスト（入力$0.15/100万トークン、出力$0.60/100万トークンと仮定）の場合：

• 入力：4,400 × 1,000 = 440万トークン → 約$0.66
• 出力：4,400 × 500 = 220万トークン → 約$1.32
• 月額合計：約$1.98（約300円）

GPT-4oのAPI（入力$2.50/100万トークン、出力$10.00/100万トークン）の場合：

• 入力：約$11.00
• 出力：約$22.00
• 月額合計：約$33.00（約5,000円）

どちらも安い。だが、これが「1業務」の話だということに注目してほしい。日報だけでなく、見積書作成、問い合わせ対応、在庫分析、議事録作成……10業務、20業務に展開したらどうなるか。トークン消費量が10倍になっても、Beamクラスなら月3,000円。GPT-4oでも5万円。

かつて外注すれば1業務あたり月10〜30万円かかっていた作業が、月数千円で自動化される。この構造変化が本質だ。

パターン3：自社運用（オンプレ/プライベートクラウド）

Beamの蒸留モデル（70Bクラス）を自社で動かすパターン。顧客データや社内機密を外部に出せない業種（医療、金融、士業など）では現実的な選択肢になる。

必要なインフラのざっくり試算：

• NVIDIA A100 80GB × 2枚：クラウドなら月額約$3,000〜4,000（AWS/GCP）
• オンプレで購入なら1枚約200万円 × 2 = 約400万円（3年償却で月約11万円）
• 運用・保守の人件費：月10〜20万円

月額20〜30万円。これは「高い」と感じるかもしれない。だが、もしこのモデルが社内の5〜10業務を24時間自動で回してくれるなら、人件費換算で月100万円以上の業務を代替できる。投資回収は半年以内だ。

ただし正直に言えば、中小企業がいきなり自社運用に飛ぶのはリスクが高い。まずはAPI従量課金で「どの業務にAIが効くか」を検証し、トークン消費量と効果が見えてから自社運用を検討する、という順番が現実的だ。

本当に変わるのは「コスト」ではなく「構造」

ここまでコストの話をしてきたが、本質はコスト削減ではない。

推論コストが100分の1になると、「人がやるかAIがやるか」の判断基準が変わる。

これまでは「この業務にAIを入れて、月10万円のコスト削減になるか？」と計算していた。投資対効果が合う業務だけがAI化の対象だった。

だが推論コストが月数百円になったら、ROIの計算自体が不要になる。「とりあえず全部AIに通してみる」が合理的になる。日報も、メールも、見積もりも、問い合わせも。全部。

これは大企業より中小企業に有利な構造だ。なぜか。

大企業は、AIを導入するのに稟議があり、セキュリティ審査があり、ベンダー選定があり、PoC期間がある。1つの業務をAI化するのに半年かかる。

中小企業は、社長が「やろう」と言えば来週から動ける。10業務を同時にAPI接続して、効果があるものだけ残す。意思決定の速さが、技術のコモディティ化と掛け算になる。これが逆転の構造だ。

蒸留モデル量産が意味すること

もう1つ、蒸留の話を掘り下げたい。

Beamのような大型モデルから小型モデルを量産できるということは、「業務特化型の小さなAI」を安く作れるということだ。

例えば、建設業の見積もりに特化した14Bモデル。介護記録の要約に特化した7Bモデル。農業の出荷判定に特化した3Bモデル。

これまで業務特化モデルを作ろうとすると、データ収集・アノテーション・学習で数百万円〜数千万円かかっていた。蒸留なら、大型モデルに業務データを処理させ、その出力を教師データにして小型モデルを学習させるだけ。コストは数十万円単位に下がる可能性がある。

しかも小型モデルはスマホやエッジデバイスでも動く。現場のタブレットで、ネット接続なしに推論が走る。地方の山間部の建設現場でも、漁船の上でも、AIが使える。

「AIはクラウドに繋がないと使えない」という前提が崩れる。 これは地方の中小企業にとって、決定的に重要な変化だ。

で、結局どうすればいいのか

3つだけ。

1. まず1つ、APIで自動化する業務を決める
日報の要約でも、問い合わせの自動分類でも何でもいい。月数百円で試せる。失敗しても痛くない。

2. 「人がやらなくていい業務」をリストアップする
推論コストが限りなくゼロに近づく前提で、社内業務を棚卸しする。「これ、AIに投げたらどうなる？」と全部に問いかける。

3. 蒸留モデルの動向を追う
Beamに限らず、Llama、Qwen、Gemmaなど、オープンモデルの蒸留エコシステムは急速に成熟している。自社業務に特化した小型モデルを持つことが、1〜2年後の競争力を決める。

推論コストが100分の1になる世界は、もう来ている。問題は「いつ始めるか」だけだ。来年やるか、来週やるか。その差が、3年後の会社の姿を決める。

—