結論から言う。「AIエージェント、やめました」が正解の会社は多い

AIエージェントが話題だ。自律的にタスクを判断し、ツールを呼び出し、複雑な業務を自動化する——。聞こえはいい。だが今、そのAIエージェントをわざわざ捨てて、単純なシステムに戻す会社が増えている。

なぜか。答えはシンプルだ。コストに見合わないから。

これは大企業の話ではない。むしろ地方の中小企業こそ、この判断を間違えると致命傷になる。月の売上が数百万円の会社で、AIの運用コストが月30万、50万と膨らんでいく。それで業務が劇的に変わったかというと、「なんとなく自動化されてる気がする」程度。この構造に気づいた会社から、静かに撤退が始まっている。

「ツール使用税」という見えないコスト

AIエージェントの仕組みを簡単に言えば、こうだ。LLM（大規模言語モデル）が「次に何をすべきか」を判断し、外部のツール——データベース検索、API呼び出し、ファイル操作などを自動で実行する。人間が指示しなくても、AIが勝手に考えて動く。

問題は、この「勝手に考えて動く」部分にコストがかかることだ。

AIがツールを1回呼び出すたびに、追加のトークンが消費される。判断のためのプロンプト、ツールの結果を解釈するためのプロンプト、次のアクションを決めるためのプロンプト。1つのタスクを完了するまでに、LLMへのAPI呼び出しが5回、10回と積み重なる。

これを「ツール使用税」と呼ぶ。

ある研究では、エージェント型システムにおけるツール呼び出しのオーバーヘッドが、全体の運用コストの30〜40%を占めるケースが報告されている。つまり、月額100万円のAI運用費のうち、30〜40万円は「AIが考えるために考えている」コストだ。実際の業務処理に使われているのは残りの60〜70万円分に過ぎない。

さらに厄介なのは、このコストが使えば使うほど増えること。タスクが複雑になるほどツール呼び出しの回数が増え、コストは線形ではなく加速度的に膨らむ。月額10万円で始めたはずが、半年後には50万円になっていた——そんな話は珍しくない。

実例：月額300万円のAIエージェントを、月5万円のスクリプトに置き換えた

具体的な話をしよう。

ある地方の製造業（従業員50名規模）が、受発注業務の自動化にAIエージェントを導入した。メールで届く発注書をAIが読み取り、在庫を確認し、納期を回答し、社内システムに登録する——という一連の流れを自動化する構想だった。

導入時のベンダー見積もりは月額80万円。「人件費2人分が浮きます」という触れ込みだった。

ところが実際に運用を始めると、こうなった。

• AIが発注書のフォーマット違いを判断できず、エラー率が15%に達した
• エラー処理のために結局人間が張り付く必要があり、人件費は減らなかった
• 複雑な判断が必要なケースでAIが「考え込む」ため、レイテンシーが平均8秒に
• ツール呼び出しの増加で、月額コストが当初の80万円から300万円に膨張

結局、この会社がやったことは何か。

発注書のフォーマットを3パターンに標準化し、パターンマッチングのシンプルなスクリプトで処理するようにした。AIは使わない。if文とCSV変換だけ。レイテンシーは0.2秒。エラー率は2%以下。月額コストはクラウドサーバー代の5万円だけ。

300万円が5万円になった。60分の1だ。

しかも処理速度は40倍、エラー率は7分の1。あらゆる指標で「単純なシステム」が勝った。

問いかけ：そのタスク、本当にAIエージェントが必要か？

ここで立ち止まって考えてほしい。

AIエージェントが本当に力を発揮するのは、「事前にルールを決められない」タスクだ。毎回状況が変わる、判断基準が曖昧、パターンが無限にある——そういう領域ではAIの柔軟性が活きる。

だが、中小企業の業務の大半は逆だ。パターンは有限で、ルールは決められる。決められるのに決めていないだけ、というケースがほとんどだ。

受発注処理、請求書発行、在庫確認、日報集計、勤怠管理——。これらは「AIが考える」必要がない。ルールを決めて、スクリプトを書けば終わる。

つまり、多くの中小企業にとってAIエージェントは「過剰品質」なのだ。

小型モデルという「ちょうどいい」選択肢

とはいえ、「AIを一切使うな」と言いたいわけではない。

注目すべきは、小型のオープンウェイトモデルの急速な進化だ。パラメータ数が1B〜8B程度の軽量モデルが、特定のタスクにおいて驚くほどの性能を出し始めている。

最近のベンチマーク評価では、0.27Bから32Bまでの16モデルが比較された。結果、8Bクラスのオープンモデルが、構造化されたツール使用タスクにおいてGPT-4oクラスのスコアの85〜90%を達成した。運用コストは、GPT-4oのAPI利用と比較して約80%削減できる。

これが意味することは大きい。

月額50万円かけてGPT-4oベースのエージェントを回していた業務が、自社サーバーで動く小型モデル＋シンプルなパイプラインで月額5〜10万円に収まる可能性がある。しかも、データは外部に出ない。地方の製造業や建設業にとって、これは無視できないメリットだ。

「やめる判断」のフレームワーク

具体的に、AIエージェントを続けるか・やめるかの判断基準を整理する。

やめたほうがいいサイン：

• タスクのパターンが10種類以下に分類できる
• エラー発生時に結局人間が対応している
• 月額コストが導入時の見積もりの2倍を超えた
• 「AIがないと回らない」のではなく「AIがあっても人が張り付いている」
• レスポンスタイムが業務のボトルネックになっている

続けたほうがいいサイン：

• 入力データのフォーマットが毎回異なり、事前にルール化できない
• 判断に自然言語の理解が不可欠（例：クレーム分類、契約書レビュー）
• 自動化によって明確に人件費が削減できている（数字で証明できる）

ポイントは、「感覚」ではなく「数字」で判断すること。月額コスト、エラー率、処理速度、人的工数——この4つを毎月計測していれば、やめ時は自然と見える。

中小企業だからこそできる「逆転の構造」

大企業はAIエージェントをやめにくい。導入プロジェクトに億単位の予算を投じ、社内政治も絡み、「やめる」という判断にはさらに大きなコストがかかる。サンクコストの呪縛だ。

一方、中小企業は違う。

社長が「これ、やめよう」と言えば来週には切り替えられる。意思決定のスピードが圧倒的に速い。大企業が過剰なAIシステムに月額数百万円を払い続けている間に、中小企業はシンプルなシステムで同等以上の成果を出せる。

これは冗談ではなく、構造的な優位性だ。

AIの進化によって「高度な自動化」のコストは下がった。だが同時に、「シンプルな自動化」のコストはもっと下がった。ノーコードツール、軽量スクリプト、小型モデル——これらを組み合わせれば、月額数万円で十分な自動化が手に入る。

で、結局どうすればいいのか

3つだけやってほしい。

1. 今のAI関連コストを全部洗い出す
API利用料、サーバー代、ベンダーへの支払い、そしてAIのエラー対応に使っている人的工数。全部足す。月額いくらか。

2. そのタスクがif文で書けるか考える
「もしAがBならCをする」——このレベルで記述できるなら、AIエージェントは要らない。パターンを洗い出して、スクリプトに落とす。それだけでいい。

3. まず1つの業務で実験する
全部を一気に変える必要はない。一番コストがかかっているAI業務を1つ選び、シンプルなシステムに置き換えてみる。1ヶ月回して、コストと成果を比較する。数字が答えを出してくれる。

AIエージェントは素晴らしい技術だ。だが、すべての業務に必要な技術ではない。特に中小企業にとっては、「使わない判断」こそが最大のAI活用かもしれない。

技術は手段だ。目的は、利益を出すこと。その原点に立ち返れば、答えはシンプルに見えてくる。

—