同じ仕事なのに、API代が10倍違う。なぜか？

AIエージェントを業務に組み込む企業が増えてきた。問い合わせ対応、データ整理、レポート生成——やらせる仕事は同じでも、エージェントの「組み方」次第でAPI利用料が10倍変わる。これは誇張ではない。

月1,000件の問い合わせをAIエージェントで処理するとしよう。設計が雑なら月3万円。設計を詰めれば月3,000円。年間で32万円の差だ。中小企業にとって、この差は「導入する・しない」の判断を左右する。

にもかかわらず、多くの解説記事は「AIエージェントで何ができるか」しか語らない。本当に知るべきは「どう組めば安くなるか」だ。

この記事では、オーケストレーション設計——つまりエージェントの内部構造の組み方——がトークンコストにどう影響するかを、具体的な数字で解剖する。

—

そもそも「トークン代」とは何か？

AIエージェントは、裏側でGPT-4oやClaude、Geminiなどの大規模言語モデル（LLM）のAPIを叩いている。このAPIは「トークン」という単位で課金される。日本語だとおおむね1文字＝1〜2トークン。

重要なのは、ユーザーが見えている入出力だけでなく、裏側で大量のトークンが消費されているということだ。

• システムプロンプト（エージェントへの指示書）
• 過去の会話履歴の再送信
• ツール呼び出しの定義と結果の受け渡し
• エージェント同士の内部対話

ユーザーが「今月の売上まとめて」と10文字打っただけでも、裏では数千〜数万トークンが飛び交う。ここが設計の腕の見せどころになる。

—

設計で何が変わるのか？——3つのコストドライバー

トークンコストを左右する設計要素は、大きく3つある。

1. コンテキストウィンドウの使い方

エージェントがLLMを呼び出すたびに、「今までの会話履歴」と「システムプロンプト」をまるごと送り直す。会話が長くなるほど、1回のAPI呼び出しで消費するトークンが膨れ上がる。

雑な設計： 会話履歴を全部送る → 10ターン目には1回の呼び出しで5,000トークン超え
賢い設計： 直近3ターン＋要約だけ送る → 1回の呼び出しは1,500トークン程度

これだけで1回あたりのコストが3分の1になる。

2. ツール定義の肥大化

エージェントに「メール送信」「DB検索」「ファイル生成」「スケジュール登録」……と10個のツールを持たせると、毎回の呼び出しでツール定義（関数名、引数、説明文）が全部送信される。ツール1つあたり200〜500トークン。10個なら毎回2,000〜5,000トークンが「ツール定義だけ」で消える。

雑な設計： 全ツールを常時公開 → 毎回5,000トークンの固定コスト
賢い設計： タスクに応じて必要なツールだけ動的に公開 → 毎回500〜1,000トークン

固定コストが5分の1になる。

3. エージェント間のターン数

複数のエージェントを連携させる「マルチエージェント」構成では、エージェントAがエージェントBに依頼し、Bが結果を返し、Aがそれを解釈して……というやり取りが発生する。このターンが増えるほどトークンは爆発的に増える。

雑な設計： 汎用エージェント同士が曖昧な指示でやり取り → 平均8ターン
賢い設計： 1つの特化型エージェントが1回で完結 → 平均2ターン

ターン数が4分の1なら、トークン消費も4分の1だ。

—

実際にいくら変わるのか？——月1,000件処理の試算

具体的に計算してみよう。GPT-4o miniを使い、月1,000件のタスク（例：顧客問い合わせの分類と回答ドラフト生成）を処理する場合。

※GPT-4o mini（入力: $0.15/100万トークン、出力: $0.60/100万トークン、1ドル=150円で計算）

これがGPT-4oクラス（入力: $2.50/100万トークン）になると差はさらに開く。

同じ仕事。同じモデル。設計が違うだけで年間28万円の差。中小企業の月額ツール予算を考えれば、この差は導入可否そのものを分ける。

—

「モデルを安いのに変える」より先にやること

コスト削減というと「安いモデルに切り替えよう」という話になりがちだ。もちろんそれも有効だが、順番が逆だ。

まず設計を直す。そのうえでモデルを選ぶ。

理由は単純で、設計の無駄を残したまま安いモデルに変えると、精度が落ちてリトライが増え、結局トークン消費が増えるからだ。

実践的な優先順位はこうなる。

1. コンテキストを削る——会話履歴の要約、不要な情報の除外
2. ツール定義を絞る——タスクごとに必要なツールだけ公開
3. ターン数を減らす——1回のプロンプトで完結する設計にする
4. モデルを使い分ける——分類は安いモデル、生成は高いモデル
5. キャッシュを活用する——同じ質問パターンはLLMを呼ばない

この5つを順にやるだけで、多くのケースでトークン消費は半分以下になる。

—

「フロアファースト・トリアージ」という考え方

最近注目されているのが、タスクの難易度に応じてモデルを自動で振り分けるアプローチだ。

病院の救急外来と同じ発想で、まず「軽症か重症か」をトリアージ（選別）する。

• 軽症（定型的な質問、単純な分類） → GPT-4o miniやGemini Flashで処理。1件あたり¥0.5以下
• 中症（文脈が必要な回答生成） → GPT-4o miniで処理。1件あたり¥1〜3
• 重症（複雑な推論、複数ステップの判断） → GPT-4oやClaude Sonnetで処理。1件あたり¥5〜30

実際の業務では、タスクの7〜8割は「軽症」だ。つまり全部を高いモデルで処理する必要はまったくない。

このトリアージを入れるだけで、平均コストが3分の1〜5分の1になるケースは珍しくない。

—

中小企業が「最初の1つ」を作るときの設計チェックリスト

理屈はわかった。で、結局どうすればいいのか？

初めてAIエージェントを業務に入れる中小企業向けに、最低限チェックすべき設計ポイントを5つにまとめた。

☑ 1. タスクを1つに絞る

「何でもできるエージェント」は最もコストが高い。まずは「問い合わせ分類」「議事録要約」など、1つのタスクに特化させる。

☑ 2. ツールは3つ以下にする

ツールが増えるほどトークン定義コストが増える。最初は「検索」「テンプレート出力」程度で十分。

☑ 3. 会話ターンは最大3往復に制限する

無制限に会話させると、コンテキストが膨れ上がる。3往復で解決しなければ人間にエスカレーションする設計にする。

☑ 4. まず最安モデルで試す

GPT-4o miniやGemini Flashで十分なタスクは多い。精度が足りないと判明してから上位モデルに切り替えればいい。

☑ 5. 月間トークン消費を可視化する

使い始めたら、必ずトークン消費量をモニタリングする。「どのタスクで」「どれだけ」消費しているかが見えなければ、改善もできない。

—

設計力が「使える・使えない」を分ける時代

AIエージェントの技術は急速にコモディティ化している。フレームワークもツールも、オープンソースで誰でも使える。

だからこそ、差がつくのは「何を使うか」ではなく「どう組むか」だ。

大企業はトークン代が月100万円かかっても予算で吸収できる。中小企業はそうはいかない。だからこそ、設計を詰めて月1万円以下で回す。そのほうが持続可能だし、むしろ筋肉質な仕組みになる。

「AIを導入したけど高くてやめた」——そう言う前に、設計を見直してほしい。同じ仕事が10分の1のコストでできるかもしれない。

まずは1つのタスク、1つのエージェント、最安モデルで。設計を詰めて、数字を見て、改善する。中小企業のAI活用は、そこから始まる。

—