AIエージェントの「トークン代」は設計で10倍変わる——中小企業が最初に知るべきオーケストレーションの経済学

同じ仕事なのに、API代が10倍違う。なぜか? AIエージェントを業務に組み込む企業が増えてきた。問い合わせ対応、データ整理、レポート生成——やらせる仕事は同じでも、エージェントの「組み方」次第でAPI利用料が10倍変わる。これは誇張では

By Kai

|

Related Articles

同じ仕事なのに、API代が10倍違う。なぜか?

AIエージェントを業務に組み込む企業が増えてきた。問い合わせ対応、データ整理、レポート生成——やらせる仕事は同じでも、エージェントの「組み方」次第でAPI利用料が10倍変わる。これは誇張ではない。

月1,000件の問い合わせをAIエージェントで処理するとしよう。設計が雑なら月3万円。設計を詰めれば月3,000円。年間で32万円の差だ。中小企業にとって、この差は「導入する・しない」の判断を左右する。

にもかかわらず、多くの解説記事は「AIエージェントで何ができるか」しか語らない。本当に知るべきは「どう組めば安くなるか」だ。

この記事では、オーケストレーション設計——つまりエージェントの内部構造の組み方——がトークンコストにどう影響するかを、具体的な数字で解剖する。

—

そもそも「トークン代」とは何か?

AIエージェントは、裏側でGPT-4oやClaude、Geminiなどの大規模言語モデル(LLM)のAPIを叩いている。このAPIは「トークン」という単位で課金される。日本語だとおおむね1文字=1〜2トークン。

重要なのは、ユーザーが見えている入出力だけでなく、裏側で大量のトークンが消費されているということだ。

  • システムプロンプト(エージェントへの指示書)
  • 過去の会話履歴の再送信
  • ツール呼び出しの定義と結果の受け渡し
  • エージェント同士の内部対話

ユーザーが「今月の売上まとめて」と10文字打っただけでも、裏では数千〜数万トークンが飛び交う。ここが設計の腕の見せどころになる。

—

設計で何が変わるのか?——3つのコストドライバー

トークンコストを左右する設計要素は、大きく3つある。

1. コンテキストウィンドウの使い方

エージェントがLLMを呼び出すたびに、「今までの会話履歴」と「システムプロンプト」をまるごと送り直す。会話が長くなるほど、1回のAPI呼び出しで消費するトークンが膨れ上がる。

雑な設計: 会話履歴を全部送る → 10ターン目には1回の呼び出しで5,000トークン超え
賢い設計: 直近3ターン+要約だけ送る → 1回の呼び出しは1,500トークン程度

これだけで1回あたりのコストが3分の1になる。

2. ツール定義の肥大化

エージェントに「メール送信」「DB検索」「ファイル生成」「スケジュール登録」……と10個のツールを持たせると、毎回の呼び出しでツール定義(関数名、引数、説明文)が全部送信される。ツール1つあたり200〜500トークン。10個なら毎回2,000〜5,000トークンが「ツール定義だけ」で消える。

雑な設計: 全ツールを常時公開 → 毎回5,000トークンの固定コスト
賢い設計: タスクに応じて必要なツールだけ動的に公開 → 毎回500〜1,000トークン

固定コストが5分の1になる。

3. エージェント間のターン数

複数のエージェントを連携させる「マルチエージェント」構成では、エージェントAがエージェントBに依頼し、Bが結果を返し、Aがそれを解釈して……というやり取りが発生する。このターンが増えるほどトークンは爆発的に増える。

雑な設計: 汎用エージェント同士が曖昧な指示でやり取り → 平均8ターン
賢い設計: 1つの特化型エージェントが1回で完結 → 平均2ターン

ターン数が4分の1なら、トークン消費も4分の1だ。

—

実際にいくら変わるのか?——月1,000件処理の試算

具体的に計算してみよう。GPT-4o miniを使い、月1,000件のタスク(例:顧客問い合わせの分類と回答ドラフト生成)を処理する場合。

設計パターンA(無最適化) 設計パターンB(最適化済み)
タスクあたりトークン数 14,200 3,800
タスクあたりコスト 約¥3.2 約¥0.85
月間コスト(1,000件) 約¥3,200 約¥850
年間コスト 約¥38,400 約¥10,200
年間差額 — ▲¥28,200

※GPT-4o mini(入力: $0.15/100万トークン、出力: $0.60/100万トークン、1ドル=150円で計算)

これがGPT-4oクラス(入力: $2.50/100万トークン)になると差はさらに開く。

設計パターンA 設計パターンB
月間コスト(1,000件) 約¥32,000 約¥8,500
年間コスト 約¥384,000 約¥102,000
年間差額 — ▲¥282,000

同じ仕事。同じモデル。設計が違うだけで年間28万円の差。中小企業の月額ツール予算を考えれば、この差は導入可否そのものを分ける。

—

「モデルを安いのに変える」より先にやること

コスト削減というと「安いモデルに切り替えよう」という話になりがちだ。もちろんそれも有効だが、順番が逆だ。

まず設計を直す。そのうえでモデルを選ぶ。

理由は単純で、設計の無駄を残したまま安いモデルに変えると、精度が落ちてリトライが増え、結局トークン消費が増えるからだ。

実践的な優先順位はこうなる。

  1. コンテキストを削る——会話履歴の要約、不要な情報の除外
  2. ツール定義を絞る——タスクごとに必要なツールだけ公開
  3. ターン数を減らす——1回のプロンプトで完結する設計にする
  4. モデルを使い分ける——分類は安いモデル、生成は高いモデル
  5. キャッシュを活用する——同じ質問パターンはLLMを呼ばない

この5つを順にやるだけで、多くのケースでトークン消費は半分以下になる。

—

「フロアファースト・トリアージ」という考え方

最近注目されているのが、タスクの難易度に応じてモデルを自動で振り分けるアプローチだ。

病院の救急外来と同じ発想で、まず「軽症か重症か」をトリアージ(選別)する。

  • 軽症(定型的な質問、単純な分類) → GPT-4o miniやGemini Flashで処理。1件あたり¥0.5以下
  • 中症(文脈が必要な回答生成) → GPT-4o miniで処理。1件あたり¥1〜3
  • 重症(複雑な推論、複数ステップの判断) → GPT-4oやClaude Sonnetで処理。1件あたり¥5〜30

実際の業務では、タスクの7〜8割は「軽症」だ。つまり全部を高いモデルで処理する必要はまったくない。

このトリアージを入れるだけで、平均コストが3分の1〜5分の1になるケースは珍しくない。

—

中小企業が「最初の1つ」を作るときの設計チェックリスト

理屈はわかった。で、結局どうすればいいのか?

初めてAIエージェントを業務に入れる中小企業向けに、最低限チェックすべき設計ポイントを5つにまとめた。

☑ 1. タスクを1つに絞る

「何でもできるエージェント」は最もコストが高い。まずは「問い合わせ分類」「議事録要約」など、1つのタスクに特化させる。

☑ 2. ツールは3つ以下にする

ツールが増えるほどトークン定義コストが増える。最初は「検索」「テンプレート出力」程度で十分。

☑ 3. 会話ターンは最大3往復に制限する

無制限に会話させると、コンテキストが膨れ上がる。3往復で解決しなければ人間にエスカレーションする設計にする。

☑ 4. まず最安モデルで試す

GPT-4o miniやGemini Flashで十分なタスクは多い。精度が足りないと判明してから上位モデルに切り替えればいい。

☑ 5. 月間トークン消費を可視化する

使い始めたら、必ずトークン消費量をモニタリングする。「どのタスクで」「どれだけ」消費しているかが見えなければ、改善もできない。

—

設計力が「使える・使えない」を分ける時代

AIエージェントの技術は急速にコモディティ化している。フレームワークもツールも、オープンソースで誰でも使える。

だからこそ、差がつくのは「何を使うか」ではなく「どう組むか」だ。

大企業はトークン代が月100万円かかっても予算で吸収できる。中小企業はそうはいかない。だからこそ、設計を詰めて月1万円以下で回す。そのほうが持続可能だし、むしろ筋肉質な仕組みになる。

「AIを導入したけど高くてやめた」——そう言う前に、設計を見直してほしい。同じ仕事が10分の1のコストでできるかもしれない。

まずは1つのタスク、1つのエージェント、最安モデルで。設計を詰めて、数字を見て、改善する。中小企業のAI活用は、そこから始まる。

—

POPULAR ARTICLES

  • Eighty Years After the War: Prayers for Iwo Jima

    On April 7, 2025, Japan quietly embarked on a solemn journey of remembrance marking eighty years since the end of World War II. Their Majesties the Emperor and Empress chose as their first destination Iwo Jima, one of the fiercest and bloodiest battlefields of the Pacific War. That morning, the Imperial couple departed the Imperial Palace, boarded a government aircraft at Haneda Airport, and after a flight of about two and a half hours, landed on the isolated island approximately 1,200 kilometers south of Tokyo. This was their first-ever visit to Iwo Jima.

    By Honourway Asia Pacific Limited

  • H3 Rocket’s Redemptive Flight, “Michibiki” Lighting the Future

    At 5:30 p.m. JST on February 2, 2025, a streak of light shot into the sky from the Tanegashima Space Center in Kagoshima Prefecture. Japan’s new flagship launch vehicle, the H3 (Flight 5), roared off the pad and left the earth behind. This launch was more than just another mission; it was the climactic chapter in a story of redemption and renewal for Japan’s space program. The cheers and applause that reverberated through the control room spoke more eloquently than anything else to the weight of this success.

    By Honourway Asia Pacific Limited

Related Articles

POPULAR ARTICLES

  • Eighty Years After the War: Prayers for Iwo Jima

    On April 7, 2025, Japan quietly embarked on a solemn journey of remembrance marking eighty years since the end of World War II. Their Majesties the Emperor and Empress chose as their first destination Iwo Jima, one of the fiercest and bloodiest battlefields of the Pacific War. That morning, the Imperial couple departed the Imperial Palace, boarded a government aircraft at Haneda Airport, and after a flight of about two and a half hours, landed on the isolated island approximately 1,200 kilometers south of Tokyo. This was their first-ever visit to Iwo Jima.

    By Honourway Asia Pacific Limited

  • H3 Rocket’s Redemptive Flight, “Michibiki” Lighting the Future

    At 5:30 p.m. JST on February 2, 2025, a streak of light shot into the sky from the Tanegashima Space Center in Kagoshima Prefecture. Japan’s new flagship launch vehicle, the H3 (Flight 5), roared off the pad and left the earth behind. This launch was more than just another mission; it was the climactic chapter in a story of redemption and renewal for Japan’s space program. The cheers and applause that reverberated through the control room spoke more eloquently than anything else to the weight of this success.

    By Honourway Asia Pacific Limited

JP JA US EN