エージェント AI のトークン消費量とコスト見積もりガイド

マルチステップのエージェント型ワークフローは、1回のクエリとはまったく異なるトークン消費パターンを持ちます。 ステップを重ねるごとにコンテキストが蓄積され、ツール呼び出しは双方向のトークンオーバーヘッドを生み、 推論モデルは出力トークンを 3〜10 倍に増幅します。このガイドではパターンを解説し、コスト見積もりの方法論を提供します。

エージェントはなぜ 1 回のクエリより高コストなのか

1 回の LLM クエリはプロンプトを送信し、レスポンスを受け取るだけです。エージェントループではこれが繰り返し発生します。 各ステップは累積された会話履歴、新しいツール結果、タスク指示をすべて再送信します。 5 ステップのエージェントは、同じモデルの 1 回のクエリと比べて 10〜50 倍のコストになることがあります。

エージェント型ワークロードを 1 回のクエリと区別する 3 つの主要なコスト要因:

  • コンテキストウィンドウの蓄積 — 各ステップで過去のメッセージ、ツール結果、システム指示を再送信
  • ツール呼び出しのトークンオーバーヘッド — 構造化ツール定義、呼び出しフォーマット、結果解析で見かけの会話より 20〜40% 増加
  • 推論トークンの倍率 — 推論モデルは同じ概念ステップに対し 3〜10 倍の出力トークンを生成

データベース上のエージェント対応モデル

カタログ全 2941 モデルのうち、264responseSchema(構造化出力 / ツール呼び出し)と systemMessages の両方をサポートし、 かつ有効な料金データを持つ — つまりエージェント型ワークフローに利用可能です。 このうち 154 は推論 / チェーン思考にも対応しています。

100 万トークンあたりの合計コストは、最安の非推論モデル deepseek-ocr$$0.060 から、 最安の推論モデル gpt-oss-20b$$0.190 まで — 3倍 の開きがあります。

最安エージェントモデルを比較 →

エージェントのトークン消費パターン

パターン A — 単純なチェーン

ステップ 1 → ステップ 2 → ステップ 3。コンテキストは線形に成長。総トークン数 = (累積コンテキスト + 新しい指示 + 出力) の各ステップ合計。各ステップで以前の会話全体を再送信。

totalInput = Σ(accumulatedContextₙ + toolResultsₙ + taskInstructionsₙ)
totalOutput = Σ(outputₙ + toolCallTokensₙ)

例:3 ステップのコードレビューエージェントで、各ステップ 2k 入力 + 1k 出力の場合、1 実行あたり ~6k 入力 + ~3k 出力トークン。ただしステップ 3 では過去の全やりとり(~6k 入力)を再送信する。

パターン B — スーパーバイザー + ワーカー

プランナーがサブタスクを分配(ファンアウト、結果マージ)。推論プランナーがタスクを分解し、安価な実行モデルが並列処理。マージステップでは全ワーカーの出力を再送信するため、最後のステップが最も高コストになる。

パターン C — リフレクション付きループ

エージェントが行動、観測、内省、再試行を繰り返す。コンテキストが最も速く成長。再試行のたびに全履歴と新しい試行を再送信。このパターンはデバッグや反復的なコード生成エージェントで支配的。

コストシナリオ

コードレビューエージェント(3ステップ)

入力: 8.0K · 出力: 2.0K · 月間実行数: 50,000

戦略モデル月間コスト対プレミアム比率
予算のみ deepseek-ocr, l3-8b-lunaris, qwen2.5-7b-instruct $25.00 -50%
カスケード deepseek-ocr, gpt-oss-20b $23.00 -54%
プレミアムのみ gpt-oss-20b, gpt-oss-120b, deepseek-r1-distill-qwen-14b $50.33
これらのモデルを比較 →

Web リサーチエージェント(5ステップ)

入力: 25.0K · 出力: 4.0K · 月間実行数: 10,000

戦略モデル月間コスト対プレミアム比率
予算のみ deepseek-ocr, l3-8b-lunaris, qwen2.5-7b-instruct $14.50 -47%
カスケード deepseek-ocr, gpt-oss-20b $12.35 -55%
プレミアムのみ gpt-oss-20b, gpt-oss-120b, deepseek-r1-distill-qwen-14b $27.33
これらのモデルを比較 →

カスタマーサポートトリアージ(3-7ステップ)

入力: 12.0K · 出力: 1.5K · 月間実行数: 100,000

戦略モデル月間コスト対プレミアム比率
予算のみ deepseek-ocr, l3-8b-lunaris, qwen2.5-7b-instruct $67.50 -91%
カスケード deepseek-ocr, qwen3-coder-30b-a3b-instruct $82.50 -89%
プレミアムのみ gpt-4.1-mini, gpt-4.1-mini-2025-04-14, GPT-4.1 mini $720.00
これらのモデルを比較 →

最適化戦略

プロンプトキャッシュ

システムプロンプトとタスク指示を、初期ターンでキャッシュヒットが共有されるように構成します。 cachedInputUsdPer1MTokens データを持つモデルは、キャッシュされたトークンに対して 基本入力レートの 0.1 倍 で課金されます(OpenAI、Anthropic、Google)。 長時間稼働するエージェントにとって、キャッシュは最も効果的な最適化です。

上記の Web リサーチカスケードシナリオでは、定型的なシステムプロンプトとツール定義をキャッシュすることで、 実効入力コストを最大 40% 削減できます。

モデルカスケードルーティング

最初のステップには安価な分類器を使い、分析と検証にのみ推論モデルをルーティングします。 カスケード戦略は、全ステップを推論モデルで実行する場合と比較して 50〜80% のコスト削減になります。

コンテキストウィンドウの予算管理

会話履歴を直近 N ターンに制限するか、ステップ間で要約を挟みます。 蓄積されたコンテキスト 1,000 トークンごとに、後続のすべてのターンで直接的なコストが発生します。

並列サブタスク

安価な実行モデルにファンアウトし、1 回の推論呼び出しで結果をマージします。 これにより実行ブランチのコンテキスト成長はフラットに保たれ、コストはマージステップに集中します。

重要なポイント

  1. 最安のエージェント対応モデル($$0.060/M 合計)と プレミアム推論モデル($$2.00/M+ 合計)の差は 33倍 — モデル選択が最も影響力のあるコスト決定要因です。
  2. 単純なカスケード(安価なプランナー → 推論ベリファイア)は、品質を維持しながら 全推論と比較して 50〜80% のコスト削減が可能です。
  3. ツール呼び出しのフォーマットにより、見かけの会話より 20〜40% 多くのトークンオーバーヘッドが発生します。
  4. プロンプトキャッシュは長時間稼働するエージェントにとって最も効果的な最適化です。 キャッシュ再利用を最大化するように会話を構成しましょう。
計算機でエージェントコストを見積もる →