エージェント AI のトークン消費量とコスト見積もりガイド
マルチステップのエージェント型ワークフローは、1回のクエリとはまったく異なるトークン消費パターンを持ちます。 ステップを重ねるごとにコンテキストが蓄積され、ツール呼び出しは双方向のトークンオーバーヘッドを生み、 推論モデルは出力トークンを 3〜10 倍に増幅します。このガイドではパターンを解説し、コスト見積もりの方法論を提供します。
エージェントはなぜ 1 回のクエリより高コストなのか
1 回の LLM クエリはプロンプトを送信し、レスポンスを受け取るだけです。エージェントループではこれが繰り返し発生します。 各ステップは累積された会話履歴、新しいツール結果、タスク指示をすべて再送信します。 5 ステップのエージェントは、同じモデルの 1 回のクエリと比べて 10〜50 倍のコストになることがあります。
エージェント型ワークロードを 1 回のクエリと区別する 3 つの主要なコスト要因:
- コンテキストウィンドウの蓄積 — 各ステップで過去のメッセージ、ツール結果、システム指示を再送信
- ツール呼び出しのトークンオーバーヘッド — 構造化ツール定義、呼び出しフォーマット、結果解析で見かけの会話より 20〜40% 増加
- 推論トークンの倍率 — 推論モデルは同じ概念ステップに対し 3〜10 倍の出力トークンを生成
データベース上のエージェント対応モデル
カタログ全 2941 モデルのうち、264 が
responseSchema(構造化出力 / ツール呼び出し)と systemMessages の両方をサポートし、
かつ有効な料金データを持つ — つまりエージェント型ワークフローに利用可能です。
このうち 154 は推論 / チェーン思考にも対応しています。
100 万トークンあたりの合計コストは、最安の非推論モデル deepseek-ocr の $$0.060 から、 最安の推論モデル gpt-oss-20b の $$0.190 まで — 3倍 の開きがあります。
最安エージェントモデルを比較 →エージェントのトークン消費パターン
パターン A — 単純なチェーン
ステップ 1 → ステップ 2 → ステップ 3。コンテキストは線形に成長。総トークン数 = (累積コンテキスト + 新しい指示 + 出力) の各ステップ合計。各ステップで以前の会話全体を再送信。
例:3 ステップのコードレビューエージェントで、各ステップ 2k 入力 + 1k 出力の場合、1 実行あたり ~6k 入力 + ~3k 出力トークン。ただしステップ 3 では過去の全やりとり(~6k 入力)を再送信する。
パターン B — スーパーバイザー + ワーカー
プランナーがサブタスクを分配(ファンアウト、結果マージ)。推論プランナーがタスクを分解し、安価な実行モデルが並列処理。マージステップでは全ワーカーの出力を再送信するため、最後のステップが最も高コストになる。
パターン C — リフレクション付きループ
エージェントが行動、観測、内省、再試行を繰り返す。コンテキストが最も速く成長。再試行のたびに全履歴と新しい試行を再送信。このパターンはデバッグや反復的なコード生成エージェントで支配的。
コストシナリオ
コードレビューエージェント(3ステップ)
入力: 8.0K · 出力: 2.0K · 月間実行数: 50,000
| 戦略 | モデル | 月間コスト | 対プレミアム比率 |
|---|---|---|---|
| 予算のみ | deepseek-ocr, l3-8b-lunaris, qwen2.5-7b-instruct | $25.00 | -50% |
| カスケード | deepseek-ocr, gpt-oss-20b | $23.00 | -54% |
| プレミアムのみ | gpt-oss-20b, gpt-oss-120b, deepseek-r1-distill-qwen-14b | $50.33 | — |
Web リサーチエージェント(5ステップ)
入力: 25.0K · 出力: 4.0K · 月間実行数: 10,000
| 戦略 | モデル | 月間コスト | 対プレミアム比率 |
|---|---|---|---|
| 予算のみ | deepseek-ocr, l3-8b-lunaris, qwen2.5-7b-instruct | $14.50 | -47% |
| カスケード | deepseek-ocr, gpt-oss-20b | $12.35 | -55% |
| プレミアムのみ | gpt-oss-20b, gpt-oss-120b, deepseek-r1-distill-qwen-14b | $27.33 | — |
カスタマーサポートトリアージ(3-7ステップ)
入力: 12.0K · 出力: 1.5K · 月間実行数: 100,000
| 戦略 | モデル | 月間コスト | 対プレミアム比率 |
|---|---|---|---|
| 予算のみ | deepseek-ocr, l3-8b-lunaris, qwen2.5-7b-instruct | $67.50 | -91% |
| カスケード | deepseek-ocr, qwen3-coder-30b-a3b-instruct | $82.50 | -89% |
| プレミアムのみ | gpt-4.1-mini, gpt-4.1-mini-2025-04-14, GPT-4.1 mini | $720.00 | — |
最適化戦略
プロンプトキャッシュ
システムプロンプトとタスク指示を、初期ターンでキャッシュヒットが共有されるように構成します。
cachedInputUsdPer1MTokens データを持つモデルは、キャッシュされたトークンに対して
基本入力レートの 0.1 倍 で課金されます(OpenAI、Anthropic、Google)。
長時間稼働するエージェントにとって、キャッシュは最も効果的な最適化です。
上記の Web リサーチカスケードシナリオでは、定型的なシステムプロンプトとツール定義をキャッシュすることで、 実効入力コストを最大 40% 削減できます。
モデルカスケードルーティング
最初のステップには安価な分類器を使い、分析と検証にのみ推論モデルをルーティングします。 カスケード戦略は、全ステップを推論モデルで実行する場合と比較して 50〜80% のコスト削減になります。
コンテキストウィンドウの予算管理
会話履歴を直近 N ターンに制限するか、ステップ間で要約を挟みます。 蓄積されたコンテキスト 1,000 トークンごとに、後続のすべてのターンで直接的なコストが発生します。
並列サブタスク
安価な実行モデルにファンアウトし、1 回の推論呼び出しで結果をマージします。 これにより実行ブランチのコンテキスト成長はフラットに保たれ、コストはマージステップに集中します。
重要なポイント
- 最安のエージェント対応モデル($$0.060/M 合計)と プレミアム推論モデル($$2.00/M+ 合計)の差は 33倍 — モデル選択が最も影響力のあるコスト決定要因です。
- 単純なカスケード(安価なプランナー → 推論ベリファイア)は、品質を維持しながら 全推論と比較して 50〜80% のコスト削減が可能です。
- ツール呼び出しのフォーマットにより、見かけの会話より 20〜40% 多くのトークンオーバーヘッドが発生します。
- プロンプトキャッシュは長時間稼働するエージェントにとって最も効果的な最適化です。 キャッシュ再利用を最大化するように会話を構成しましょう。