リファレンス
LLM API 料金用語集
LLM API料金、モデル比較、コスト最適化を理解するための主要な用語と定義です。 記事を読む、モデルを比較する、コストを見積もる際にこの用語集をご利用ください。
料金と請求
100万トークンあたり
LLM API の標準的な料金単位。100万トークンあたりのUSDで表記されます。入力トークンと出力トークンは通常別々に料金が設定されます。
関連: 入力トークン, 出力トークン, 料金
入力トークン
プロンプトでモデルに送信されるトークン。システム指示、会話履歴、コンテキストドキュメント、ユーザークエリが含まれます。100万トークンあたりで料金が設定されます。
関連: 出力トークン, コンテキストウィンドウ, プロンプトキャッシュ
出力トークン
モデルが応答として生成するトークン。生成には1トークンあたりより多くの計算が必要なため、通常入力トークンの2-5倍の料金が設定されます。
関連: 入力トークン, 出力/入力比率, 推論モデル
バッチ料金
非緊急のバッチリクエスト用の割引料金。通常リアルタイム料金より50%安価です。結果は数秒ではなく数時間以内に返されます。
関連: 優先料金, フレックス料金, バッチ処理モデル
優先料金
標準より高速な処理が必要なリクエスト用のプレミアム料金。通常、より高いレート制限と保証された応答時間が含まれます。
関連: バッチ料金, フレックス料金, レート制限
フレックス料金
需要に応じて変動する可変料金。オフピーク時はコストが低く、ピーク時は高くなります。非緊急ワークロードに最適です。
関連: バッチ料金, 優先料金
レート制限
1分あたりのリクエスト数や1分あたりのトークン数に制限を設けること。制限はより高い支出ティアで増加します。
関連: RPM, TPM, 料金ティア
RPM
1分あたりのリクエスト数。1分間に送信できるAPIコールの最大数です。モデル、プロバイダー、支出ティアによって異なります。
関連: TPM, レート制限, 料金ティア
TPM
1分あたりのトークン数。すべてのリクエスト合計で1分間に処理できる最大トークン数です。TPMが高いほど高速なスループットが可能です。
関連: RPM, レート制限, 料金ティア
コンテキストとキャッシュ
コンテキストウィンドウ
1リクエストでモデルが処理できる最大トークン数。入力と出力の合計です。大きなコンテキストウィンドウでより多くのデータを処理できますが、コストが高くなる場合があります。
関連: 入力トークン, 出力トークン, 長コンテキスト料金
プロンプトキャッシュ
繰り返される入力トークン（システムプロンプト、few-shot例）をキャッシュし、後続リクエストでは割引料金で課金するコスト最適化。キャッシュされたトークンの入力コストを75-90%削減します。
関連: キャッシュヒット率, キャッシュ入力料金, キャッシュ書き込み料金
キャッシュヒット率
以前のリクエストのキャッシュされたコンテンツと一致する入力トークンの割合。ヒット率が高いほど、実効入力コストが低くなります。プロンプトの構造とリクエストパターンに依存します。
関連: プロンプトキャッシュ, キャッシュリユースモデル
モデル選択
モデルルーティング
タスクの種類、複雑度、品質要件に基づいて、最も安い適切なモデルにリクエストを自動的にルーティング。コストを40-60%削減できます。
関連: ルーティングカスケード, 予算ティア, モデル選択
ルーティングカスケード
予算、ミッド、プレミアム、推論モデルを段階的に使用するモデルルーティング戦略。60/30/10ルール：60%予算、30%ミッド、10%プレミアム+推論。
関連: モデルルーティング, 予算ティア, プレミアムティア
予算ティア
100万トークンあたり$0.30未満のモデル。分類、抽出、シンプルなQ&A、高ボリュームタスクに高速で安価です。
関連: ミッドティア, プレミアムティア, モデルルーティング
ミッドティア
100万トークンあたり$0.30-$2.00のモデル。RAG、要約、顧客向けチャットにバランスの取れた能力を提供します。
関連: 予算ティア, プレミアムティア, モデルルーティング
プレミアムティア
100万トークンあたり$2.00以上のモデル。複雑な推論、コーディング、分析、最高品質を必要とするタスクのフロンティアモデル。
関連: 予算ティア, ミッドティア, 推論モデル
推論モデル
数学、ロジック、マルチステップ計画、自己批判にチェーンオブThoughtを使用するモデル。トークンあたりの計算が多いため、通常料金が高くなります。
関連: プレミアムティア, シンキングトークン, 推論プレミアム
機能
ビジョン
テキストと一緒に画像入力を処理する機能。ビジョンモデルはスクリーンショット、写真、ドキュメント、図表を分析できます。画像入力には画像ごとの料金が設定される場合があります。
関連: マルチモーダル, 画像入力, PDF入力
マルチモーダル
複数の種類の入力（テキスト、画像、音声、動画）を処理し、場合によっては複数のモダリティを出力できるモデル。ビジョンと音声モデルが一般的な例です。
関連: ビジョン, 音声入力, 画像生成
ファンクションコーリング
生成中に外部ツールやAPIを呼び出す機能。モデルは構造化されたファンクションコールを出力し、アプリケーションが実行します。エージェントワークフローを可能にします。
関連: ツール選択, エージェントAI, 並列ファンクションコーリング
エージェントAI
ツール、メモリ、計画を使用してマルチステップタスクを自律的に実行するAIシステム。ファンクションコーリング、コンテキスト管理、繰り返しターンのコスト見積もりが必要です。
関連: ファンクションコーリング, ツール選択, コンテキスト蓄積
埋め込み
テキストを数値ベクトルに変換し、意味的検索、検索、類似性比較を行います。埋め込みモデルはトークンあたりで料金が設定され、RAGシステムで使用されます。
関連: ベクトル検索, RAG, 意味的類似性
RAG
Retrieval-Augmented Generation。ナレッジベースから関連コンテキストを取得し、生成前にプロンプトに注入するパターン。ハルシネーションを削減し、レスポンスを具体化します。
関連: 埋め込み, ベクトル検索, コンテキストウィンドウ
ファインチューニングと訓練
ファインチューニング
特定のデータで事前学習モデルを訓練し、特定タスクのパフォーマンスを向上させること。訓練コスト（トークンあたり）と継続的な推論マークアップが含まれます。
関連: LoRA, SFT, 訓練コスト, 推論マークアップ
LoRA
Low-Rank Adaptation。フルファインチューニングより安価なファインチューニング方法ですが、複雑なタスクでは品質が低くなる場合があります。通常、フルファインチューニングの10-20%のコストです。
関連: ファインチューニング, SFT, DPO
SFT
Supervised Fine-Tuning。入出力ペアでモデルを訓練し、特定のタスクやスタイルを学習させる方法。ほとんどのユースケースで標準的なファインチューニングアプローチです。
関連: ファインチューニング, LoRA, DPO
DPO
Direct Preference Optimization。人間のフィードバックに基づいて、 certain outputs を他のものより好むようにモデルを訓練するファインチューニング方法。通常、SFTより10-20%高価です。
関連: ファインチューニング, SFT, RLHF
推論マークアップ
ベースモデルを使用する場合と比較して、ファインチューニングされたモデルの価格上昇。プロバイダーによって異なります：Fireworks AIはベースと同じ料金、OpenAIは2-4倍です。
関連: ファインチューニング, ベースモデル料金, ホスティング費用
応用概念
コンテキスト蓄積
各ターンでコンテキストが成長するエージェントワークフローのコスト増加。ツールコール、結果、会話履歴が蓄積され、コスト管理に注意が必要です。
関連: エージェントAI, コンテキストウィンドウ, キャッシュリユース
出力/入力比率
出力トークン料金と入力トークン料金の関係。比率が低いほど、出力は入力と比較して安くなります。生成集中ワークロードに適しています。
関連: 出力トークン, 入力トークン, 最低出力比率
モデルID
モデルルートの一意の識別子。プロバイダー、モデルファミリー、バリアントを組み合わせたもの。例：openai/gpt-4o-2024-08-06。異なるプロバイダーが同じベースモデルを異なる料金で提供する場合があります。
関連: プロバイダールート, モデルスラッグ, ベースモデル
プロバイダールート
モデルが提供される特定のパス。同じベースモデルでも、異なるルート（例：OpenAI直接 vs Azure）で料金、制限、機能が異なる場合があります。
関連: モデルID, ベースモデル, 料金
探索を始める
用語を理解したら、これらのツールで実践的に活用してください：