RAG
ユーザーの質問に加えて検索された文書コンテキストを読む回答で、どれくらい LLM API コストがかかるかを比較します。
見るべき点
RAG ではプロンプトと検索文書が入るコンテキスト長が必要です。回答が短い場合でも、入力料金が月額に強く効きます。
初期シナリオ
このページは 100 質問トークン、2,000 検索文書トークン、500 回答トークン、月 10,000 質問から開始します。
初期シナリオで低コストな RAG 向けモデル
この表では、初期シナリオに必要なコンテキスト長を満たすモデルだけを表示します。
| モデル | コンテキスト長 | 入力料金 | 月額コスト |
|---|---|---|---|
| Qwen2.5-Coder-7B | 32.8K | $0.0100 / 1M tokens | $0.36 |
| llama3.2-11b-vision-instruct | 131.1K | $0.0150 / 1M tokens | $0.44 |
| llama3.2-3b-instruct | 131.1K | $0.0150 / 1M tokens | $0.44 |
| Llama-3.2-3B-Instruct | 131.1K | $0.0200 / 1M tokens | $0.52 |
| paddleocr-vl | 16.4K | $0.0200 / 1M tokens | $0.52 |
| Meta-Llama-3.1-8B-Instruct-Turbo | 131.1K | $0.0200 / 1M tokens | $0.57 |
| Mistral-Nemo-Instruct-2407 | 131.1K | $0.0200 / 1M tokens | $0.62 |
| gpt-oss-20b | 32.8K | $0.0145 / 1M tokens | $0.65 |
Pricing data from catalog last generated 2026/07/13. Verify before production decisions. Data sources.