LLM プロバイダー直結 vs AI ゲートウェイ：選び方

公開 2026-09-18 · ゲートウェイの料金・機能例は 2026-09-18 に確認

1 社の LLM プロバイダーを意図的に中心に据えるアプリなら、直接接続が最短の構成になりやすいです。複数プロバイダーをまたいでルーティングしたい、障害時のフォールバックを用意したい、予算管理や利用状況を一元化したい場合は、 AI ゲートウェイを挟むことでアプリ側の実装を減らせることがあります。どちらが常に安い、高速、または高信頼というわけではありません。

まずはここで判断

直接接続から始める：1 社のプロバイダーを製品の中心に据え、そのプロバイダー固有の機能、課金、サポート、アカウント管理を優先する場合。
AI ゲートウェイを検討する：複数プロバイダーへのルーティングやフォールバック、共通のコストポリシー、利用制御の集約、複数の上流プロバイダーを 1 つの統合面で扱う必要がある場合。

直接接続と AI ゲートウェイの違い

統合方式を選ぶ前に確認したい設計上の違い
判断軸	プロバイダーへ直接接続	AI ゲートウェイ
統合面	プロバイダー固有の API、アカウント、SDK を使う	1 つのゲートウェイ API から複数の上流プロバイダーを扱える場合がある
プロバイダーのフォールバック	別レイヤーがなければ、複数プロバイダー間のフォールバックはアプリ側で実装する	プロバイダーの優先順位、フォールバック、ルーティングを組み込める製品がある
課金	各プロバイダーがそれぞれ利用量を請求する	統合課金やクレジット購入を提供する場合がある。手数料体系はゲートウェイごとに異なる
予算・利用ポリシー	プロバイダー側の制御を使うか、アプリ側で制限を実装する	予算上限、レート制限、共通ポリシーを追加できる製品がある
可観測性	プロバイダー固有のダッシュボードやログを使う	複数プロバイダーの利用量、ログ、トレースをまとめられる製品がある
プロバイダー固有機能	そのプロバイダーの現在の API 機能を直接使える	必要な機能がゲートウェイ経由でも同じように利用できるか確認が必要
運用上の依存先	複数社を使うほど個別統合が増える	統合点は減らせるが、ゲートウェイ自体が新たな依存先になる

大きな違いは、どのレイヤーが責務を持つかです。直接接続では、複数プロバイダーを使う場合のルーティング、課金集約、共通ポリシーをアプリまたは社内基盤側で担います。AI ゲートウェイは、その一部を共通レイヤーへ移せますが、実際に提供される機能と商用条件は製品ごとに異なります。

トークン単価だけでなく、3 層のコストを分けて考える

AI ゲートウェイを選ぶときは、単純な「最安ランキング」ではなく、コストを次の 3 層に分けると判断しやすくなります。

上流モデルのコスト。 モデルルートに対して発生する入力、出力、キャッシュ、バッチなどの推論料金です。モデル比較やコスト計算機で、ルート単位の料金を比較できます。
ゲートウェイのコスト。 プラットフォーム手数料、クレジット購入手数料、有料アドオンなどが発生する製品もあれば、トークン料金に上乗せしない製品もあります。すべてのゲートウェイが同じ課金方式だと仮定せず、現在の料金条件を確認します。
運用コスト。 プロバイダー統合、フェイルオーバー、予算制御、ログ、ポリシー適用に必要な開発・運用工数です。不要な複雑さを増やすなら低い手数料でも得とは限りません。逆に、共通基盤の仕事を減らせるなら、一定の手数料が合理的な場合もあります。

現在のゲートウェイ課金例

2026 年 9 月 18 日確認。ゲートウェイ料金はモデルのトークン単価とは別に変更されるため、確認日を明記しています。

ゲートウェイ	現在公開されている課金例	公式ソース
OpenRouter	Standard プランでは 5.5% のプラットフォーム手数料を案内しています。BYOK は別条件で、月間のリスト価格ベース推論量が所定の範囲までは手数料無料、その範囲を超えると 5% の手数料がかかります。	OpenRouter pricing
Cloudflare AI Gateway	Unified Billing では購入クレジットに 5% の手数料がかかり、プロバイダーの推論料金自体は上乗せなしで転嫁されます。	Cloudflare pricing
Vercel AI Gateway	トークン利用料はプロバイダーのリスト価格で、トークンへの上乗せやプラットフォーム手数料はないと案内されています。一部の追加機能には別料金が設定される場合があります。	Vercel pricing

この表は順位付けではありません。「ゲートウェイのコスト」を、上流モデルの 100 万トークン単価とは別の項目として確認する必要があることを示す例です。モデルルート自体の料金はモデル料金ガイドで確認し、本番採用前には現在のプロバイダーまたはゲートウェイの公式ソースを再確認してください。

プロバイダールーティングとモデルルーティングは別の判断

プロバイダールーティングは、どの上流プロバイダーにリクエストを処理させるかを選ぶ仕組みです。たとえば OpenRouter は、プロバイダーの優先順位、フォールバック、価格・スループット・レイテンシによる並び替えを案内しています。Cloudflare AI Gateway はレートや予算条件に応じた動的ルート、Vercel AI Gateway はプロバイダーのフェイルオーバーとルーティング機能を案内しています。これらはゲートウェイ層の判断です。

モデルルーティングは、リクエストの難易度などに応じて別のモデルや性能ティアを選ぶ仕組みです。通常処理は低コストモデル、難しい処理だけ上位モデルへ送る、といった設計が該当します。この判断をしたい場合は、モデルルーティングカスケードのガイドを参照してください。

よくある 4 つの構成

1. 1 社のプロバイダーを深く使う

製品が特定プロバイダーの API 機能を意図的に活用し、現時点で複数プロバイダーへのルーティングが不要なら、まず直接接続がシンプルです。運用上の必要性が実際に出てからゲートウェイを追加することもできます。

2. 複数プロバイダーを使い、障害時の切り替えが必要

プロバイダーの優先順位、再試行・フォールバック、資格情報ポリシー、利用制御を複数社にまたがってアプリ側で実装する必要があるなら、 AI ゲートウェイを検討する価値があります。ただし、どの失敗で切り替わるのかなどの正確な挙動を確認し、ゲートウェイを無条件の信頼性保証として扱わないことが重要です。

3. 直接接続している構成に 2 社目を追加する

2 社目をネイティブ統合するコストと、既存の呼び出し経路をゲートウェイ配下へ移すコストを比較します。一部の機能だけで 2 社目が必要なら、 2 本の直接接続の方が単純なこともあります。ルーティングや共通制御が基盤の責務になり始めたら、ゲートウェイの価値が高まります。

4. ゲートウェイ経由だが上流はほぼ 1 社

ルーティング、フォールバック、共通ポリシー、統合課金、可観測性などの利点を使っていないなら、その中間レイヤーが必要か見直します。使い続ける合理性はあり得ますが、具体的な運用上のメリットで説明できる状態が望ましいです。

移行前に確認すること

API 互換性：アプリが実際に使っているリクエスト・レスポンス機能が対応しているか。
フォールバック条件：どの失敗で別プロバイダーや別モデルに切り替わり、そのとき何が課金されるか。
課金経路：上流モデル料金、ゲートウェイ手数料、クレジット、有料アドオンを分けて把握できるか。
データポリシー：許可するプロバイダーごとに、保持、リージョン、ポリシールーティングを確認したか。
レート・予算制御：制限がどのレイヤーで適用され、上限到達時に何が起きるか。
可観測性：プロバイダー側ログ、ゲートウェイ側ログ、または両方のどれが運用に必要か。

モデル料金の比較には、このサイトのデータベースを使う

アーキテクチャの選択とモデル料金の選択は別です。直接接続かゲートウェイ経由かを決めたら、利用可能なモデルルートをデータベースで比較できます。

モデルとプロバイダールートを比較して、料金、コンテキスト、機能、ベンチマークを確認する。
プロバイダー一覧から、プロバイダー別のカタログを確認する。
モデル料金ガイドで、ルート単位の料金の注意点を確認する。
プロバイダー間の料金比較で、直接の料金差が主な判断軸の場合を確認する。
データソースと鮮度を、本番の料金判断前に確認する。

確認した公式ソース

上記のゲートウェイ機能と料金に関する記述は、2026 年 9 月 18 日に各社の公式ドキュメントで確認しています。

モデル料金とゲートウェイの条件は別々に変わります。このガイドはアーキテクチャ判断の枠組みとして使い、本番トラフィックを切り替える前に、対象モデルのルート料金とゲートウェイの最新課金条件を確認してください。