Gateway比較

LiteLLM・OpenRouter・Cloudflare AI Gateway比較【2026年版】

3製品は同じ「AI Gateway」として比較されますが、LiteLLMは自社運用するOSS Gateway、OpenRouterはモデル調達を含む統合API、Cloudflare AI Gatewayは既存接続へ管理機能を加えるマネージド基盤です。2026年10月22日に各社の公式料金・仕様をそろえて確認し、月額だけでなく運用責任、データ経路、障害時の戻しやすさから導入判断を整理します。

結論:勝者ではなく運用境界で選ぶ

専任の基盤担当がいて、既存のプロバイダー契約・鍵・ログ保存先を自社で統制したいならLiteLLMが第一候補です。最短で多数のモデルを試し、請求と接続を一本化したいならOpenRouterが向きます。既存のAI API契約を保ち、アプリの変更を抑えて分析・キャッシュ・制限を加えたいならCloudflare AI Gatewayが有力です。

この結論は性能の総合順位ではありません。3製品は責任範囲が違うため、同じ要件・トラフィックで測った成功率、p95レイテンシ、完了タスク原価をもとに選びます。

STRUCTURELLM Gatewayの基本構造アプリと複数モデルの間に、共通の運用レイヤーを置きます。
APPLICATIONAI SaaS共通形式でリクエスト
CONTROL LAYERLLM Gateway
認証ログ予算障害対応
MODEL AMODEL BMODEL C

Gateway自体がAIモデルになるのではなく、既存モデルへの接続と運用をまとめる層です。

比較軸を先に定義する

比較軸は、①モデルの契約・支払先、②Gatewayの運用主体、③ルーティングと障害復旧、④予算・認証、⑤ログとデータ経路、⑥表示料金以外の総費用、⑦特定サービスからの退出容易性の7つです。対応モデル数だけで決めると、監査や障害対応の負担を見落とします。料金・仕様はすべて2026年10月22日に公式情報で確認しました。

実務比較表

まず「誰がモデルを調達し、誰がGatewayを運用するか」を固定すると候補を絞れます。

比較軸LiteLLMOpenRouterCloudflare AI Gateway
製品の中心自社運用のOSS Proxy/SDKモデル調達を含む統合API既存接続へ管理機能を追加
モデル契約自社が各社と契約OpenRouter CreditsまたはBYOK自社BYOKまたはUnified Billing
Gateway運用自社。Enterpriseも自社VPCOpenRouterCloudflare
ルーティング重み・RPM/TPM・遅延・コスト・fallbackprovider選択、価格・速度順、model fallbackretry・fallback・Dynamic Routing
予算・認証Virtual key、team予算、rate limitworkspace、key上限、guardrailsgateway認証、rate/budget node
ログ保存先と保持を自社設計Activity/export。接続先も確認Workers LogsまたはLegacy Logs
主な追加費用基盤・DB・監視・人件費、Enterprise契約クレジット購入手数料、BYOK超過分Unified Billing、Workers、Logpush、Guardrails
向く組織基盤運用と統制を重視導入速度とモデル探索を重視Cloudflare活用・既存契約維持

料金比較:月1万ドル使う場合

同じモデル単価で月1万ドル分の推論を使う単純例です。税、為替、割引、キャッシュ、画像・検索などの追加課金は除きます。LiteLLMはOSS部分に従量手数料がありませんが、サーバー、PostgreSQL、Redis、監視、冗長化、更新対応の原価が別に発生します。Enterprise価格は公開されておらず、見積もりが必要です。

OpenRouterは推論価格を上乗せしない一方、Standardのクレジット購入に5.5%、Businessに8%の手数料があります。BYOKはStandard/Businessとも月2万5,000ドル相当のlist-price inferenceまでOpenRouter手数料なし、超過分は5%です。Cloudflareのコア機能は無料ですが、Unified Billingのクレジット購入に5%が加算されます。

方式推論1万ドルの単純例別に見る費用
LiteLLM+各社直接契約$10,000+自社基盤費DB・監視・当番・Enterprise
OpenRouter Standard Credits$10,550税・追加サービス
OpenRouter BYOK$10,000+プロバイダー請求無料枠超過後は5%
Cloudflare Unified Billing$10,500Workers・ログ・Guardrails
Cloudflare BYOK$10,000+プロバイダー請求Workers・ログ・運用機能

この節の一次情報:OpenRouter Pricing / Cloudflare AI Gateway Pricing / LiteLLM Enterprise

LiteLLMが向くケース・向かないケース

LiteLLMは100以上のプロバイダーをOpenAI形式で扱い、複数deploymentのload balancing、retry、cooldown、fallbackを自社設定できます。Virtual key、team・user別予算、TPM・RPM制御を自社の認証や契約に合わせたい組織に向きます。OSSコードはenterpriseディレクトリを除きMITライセンスです。

一方、予算制御はPostgreSQLが必要で、DBなしでは上限が強制されません。本番ではProxy、DB、必要に応じたRedis、秘密情報、バックアップ、アップグレード、オンコールを自社で持ちます。専任担当がいない小規模チーム、即日導入、契約SLAやSSO・監査ログを低工数で必要とする場合には向きにくく、Enterprise見積もりとマネージド候補を同じ総費用で比較します。

この節の一次情報:LiteLLM Budgets and Rate Limits / LiteLLM Routing / LiteLLM License

OpenRouterが向くケース・向かないケース

OpenRouterはモデルとプロバイダーを1つのAPI・残高で試し、provider order、price・throughput・latency順、ZDR条件、model fallbackをリクエスト単位で指定できます。調達先を増やさずにモデル探索を急ぐチーム、複数事業者の障害をまたいで切り替えたいサービスに向きます。

特定プロバイダーの契約条件・リージョン・バージョン・レイテンシを固定したい場合、既定の自動選択だけに任せるのは不向きです。providerとmodel versionを固定し、接続先をログで監査します。Creditsは前払いで、規約上は未使用クレジットが購入365日後に失効する可能性があります。Businessの地域内ルーティングやEnterpriseのSLA・SSOが必要なら、Standardとの差額と契約条件を確認します。

この節の一次情報:OpenRouter Provider Routing / OpenRouter ZDR / OpenRouter Terms

Cloudflare AI Gatewayが向くケース・向かないケース

Cloudflare AI Gatewayはdashboard analytics、cache、rate limitingなどのコア機能を無料で提供します。2026年10月追加のDynamic Routingでは、条件分岐、割合配分、rate/budget limit、fallbackをバージョン管理でき、既存のCloudflare運用へ統合しやすい構成です。BYOKで既存契約を維持する用途に向きます。

Dynamic Routingは現時点でOpenAI Chat Completions形式のみで、Anthropic Messages形式は400になります。Unified Billingには1gateway当たり200 requests/60秒の制限があり、BYOKはこの固有制限の対象外です。キャッシュ可能なrequestは25MB、TTLは最大1か月です。大量トラフィック、形式互換、上限緩和をPoC前に確認します。

この節の一次情報:Cloudflare Dynamic Routing / Cloudflare Limits

判断フロー:契約と運用体制から絞る

次の順番で判断すると、機能表の丸印に引っ張られません。途中で必須条件を満たさなければ、その候補を採点対象から外します。

  • 各AI事業者との直接契約・鍵を維持する必要がない → OpenRouter Creditsを検証
  • 直接契約を維持し、Gatewayを自社で24時間運用できる → LiteLLMを検証
  • 直接契約を維持し、Gateway運用は委ねたい → Cloudflare BYOKを検証
  • SSO・監査ログ・契約SLAが必須 → 各Enterprise条件を先に見積もる
  • 地域固定・ZDRが必須 → プラン名ではなく実際のrouteとupstream契約を確認
  • 最後に同一リクエストで成功率、p95、完了タスク原価を比較

障害・レイテンシ・品質の比較方法

Gatewayが速いという一般論は置かず、同じリージョン、モデル、出力長、同時実行数でp50・p95・p99を測ります。OpenRouter自身も安定したレイテンシが必要ならmodelとproviderを固定するよう案内しています。LiteLLMはrouting strategy、Cloudflareはretry・timeout・Dynamic Routeの設定で結果が変わります。

PoCでは429、5xx、timeout、空応答を意図的に発生させ、再試行回数、fallback先、最終エラー、二重課金、ツール呼び出し互換を確認します。別モデルへのfallbackは品質とJSON schemaを変えるため、応答しただけを成功にしません。

評価軸記録する値合格条件の例
可用性成功率・fallback成功率必須機能を保った応答のみ成功
速度p50・p95・p99・TTFT同一region/同一payload
費用成功タスク当たり総原価手数料・retry・運用費込み
互換性tool/JSON/画像の成功率本番必須機能は100%
復旧検知から切替までの時間担当者不在でも手順化

ログとデータ経路の注意点

Cloudflareはlogを既定で有効にし、prompt・responseを含み得ます。payloadだけを保存せずmetadataを残す設定も可能です。2026年9月24日以降に初めてGatewayを作ったaccountはWorkers Logsの料金・保持条件に従い、それ以前はLegacy LogsでFree合計10万件、PaidはGateway当たり1,000万件です。作成時期で条件が違います。

OpenRouterのZDR指定はZDR対応endpointだけへrouteする制御であり、すべてのupstream契約を同一にするものではありません。LiteLLMは自社VPCに置けますが、各providerへpromptを送る事実は変わりません。3製品とも、保存場所、payload有無、削除、subprocessor、地域、BYOK契約をrequest経路ごとに確認します。

この節の一次情報:Cloudflare Logging / Cloudflare Pricing and log limits

未検証事項と注意点

本記事で独立に確認できたのは公開ドキュメント、料金表、ライセンス、制限値です。各社の「高可用」「低遅延」「安全」といった表現を、共通条件の第三者ベンチマークで実証したものではありません。モデル追加速度、実効レイテンシ、障害時の成功率、サポート品質は利用地域と契約で変わります。

また、OpenAI互換は完全互換を意味しません。streaming、usage、tool calling、structured outputs、画像、batch、error codeを個別に試します。高額利用ほどbase URL、model alias、provider固有headerをadapterへ隔離し、ログをexportできる状態にして出口を確保します。

FAQ

Q. 最安はどれですか? A. 表示手数料だけならLiteLLM OSSやCloudflare BYOKが低く見えますが、前者は基盤・人件費、後者はWorkers・ログ等を加える必要があります。完了タスク原価で比較してください。

Q. OpenRouterとCloudflare Unified Billingは同じですか? A. どちらも請求をまとめられますが、provider選択、対応機能、手数料、rate limit、ログ体系が異なります。代替関係ではなく経路設計の比較です。

Q. 複数を併用できますか? A. 技術的には可能ですが、障害点とログが増えます。規制要件や段階移行など明確な理由がなければ、まず1つのGatewayと直接接続の退避経路を検証します。

Q. 何件でPoCすべきですか? A. 件数より代表性が重要です。通常・長文・tool・画像・429・timeoutを含む100〜1,000件から始め、ピーク同時実行を別に負荷試験します。

導入判断:小さく測り、退出経路を残す

専任基盤チームと厳格な自社統制があるならLiteLLM、調達とモデル探索の速さを優先するならOpenRouter、Cloudflare上で既存契約を保ちながら管理層を足すならCloudflare AI Gatewayから検証を始めます。勝者を決めるのではなく、要件ごとに運用責任を買うか、自社で引き受けるかを決める比較です。

本番導入前に7日以上shadow trafficを流し、成功率、p95、fallback率、ログ欠落、請求差を日次で確認します。Gateway停止時に直接providerへ戻す手順、鍵のrotation、設定のversion管理、月次の料金再確認まで運用手順に含めます。

参考資料

料金・仕様は変更される可能性があります。導入時は各社の最新情報をご確認ください。