結論:勝者ではなく運用境界で選ぶ
専任の基盤担当がいて、既存のプロバイダー契約・鍵・ログ保存先を自社で統制したいならLiteLLMが第一候補です。最短で多数のモデルを試し、請求と接続を一本化したいならOpenRouterが向きます。既存のAI API契約を保ち、アプリの変更を抑えて分析・キャッシュ・制限を加えたいならCloudflare AI Gatewayが有力です。
この結論は性能の総合順位ではありません。3製品は責任範囲が違うため、同じ要件・トラフィックで測った成功率、p95レイテンシ、完了タスク原価をもとに選びます。
Gateway自体がAIモデルになるのではなく、既存モデルへの接続と運用をまとめる層です。
比較軸を先に定義する
比較軸は、①モデルの契約・支払先、②Gatewayの運用主体、③ルーティングと障害復旧、④予算・認証、⑤ログとデータ経路、⑥表示料金以外の総費用、⑦特定サービスからの退出容易性の7つです。対応モデル数だけで決めると、監査や障害対応の負担を見落とします。料金・仕様はすべて2026年10月22日に公式情報で確認しました。
実務比較表
まず「誰がモデルを調達し、誰がGatewayを運用するか」を固定すると候補を絞れます。
| 比較軸 | LiteLLM | OpenRouter | Cloudflare AI Gateway |
|---|---|---|---|
| 製品の中心 | 自社運用のOSS Proxy/SDK | モデル調達を含む統合API | 既存接続へ管理機能を追加 |
| モデル契約 | 自社が各社と契約 | OpenRouter CreditsまたはBYOK | 自社BYOKまたはUnified Billing |
| Gateway運用 | 自社。Enterpriseも自社VPC | OpenRouter | Cloudflare |
| ルーティング | 重み・RPM/TPM・遅延・コスト・fallback | provider選択、価格・速度順、model fallback | retry・fallback・Dynamic Routing |
| 予算・認証 | Virtual key、team予算、rate limit | workspace、key上限、guardrails | gateway認証、rate/budget node |
| ログ | 保存先と保持を自社設計 | Activity/export。接続先も確認 | Workers LogsまたはLegacy Logs |
| 主な追加費用 | 基盤・DB・監視・人件費、Enterprise契約 | クレジット購入手数料、BYOK超過分 | Unified Billing、Workers、Logpush、Guardrails |
| 向く組織 | 基盤運用と統制を重視 | 導入速度とモデル探索を重視 | Cloudflare活用・既存契約維持 |
料金比較:月1万ドル使う場合
同じモデル単価で月1万ドル分の推論を使う単純例です。税、為替、割引、キャッシュ、画像・検索などの追加課金は除きます。LiteLLMはOSS部分に従量手数料がありませんが、サーバー、PostgreSQL、Redis、監視、冗長化、更新対応の原価が別に発生します。Enterprise価格は公開されておらず、見積もりが必要です。
OpenRouterは推論価格を上乗せしない一方、Standardのクレジット購入に5.5%、Businessに8%の手数料があります。BYOKはStandard/Businessとも月2万5,000ドル相当のlist-price inferenceまでOpenRouter手数料なし、超過分は5%です。Cloudflareのコア機能は無料ですが、Unified Billingのクレジット購入に5%が加算されます。
| 方式 | 推論1万ドルの単純例 | 別に見る費用 |
|---|---|---|
| LiteLLM+各社直接契約 | $10,000+自社基盤費 | DB・監視・当番・Enterprise |
| OpenRouter Standard Credits | $10,550 | 税・追加サービス |
| OpenRouter BYOK | $10,000+プロバイダー請求 | 無料枠超過後は5% |
| Cloudflare Unified Billing | $10,500 | Workers・ログ・Guardrails |
| Cloudflare BYOK | $10,000+プロバイダー請求 | Workers・ログ・運用機能 |
この節の一次情報:OpenRouter Pricing / Cloudflare AI Gateway Pricing / LiteLLM Enterprise
LiteLLMが向くケース・向かないケース
LiteLLMは100以上のプロバイダーをOpenAI形式で扱い、複数deploymentのload balancing、retry、cooldown、fallbackを自社設定できます。Virtual key、team・user別予算、TPM・RPM制御を自社の認証や契約に合わせたい組織に向きます。OSSコードはenterpriseディレクトリを除きMITライセンスです。
一方、予算制御はPostgreSQLが必要で、DBなしでは上限が強制されません。本番ではProxy、DB、必要に応じたRedis、秘密情報、バックアップ、アップグレード、オンコールを自社で持ちます。専任担当がいない小規模チーム、即日導入、契約SLAやSSO・監査ログを低工数で必要とする場合には向きにくく、Enterprise見積もりとマネージド候補を同じ総費用で比較します。
この節の一次情報:LiteLLM Budgets and Rate Limits / LiteLLM Routing / LiteLLM License
OpenRouterが向くケース・向かないケース
OpenRouterはモデルとプロバイダーを1つのAPI・残高で試し、provider order、price・throughput・latency順、ZDR条件、model fallbackをリクエスト単位で指定できます。調達先を増やさずにモデル探索を急ぐチーム、複数事業者の障害をまたいで切り替えたいサービスに向きます。
特定プロバイダーの契約条件・リージョン・バージョン・レイテンシを固定したい場合、既定の自動選択だけに任せるのは不向きです。providerとmodel versionを固定し、接続先をログで監査します。Creditsは前払いで、規約上は未使用クレジットが購入365日後に失効する可能性があります。Businessの地域内ルーティングやEnterpriseのSLA・SSOが必要なら、Standardとの差額と契約条件を確認します。
この節の一次情報:OpenRouter Provider Routing / OpenRouter ZDR / OpenRouter Terms
Cloudflare AI Gatewayが向くケース・向かないケース
Cloudflare AI Gatewayはdashboard analytics、cache、rate limitingなどのコア機能を無料で提供します。2026年10月追加のDynamic Routingでは、条件分岐、割合配分、rate/budget limit、fallbackをバージョン管理でき、既存のCloudflare運用へ統合しやすい構成です。BYOKで既存契約を維持する用途に向きます。
Dynamic Routingは現時点でOpenAI Chat Completions形式のみで、Anthropic Messages形式は400になります。Unified Billingには1gateway当たり200 requests/60秒の制限があり、BYOKはこの固有制限の対象外です。キャッシュ可能なrequestは25MB、TTLは最大1か月です。大量トラフィック、形式互換、上限緩和をPoC前に確認します。
この節の一次情報:Cloudflare Dynamic Routing / Cloudflare Limits
判断フロー:契約と運用体制から絞る
次の順番で判断すると、機能表の丸印に引っ張られません。途中で必須条件を満たさなければ、その候補を採点対象から外します。
- 各AI事業者との直接契約・鍵を維持する必要がない → OpenRouter Creditsを検証
- 直接契約を維持し、Gatewayを自社で24時間運用できる → LiteLLMを検証
- 直接契約を維持し、Gateway運用は委ねたい → Cloudflare BYOKを検証
- SSO・監査ログ・契約SLAが必須 → 各Enterprise条件を先に見積もる
- 地域固定・ZDRが必須 → プラン名ではなく実際のrouteとupstream契約を確認
- 最後に同一リクエストで成功率、p95、完了タスク原価を比較
障害・レイテンシ・品質の比較方法
Gatewayが速いという一般論は置かず、同じリージョン、モデル、出力長、同時実行数でp50・p95・p99を測ります。OpenRouter自身も安定したレイテンシが必要ならmodelとproviderを固定するよう案内しています。LiteLLMはrouting strategy、Cloudflareはretry・timeout・Dynamic Routeの設定で結果が変わります。
PoCでは429、5xx、timeout、空応答を意図的に発生させ、再試行回数、fallback先、最終エラー、二重課金、ツール呼び出し互換を確認します。別モデルへのfallbackは品質とJSON schemaを変えるため、応答しただけを成功にしません。
| 評価軸 | 記録する値 | 合格条件の例 |
|---|---|---|
| 可用性 | 成功率・fallback成功率 | 必須機能を保った応答のみ成功 |
| 速度 | p50・p95・p99・TTFT | 同一region/同一payload |
| 費用 | 成功タスク当たり総原価 | 手数料・retry・運用費込み |
| 互換性 | tool/JSON/画像の成功率 | 本番必須機能は100% |
| 復旧 | 検知から切替までの時間 | 担当者不在でも手順化 |
ログとデータ経路の注意点
Cloudflareはlogを既定で有効にし、prompt・responseを含み得ます。payloadだけを保存せずmetadataを残す設定も可能です。2026年9月24日以降に初めてGatewayを作ったaccountはWorkers Logsの料金・保持条件に従い、それ以前はLegacy LogsでFree合計10万件、PaidはGateway当たり1,000万件です。作成時期で条件が違います。
OpenRouterのZDR指定はZDR対応endpointだけへrouteする制御であり、すべてのupstream契約を同一にするものではありません。LiteLLMは自社VPCに置けますが、各providerへpromptを送る事実は変わりません。3製品とも、保存場所、payload有無、削除、subprocessor、地域、BYOK契約をrequest経路ごとに確認します。
この節の一次情報:Cloudflare Logging / Cloudflare Pricing and log limits
未検証事項と注意点
本記事で独立に確認できたのは公開ドキュメント、料金表、ライセンス、制限値です。各社の「高可用」「低遅延」「安全」といった表現を、共通条件の第三者ベンチマークで実証したものではありません。モデル追加速度、実効レイテンシ、障害時の成功率、サポート品質は利用地域と契約で変わります。
また、OpenAI互換は完全互換を意味しません。streaming、usage、tool calling、structured outputs、画像、batch、error codeを個別に試します。高額利用ほどbase URL、model alias、provider固有headerをadapterへ隔離し、ログをexportできる状態にして出口を確保します。
FAQ
Q. 最安はどれですか? A. 表示手数料だけならLiteLLM OSSやCloudflare BYOKが低く見えますが、前者は基盤・人件費、後者はWorkers・ログ等を加える必要があります。完了タスク原価で比較してください。
Q. OpenRouterとCloudflare Unified Billingは同じですか? A. どちらも請求をまとめられますが、provider選択、対応機能、手数料、rate limit、ログ体系が異なります。代替関係ではなく経路設計の比較です。
Q. 複数を併用できますか? A. 技術的には可能ですが、障害点とログが増えます。規制要件や段階移行など明確な理由がなければ、まず1つのGatewayと直接接続の退避経路を検証します。
Q. 何件でPoCすべきですか? A. 件数より代表性が重要です。通常・長文・tool・画像・429・timeoutを含む100〜1,000件から始め、ピーク同時実行を別に負荷試験します。
導入判断:小さく測り、退出経路を残す
専任基盤チームと厳格な自社統制があるならLiteLLM、調達とモデル探索の速さを優先するならOpenRouter、Cloudflare上で既存契約を保ちながら管理層を足すならCloudflare AI Gatewayから検証を始めます。勝者を決めるのではなく、要件ごとに運用責任を買うか、自社で引き受けるかを決める比較です。
本番導入前に7日以上shadow trafficを流し、成功率、p95、fallback率、ログ欠落、請求差を日次で確認します。Gateway停止時に直接providerへ戻す手順、鍵のrotation、設定のversion管理、月次の料金再確認まで運用手順に含めます。
参考資料
料金・仕様は変更される可能性があります。導入時は各社の最新情報をご確認ください。
- LiteLLM AI Gateway
- LiteLLM Routing
- LiteLLM Budgets and Rate Limits
- LiteLLM Production Best Practices
- LiteLLM Enterprise
- OpenRouter Pricing
- OpenRouter BYOK
- OpenRouter Provider Routing
- OpenRouter Zero Data Retention
- OpenRouter Terms of Service
- Cloudflare AI Gateway Pricing
- Cloudflare AI Gateway Limits
- Cloudflare Dynamic Routing
- Cloudflare AI Gateway Logging
- Cloudflare Request Handling