結論:50%割引ではなく、待ち時間・上限・データ保持で選ぶ
夜間集計、評価、分類、embedding、商品説明生成など、結果を即時に返す必要がない処理はBatch APIの有力候補です。3社とも標準のtoken料金から50%下がるため、同じmodel・同じ入出力tokensなら同期APIより安くなります。ただし、model間の品質や通常単価は異なるため、『Batchが最安の会社』を一律に決める比較ではありません。
OpenAIはResponses、Chat Completions、Embeddings、Moderation、Imagesなど複数endpointを1つのBatch方式で扱いたい場合に向きます。ClaudeはMessages APIのvision、tool use、extended thinkingまでほぼ同じrequest形状でまとめたい場合に向きます。Geminiは2GBの入力file、inline request、画像・embeddingなどをGoogleのbatch jobとして扱いたい場合に候補です。
顧客画面へ返す同期処理、締切が24時間未満の処理、厳格なZDR・HIPAA要件にはBatchが合わないことがあります。割引を得るために本番のリアルタイム経路を置き換えるのではなく、job queueから切り出せる非同期処理だけを対象にします。
| 判断軸 | OpenAI Batch | Claude Message Batches | Gemini Batch |
|---|---|---|---|
| token料金 | 標準同期APIから50%割引 | 標準APIから50%割引 | Standardから50%割引 |
| 時間 | 24時間以内 | 24時間でexpire。多くは1時間未満とAnthropicが説明 | 24時間target。48時間超でexpire |
| 1 jobの主上限 | 50,000 requests/200MB | 100,000 requestsまたは256MB | inline 20MB未満/file 2GB |
| 独立したcapacity | 通常APIと別rate-limit pool | Messages APIと別のbatch limits | 通常APIと別limits、100 concurrent jobs |
| 結果・保持 | output fileは完了後30日で自動削除 | 結果は作成後29日。最大29日保持 | jobとFiles APIの取得期限を運用で管理 |
| ZDR | Batchには適用されない | 対象外。HIPAAも対象外 | 契約・API種別・File API利用を個別確認 |
この節の一次情報:OpenAI公式|Batch API / Anthropic公式|Batch processing / Google公式|Gemini Batch API
比較軸:単価以外の8項目を先に固定する
比較軸は、①対象model・endpoint、②token割引、③completion window、④request数・file容量・queued tokens、⑤通常APIと別capacityか、⑥結果の照合・部分失敗・再送、⑦input/outputの保存期間、⑧region・ZDR・HIPAA・契約条件です。model名やSDKの書き方から比較すると、運用上の制約が後回しになります。
料金・仕様は2026年11月5日に公式情報で確認しました。3社の『50%』は各社のStandardまたは同期APIとの比較であり、OpenAI、Claude、Geminiのmodel品質を揃えた横断割引ではありません。tool、search、storage、cache write、画像などtoken以外の料金は別途確認します。
料金比較:標準token請求が1万ドルならBatchは5,000ドルが起点
同じprovider、同じmodel、同じtoken量で、標準APIの対象token請求が1万ドルなら、Batchの単純計算は5,000ドルです。この差額5,000ドルから、job生成、file保存、結果取込、失敗再送、監視の実装・運用費を引いた額が実質削減です。
Claude Sonnet 5.5の公式Batch価格は入力1ドル・出力5ドル/100万tokensです。AnthropicではBatch割引とprompt caching multiplierを組み合わせられますが、非同期・並列実行のためcache hitはbest effortです。OpenAIとGeminiもmodelごとにBatch価格が異なるため、比較時は同等品質のmodelを自社評価で選び、そのmodelの価格表を使います。
Batchへ移すと出力量が増えたり、失敗jobを丸ごと再送したりすれば、50%がそのまま請求半減にはなりません。custom ID単位で成功、失敗、expire、retry、input tokens、output tokensを記録し、成功成果物1件当たりの原価で比較してください。
| 費用項目 | 同期API | Batchで確認すること |
|---|---|---|
| input/output tokens | 標準価格 | 原則50%割引。model別価格を使用 |
| cache | providerごとの読込・書込料金 | 対応・hit保証・TTLを確認 |
| tool/search | 呼出し回数で別料金の場合あり | Batch割引の対象外項目を確認 |
| 失敗・expire | request単位で再試行 | 完了分課金と部分再送を分ける |
| 運用 | 同期endpointの監視 | file、polling/webhook、結果取込、再送worker |
この節の一次情報:OpenAI公式|API Pricing / Anthropic公式|Pricing / Google公式|Gemini API Pricing
OpenAI Batchが向くケース・向かないケース
OpenAI BatchはJSONLをFiles APIへuploadし、/v1/responses、/v1/chat/completions、/v1/embeddings、/v1/moderations、画像生成・編集などのjobを作ります。1つのinput fileは単一modelに限定され、各行のcustom_idで順不同のoutputを照合します。通常modelのrate limitとは別poolで、1 batchは50,000 requests、200MB、batch作成は1時間2,000件までです。
Responses、embedding、moderation、imageを同じOpenAI契約で大量処理する組織、通常APIのrate limitを圧迫せず評価や分類を回したい組織に向きます。一方、completion_windowは24hだけで変更できず、streamingもありません。expire時は未完了分がcancelされ、完了分だけ結果と課金が残ります。
OpenAIのZero Data RetentionはBatch APIへ適用されません。output fileは完了後30日で自動削除されます。ZDRを必須とするdata、24時間以内でも待てないtask、1 file内で複数modelを混ぜたいworkflowには向きません。
この節の一次情報:OpenAI公式|Batch API guide / OpenAI公式|Batch API FAQ
Claude Message Batchesが向くケース・向かないケース
Claude Message BatchesはMessages API requestへcustom_idを付け、最大100,000 requestsまたは256MBを1 batchとして送ります。全active modelsが対象で、vision、tool use、server tools、system message、multi-turn、extended thinkingなど、Messages APIの大部分を利用できます。stream、Fast mode、max_tokens: 0は対象外です。
Anthropicは多くのbatchが1時間未満で完了すると説明していますが、これは保証されたlatencyではありません。24時間で完了しないrequestはexpireし、rate limitや需要で遅くなる可能性があります。結果は作成後29日取得でき、request/response dataも最大29日保持されます。
Claude固有のtoolや長時間reasoningを大量評価したい場合、複数種類のrequestを1 batchへ混ぜたい場合に向きます。一方、Batch processingはZDRとHIPAAの対象外です。Fast modeや即時応答、29日保持を許容できない機密workflowには向きません。
この節の一次情報:Anthropic公式|Batch processing / Anthropic公式|API and data retention
Gemini Batchが向くケース・向かないケース
Gemini Batchは、小規模jobを20MB未満のinline requestsとして送る方法と、大規模jobをJSONL fileで送る方法があります。input fileは最大2GB、project全体のfile storageは20GB、concurrent batch requestsは100です。enqueued tokensはmodel・利用tier別の上限に従います。
GoogleのSLO表現は24時間のtarget turnaroundで、jobはpendingまたはrunningが48時間を超えるとJOB_STATE_EXPIREDになり、取得できる結果がないと説明されています。OpenAIの『24時間以内』やClaudeの24時間expireと同じ意味ではありません。job作成はidempotentではないため、network timeout時に無条件でcreateを再試行すると重複jobと二重費用の原因になります。
2GB級のdata、Geminiの画像・embedding、Google AI Studio/Gemini APIの運用へ統合したい場合に向きます。一方、24時間以内を確約する処理、job重複を防ぐ台帳を持てないteam、Files APIの48時間保存や契約上のdata handlingを整理できない用途には向きません。
この節の一次情報:Google公式|Gemini Batch API / Google公式|Gemini API rate limits / Google公式|Files API
判断フロー:締切、data、既存model、batch規模の順で絞る
次の順番で必須条件を確認します。最初にmodelを決めるのではなく、同期性とdata条件でBatch自体を使えるか判定します。複数providerを同じjobで混在させず、providerごとにqueueと再送台帳を分けると、課金と障害原因を追いやすくなります。
- 結果を数分以内に返す必要がある → Batchを使わずStandard/Priority/Fast等を検討
- ZDR・HIPAAが必須 → 3社のBatch適格性と契約を先に確認。OpenAI・Claudeの直接Batchは除外候補
- 既存modelと品質評価を変えたくない → そのproviderのBatch対応modelを確認
- 50,000件・200MB以内でOpenAIの複数endpointを使う → OpenAI Batchを検証
- Claudeのtool・vision・thinkingを最大100,000件で使う → Message Batchesを検証
- 20MB inlineまたは最大2GB fileでGemini処理を回す → Gemini Batchを検証
- 最後に500〜1,000件のpilotで完了率、p95完了時間、retry率、成功1件原価を比較
実装方式:共通job台帳を作り、provider差をadapterへ隔離する
3社を切り替えられるようにする場合も、各社のJSONを無理に共通化しません。自社側ではjob_id、provider、model、source_hash、submitted_at、deadline、status、request_count、success_count、failed_count、cost、result_uriを共通台帳へ持ち、作成・status取得・cancel・result取得だけをadapterにします。
request単位のcustom IDには顧客の個人情報を直接入れず、自社DBのopaque IDを使います。outputの順序はinputと一致する前提を置かず、custom IDで結合します。job作成前にsource fileのhashを保存し、Geminiのようなnon-idempotent createやtimeout時の重複送信を検知します。
再送はjob全体ではなく、errored、expired、missingだけを新しいbatchへ入れます。completed分を含めて丸ごと再送すると、50%割引より二重課金が大きくなる可能性があります。
| 共通項目 | 運用ルール | 防げる問題 |
|---|---|---|
| source_hash | create前に一意性を確認 | 重複job・二重課金 |
| custom_id | opaque ID、全requestで一意 | 順不同outputの誤結合 |
| deadline | 24h/48h条件をprovider別に保存 | expireの見逃し |
| request status | success/error/expiredを個別記録 | 全件再送 |
| result archive | 取得後すぐ自社policyで保存・削除 | provider側の期限切れ |
| cost | token・tool・retryをjobとrequestに配賦 | 削減率の過大評価 |
向くケース・向かないケース
向くのは、毎日または毎週まとめて処理でき、入力と期待outputをjob作成時に確定できるworkloadです。代表例はoffline評価、データ分類、embedding、document抽出、catalog説明、moderation、夜間の再計算です。
向かないのは、userが待つchat、tool結果を見ながら次のactionを変えるagent、数分のSLA、即時cancelが事業上重要な処理です。Batch内でtool useが技術的に可能でも、外部systemの副作用、承認待ち、retry時の二重実行を安全に制御できなければ採用しません。
| 向く可能性が高い | 向かない/別方式を優先 |
|---|---|
| 夜間の分類・抽出・要約 | 顧客が待つ会話・検索 |
| model評価・regression test | 数分以内のSLA |
| embedding・moderation・大量生成 | 承認を挟むagent loop |
| 失敗requestだけ再送できる処理 | job全体を毎回再実行する処理 |
| data保持条件を契約で許容 | ZDR・HIPAAが必須 |
注意点・未検証事項
3社を同一payload、同一model品質、同一regionで比較した独立した共通benchmarkは確認できません。Anthropicの『多くは1時間未満』、Googleの24時間target、OpenAIの24時間completion windowは別の表現です。平均値を同じSLAとして扱わず、自社jobのp50、p95、expire率を測定します。
公式仕様から確認できるのは料金、上限、対応機能、保持条件です。実際のqueue待ち、障害時の復旧、support品質、地域別capacityは契約と需要で変わります。料金・仕様は2026年11月5日時点で、model廃止やAPI version更新時に再確認が必要です。
Batchは安価な同期APIではなく、非同期data pipelineです。file storage、result取込、PII除去、access control、重複防止、部分失敗、監査logまで含めて設計しないと、割引額以上の運用riskが残ります。
FAQ
Q. 3社とも本当に50%安くなりますか? A. 各社の標準token料金との比較では50%です。model価格、tool、search、storage、cache、地域割増は別なので、請求総額が必ず半分になるわけではありません。
Q. 最も早いBatch APIはどれですか? A. 公開仕様だけでは一律に決められません。OpenAIは24時間以内、Claudeは24時間expireで多くが1時間未満という企業公表、Geminiは24時間target・48時間expireです。自社のjob sizeとregionで測ってください。
Q. Batch内で複数modelを比較できますか? A. Claudeはrequestごとに異なる種類を混在できますが、OpenAIの1 input fileは単一modelです。比較実験ではmodel別jobに分け、同じdataset IDで結果を結合する方が課金と失敗を追いやすくなります。
Q. Prompt cachingと併用できますか? A. providerとmodelによります。Claudeは併用できますがcache hitはbest effortです。Geminiもcached contentをrequestで参照できます。OpenAIは対象model・endpointのpricingとcache仕様を確認してください。
Q. どの程度の件数からBatchにすべきですか? A. 最低件数より、待てるかと運用費で判断します。まず500〜1,000件で、同期APIとの差額、実装工数、完了時間、失敗再送を測り、月次の実質削減が運用費を上回るか確認します。
Q. 機密情報を処理できますか? A. 暗号化だけでなく保持・ZDR・HIPAA・region・削除を確認します。OpenAI BatchとClaude Message BatchesはZDR対象外です。契約要件を満たさないdataは同期endpointや別基盤を選びます。
参考資料
料金・仕様は変更される可能性があります。導入時は各社の最新情報をご確認ください。
- OpenAI公式|Batch API(2026年11月5日確認)
- OpenAI公式|Batch API FAQ(2026年11月5日確認)
- OpenAI公式|API Pricing(2026年11月5日確認)
- Anthropic公式|Batch processing(2026年11月5日確認)
- Anthropic公式|Pricing(2026年11月5日確認)
- Anthropic公式|API and data retention(2026年11月5日確認)
- Google公式|Gemini Batch API(2026年11月5日確認)
- Google公式|Gemini API Pricing(2026年11月5日確認)
- Google公式|Gemini API Rate limits(2026年11月5日確認)
- Google公式|Gemini Files API(2026年11月5日確認)