結論:長い固定入力を短時間に繰り返す処理ほど向く
導入候補になるのは、同じツール定義や参照文書を使って複数の質問へ答える処理、固定ルールで多数のレコードを評価する処理、会話履歴が伸びるエージェントです。共通部分を入力の先頭へ置き、利用量の内訳で実際のヒットを確認できることが前提です。
反対に、入力が短い、共通部分が毎回変わる、同じ接頭部分を有効期間内に再利用しない処理には向きません。キャッシュを有効にしただけで安くなるとは限らず、初回の書き込み料金や保存料金を含めた正味費用で判断します。
これは回答を保存して同じ答えを返す『レスポンスキャッシュ』ではありません。再利用するのは入力を処理した中間状態で、可変の質問や会話を処理し、回答はリクエストごとに生成されます。
再利用するのは入力の処理
質問Aと質問Bの回答は、それぞれ生成する。
概念図。対応方式・最低入力長・有効期間・書込費用はAPIやモデルによって異なります。ヒットは利用量内訳で確認します。
プロンプトキャッシュの仕組み
LLMは入力を読む際、後続トークンの計算に使うKey-Value(KV)状態を作ります。プロンプトキャッシュは、同じモデルで完全一致する接頭部分が再登場したときに、この状態を再利用します。OpenAIはキャッシュが保存するものをトークンそのものではなくKVテンソルと説明しています。
重要なのは『接頭部分』です。末尾の質問だけ同じでも、先頭のツール定義、システム指示、文書、設定が異なれば、その差分以降は再利用できません。固定部分を先に、ユーザー入力、日時、リクエストIDなど変動部分を後ろに置きます。並び替えで指示の意味や安全性が変わらないことは評価で確認します。
初回は対象部分を処理してキャッシュへ書き込み、次回以降はヒットした部分を低い単価で読みます。キャッシュの有効期間内でも、モデルやツール定義、構造化出力のschema、推論設定などを変えるとミスになる場合があります。
この節の一次情報:OpenAI公式|Prompt caching / Anthropic公式|Prompt caching
OpenAI・Claude・Geminiの比較
3社とも共通入力の再利用を狙いますが、制御方法と課金は同じではありません。以下は2026年10月8日時点の公式仕様です。モデル更新や契約経路で条件が変わるため、導入時は対象モデルの料金表も確認してください。
OpenAIのGPT-5.6以降は暗黙・明示の両方式に対応し、明示方式では最大4つの書き込み位置を設定できます。Claudeも自動方式と最大4つの明示breakpointを使えます。Gemini 2.5以降は暗黙キャッシュが既定で、明示キャッシュを使う場合はgenerateContent APIを選びます。Interactions APIは暗黙方式のみです。
| 比較軸 | OpenAI(GPT-5.6以降) | Claude API | Gemini API |
|---|---|---|---|
| 有効化 | 暗黙/明示 | 自動/明示 | 2.5以降は暗黙が既定。明示はgenerateContent |
| 最低入力長 | 1,024可視入力token | Haiku 5.5・Sonnet 5.5は512token。モデル別512〜4,096token | 3.8 Flashは4,096token |
| 書き込み | 通常入力の1.25倍 | 5分は1.25倍、1時間は2倍 | 暗黙は自動。明示は保存費も確認 |
| 読み取り | 通常入力の0.1倍。GPT-6.1 Solは0.05倍 | 原則0.1倍。Sonnet 5.5は0.05倍 | 3.8 Flashは$0.075/100万token(2026年末まで) |
| 有効期間 | GPT-5.6以降は30分 | 既定5分、選択で1時間 | 暗黙は短時間の近似接頭辞を推奨。明示はTTL管理 |
| ヒット確認 | cached_tokens/cache_write_tokens | cache_read/cache_creation_input_tokens | usage.total_cached_tokens |
この節の一次情報:OpenAI公式仕様(2026年10月8日確認) / Claude公式仕様(2026年10月8日確認) / Gemini公式|暗黙キャッシュ(2026年10月8日確認) / Gemini公式|明示キャッシュ(2026年10月8日確認)
2026年10月更新:Claudeの値下げと10万トークン境界
Anthropicは2026年10月7日、Claude Sonnet 5.5のキャッシュ読込を100万トークン当たり0.20ドルから0.10ドルへ半額にしました。通常入力は2ドルなので、キャッシュヒットは通常入力の5%です。開発元はエージェント処理の費用が多くのケースで約20%下がると説明していますが、これは公式の想定であり、自社のヒット率、出力、再試行を含む削減率ではありません。
同日公開のClaude Haiku 5.5は、プロンプト10万トークン以下なら通常入力0.10ドル、5分書込0.125ドル、1時間書込0.20ドル、読込0.01ドルです。10万を超えると入力0.50ドル、5分書込0.625ドル、1時間書込1ドル、読込0.05ドルへすべて5倍になります。長いエージェント履歴ではキャッシュヒットしていても、境界を越えた後の可変入力と出力も高い価格帯になるため、ヒット率だけで原価を判断できません。
比較上の要点は、相対割引率と絶対単価を分けることです。Sonnet 5.5の読込は通常入力の5%、Haiku 5.5は10%ですが、10万以下の絶対単価はHaikuが0.01ドルでSonnetの10分の1です。反対に、複雑な仕事でHaikuの再試行や上位モデルへの切替が増えれば、完了1件当たりの総費用は逆転します。
| モデル・条件 | 通常入力 | 5分write | 1時間write | cache read | 最低長 |
|---|---|---|---|---|---|
| OpenAI GPT-5.6以降(標準) | モデル別 | 入力の1.25倍 | — | 入力の0.1倍 | 1,024token |
| OpenAI GPT-6.1 Sol | モデル別 | 入力の1.25倍 | — | 入力の0.05倍 | 1,024token |
| Claude Sonnet 5.5 | $2.00 | $2.50 | $4.00 | $0.10 | 512token |
| Claude Haiku 5.5(≤100K) | $0.10 | $0.125 | $0.20 | $0.01 | 512token |
| Claude Haiku 5.5(>100K) | $0.50 | $0.625 | $1.00 | $0.05 | 512token |
| Gemini 3.8 Flash(2026年中) | $0.75 | 明示は保存費 | 保存$0.50/MTok・時 | $0.075 | 4,096token |
この節の一次情報:Anthropic公式|Haiku 5.5とSonnet 5.5キャッシュ値下げ / Claude公式|Prompt caching pricing / OpenAI公式|Prompt caching / Gemini公式|API pricing
料金と損益分岐:何回使えば得になるか
通常入力1回分を1とし、書き込み倍率をw、読み取り倍率をr、同じ固定部分を使う総リクエスト数をNとすると、キャッシュ対象部分の費用は『w+(N−1)×r』です。キャッシュしない場合はNです。OpenAI GPT-5.6以降とClaudeの5分キャッシュはw=1.25、r=0.1なので、1回の書き込みと1回の読み取りは1.35回分です。2回とも通常処理する2回分より低く、固定部分が完全にヒットするなら2回目で書き込み分を回収します。
Claudeの1時間キャッシュはw=2、原則r=0.1です。2回利用では2.1回分となり通常の2回分よりわずかに高く、3回利用では2.2回分となり通常の3回分を下回ります。有効期間を延ばす価値があるかは、利用間隔と再利用回数で決めます。
Gemini 3.8 Flashの2026年末までの標準料金は、通常入力が100万トークン当たり0.75ドル、キャッシュ読み取りが0.075ドルです。明示キャッシュの保存料金は100万トークン・1時間当たり0.50ドルです。たとえば100万トークンを1時間保存し、その間に同じ内容を10回読む仮定では、読み取り0.75ドルと保存0.50ドルの合計1.25ドルです。通常入力10回の7.50ドルより低くなりますが、出力料金と可変入力は別に発生します。
| 仮定 | キャッシュ費用(通常入力換算) | 通常処理 | 判断 |
|---|---|---|---|
| 1.25倍write+0.1倍read、2回利用 | 1.35回分 | 2回分 | 2回目で正味削減 |
| 1.25倍write+0.1倍read、10回利用 | 2.15回分 | 10回分 | 再利用が多いほど有利 |
| 2倍write+0.1倍read、2回利用 | 2.1回分 | 2回分 | まだ割高 |
| 2倍write+0.1倍read、3回利用 | 2.2回分 | 3回分 | 3回目で正味削減 |
この節の一次情報:OpenAI公式|書き込み・読み取り倍率 / Claude公式料金 / Gemini Developer API料金表
導入に向くケース・向かないケース
向くのは、固定の参照資料へ異なる質問を投げるRAG、同じrubricやfew-shot例を使う評価、長いツールschemaを持つエージェント、短い間隔で会話を継続するサポートです。費用比率の高い固定入力が何度も再利用されるほど効果が出やすくなります。
向かないのは、1回限りの長文処理、共通接頭部分が最低トークン数に届かない処理、更新頻度の高い資料、再利用間隔がTTLを超えるバッチです。大量の並列リクエストを同時に開始すると、最初の書き込みが利用可能になる前に後続が走り、期待したヒットにならない場合もあります。
また、キャッシュ単価が安くても、入力自体が不要なら送らない方が安くなります。検索で必要箇所を絞る、使わないツール定義を外す、会話履歴を整理する施策と比較し、品質を保てる最小の固定入力を決めます。
| 向く | 向かない |
|---|---|
| 同じ文書に多数の質問 | 一度しか読まない文書 |
| 固定rubricで大量評価 | 基準が毎回変わる評価 |
| 共通tool schemaのエージェント | 短い単発プロンプト |
| TTL内に集中する利用 | 再利用間隔が長い利用 |
判断フロー:単価ではなく再利用時間と運用方式で選ぶ
最初に、実ログから同じ接頭部分の長さと再利用間隔を測ります。最低長に届かない場合はキャッシュ製品を比べる前に、不要な入力を削るか、品質に必要な固定例や規程をまとめるかを判断します。水増しだけで最低長へ合わせると、ミス時の入力費用が増えます。
次に制御方法を選びます。成長する会話を少ない実装で始めるなら各社の自動・暗黙方式、固定rubricや文書の終端を厳密に選びたいならOpenAI・Claudeの明示breakpoint、保存時間を自分で管理したいならGeminiの明示キャッシュが候補です。OpenAIは30分、Claudeは5分または1時間、Geminiの明示方式は既定1時間で、保持時間と利用間隔が合わなければ安い読込単価を活かせません。
最後に、成功1件当たり原価で判定します。低遅延の短い分類ならHaiku 5.5の絶対単価、複雑なエージェントならSonnet 5.5の成功率と5%読込、OpenAIの既存Responses APIやprewarmを使うなら運用変更量、Geminiを既に使うなら暗黙ヒットと明示保存費を比較します。単価表だけでプロバイダーを変更せず、品質、p95 TTFT、再試行、キャッシュミス、データ処理地域、契約上の容量を同じ期間で測ります。
- 固定prefixが最低長未満:キャッシュより入力削減・RAG・tool定義整理を先に試す
- TTL内に2回以上再利用:5分writeやOpenAI 30分キャッシュを候補にする
- 5分を超え1時間内に3回以上再利用:Claude 1時間writeの損益を試算する
- 長時間保存と利用時刻を制御:Gemini明示キャッシュの保存費を含める
- Haiku 5.5で10万付近:入力だけでなく出力・cache read/writeの5倍境界を監視する
- どの方式でも:ヒット率ではなく品質基準を満たした1件当たり総原価で採用する
実装手順:固定prefixを作り、ヒット率を測る
まず本番ログから、入力トークンの多い機能を選びます。プロンプトを『ほぼ変わらない部分』『日次・版ごとに変わる部分』『リクエストごとに変わる部分』へ分解し、安定した順に並べます。ツール名、説明、schema、配列順まで固定し、バージョン変更時は別のキャッシュとして扱います。
次に代表リクエストで初回書き込みと後続読み取りを確認します。ヒット率だけでは不十分です。cache read tokens、cache write tokens、通常入力、出力、TTFT、成功率を同じtask_idへ保存し、キャッシュ前後の成功1件当たり原価を比較します。
本番では顧客やデータ境界も確認します。OpenAIは組織・処理リージョンをまたいでキャッシュを共有せず、Claudeもworkspaceまたはクラウド側の組織単位で分離すると説明しています。共有範囲、ZDRや保持条件、契約経路を確認し、キャッシュヒットをテナント間の情報推測に使われない設計にします。
- 固定部分と変動部分を分離し、固定部分を先頭に置く
- 対象モデルの最低トークン数とTTLを確認する
- 書き込み・読み取り・通常入力を別の課金区分で保存する
- ヒット率だけでなく成功原価とTTFTを比較する
- モデル、tool schema、出力schema変更時の無効化をテストする
- 組織・workspace・リージョン・ZDRの境界を確認する
具体例:社内規程への質問を1時間に100回処理する
説明用に、5万トークンの社内規程と固定指示へ、平均500トークンの質問を1時間に100回送ると仮定します。固定部分がすべてヒットするなら、通常処理では固定部分だけで500万入力トークンです。1.25倍書き込み・0.1倍読み取りの方式では、固定部分の通常入力換算は『5万×1.25+5万×0.1×99=55.75万トークン』です。
固定部分の計算量は約88.9%減る仮定ですが、請求総額が同じ割合で下がるわけではありません。毎回の質問、生成出力、検索、ツール、キャッシュミス、運用費は残ります。文書更新でprefixが変われば再書き込みも発生します。
PoCでは同じ100件をキャッシュ有無で処理し、回答の合格率を固定したうえで、cache read量、write量、通常入力、出力、p50・p95 TTFT、成功原価を比較します。この試算は公式倍率を使った編集部の仮定で、削減保証や実測値ではありません。
| 項目 | キャッシュなし | キャッシュあり(仮定) |
|---|---|---|
| 固定prefix | 50,000token×100回 | 1回write+99回read |
| 通常入力換算 | 5,000,000token | 557,500token |
| 変動質問・出力 | 別途発生 | 同様に別途発生 |
| 品質確認 | 必要 | 並び替え・更新の影響も確認 |
注意点:ヒット率だけで成功と判断しない
第一に、最低入力長へ届かせるためだけに不要な文章を足すと、ミスしたリクエストや再利用されないケースの費用が増えます。OpenAIは最低長と再利用回数を使った損益分岐の計算を公式ガイドに掲載しています。短いprefixを水増しする前に、実際の利用回数で比較します。
第二に、キャッシュされた入力もレート制限の対象になり得ます。費用が下がることと、TPM制限が同じ割合で緩むことは別です。ピーク処理の容量計画では各APIのレート制限ルールを確認します。
第三に、暗黙キャッシュはヒットを保証しません。明示方式でもTTL、routing、同時実行、prefix差分でミスします。請求見積もりでは、過去ログの実測ヒット率を使い、0%、想定値、上振れの3ケースを置くと安全です。
FAQ
Q. 回答内容も同じになりますか? A. いいえ。再利用するのは固定入力の処理状態です。可変入力を処理し、回答は毎回生成されます。モデルの確率的な挙動も残ります。
Q. Redisなどのレスポンスキャッシュと何が違いますか? A. レスポンスキャッシュは同じキーへ保存済みの回答を返します。プロンプトキャッシュはLLM呼び出し自体を行い、固定prefixの再計算を減らします。前者はより安く速くできますが、鮮度、権限、回答再利用の安全性を別に設計します。
Q. 2回使えば必ず得ですか? A. 書き込み1.25倍・読み取り0.1倍で同じ部分が完全にヒットする条件なら、その部分は2回目で安くなります。1時間writeのように倍率が高い方式や、保存料金がある方式は再利用回数がさらに必要です。
Q. キャッシュへ個人情報を入れてよいですか? A. 自動的に安全とは判断できません。データ処理地域、保持、ZDR、組織・workspace単位の分離、アクセス制御を契約と設定で確認します。不要な機微情報は送らない原則も維持します。
Q. Claude Sonnet 5.5のキャッシュはいくら安くなりましたか? A. 2026年10月7日に読込単価が100万トークン当たり0.20ドルから0.10ドルへ半額になりました。通常入力2ドルの5%ですが、総費用の削減率は実際のヒット率と出力量で変わります。
Q. Claude Haiku 5.5は長文でも同じキャッシュ単価ですか? A. いいえ。プロンプト10万以下は読込0.01ドル、10万超は0.05ドル/100万トークンです。書込、通常入力、出力も同じ境界で5倍になります。
Q. 導入効果を示す最小指標は? A. cache read tokens、cache write tokens、通常入力、出力、TTFT、成功率、成功1件当たり費用です。ヒット率だけでは品質や総原価を判断できません。
参考資料
料金・仕様は変更される可能性があります。導入時は各社の最新情報をご確認ください。