同じ説明を何度も送るAI業務に、プロンプトキャッシュという選択肢

毎日の問い合わせを分類する、同じ書式で報告書を作る、共通のルールに沿って文章を確認する。こうしたAI業務では、毎回同じ説明と、その回だけの資料を一緒に渡すことがあります。この共通部分の処理を再利用する仕組みが、プロンプトキャッシュです。AIを業務システムから繰り返し呼び出しているなら、改善候補として知っておきたい機能です。

共通する入力の処理を再利用する

OpenAIは2026年9月22日、GPT-6のプロンプトキャッシュの改善と、利用状況を確認するダッシュボード、再利用できなかった理由を調べる診断機能などを紹介しました。公式発表では、30分以内に再利用される対象の共通先頭部分にキャッシュ割引を適用し、キャッシュされた入力トークンは最大90％割引と説明しています。

ここでの割引は、対象となる入力部分についてのものです。業務全体の請求額が90％減るという意味ではありません。9月28日に発表を再確認しました。実際の適用条件と料金はモデルや設定に応じて確認が必要で、この記事では特定の業務での削減率を実測したとはしていません。

キャッシュは、前回の回答をそのまま次の人へ返す仕組みとは区別して考えます。共通の入力に関する計算を再利用しても、その回の質問や資料に応じた回答は必要です。以下は、この動きをきっかけにした独自の業務整理案です。

変わらない説明と、その回の資料を分ける

たとえば問い合わせを「予約」「料金」「その他」に分ける作業なら、分類の定義や出力書式は共通部分です。一方、届いた問い合わせ本文は毎回変わります。この二つを区別し、どの説明が頻繁に変わるかを書き出すと、開発担当者が入力の組み立て方を点検しやすくなります。

共通部分には、分類の定義、判断できないときの扱い、返す項目などをまとめます。個別部分には、今回の問い合わせと、その判断に必要な情報を入れます。先頭から共通する部分が再利用の対象になる仕組みでは、毎回変わる日時などを冒頭に置いていないかも確認したい点です。

ただし、再利用を増やすために必要な情報を削るのは避けます。最新の条件を渡さなければ判断できない仕事では、その条件を正しく渡すことが優先です。効率のための整理と、業務に必要な説明の省略を混同しないようにしましょう。

繰り返しの少ない仕事では、効果を決めつけない

毎回違う資料を一度だけ読む仕事と、短い間隔で同じルールを使う仕事では、再利用できる部分が違います。一日の実行件数だけでなく、実行の間隔と入力の共通部分を見ます。長い共通説明を使っていても、次の実行まで大きく時間が空くなら、想定どおりの再利用が起きるか確認が必要です。

開発担当者には、キャッシュされた入力の量、されなかった入力の量、出力の量を分けて見てもらいます。キャッシュの割合が上がっても、回答が長くなったり処理回数が増えたりすれば、総費用の動きは別になります。利用回数を増やして割引を取りにいくような試し方は、本来の業務改善にはつながりません。

待ち時間も一緒に測ります。処理の開始が早くなることと、確認済みの成果物が完成するまでの時間が短くなることは、それぞれ確かめたい項目です。現場の担当者が修正する時間まで含め、使いやすさを保てているかを見ます。

変更前後で、同じ仕事を小さく比較する

まず、よく繰り返す作業を一つ選びます。公開情報や入力してよい架空の問い合わせを使い、同じ件数・同じ資料で変更前後を比べます。確認する項目は、結果の正しさ、処理時間、入力と出力の使用量、実際の費用です。キャッシュの利用状況が取得できる環境なら、その記録も添えます。

初回と、その後の繰り返しも分けて記録します。最初の処理だけを見て効果がないと決めたり、再利用された一回だけを見て普段の費用を見積もったりしないようにします。試験の件数と時間を残すと、通常業務の頻度と違う点も説明できます。

入力の整理を変えたら、分類できない問い合わせや必要情報が不足した例も試します。共通のルールが正しく届いているか、特定の人の情報が別の依頼に混ざらないかは、費用とは別に確認します。キャッシュがあるからデータの扱いが自動的に適切になるとは考えず、アクセス権や保存条件は従来どおり点検します。

開発担当者へ渡せる、確認依頼の例

自分でAPIの設定を変更しなくても、業務の条件を整理して相談できます。次の依頼文をたたき台にしてください。「このAI処理は[業務]に使い、[頻度]で実行しています。共通の説明は[内容]、毎回変わる情報は[内容]です。現在のモデルとAPIで使えるキャッシュの条件を公式資料で確認し、共通入力の整理案を提案してください。変更前後の品質、待ち時間、総費用を比較し、未確認の効果を断定しないでください。」

開発用AIへ依頼する場合も、本番環境を変更する前に提案と試験結果を確認します。APIキーや顧客の原文を説明のために貼る必要はありません。最初は入力の構成と実行間隔だけでも、調べるべき点を整理できます。

この機能はAPIを使うアプリケーション向けの話で、チャット画面へ同じ文章を貼れば契約料金が下がるという案内ではありません。日本からの利用可否、モデルごとの単価、商用利用やデータ保持の条件は導入時に公式資料と契約で確認してください。まずは既存の繰り返し作業を一つ見直し、実測してから適用範囲を広げると判断しやすくなります。

出典

発表日：2026年9月22日。確認日：2026年9月28日。公式発表の概要と、独自の検証手順を分けて記載しています。

OpenAI：GPT-6のプロンプトキャッシュ改善