一次情報で読む、いまのAI
← すべてのニュース

GPT-6プロンプトキャッシュ強化

目線

長文脈エージェントの遅延とキャッシュコスト前提が変わるので、既存プロンプトのヒット率を計測して最適化する段階。

対象

GPT-6 APIでエージェント/長会話を組む開発者

使える場面

  • 共通システムプロンプト+ツール定義の再利用を確認
  • キャッシュミス診断でプロンプト分割を調整
  • reasoning effort変更をキャッシュ維持したまま試す

試すなら

Prompt Caching Dashboardでヒット率を確認し、明示ブレークポイントを試す

確認点

対象はGPT-6ファミリー。キャッシュ書き込み課金と30分TTLを確認

背景

永続エージェントが共通指示・ツール・文脈を繰り返し送る前提で、計算再利用を強化。

何が変わったか

  • デフォルトで高いキャッシュヒット率
  • 適格共有プレフィックスを30分窓で割引(キャッシュ読み最大90%オフ)
  • Prompt Caching Dashboardとミス診断ツールを追加
  • 明示ブレークポイントと、reasoning effort/ツール変更でもキャッシュ維持

使える場面・影響

エージェントのレイテンシ低減と入力コスト削減が同時に進み、長時間タスクの実用性が上がる。

試す前に確認

  • キャッシュ対象プレフィックス長とTTL
  • 書き込み課金(通常の1.25倍など)をドキュメントで確認
  • ダッシュボードで実ヒット率をモニタ

一次ソース