Vercel AI Gatewayにサービスティア

背景

リクエストごとにレイテンシ・コストを調整できるtieringを追加した。

何が変わったか

• default（標準）、priority（高速・高コスト）、flex（低コスト・高レイテンシ許容）の3種
• providerOptions.gateway.serviceTier で指定（AI SDK他全形式対応）
• 適用されたtierはproviderMetadataで確認可能。best-effortでfallback時はdefault課金
• provider固有namespaceでも個別指定可能

使える場面・影響

インタラクティブとバックグラウンドでtierを分けてコストと体感速度を調整できる。

試す前に確認

• 起動時はOpenAIとGeminiモデルが対象
• priorityはdefaultの約1.8-2倍、flexは約0.5倍の相対価格
• 未指定時はdefault。不正値のみエラー、それ以外はfallback