💻 OpenAI продлили кэш промптов до 12 часов
С 20 октября в Responses API параметр prompt_cache_options.ttl принимает "12h" вместо стандартных "30m": неизменное начало запроса — инструкции, инструменты, контекст — можно кэшировать до 12 часов.
🌍 Раньше пауза дольше 30 минут обнуляла кэш и удорожала повторные запросы — это било по долгоживущим агентам и долгим сессиям. Теперь запись в 12-часовой кэш стоит 2,5× базовой цены входных токенов (получасовой — 1,25×), зато чтение из кэша дешевле ввода до 95%.
👤 По словам руководителя Codex Тибо Соттьо, у залогиненных пользователей Codex и ChatGPT Work кэш хранится бессрочно: можно вернуться к сессии через несколько часов без перезаполнения кэша. Разработчикам на API достаточно указать prompt_cache_options.ttl: "12h", если инструкции стабильны весь день.
Источник 1: https://platform.openai.com/docs/changelog Источник 2: https://platform.openai.com/docs/guides/prompt-caching