OpenAI увеличила срок жизни кэша промптов: с 20 октября 2026 параметр prompt_cache_options.ttl в Responses API принимает значение «12h» вместо стандартных «30m», а кэш у залогиненных пользователей Codex и ChatGPT Work, по заявлению руководителя Codex, хранится бессрочно. Постоянное начало запроса — инструкции, инструменты, накопленный контекст — больше не приходится заново прогревать после каждого перерыва: чтение из кэша обходится до 95% дешевле обычного ввода, хотя повышенный тариф на запись окупается только при регулярных обращениях к одному и тому же началу. Для рынка это сдвиг кэширования из разряда технической оптимизации в разряд продуктовой опоры работы с моделями.

image
image

Что произошло

20 октября 2026 OpenAI расширила возможности кэширования промптов в Responses API: параметр prompt_cache_options.ttl теперь принимает значение «12h» наряду со стандартными «30m», и неизменное начало запроса — системные инструкции, определения инструментов, накопленный контекст — можно удерживать в кэше до 12 часов вместо получаса. Документация OpenAI тарифицирует запись в кэш надбавкой к базовой цене входных токенов: 1,25× у 30-минутного кэша и 2,5× у 12-часового. Чтение из кэша дешевле обычного ввода до 95%: в примере из поста для модели GPT-6.1 Sol кэшированное чтение стоит $0,10 за 1 млн токенов при обычном вводе $2,00 и записи $2,50. Руководитель Codex Тибо Соттьо (Tibo Sottiaux) отдельно заявил, что для залогиненных пользователей Codex и ChatGPT Work кэш хранится бессрочно: по его словам, возвращение к сессии через несколько часов гарантирует попадание в кэш и не тратит лимиты на его перезаполнение.

Контекст

Работа промпт-кэша основана на структуре запроса к модели: значительная часть каждого запроса постоянна для конкретного проекта или продукта, потому что задаётся системными инструкциями, описанием доступных инструментов и накопленным контекстом, а реально меняется лишь завершающая часть. Когда сервис уже обрабатывал такое начало, повторные запросы переиспользуют готовый результат вместо пересчёта с нуля — на этой разнице и основана скидка на чтение из кэша. Сам анонс при этом не связан с моделями: новой архитектуры, метода обучения или бенчмарков в нём нет, изменение лежит в области сервинга и тарификации. Его значимость именно инженерно-экономическая, и оно задокументировано в официальном changelog и guide OpenAI как работающий параметр API, а не планы на будущее.

Почему это важно для индустрии

Раньше пауза дольше получаса обнуляла кэш промптов и удорожала повторные запросы — это било прежде всего по persistent-агентам и долгим рабочим сессиям. 12-часовой TTL и бессрочный кэш в Codex и ChatGPT Work устраняют этот барьер, и кэширование превращается в дефолтную экономику длинных агентских workflow: надбавка за запись становится осознанным расчётом, который окупается только потоком чтений со скидкой. Ручная кэш-оптимизация при этом коммодитизируется — то, что раньше требовало отдельных инженерных решений, свелось к одному параметру запроса. Вместе с «вечным» кэшем у Codex и ChatGPT Work растёт и цена ухода с платформы OpenAI: накопленный промпт-кэш остаётся внутри её инфраструктуры. Если паттерн закрепится, TTL-кэширование со временем может стать стандартным параметром у крупных провайдеров, а проектирование промптов сместится к схеме «стабильный префикс плюс переменный хвост».

Почему это важно для пользователей

Пользователям Codex и ChatGPT Work, работающим под своим аккаунтом, эффект виден сразу: можно спокойно отойти от сессии на несколько часов и вернуться — по анонсу кэш сохранится, так что возвращение к работе больше не оборачивается переплатой за заново прогретый контекст. Разработчикам, которые работают с Responses API напрямую, достаточно указать prompt_cache_options.ttl: «12h» в запросе, если системные инструкции и набор инструментов стабильны в течение рабочего дня. Если же запросы разовые и начало у каждого своё, разумнее оставить значение по умолчанию «30m»: платить повышенную цену записи без повторных чтений нечем окупить.

Что пока неизвестно / ограничения

Цифры записи для 12-часового кэша расходятся между источниками: текст поста называет надбавку «удвоенной» (2×), guide OpenAI указывает 2,5×, а приведённый в посте пример для GPT-6.1 Sol ($2,50 при вводе $2,00 за 1 млн токенов) арифметически соответствует 1,25× — цене 30-минутной записи. Хотя бы одно из этих утверждений неверно, и точное значение нужно сверять с официальным guide по prompt caching. Заявление о бессрочном кэше для Codex и ChatGPT Work опирается на единичный промо-пост руководителя Codex Тибо Соттьо в X: оно не продублировано в changelog или guide, механизм хранения, политика выселения, квоты и влияние на rate limits не раскрыты, независимого воспроизведения нет. Формулировку «гарантированное попадание в кэш» из поста в X следует читать как маркетинговое обещание, а не задокументированную гарантию уровня сервиса.

Источники

Автор

Look at AI, редакция