OpenAI suma un caché de prompts de 12 horas a la Responses API, con escritura al doble de precio

OpenAI sumó un caché de prompts más largo a su API el 20 de octubre. Según el changelog de la API, quienes usan la Responses API ya pueden pedir caché de prompts de 12 horas, para que las instrucciones compartidas, las definiciones de herramientas y el contexto sigan teniendo precio de input cacheado aunque los requests lleguen con horas de diferencia. La contrapartida figura en la misma entrada: escribir en el caché de 12 horas cuesta 2,5x el precio del token de input.

Qué cambió concretamente

Según la guía de prompt caching de OpenAI, los modelos desde GPT-5.6 en adelante aceptan un parámetro a nivel request, prompt_cache_options.ttl, con dos valores: "30m", el default, y el nuevo "12h". Un ttl por breakpoint puede pisar el valor del request, y cualquier otro valor devuelve un error 400. La opción de 12 horas existe solo en la Responses API; la guía aclara que la Agents API comparte el comportamiento de caché de la Responses API.

Hay dos detalles de la guía que importan si vas a planificar en base a esto. Primero, el ttl es un mínimo, no un vencimiento: define cuánto tiempo una entrada sigue calificando para el precio de lectura cacheada, y OpenAI puede conservar entradas por más tiempo. Segundo, "12h" no fija un plazo de borrado ni cambia la política máxima de retención de datos de OpenAI, así que es un control de precio y disponibilidad, no un compromiso de almacenamiento.

Los modelos anteriores no cambian. Siguen con el parámetro prompt_cache_retention (in_memory o 24h; GPT-5.5 y GPT-5.5 Pro solo aceptan 24h), y la nueva configuración no lo modifica.

Los precios, en multiplicadores

La guía expresa todo en relación con la tarifa normal de input sin caché de cada modelo:

• Escritura en caché de 30 minutos (GPT-5.6 en adelante): 1,25x
• Escritura en caché de 12 horas (GPT-5.6 en adelante, solo Responses API): 2,5x
• Lectura de caché, la mayoría de los modelos GPT-5.6+: 0,1x
• Lectura de caché, GPT-6.1 Sol: 0,05x
• Modelos anteriores: sin cargo extra por escritura; lecturas a la tarifa de input cacheado de cada modelo

OpenAI aclara que las tarifas de escritura son totales, no recargos que se suman al input normal. El prompt mínimo cacheable para GPT-5.6 en adelante es de 1.024 tokens, y el objeto de uso ahora separa los tokens escritos según su duración (ttl_30m_tokens y ttl_12h_tokens), lo que permite auditar cuánto te está costando el caché largo.

Cuándo conviene

El consejo de la propia guía es comparar la tarifa más alta de escritura de 12 horas con el costo de volver a escribir el prefijo cuando vence la cobertura de 30 minutos. Una cuenta aproximada de Promptea muestra dónde está el punto de equilibrio. Tomá un prefijo grande reusado por varios requests, cada uno llegando después de que una entrada de 30 minutos ya dejó de calificar. Con el caché por defecto, cada request paga una escritura nueva de 1,25x. Con el de 12 horas, el primero paga 2,5x y los siguientes leen a 0,1x.

• Dos requests: unas 2,5x del precio del prefijo con el caché por defecto contra 2,6x con 12 horas, así que el caché largo pierde por poco.
• Tres requests: 3,75x contra 2,7x, y ahí gana el caché largo.
• Diez requests dentro de las 12 horas: 12,5x contra 3,4x.

Es un modelo simplificado. Supone que cada entrada de 30 minutos desaparece antes de la llamada siguiente, y OpenAI dice que las entradas pueden sobrevivir más allá del mínimo, así que el ahorro real depende de las tasas de acierto que midas. Si tus requests ya llegan cada pocos minutos, el caché por defecto los cubre y la escritura de 12 horas es puro sobrecosto.

Qué implica para prompts y agentes

La función apunta a cargas de trabajo largas o intermitentes: un agente de código cuyo system prompt y esquemas de herramientas se reusan durante toda una jornada, un asistente de soporte con un documento de políticas grande que se consulta cada una o dos horas, o trabajos tipo batch que se disparan por agenda. En esos casos, el costo de un system prompt largo y detallado baja después de la primera llamada del día, lo que debilita el incentivo habitual de recortar instrucciones solo para ahorrar tokens.

También le suma valor a la estructura del prompt. El caché funciona sobre prefijos, así que el material estable (instrucciones, definiciones de herramientas, texto de referencia) tiene que ir primero y mantenerse idéntico byte a byte entre llamadas, con todo lo variable, como el input del usuario, timestamps o fragmentos recuperados, después. Un prompt que arranca con la fecha va a fallar el caché sea cual sea el ttl. En modo explícito, la guía dice que solo se cachean los breakpoints que marca el desarrollador, con hasta cuatro escrituras de caché por request, y que un request sin breakpoints no genera ninguna escritura.

Al momento de publicar no había mediciones independientes de tasas de acierto ni de ahorro real. Los multiplicadores de arriba salen de la documentación de OpenAI; las cifras de equilibrio son cuentas de Promptea sobre esos multiplicadores.