Código y agentesOpenAI

Caché de prompts: mide el valor del contexto repetido

OpenAI anunció controles y diagnósticos ampliados de caché para GPT-6 el 22 de septiembre. El contexto repetido merece un presupuesto propio.

Un carrusel de cobre reutiliza placas de contexto lavanda entre un archivador verde y un pequeño terminal morado.
Ilustración conceptual.

Qué ha cambiado

OpenAI anunció controles y diagnósticos ampliados de caché para GPT-6 el 22 de septiembre. El contexto repetido merece un presupuesto propio.

Por qué importa

Las peticiones de agentes repiten instrucciones, herramientas y contexto del repositorio. La caché puede reducir ese coste, pero una tasa de aciertos alta no demuestra que la información siga siendo pertinente. Separa instrucciones estables del estado cambiante de la tarea.

Qué comprobar ahora

Mide prefijo reutilizable, aciertos reales, latencia y coste por tarea terminada antes de modificar el prompt. Cambia una variable cada vez e incluye una prueba sin caché. Verifica cualquier ahorro en tu entorno.

La fecha del suceso corresponde al anuncio original. La fecha de publicación indica cuándo apareció el artículo en Codorc.

Continúa leyendo

Todas las historias