Prompt Caching
Reusing the processed form of a repeated prompt prefix so you do not pay full price for it again.
Cuando muchas solicitudes comparten un prefijo largo y estable — un prompt del sistema, un documento, un conjunto de ejemplos —, la caché le permite al proveedor evitar recalcularlo. El ahorro es grande y casi gratis: pon el contenido estable primero y el contenido variable al final.
En la práctica: Un manual de 20,000 tokens que se cachea una vez y luego se consulta mil veces a bajo costo.
Where this comes up
- ChatGPT 5.6: Release Date, Models, Pricing & Access
- ChatGPT Context Window: What It Is and What Actually Fits
- Claude Context Window: Size, What Counts Toward It, and How to Manage It
- Claude Fable 5 vs Opus 4.8: Benchmarks, Pricing & When to Switch
- Claude Fable 5 vs Opus 5: A Detailed Comparison
- Claude Fable 5: Price, API, Access, Safeguards & Use Cases