# Come funziona il prompt caching OpenAI

OpenAI può riutilizzare automaticamente prefissi di prompt già elaborati. Tenere stabile la parte iniziale della richiesta può migliorare cache hit, costo e latenza.

[Versione HTML](https://www.tokenometro.it/guide/prompt-caching-openai/)

Un progetto di YADA Digital. Metodo e limiti: https://www.tokenometro.it/metodologia/
Fonti verificate il: 2026-10-03

## Parti dal modello e dalle sue regole

OpenAI documenta il caching dei prefissi di prompt, con modalità e condizioni che variano tra generazioni di modelli. Le istruzioni correnti includono anche breakpoint espliciti sui modelli compatibili. Per questo «mettere il testo stabile all'inizio» è un principio utile, ma non è da solo una garanzia di riuso.

Prima di intervenire, identifica modello, modalità della cache e punti del prompt che restano invariati. Controlla nella guida ufficiale soglia minima e confini utilizzabili. Evita di trasferire senza verifica una configurazione pensata per un modello precedente. Le differenze possono incidere sia sul comportamento sia sulle voci di costo da osservare dopo le richieste.

## Progetta un blocco stabile e verificabile

Un caso frequente è un'applicazione che usa le stesse istruzioni e cambia soltanto la domanda. Raggruppa il materiale comune in modo riconoscibile e colloca i dati variabili dove non alterino inutilmente il prefisso. Sui modelli che li richiedono o li supportano, configura i breakpoint secondo la documentazione.

Pensa a un assistente su un catalogo: istruzioni e versione del catalogo costituiscono il materiale riutilizzabile; la domanda del cliente cambia. Non inserire un timestamp casuale nel blocco comune se non serve al compito. Se invece il catalogo viene aggiornato, conserva la correttezza dei dati anche a costo di ricostruire la cache: il risparmio non giustifica risposte basate su informazioni superate.

## Controlla i riscontri nelle risposte

Usa i dettagli di consumo previsti dall'endpoint per verificare quali token sono stati effettivamente letti dalla cache. Un prefisso ripetuto non basta a dimostrare un cache hit. La guida OpenAI segnala casi in cui confini dei messaggi, impostazioni e cambiamenti del contesto impediscono il riuso atteso.

Esegui una prova in tre passaggi: richiesta iniziale, seconda domanda con materiale comune invariato, richiesta dopo una modifica controllata del blocco stabile. Registra i valori senza presumere che siano tutti uguali. Se il riuso manca, controlla prima modello, configurazione e punti di corrispondenza. Un registro delle versioni del prompt aiuta a collegare una variazione del consumo a una modifica reale del contenuto.

## Valuta il costo dell'intero ciclo

Nel confronto economico includi le tariffe applicabili a scrittura, lettura e input non riutilizzato, dove previste per quel modello. Non applicare uno sconto fisso a tutto il prompt. Usa il listino ufficiale associato alla configurazione effettiva e registra la data della valutazione.

Confronta un campione di traffico realistico, comprese pause e aggiornamenti dei documenti. Considera anche se una riduzione del contesto cambia la capacità di riuso: un prompt più corto può modificare il bilancio, e va misurato. La scelta finale dovrebbe migliorare costo per attività completata e tempi di risposta, mantenendo le istruzioni necessarie. Conserva una procedura ripetibile per ricontrollare questi risultati quando cambi modello o modalità di elaborazione.

## Fonti

- [OpenAI · Prompt caching](https://developers.openai.com/api/docs/guides/prompt-caching)
- [OpenAI · Pricing](https://developers.openai.com/api/docs/pricing)

## Letture correlate

- [Prompt caching: cos'è e perché fa risparmiare](https://www.tokenometro.it/guide/prompt-caching/index.md)
- [Come ridurre i costi delle API OpenAI](https://www.tokenometro.it/guide/ridurre-costi-api-openai/index.md)
- [Quanto pesa il system prompt?](https://www.tokenometro.it/guide/system-prompt-token/index.md)
