Cache

Come funziona il prompt caching Claude

Claude supporta il caching del contesto riutilizzato. Anthropic distingue la creazione della cache dalle successive letture della stessa porzione di prompt.

Un progetto di YADA Digital · Metodo e responsabilità editoriale

Creazione e lettura sono operazioni diverse

Anthropic distingue i token usati per creare una cache da quelli letti in richieste successive. Questa distinzione è essenziale per valutare il risparmio: il primo accesso e i riusi non hanno necessariamente la stessa tariffa. Controlla i prezzi del modello scelto invece di applicare un unico moltiplicatore a tutto l'input.

Il caso tipico è un insieme di istruzioni o un documento consultato più volte. Se il materiale cambia continuamente, una parte del vantaggio può scomparire. Prima di configurare la cache, osserva quali blocchi sono stabili e quante domande li riutilizzano realmente. È il comportamento dell'applicazione a determinare l'opportunità, non la sola lunghezza del prompt.

Scegli una durata coerente con l'uso

La documentazione Claude descrive una durata predefinita di cinque minuti e un'opzione di un'ora, con condizioni e costi specifici. Sono caratteristiche da verificare per il modello e la piattaforma utilizzati. La scelta dipende soprattutto dall'intervallo tra le richieste che condividono il contenuto.

Per esempio, un assistente usato intensamente per pochi minuti ha esigenze diverse da un processo che torna sullo stesso documento dopo una pausa lunga. Misura gli intervalli effettivi prima di scegliere. Non mantenere una cache più costosa solo perché sembra prudente: confronta il costo di creazione, la frequenza dei riusi e il vantaggio ottenuto nel flusso reale, incluse le sessioni che terminano dopo una sola domanda.

Organizza e controlla il prefisso

Usa i controlli di caching documentati, inclusa la modalità automatica o i breakpoint espliciti quando appropriati. Mantieni coerenti i contenuti condivisi e separa i dati che cambiano a ogni turno. Anche piccole variazioni prima del punto riutilizzabile possono modificare il comportamento osservato.

Prova con un manuale e tre domande diverse. Registra la creazione iniziale, le letture successive e una richiesta dopo aver aggiornato il manuale. Questa sequenza ti permette di distinguere il riuso corretto da un presupposto basato soltanto su prompt simili. Conserva il consumo originale della risposta: un contatore locale del testo non mostra da solo quanta parte sia stata servita dalla cache.

Leggi i campi senza sommarli male

Per Claude considera le categorie documentate per input nuovo, creazione e lettura della cache. Non assumere che ogni campo sia già incluso in un unico totale con lo stesso significato adottato da altri provider. Costruisci il riepilogo seguendo lo schema effettivo della risposta e le tariffe corrispondenti.

Nel monitoraggio aggiungi modello, durata configurata, versione del contenuto e numero di riusi. Confronta il costo di una sessione completa, non soltanto la richiesta più favorevole. Controlla anche le risposte: se una modifica delle istruzioni è necessaria, applicala e rivaluta il caching. Il risultato cercato è un riuso misurabile di informazioni corrette, con una spesa comprensibile e una gestione delle versioni che non lasci circolare documenti ormai sostituiti.

Per approfondire

Fonti e aggiornamenti

Questa guida si basa sulle fonti indicate. Consultale per un approfondimento!

Ultima verifica editoriale: .

Dalla teoria al tuo prompt.

Scopri quanto pesano le tue parole e sperimenta nuove idee.

Apri il contatore