Testo locale e richiesta completa
Per analizzare una stringa puoi usare tiktoken con una codifica compatibile con il modello. Questo aiuta a confrontare versioni di un prompt e a capire quali blocchi sono più lunghi. Non basta però a riprodurre automaticamente una richiesta con messaggi, strumenti e contenuti multimodali.
Prima di scegliere il metodo, definisci l'obiettivo. Se devi confrontare due descrizioni dello stesso prodotto, conserva il medesimo tokenizer. Se vuoi sapere quanto input avrà una chiamata API, prepara gli stessi elementi della chiamata reale. Non presentare la somma delle sole stringhe digitate dall'utente come il conteggio certificato di tutto ciò che il modello riceverà.
Il conteggio ufficiale dell'input
OpenAI documenta l'endpoint POST /v1/responses/input_tokens. La risposta include input_tokens; il metodo permette di misurare l'input senza generare una risposta. Consulta lo schema ufficiale per riprodurre correttamente modello, contenuti e configurazione supportata. Il risultato non predice quanto output verrà generato in seguito.
Un modo pratico per integrarlo nel lavoro è contare la richiesta finale dopo aver assemblato il prompt, prima di avviare una generazione impegnativa. Se modifichi il documento o le istruzioni dopo il conteggio, aggiorna anche la misura. Il numero precedente descrive una versione diversa e non dovrebbe essere riutilizzato solo perché la richiesta sembra simile a colpo d'occhio.
Organizza una verifica rappresentativa
Scegli tre richieste della tua applicazione: una breve, una con cronologia e una con materiale aggiuntivo. Per ciascuna conserva la struttura effettiva, il modello e il risultato del conteggio. Se esegui anche la generazione, affianca i campi di usage della risposta. Distingui sempre misurazione preventiva e consumo osservato.
Questa procedura aiuta a scoprire errori nell'assemblaggio: un documento aggiunto due volte, un system prompt duplicato o una cronologia che cresce più del previsto. Intervieni sul blocco responsabile e ripeti solo il caso interessato. Non cercare un coefficiente universale da applicare a qualunque stringa: una correzione adatta al testo semplice potrebbe essere sbagliata per strumenti o allegati.
Come usare il risultato nel progetto
Mostra il modello accanto al conteggio e spiega se il valore riguarda il testo o la richiesta. Per pianificare una generazione, lascia spazio alla risposta e agli altri componenti previsti dal modello. Un input che entra nel limite non garantisce da solo che ci sia budget sufficiente per completare il compito.
Conserva una versione del prompt e aggiorna le misure quando cambi modello o struttura dei messaggi. Se usi Tokenometro per una prima revisione, leggi il metodo indicato nell'interfaccia e passa alla verifica ufficiale quando serve controllare la richiesta reale. Il vantaggio di questo percorso è rendere riproducibile ogni numero: saprai quale testo, quale configurazione e quale momento rappresenta.
Per approfondire
Fonti e aggiornamenti
Questa guida si basa sulle fonti indicate. Consultale per un approfondimento!
Ultima verifica editoriale: .