Il costo di una richiesta è token in × prezzo input + token out × prezzo output, con i prezzi espressi per milione di token.

Con la cache l'ingresso si spezza in due: le richieste che trovano il prefisso già scritto pagano 0,1×, quelle che non lo trovano lo scrivono a 1,25×. Il risultato è che una cache che funziona porta la spesa di ingresso vicino a un decimo, mentre una cache che si invalida in continuazione costa più che non usarla.

Da quei due moltiplicatori esce il punto di pareggio: serve che almeno il 22% delle richieste trovi il prefisso già scritto, altrimenti la cache è una spesa in più.

L'uscita non è cacheabile: quel pezzo di conto non si sconta in nessun modo se non scrivendo risposte più corte.