Se la tua bolletta di OpenAI (o di qualsiasi API di IA) cresce più in fretta del tuo uso, quasi sicuramente stai pagando troppo in punti precisi e risolvibili. Queste sono le sette leve che più spesso spostano l’ago, ordinate dal risparmio tipico maggiore al minore. La maggior parte non tocca la qualità delle risposte; smette solo di sprecare token.
Le 7 leve, in sintesi
| Leva | Risparmio tipico | Sforzo |
|---|---|---|
| Scegliere il modello per attività | 50–90% | Medio |
| Caching dei prompt | 50–90% (sul cachato) | Basso |
| Elaborazione in batch | ~50% | Basso |
| Ridurre il contesto | 20–60% | Medio |
| Limitare i token di uscita | 10–40% | Basso |
| RAG invece del contesto lungo | Variabile, alto a volume | Alto |
| Monitorare la spesa | Abilita le altre | Basso |
1. Scegli il modello per attività
È di gran lunga la leva più grande. Usare il modello più potente per tutto è l’errore più caro. La maggior parte delle attività —classificare, estrarre, riassumere— le risolve un modello piccolo a una frazione del prezzo. Riserva il modello grande a ciò che ne ha davvero bisogno e instrada il resto a quello piccolo.
2. Attiva il caching dei prompt
Se le tue richieste ripetono lo stesso blocco di contesto —istruzioni, esempi, un documento di base—, il caching lo addebita una volta e non a ogni richiesta. Su carichi con molto contesto ripetuto, il risparmio su quei token arriva al 90%. È tra le cose più economiche da implementare.
3. Elabora in batch ciò che può aspettare
Se un’attività non ha bisogno di risposta immediata —report notturni, arricchire un database, classificare in massa—, il batch API costa di solito la metà. È scambiare minuti con denaro su tutto ciò che non è interattivo.
4. Riduci il contesto che trascini
Ogni richiesta paga tutto il contesto che le dai, che il modello lo usi o no. Invia solo il rilevante: invece di incollare l’intero manuale, passa le sezioni necessarie. Meno contesto è meno costo per attività, in ognuna delle richieste.
5. Limita i token di uscita
L’uscita costa diverse volte più dell’ingresso. Fissa un massimo di token e chiedi risposte concise quando non ti serve un testo lungo. Un max_tokens sensato e un prompt che chiede brevità tagliano la parte cara della bolletta.
6. Passa a RAG se il contesto esplode
Quando trascini documenti enormi a ogni richiesta, un sistema di recupero (RAG) che invia solo i frammenti rilevanti abbassa il contesto per richiesta e, a volume, il risparmio è grande. Ha più montaggio, ma su scala si ripaga da solo. Lo sviluppiamo in RAG, fine-tuning o contesto lungo.
7. Monitora la spesa
Non è un risparmio diretto, ma abilita tutti gli altri: senza misurare il costo per attività, per utente e per endpoint, non sai dove stai pagando troppo. Ciò che non si misura, non si ottimizza.
Metti un numero alle tue leve
Prima di toccare qualcosa, misura da dove viene la tua spesa. Inserisci i tuoi token e il tuo volume nel calcolatore di costo dei token e prova a cambiare modello o a ridurre il contesto: vedrai il risparmio mensile di ogni leva prima di implementarla.
Domande frequenti
Come posso ridurre il costo dell’API di OpenAI? Le tre leve che fanno risparmiare di più sono scegliere un modello più piccolo per ogni attività, attivare il caching dei prompt per il contesto che si ripete ed elaborare in batch ciò che non ha bisogno di risposta immediata. Tutte e tre si applicano in ore e di solito non toccano la qualità.
Quanto fa risparmiare il caching dei prompt? Sui token di contesto che si ripetono tra le richieste, il risparmio arriva al 50–90%. Più grande e stabile è il blocco di contesto che riutilizzi, più conviene.
Il batch API è più economico? Sì, di solito costa circa la metà in cambio del non essere immediato. Conviene su tutto ciò che non è interattivo: report, arricchimento di dati, classificazione in massa.
Questo articolo fa parte del cluster sul costo per attività dell’IA, la guida che ancora tutto il resto.
In e-ficient misuriamo il costo per attività di aziende che hanno già l’IA in produzione e ti diciamo quanto risparmieresti con ogni leva al tuo volume reale. Il primo audit è gratuito se attivi un piano con impegno di tre mesi e restituisce una diagnosi in 72 ore.