IT ▾
Ottieni la chiave API

Fornitore API LLM economico: cosa verificare oltre al prezzo

Un provider di API LLM economico è davvero tale solo se il totale della fattura è basso: contano i prezzi di output, le chiamate fallite, la dimensione del contesto e i crediti che scadono. Usa questa checklist, con i costi calcolati a $0,15 per 1M di token di input e $0,50 per 1M di token di output.

Aggiornato

Una bilancia con monete e cubi di dati, illustra i controlli sui costi per un provider API LLM

Cheap AI APIs

Punti chiave

  1. Confronta i prezzi di input e output separatamente e usa il tuo rapporto token.
  2. Verifica la finestra di contesto, i limiti di richieste, gli errori fatturati, la scadenza e l'uso dei dati.
  3. Qui i riassunti costano $3,25 per 1.000 documenti; 1.000 storie generate costano $1,575.
  4. Una prova da $0,50 non richiede carta e dura 7 giorni.

Il prezzo per milione di token è solo metà del preventivo

Scegliere un provider in base al numero più basso in una pagina dei prezzi funziona fino al primo conto reale. Due provider possono pubblicizzare lo stesso prezzo di input e comunque farti pagare quantità molto diverse, a causa del modo in cui viene fatturato l’output, di cosa conta come richiesta fatturabile e di quanto spendi per i retry.

Questo articolo ti offre una breve checklist applicabile a qualsiasi provider, poi ne analizza uno come esempio: $0,15 per 1M di token di input e $0,50 per 1M di token di output, i prezzi di questo sito. Usa la checklist anche per gli altri. Per i loro valori, leggi la pagina dei prezzi attuale, perché i prezzi cambiano.

La checklist

VerificaPerché è importante
Prezzi di input e output separatamenteUn prezzo medio nasconde su quale lato paghi di più
Finestra di contestoUna finestra di contesto piccola forza il chunking, il che significa più chiamate e istruzioni ripetute
Le richieste fallite vengono fatturate?Errori e rifiuti che costano denaro gonfiano il conto
Limiti di richiesteUna bassa concorrenza trasforma un batch economico in uno lento
Ricarico minimo e scadenzaIl credito che scade è denaro che perdi
Abbonamento o credito prepagatoUna fee mensile fissa penalizza i mesi leggeri
Quale modello è, onestamente?Economico può significare un modello diverso o più piccolo di quanto suggerisca il nome
Utilizzo dei datiI prompt vengono usati per l'addestramento?
Compatibilità APIOpenAI-compatible significa nessuna riscrittura e passaggio facile

Scrivi le risposte per ogni provider in una piccola tabella tua. Le lacune nella documentazione di un provider sono comunque una risposta.

Input versus output: il rapporto decide

I token di output costano solitamente di più di quelli di input, quindi ciò che fa la tua app conta. Ecco due carichi di lavoro a $0,15 per 1M di input e $0,50 per 1M di output.

Riassunti. Un documento da 20.000 token entra e escono 500 token. Input: 20.000 x $0,15 / 1.000.000 = $0,003. Output: 500 x $0,50 / 1.000.000 = $0,00025. Totale $0,00325 per documento, o $3,25 per 1.000 documenti. Il lato input è il 92% del conto.

Generazione. Un prompt da 500 token produce 3.000 token di storia. Input: $0,000075. Output: $0,0015. Totale $0,001575, o $1,575 per 1.000 generazioni. Qui l'output è il 95% del conto.

Un provider con input economico e output costoso vince il primo carico di lavoro e perde il secondo. Confronta in base al tuo rapporto, non su una cifra headline. Per un mese misto di 10M di token input e 2M di output, il conto qui è $1,50 + $1,00 = $2,50.

Errori, retry e quanto paghi davvero

Il provider più economico sulla carta diventa costoso se una quota delle tue chiamate fallisce e le paghi. Chiedi se le richieste fallite o rifiutate sono fatturate. Qui non lo sono. Chiedi come si comporta il rate limit: una chiave completa permette 8 richieste concorrenti e 300 richieste al minuto, una chiave di prova 2 e 60. Superato il limite l'API restituisce HTTP 429 con il codice rate_limited o concurrency, e in caso di sovraccarico temporaneo anche 429 con Retry-After: 5.

Gestiscilo con garbo e il costo dei retry è zero, poiché la richiesta rifiutata non è mai partita. Ecco un wrapper minimale:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.cheapaiapis.com/v1", api_key="YOUR_KEY")

def ask(prompt, retries=4):
    for i in range(retries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5)
    raise RuntimeError("rate limited after retries")

Gli stream occupano il loro slot di concorrenza fino al termine, quindi un job batch che streamma 20 risposte contemporaneamente sarà limitato dal cap di 8 slot, non dalla cifra per minuto.

Finestra di contesto e costo nascosto del chunking

Una finestra da 100.000 token, condivisa da prompt e completion, ti permette di inviare un documento lungo in una singola richiesta. Con una finestra piccola lo dividi, ripeti le istruzioni in ogni chunk e aggiungi una chiamata finale per unire i risultati. Sono più richieste, più token input e più codice da mantenere. Se il tuo carico di lavoro coinvolge input lunghi, verifica la finestra prima del prezzo.

Lo stesso vale per le app chat con cronologie lunghe. Se la cronologia entra, puoi mantenere tutto semplice. Anche così, reinviare la cronologia costa token input ogni turno, quindi il trimming è comunque utile. Una lettura correlata è miti vs fatti sulle API GPT economiche, che separa i risparmi reali dal marketing.

Un mese di utilizzo reale, al prezzo effettivo

Metti insieme i pezzi con un piccolo prodotto: un assistente di scrittura con 300 utenti attivi che inviano ciascuno 40 richieste al mese. Sono 12.000 richieste. Ognuna invia circa 3.000 token input (istruzioni, storia finora) e restituisce 700 token.

  • Input: 12.000 x 3.000 = 36M di token, che costano 36 x $0,15 = $5,40.
  • Output: 12.000 x 700 = 8,4M di token, che costano 8,4 x $0,50 = $4,20.
  • Totale: $9,60 al mese, o $0,032 per utente.

Vedi ora cosa fanno piccoli cambiamenti. Tagliare la cronografia in modo che l'input scenda a 2.000 token per richiesta risparmia 12M di token input, o $1,80. Limitare l'output a 500 token risparmia 2,4M di token, o $1,20. Un provider che fattura le chiamate fallite, con un tasso di errore del 5%, aggiunge il 5% all'intero conto. Questi effetti sono grandi quanto una differenza di prezzo tra due provider economici, motivo per cui il checklist è importante.

Il modello è l'altra metà del confronto. Un prezzo più basso per un modello che ha bisogno di tre tentativi per seguire il tuo formato non è più basso. Prima di decidere, esegui 20 dei tuoi prompt reali e conta quanti danno una risposta utilizzabile al primo tentativo.

Credito prepagato, scadenza e regole di ricarico

Cerca due regole: se il credito scade e qual è il pagamento minimo. Qui il credito non scade mai, non c'è abbonamento e i ricarichi sono qualsiasi importo intero da $20 a $500. Il bonus è +5% da $50, +10% da $100 e +15% da $200, quindi un ricarico da $100 diventa $110 di credito. Puoi pagare con cripto (USDT su TRC20, USDC su Base). La pagina dei prezzi ha la tabella.

Un ricarico di $20 al carico di lavoro di generazione sopra ($0,001575 per storia) compra circa 12.698 storie. Al carico di lavoro di riassunto ($0,00325 per documento) compra circa 6.153 documenti. Queste sono le cifre da confrontare con l'equivalente di qualsiasi altro provider.

Testalo prima di impegnarti

Il miglior check sono i tuoi prompt. Accedi con Google, o con email e password, e ottieni il credito di prova da $0,50 nella pagina delle chiavi API. Richiede un click, non serve carta, dura 7 giorni ed è limitato a uno per persona. Poiché l'API è OpenAI-compatible, il test è un cambio di base URL.

curl https://api.cheapaiapis.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Summarize: retries need backoff."}]}'

Ogni risposta porta X-Balance-USD, così puoi osservare il costo reale del tuo test run. Sii chiaro su cosa è offerto: un modello a pesi aperti, gestito da un provider indipendente e ottimizzato per rispondere senza rifiuti sui contenuti per uso adulto legale. Non è l'API ufficiale di alcun vendor di modelli, ed è solo testo, senza immagini, embeddings o fine-tuning. I prompt non sono usati per il training. I dettagli sono nella docs.

Domande e risposte

Leggi la documentazione
Il prezzo più basso per milione di token è sempre il più conveniente?

No. I prezzi di output, i fallimenti fatturati, le finestre di contesto ridotte e il credito che scade possono aumentare il conto reale. Confronta in base al tuo rapporto tra input e output.

Le richieste fallite vengono addebitate qui?

No. Le richieste fallite o rifiutate non vengono addebitate e il credito non scade mai.

Come testare un provider in modo economico?

Usa il credito di prova o un piccolo ricarico e esegui i tuoi prompt reali. Qui un credito di prova da $0,50 non richiede carta e dura 7 giorni.

È l’API ufficiale di un grande fornitore di modelli?

No. È un modello a pesi aperti gestito da un provider indipendente, non l’API ufficiale di alcun fornitore e non un router.

La tua chiave è a un modulo di distanza

Crea un account, copia la chiave, modifica l'URL di base. È tutta la configurazione.

Ottieni la chiave API

https://api.cheapaiapis.com/v1