FR ▾
Obtenir une clé API

Fournisseur d'API LLM bon marché : que vérifier au-delà du prix

Un fournisseur d'API LLM bon marché n'est bon marché que si l'addition totale est faible : les tarifs de sortie, les appels échoués, la taille de la fenêtre de contexte et le crédit qui expire entrent en compte. Utilisez cette liste de contrôle, avec des coûts calculés à $0,15 par 1 M de tokens d'entrée et $0,50 par 1 M de tokens de sortie.

Mis à jour le

Une balance pesant des pièces de monnaie contre des cubes de données, illustrant les vérifications de coût pour un fournisseur d'API LLM

Cheap AI APIs

Points clés

  1. Comparez les prix d'entrée et de sortie séparément et utilisez votre propre ratio de tokens.
  2. Vérifiez la fenêtre de contexte, les limites de débit, les erreurs facturées, l'expiration et l'utilisation des données.
  3. Les résumés coûtent $3,25 pour 1 000 documents ici ; 1 000 histoires générées coûtent $1,575.
  4. Un essai de $0,50 ne nécessite pas de carte et dure 7 jours.

Le prix par million de tokens n'est que la moitié du tarif affiché

Choisir un fournisseur sur la base du chiffre le plus bas d'une page de tarification fonctionne jusqu'à la première facture réelle. Deux fournisseurs peuvent annoncer le même prix d'entrée et vous coûter des montants très différents, en raison de la facturation des sorties, de ce qui compte comme une requête facturée et du montant que vous dépensez en tentatives.

Cet article vous donne une courte liste de contrôle que vous pouvez appliquer à tout fournisseur, puis en teste un comme exemple : $0,15 par 1M de tokens d'entrée et $0,50 par 1M de tokens de sortie, les tarifs de ce site. Utilisez la liste de contrôle sur les autres aussi. Pour leurs chiffres, lisez leur page de tarification actuelle, car les prix changent.

La liste de contrôle

VérifierPourquoi c'est important
Prix d'entrée et de sortie séparémentUn prix mixé cache sur quel côté vous payez le plus
Fenêtre de contexteUne petite fenêtre force le fractionnement, ce qui signifie plus d'appels et des instructions répétées
Les requêtes échouées sont-elles facturées ?Les erreurs et les refus qui coûtent de l'argent gonflent la facture
Limites de débitUne faible concurrence transforme un lot bon marché en un lot lent
Rechargement minimum et expirationUn crédit qui expire est de l'argent perdu
Abonnement ou crédit prépayéDes frais mensuels fixes pénalisent les mois légers
Quel est le modèle, honnêtement ?Bon marché peut signifier un modèle différent ou plus petit que ce que le nom suggère
Utilisation des donnéesLes prompts sont-ils utilisés pour l'entraînement ?
Compatibilité APICompatible OpenAI signifie aucune réécriture et un changement facile

Écrivez les réponses pour chaque fournisseur dans un petit tableau personnel. Les lacunes dans la documentation d'un fournisseur sont aussi une réponse.

Entrée versus sortie : le ratio décide

Les tokens de sortie coûtent généralement plus cher que les tokens d'entrée, donc ce que fait votre application compte. Voici deux charges de travail à 0,15 $ par 1M d'entrée et 0,50 $ par 1M de sortie.

Résumés. Un document de 20 000 tokens entre et 500 tokens sortent. Entrée : 20 000 x 0,15 $ / 1 000 000 = 0,003 $. Sortie : 500 x 0,50 $ / 1 000 000 = 0,00025 $. Total 0,00325 $ par document, ou 3,25 $ pour 1 000 documents. Le côté entrée représente 92 % de la facture.

Génération. Un prompt de 500 tokens produit 3 000 tokens d'histoire. Entrée : 0,000075 $. Sortie : 0,0015 $. Total 0,001575 $, soit 1,575 $ pour 1 000 générations. Ici, la sortie représente 95 % de la facture.

Un fournisseur avec une entrée bon marché et une sortie chère gagne la première charge de travail et perd la seconde. Comparez selon votre ratio, pas sur un chiffre phare. Pour un mois mixte de 10M de tokens d'entrée et 2M de tokens de sortie, la facture ici est de 1,50 $ + 1,00 $ = 2,50 $.

Erreurs, réessais et ce que vous payez réellement

Le fournisseur le moins cher sur le papier devient cher si une part de vos appels échoue et que vous les payez. Demandez si les requêtes échouées ou refusées sont facturées. Ici, elles ne le sont pas. Demandez comment se comporte la limite de débit : une clé complète permet 8 requêtes simultanées et 300 requêtes par minute, une clé d'essai 2 et 60. Au-delà d'une limite, l'API renvoie HTTP 429 avec le code rate_limited ou concurrency, et en cas de surcharge temporaire aussi 429 avec Retry-After: 5.

Gérez cela poliment et le coût des tentatives est nul, car la requête rejetée n'a jamais été exécutée. Voici un adaptateur minimal :

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.cheapaiapis.com/v1", api_key="YOUR_KEY")

def ask(prompt, retries=4):
    for i in range(retries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5)
    raise RuntimeError("rate limited after retries")

Les flux occupent leur slot de concurrence jusqu'à la fin, donc un lot de travail qui diffuse 20 réponses à la fois sera limité par le cap de 8 slots, pas par le chiffre par minute.

Fenêtre de contexte et coût caché du fractionnement

Une fenêtre de 100 000 tokens, partagée par le prompt et la complétion, vous permet d'envoyer un long document en une seule requête. Avec une petite fenêtre, vous le divisez, répétez les instructions dans chaque chunk et ajoutez un appel final pour fusionner les résultats. C'est plus de requêtes, plus de tokens d'entrée et plus de code à maintenir. Si votre charge de travail implique de longues entrées, vérifiez la fenêtre avant le prix.

Cela s'applique aussi aux applications de chat avec de longs historiques. Si l'historique tient, vous pouvez rester simple. Même ainsi, renvoyer l'historique coûte des tokens d'entrée à chaque tour, donc le trim reste utile. Une lecture connexe est mythes vs faits sur les API GPT bon marché, qui sépare les vraies économies du marketing.

Un mois d'utilisation réelle, tarifé

Assemblez les pièces avec un petit produit : un assistant d'écriture avec 300 utilisateurs actifs qui envoient chacun 40 requêtes par mois. Cela fait 12 000 requêtes. Chacun envoie environ 3 000 tokens d'entrée (instructions, histoire jusqu'ici) et retourne 700 tokens.

  • Entrée : 12 000 x 3 000 = 36M tokens, ce qui coûte 36 x $0,15 = $5,40.
  • Sortie : 12 000 x 700 = 8,4M tokens, ce qui coûte 8,4 x $0,50 = $4,20.
  • Total : $9,60 par mois, ou $0,032 par utilisateur.

Voyez maintenant ce que font de petits changements. Réduire l'historique pour que l'entrée passe à 2 000 tokens par requête économise 12M de tokens d'entrée, soit $1,80. Limiter la sortie à 500 tokens économise 2,4M de tokens, soit $1,20. Un fournisseur qui facture les appels échoués, avec un taux d'échec de 5 %, ajoute 5 % à l'ensemble de la facture. Ces effets sont aussi importants qu'une différence de prix entre deux fournisseurs bon marché, c'est pourquoi la liste de contrôle est importante.

Le modèle est l'autre moitié de la comparaison. Un prix plus bas pour un modèle qui nécessite trois essais pour suivre votre format n'est pas plus bas. Avant de décider, lancez 20 de vos vrais prompts et comptez combien donnent une réponse utilisable dès la première fois.

Crédit prépayé, expiration et règles de rechargement

Recherchez deux politiques : si le crédit expire, et quel est le paiement minimum. Ici, le crédit n'expire jamais, il n'y a pas d'abonnement, et les recharges sont un montant entier quelconque de $20 à $500. Le bonus est de +5 % à partir de $50, +10 % à partir de $100 et +15 % à partir de $200, donc un rechargement de $100 devient $110 de crédit. Vous pouvez payer avec de la crypto uniquement (USDT sur TRC20, USDC sur Base). La page de tarification a le tableau.

Un rechargement de 20 $ à la charge de travail de génération ci-dessus (0,001575 $ par histoire) achète environ 12 698 histoires. À la charge de travail de résumé (0,00325 $ par document), il achète environ 6 153 documents. Ce sont les chiffres à comparer avec l'équivalent de tout autre fournisseur.

Testez-le avant de vous engager

Le meilleur test est le vôtre. Inscrivez-vous avec Google, ou avec e-mail et mot de passe, et réclamez le crédit d'essai gratuit de 0,50 $ sur la page clé API. Cela prend un clic, ne nécessite pas de carte, dure 7 jours et est limité à une personne. Comme l'API est compatible OpenAI, le test consiste à changer l'URL de base.

curl https://api.cheapaiapis.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Summarize: retries need backoff."}]}'

Chaque réponse inclut X-Balance-USD, afin que vous puissiez suivre le coût réel de votre test. Soyez clair sur ce qui est proposé : un seul modèle à poids ouverts, exécuté par un fournisseur indépendant et optimisé pour répondre sans refus de contenu pour une utilisation adulte légale. Ce n'est l'API officielle d'aucun fournisseur de modèle, et il s'agit uniquement de texte, sans images, ni vecteurs d'embedding, ni fine-tuning. Les prompts ne sont pas utilisés pour l'entraînement. Les détails sont dans la documentation.

Questions et réponses

Lire la documentation
Le prix le plus bas par million de tokens est-il toujours le moins cher ?

Non. La tarification de la sortie, les échecs facturés, les petites fenêtres de contexte et le crédit qui expire peuvent augmenter la facture réelle. Comparez sur votre propre ratio d'entrée et de sortie.

Les requêtes échouées sont-elles facturées ici ?

Non. Les requêtes échouées ou refusées ne sont pas facturées et le crédit n'expire jamais.

Comment tester un fournisseur à moindre coût ?

Utilisez le crédit d'essai ou un petit rechargement et exécutez vos vrais prompts. Ici, un essai de $0,50 ne nécessite pas de carte et dure 7 jours.

S'agit-il de l'API officielle d'un grand fournisseur de modèles ?

Non. Il s'agit d'un modèle à poids ouverts exécuté par un fournisseur indépendant, et non de l'API officielle d'un fournisseur ni d'un routeur.

Votre clé n'est qu'à un formulaire d'ici

Créez un compte, copiez la clé, modifiez l'URL de base. C'est toute la configuration.

Obtenir une clé API

https://api.cheapaiapis.com/v1