FR ▾
Obtenir une clé API

LLM Inference APIGuide

API d’inférence LLM la moins chère : Comment évaluer le coût réel

Le prix par token n’est qu’une partie de l’histoire. Voici comment comparer les API d’inférence sur les chiffres qui déterminent votre facture, avec nos tarifs en exemple.

Mis à jour :

Une balance pesant des cubes de tokens contre des pièces pour comparer le coût de l’API
Illustration isométrique de paquets de données circulant d'un terminal vers une passerelle cloud, représentant un appel d'API d'inférence

Points clés

  1. Pointez n’importe quel SDK OpenAI vers https://api.llminferenceapi.com/v1, utilisez l’ID de modèle uncensored et envoyez votre clé en tant que jeton Bearer.
  2. Deux endpoints sont disponibles : POST /v1/chat/completions et GET /v1/models.
  3. Le streaming, l’appel de fonctions et le mode JSON fonctionnent via les champs de requête standard.
  4. Une clé complète permet 8 requêtes simultanées et 300 par minute ; une réponse 429 indique quelle limite vous avez atteinte.

Le prix par million de tokens n’est que le début

L’API d’inférence LLM la moins chère est celle qui présente le coût le plus bas pour votre charge de travail, ce qui n’est pas toujours le chiffre le plus bas sur une page de tarification. Deux fournisseurs peuvent afficher le même prix de tête et générer des factures très différentes une fois que vous comptez les tokens de sortie, les longs prompts, les appels échoués et les recharges minimums.

Utilisez une vérification en quatre points avant de choisir : le prix d’entrée, le prix de sortie, la façon dont le modèle gère les contextes longs, et ce que vous payez d’avance. Cet article détaille chaque point, présente nos tarifs comme exemple concret, et vous laisse comparer les chiffres des autres fournisseurs. Consultez leurs tarifs actuels et appliquez les mêmes formules.

Tokens d’entrée vs tokens de sortie

Presque toutes les APIs LLM facturent l’entrée et la sortie séparément, et la sortie coûte généralement plus cher. Nos tarifs sont de $0,15 par 1M de tokens d’entrée et de $0,50 par 1M de tokens de sortie. Cela rend la sortie un peu plus de trois fois plus chère que l’entrée, donc la répartition de votre trafic modifie le résultat.

Voici comment le prix mixte évolue avec le ratio de tokens d’entrée par rapport aux tokens de sortie :

Ratio entrée : sortieCoût pour 1M de tokens au totalMoyenne par 1M
1 : 10,5M x 0,15 $ + 0,5M x 0,50 $ = 0,325 $$0.325
3 : 10,75M x $0,15 + 0,25M x $0,50 = $0,2375$0.2375
10 : 1environ 0,909M x $0,15 + 0,091M x $0,50 = $0,1818environ $0,18
1 : 30,25M x $0,15 + 0,75M x $0,50 = $0,4125$0,4125

Un modèle de résumé lit beaucoup et produit peu, il se situe donc près de la ligne 10 : 1. Un générateur d’histoires produit beaucoup à partir d’un prompt court et se situe près de la ligne 1 : 3. Lorsque vous comparez deux fournisseurs, calculez les deux lignes pour votre propre ratio. Un fournisseur moins cher à l’entrée peut être plus cher sur une charge de travail axée sur la génération.

La longueur du contexte modifie la facture

Les applications de chat renvoient toute la conversation à chaque tour. Si un chat atteint 20 tours, le tour 20 contient les 19 échanges précédents en entrée. Le coût d’une conversation augmente donc plus vite que sa longueur.

Exemple concret. Chaque tour ajoute 300 tokens de texte utilisateur et 300 tokens de réponse, et le prompt système fait 500 tokens. L’entrée au tour n est 500 + (n - 1) x 600 + 300 tokens. Sur 20 tours, cela fait 20 x 800 + 600 x 190 = 130 000 tokens d’entrée, plus 20 x 300 = 6 000 tokens de sortie. L’entrée coûte 130 000 x 0,15 $ / 1M = 0,0195 $ et la sortie coûte 6 000 x 0,50 $ / 1M = 0,003 $, donc toute la conversation de 20 tours coûte 0,0225 $.

Le chiffre exact importe moins que la forme : l’entrée domine dans les longs chats. Un fournisseur avec un prix d’entrée bon marché vous aide davantage ici qu’un fournisseur avec un prix de sortie bon marché. Supprimer les anciens tours ou les résumer réduit le coût principal. Notre fenêtre de contexte est de 100 000 tokens, prompt plus complétion, donc les documents très longs tiennent, mais ils coûtent des tokens d’entrée chaque fois que vous les envoyez.

Coûts cachés à vérifier

  • Montant minimum de rechargement. Le nôtre est de $20, avec n’importe quel montant entier jusqu’à $500. Un fournisseur avec un prix par token bas mais un minimum élevé peut coûter plus cher pour un petit projet.
  • Expiration. Un crédit qui expire est un crédit que vous pouvez gaspiller. Le nôtre n’expire jamais.
  • Abonnements. Des frais mensuels transforment un service par token en un coût fixe. Le nôtre est un paiement à l’usage.
  • Frais pour les échecs. Les requêtes échouées ou refusées ne sont pas facturées ici. Vérifiez cela chez tout fournisseur que vous comparez.
  • Limites de débit. Un prix bas avec un plafond de requêtes bas vous oblige à acheter un deuxième compte ou à ralentir votre pipeline. Une clé complète ici permet 8 requêtes simultanées et 300 par minute.
  • Frais et bonus de paiement. Nous ajoutons +5 % de crédit à partir de $50, +10 % à partir de $100 et +15 % à partir de $200, donc une recharge de $200 donne $230.

Nos tarifs avec des exemples chiffrés

Tous les chiffres ci-dessous utilisent $0,15 par 1M de tokens de prompt et $0,50 par 1M de tokens de completion.

Charge de travailTokensCoût
Un tour de chat : 2 000 tokens de prompt, 500 tokens de completion2 500$0,0003 + $0,00025 = $0,00055
1 000 tours de ce type2,5M$0,55
Résumer 10 000 articles : 3 000 tokens de prompt, 200 tokens de completion chacun32M$4,50 + $1,00 = $5,50
Générer 5 000 histoires : 300 tokens de prompt, 1 500 tokens de completion chacune9M$0,225 + $3,75 = $3,975

Vérifiez la ligne du modèle de résumé : 10 000 x 3 000 = 30M tokens d’entrée, et 30 x $0,15 = $4,50. 10 000 x 200 = 2M tokens de sortie, et 2 x $0,50 = $1,00. Le total est $5,50. Pour la ligne des histoires : 5 000 x 300 = 1,5M tokens d’entrée, soit $0,225, et 5 000 x 1 500 = 7,5M tokens de sortie, soit $3,75. Le total est $3,975.

La page de tarification liste les tarifs et les bonus, et vous pouvez payer par crypto (USDT sur TRC20, USDC sur Base).

Mesurez votre coût réel avec un script

Ne vous fiez pas aux estimations trop longtemps. Exécutez 50 prompts représentatifs et laissez l’API rapporter les tokens. Le code ci-dessous affiche une estimation du coût à partir du champ usage.

from openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")
IN, OUT = 0.15, 0.50   # dollars per 1M tokens

def cost(u):
    return (u.prompt_tokens * IN + u.completion_tokens * OUT) / 1_000_000

total = 0.0
for p in open("prompts.txt"):
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p.strip()}],
    )
    total += cost(r.usage)
print("average per request: $%.5f" % (total / 50))

Multipliez la moyenne par vos requêtes mensuelles prévues. Faites de même avec chaque fournisseur que vous envisagez, et gardez la qualité en boucle en lisant un échantillon de réponses. Un modèle moins cher qui nécessite deux tentatives par tâche n’est pas moins cher.

Une comparaison en cinq étapes réalisable en une heure

  1. Notez vos tokens d’entrée et de sortie attendus par requête, à partir d’un échantillon de vrais prompts.
  2. Multipliez par le prix d’entrée et de sortie de chaque fournisseur, par requête et par mois.
  3. Ajoutez les coûts fixes : recharge minimum, abonnement, et tout crédit qui expire avant que vous ne l’utilisiez.
  4. Exécutez les mêmes 20 prompts sur chaque modèle et évaluez les réponses, afin de comparer le coût par bonne réponse, et non le coût par token.
  5. Vérifiez les limites par rapport à votre pic de trafic. Si vous avez besoin de plus de 8 requêtes simultanées, demandez si vous pouvez utiliser une file d'attente à la place.

Le résultat est un tableau avec une ligne par fournisseur et un montant mensuel pour votre charge de travail. Ce tableau est la véritable réponse à la question du titre, et il reste valable jusqu'à ce qu'un fournisseur modifie ses tarifs, donc revérifiez-le tous les quelques mois. La comparaison des frameworks aide si vous exécutez également des modèles sur votre propre matériel, et la page des erreurs courantes de l'API de chat liste les erreurs qui augmentent discrètement les factures, comme le renvoi du même historique deux fois.

Ce que l'option bon marché ne peut pas faire

Quel que soit le fournisseur que vous choisissez, vous pouvez réduire les coûts de quatre façons. Limitez max_tokens là où une réponse courte suffit, car la sortie est le côté le plus cher. Réduisez le prompt système et supprimez les tours que le modèle n’a plus besoin de traiter. Acheminez les tâches simples, comme la classification, vers des prompts courts avec des formats de sortie stricts. Et enregistrez les tokens par fonctionnalité, afin de remarquer quand un gabarit de prompt double silencieusement de taille après une modification. Ces habitudes font économiser plus que de changer de fournisseur pour quelques centimes.

Ce service est uniquement textuel. Il ne propose ni embeddings, ni génération d'images ou audio, ni fine-tuning, donc si vous en avez besoin, vous devrez payer un autre fournisseur pour cela. Il fait tourner un modèle à poids ouverts d'un fournisseur indépendant, ajusté pour répondre sans refus de contenu pour une utilisation adulte légale, et ce n'est l'API officielle d'aucun fournisseur de modèle. Le contenu sexuel impliquant des mineurs est toujours interdit.

Savoir si c’est le moins cher pour vous dépend d’une seule question : ce modèle unique est-il suffisamment bon pour votre tâche ? Testez-le gratuitement : les nouveaux utilisateurs peuvent obtenir 0,50 $ de crédit d’essai gratuit en un clic sur la page Clé API, sans carte bancaire. Ensuite, lisez la documentation. Si vous débutez, ce qu’est l’inférence LLM couvre les termes utilisés ci-dessus.

Questions et réponses

Combien coûte un message de chat ?

Un tour avec 2 000 tokens d'entrée et 500 tokens de sortie coûte 0,00055 $, donc 1 000 tours coûtent 0,55 $.

Y a-t-il des frais mensuels ?

Non. C'est un paiement à l'usage à partir de crédit prépayé, et le crédit n'expire jamais.

Les requêtes échouées sont-elles facturées ?

Non. Les requêtes échouées ou refusées ne sont pas facturées.

Le prix le plus bas est-il toujours la meilleure affaire ?

Non. La part de coût de completion, la longueur du contexte, le montant minimum de rechargement et la qualité de la réponse modifient tous le coût réel.

Votre clé est à une étape de formulaire

Créez un compte, copiez la clé, modifiez l'URL de base. C'est toute la configuration.

Obtenir une clé API