DE ▾
API-Schlüssel erhalten

LLM Inference APIAnleitung

Günstigstes LLM Inference API: So bewertest du die echten Kosten

Der Preis pro Token ist nur ein Teil der Geschichte. Hier siehst du, wie du Inferenz-APIs an den Zahlen vergleichst, die deine Rechnung bestimmen, mit unseren Raten als durchgerechnetes Beispiel.

Aktualisiert:

Eine Waage, die Tokenwürfel gegen Münzen wiegt, um die API-Kosten zu vergleichen
Isometrische Illustration von Datenpaketen, die von einem Terminal in ein Cloud-Gateway fließen, repräsentiert einen Inferenz-API-Aufruf

Wichtige Punkte

  1. Richte jedes OpenAI SDK auf https://api.llminferenceapi.com/v1 ein, verwende die Modell-ID uncensored und sende deinen Schlüssel als Bearer-Token.
  2. Zwei Endpunkte sind verfügbar: POST /v1/chat/completions und GET /v1/models.
  3. Streaming, Function Calling und JSON-Modus funktionieren über die Standard-Anfragefelder.
  4. Ein voller Schlüssel erlaubt 8 parallele Anfragen und 300 pro Minute; eine 429-Antwort sagt dir, welches Limit du erreicht hast.

Der Preis pro Million Token ist nur der Anfang

Die günstigste LLM-Inferenz-API ist die mit den niedrigsten Kosten für deine Workload, was nicht immer die niedrigste Zahl auf der Preisseite ist. Zwei Anbieter können den gleichen Grundpreis ausweisen und sehr unterschiedliche Rechnungen produzieren, sobald du Output-Token, lange Prompts, fehlgeschlagene Aufrufe und Mindestaufladebeträge einrechnest.

Führe vor der Auswahl eine Vier-Punkte-Prüfung durch: den Input-Preis, den Output-Preis, wie das Modell mit langem Kontext umgeht und was du im Voraus zahlst. Dieser Artikel geht jeden Punkt durch, zeigt unsere Preise als Rechenbeispiel und überlässt dir die Zahlen der anderen Anbieter. Prüfe deren aktuelle Preise und setze die Werte in dieselben Formeln ein.

Input- versus Output-Token

Fast jede LLM-API berechnet Input und Output separat, und Output kostet meist mehr. Unsere Raten sind $0,15 pro 1M Input-Token und $0,50 pro 1M Output-Token. Das macht Output etwas mehr als dreimal so teuer wie Input, also verändert die Mischung deines Traffics das Ergebnis.

So bewegt sich der gemischte Preis je nach Verhältnis von Input- zu Output-Token:

Input- : Output-VerhältnisKosten für 1M GesamttokensDurchschnitt pro 1M
1 : 10,5M x $0,15 + 0,5M x $0,50 = $0,325$0,325
3 : 10,75M x $0,15 + 0,25M x $0,50 = $0,2375$0,2375
10 : 1ca. 0,909M x $0,15 + 0,091M x $0,50 = $0,1818ca. $0,18
1 : 30,25M x $0,15 + 0,75M x $0,50 = $0,4125$0.4125

Ein Zusammenfasser liest viel und schreibt wenig, also liegt er nahe der 10 : 1-Reihe. Ein Geschichtengenerator schreibt viel aus einem kurzen Prompt und liegt nahe der 1 : 3-Reihe. Wenn du zwei Anbieter vergleichst, berechne beide Reihen für dein eigenes Verhältnis. Ein Anbieter, der beim Input günstiger ist, kann bei einer generationlastigen Workload verlieren.

Die Kontextlänge ändert die Rechnung

Chat-Apps senden bei jedem Turn die gesamte Konversation erneut. Wenn ein Chat auf 20 Turns wächst, trägt Turn 20 alle 19 vorherigen Austausche als Input. Die Kosten einer Konversation steigen daher schneller als ihre Länge.

Ein durchgerechnetes Beispiel. Jeder Turn fügt 300 Token an Nutzertext und 300 Token an Antwort hinzu, und der System-Prompt hat 500 Token. Der Input bei Turn n ist 500 + (n - 1) x 600 + 300 Token. Summiert über 20 Turns sind das 20 x 800 + 600 x 190 = 130.000 Input-Token, plus 20 x 300 = 6.000 Output-Token. Der Input kostet 130.000 x $0,15 / 1M = $0,0195 und der Output kostet 6.000 x $0,50 / 1M = $0,003, also kostet die gesamte 20-Turn-Konversation $0,0225.

Die genaue Zahl ist weniger wichtig als die Struktur: Input dominiert in langen Chats. Ein Anbieter mit einem günstigen Input-Preis hilft dir hier mehr als einer mit einem günstigen Output-Preis. Das Kürzen alter Turns oder das Zusammenfassen senkt die größten Kosten. Unser Kontextfenster hat 100.000 Token, Prompt plus Completion, also passen sehr lange Dokumente, kosten aber Input-Token, jedes Mal wenn du sie sendest.

Versteckte Kosten, die du prüfen solltest

  • Mindest-Aufladung. Unsere ist $20, mit jedem beliebigen ganzen Betrag bis zu $500. Ein Anbieter mit einem niedrigen Token-Preis, aber einem hohen Minimum, kann für ein kleines Projekt mehr kosten.
  • Verfall. Guthaben, das verfällt, ist Guthaben, das du vielleicht verschwendest. Unseres verfällt nie.
  • Abonnements. Eine monatliche Gebühr verwandelt einen Token-basierten Dienst in eine Fixkostenkomponente. Unseres ist Pay as you go.
  • Gebühren für Ausfälle. Fehlgeschlagene oder abgelehnte Anfragen werden hier nicht berechnet. Prüfe das bei jedem Anbieter, den du vergleichst.
  • Ratenlimits. Ein günstiger Preis mit einem niedrigen Anfrage-Limit zwingt dich, ein zweites Konto zu kaufen oder deine Pipeline zu verlangsamen. Ein voller Schlüssel erlaubt hier 8 parallele Anfragen und 300 pro Minute.
  • Zahlungsgebühren und Boni. Wir geben +5% Guthaben ab $50, +10% ab $100 und +15% ab $200, also gibt eine $200-Aufladung $230.

Unsere Raten mit Rechenbeispielen

Alle untenstehenden Zahlen verwenden $0,15 pro 1M Input und $0,50 pro 1M Output.

WorkloadTokenKosten
Ein Chat-Turn: 2.000 Input, 500 Output2.500$0.0003 + $0.00025 = $0.00055
1.000 solche Turns2,5M$0,55
10.000 Artikel zusammenfassen: 3.000 Input, 200 Output pro Artikel32M$4,50 + $1,00 = $5,50
5.000 Geschichten generieren: 300 Input, 1.500 Output pro Geschichte9M$0,225 + $3,75 = $3,975

Prüfe die Zeile des Zusammenfassers: 10.000 x 3.000 = 30M Input-Token, und 30 x $0,15 = $4,50. 10.000 x 200 = 2M Output-Token, und 2 x $0,50 = $1,00. Die Summe ist $5,50. Für die Story-Zeile: 5.000 x 300 = 1,5M Input, das sind $0,225, und 5.000 x 1.500 = 7,5M Output, das sind $3,75. Die Summe ist $3,975.

Die Preisseite listet die Raten und Boni auf, und du kannst mit Krypto (USDT auf TRC20, USDC auf Base) zahlen.

Miss deine echten Kosten mit einem Skript

Vertraue Schätzungen nicht zu lange. Führe 50 repräsentative Prompts aus und lass die API die Token melden. Der folgende Code gibt eine Kostenschätzung aus dem usage-Feld aus.

from openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")
IN, OUT = 0.15, 0.50   # dollars per 1M tokens

def cost(u):
    return (u.prompt_tokens * IN + u.completion_tokens * OUT) / 1_000_000

total = 0.0
for p in open("prompts.txt"):
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p.strip()}],
    )
    total += cost(r.usage)
print("average per request: $%.5f" % (total / 50))

Multipliziere den Durchschnitt mit deinen erwarteten monatlichen Anfragen. Mache dasselbe mit jedem Anbieter, den du in Betracht ziehst, und behalte die Qualität im Blick, indem du eine Stichprobe der Antworten liest. Ein günstigeres Modell, das zwei Versuche pro Aufgabe braucht, ist nicht günstiger.

Ein fünfschrittiger Vergleich, den du in einer Stunde abschließen kannst

  1. Schreibe deine erwarteten Input- und Output-Token pro Anfrage auf, basierend auf einer Stichprobe echter Prompts.
  2. Multipliziere mit dem Input- und Output-Preis jedes Anbieters, pro Anfrage und pro Monat.
  3. Addiere Fixkosten: Mindest-Aufladung, Abonnement und jedes Guthaben, das verfällt, bevor du es nutzt.
  4. Führe dieselben 20 Prompts auf jedem Modell aus und bewerte die Antworten, damit du Kosten pro guter Antwort vergleichst, nicht Kosten pro Token.
  5. Prüfe die Limits gegen deinen Spitzenverkehr. Wenn du mehr als 8 Anfragen gleichzeitig benötigst, frage nach, ob du stattdessen eine Warteschlange verwenden kannst.

Das Ergebnis ist eine Tabelle mit einer Zeile pro Anbieter und einem monatlichen Wert für deine Arbeitslast. Diese Tabelle ist die eigentliche Antwort auf die Frage im Titel und bleibt gültig, bis ein Anbieter seine Preise ändert, also überprüfe sie alle paar Monate erneut. Der Framework-Vergleich hilft, wenn du auch Modelle auf deiner eigenen Hardware ausführst, und die Seite zu häufigen Chat-API-Fehlern listet Fehler auf, die die Rechnungen unbemerkt erhöhen, wie das erneute Senden derselben Historie zweimal.

Was die günstige Option nicht kann

Egal welchen Anbieter du wählst, du kannst die Kosten auf vier Arten senken. Begrenze max_tokens, wo eine kurze Antwort ausreicht, da die Ausgabe die teurere Seite ist. Kürze den System-Prompt und entferne Gesprächszüge, die das Modell nicht mehr benötigt. Leite einfache Aufgaben wie Klassifizierung an kurze Prompts mit strikten Ausgabeformaten weiter. Und protokolliere Token pro Feature, damit du bemerkst, wenn eine Prompt-Vorlage nach einer Bearbeitung unbemerkt doppelt so groß wird. Diese Gewohnheiten sparen mehr als der Anbieterwechsel für ein paar Cent.

Dieser Dienst ist nur Text. Er hat keine Embeddings, Bild- oder Audio-Generierung und kein Fine-Tuning, also musst du für diese Funktionen einen anderen Anbieter bezahlen, wenn du sie benötigst. Er läuft mit einem Open-Weight-Modell eines unabhängigen Anbieters, das darauf abgestimmt ist, ohne Inhaltsablehnungen für die rechtmäßige Nutzung durch Erwachsene zu antworten, und es ist nicht die offizielle API eines Modell-Anbieters. Sexuelle Inhalte, an denen Minderjährige beteiligt sind, sind niemals erlaubt.

Ob es für dich die günstigste Option ist, hängt davon ab, ob dieses einzelne Modell für deine Aufgabe gut genug ist. Teste es kostenlos: Neue Nutzer können $0,50 kostenloses Testguthaben mit einem Klick auf der API-Schlüssel-Seite beanspruchen, keine Karte erforderlich. Lies dann die Dokumentation. Wenn du neu in den Grundlagen bist, behandelt was LLM-Inferenz ist die oben verwendeten Begriffe.

Fragen und Antworten

Was kostet eine Chat-Nachricht?

Ein Turn mit 2.000 Input- und 500 Output-Token kostet $0,00055, also kosten 1.000 Turns $0,55.

Gibt es eine monatliche Gebühr?

Nein. Es ist Pay as you go vom Prepaid-Guthaben, und Guthaben verfällt nie.

Werden fehlgeschlagene Anfragen berechnet?

Nein. Fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet.

Ist der niedrigste Preis immer das beste Angebot?

Nein. Output-Anteil, Kontextlänge, Minimum für Aufladungen und Antwortqualität beeinflussen alle die tatsächlichen Kosten.

Dein Schlüssel ist nur ein Formular entfernt

Erstelle ein Konto, kopiere den Schlüssel, ändere die Basis-URL. Das ist die gesamte Konfiguration.

API-Schlüssel erhalten