Inference-API: Schnellstartanleitung

Basis-URL und Authentifizierung

Unsere API ist vollständig OpenAI-kompatibel. Zum Wechseln aktualisierst du die Client-Konfiguration, sodass sie auf unsere Basis-URL zeigt, und gibst deinen API-Schlüssel an. Die Basis-URL ist https://api.llminferenceapi.com/v1. Die Authentifizierung erfolgt über den Standard-Authorization: Bearer-Header. Du erhältst deinen Schlüssel sofort nach der Anmeldung mit E-Mail und Passwort – für die Testversion werden keine Telefonnummer oder Kreditkarte benötigt.

• Basis-URL: https://api.llminferenceapi.com/v1
• Header: Authorization: Bearer YOUR_API_KEY
• Modell-ID: uncensored

Dieses Setup funktioniert mit jedem offiziellen OpenAI-SDK oder kompatiblen Client-Bibliothek. Du behältst deine bestehende Code-Struktur bei; nur der Endpunkt und der Schlüssel ändern sich.

Erste Anfrage

Mache deinen ersten Aufruf am Chat-Completion-Endpunkt. Die Modell-ID ist uncensored. Dieses Modell ist ein Open-Weight-Modell, das darauf abgestimmt ist, ohne Inhaltsablehnungen für die legale Nutzung durch Erwachsene zu antworten, und kein GPT oder Claude.

Copycurl https://api.llminferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Der Anforderungstext enthält das Standard-messages-Array. Du kannst Temperatur, maximale Token und andere Standardparameter angeben. Die API gibt eine Standard-Chat-Antwort mit Token-Nutzungsstatistiken zurück. Wenn du einen 401-Fehler erhältst, ist dein Schlüssel ungültig. Ein 402-Fehler bedeutet, dass dein Prepaid-Guthaben aufgebraucht ist.

Python SDK-Integration

Die Verwendung des Python SDK ist unkompliziert. Initialisiere den Client mit unserer Basis-URL und deinem API-Schlüssel. Die Code-Struktur spiegelt das Standard-OpenAI-Muster wider. Dies ermöglicht es dir, unseren LLM-Proxy-Dienst einzusetzen, ohne die Anwendungslogik neu zu schreiben.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Stelle sicher, dass du das Argument model='uncensored' übergibst. Das Antwortobjekt enthält den generierten Text und die Nutzungsmetriken. Dieser Ansatz ist ideal für Entwickler, die eine sofort einsetzbare OpenAI-kompatible API-Lösung wünschen. Es sind keine zusätzlichen Abhängigkeiten neben dem Standard-SDK erforderlich.

Node.js SDK-Nutzung

Für Node.js-Entwickler ist die Integration ebenso einfach. Lege die baseURL und apiKey in deiner Client-Konfiguration fest. Das SDK verarbeitet die HTTP-Anfragen an unsere AI-Chat-API-Endpunkte automatisch.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llminferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Rufe chat.completions.create() mit der Modell-ID uncensored auf. Du kannst Antworten streamen oder sie als vollständige Objekte verarbeiten. Diese Flexibilität unterstützt sowohl Batch-Verarbeitung als auch Echtzeit-Benutzerinteraktionen. Die API unterstützt Function Calling, sodass du Funktionen definieren kannst, die das Modell aufrufen kann.

Streaming-Antworten

Für Echtzeit-Benutzererfahrungen aktivieren Sie das Streaming. Legen Sie den Parameter stream in Ihrer Anfrage auf true fest. Die API gibt einen Server-Sent Events (SSE)-Stream von Teilantworten zurück.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Jeder Chunk enthält eine partielle Delta der Antwort. Sie können diese Token an den Benutzer rendern, während sie eintreffen, was die wahrgenommene Latenz reduziert. Dies ist kritisch für Chat-Schnittstellen, bei denen sofortiges Feedback erwartet wird. Die Streaming-Antwort enthält dieselben Token-Nutzungsinformationen wie Nicht-Streaming-Anfragen.

Grenzen, Fehler und Kontext

Unsere API erzwingt ein Kontextfenster von 100.000 Token für Eingabe und Ausgabe zusammen. Dies unterstützt lange Dokumente und komplexe Gespräche. Das Ratenlimit ist auf 300 Anfragen pro Minute pro Schlüssel festgelegt. Wenn du dieses überschreitest, erhältst du einen 429-Fehler. Anforderungstexte sind auf 8 MB begrenzt.

Häufige Fehler sind 401 (ungültiger Schlüssel), 402 (unzureichendes Guthaben) und 429 (Ratenlimit). Guthaben verfällt nie, sodass du jederzeit nachladen kannst. Prepaid-Guthaben beginnen bei $10, mit Boni für größere Einzahlungen. Dieses Pay as you go-Modell stellt sicher, dass du nur für das zahlst, was du nutzt.