Inference API: Snelstartgids

Base URL en Authenticatie

Onze API is volledig OpenAI compatible. Om over te schakelen, pas je je clientconfiguratie aan om te verwijzen naar onze base URL en geef je je API-sleutel op. De base URL is https://api.llminferenceapi.com/v1. Authenticatie wordt afgehandeld via de standaard Authorization: Bearer header. Je ontvangt je sleutel direct na het aanmelden met alleen een e-mailadres en wachtwoord—geen telefoonnummer of creditcard nodig voor de proefversie.

• Basis-URL: https://api.llminferenceapi.com/v1
• Koptekst: Authorization: Bearer YOUR_API_KEY
• Model-ID: uncensored

Deze setup werkt met elke officiële OpenAI SDK of compatibele clientbibliotheek. Je behoudt je bestaande codestructuur; alleen het endpoint en de sleutel veranderen.

Eerste Verzoek

Maak je eerste aanroep naar de chat-completies endpoint. De model-ID is uncensored. Dit model is een open-weight large language model dat is afgestemd op het geven van antwoorden zonder inhoudsrefusies voor wettelijk volwassen gebruik, geen GPT of Claude.

Copycurl https://api.llminferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

De request body bevat de standaard messages array. Je kunt temperature, max tokens en andere standaard parameters specificeren. De API retourneert een standaard chat completion response met token usage statistics. Als je een 401 fout tegenkomt, is je sleutel ongeldig. Een 402 fout betekent dat je prepaid credits op zijn.

Python SDK Integratie

Het gebruik van de Python SDK is eenvoudig. Initialiseer de client met onze basis-URL en je API-sleutel. De code-structuur lijkt op het standaard OpenAI-patroon. Hiermee kun je onze llm proxy dienst inwisselen zonder de logica van je applicatie te herschrijven.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Zorg dat je de model='uncensored' parameter doorgeeft. Het response-object bevat de gegenereerde tekst en gebruiksmetrieken. Deze aanpak is ideaal voor ontwikkelaars die een drop-in openai compatible api oplossing willen. Er zijn geen extra afhankelijkheden nodig naast de standaard SDK.

Gebruik van de Node.js SDK

Voor Node.js ontwikkelaars is de integratie net zo eenvoudig. Stel de baseURL en apiKey in je clientconfiguratie in. De SDK verwerkt de HTTP-verzoeken naar onze ai chat api endpoints automatisch.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llminferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Roep chat.completions.create() aan met de model-ID uncensored. Je kunt antwoorden streamen of ze als volledige objecten verwerken. Deze flexibiliteit ondersteunt zowel batchverwerking als real-time gebruikersinteracties. De API ondersteunt function calling, zodat je functies kunt definiëren die het model kan aanroepen.

Streaming antwoorden

Schakel streaming in voor realtime gebruikerservaringen. Stel de stream parameter in op true in je verzoek. De API retourneert een Server-Sent Events (SSE)-stream van gedeeltelijke responsen.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Elk chunk bevat een gedeeltelijke delta van de respons. Je kunt deze tokens aan de gebruiker tonen zodra ze aankomen, wat de waargenomen latentie vermindert. Dit is cruciaal voor chatinterfaces waarbij directe feedback wordt verwacht. De streaming-response bevat dezelfde token-gebruiksgegevens als niet-streaming-verzoeken.

Limieten, Fouten en Context

Onze API hanteert een contextvenster van 100.000 tokens voor zowel input als output samen. Dit ondersteunt lange documenten en complexe gesprekken. Rate limiting is ingesteld op 300 verzoeken per minuut per sleutel. Als je dit overschrijdt, ontvang je een 429-fout. Request bodies zijn beperkt tot 8 MB.

Veelvoorkomende fouten zijn 401 (ongeldige sleutel), 402 (onvoldoende credits) en 429 (rate limit). Credits vervallen nooit, dus je kunt opwaarderen wanneer het jou schikt. Prepaid credits beginnen bij $10, met bonussen voor grotere stortingen. Dit pay as you go ai api model zorgt ervoor dat je alleen betaalt voor wat je gebruikt.