Çıkarım API'si: Hızlı Başlangıç Kılavuzu

Temel URL ve Kimlik Doğrulama

API'miz tamamen OpenAI uyumludur. Geçiş yapmak için istemci yapılandırmanızı temel URL'mize işaret edecek şekilde güncelleyin ve API anahtarınızı sağlayın. Temel URL https://api.llminferenceapi.com/v1 şeklindedir. Kimlik doğrulama standart Authorization: Bearer başlığı aracılığıyla yapılır. Anahtarınızı, sadece e-posta ve şifre ile kayıt olduktan hemen sonra alırsınız—deneme için telefon numarası veya kredi kartı gerekmez.

• Temel URL: https://api.llminferenceapi.com/v1
• Başlık: Authorization: Bearer YOUR_API_KEY
• Model Kimliği: uncensored

Bu kurulum resmi herhangi bir OpenAI SDK'sı veya uyumlu istemci kitaplığı ile çalışır. Mevcut kod yapınızı korursunuz; yalnızca uç nokta ve anahtar değişir.

İlk İstek

Chat completions uç noktasına ilk isteğinizi gönderin. Model kimliği uncensored'dir. Bu model, GPT veya Claude değildir; yasal yetişkin kullanımında içerik reddi olmadan yanıt vermeye ayarlanmış açık ağırlıklı büyük dil modelidir.

Copycurl https://api.llminferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

İstek gövdesi standart messages dizisini içerir. Sıcaklık, maksimum token ve diğer standart parametreleri belirtebilirsiniz. API, token kullanım istatistikleriyle standart bir sohbet tamamlama yanıtı döndürür. 401 hatası alırsanız anahtarınız geçersizdir. 402 hatası, ön ödemeli kredilerinizin tükendiği anlamına gelir.

Python SDK Entegrasyonu

Python SDK kullanımı oldukça basittir. İstemciyi temel URL'niz ve API anahtarınızla başlatın. Kod yapısı standart OpenAI desenini yansıtır. Bu, uygulama mantığınızı yeniden yazmadan llm proxy hizmetimizi yerleştirmenizi sağlar.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

model='uncensored' bağımsız değişkenini geçirdiğinizden emin olun. Yanıt nesnesi oluşturulan metni ve kullanım metriklerini içerir. Bu yaklaşım, drop-in bir openai uyumlu api çözümü arayan geliştiriciler için idealdir. Standart SDK'ya ek bağımlılık gerekmez.

Node.js SDK Kullanımı

Node.js geliştiricileri için entegrasyon da aynı kadar basittir. İstemci yapılandırmanızda baseURL ve apiKey değerlerini ayarlayın. SDK, HTTP isteklerini ai chat api uç noktalarımıza otomatik olarak yönetir.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llminferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Model kimliği uncensored ile chat.completions.create() çağrısı yapın. Yanıtları akış olarak alabilir veya tam nesneler olarak işleyebilirsiniz. Bu esneklik hem toplu işleme hem de gerçek zamanlı kullanıcı etkileşimlerini destekler. API, modelin çağırabileceği fonksiyonları tanımlamanıza olanak tanıyan fonksiyon çağırma'yı destekler.

Akış Yanıtları

Gerçek zamanlı kullanıcı deneyimleri için akışı etkinleştirin. İsteğinizde stream parametresini true olarak ayarlayın. API, kısmi yanıtların Sunucu Tarafı Olayları (SSE) akışını döndürür.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Her parça, yanıtın kısmi bir deltasını içerir. Bu tokenları kullanıcıya geldikçe işleyerek algılanan gecikmeyi azaltabilirsiniz. Bu, anında geri bildirim beklenen sohbet arayüzleri için kritiktir. Akış yanıtı, akış olmayan isteklerle aynı token kullanım bilgilerini içerir.

Limitler, Hatalar ve Bağlam

API'miz, hem giriş hem de çıktı için toplam 100.000 token bağlam penceresi uygular. Bu, uzun belgeleri ve karmaşık konuşmaları destekler. Hız limiti anahtar başına dakikada 300 istek olarak ayarlanmıştır. Bu değeri aşarsanız 429 hatası alırsınız. İstek gövdeleri 8 MB ile sınırlıdır.

Yaygın hatalar arasında 401 (geçersiz anahtar), 402 (yetersiz kredi) ve 429 (hız limiti) yer alır. Krediler süresi dolmaz, bu nedenle istediğiniz zaman bakiye yükleyebilirsiniz. Ön ödemeli krediler 10 $'dan başlar ve daha büyük yatırımlar için bonuslar sunulur. Bu kullandıkça öde AI API modeli sayesinde yalnızca kullandığınız kadar ödeme yaparsınız.