API Inferensi: Panduan Cepat

URL Dasar dan Autentikasi

API kami sepenuhnya kompatibel dengan OpenAI. Untuk beralih, perbarui konfigurasi klien Anda agar mengarah ke URL dasar kami dan berikan kunci API Anda. URL dasar adalah https://api.llminferenceapi.com/v1. Autentikasi ditangani melalui header Authorization: Bearer standar. Anda menerima kunci Anda segera setelah mendaftar hanya dengan email dan kata sandi—tidak diperlukan nomor telepon atau kartu kredit untuk uji coba.

• URL Dasar: https://api.llminferenceapi.com/v1
• Header: Authorization: Bearer YOUR_API_KEY
• ID Model: uncensored

Konfigurasi ini berfungsi dengan SDK OpenAI resmi atau pustaka klien kompatibel lainnya. Anda mempertahankan struktur kode yang ada; hanya endpoint dan kunci yang berubah.

Permintaan Pertama

Lakukan panggilan pertama ke endpoint penyelesaian obrolan. ID model adalah uncensored. Model ini adalah model bahasa besar bobot terbuka yang disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah, bukan GPT atau Claude.

Copycurl https://api.llminferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Body permintaan mencakup array messages standar. Anda dapat menentukan suhu, jumlah token maksimum, dan parameter standar lainnya. API mengembalikan respons penyelesaian obrolan standar dengan statistik penggunaan token. Jika Anda mengalami kesalahan 401, kunci Anda tidak valid. Kesalahan 402 berarti saldo prabayar Anda telah habis.

Integrasi SDK Python

Menggunakan SDK Python sangat mudah. Inisialisasi klien dengan URL dasar kami dan kunci API Anda. Struktur kode mengikuti pola standar OpenAI. Ini memungkinkan Anda mengganti layanan proxy LLM kami tanpa menulis ulang logika aplikasi Anda.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Pastikan Anda meneruskan argumen model='uncensored'. Objek respons berisi teks yang dihasilkan dan metrik penggunaan. Pendekatan ini sangat ideal untuk pengembang yang menginginkan solusi API kompatibel OpenAI yang siap pakai. Tidak ada dependensi tambahan yang diperlukan selain SDK standar.

Penggunaan SDK Node.js

Untuk pengembang Node.js, integrasinya sama mudahnya. Atur baseURL dan apiKey dalam konfigurasi klien Anda. SDK menangani permintaan HTTP ke endpoint API obrolan AI kami secara otomatis.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llminferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Panggil chat.completions.create() dengan ID model uncensored. Anda dapat melakukan streaming respons atau menanganinya sebagai objek lengkap. Fleksibilitas ini mendukung pemrosesan batch dan interaksi pengguna waktu nyata. API mendukung pemanggilan fungsi, memungkinkan Anda mendefinisikan fungsi yang dapat dipanggil oleh model.

Respons Streaming

Untuk pengalaman pengguna secara langsung, aktifkan streaming. Atur parameter stream menjadi true dalam permintaan Anda. API mengembalikan aliran Event yang Dikirim Server (SSE) dari respons parsial.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Setiap bagian berisi delta parsial dari respons. Anda dapat menampilkan token ini kepada pengguna saat tiba, mengurangi latensi yang dirasakan. Ini sangat penting untuk antarmuka obrolan di mana umpan balik segera diharapkan. Respons streaming mencakup informasi penggunaan token yang sama dengan permintaan non-streaming.

Batas, Kesalahan, dan Konteks

API kami menerapkan jendela konteks 100.000 token untuk input dan output secara gabungan. Ini mendukung dokumen panjang dan percakapan kompleks. Batas laju ditetapkan pada 300 permintaan per menit per kunci. Jika Anda melebihi batas ini, Anda akan menerima kesalahan 429. Body permintaan dibatasi hingga 8 MB.

Kesalahan umum termasuk 401 (kunci tidak valid), 402 (kredit tidak mencukupi), dan 429 (batas laju). Kredit tidak pernah kedaluwarsa, sehingga Anda dapat mengisi saldo sesuai kenyamanan Anda. Kredit prabayar dimulai dari $10, dengan bonus untuk deposit yang lebih besar. Model API AI bayar sesuai penggunaan ini memastikan Anda hanya membayar apa yang Anda gunakan.