推理 API：快速入門指南

基礎 URL 與驗證

我們的 API 完全 OpenAI 相容。要進行切換，請更新你的用戶端設定以指向我們的基礎 URL，並提供你的 API 金鑰。基礎 URL 為 https://api.llminferenceapi.com/v1。驗證透過標準 Authorization: Bearer 標頭處理。僅使用電子郵件和密碼註冊後，你將立即獲得金鑰——試用期間無需電話號碼或信用卡。

• 基礎 URL：https://api.llminferenceapi.com/v1
• 標頭：Authorization: Bearer YOUR_API_KEY
• 模型 ID：uncensored

此設定適用於任何官方 OpenAI SDK 或相容的客戶端程式庫。你將保留現有的程式碼結構；僅需變更端點和金鑰。

首次請求

對聊天補全端點發出第一個請求。模型 ID 為 uncensored。該模型是一個開放權重大語言模型，經過微調以在法律允許的成人用途下無內容拒絕地回答，它並非 GPT 或 Claude。

Copycurl https://api.llminferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

請求主體包含標準的 messages 陣列。你可以指定 temperature、max_tokens 和其他標準參數。API 會回傳標準的聊天完成回應，並包含 token 使用統計數據。如果遇到 401 錯誤，表示你的金鑰無效。402 錯誤表示你的預付額度已耗盡。

Python SDK 整合

使用 Python SDK 非常簡單。使用我們的基礎 URL 和 API 金鑰初始化客戶端。程式碼結構與標準 OpenAI 模式相同。這允許你在不重寫應用程式邏輯的情況下，替換為我們的 llm 代理 服務。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

請確保傳遞 model='uncensored' 參數。回應物件包含生成的文字與使用指標。這種方法非常適合想要無縫接軌 與 openai 相容的 api 方案的開發者。除了標準 SDK 外，不需要其他相依套件。

Node.js SDK 用法

對於 Node.js 開發者來說，整合同樣簡單。在客戶端設定中設定 baseURL 和 apiKey。SDK 會自動處理對我們 ai 聊天 api 端點的 HTTP 請求。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llminferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

呼叫 chat.completions.create() 並指定模型 ID uncensored。你可以串流回應或將其作為完整物件處理。這種靈活性支援批次處理與即時使用者互動。API 支援函式呼叫，允許你定義模型可以呼叫的函式。

串流回應

為了提供即時的使用者體驗，請啟用串流。在請求中將 stream 參數設定為 true。API 會回傳伺服器發送事件 (SSE) 的串流，包含部分回應。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

每個區塊包含回應的部分增量。你可以將這些 token 即時呈現給使用者，以降低感知延遲。這對於需要即時回饋的聊天介面至關重要。串流回應包含與非串流請求相同的 token 使用資訊。

限制、錯誤與上下文

我們的 API 對輸入和輸出的總和實施 100,000 token 的上下文視窗限制。這支援長文件與複雜的對話。速率限制設為每支金鑰每分鐘 300 次請求。如果超過此限制，你會收到 429 錯誤。請求主體限制為 8 MB。

常見錯誤包括 401（金鑰無效）、402（額度不足）和 429（速率限制）。額度永不過期，因此您可以隨時儲值。預付額度最低 $10 起，儲值金額越高享有越多贈額。此 隨用隨付 ai api 模型確保您只需為實際使用的內容付費。