中文 ▾
获取 API 密钥

LLM Inference API文档

推理 API:快速入门指南

五分钟内即可开始使用我们的无审查推理 API。更改基础 URL 和 API 密钥,然后使用透明按 token 定价的开放权重模型运行现有的 LLM 代码。

基础 URL 和认证

我们的 API 完全 OpenAI 兼容。要切换,只需将客户端配置指向我们的基础 URL 并提供 API 密钥即可。基础 URL 为 https://api.llminferenceapi.com/v1。鉴权通过标准的 Authorization: Bearer 头处理。注册后(仅需邮箱和密码)即可立即获得密钥——试用无需手机号或信用卡。

  • 基础 URL: https://api.llminferenceapi.com/v1
  • 头: Authorization: Bearer YOUR_API_KEY
  • 模型 ID: uncensored

此设置适用于任何官方 OpenAI SDK 或兼容客户端库。你保留现有的代码结构,只需更改接口和密钥。

首次请求

向 chat completions 接口发起第一次调用。模型 ID 为 uncensored。该模型是一个开放权重的大型语言模型,经过调整,可在合法成人使用场景下无内容拒绝地回答问题,而非 GPT 或 Claude。

curl https://api.llminferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

请求体包含标准的 messages 数组。你可以指定 temperature、max_tokens 等标准参数。API 返回标准的聊天补全响应及 token 使用统计。如果遇到 401 错误,表示密钥无效。402 错误表示预付额度已耗尽。

Python SDK 集成

使用 Python SDK 非常简单。使用我们的基础 URL 和 API 密钥初始化客户端。代码结构与标准的 OpenAI 模式一致。这允许你在不重写应用逻辑的情况下,将我们的 llm 代理 服务即插即用。

from openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

确保传递 model='uncensored' 参数。响应对象包含生成的文本和使用指标。这种方法非常适合想要即插即用 openai 兼容 api 解决方案的开发者。除了标准 SDK 外无需其他依赖。

Node.js SDK 用法

对于 Node.js 开发者,集成同样简单。在客户端配置中设置 baseURL 和 apiKey。SDK 会自动处理对我们 ai 聊天 api 接口的 HTTP 请求。

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llminferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

调用 chat.completions.create() 并传入模型 ID uncensored。你可以流式输出响应或将其作为完整对象处理。这种灵活性支持批处理和实时用户交互。API 支持函数调用,允许你定义模型可以调用的函数。

流式响应

为了获得实时用户体验,请启用流式输出。在请求中将 stream 参数设置为 true。API 返回服务器发送事件 (SSE) 的部分响应流。

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

每个块包含响应的部分增量。你可以将到达的 token 渲染给用户,从而降低感知延迟。这对于期望即时反馈的聊天界面至关重要。流式响应包含与非流式请求相同的 token 使用信息。

限制、错误和上下文

我们的 API 对输入和输出总和强制执行 100,000 token 的上下文窗口。这支持长文档和复杂对话。速率限制设置为每个密钥每分钟 300 个请求。如果超出此限制,你将收到 429 错误。请求体限制为 8 MB。

常见错误包括 401(密钥无效)、402(额度不足)和 429(速率限制)。额度永不过期,您可随时充值。预付额度从 $10 起,大额充值享额外赠送。此 按量付费 AI API 模型确保您只为实际用量付费。

API 技术参数

所有限制、功能与价格一览。

项目说明
接口格式兼容 OpenAI:任何 OpenAI SDK 或客户端只需更换 base URL 和密钥
Base URLhttps://api.llminferenceapi.com/v1
认证Authorization: Bearer YOUR_KEY
接口POST /v1/chat/completions · GET /v1/models
模型 IDuncensored
最大输出不单独限制输出;提示+回复共 64,000 个 token 窗口内,max_tokens 可选
采样参数temperature、top_p、stop、seed、presence_penalty、frequency_penalty
流式输出支持 SSE,最后一块包含 token 用量
JSON 模式response_format: {"type": "json_object"}
函数调用支持 tools、tool_choice;回复包含 tool_calls(流式同样支持),结果以 role: tool 消息返回
上下文窗口64,000 tokens(输入与输出合计)
请求大小每次请求不超过 8 MB
速率限制每个密钥每分钟 300 次请求
并发每个密钥同时最多 8 个请求
响应头X-Request-Id、X-Balance-USD、X-RateLimit-Limit-Requests、X-RateLimit-Limit-Concurrency
额度有效期付费额度永不过期,无订阅
赠送额度满 $50 送 5%,满 $100 送 10%
免费试用$0.50,有效期 7 天,无需银行卡 · 试用密钥:2 个并发请求,每分钟 60 次;首次充值后恢复完整限额(8 和 300)
价格输入 $0.25 / 百万 tokens · 输出 $1.00 / 百万 tokens
充值USDT(TRC20)或 USDC(Base),$10–$500 任意整数金额
计费预付额度,按实际 token 用量扣费;错误和拒绝不收费
登录Google 或邮箱 + 密码
内容政策允许成人内容;涉及未成年人的性内容一律拒绝
密钥每个账户一个有效密钥;生成新密钥后旧密钥失效

错误说明

错误以 JSON 返回,type 字段固定;失败或被拒绝的请求不计费。

状态码类型含义
400bad_requestJSON 无效、消息为空、参数错误或超出上下文窗口
401missing_key · invalid_key · key_revoked缺少密钥、密钥错误或已被新密钥替换
402no_credit余额不足——充值后立即恢复
403content_blocked涉及未成年人的性内容——拒绝且不计费
404not_found未知接口
413request_too_large请求体超过 8 MB
429rate_limited · concurrency超过每分钟 300 次或 8 个并发——稍后重试
503upstream_busy模型繁忙——几秒后重试

问答

此 API 适合生产环境应用吗?

是的,它专为生产环境设计,具备标准速率限制和可靠的接口。但不提供 SLA 保证或 SOC2 等企业认证。最适合优先考虑无审查输出和灵活定价的应用。

该模型的“无审查”是什么意思?

该模型不会拒绝合法的成人内容、虚构作品、安全研究或争议性话题。它会生成其他模型因安全过滤器而可能屏蔽的内容。唯一的硬性限制是始终屏蔽涉及未成年人的色情内容。

开始使用需要信用卡吗?

不需要。只需电子邮件和密码即可注册。每个新账户获得 7 天有效的 $0.50 试用额度。准备好扩展时,可使用加密货币(USDT 或 USDC)充值。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。

获取 API 密钥