API de inferencia: Guía de inicio rápido

URL base y autenticación

Nuestra API es completamente compatible con OpenAI. Para cambiar, actualiza la configuración de tu cliente para apuntar a nuestra URL base y proporciona tu clave de API. La URL base es https://api.llminferenceapi.com/v1. La autenticación se maneja mediante el encabezado estándar Authorization: Bearer. Recibes tu clave inmediatamente después de registrarte con solo un correo electrónico y una contraseña; no se requiere número de teléfono ni tarjeta de crédito para la prueba.

• URL base: https://api.llminferenceapi.com/v1
• Encabezado: Authorization: Bearer YOUR_API_KEY
• ID del modelo: uncensored

Esta configuración funciona con cualquier SDK oficial de OpenAI o biblioteca de clientes compatible. Mantienes la estructura de tu código existente; solo cambian el endpoint y la clave.

Primera solicitud

Realiza tu primera llamada al endpoint de chat completions. El ID del modelo es uncensored. Este modelo es un modelo de lenguaje grande de pesos abiertos ajustado para responder sin rechazos de contenido para uso adulto lícito, no es GPT ni Claude.

Copycurl https://api.llminferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

El cuerpo de la solicitud incluye la matriz estándar messages. Puedes especificar temperatura, máximo de tokens y otros parámetros estándar. La API devuelve una respuesta de completado de chat estándar con estadísticas de uso de tokens. Si encuentras un error 401, tu clave no es válida. Un error 402 significa que tus créditos prepago se han agotado.

Integración con SDK de Python

Usar el SDK de Python es sencillo. Inicializa el cliente con nuestra URL base y tu clave de API. La estructura del código refleja el patrón estándar de OpenAI. Esto te permite integrar nuestro servicio de proxy LLM sin reescribir la lógica de tu aplicación.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Asegúrate de pasar el argumento model='uncensored'. El objeto de respuesta contiene el texto generado y las métricas de uso. Este enfoque es ideal para desarrolladores que buscan una solución API compatible con OpenAI lista para usar. No se requieren dependencias adicionales más allá del SDK estándar.

Uso del SDK de Node.js

Para los desarrolladores de Node.js, la integración es igualmente sencilla. Establece baseURL y apiKey en la configuración de tu cliente. El SDK maneja las peticiones HTTP a nuestros endpoints de api de chat de ia automáticamente.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llminferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Llama a chat.completions.create() con el ID del modelo uncensored. Puedes transmitir las respuestas o manejarlas como objetos completos. Esta flexibilidad admite tanto el procesamiento por lotes como las interacciones en tiempo real con el usuario. La API admite tool calling, lo que te permite definir funciones que el modelo puede invocar.

Respuestas en streaming

Para experiencias de usuario en tiempo real, habilita el streaming. Establece el parámetro stream en true en tu solicitud. La API devuelve un flujo de Eventos Enviados por el Servidor (SSE) de respuestas parciales.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Cada fragmento contiene un delta parcial de la respuesta. Puedes renderizar estos tokens al usuario a medida que llegan, reduciendo la latencia percibida. Esto es crítico para interfaces de chat donde se espera una retroalimentación inmediata. La respuesta en streaming incluye la misma información de uso de tokens que las solicitudes sin streaming.

Límites, errores y contexto

Nuestra API impone una ventana de contexto de 100.000 tokens para la entrada y la salida combinadas. Esto admite documentos largos y conversaciones complejas. El límite de peticiones se establece en 300 peticiones por minuto por clave. Si excedes este límite, recibirás un error 429. Los cuerpos de las peticiones están limitados a 8 MB.

Los errores comunes incluyen 401 (clave inválida), 402 (créditos insuficientes) y 429 (límite de peticiones). Los créditos no caducan, así que puedes recargar cuando quieras. Los créditos prepago comienzan en $10, con bonificaciones para depósitos más grandes. Este modelo de pago por uso de API de IA asegura que solo pagues por lo que usas.