Inicio rápido: Integra el enrutador de api de llm

Configuración: URL base y clave API

Configura tu cliente para que utilice la URL base oficial y tu clave única. Apunta tus SDKs compatibles con OpenAI a HTTPS://api.llmapirouter.com/v1 y asigna la clave obtenida desde tu panel de control. Este único cambio dirige todas las solicitudes a nuestro modelo uncensored sin modificar la lógica de tu aplicación.

Completado de Texto Básico

Envía una solicitud estándar de completación de chat para generar respuestas de texto. El endpoint acepta una lista de mensajes y devuelve la salida del modelo en formato JSON.

Utilice esta estructura para iniciar su primera generación:

Copycurl https://api.llmapirouter.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all npm packages"}]
  }'

Respuestas en streaming (SSE)

Activa la transmisión estableciendo el parámetro stream en true. Esto devuelve Server-Sent Events, lo que te permite mostrar tokens a medida que se generan en lugar de esperar la respuesta completa.

Implementa la bandera de stream en tu cliente SDK:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapirouter.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Llamada de funciones (Herramientas)

Define las herramientas en tu solicitud para permitir que el modelo invoque funciones externas. Pasa una lista de definiciones de herramientas y especifica tool_choice para controlar cuándo las utiliza el modelo.

Configura herramientas usando el SDK de Node:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapirouter.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Formato de respuesta del modo JSON

Forza al modelo a generar JSON válido estableciendo response_format a {type: "json_object"}. Esto garantiza una salida de datos estructurada para un análisis fiable en tu aplicación.

Habilita el modo JSON en tu cliente de streaming:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Límites de velocidad y restricciones

Cada clave de API soporta 300 solicitudes por minuto y 8 solicitudes concurrentes. El cuerpo de la solicitud debe mantenerse por debajo de 8 MB, y puedes especificar hasta 100,000 tokens para el prompt y la finalización combinados. Los errores devuelven códigos HTTP estándar: 401 para claves inválidas, 402 si el crédito se agota y 429 cuando excedes el límite de velocidad.