Início rápido: integre o roteador de api de llm

Configuração: URL Base e Chave de API

Defina seu cliente para usar o URL base oficial e sua chave exclusiva. Aponte seus SDKs compatíveis com OpenAI para HTTPS://api.llmapirouter.com/v1 e atribua a chave recuperada do seu painel. Essa única alteração direciona todas as solicitações para nosso modelo uncensored sem modificar a lógica da sua aplicação.

Conclusão Básica de Texto

Envie uma solicitação padrão de conclusão de chat para gerar respostas de texto. O endpoint aceita uma lista de mensagens e retorna a saída do modelo no formato JSON.

Use esta estrutura para iniciar sua primeira geração:

Copycurl https://api.llmapirouter.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all npm packages"}]
  }'

Respostas em Streaming (SSE)

Ative o streaming definindo o parâmetro stream como true. Isso retorna Server-Sent Events, permitindo que você exiba tokens conforme são gerados, em vez de esperar pela resposta completa.

Implemente a flag de stream no seu cliente SDK:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapirouter.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Function Calling (Tools)

Defina ferramentas na solicitação para permitir que o modelo chame funções externas. Passe uma lista de definições de ferramentas e especifique tool_choice para controlar quando o modelo as utiliza.

Configure ferramentas usando o SDK Node:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapirouter.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Formato de Resposta do Modo JSON

Força o modelo a gerar JSON válido definindo response_format para {type: "json_object"}. Isso garante uma saída de dados estruturada para análise confiável no seu aplicativo.

Habilite o modo JSON no seu cliente de streaming:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limites de Taxa e Restrições

Cada chave de API suporta 300 solicitações por minuto e 8 solicitações simultâneas. O corpo da solicitação deve ficar abaixo de 8 MB, e você pode especificar até 100.000 tokens para o prompt e a conclusão combinados. Erros retornam códigos HTTP padrão: 401 para chaves inválidas, 402 se o crédito estiver esgotado e 429 quando você excede o limite de taxa.