Avvio rapido: Integra il router api llm

Configurazione: URL di base e chiave API

Imposta il tuo client per utilizzare l'URL base ufficiale e la tua chiave univoca. Punta i tuoi SDK compatibili con OpenAI su HTTPS://api.llmapirouter.com/v1 e assegna la chiave recuperata dal tuo dashboard. Questa singola modifica indirizza tutte le richieste verso il nostro modello uncensored senza modificare la logica della tua applicazione.

Completamento Testo Base

Invia una richiesta standard di completamento chat per generare risposte testuali. L'endpoint accetta un elenco di messaggi e restituisce l'output del modello in formato JSON.

Usa questa struttura per avviare la tua prima generazione:

Copycurl https://api.llmapirouter.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all npm packages"}]
  }'

Risposte in streaming (SSE)

Abilita lo streaming impostando il parametro stream su true. Questo restituisce Server-Sent Events, consentendoti di visualizzare i token man mano che vengono generati invece di attendere la risposta completa.

Implementa il flag stream nel tuo client SDK:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapirouter.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Function Calling (Tools)

Definisci gli strumenti nella richiesta per consentire al modello di chiamare funzioni esterne. Passa un elenco di definizioni degli strumenti e specifica tool_choice per controllare quando il modello le utilizza.

Configura gli strumenti utilizzando l'SDK Node:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapirouter.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Formato di risposta modalità JSON

Forza il modello a restituire JSON validi impostando response_format su {type: "json_object"}. Questo garantisce un output strutturato per un'analisi affidabile nella tua applicazione.

Abilita la modalità JSON nel tuo client streaming:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limiti di frequenza e vincoli

Ogni chiave API supporta 300 richieste al minuto e 8 richieste concorrenti. Il corpo della richiesta deve rimanere sotto gli 8 MB e puoi specificare fino a 100,000 token per il prompt e il completamento combinati. Gli errori restituiscono codici HTTP standard: 401 per chiavi non valide, 402 se il credito è esaurito e 429 quando superi il limite di frequenza.