Quickstart: Integrați routerul de API-uri LLM

Configurare: URL de bază și Cheie API

Configurați clientul pentru a utiliza URL-ul de bază oficial și cheia dvs. unică. Pointați SDK-urile compatibile cu OpenAI la HTTPS://api.llmapirouter.com/v1 și atribuiți cheia preluată din panoul dvs. Această singură modificare direcționează toate solicitările către modelul nostru uncensored fără a modifica logica aplicației.

Completare text de bază

Trimiteți o solicitare standard de completare a chat-ului pentru a genera răspunsuri text. Endpointul acceptă o listă de mesaje și returnează output-ul modelului în format JSON.

Folosiți această structură pentru a începe prima generare:

Copycurl https://api.llmapirouter.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all npm packages"}]
  }'

Răspunsuri în streaming (SSE)

Activați streaming-ul setând parametrul stream la true. Acest lucru returnează Server-Sent Events, permițându-vă să afișați tokenii pe măsură ce sunt generați, în loc să așteptați răspunsul complet.

Implementați flag-ul stream în clientul SDK:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapirouter.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Apelarea funcțiilor (Instrumente)

Definește instrumentele în cerere pentru a permite modelului să apeleze funcții externe. Trimite o listă de definiții de instrumente și specifică tool_choice pentru a controla momentul în care modelul le folosește.

Configurați instrumentele folosind SDK-ul Node:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapirouter.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Format de Răspuns Mod JSON

Forțează modelul să genereze JSON valid prin setarea response_format la {type: "json_object"}. Acest lucru asigură un output structurat pentru o analizare fiabilă în aplicația ta.

Activează modul JSON în clientul tău de streaming:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limite de rată și constrângeri

Fiecare cheie API suportă 300 de cereri pe minut și 8 cereri concurente. Corpul cererii trebuie să rămână sub 8 MB, iar puteți specifica până la 100,000 de tokeni pentru prompt și completare combinate. Erorile returnează coduri HTTP standard: 401 pentru chei invalide, 402 dacă creditul este epuizat și 429 când depășiți limita de rată.