Snelstart: integreer de llm api router

Configuratie: Base URL en API Key

Stel je client in op het gebruik van de officiële base URL en je unieke sleutel. Wijs je OpenAI-compatible SDKs aan op HTTPS://api.llmapirouter.com/v1 en wijs de sleutel toe die je uit je dashboard hebt opgehaald. Deze enkele wijziging stuurt alle verzoeken naar ons uncensored model zonder je applicatielogica te wijzigen.

Basis Tekstvoltooiing

Stuur een standaard chat-completion verzoek om tekstantwoorden te genereren. Het eindpunt accepteert een lijst met berichten en retourneert de uitvoer van het model in JSON-formaat.

Gebruik deze structuur om je eerste generatie te starten:

Copycurl https://api.llmapirouter.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all npm packages"}]
  }'

Streaming-responsen (SSE)

Schakel streaming in door de stream-parameter in te stellen op true. Dit retourneert Server-Sent Events, zodat je tokens kunt weergeven zodra ze worden gegenereerd in plaats van te wachten op het volledige antwoord.

Implementeer de stream-vlag in je SDK-client:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapirouter.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Functiedaanroep (Tools)

Definieer tools in je request om het model externe functies te laten aanroepen. Stuur een lijst met tool-definities en specificeer tool_choice om te bepalen wanneer het model ze moet gebruiken.

Configureer tools met de Node SDK:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapirouter.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Responsformaat JSON-modus

Forceer het model om geldige JSON uit te geven door response_format in te stellen op {type: "json_object"}. Dit zorgt voor gestructureerde gegevensuitvoer voor betrouwbaar parseren in je applicatie.

Schakel JSON-modus in je streamingclient in:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Rate Limits en beperkingen

Elke API-sleutel ondersteunt 300 verzoeken per minuut en 8 gelijktijdige verzoeken. De request body moet kleiner zijn dan 8 MB, en u kunt maximaal 100,000 tokens opgeven voor de gecombineerde prompt en completion. Fouten retourneren standaard HTTP-codes: 401 voor ongeldige sleutels, 402 als krediet op is, en 429 wanneer u de rate limit overschrijdt.