Démarrage rapide : Intégrez le routeur d'API LLM

Configuration : URL de base et clé API

Définissez votre client pour utiliser l'URL de base officielle et votre clé unique. Pointez vos SDK compatibles OpenAI vers HTTPS://api.llmapirouter.com/v1 et attribuez la clé récupérée depuis votre tableau de bord. Ce seul changement dirige toutes les requêtes vers notre modèle uncensored sans modifier la logique de votre application.

Complétion de texte basique

Envoyez une requête standard de complétion de chat pour générer des réponses textuelles. Le point de terminaison accepte une liste de messages et renvoie la sortie du modèle au format JSON.

Utilisez cette structure pour lancer votre première génération :

Copycurl https://api.llmapirouter.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all npm packages"}]
  }'

Réponses en streaming (SSE)

Activez le streaming en définissant le paramètre stream sur true. Cela renvoie des Server-Sent Events, vous permettant d'afficher les tokens à mesure de leur génération plutôt que d'attendre la réponse complète.

Implémentez le indicateur de flux dans votre client SDK :

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapirouter.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Appel de fonctions (Outils)

Définissez les outils dans votre requête pour permettre au modèle d'appeler des fonctions externes. Transmettez une liste de définitions d'outils et spécifiez tool_choice pour contrôler quand le modèle les utilise.

Configurez les outils à l'aide du SDK Node :

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapirouter.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Format de réponse du Mode JSON

Forcez le modèle à produire un JSON valide en définissant response_format sur {type: "json_object"}. Cela garantit une sortie de données structurée pour un analyse fiable dans votre application.

Activez le mode JSON dans votre client de streaming :

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limites de débit et contraintes

Chaque clé API prend en charge 300 requêtes par minute et 8 requêtes simultanées. Le corps de la requête doit rester inférieur à 8 Mo, et vous pouvez spécifier jusqu'à 100 000 jetons pour l'invite et la complétion combinées. Les erreurs renvoient des codes HTTP standard : 401 pour les clés invalides, 402 si le crédit est épuisé, et 429 lorsque vous dépassez la limite de débit.