Γρήγορη Έναρξη: Ενσωματώστε το router του llm api

Διαμόρφωση: Βασική URL και Κλειδί API

Ορίστε τον πελάτη σας να χρησιμοποιεί το τυπικό base URL και το μοναδικό key σας. Κατευθύνετε τα SDK σας συμβατά με OpenAI στο HTTPS://api.llmapirouter.com/v1 και αναθέστε το key που ανακτήσατε από το dashboard σας. Αυτή η μοναδική αλλαγή κατευθύνει όλα τα αιτήματα στο μοντέλο μας uncensored χωρίς να τροποποιείτε τη λογική της εφαρμογής σας.

Βασική Συμπλήρωση Κειμένου

Στείλτε ένα τυπικό αίτημα chat completion για να δημιουργήσετε απαντήσεις κειμένου. Το endpoint δέχεται μια λίστα messages και επιστρέφει την έξοδο του μοντέλου σε μορφή JSON.

Χρησιμοποιήστε αυτή τη δομή για να ξεκινήσετε την πρώτη σας δημιουργία:

Copycurl https://api.llmapirouter.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all npm packages"}]
  }'

Streaming Αποκρίσεις (SSE)

Ενεργοποιήστε τη ροή (streaming) ορίζοντας την παράμετρο stream σε true. Αυτό επιστρέφει Server-Sent Events, επιτρέποντάς σας να εμφανίσετε tokens καθώς παράγονται αντί να περιμένετε την πλήρη απάντηση.

Εφαρμόστε τη σημαία stream στον πελάτη SDK σας:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapirouter.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Συνάρτηση Calling (Εργαλεία)

Ορίστε εργαλεία στο αίτημά σας για να επιτρέψετε στο μοντέλο να καλέσει εξωτερικές συναρτήσεις. Δώστε μια λίστα ορισμών εργαλείων και προσδιορίστε το tool_choice για να ελέγξετε πότε το μοντέλο τα χρησιμοποιεί.

Ρυθμίστε εργαλεία χρησιμοποιώντας το SDK Node:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapirouter.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Μορφή Απόκρισης Λειτουργίας JSON

Εξαναγκάστε το μοντέλο να επιστρέψει έγκυρο JSON ρυθμίζοντας response_format σε {type: "json_object"}. Αυτό διασφαλίζει δομημένη έξοδο δεδομένων για αξιόπιστη ανάλυση στην εφαρμογή σας.

Ενεργοποιήστε τη λειτουργία JSON στον πελάτη streaming σας:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Όρια Ρυθμού και Περιορισμοί

Κάθε κλειδί API υποστηρίζει 300 αιτήσεις ανά λεπτό και 8 ταυτόχρονες αιτήσεις. Το σώμα της αίτησης πρέπει να παραμένει κάτω από 8 MB, και μπορείτε να καθορίσετε έως 100,000 tokens για την συνδυαστική πρόταση και ολοκλήρωση. Τα σφάλματα επιστρέφουν τυπικούς κωδικούς HTTP: 401 για άκυρα κλειδιά, 402 εάν εξαντληθεί το υπόλοιπο, και 429 όταν υπερβείτε το όριο ρυθμού.