شروع سریع: ادغام روتر API LLM

پیکربندی: URL پایه و کلید API

کلاینت خود را تنظیم کنید تا از URL پایه رسمی و کلید منحصر‌به‌فرد شما استفاده کند. SDKهای سازگار با OpenAI خود را به HTTPS://api.llmapirouter.com/v1 متصل کنید و کلید دریافت شده از داشبورد خود را اختصاص دهید. این تغییر واحد، تمام درخواست‌ها را به مدل uncensored ما هدایت می‌کند بدون اینکه منطق برنامه شما تغییر کند.

تکمیل متن پایه

یک درخواست کامل‌شدن چت استاندارد به ارسال کنید تا پاسخ‌های متنی تولید کنید. این نقطه پایانی یک لیست از پیام‌ها را می‌پذیرد و خروجی مدل را در قالب JSON برمی‌گرداند.

از این ساختار برای شروع اولین تولید خود استفاده کنید:

Copycurl https://api.llmapirouter.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all npm packages"}]
  }'

پاسخ‌های استریم (SSE)

با تنظیم پارامتر stream روی true، قابلیت جریان‌یابی را فعال کنید. این کار رویدادهای ارسالی سرور (SSE) را برمی‌گرداند و به شما امکان می‌دهد توکن‌ها را همان‌طور که تولید می‌شوند نمایش دهید، بدون اینکه منتظر پاسخ کامل بمانید.

پرچم stream را در کلاینت SDK خود تنظیم کنید:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapirouter.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Function Calling (Tools)

ابزارها را در درخواست خود تعریف کنید تا به مدل اجازه فراخوانی توابع خارجی را بدهید. فهرستی از تعاریف ابزار را ارسال کنید و tool_choice را مشخص کنید تا کنترل کنید که چه زمانی مدل از آن‌ها استفاده کند.

ابزارها را با استفاده از SDK نود پیکربندی کنید:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapirouter.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

فرمت پاسخ حالت JSON

مدل را مجبور به خروجی JSON معتبر کنید با تنظیم response_format به {type: "json_object"}. این اطمینان حاصل می‌کند که خروجی داده‌ها ساختاریافته باشد و در برنامه شما به‌راحتی پارس شود.

حالت JSON را در کلاینت استریمینگ خود فعال کنید:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

محدودیت‌های نرخ و محدودیت‌ها

هر کلید API از ۳۰۰ درخواست در دقیقه و ۸ درخواست همزمان پشتیبانی می‌کند. اندازه بدنه درخواست باید کمتر از ۸ مگابایت باشد و می‌توانید تا ۱۰۰,۰۰۰ توکن برای ترکیب prompt و completion مشخص کنید. خطاها کدهای HTTP استاندارد را برمی‌گردانند: ۴۰۱ برای کلیدهای نامعتبر، ۴۰۲ اگر اعتبار تمام شده باشد، و ۴۲۹ وقتی که از محدودیت نرخ تجاوز کنید.