快速入门:集成大语言模型路由 API
更改您的 base_url 和 API key 即可零配置开始生成文本。本指南涵盖立即集成所需的关键端点、参数和限制。
- $0.15每 1M 输入令牌
- $0.50输出令牌 / 1M
- 100,000令牌上下文
- $0.50试用信用额度
- 300每分钟请求数
配置:基础 URL 和 API 密钥
将您的客户端设置为使用官方 base URL 和您的唯一密钥。将您的 OpenAI 兼容 SDK 指向 HTTPS://api.llmapirouter.com/v1,并分配从仪表板获取的密钥。这一单一更改将所有请求定向到我们的 uncensored 模型,而无需修改应用程序逻辑。
基本文本补全
发送标准聊天补全请求以生成文本回复。端点接受消息列表并以 JSON 格式返回模型的输出。
使用此结构开始您的第一次生成:
curl https://api.llmapirouter.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "list all npm packages"}]
}'
流式响应(SSE)
通过设置 stream 参数为 true 启用流式传输。这将返回服务器发送事件,允许您实时显示生成的 token,而不是等待完整响应。
在您的 SDK 客户端中实现流标志:
from openai import OpenAI
client = OpenAI(base_url="https://api.llmapirouter.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
函数调用(工具)
在请求中定义工具以允许模型调用外部函数。传递工具定义列表并指定 tool_choice 以控制模型何时使用它们。
使用 Node SDK 配置工具:
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.llmapirouter.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
JSON 模式响应格式
通过设置 response_format 为 {type: "json_object"} 强制模型输出有效的 JSON。这确保了结构化数据输出,便于您的应用进行可靠解析。
在流式客户端中启用 JSON 模式:
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
速率限制与约束
每个 API 密钥支持每分钟 300 次请求和 8 个并发请求。请求体必须保持在 8 MB 以下,您可以指定最多 100,000 个 token 用于提示词和补全词合计。错误返回标准 HTTP 代码:401 表示密钥无效,402 表示余额耗尽,429 表示超出速率限制。
常见问题
如何将此 LLM API 路由器集成到我现有的代码中?
将 base_url 更新为 HTTPS://api.llmapirouter.com/v1 并设置您的新 API 密钥。所有标准的 OpenAI 兼容 SDK 均可立即使用,无需更改代码。
如果我超出速率限制会怎样?
API 返回 429 Too Many Requests 错误。您可以稍后重试,或调整使用模式以保持在每分钟 300 次请求的限制内。
模型支持图像或音频生成吗?
否。这是一个仅文本的 API。它支持文本输入和输出、流式传输、函数调用和 JSON 模式,但不处理图像、音频或视频。