中文 ▾

llmapirouter.comhttps://api.llmapirouter.com/v1

LLM API 路由器

即插即用无审查 LLM API

LLM API 路由器领取试用密钥

路由器神话与事实

对比 OpenRouter 服务通常会揭示路由逻辑、上下文限制和审查层中的隐藏成本,这些都会推高您的有效 token 价格。许多开发者为不需要的复杂性支付了过多费用,而其他人则因网关级别应用的软过滤器而错过了原始模型性能。

摘要

  • 大多数路由器收取每请求费用,这使得小负载的成本高于纯基于令牌的定价。
  • 100k 上下文窗口允许你处理整个文档,而无需在代码中使用昂贵的分块逻辑。
  • 无限制模型对合法的成人内容没有任何拒绝,而网关通常会注入它们自己的安全拒绝。
  • 即插即用兼容性意味着您只需更改基础 URL 和密钥,即可保持现有 SDK 集成不变。

‘智能’路由器的神话

智能路由会增加延迟和成本,并不一定能提高质量。路由器位于您的代码和模型之间,检查每个请求以决定由哪个后端提供服务。这种检查层引入了开销。您需要为运行路由逻辑本身所需的计算能力付费。

许多平台宣传动态模型切换。它们将简单查询路由到便宜模型,将复杂任务路由到昂贵模型。这在理论上可行。在实践中,路由决策通常是启发式的且缓慢。你失去了毫秒级的精度。你得到了一个隐藏你延迟真正来源的黑盒。

  • 路由在模型看到提示之前增加了一个处理步骤。
  • 启发式决策可能会错误分类任务复杂度。
  • 链中的每一次跳转都会增加延迟。

直接访问消除了中间商。您的代码直接与推理引擎通信。没有启发式猜测。没有额外的处理层。您获得原始速度。您获得确定性行为。您的应用程序更易于调试且响应更快。

Fact: 您支付的是路由费用,而不仅仅是 Token 费用

路由费用通常隐藏在按请求收费中。你可能会看到较低的 token 费率,但每次 API 调用都会增加固定费用。小提示变得昂贵,大批量处理变得低效。数学计算并不总是对用户有利。

考虑一个简单的文本补全场景。它使用 100 个 token。路由器可能会收取每次请求 $0.001 的费用加上 token 费用。你的每个 token 的有效成本会急剧上升。直接 API 仅按 token 收费。没有固定费用。没有隐藏开销。你的成本随使用量线性增长。

  • 高
  • 功能典型路由器直接 API
    基础费用按次收费无
    Token 成本低费率透明费率
    复杂性
    可预测性变量线性

    透明度很重要。您应该确切知道每个Token的成本。您不应看到意外的费用。您的预算应与实际消耗相匹配。不多不少。

    上下文窗口现实检查

    上下文窗口定义模型一次能容纳多少信息。许多路由器将此限制为 8k 或 32k token。这迫使您分块数据。分块增加了复杂性。它破坏了连贯性。它通过重复的引导文本增加了 token 数量。

    宽裕的上下文窗口允许你传递整个文档。你保留完整的叙事结构。你保持逻辑流。模型看到全貌。它提供更好的上下文回答。你花在管理数据碎片上的时间更少。

    长上下文也减少了 API 调用。您发送一个大请求。模型一次性处理它。您得到一个连贯的响应。这简化了您的架构。您需要的代码行数更少。您需要较少的错误处理来处理分割的负载。

    仔细检查限制。某些平台对长上下文收取更高费用。其他平台则严格限制上下文长度。在构建之前,请了解您的约束条件。

    事实:100k Token 与竞品对比

    我们的 API 提供 100,000 token 的上下文窗口。这比许多标准产品大得多。您可以粘贴整章书籍。您可以上传长技术规格。模型会记住所有内容。

    此能力改变了您的应用设计方式。您无需为每种用例都使用复杂的检索增强生成 (RAG) 系统。简单的提示即可处理长文档。您降低了基础设施复杂度,减少了工程开销。

    然而,较大的上下文会消耗更多内存。推理时间可能会稍长。为了准确性,这种权衡是值得的。您会得到更好的答案。幻觉更少。模型会引用完整文本。它不会从片段中猜测。

    验证输入限制。我们的 API 支持最多 100k 令牌总量。这包括提示和补全。请相应地规划您的负载大小。在发送前优化您的数据。

    审查:“安全”的隐藏成本

    安全过滤器并非免费。它们消耗计算资源。它们增加延迟。它们经常误触发。模型可能会因为特定上下文中出现某个关键词而拒绝有效查询。这会破坏您的应用程序。它需要回退逻辑。它增加了调试时间。

    网关通常会在模型之上应用自己的过滤器。您失去了控制权。您无法覆盖拒绝。您必须等待网关更新其规则。您的用户会看到错误。您的信心下降。

    无限制模型自由回答。它们不拒绝合法的成人内容。它们不阻止争议性话题。它们不审查安全研究。你得到完整的输出。你决定如何使用它。你保留完全的控制权。

    这种自由对创意写作很重要。对角色扮演很重要。对分析很重要。您获得原始数据。没有礼貌的拒绝。没有通用的免责声明。

    事实:真正的无审查访问与软过滤

    软性过滤很微妙。它们会重述答案。它们会添加模糊语言。它们避免直接陈述。这通常被称为“对齐”。它使模型听起来更安全。它使模型听起来不太聪明。您失去了细微差别。您失去了精确性。

    真正的无审查访问移除了这些限制。模型直接说话。它直接回答问题,不加前言。它不为输出道歉。它不限制其陈述。您获得清晰、直接的响应。

    这对于开发者工具至关重要。您需要准确的数据。您需要可靠的输出。您不需要经过过滤的摘要。您需要模型的原生能力。您需要它行为可预测。

    我们的 API 提供针对此行为调优的开源模型。它不应用额外层。它不注入安全规则。它只是回答问题。你得到模型所知道的内容。不多也不少。

    定价复杂性:按令牌 vs 按请求

    复杂定价模型隐藏真实成本。一些平台按 token 收费,另一些按请求收费,还有一些两者都收。这使得预算变得困难。您无法准确预测账单。小任务可能多付,大任务可能少付。

    透明定价列出所有费用。它显示每百万 token 的成本。它显示任何固定费用。它显示批量折扣。你可以计算确切成本。你知道你要付多少钱。没有意外。

    我们的定价很简单。每百万输入令牌 0.15 美元。每百万输出令牌 0.50 美元。无固定费用。无路由费用。无隐藏成本。您的账单与使用情况完全匹配。这种简单性有助于您扩展规模。您清楚利润率。您规划增长。

    将此按请求计费的模式进行比较。它们惩罚高频使用。它们奖励大批量。选择适合您工作流的模型。可预测性是关键。

    事实:可预测的预充值加密货币定价

    预充值余额消除了计费意外。您预先付费。您使用已有的额度。当额度用完时,您就停止。没有支付处理延迟。没有透支风险。

    我们仅接受加密货币。支持 TRC20 网络的 USDT 或 Base 网络的 USDC。充值范围 $20 至 $500。赠金自动生效。购买 $50 获得 5% 额外额度。购买 $100 获得 10% 额外额度。购买 $200 获得 15% 额外额度。此赠金降低了您的有效令牌成本。

    余额永不过期。您可以几个月后再使用。没有月度费用。没有订阅。您只为实际使用的部分付费。这种模式适合使用模式多变的开发者。您不会在闲置容量上浪费金钱。您保留完全的控制权。您避免了供应商锁定。

    常见问题

    这是官方的 OpenAI 服务吗?

    不,这是一个独立的 API。它与 OpenAI 格式兼容,但提供不同的 uncensored 模型。它不是 GPT-3.5、GPT-4 或任何其他 OpenAI 产品。您使用相同的 SDK,但底层模型不同。

    如何开始使用 API?

    使用 Google 或邮箱注册即可即时获取 API 密钥。将 base_url 更新为 HTTPS://api.llmapirouter.com/v1 并设置您的密钥。您的现有代码即可立即运行。无需进行配置更改。您也可以从免费试用额度开始。

    上下文窗口限制是多少?

    API 支持 100,000 token 的上下文窗口。这包括 prompt 和 completion。您可以发送大型文档而无需分块。这有助于更好地保留上下文并生成更准确的响应。

    API 是否过滤内容?

    该模型无审查。它不会拒绝合法的成人内容、争议性话题或安全研究。它可能会拒绝涉及未成年人的内容。这是唯一的硬性限制。对于大多数用例,你获得的是原始、无过滤的输出。

    解锁您的 API 密钥

    注册,复制令牌,并更新基础 URL。设置只需几秒。

    领取试用密钥查看文档