中文 ▾
获取 API 密钥

LLM Inference API指南

LLM API 月费:四种典型场景

按行计算的四份月度账单,输入 token 为 $0.15/1M,输出 token 为 $0.50/1M,并附带一个用于计算您自身流量的脚本。

更新时间:

四根上升的玻璃柱,内部填充发光方块,每个代表一种月度成本场景
等距插图,显示数据包从终端流向云网关,代表推理 API 调用

要点

  1. 将任何 OpenAI SDK 指向 https://api.llminferenceapi.com/v1,使用模型 ID uncensored,并将密钥作为 Bearer token 发送。
  2. 提供两个接口:POST /v1/chat/completions 和 GET /v1/models。
  3. 流式输出、工具调用和 JSON 模式通过标准请求字段工作。
  4. 完整密钥允许 8 个并发请求和每分钟 300 个请求;429 响应会告知你触发了哪个限制。

四种场景一览

如果您正在计算每月的 LLM API 费用,单一平均值没有帮助,因为账单取决于您发送的请求数量以及请求的长度。以下是四种基于 $0.15/1M 输入 token 和 $0.50/1M 输出 token 定价的真实场景。每个场景都列出了其假设,以便您替换为自己的数据。

场景每月请求数每次请求的 token 数(输入/输出)月度成本
个人聊天机器人6001,500 / 300$0.225
Discord 社区9,0003,000 / 400$5.85
拥有 1,000 用户的应用40,0002,500 / 500$25.00
批处理流水线200,0001,200 / 250$61.00

文章其余部分展示了计算过程及影响各项数值的关键因素。

场景 1:个人机器人

你运行一个个人机器人,每天回复约 20 条消息,即每月 600 条。每条消息包含简短的系统提示词和历史记录,约 1,500 输入 token,回复平均为 300 token。

  • 输入:600 x 1,500 = 0.9M tokens,费用为 0.9 x $0.15 = $0.135。
  • 输出:600 x 300 = 0.18M tokens,费用为 0.18 x $0.50 = $0.09。
  • 总计:每月 $0.225。

这是最低充值 $20 的情况,其使用时长超过其他所有情况。按此速率,可支持超过七年的使用。额度永不失效,因此业余项目可以仅靠一次充值即可,无需担心时间流逝。

场景 2:Discord 社区机器人

活跃服务器中的机器人每天处理 300 次请求,即每月 9,000 次。它读取最近的频道上下文,因此每次调用约包含 3,000 个输入 token,回复约 400 个 token。

  • 输入:9,000 x 3,000 = 27M token,费用 27 x $0.15 = $4.05。
  • 输出:9,000 x 400 = 3.6M token,费用 3.6 x $0.50 = $1.80。
  • 总计:每月 $5.85。

关注输入端。将每次调用中粘贴的上下文翻倍会使账单中较大的部分翻倍,而回复长度几乎无关紧要。许多机器人通过发送最后六条消息而不是最后二十条来节省费用。还要检查速率限制:完整密钥允许同时发送 8 个请求和每分钟 300 个请求,这远高于此负载,但繁忙的服务器仍可能在某个线程爆发时出现峰值。在机器人中排队请求,即可保持在限制范围内。

场景 3:拥有 1,000 用户的应用

假设 1,000 名月用户每人发送 40 次请求,共 40,000 次请求。每次请求包含 2,500 个输入 token(系统提示词加历史记录),返回 500 个 token。

  • 输入:40,000 x 2,500 = 100M token,费用 100 x $0.15 = $15.00。
  • 输出:40,000 x 500 = 20M token,费用 20 x $0.50 = $10.00。
  • 总计:每月 $25.00,即每用户 2.5 美分。

在此情况下,输出费用占总费用的 40%,尽管其 token 数仅占六分之一,因为每个 token 的输出成本是输入成本的三倍以上。简短的回答更划算。如果你将回复长度从 500 token 改为 250 token,输出费用将降至 $5.00,总费用降至 $20.00。此时,$20 的充值可支持该应用使用一个月,而 $100 的充值(含 +10% 奖金,即 $110 额度)可支持约五个月。

场景 4:批处理流水线

批处理任务按文档数量扩展。假设你每月标记或重写 200,000 个项目,每个项目包含 1,200 个输入 token 和 250 个 token 的结果。

  • 输入:200,000 x 1,200 = 240M token,费用 240 x $0.15 = $36.00。
  • 输出:200,000 x 250 = 50M token,费用 50 x $0.50 = $25.00。
  • 总计:每月 $61.00。

对于批量任务,关键限制是吞吐量而非价格。在 8 个并发请求下,任务耗时为请求数除以 8 再乘以平均请求时长。在规划调度前,请根据你的延迟自行计算,并将工作池保持在 8 个或更少,以避免触发 concurrency 错误。失败的请求不会收费,因此重试它们不会产生额外费用。

估算你的月度用量

公式很简单:月度费用 = 请求数 x (输入 token x $0.15 + 输出 token x $0.50) / 1,000,000。此脚本可计算费用,如果你先运行样本,它还可以读取实际的 token 数量。

from openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")

def monthly(requests, tokens_in, tokens_out):
    return requests * (tokens_in * 0.15 + tokens_out * 0.50) / 1_000_000

print(monthly(40_000, 2_500, 500))   # 25.0

# sample 20 real prompts, then use the measured averages
ins, outs = [], []
for p in open("prompts.txt").read().splitlines()[:20]:
    r = client.chat.completions.create(
        model="uncensored", messages=[{"role": "user", "content": p}])
    ins.append(r.usage.prompt_tokens)
    outs.append(r.usage.completion_tokens)
print(monthly(10_000, sum(ins) / len(ins), sum(outs) / len(outs)))

示例运行的费用不到一分钱。新用户可在 API 密钥页面 领取 $0.50 的试用额度,免费运行该示例。定价页面 显示了费率和充值奖金。

影响账单的主要因素

在所有四种场景中,以下因素会影响总费用:

  1. 上下文大小。 历史记录和粘贴的文档驱动输入成本。请精简它们。
  2. 输出长度。 输出费用为每 1M $0.50,因此请按需请求长度,并在需要时设置 max_tokens。
  3. 重试和循环。 导致重复调用的 bug 可以在一小时内将一个月的成本乘以数倍。限制重试次数。
  4. 流量增长。 费用与请求数呈线性关系。用户翻倍,账单翻倍。

预算规划

选择最接近你项目的场景,并将第一个月的结果乘以安全系数二,因为实际流量很少像电子表格那样均匀。然后设置低余额警报。每个响应都包含X-Balance-USD标头,因此当额度降至你选择的数字以下时,你的应用可以给你发邮件,并在任何服务停止前进行充值。如果你的流量增长十倍,账单也增长十倍:10 倍流量的 Discord 机器人费用为 $58.50,拥有 10,000 用户的应用费用为 $250.00。费用不会以阶梯式跳跃,因此没有超出定价层级的情况。

资金注入

你从预付额度付费,无订阅费,因此空闲月的费用接近零。充值金额为 $20 至 $500,支持加密货币(TRC20 上的 USDT、Base 上的 USDC),充值 $50 起 +5%,$100 起 +10%,$200 起 +15%。

这些估算的局限性

场景未包含两个因素。首先,它们假设使用稳定,而实际产品会有峰值,如发布日或病毒式传播的线程,一个峰值日可能消耗一周的预算。其次,它们假设提示词大小保持不变。产品变更通常会增大系统提示词,每月调用 40,000 次的调用增加 500 个 token 将增加 20M 输入 token,即 $3.00。每次提示词变更后请重新测量。

这些是计算结果,并非对你使用量的承诺。实际提示词会有所不同,你的 token 数量取决于你发送的语言和内容。这是一个纯文本 API,因此嵌入、图像或音频的成本不在这些数字范围内。该服务由独立提供商提供的一个开放权重模型驱动,经过调整以在无内容审查的情况下回答合法成人用途的问题。

此处所用术语的定义,请参阅什么是 LLM 推理。可能导致账单增加的隐蔽错误列在常见的 AI 聊天 API 错误下。文档涵盖了请求格式。

问答

小型机器人每月的成本是多少?

每月处理 600 条消息、输入 1,500 个 token 且输出 300 个 token 的机器人成本为 $0.225。

除了 token 成本外,还有月度费用吗?

没有。你从预付额度按 token 付费,且额度不会过期。

最小充值金额是多少?

$20,任何整数额,最高 $500。从 $50、$100 和 $200 起,分别享有 5%、10% 和 15% 的奖励。

失败的请求会收费吗?

不会。失败或被拒绝的请求不收费。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。

获取 API 密钥