繁中 ▾
取得 API 金鑰

LLM Inference API指南

LLM API 每月費用:四種實際情境

四筆月費逐行計算,每 1M 輸入 token $0.15、每 1M 輸出 token $0.50,並附腳本讓你計算自己的流量費用。

更新日期:

四根漸層玻璃柱,內含發光立方體,每根代表一種每月費用情境
等距插圖,顯示資料封包從終端機流入雲端閘道,代表推理 API 呼叫

重點摘要

  1. 將任何 OpenAI SDK 指向 https://api.llminferenceapi.com/v1,使用模型 ID uncensored,並將你的金鑰作為 Bearer token 傳入。
  2. 提供兩個端點:POST /v1/chat/completions 與 GET /v1/models。
  3. 串流輸出、函式呼叫與 JSON 模式透過標準請求欄位運作。
  4. 完整金鑰允許 8 個並行請求與每分鐘 300 個請求;429 回應會告訴你觸及哪個限制。

四種情境一覽

如果你正在計算LLM API 每月費用,單一平均值沒有幫助,因為帳單取決於你發送的請求數量以及請求長度。以下列出四種實際設定,輸入 token 每 1M 計費 $0.15,輸出 token 每 1M 計費 $0.50。每種設定都顯示其假設,以便你替換為自己的設定。

情境每月請求數每次請求的 token 數(輸入 / 輸出)每月成本
業餘聊天機器人6001,500 / 300$0.225
Discord 社群9,0003,000 / 400$5.85
1,000 使用者應用程式40,0002,500 / 500$25.00
批次管線200,0001,200 / 250$61.00

文章其餘部分展示計算過程與影響各數值的因素。

情境 1:業餘機器人

你運行一個個人機器人,每天回覆約 20 則訊息,每月共 600 則。每則訊息包含短系統提示詞與部分歷史記錄,約 1,500 輸入 token,回覆平均 300 token。

  • 輸入:600 x 1,500 = 0.9M token,費用 0.9 x $0.15 = $0.135。
  • 輸出:600 x 300 = 0.18M token,費用 0.18 x $0.50 = $0.09。
  • 總計:每月 $0.225。

這是最低 $20 儲值能撐最久的狀況。以這個速率,可覆蓋超過七年的使用。額度永不失效,因此興趣專案可以只儲一次值,不用擔心時間流逝。

情境 2:Discord 社群機器人

活躍伺服器中的機器人每天處理 300 個請求,或每月 9,000 個。它會讀取近期頻道上下文,因此每次請求約有 3,000 個輸入 token,回覆約 400 個 token。

  • 輸入:9,000 x 3,000 = 27M token,費用 27 x $0.15 = $4.05。
  • 輸出:9,000 x 400 = 3.6M token,費用 3.6 x $0.50 = $1.80。
  • 總計:每月 $5.85。

注意輸入端。加倍每次請求貼入的上下文會加倍帳單中較大的部分,而回覆長度幾乎無關緊要。許多機器人透過只傳送最後六則訊息而非最後二十則來節省費用。也請檢查速率限制:完整金鑰允許同時 8 個請求和每分鐘 300 個請求,遠高於此負載,但繁忙的伺服器仍可能在討論串爆發時出現尖峰。在機器人中排隊請求,即可保持在限制內。

情境 3:1,000 使用者應用程式

假設每月 1,000 名使用者每人發送 40 次請求,共 40,000 次請求。每次請求包含 2,500 輸入 token(系統提示詞加歷史紀錄),返回 500 token。

  • 輸入:40,000 x 2,500 = 100M token,費用 100 x $0.15 = $15.00。
  • 輸出:40,000 x 500 = 20M token,費用 20 x $0.50 = $10.00。
  • 總計:每月 $25.00,或每人 2.5 美分。

此處輸出佔帳單 40%,儘管 token 數僅為六分之一,因為每 token 費用高逾三倍。簡短回覆有幫助。若要求回覆 250 token 而非 500,輸出費用將降至 $5.00,總計降至 $20.00。$20 儲值即可覆蓋該應用程式一個月,而 $100 儲值附贈 +10% 獎金,提供 $110 額度,可覆蓋約五個月。

情境 4:批次管線

批次作業依文件數量擴展。假設每月標記或改寫 200,000 個項目,每個項目 1,200 輸入 token 與 250 token 結果。

  • 輸入:200,000 x 1,200 = 240M token,費用 240 x $0.15 = $36.00。
  • 輸出:200,000 x 250 = 50M token,費用 50 x $0.50 = $25.00。
  • 總計:每月 $61.00。

對於批次工作,關鍵限制是吞吐量而非價格。以 8 次並行請求計算,工作時間為請求數除以 8 再乘以平均請求持續時間。在規劃排程前,請先計算你自己的延遲時間,並將工作池保持在 8 或以下,以免觸發 concurrency 錯誤。失敗請求不計費,因此重試不會增加成本。

估算你自己的月度費用

公式很簡單:每月費用 = 請求數 x (輸入 token x $0.15 + 輸出 token x $0.50) / 1,000,000。此腳本可執行計算,若你先運行範例,它也會讀取實際 token 計數。

from openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")

def monthly(requests, tokens_in, tokens_out):
    return requests * (tokens_in * 0.15 + tokens_out * 0.50) / 1_000_000

print(monthly(40_000, 2_500, 500))   # 25.0

# sample 20 real prompts, then use the measured averages
ins, outs = [], []
for p in open("prompts.txt").read().splitlines()[:20]:
    r = client.chat.completions.create(
        model="uncensored", messages=[{"role": "user", "content": p}])
    ins.append(r.usage.prompt_tokens)
    outs.append(r.usage.completion_tokens)
print(monthly(10_000, sum(ins) / len(ins), sum(outs) / len(outs)))

範例運行費用不到一美分。新使用者可在 API 金鑰頁面 領取 $0.50 免費試用額度來運行它,無需付費,定價頁面 則顯示費率與儲值獎金。

影響帳單最大的因素

在所有四種情境中,以下因素會影響總計:

  1. 上下文大小。 歷史紀錄與貼上的文件驅動輸入成本。請精簡它們。
  2. 輸出長度。 輸出每 1M token 費用 $0.50,因此請要求你需要的長度,並在適當時設定 max_tokens。
  3. 重試與迴圈。 重複呼叫的錯誤可在一小時內使每月成本倍增。請限制重試次數。
  4. 流量增長。 費用與請求數呈線性關係。使用者加倍,帳單加倍。

預算規劃

選擇最接近你專案的情境,並將第一個月的預算乘以 2 的安全係數,因為實際流量很少像試算表那樣平均。然後設定低餘額警報。每個回應都帶有 X-Balance-USD 標頭,因此你的應用程式可以發送電子郵件給你,當額度低於你設定的數值時,並在服務中斷前儲值。若流量增長十倍,帳單也增長十倍:10 倍負載的 Discord bot 費用為 $58.50,10,000 使用者應用程式為 $250.00。費用不會以階梯跳躍,因此沒有因為用量增長而需要跳過的定價層級。

資金來源

你從預付額度付費,無訂閱費,因此安靜的月份費用接近零。儲值金額從 $20 到 $500 不等,可透過加密貨幣(USDT (TRC20)、USDC (Base))支付,$50 起贈 +5%、$100 起贈 +10%、$200 起贈 +15%。

這些估算的限制

情境未涵蓋兩件事。首先,它們假設穩定使用,而實際產品會有高峰,例如發布日或病毒式傳播的討論串,單一高峰日可能耗盡一週的預算。其次,它們假設提示詞大小不變。產品變更常使系統提示詞變大,每月呼叫 40,000 次的呼叫增加 500 token,會增加 20M 輸入 token,即 $3.00。每次提示詞變更後請重新測量。

這些是計算結果,不是對你使用的保證。實際提示詞會變化,你的 token 計數取決於你發送的語言與內容。這是純文字 API,因此嵌入、影像或音訊的費用不在這些數字內。服務由獨立供應商提供單一開放權重模型,針對合法成人使用調整為無內容審查。

本文所用術語定義請見什麼是 LLM 推理。會悄悄增加帳單的錯誤列於常見 AI 聊天 API 錯誤。文件涵蓋請求格式。

問答

小型機器人每月成本是多少?

每月 600 則訊息、1,500 個輸入 token 與 300 個輸出 token 的機器人,成本為 $0.225。

除了 token 成本外,還有月費嗎?

沒有。你從預付額度按 token 付費,且額度不會過期。

最小儲值金額是多少?

$20,任何整數金額,最高至 $500。儲值 $50、$100 和 $200 時,分別享有 5%、10% 和 15% 的獎金。

失敗的請求會收費嗎?

不會。失敗或被拒絕的請求不會收費。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰