JA ▾
API キーを取得

LLM Inference APIガイド

最も安いLLM Inference API:実際のコストの見方

トークン単価は始まりにすぎません。請求額を決める数値で推論APIを比較する方法を、当社の料金を例に示します。

更新日:

APIコストを比較するためのトークンブロックと硬貨のつり合い
ターミナルからクラウドゲートウェイへデータパケットが流れる等角図解。推論 API 呼び出しを表す

主要ポイント

  1. OpenAI SDK のいずれかを https://api.llminferenceapi.com/v1 にポイントし、モデル ID に uncensored を指定して、API キーを Bearer トークンとして送信してください。
  2. 2 つのエンドポイントが利用可能です:POST /v1/chat/completions と GET /v1/models。
  3. ストリーミング、ツール呼び出し、JSON モードは標準的なリクエストフィールドを通じて動作します。
  4. フルキーは最大8つの同時リクエストと1分あたり300リクエストを許可し、429応答でどちらの制限に達したかを確認できます。

100万トークンあたりの価格はスタート地点に過ぎません

最も安いLLM推論APIとは、ワークロードに対して最も低コストなものであり、必ずしも価格表上の最低数字とは限りません。2つのプロバイダーが同じ見出し価格を提示していても、出力トークン、長いプロンプト、失敗した呼び出し、最小チャージ額を合計すると、請求額は大きく異なることがあります。

選択前に4つのチェックを行ってください:入力価格、出力価格、モデルの長いコンテキストの扱い、前払いの金額です。この記事では各項目を解説し、当社の価格を計算例として示し、他社の数値はあなたに任せます。現在の価格表を確認し、同じ計算式に数値を当てはめてください。

入力トークンと出力トークン

ほぼすべての LLM API は入力と出力を別々に課金し、出力は通常より高くなります。当社の料金は 1M トークンあたり入力 $0.15、出力 $0.50 です。これにより、出力の入力に対する価格は 3 倍以上になります。そのため、トラフィックの構成によって結果が変化します。

入力と出力トークンの比率によるブレンド価格の変化は次の通りです:

入力:出力比率1Mトークンあたりのコスト100万あたりの平均
1 : 10.5M x $0.15 + 0.5M x $0.50 = $0.325$0.325
3 : 10.75M x $0.15 + 0.25M x $0.50 = $0.2375$0.2375
10 : 1約 0.909M x $0.15 + 0.091M x $0.50 = $0.1818約$0.18
1 : 30.25M x $0.15 + 0.75M x $0.50 = $0.4125$0.4125

要約ツールは大量を読み込んで少量を書くため、10 : 1の行に近くなります。ストーリー生成は短いプロンプトから大量を書くため、1 : 3の行に近くなります。2つのプロバイダーを比較する際は、自身の比率で両方の行を計算してください。入力では安いプロバイダーでも、生成中心のワークロードでは不利になることがあります。

コンテキストの長さが請求に影響

チャットアプリは毎ターン会話全体を再送信します。チャットが20ターンに達すると、20ターン目はそれまでの19回のやり取りを入力として持ちます。そのため、会話のコストは長さよりも速く増加します。

計算例。各ターンでユーザーテキスト300トークン、返信300トークンが追加され、システムプロンプトは500トークンです。nターン目の入力は 500 + (n - 1) x 600 + 300 トークンです。20ターン合計で 20 x 800 + 600 x 190 = 130,000 入力トークン、20 x 300 = 6,000 出力トークンとなります。入力は 130,000 x $0.15 / 1M = $0.0195、出力は 6,000 x $0.50 / 1M = $0.003 で、20ターンの会話全体で$0.0225かかります。

正確な数値よりも重要なのは構成です。長いチャットでは入力が支配的になります。入力価格が安いプロバイダーは、出力価格が安いプロバイダーよりもここでより役立ちます。古い会話を切り捨てたり要約したりすると、最も大きなコストを削減できます。当社のコンテキストウィンドウは 100,000 トークンで、プロンプトと補完を合計した値です。そのため非常に長いドキュメントも収まりますが、送信するたびにすべて入力トークンとして課金されます。

確認すべき隠れたコスト

  • 最小チャージ額。 当社の最小チャージ額は$20で、$500までの任意の整数金額がチャージ可能です。トークン単価が低くても最小チャージ額が大きいプロバイダーは、小規模なプロジェクトではより高くなる場合があります。
  • 有効期限。 期限切れするクレジットは無駄になる可能性があります。当社のクレジットは期限切れしません。
  • サブスクリプション。 月額料金はトークン課金サービスを固定費に変えます。当社は従量課金です。
  • 失敗の課金。 失敗または拒否されたリクエストはここで課金されません。比較するどのプロバイダーでも確認してください。
  • レート制限。 低価格だがリクエスト上限が低いと、2つ目のアカウントを購入するかパイプラインを遅らせる必要があります。ここでのフルキーは最大8つの同時リクエストと1分あたり300リクエストを許可します。
  • 支払い手数料とボーナス。 $50から+5%クレジット、$100から+10%クレジット、$200から+15%クレジットを追加します。したがって、$200のトップアップで$230になります。

計算例付きの当社の料金

以下の数値はすべて、100万入力あたり$0.15、100万出力あたり$0.50を使用しています。

ワークロードトークンコスト
チャット1ターン:入力2,000、出力5002,500$0.0003 + $0.00025 = $0.00055
そのようなターン1,000回250万$0.55
10,000記事の要約:各3,000入力、200出力3,200万$4.50 + $1.00 = $5.50
5,000ストーリーの生成:各300入力、1,500出力900万$0.225 + $3.75 = $3.975

サマライザーの行を確認してください:10,000 x 3,000 = 30M 入力トークン、および 30 x $0.15 = $4.50。10,000 x 200 = 2M 出力トークン、および 2 x $0.50 = $1.00。合計は $5.50 です。ストーリー行の場合:5,000 x 300 = 1.5M 入力、これは $0.225、および 5,000 x 1,500 = 7.5M 出力、これは $3.75 です。合計は $3.975 です。

価格ページには料率とボーナスが記載されており、暗号資産(TRC20上のUSDT、Base上のUSDC)で支払えます。

スクリプトを使って実際のコストを測定する

推定値を長く信頼しないでください。代表的なプロンプト50件を実行し、APIにトークンを報告させます。以下のコードはusageフィールドからコスト推定値を出力します。

from openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")
IN, OUT = 0.15, 0.50   # dollars per 1M tokens

def cost(u):
    return (u.prompt_tokens * IN + u.completion_tokens * OUT) / 1_000_000

total = 0.0
for p in open("prompts.txt"):
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p.strip()}],
    )
    total += cost(r.usage)
print("average per request: $%.5f" % (total / 50))

平均値に予想される月間リクエスト数を掛けます。検討中の各プロバイダーでも同じ計算を行い、回答のサンプルを読んで品質を考慮してください。タスクごとに2回の試行が必要な安いモデルは、安くないことになります。

1時間で完了できる5ステップの比較

  1. 実際のプロンプトのサンプルから、1リクエストあたりの予想入力トークンと出力トークンを書き出します。
  2. 各プロバイダーの入力価格と出力価格に掛け、リクエストごと、月ごとに計算します。
  3. 固定費を加算します:最小チャージ額、サブスクリプション、使用前に期限切れするクレジット。
  4. 各モデルで同じ20件のプロンプトを実行し、回答にスコアを付けます。これにより、トークンあたりのコストではなく、良い回答あたりのコストを比較できます。
  5. ピーク時のトラフィックに対して制限を確認してください。同時に8件を超えるリクエストが必要な場合は、代わりにキューを実行できるかお問い合わせください。

結果は、プロバイダーごとに1行ずつ、ワークロードの月間費用をまとめた表になります。この表がタイトルにある質問に対する実際の答えであり、プロバイダーが価格を変更するまでは有効です。数ヶ月ごとに再確認してください。フレームワーク比較は、独自のハードウェアでモデルを実行する場合に役立ちます。また、よくあるチャットAPIの間違いページには、履歴を2回再送するなどして請求額が静かに増加するエラーがリストされています。

安価なオプションでできないこと

どのプロバイダーを選んでも、コストを削減する4つの方法があります。短い回答で十分であればmax_tokensを制限します。出力が高額な側であるためです。システムプロンプトを簡素化し、モデルが必要としなくなった会話のターンを削除します。分類などの単純なタスクを、厳格な出力形式を持つ短いプロンプトにルーティングします。また、機能ごとのトークン数をログに記録し、編集後にプロンプトテンプレートのサイズが静かに2倍になることを検知できるようにします。これらの習慣は、プロバイダーを数セントの違いで切り替えるよりも多くの節約につながります。

このサービスはテキストのみです。埋め込み、画像生成、音声生成、ファインチューニングは提供しないため、それらが必要な場合は別のプロバイダーに別途料金を支払う必要があります。独立したプロバイダーのオープンウェイトモデルを1つ実行しており、法的な成人向け利用に対してコンテンツ拒否なしで回答するようにチューニングされています。これはいかなるモデルベンダーの公式APIでもありません。未成年者を含む性的なコンテンツは常に禁止されています。

それがあなたにとって最安かどうかは、その単一モデルがあなたのタスクに十分適しているかどうかにかかります。まず無料でテストしてください:新規ユーザーはAPIキーページでワンクリックで$0.50の試用クレジットを取得できます。カードは不要です。その後、ドキュメントをお読みください。基礎的な知識に不慣れな場合は、LLM推論とはが上記で使われている用語を解説しています。

質問と回答

チャットメッセージ1件あたりのコストはいくらですか?

入力2,000トークン、出力500トークンのターンは$0.00055かかり、1,000ターンの合計は$0.55です。

月額料金はありますか?

いいえ。前払いクレジットからの従量課金制であり、クレジットは期限切れになりません。

失敗したリクエストも課金されますか?

いいえ。失敗または拒否されたリクエストは課金されません。

最低価格が常に最良の選択肢ですか?

いいえ。出力の比率、コンテキストウィンドウの長さ、最小チャージ額、回答の品質はすべて実際のコストに影響します。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

API キーを取得