JA ▾
API キーを取得

LLM Inference APIガイド

LLM APIの月次コスト:4つの現実的なシナリオ

1M入力トークンあたり$0.15、1M出力トークンあたり$0.50で4つの月次請求額を明細ごとに計算し、独自のトラフィックを価格計算するためのスクリプトも用意しています。

更新日:

月次コストシナリオごとに、光る立方体が埋められた4つの上昇するガラスバー
ターミナルからクラウドゲートウェイへデータパケットが流れる等角図解。推論 API 呼び出しを表す

主要ポイント

  1. OpenAI SDK の対象を https://api.llminferenceapi.com/v1 にし、モデル ID に uncensored を指定し、API キーを Bearer トークンとして送信してください。
  2. 2 つのエンドポイントが利用可能です:POST /v1/chat/completions と GET /v1/models。
  3. ストリーミング、ツール呼び出し、JSON モードは標準的なリクエストフィールドを通じて動作します。
  4. フルキーは8つの同時リクエストと1分あたり300リクエストを許可します。429レスポンスは、どのレート制限に到達したかを示します。

4つのシナリオの概要

月額LLM APIコスト を計算しようとしている場合、単一の平均値は役立ちません。請求額は送信するリクエストの数と長さによって異なるためです。以下に、入力トークン1Mあたり$0.15、出力トークン1Mあたり$0.50で計算された、現実的な4つの設定を示します。それぞれが前提条件を示すことで、あなた自身の前提条件に置き換えることができます。

シナリオ1ヶ月あたりのリクエスト数リクエストあたりのトークン数(入力/出力)月間コスト
ホビーチャットボット6001,500 / 300$0.225
Discordコミュニティ9,0003,000 / 400$5.85
1,000ユーザーのアプリ40,0002,500 / 500$25.00
バッチパイプライン200,0001,200 / 250$61.00

記事の残りの部分では、算術計算と各数値を決定する要因を示します。

シナリオ1:ホビーボット

1日あたり約20メッセージ、月間600メッセージに回答する個人用ボットを実行します。各メッセージには短いシステムプロンプトと履歴が含まれており、入力トークンは約1,500、返信の平均は300トークンです。

  • 入力:600 x 1,500 = 0.9Mトークン、コストは0.9 x $0.15 = $0.135。
  • 出力:600 x 300 = 0.18Mトークン、コストは0.18 x $0.50 = $0.09。
  • 合計:月あたり$0.225。

これは、最低限の$20のチャージが他のすべての利用期間よりも長く続くケースです。このレートでは、7年以上の利用をカバーできます。クレジットは期限が切れないため、趣味のプロジェクトでは1回のチャージでタイマーを気にせずに維持できます。

シナリオ2:Discordコミュニティボット

アクティブなサーバーのボットは、1日あたり300リクエスト、月間9,000リクエストを処理します。最近のチャンネルコンテキストを読み取るため、各呼び出しには約3,000の入力トークンが含まれ、約400の返信を行います。

  • 入力:9,000 x 3,000 = 27Mトークン、つまり27 x $0.15 = $4.05。
  • 出力:9,000 x 400 = 3.6Mトークン、つまり3.6 x $0.50 = $1.80。
  • 合計:月次$5.85。

入力側を確認してください。各呼び出しに貼り付けるコンテキストを2倍にすると、請求額の大きな部分を占める入力のコストが2倍になりますが、返信の長さはほとんど影響しません。多くのボットは、最後の20メッセージではなく最後の6メッセージを送信することでコストを節約しています。また、レート制限も確認してください。通常キーでは同時に8リクエスト、1分間に300リクエストまで可能で、これはこの負荷よりもはるかに上ですが、スレッドが急増した際にサーバーでもスパイクが発生する可能性があります。ボットでリクエストをキューに入れれば、制限内に収まります。

シナリオ3:1,000ユーザーのアプリ

月間1,000人のユーザーがそれぞれ40リクエストを送信すると仮定すると、40,000リクエストになります。1つのリクエストには2,500の入力トークン(システムプロンプトと履歴)が含まれ、500トークンを返します。

  • 入力:40,000 x 2,500 = 100Mトークン、つまり100 x $0.15 = $15.00。
  • 出力:40,000 x 500 = 20Mトークン、つまり20 x $0.50 = $10.00。
  • 合計:月次$25.00、ユーザーあたり2.5セント。

ここでは、トークン数の6分の1にもかかわらず、トークンあたりのコストが3倍以上であるため、出力が請求額の40%を占めています。短い回答が効果的です。500トークンではなく250トークンの返信をリクエストした場合、出力ラインは $5.00 に、合計は $20.00 になります。$20 のチャージでこのアプリを1ヶ月カバーでき、+10% ボーナス付きの $100 のチャージ(クレジット $110 が付与される)では、約5ヶ月カバーできます。

シナリオ4:バッチパイプライン

バッチジョブはドキュメント数でスケールします。月間200,000件のアイテムにタグ付けまたは書き換えを行うと仮定し、それぞれ1,200の入力トークンと250トークンの結果があるとします。

  • 入力:200,000 x 1,200 = 240Mトークン、つまり240 x $0.15 = $36.00。
  • 出力:200,000 x 250 = 50Mトークン、つまり50 x $0.50 = $25.00。
  • 合計:月次$61.00。

バッチ作業では、価格ではなくスループットが制限要因となります。8つの同時リクエストの場合、ジョブの所要時間は、リクエスト数を8で割った値に平均リクエスト時間を掛けたものです。スケジュールを計画する前に、独自のレイテンシで算術計算を実行し、concurrencyエラーを引き起こさないようワーカープールを8以下に保ってください。失敗したリクエストは課金されないため、再試行してもコストは増えません。

月間コストの見積もり

公式は簡潔です:月次コスト = リクエスト数 x (入力トークン x $0.15 + 出力トークン x $0.50) / 1,000,000。このスクリプトが計算を実行し、サンプルを最初に実行すれば実際のトークン数も読み取ります。

from openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")

def monthly(requests, tokens_in, tokens_out):
    return requests * (tokens_in * 0.15 + tokens_out * 0.50) / 1_000_000

print(monthly(40_000, 2_500, 500))   # 25.0

# sample 20 real prompts, then use the measured averages
ins, outs = [], []
for p in open("prompts.txt").read().splitlines()[:20]:
    r = client.chat.completions.create(
        model="uncensored", messages=[{"role": "user", "content": p}])
    ins.append(r.usage.prompt_tokens)
    outs.append(r.usage.completion_tokens)
print(monthly(10_000, sum(ins) / len(ins), sum(outs) / len(outs)))

サンプルの実行には1セント未満のコストがかかります。新規ユーザーはAPIキーページで$0.50のトライアルクレジットを請求でき、何も支払わずに実行できます。価格設定ページにはレートとチャージボーナスが表示されます。

請求額を最も変化させる要因

4つのシナリオすべてで、合計に影響を与える同じレバーがあります:

  1. コンテキストサイズ。 履歴と貼り付けたドキュメントが入力コストを駆動します。それらを削減してください。
  2. 出力の長さ。 出力は1Mあたり$0.50かかるため、必要な長さを指定し、役立つ箇所でmax_tokens を設定してください。
  3. リトライとループ。 呼び出しを繰り返すバグがあると、1時間以内に月のコストが何倍にもなる可能性があります。リトライを制限してください。
  4. トラフィックの増加。 コストはリクエスト数に比例して増加します。ユーザーが2倍になれば、請求額も2倍になります。

予算の計画

プロジェクトに最も近いシナリオを選択し、最初の月の安全係数として2を掛けます。実際のトラフィックはスプレッドシートほど均等ではないためです。次に、低残高アラートを設定します。すべてのレスポンスにはX-Balance-USDヘッダーが含まれているため、アプリはクレジットが選択した数値を下回ったときにメールを送信でき、何も止まる前にチャージできます。トラフィックが10倍に成長した場合、請求額も10倍になります:Discordボットは$58.50、10,000ユーザーのアプリは$250.00になります。ステップでジャンプするものはないため、価格帯を超えて成長することはありません。

資金調達

サブスクリプションなしで前払いクレジットから支払いを行うため、使用のない月はほぼコストがかかりません。チャージは$20から$500まで、暗号資産(TRC20上のUSDT、Base上のUSDC)で実行でき、$50以上で+5%、$100以上で+10%、$200以上で+15%のボーナスが付きます。

これらの見積もりの限界

シナリオが省略している2つの事柄があります。第一に、安定した使用を前提としていますが、実際の製品にはピークがあり、例えばローンチ日やバイラルスレッドなどがあり、1日のピークで1週間の予算を使うことがあります。第二に、プロンプトのサイズが同じであることを前提としています。製品の変更はしばしばシステムプロンプトを肥大化させ、月間40,000回呼び出される呼び出しに500トークンの追加を加えると、20Mの入力トークン、つまり$3.00が追加されます。プロンプトの変更ごとに再測定してください。

これらは計算値であり、実際の使用量を保証するものではありません。実際のプロンプトは多様であり、トークン数は言語や送信するコンテンツによって異なります。これはテキスト専用APIのため、埋め込み、画像、音声のコストはこれらの数値に含まれません。サービスは独立したプロバイダーのオープンウェイトモデルを1つ実行しており、法的な成人向け利用に対してコンテンツ拒否なしで回答するようにチューニングされています。

ここで使用されている用語の定義については、LLM推論とは何かをご覧ください。請求書を静かに増やす可能性のあるミスは、よくあるAIチャットAPIのミスに記載されています。リクエスト形式についてはドキュメントをご覧ください。

質問と回答

小さなボットの月間コストはいくらですか?

月間600メッセージ、入力1,500トークン、出力300トークンのボットの場合、コストは$0.225です。

トークンコストに加えて月額料金はありますか?

いいえ。前払いクレジットからトークンごとに課金され、クレジットは期限切れになりません。

最小のチャージ金額はいくらですか?

$20から、$500までの任意の整数額。ボーナス(5%、10%、15%)は、$50、$100、$200から適用されます。

失敗したリクエストにもコストがかかりますか?

いいえ。失敗または拒否されたリクエストは課金されません。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

API キーを取得