LLM Inference APIPrzewodnik
Koszt LLM API miesięcznie: cztery realistyczne scenariusze
Cztery miesięczne rachunki policzone linia po linii po $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych, plus skrypt do wyceny własnego ruchu.
Aktualizacja:


Kluczowe punkty
- Wskaż dowolne SDK OpenAI na https://api.llminferenceapi.com/v1, użyj ID modelu uncensored i przekaż swój klucz jako token Bearer.
- Dostępne są dwa endpointy: POST /v1/chat/completions i GET /v1/models.
- Strumieniowanie, wywoływanie funkcji i tryb JSON działają przez standardowe pola zapytania.
- Pełny klucz pozwala na 8 równoległych zapytań i 300 na minutę; odpowiedź 429 informuje, jaki limit przekroczyłeś.
Cztery scenariusze na pierwszy rzut oka
Jeśli chcesz ustalić koszt LLM API miesięcznie, jedna średnia nie wystarczy, bo rachunki zależą od liczby wysyłanych przez Ciebie zapytań i ich długości. Poniżej znajdziesz cztery realistyczne konfiguracje wycenione przy $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych. Każda z nich pokazuje swoje założenia, dzięki czemu możesz podmienić je na własne.
| Scenariusz | Zapytania miesięcznie | Tokeny na zapytanie (wejście / wyjście) | Miesięczny koszt |
|---|---|---|---|
| Bot czatu hobbistycznego | 600 | 1 500 / 300 | $0,225 |
| Społeczność Discord | 9 000 | 3 000 / 400 | $5,85 |
| Aplikacja z 1 000 użytkownikami | 40 000 | 2 500 / 500 | $25,00 |
| Potok wsadowy | 200 000 | 1 200 / 250 | $61,00 |
Pozostała część artykułu pokazuje rachunki i czynniki wpływające na każdą kwotę.
Scenariusz 1: bot hobbistyczny
Uruchamiasz osobistego bota, który odpowiada na około 20 wiadomości dziennie, czyli 600 miesięcznie. Każda wiadomość zawiera krótki prompt systemowy i historię, co daje ok. 1 500 tokenów wejściowych, a odpowiedź ma średnio 300 tokenów.
- Wejście: 600 x 1 500 = 0,9M tokenów, co kosztuje 0,9 x $0,15 = $0,135.
- Wyjście: 600 x 300 = 0,18 mln tokenów, co kosztuje 0,18 x $0,50 = $0,09.
- Razem: $0,225 miesięcznie.
To przypadek, w którym minimalne doładowanie $20 starcza na dłużej niż wszystko inne. Przy takim tempie pokryje ponad siedem lat użytkowania. Kredyt nigdy nie wygasa, więc projekt hobbistyczny może spocząć na jednym doładowaniu bez presji czasu.
Scenariusz 2: bot społeczności Discord
Bot na aktywnym serwerze obsługuje 300 zapytań dziennie, czyli 9 000 miesięcznie. Odczytuje kontekst ostatnich kanałów, więc każde wywołanie ma ok. 3 000 tokenów wejściowych, a odpowiedź ma ok. 400 tokenów.
- Wejście: 9 000 x 3 000 = 27M tokenów, czyli 27 x $0,15 = $4,05.
- Wyjście: 9 000 x 400 = 3,6M tokenów, czyli 3,6 x $0,50 = $1,80.
- Razem: $5,85 miesięcznie.
Obserwuj stronę wejściową. Podwojenie kontekstu wklejanego do każdego zapytania podwaja większą część rachunku, podczas gdy długość odpowiedzi ma znikome znaczenie. Wiele botów oszczędza pieniądze, wysyłając ostatnie sześć wiadomości zamiast ostatnich dwudziestu. Sprawdź też limity zapytań: pełny klucz pozwala na 8 zapytań naraz i 300 na minutę, co znacznie przewyższa to obciążenie, ale obciążony serwer może nadal generować szczyty, gdy wątek się rozkręci. Kolejkuj zapytania w botcie i zmieścisz się w limitach.
Scenariusz 3: aplikacja z 1 000 użytkownikami
Załóżmy, że każdy z 1 000 użytkowników miesięcznych wysyła 40 zapytań, co daje 40 000 zapytań. Zapytanie zawiera 2 500 tokenów wejściowych (prompt systemowy plus historia) i zwraca 500 tokenów.
- Wejście: 40 000 x 2 500 = 100M tokenów, czyli 100 x $0,15 = $15,00.
- Wyjście: 40 000 x 500 = 20M tokenów, czyli 20 x $0,50 = $10,00.
- Łącznie: $25,00 miesięcznie, albo 2,5 centa na użytkownika.
Tutaj koszt wyjścia to 40% rachunku, choć stanowi tylko szóstą część tokenów, ponieważ kosztuje ponad trzy razy więcej za token. Krótkie odpowiedzi się opłacają. Gdybyś poprosił o odpowiedzi o długości 250 tokenów zamiast 500, pozycja wyjściowa spadłaby do $5,00, a suma całkowita do $20,00. Doładowanie za $20 wystarczyłoby na tę aplikację na miesiąc, a doładowanie za $100, które daje +10% bonusu, czyli $110 kredytu, starczyłoby na około pięć miesięcy.
Scenariusz 4: potok wsadowy
Zadania wsadowe skalują się według liczby dokumentów. Załóżmy, że oznaczasz lub przepisujesz 200 000 elementów miesięcznie, każdy z 1 200 tokenami wejściowymi i wynikiem 250 tokenów.
- Wejście: 200 000 x 1 200 = 240 mln tokenów, czyli 240 x $0,15 = $36,00.
- Wyjście: 200 000 x 250 = 50 mln tokenów, czyli 50 x $0,50 = $25,00.
- Razem: $61,00 miesięcznie.
Przy pracy wsadowej decyduje przepustowość, a nie cena. Przy 8 zapytaniach równoległych czas zadania to liczba zapytań podzielona przez 8, pomnożona przez średni czas trwania zapytania. Przeprowadź obliczenia dla własnej opóźnienia przed zaplanowaniem harmonogramu i utrzymuj pulę workerów na poziomie 8 lub mniej, aby nie wywołać błędu concurrency. Nieudane zapytania nie są rozliczane, więc ich ponowne wykonanie nie generuje kosztów.
Oblicz swój własny miesiąc
Wzór jest prosty: koszt miesięczny = zapytania x (tokeny wejściowe x $0,15 + tokeny wyjściowe x $0,50) / 1 000 000. Ten skrypt to robi i dodatkowo odczytuje rzeczywiste liczby tokenów, jeśli najpierw uruchomisz próbkę.
from openai import OpenAI
client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")
def monthly(requests, tokens_in, tokens_out):
return requests * (tokens_in * 0.15 + tokens_out * 0.50) / 1_000_000
print(monthly(40_000, 2_500, 500)) # 25.0
# sample 20 real prompts, then use the measured averages
ins, outs = [], []
for p in open("prompts.txt").read().splitlines()[:20]:
r = client.chat.completions.create(
model="uncensored", messages=[{"role": "user", "content": p}])
ins.append(r.usage.prompt_tokens)
outs.append(r.usage.completion_tokens)
print(monthly(10_000, sum(ins) / len(ins), sum(outs) / len(outs)))Uruchomienie próbki kosztuje ułamek centa. Nowi użytkownicy mogą zebrać $0,50 kredytu próbnego na stronie klucza API, aby go uruchomić bez płacenia, a strona cenowa pokazuje stawki i bonusy za doładowanie.
Co najbardziej wpływa na rachunek
We wszystkich czterech scenariuszach te same dźwignie wpływają na sumę:
- Rozmiar kontekstu. Historia i wklejone dokumenty napędzają koszt wejścia. Ograniczaj je.
- Długość wyjścia. Wyjście kosztuje $0,50 za 1 mln tokenów, więc proś o długość, której potrzebujesz, i ustaw
max_tokenstam, gdzie to pomaga. - Ponowne próby i pętle. Błąd powtarzający wywołania może pomnożyć koszt miesiąca w ciągu godziny. Ogranicz ponowne próby.
- Wzrost ruchu. Koszt rośnie liniowo wraz z liczbą zapytań. Podwój liczbę użytkowników, podwój rachunek.
Planowanie budżetu
Wybierz scenariusz najbliższy Twojemu projektowi i pomnóż przez współczynnik bezpieczeństwa dwa na pierwszy miesiąc, ponieważ rzeczywisty ruch rzadko jest tak równy jak w arkuszu. Ustaw następnie alert niskiego salda. Każda odpowiedź zawiera nagłówek X-Balance-USD, dzięki czemu Twoja aplikacja może wysłać Ci e-mail, gdy kredyt spadnie poniżej wybranej liczby, a Ty doładujesz przed zatrzymaniem czegokolwiek. Jeśli Twój ruch wzrośnie dziesięciokrotnie, rachunek wzrośnie dziesięciokrotnie: bot Discord przy 10x będzie kosztował $58,50, a aplikacja z 10 000 użytkowników $250,00. Nic nie skacze krokami, więc nie ma progów cenowych, które można przekroczyć.
Finansowanie
Płacisz z przedpłaconego kredytu bez subskrypcji, więc cichy miesiąc kosztuje prawie nic. Doładowania wynoszą od $20 do $500, kryptowalutami (USDT na TRC20, USDC na Base), z +5% od $50, +10% od $100 i +15% od $200.
Ograniczenia tych szacunków
Dwie rzeczy pominięte w scenariuszach. Po pierwsze, zakładają stałe użytkowanie, podczas gdy rzeczywiste produkty mają szczyty, takie jak dzień premiery lub wirusowy wątek, a jeden dzień szczytowy może zużyć tygodniowy budżet. Po drugie, zakładają, że prompty pozostają tej samej wielkości. Zmiany produktu często powiększają prompt systemowy, a dodanie 500 tokenów do wywołania wykonywanego 40 000 razy miesięcznie dodaje 20 mln tokenów wejściowych, czyli $3,00. Przeprowadzaj pomiar ponownie po każdej zmianie promptu.
To są obliczenia, nie obietnice dotyczące Twojego użytkowania. Rzeczywiste prompty się różnią, a Twoje liczby tokenów zależą od języka i treści, które wysyłasz. To API tylko tekstowe, więc koszty embeddingów, obrazów lub audio wykraczają poza te figury. Usługa obsługuje jeden model o otwartych wagach od niezależnego dostawcy, dostrojony do odpowiadania bez odmów treści dla prawnego użytku dorosłych.
Definicje użytych tutaj terminów znajdziesz w czym jest wnioskowanie LLM. Błędy, które cicho podnoszą rachunki, są wymienione w częstych błędach API czatu AI. Dokumentacja obejmuje format zapytania.
Więcej przewodników
Pytania i odpowiedzi
Ile kosztuje mały bot miesięcznie?
Bot z 600 wiadomościami miesięcznie, przy 1500 tokenach wejściowych i 300 tokenach wyjściowych, kosztuje $0,225.
Czy istnieje opłata miesięczna dodatkowo do kosztów tokenów?
Nie. Płacisz za tokeny z przedpłaconego kredytu, a kredyt nie wygasa.
Jaka jest minimalna kwota doładowania?
$20, w dowolnej kwocie całkowitej do $500. Bonusy 5%, 10% i 15% obowiązują od kwot $50, $100 i $200.
Czy nieudane zapytania kosztują coś?
Nie. Nieudane lub odrzucone zapytania nie są rozliczane.
Twój klucz jest o jeden formularz stąd
Utwórz konto, skopiuj klucz, zmień base URL. To cała konfiguracja.
Pobierz klucz API