LLM Inference APIPanduan
Biaya API LLM per Bulan: Empat Skenario Realistis
Empat tagihan bulanan dihitung baris demi baris dengan harga $0,15 per 1 juta token input dan $0,50 per 1 juta token output, ditambah skrip untuk menghitung biaya lalu lintas Anda sendiri.
Diperbarui:


Poin utama
- Arahkan SDK OpenAI apa pun ke https://api.llminferenceapi.com/v1, gunakan ID model uncensored, dan kirimkan kunci Anda sebagai token Bearer.
- Dua endpoint tersedia: POST /v1/chat/completions dan GET /v1/models.
- Streaming, pemanggilan fungsi, dan mode JSON bekerja melalui bidang permintaan standar.
- Kunci penuh memungkinkan 8 permintaan konkuren dan 300 per menit; respons 429 memberi tahu Anda batas mana yang Anda capai.
Keempat skenario sekilas
Jika Anda mencoba menghitung biaya API LLM per bulan, satu angka rata-rata tidak membantu, karena tagihan bergantung pada berapa banyak permintaan yang Anda kirimkan dan berapa panjangnya. Di bawah ini ada empat skenario realistis yang dihargai $0,15 per 1 juta token input dan $0,50 per 1 juta token output. Setiap skenario menunjukkan asumsinya agar Anda dapat mengganti dengan data Anda sendiri.
| Skenario | Permintaan per bulan | Token per permintaan (input / output) | Biaya bulanan |
|---|---|---|---|
| Bot obrolan hobi | 600 | 1,500 / 300 | $0.225 |
| Komunitas Discord | 9,000 | 3,000 / 400 | $5,85 |
| Aplikasi dengan 1,000 pengguna | 40,000 | 2,500 / 500 | $25,00 |
| Pipa batch | 200,000 | 1,200 / 250 | $61,00 |
Sisa artikel menunjukkan aritmatika dan apa yang mendorong setiap angka.
Skenario 1: bot hobi
Anda menjalankan bot pribadi yang menjawab sekitar 20 pesan sehari, atau 600 per bulan. Setiap pesan membawa prompt sistem pendek dan beberapa riwayat, sekitar 1.500 token input, dan balasan rata-rata 300 token.
- Input: 600 x 1.500 = 0,9 juta token, yang biayanya 0,9 x $0,15 = $0,135.
- Output: 600 x 300 = 0,18 juta token, yang biayanya 0,18 x $0,50 = $0,09.
- Total: $0,225 per bulan.
Ini adalah kasus di mana top-up minimum $20 bertahan lebih lama dari yang lain. Dengan laju ini, itu akan mencakup lebih dari tujuh tahun penggunaan. Saldo tidak pernah kedaluwarsa, sehingga proyek hobi dapat tetap menggunakan satu top-up tanpa timer kedaluwarsa yang berjalan.
Skenario 2: bot komunitas Discord
Bot di server aktif menangani 300 permintaan sehari, atau 9,000 per bulan. Bot ini membaca konteks saluran terbaru, sehingga setiap panggilan memiliki sekitar 3.000 token input, dan membalas dengan sekitar 400 token.
- Input: 9.000 x 3.000 = 27 juta token, jadi 27 x $0,15 = $4,05.
- Output: 9.000 x 400 = 3,6 juta token, jadi 3,6 x $0,50 = $1,80.
- Total: $5,85 per bulan.
Perhatikan sisi input. Menggandakan konteks yang Anda tempelkan ke setiap panggilan menggandakan bagian terbesar dari tagihan, sementara panjang balasan hampir tidak berpengaruh. Banyak bot menghemat uang dengan mengirim enam pesan terakhir alih-alih dua puluh terakhir. Periksa juga batas laju: kunci penuh memungkinkan 8 permintaan sekaligus dan 300 per menit, yang jauh di atas beban ini, tetapi server sibuk masih dapat melonjak saat thread menjadi populer. Antrikan permintaan di bot dan Anda akan tetap berada di dalam batas.
Skenario 3: aplikasi dengan 1.000 pengguna
Katakanlah setiap dari 1.000 pengguna bulanan mengirim 40 permintaan, yang menghasilkan 40,000 permintaan. Permintaan membawa 2.500 token input (prompt sistem ditambah riwayat) dan mengembalikan 500 token.
- Input: 40.000 x 2.500 = 100 juta token, jadi 100 x $0,15 = $15,00.
- Output: 40.000 x 500 = 20 juta token, jadi 20 x $0,50 = $10,00.
- Total: $25,00 per bulan, atau 2,5 sen per pengguna.
Di sini output adalah 40% dari tagihan meskipun hanya seperenam dari token, karena biayanya lebih dari tiga kali lipat per token. Jawaban singkat menguntungkan. Jika Anda meminta balasan 250 token bukan 500, baris output akan turun menjadi $5,00 dan total menjadi $20,00. Top-up $20 akan mencakup aplikasi ini selama satu bulan, dan top-up $100, yang disertai bonus +10% sehingga memberikan kredit $110, akan mencakup sekitar lima bulan.
Skenario 4: pipa batch
Pekerjaan batch diskalakan berdasarkan jumlah dokumen. Misalkan Anda memberi tag atau menulis ulang 200.000 item dalam sebulan, masing-masing dengan 1.200 token input dan hasil 250 token.
- Input: 200.000 x 1.200 = 240 juta token, jadi 240 x $0,15 = $36,00.
- Output: 200.000 x 250 = 50 juta token, jadi 50 x $0,50 = $25,00.
- Total: $61,00 per bulan.
Untuk pekerjaan batch, batas yang penting adalah throughput, bukan harga. Pada 8 permintaan bersamaan, waktu pekerjaan adalah jumlah permintaan dibagi 8, dikalikan durasi permintaan rata-rata. Lakukan aritmatika untuk latensi Anda sendiri sebelum merencanakan jadwal, dan pertahankan kumpulan pekerja Anda pada 8 atau kurang agar Anda tidak memicu kesalahan concurrency. Permintaan yang gagal tidak dibebankan biaya, sehingga mencobanya kembali tidak menambah biaya.
Perkirakan bulan Anda sendiri
Rumusnya singkat: biaya bulanan = permintaan x (token input x $0,15 + token output x $0,50) / 1.000.000. Skrip ini melakukannya dan juga membaca jumlah token nyata jika Anda menjalankan sampel terlebih dahulu.
from openai import OpenAI
client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")
def monthly(requests, tokens_in, tokens_out):
return requests * (tokens_in * 0.15 + tokens_out * 0.50) / 1_000_000
print(monthly(40_000, 2_500, 500)) # 25.0
# sample 20 real prompts, then use the measured averages
ins, outs = [], []
for p in open("prompts.txt").read().splitlines()[:20]:
r = client.chat.completions.create(
model="uncensored", messages=[{"role": "user", "content": p}])
ins.append(r.usage.prompt_tokens)
outs.append(r.usage.completion_tokens)
print(monthly(10_000, sum(ins) / len(ins), sum(outs) / len(outs)))Jalankan sampel menghabiskan pecahan sen. Pengguna baru dapat mengklaim kredit uji coba $0,50 di halaman kunci API untuk menjalankannya tanpa membayar apa pun, dan halaman harga menunjukkan tarif dan bonus top-up.
Apa yang paling mengubah tagihan
Melalui keempat skenario, tuas yang sama menggerakkan total:
- Ukuran konteks. Riwayat dan dokumen yang disalin mendorong biaya input. Potong mereka.
- Panjang output. Output berharga $0,50 per 1M, jadi minta panjang yang Anda butuhkan, dan atur
max_tokensdi mana itu membantu. - Percobaan ulang dan loop. Bug yang mengulang panggilan dapat melipatgandakan biaya sebulan dalam satu jam. Batasi percobaan ulang.
- Pertumbuhan lalu lintas. Biaya meningkat secara linear dengan permintaan. Gandakan pengguna, gandakan tagihan.
Perencanaan anggaran
Pilih skenario yang paling dekat dengan proyek Anda dan kalikan dengan faktor keamanan dua untuk bulan pertama, karena lalu lintas nyata jarang seimbang seperti spreadsheet. Kemudian atur peringatan saldo rendah. Setiap respons membawa header X-Balance-USD, sehingga aplikasi Anda dapat mengirim email kepada Anda ketika saldo turun di bawah angka yang Anda pilih, dan Anda mengisi ulang sebelum apa pun berhenti. Jika lalu lintas Anda tumbuh sepuluh kali lipat, tagihan tumbuh sepuluh kali lipat: bot Discord pada 10x akan menghabiskan $58,50, dan aplikasi dengan 10.000 pengguna $250,00. Tidak ada lompatan dalam langkah-langkah, sehingga tidak ada tier harga yang harus dilewati.
Pendanaan
Anda membayar dari saldo prabayar tanpa langganan, sehingga bulan yang tenang biayanya hampir nol. Isi saldo dimulai dari $20 hingga $500, dengan kripto (USDT pada TRC20, USDC pada Base), dengan +5% dari $50, +10% dari $100 dan +15% dari $200.
Batas estimasi ini
Dua hal yang dilewatkan oleh skenario. Pertama, mereka mengasumsikan penggunaan yang stabil, sementara produk nyata memiliki puncak, seperti hari peluncuran atau thread viral, dan satu hari puncak dapat menggunakan anggaran seminggu. Kedua, mereka mengasumsikan prompt tetap sama ukurannya. Perubahan produk sering kali memperbesar prompt sistem, dan penambahan 500 token ke panggilan yang dilakukan 40.000 kali sebulan menambahkan 20 juta token input, atau $3,00. Hitung ulang setelah setiap perubahan prompt.
Ini adalah perhitungan, bukan janji tentang penggunaan Anda. Prompt nyata bervariasi, dan jumlah token Anda bergantung pada bahasa dan konten yang Anda kirim. Ini adalah API teks saja, sehingga biaya untuk embedding, gambar, atau audio berada di luar angka ini. Layanan menjalankan satu model bobot terbuka dari penyedia independen, yang disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah.
Untuk definisi istilah yang digunakan di sini, lihat apa itu inferensi LLM. Kesalahan yang diam-diam menaikkan tagihan terdaftar di kesalahan umum API obrolan AI. dokumentasi mencakup format permintaan.
Panduan lainnya
Tanya jawab
Berapa biaya bot kecil per bulan?
Bot dengan 600 pesan per bulan yang menggunakan 1.500 token input dan 300 token output menghabiskan $0.225.
Apakah ada biaya bulanan di atas biaya token?
Tidak. Anda membayar per token dari saldo prabayar, dan saldo tidak kedaluwarsa.
Berapa minimal isi ulang?
$20, dalam jumlah bulat apa pun hingga $500. Bonus 5%, 10%, dan 15% berlaku dari $50, $100, dan $200.
Apakah permintaan yang gagal dikenakan biaya?
Tidak. Permintaan yang gagal atau ditolak tidak dikenakan biaya.
Kunci Anda hanya selangkah lagi dari satu formulir
Buat akun, salin kunci, ubah base URL. Itu saja seluruh pengaturannya.
Dapatkan kunci API