KO ▾
API 키 받기

LLM Inference API가이드

LLM API 월 비용: 4가지 현실적 시나리오

1M 입력 토큰당 $0.15, 1M 출력 토큰당 $0.50 기준 월 비용 상세 내역 및 자체 트래픽 가격 계산 스크립트.

업데이트:

네 가지 월 비용 시나리오를 나타내는 네 개의 상승하는 유리 막대 차트
터미널에서 클라우드 게이트웨이로 데이터 패킷이 흐르는 등각 투영 일러스트레이션으로, 추론 API 호출을 나타냅니다.

주요 포인트

  1. OpenAI SDK를 https://api.llminferenceapi.com/v1로 향하게 하세요. 모델 ID는 uncensored를 사용하고, 키는 Bearer 토큰으로 전달하세요.
  2. 두 가지 엔드포인트를 사용할 수 있습니다: POST /v1/chat/completions 및 GET /v1/models.
  3. 스트리밍, 함수 호출 및 JSON 모드는 표준 요청 필드를 통해 작동합니다.
  4. 전체 키는 8개의 동시 요청과 분당 300개의 요청을 허용합니다. 429 응답은 어떤 제한에 도달했는지 알려줍니다.

네 가지 시나리오 한눈에 보기

llm api 월 비용을 계산하려고 한다면, 단순 평균은 도움이 되지 않습니다. 청구액은 요청 수와 길이에 따라 달라지기 때문입니다. 아래는 1M 입력 토큰당 $0.15, 1M 출력 토큰당 $0.50으로 책정된 현실적인 설정 네 가지입니다. 각 설정에는 가정 사항을 명시하여 직접 자신의 값을 대입하여 계산할 수 있도록 합니다.

시나리오월간 요청 수요청당 토큰 수 (입력 / 출력)월 비용
취미용 채팅 봇6001,500 / 300$0.225
디스코드 커뮤니티9,0003,000 / 400$5.85
1,000명 사용자 앱40,0002,500 / 500$25.00
배치 파이프라인200,0001,200 / 250$61.00

본문의 나머지 부분에서는 산술 계산과 각 숫자에 영향을 미치는 요소를 보여줍니다.

시나리오 1: 취미용 봇

하루 약 20개, 월 600개의 메시지에 응답하는 개인 봇을 실행합니다. 각 메시지에는 짧은 시스템 프롬프트와 일부 이력이 포함되어 있어 입력 토큰은 약 1,500개, 응답은 평균 300개 토큰입니다.

  • 입력: 600 x 1,500 = 0.9M 토큰, 비용 0.9 x $0.15 = $0.135.
  • 출력: 600 x 300 = 0.18M 토큰, 비용 0.18 x $0.50 = $0.09.
  • 총합: 월 $0.225.

최소 $20 충전금이 가장 오래 지속되는 경우입니다. 이 속도로 사용하면 7년 이상 사용할 수 있습니다. 크레딧은 만료되지 않으므로 취미 프로젝트는 한 번의 충전으로 시간이 흐르지 않게 유지할 수 있습니다.

시나리오 2: 디스코드 커뮤니티 봇

활발한 서버의 봇은 하루 300개, 월 9,000개의 요청을 처리합니다. 최근 채널 컨텍스트를 읽으므로 각 호출에는 약 3,000개의 입력 토큰이 포함되고, 약 400개의 응답 토큰을 반환합니다.

  • 입력: 9,000 x 3,000 = 27M 토큰, 비용 27 x $0.15 = $4.05.
  • 출력: 9,000 x 400 = 3.6M 토큰, 비용 3.6 x $0.50 = $1.80.
  • 총합: 월 $5.85.

입력 부분을 확인하세요. 각 호출에 붙여넣는 컨텍스트를 두 배로 늘리면 청구서의 더 큰 부분이 두 배가 되지만, 응답 길이는 거의 영향을 미치지 않습니다. 많은 봇은 마지막 20개 대신 마지막 6개 메시지를 보내서 비용을 절약합니다. 또한 속도 제한도 확인하세요: 전체 키는 동시에 8개 요청과 분당 300개 요청을 허용하며 이는 이 부하보다 훨씬 높지만, 바쁜 서버에서 스레드가 급증하면 여전히 스파이크가 발생할 수 있습니다. 봇에서 요청을 큐에 넣으면 제한 내에 머무를 수 있습니다.

시나리오 3: 1,000명 사용자 앱

월 1,000명의 사용자가 각각 40개의 요청을 보내면 총 40,000개의 요청이 됩니다. 요청에는 시스템 프롬프트와 이력을 합친 2,500개의 입력 토큰이 포함되고 500개의 토큰이 반환됩니다.

  • 입력: 40,000 x 2,500 = 100M 토큰, 비용 100 x $0.15 = $15.00.
  • 출력: 40,000 x 500 = 20M 토큰, 비용 20 x $0.50 = $10.00.
  • 총합: 월 $25.00, 사용자당 2.5센트.

여기서 출력은 토큰의 6분의 1에 불과하지만 청구액의 40%를 차지합니다. 토큰당 가격이 3배보다 훨씬 비싸기 때문입니다. 짧은 답변이 효과를 발휘합니다. 500 토큰 대신 250 토큰의 응답을 요청했다면 출력 비용은 $5.00로, 총액은 $20.00로 떨어졌을 것입니다. 그러면 $20 충전으로 이 앱을 한 달 동안 사용할 수 있고, +10% 보너스가 제공되어 총 $110의 크레딧을 주는 $100 충전은 약 5개월을 커버할 수 있습니다.

시나리오 4: 배치 파이프라인

배치 작업은 문서 수에 따라 확장됩니다. 월 200,000개의 항목을 태그하거나 다시 작성한다고 가정합니다. 각 항목은 1,200개의 입력 토큰과 250개의 결과 토큰을 가집니다.

  • 입력: 200,000 x 1,200 = 240M 토큰, 비용 240 x $0.15 = $36.00.
  • 출력: 200,000 x 250 = 50M 토큰, 비용 50 x $0.50 = $25.00.
  • 총합: 월 $61.00.

배치 작업의 경우 가격이 아닌 처리량이 제한 요소입니다. 동시에 8개 요청을 보내면 작업 시간은 요청 수를 8로 나눈 값에 평균 요청 지속 시간을 곱한 값입니다. 스케줄을 계획하기 전에 자체 지연 시간으로 산술을 수행하고, concurrency 오류를 트리거하지 않도록 워커 풀을 8개 이하로 유지하세요. 실패한 요청에는 요금이 부과되지 않으므로 재시도해도 비용이 추가되지 않습니다.

자신의 월 비용 추정

공식은 간단합니다: 월 비용 = 요청 수 x (입력 토큰 x $0.15 + 출력 토큰 x $0.50) / 1,000,000. 이 스크립트는 이를 계산하며, 샘플을 먼저 실행하면 실제 토큰 수도 읽습니다.

from openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")

def monthly(requests, tokens_in, tokens_out):
    return requests * (tokens_in * 0.15 + tokens_out * 0.50) / 1_000_000

print(monthly(40_000, 2_500, 500))   # 25.0

# sample 20 real prompts, then use the measured averages
ins, outs = [], []
for p in open("prompts.txt").read().splitlines()[:20]:
    r = client.chat.completions.create(
        model="uncensored", messages=[{"role": "user", "content": p}])
    ins.append(r.usage.prompt_tokens)
    outs.append(r.usage.completion_tokens)
print(monthly(10_000, sum(ins) / len(ins), sum(outs) / len(outs)))

샘플 실행 비용은 센트의 일부분입니다. 신규 사용자는 API 키 페이지에서 $0.50의 무료 체험 크레딧을 청구하여 무료로 실행할 수 있으며, 가격 책정 페이지에는 요금과 충전 보너스가 표시됩니다.

요금을 가장 많이 변화시키는 요소

네 가지 시나리오 모두에서 총합에 영향을 주는 동일한 요소들이 있습니다:

  1. 컨텍스트 크기. 이력과 붙여넣은 문서가 입력 비용을 결정합니다. 이를 줄이세요.
  2. 출력 길이. 출력은 1M당 $0.50이므로 필요한 길이를 요청하고 max_tokens을 설정하세요.
  3. 재시도 및 루프. 호출을 반복하는 버그는 한 시간 만에 월 비용을 몇 배로 늘릴 수 있습니다. 재시도 횟수를 제한하세요.
  4. 트래픽 증가. 비용은 요청에 선형적으로 비례합니다. 사용자가 두 배가 되면 비용도 두 배가 됩니다.

예산 계획

프로젝트에 가장 가까운 시나리오를 선택하고 실제 트래픽은 스프레드시트만큼 고르지 않으므로 첫 달에는 안전 계수 2를 곱하세요. 그런 다음 잔액이 낮음을 알리는 알림을 설정하세요. 모든 응답에는 X-Balance-USD 헤더가 포함되어 있으므로 앱에서 크레딧이 선택한 금액 아래로 떨어질 때 이메일을 보낼 수 있으며, 아무것도 중단되기 전에 충전할 수 있습니다. 트래픽이 10배 증가하면 청구서도 10배 증가합니다: 10배 부하의 Discord 봇은 $58.50가 필요하며 10,000명의 사용자가 있는 앱은 $250.00이 필요합니다. 단계별로 가격이 뛰지 않으므로 단계별 가격 체계의 한계를 넘어서는 일이 없습니다.

자금 조달

구독 없이 선불 크레딧으로 지불하므로 한가한 달에는 거의 비용이 들지 않습니다. 충전은 $20부터 $500까지 가능하며, 암호화폐(TRC20의 USDT, Base의 USDC)로 가능합니다. $50부터 +5%, $100부터 +10%, $200부터 +15%의 보너스 크레딧이 제공됩니다.

이 추정치의 한계

시나리오가 누락한 두 가지 사항이 있습니다. 첫째, 일정한 사용을 가정하지만 실제 제품은 출시일이나 바이럴 스레드와 같은 피크를 가지며, 한 번의 피크 날이 일주일 치 예산을 사용할 수 있습니다. 둘째, 프롬프트 크기가 일정하다고 가정합니다. 제품 변경은 종종 시스템 프롬프트를 증가시키며, 월 40,000회 호출되는 호출에 500 토큰을 추가하면 20M 입력 토큰 또는 $3.00이 추가됩니다. 프롬프트 변경 후마다 다시 측정하세요.

이것은 사용량에 대한 약속이 아닌 계산입니다. 실제 프롬프트는 다양하며 토큰 수는 전송하는 언어와 내용에 따라 달라집니다. 이는 텍스트 전용 API이므로 임베딩, 이미지 또는 오디오 비용은 이 수치에 포함되지 않습니다. 이 서비스는 독립적인 공급업체의 오픈 웨이트 모델을 실행하며, 합법적인 성인 사용에 대해 콘텐츠 거부 없이 응답하도록 조정되었습니다.

여기서 사용되는 용어의 정의는 LLM 추론이란를 참조하세요. 청구서를 조용히 늘리는 실수는 흔한 AI 채팅 API 실수에 나열되어 있습니다. 문서에는 요청 형식이 포함되어 있습니다.

질문과 답변

소형 봇의 월 비용은 얼마인가요?

월 600회 메시지, 입력 토큰 1,500개, 출력 토큰 300개 사용 시 비용은 $0.225입니다.

토큰 비용 외에 월 구독료가 있나요?

아니요. 선불 크레딧에서 토큰당 요금을 지불하며, 크레딧은 만료되지 않습니다.

최소 충전 금액은 얼마인가요?

$20부터 $500까지의 정수 금액. $50, $100, $200 이상 충전 시 각각 5%, 10%, 15%의 보너스가 적용됩니다.

실패한 요청에도 비용이 발생하나요?

아닙니다. 실패하거나 거부된 요청에는 요금이 부과되지 않습니다.

키는 양식 하나만 작성하면 받을 수 있습니다

계정을 생성하고 키를 복사한 후 기본 URL을 변경하세요. 설정은 이것으로 끝입니다.

API 키 받기