KO ▾
API 키 받기

LLM Inference API가이드

LLM Inference API 중 가장 저렴함: 실제 비용 평가 방법

토큰당 가격은 전체 이야기의 일부일 뿐입니다. 청구서에 영향을 미치는 수치를 기준으로 추론 API를 비교하는 방법과 당사의 요금을 예시로 들어 설명합니다.

업데이트:

토큰 큐브와 동전을 저울에 올려 API 비용을 비교하는 그림
터미널에서 클라우드 게이트웨이로 데이터 패킷이 흐르는 등각 투영 그림, 추론 API 호출을 나타냄

주요 포인트

  1. OpenAI SDK를 https://api.llminferenceapi.com/v1 로 향하게 하세요. 모델 ID는 uncensored를 사용하고, 키는 Bearer 토큰으로 전달하세요.
  2. 두 가지 엔드포인트를 사용할 수 있습니다: POST /v1/chat/completions 및 GET /v1/models.
  3. 스트리밍, 함수 호출 및 JSON 모드는 표준 요청 필드를 통해 작동합니다.
  4. 전체 키는 최대 8개의 동시 요청과 분당 300개의 요청을 허용합니다. 429 응답은 어떤 제한에 도달했는지 알려줍니다.

백만 토큰당 가격은 시작일 뿐입니다

가장 저렴한 LLM 추론 API는 워크로드에 대한 비용이 가장 낮은 API로, 가격 페이지의 최저 숫자와 항상 일치하지는 않습니다. 두 제공업체가 동일한 헤드라인 가격을 제시하더라도, 출력 토큰, 긴 프롬프트, 실패한 호출 및 최소 충전 금액을 계산하면 매우 다른 청구서가 나올 수 있습니다.

선택하기 전에 네 가지 확인 항목을 사용하세요: 입력 가격, 출력 가격, 긴 컨텍스트 처리 방식, 선불 지불 금액입니다. 이 글은 각 항목을 설명하고 당사의 가격을 예시로 제시하며, 다른 제공업체의 수치는 직접 확인하고 동일한 공식에 대입해 보십시오.

입력 토큰과 출력 토큰의 비교

거의 모든 LLM API는 입력과 출력을 별도로 청구하며, 출력 비용이 일반적으로 더 비쌉니다. 당사의 요금은 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50입니다. 출력은 입력 가격의 3배 이상으로, 트래픽 비율에 따라 결과가 달라집니다.

입력 대 출력 토큰 비율에 따라 혼합 가격이 어떻게 변하는지 확인하세요:

입력 : 출력 비율1M 토큰을 처리하는 데 드는 비용1M 토큰 기준 평균 비용
1 : 10.5M x $0.15 + 0.5M x $0.50 = $0.325$0.325
3 : 10.75M x $0.15 + 0.25M x $0.50 = $0.2375$0.2375
10 : 1약 0.909M x $0.15 + 0.091M x $0.50 = $0.1818약 $0.18
1 : 30.25M x $0.15 + 0.75M x $0.50 = $0.4125$0.4125

요약기는 많이 읽고 적게 쓰므로 10:1 행 근처에 위치합니다. 스토리 생성기는 짧은 프롬프트에서 많이 쓰므로 1:3 행 근처에 위치합니다. 두 제공업체를 비교할 때는 자신의 비율에 대해 두 행을 모두 계산하십시오. 입력이 저렴한 제공업체가 생성 중심 부하에서는 불리할 수 있습니다.

컨텍스트 길이가 비용에 영향을 미칩니다

채팅 앱은 매 턴마다 전체 대화 내용을 다시 전송합니다. 채팅이 20턴으로 늘어나면 20턴에는 이전 19턴의 모든 교환 내용이 입력으로 포함됩니다. 따라서 대화 비용은 길이보다 빠르게 증가합니다.

계산 예시입니다. 각 턴마다 사용자 텍스트 300토큰과 응답 300토큰이 추가되며, 시스템 프롬프트는 500토큰입니다. n턴에서의 입력은 500 + (n - 1) x 600 + 300 토큰입니다. 20턴을 합산하면 20 x 800 + 600 x 190 = 130,000 입력 토큰, 20 x 300 = 6,000 출력 토큰입니다. 입력 비용은 130,000 x $0.15 / 1M = $0.0195, 출력 비용은 6,000 x $0.50 / 1M = $0.003로, 20턴 대화 전체 비용은 $0.0225입니다.

정확한 수치보다 형태가 더 중요합니다: 긴 대화에서는 입력이 주를 이룹니다. 저렴한 입력 가격을 가진 제공업체가 여기서 더 많은 도움을 줍니다. 이전 턴을 줄이거나 요약하면 가장 큰 비용을 절감할 수 있습니다. 당사의 컨텍스트 창은 프롬프트와 완성을 합해 100,000토큰이므로 매우 긴 문서도 처리 가능하지만, 전송할 때마다 입력 토큰 비용이 발생합니다.

확인해야 할 숨겨진 비용

  • 최소 충전 금액. 저희는 $20부터 시작하며, $500까지 정수 금액으로 충전할 수 있습니다. 토큰당 가격이 낮더라도 최소 충전 금액이 큰 제공업체는 소규모 프로젝트에 더 비쌀 수 있습니다.
  • 만료 기간. 만료되는 크레딧은 낭비될 수 있습니다. 저희 크레딧은 만료되지 않습니다.
  • 구독. 월 구독료는 토큰 단위 서비스의 비용 구조를 고정비로 만듭니다. 저희는 선불 크레딧 방식입니다.
  • 실패 시 요금. 실패하거나 거부된 요청은 여기서 청구되지 않습니다. 비교할 모든 제공업체에서 이를 확인하십시오.
  • 속도 제한. 낮은 요청 한도와 함께 저렴한 가격은 두 번째 계정을 구매하거나 파이프라인 속도를 늦추게 만듭니다. 여기의 전체 키는 분당 300회, 동시 8개의 요청을 허용합니다.
  • 결제 수수료와 보너스. $50 이상 충전 시 +5%, $100 이상 시 +10%, $200 이상 시 +15% 크레딧을 추가합니다. 따라서 $200 충전 시 총액은 $230가 됩니다.

풀이 과정이 포함된 요금표

아래 모든 수치는 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50을 기준으로 합니다.

워크로드토큰비용
채팅 턴 1회: 입력 2,000, 출력 5002,500$0.0003 + $0.00025 = $0.00055
이러한 턴 1,000회2.5M$0.55
10,000개 기사 요약: 입력 3,000, 출력 20032M$4.50 + $1.00 = $5.50
5,000개 스토리 생성: 입력 300, 출력 1,5009M$0.225 + $3.75 = $3.975

요약 행을 확인하세요: 10,000 x 3,000 = 30M 입력 토큰, 그리고 30 x $0.15 = $4.50. 10,000 x 200 = 2M 출력 토큰, 그리고 2 x $0.50 = $1.00. 총합은 $5.50입니다. 이야기 행의 경우: 5,000 x 300 = 1.5M 입력, 이는 $0.225이며, 5,000 x 1,500 = 7.5M 출력, 이는 $3.75입니다. 총합은 $3.975입니다.

요금 페이지에는 요금과 보너스가 나열되어 있으며, 암호화폐(TRC20 기반 USDT, Base 기반 USDC)로 결제할 수 있습니다.

스크립트로 실제 비용을 측정하세요

예측에 오래 의존하지 마십시오. 실제 사용 패턴을 대표하는 프롬프트 50개를 실행하고 API가 토큰을 보고하게 하십시오. 아래 코드는 usage 필드에서 비용 추정치를 출력합니다.

from openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")
IN, OUT = 0.15, 0.50   # dollars per 1M tokens

def cost(u):
    return (u.prompt_tokens * IN + u.completion_tokens * OUT) / 1_000_000

total = 0.0
for p in open("prompts.txt"):
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p.strip()}],
    )
    total += cost(r.usage)
print("average per request: $%.5f" % (total / 50))

평균값에 예상 월간 요청 수를 곱하십시오. 고려 중인 각 제공업체에 대해 동일하게 수행하고 샘플 답변을 읽으며 품질을 유지하십시오. 작업당 두 번의 시도가 필요한 더 저렴한 모델은 저렴하지 않습니다.

1시간 안에 완료할 수 있는 5단계 비교

  1. 실제 프롬프트 샘플에서 요청당 예상 입력 및 출력 토큰 수를 기록하십시오.
  2. 각 제공업체의 입력 및 출력 가격에 요청당 및 월별 횟수를 곱하십시오.
  3. 고정 비용을 추가하십시오: 최소 충전 금액, 구독료, 사용 전 만료되는 크레딧.
  4. 각 모델에서 동일한 20개의 프롬프트를 실행하고 답변을 평가하여 토큰당 비용이 아닌 좋은 답변당 비용을 비교하십시오.
  5. 최대 트래픽에 대한 한도를 확인하세요. 동시에 8개 이상의 요청이 필요한 경우 큐를 대신 실행할 수 있는지 문의하세요.

결과로 나오는 표에는 각 제공업체당 한 행과 워크로드에 대한 월 비용이 표시됩니다. 이 표가 제목의 질문에 대한 실제 답변이며, 제공업체가 가격을 변경할 때까지 유효하므로 몇 달마다 다시 확인하세요. 프레임워크 비교는 자체 하드웨어에서 모델을 실행하는 경우 도움이 되며, 일반적인 채팅 API 오류 페이지에는 같은 대화 기록을 두 번 다시 보내는 등 청구서를 서서히 높이는 오류 목록이 있습니다.

저렴한 옵션으로 할 수 없는 것

어떤 제공업체를 선택하든 네 가지 방법으로 비용을 절감할 수 있습니다. 짧은 답변으로 충분할 때 max_tokens을 제한하세요. 출력이 더 비싸기 때문입니다. 시스템 프롬프트를 다듬고 모델이 더 이상 필요로 하지 않는 턴을 제거하세요. 분류와 같은 간단한 작업을 엄격한 출력 형식을 가진 짧은 프롬프트로 라우팅하세요. 그리고 기능별 토큰을 로깅하여 편집 후 프롬프트 템플릿의 크기가 조용히 두 배로 늘어나는 것을 확인하세요. 이러한 습관은 제공업체를 몇 센트 차이로 바꾸는 것보다 더 많은 비용을 절약해 줍니다.

이 서비스는 텍스트 전용입니다. 임베딩, 이미지 또는 오디오 생성 및 파인튜닝이 없으므로 이러한 기능이 필요하면 다른 제공업체에 비용을 지불해야 합니다. 독립적인 제공업체의 오픈 웨이트 모델 하나를 실행하며, 합법적인 성인 사용에 대해 콘텐츠 거부 없이 답변하도록 조정되었으며, 어떤 모델 벤더의 공식 API도 아닙니다. 미성년자가 관련된 성 콘텐츠는 절대 허용되지 않습니다.

귀하에게 가장 저렴한 선택인지는 해당 단일 모델이 작업에 충분히 적합한지에 달려 있습니다. 먼저 무료로 테스트하세요: 신규 사용자는 API 키 페이지에서 한 번의 클릭으로 $0.50의 무료 체험 크레딧을 청구할 수 있으며, 카드가 필요하지 않습니다. 그런 다음 문서를 읽으세요. 기본 사항이 처음이라면 LLM 추론이란 무엇인가가 위에서 사용된 용어를 다룹니다.

질문과 답변

채팅 메시지 한 번의 비용은 얼마입니까?

입력 토큰 2,000개와 출력 토큰 500개로 구성된 턴은 $0.00055가 들며, 1,000 턴은 $0.55가 듭니다.

월 요금이 있나요?

아니요. 선불 크레딧에서 사용한 만큼 지불하며, 크레딧은 만료되지 않습니다.

실패한 요청에도 요금이 부과되나요?

아닙니다. 실패하거나 거부된 요청에는 요금이 부과되지 않습니다.

가장 낮은 가격이 항상 최선의 거래입니까?

아니요. 출력 비율, 컨텍스트 길이, 최소 충전 금액 및 답변 품질은 모두 실제 비용에 영향을 미칩니다.

키는 양식 하나만 작성하면 받을 수 있습니다

계정을 생성하고 키를 복사한 후 기본 URL을 변경하세요. 설정은 이것으로 끝입니다.

API 키 받기