推論API：クイックスタートガイド

ベースURLと認証

当社のAPIは完全にOpenAI互換です。切り替えるには、クライアントの設定を更新してベースURLを指定し、APIキーを入力してください。ベースURLはhttps://api.llminferenceapi.com/v1です。認証は標準的なAuthorization: Bearerヘッダーで処理されます。メールアドレスとパスワードだけで登録すると、すぐにキーが発行されます。トライアルには電話番号やクレジットカードは不要です。

• ベースURL: https://api.llminferenceapi.com/v1
• ヘッダー: Authorization: Bearer YOUR_API_KEY
• モデルID: uncensored

この設定は、公式のOpenAI SDKまたは互換クライアントライブラリのいずれでも動作します。既存のコード構造を維持したまま、エンドポイントとキーのみを変更してください。

最初のリクエスト

チャット補完エンドポイントに最初の呼び出しを行ってください。モデルIDはuncensoredです。このモデルは、法的な成人向け用途においてコンテンツ拒否なしで回答するように調整されたオープンウェイト大規模言語モデルであり、GPTやClaudeではありません。

Copycurl https://api.llminferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

リクエストボディには標準のmessages配列が含まれます。温度、最大トークン数、その他の標準パラメータを指定できます。APIはトークン使用統計を含む標準的なチャット完了レスポンスを返します。401エラーが発生した場合は、キーが無効です。402エラーは、前払いクレジットが枯渇したことを意味します。

Python SDK統合

Python SDKの使用は簡単です。ベースURLとAPIキーでクライアントを初期化してください。コード構造は標準的なOpenAIパターンを反映しています。これにより、アプリケーションロジックを書き換えることなく、当社のllmプロキシサービスに置き換えることができます。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

model='uncensored'引数を渡すことを確認してください。レスポンスオブジェクトには生成されたテキストと使用メトリクスが含まれます。このアプローチは、そのまま置き換え可能なOpenAI互換APIソリューションを求めている開発者に最適です。標準SDK以外に追加の依存関係は必要ありません。

Node.js SDKの使用

Node.js開発者にとって、統合は equally シンプルです。クライアント設定でbaseURLとapiKeyを設定してください。SDKが自動的に当社のai chat apiエンドポイントへのHTTPリクエストを処理します。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llminferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

モデルIDuncensoredでchat.completions.create()を呼び出してください。レスポンスをストリーミングするか、完了したオブジェクトとして処理できます。この柔軟性はバッチ処理とリアルタイムのユーザーインタラクションの両方をサポートします。APIはツール呼び出しをサポートしており、モデルが呼び出すことができる関数を定義できます。

ストリーミングレスポンス

リアルタイムのユーザー体験のためにストリーミングを有効にしてください。リクエストでstreamパラメータをtrueに設定してください。APIは部分的なレスポンスのServer-Sent Events (SSE)ストリームを返します。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

各チャンクにはレスポンスの部分的なデルタが含まれます。到着するたびにこれらのトークンをユーザーに表示することで、知覚されるレイテンシを削減できます。即時フィードバックが期待されるチャットインターフェースではこれが重要です。ストリーミングレスポンスには、非ストリーミングリクエストと同じトークン使用情報が含まれます。

制限、エラー、コンテキスト

当APIは、入力と出力の合計で100,000トークンのコンテキストウィンドウを適用します。これは長いドキュメントや複雑な会話をサポートします。レート制限はキーあたり1分あたり300リクエストに設定されています。これを超えると、429エラーが発生します。リクエストボディは8 MBに制限されています。

よくあるエラーには、401（無効なキー）、402（クレジット不足）、429（レート制限）があります。クレジットは期限切れにならないため、都合の良い時にチャージできます。前払いクレジットは$10から開始され、大口入金にはボーナスが付きます。このpay as you go ai apiモデルにより、使用した分だけのみお支払いいただきます。