LLM Inference APIالدليل
LLM Inference API: البث المتدفق، الأدوات ووضع JSON
تتيح لك واجهة برمجة تطبيقات استنتاج النماذج اللغوية الكبيرة (LLM) إرسال موجّه عبر HTTPS والحصول على النص المُنشأ، دون الحاجة إلى وحدة معالجة رسومية في جانبك. تعرض هذه الصفحة إعداداً عاملاً يتصل بنقطة نهاية متوافقة مع OpenAI، بدءاً من الطلب الأول مروراً بالبث المتدفق والأدوات ووضع JSON وحدود المعدل.
تم التحديث:

نقاط رئيسية
- وجّه أي حزمة تطوير برمجيات (SDK) متوافقة مع OpenAI إلى https://api.llminferenceapi.com/v1، واستخدم معرف النموذج uncensored، وأرسل مفتاحك كرمز Bearer.
- تتوفر نقطتا نهاية: POST /v1/chat/completions وGET /v1/models.
- يعمل البث المتدفق، واستدعاء الدوال، ووضع JSON عبر حقول الطلب القياسية.
- يتيح المفتاح الكامل 8 طلبات متزامنة و300 طلب في الدقيقة؛ وتحدد لك استجابة 429 الحد الذي تجاوزته.
ما تحتاجه قبل الطلب الأول
تحتاج إلى ثلاثة أشياء: عنوان URL الأساسي، ومفتاح، واسم النموذج. عنوان URL الأساسي هو https://api.llminferenceapi.com/v1، ومعرف النموذج هو uncensored، ويأتي المفتاح من صفحة مفتاح API بعد إنشاء الحساب باستخدام Google أو عبر البريد الإلكتروني وكلمة المرور. يمكن للمستخدمين الجدد الحصول على رصيد تجريبي بقيمة $0.50 بنقرة واحدة. لا يتطلب بطاقة، ويستمر لمدة 7 أيام، ومحدود لشخص واحد.
الخدمة تدعم النصوص فقط. تُعرّض POST /v1/chat/completions و GET /v1/models. لا توجد نقطة نهاية للتضمينات (embeddings)، ولا توليد صور أو صوت، ولا ضبط دقيق. يعمل بنموذج واحد مفتوح الأوزان، تديره جهة مستقلة ومُضبط للإجابة بدون رفض المحتوى للاستخدام القانوني للبالغين. ليست واجهة برمجة التطبيقات الرسمية لأي بائع نماذج. تنطبق قاعدة صارمة واحدة: المحتوى الذي يُجنّس القاصرين غير مسموح.
احتفظ بالمفتاح في متغير بيئة بدلاً من كود المصدر. تقرأ الأمثلة أدناه القيمة من API_KEY حيث تسمح اللغة بذلك.
طلبك الأول
ابدأ بـ curl، لأنه يُظهر بالضبط ما ينتقل عبر السلك.
curl https://api.llminferenceapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "List three uses of a message queue."}
],
"temperature": 0.7
}'
الاستجابة هي كائن إكمال الدردشة المعتاد: يحتوي choices[0].message.content على النص، ويحتوي usage على تعداد الرموز. يمكنك أيضاً سرد النماذج باستخدام GET /v1/models، وهي طريقة سريعة للتأكد من صحة المفتاح وURL قبل البدء في التصحيح.
في Python مع SDK الرسمي لـ OpenAI، يتغير فقط المُنشئ:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.llminferenceapi.com/v1",
api_key=os.environ["API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "List three uses of a message queue."}],
)
print(resp.choices[0].message.content)
وفي Node:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.llminferenceapi.com/v1",
apiKey: process.env.API_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "List three uses of a message queue." }],
});
console.log(resp.choices[0].message.content);
قد يستخدم الإكمال ما تبقى من نافذة السياق المكونة من 100,000 رمز بعد موجّهك، لذا فإن max_tokens اختياري. اضبطها على أي حال عندما تريد سقفًا صارماً للتكلفة أو الطول. تُمرر ضوابط أخذ العينات مثل temperature، و top_p، و stop، و seed، بالإضافة إلى عقوبات التكرار والوجود.
إعدادان من المفيد معرفتهما منذ البداية. يجعل seed عيّنة التوليد قابلة للتكرار بما يكفي للاختبار، وهو ما يساعد عند مقارنة نسختين من الموجّه ورغبةً في أن يأتي الفرق من الموجّه نفسه وليس من الصدفة. يأخذ stop سلسلةً أو أكثر من السلاسل التي توقف التوليد بمجرد كتابة النموذج لها، وهي طريقة رخيصة لقطع الرد عند فاصل وتجنب الدفع مقابل الرموز التي ستُرميها.
استجابات البث المتدفق
مع stream: true، يجيب الخادم عبر الأحداث المرسلة من الخادم ويرسل النص في قطع صغيرة. يرى المستخدمون الكلمات الأولى بسرعة، وهو أمر مهم في واجهات الدردشة. تصل أرقام الاستخدام في نهاية التدفق.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a four-line poem about a lighthouse."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if chunk.usage:
print("\n", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)
نقطتان سهلان يمكن أن يفوتهما المرء. أولاً، يمكن أن تحمل القطعة الأخيرة معلومات الاستخدام وقائمة choices فارغة، لذا تحقق من أن choices ليست فارغة قبل فهرستها. ثانياً، يحتفظ الطلب المتدفق بمكان التزامن الخاص به حتى ينتهي التدفق. إذا فتح العميل تدفقاً ولم يقرأه حتى النهاية، يظل هذا المكان مشغولاً وقد تصل طلباتك اللاحقة إلى خطأ في concurrency. أغلق دائماً أو استهلك التدفقات بالكامل.
استدعاء الدوال
يسمح استدعاء الدوال للنموذج بطلب تشغيل دالة في كودك واستخدام النتيجة. تصف الدوال في tools، وتوجّه الاختيار اختيارياً باستخدام tool_choice، وتنفذ أي طلب يطلبه النموذج، وترسل المخرجات مرة أخرى كرسالة مع role: "tool".
import json
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up the status of an order by its id.",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1043?"}]
first = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message
if msg.tool_calls:
messages.append(msg)
for call in msg.tool_calls:
args = json.loads(call.function.arguments)
result = {"order_id": args["order_id"], "status": "shipped"}
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
final = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools
)
print(final.choices[0].message.content)
قم دائماً بتحليل function.arguments دفاعياً. إنها سلسلة JSON ينتجها نموذج لغوي، وفي حالات نادرة قد تكون غير صالحة أو تحتوي على حقل لم تحدده. تحقق منها قبل اتخاذ إجراء بشأنها، خاصة عندما تغير الدالة البيانات. تعمل استدعاءات الأدوات أيضاً مع التدفق، وفي هذه الحالة تصل tool_calls كقطع يجب عليك دمجها حسب الفهرس قبل التحليل.
إدارة سجل المحادثة
واجهة برمجة التطبيقات عديمة الحالة. لا تتذكر الطلبات السابقة، لذا تعمل الدردشة متعددة الأدوار فقط لأن كودك يرسل الأدوار السابقة مرة أخرى في كل مرة. احتفظ بقائمة من الرسائل، وأضف رسالة المستخدم الجديدة، واستدعي نقطة النهاية، ثم أضف رد المساعد قبل الدور التالي.
history = [{"role": "system", "content": "You are a patient writing coach."}]
def chat(user_text):
history.append({"role": "user", "content": user_text})
resp = client.chat.completions.create(model="uncensored", messages=history)
reply = resp.choices[0].message.content
history.append({"role": "assistant", "content": reply})
return reply
print(chat("Give me a prompt for a ghost story."))
print(chat("Make it set on a ferry."))
نظراً لأن كل دور يعيد إرسال السجل، فإن رموز المدخلات تزداد مع طول الدردشة. تتسع نافذة السياق لـ 100,000 رمز، وهو ما يكفي لمعظم المحادثات، لكن التكلفة ترتفع بشكل ملحوظ قبل الوصول إلى الحدّ. نمط شائع هو الحفاظ على رسالة النظام وأخر عدة أدوار، واستبدال الأدوار الأقدم بملخص قصير يكتبه النموذج نفسه. اقرأ usage.prompt_tokens بعد كل مكالمة لمعرفة حجم السجل.
وضع JSON
عندما تحتاج إلى مخرجات قابلة للقراءة الآلية، اضبط response_format على {"type": "json_object"} وقل في الموجّه أنك تريد JSON. وصف المفاتيح التي تتوقعها يجعل النتيجة أكثر استقراراً.
resp = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "system", "content": "Reply with JSON only, using the keys title, tags and summary."},
{"role": "user", "content": "Describe a short story about a lost robot."},
],
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])
يجعل وضع JSON المخرجات قابلة للتحليل كـ JSON، لكنه لا يفرض مخططك. تحقق من المفاتيح في الكود، واحتفظ بنسخة احتياطية للحالة التي يكون فيها قيمة مفقودة. إذا تم قطع الاستجابة لأنها وصلت إلى حد الرموز، فسيكون JSON غير مكتمل، لذا لا تضبط max_tokens منخفضاً جداً للمخرجات المهيكلة.
قائمة مراجعة قصيرة عندما يفشل شيء ما
تأتي معظم مشاكل اليوم الأول من مجموعة من الأسباب، ويمكنك استبعادها بالترتيب.
- عنوان URL الأساسي. يجب أن ينتهي بـ
/v1. يضيف SDK مسار/chat/completionsتلقائياً، لذا لن يعمل عنوان URL يحتوي على المسار بالفعل. - رأس الطلب. يُوضع المفتاح في
Authorization: Bearerمتبوعاً بالمفتاح. المسافة البيضاء أو السطر الجديد الغريب المنسوخ مع المفتاح هو سبب شائع لأخطاء المصادقة. - معرف النموذج. استخدم
uncensoredبالضبط. أسماء نماذج البائعين الآخرين غير صالحة هنا. - حجم الطلب. حد الجسم هو 8 ميجابايت، ويجب أن يتسع النص الموجه والإكمال في 100,000 رمز.
- الرصيد. انظر إلى رأس
X-Balance-USDفي أي استجابة لمعرفة ما إذا كانت المشكلة هي الرصيد. - اقتباس معرف الطلب. إذا تواصلت مع الدعم، فقم بتضمين قيمة
X-Request-Idمن الاستجابة الفاشلة حتى يمكن العثور على الطلب.
خذ في الاعتبار أن الرفض ليس خطأ. نظراً لأن النموذج مُعد لتجنب الرفض للمحتوى في الاستخدام القانوني للبالغين، فسترى أقل منه في الخدمات المفلترة، لكن النموذج لا يزال يمكنه الرفض أو إعطاء إجابة ضعيفة لموجه غامض. عادةً ما يصحح رسالة النظام الواضحة ذلك بشكل أفضل من درجة حرارة أعلى.
حدود المعدل، الرؤوس، وإعادة المحاولة
المفتاح الكامل يسمح بـ 8 طلبات متزامنة و300 طلب في الدقيقة. يسمح المفتاح التجريبي بـ 2 طلب متزامن و60 طلب في الدقيقة. يمكن أن يصل حجم جسم الطلب إلى 8 ميجابايت. تحمل كل استجابة الرؤوس X-Request-Id، X-Balance-USD، X-RateLimit-Limit-Requests وX-RateLimit-Limit-Concurrency، وهي مفيدة للتسجيل ولإظهار الرصيد في شاشة الإدارة.
عند تجاوز حدّ المعدل، تُعيد API استجابة HTTP 429. رمز الخطأ rate_limited يعني تجاوز عدد الطلبات المسموح بها في الدقيقة، وconcurrency يعني تجاوز عدد الطلبات المتزامنة. في حالات الحمل الزائد المؤقت، تحصل أيضاً على استجابة 429 مع الرأس Retry-After: 5. يغطي غلاف إعادة المحاولة البسيط الحالات الثلاث:
import time
from openai import RateLimitError
def ask(messages, tries=4):
for attempt in range(tries):
try:
return client.chat.completions.create(model="uncensored", messages=messages)
except RateLimitError as e:
wait = 5 if attempt == 0 else 5 * (attempt + 1)
retry_after = getattr(e.response, "headers", {}).get("retry-after")
time.sleep(int(retry_after) if retry_after else wait)
raise RuntimeError("still rate limited after retries")
بالنسبة لمجموعة العمال، حدد حجم المجموعة عند حدّ المعدل المتزامن الخاص بك بدلاً من الاعتماد على إعادة المحاولة. ثمانية عمال على مفتاح كامل نادراً ما يواجهون خطأ concurrency. إذا واجهت أخطاء غير متوقعة، فإن مقال استكشاف الأخطاء يتناول الأسباب الشائعة.
الدفع مقابل الاستخدام
الفوترة بنظام الدفع حسب الاستخدام من رصيد مسبق الدفع: $0.15 لكل مليون رمز مدخل و$0.50 لكل مليون رمز مخرج، بدون اشتراك. الطلبات الفاشلة أو المرفوضة لا تُحسب، ولا ينتهي الرصيد. طلب يحتوي على 1,500 رمز مدخل و400 رمز مخرج يكلف 1,500 / 1,000,000 × $0.15 + 400 / 1,000,000 × $0.50 = $0.000225 + $0.0002 = $0.000425.
شحن الرصيد يكون بمبالغ صحيحة تتراوح بين $20 و $500، مع مكافأة بنسبة 5% من $50، و10% من $100، و15% من $200. يمكنك الدفع بالعملات المشفرة فقط (USDT على TRC20، USDC على Base). لا تُستخدم الموجّهات في التدريب. توضح صفحة التسعير التفاصيل، و دليل البدء السريع يكرر خطوات الإعداد بشكل مختصر.
المزيد من الأدلة
أسئلة وأجوبة
هل يمكنني استخدام مكتبة OpenAI الرسمية مع هذه الـ API؟
نعم. قم بتثبيت OpenAI SDK لـ Python أو Node، وحدد Base URL إلى https://api.llminferenceapi.com/v1، مرر مفتاحك، واستخدم معرف النموذج uncensored.
هل تدعم واجهة برمجة التطبيقات استدعاء الدوال؟
نعم. مرر الأدوات وخيار tool_choice اختياريًا، ثم أعد كل نتيجة كرسالة مع role: tool. يتم دعم tool_calls المتدفقة أيضًا.
ماذا يعني خطأ 429 هنا؟
لقد تجاوزت الحدّ. يشير الرمز rate_limited إلى إرسال طلبات أكثر من اللازم في الدقيقة، ويشير الرمز concurrency إلى إرسال طلبات أكثر من اللازم في الوقت نفسه، ويحدد رأس HTTP Retry-After: 5 حالة الحمل المؤقت. انتظر وأعد المحاولة.
هل يمكنني استخدامه للتضميمات أو الصور؟
لا. الـ API يدعم النصوص فقط ويقدم إكمال الدردشة وقائمة النماذج.
مفتاحك على بُعد تعبئة نموذج واحد
أنشئ حساباً، وانسخ المفتاح، ثم غيّر URL الأساسي. هذا هو الإعداد الكامل.
احصل على مفتاح API