AR ▾

ابدأ برصيد تجريبي

البريد الإلكتروني وكلمة المرور، ويظهر المفتاح على الشاشة فورًا.

https://api.uncensoredllmhub.com/v1

واجهة LLM API مع LangChain: ربط نقطة نهاية مخصصة

لإعداد LangChain لواجهة LLM API، تحتاج فقط إلى ChatOpenAI، عنوان URL أساسي، مفتاح ومعرف النموذج. تعرض هذه الصفحة سلاسل، البث المتدفق، استدعاء الدوال والإخراج المهيكل مقابل نقطة النهاية هذه المتوافقة مع OpenAI، مع كود يمكنك نسخه.

تم التحديث

روابط سلسلة زجاجية متصلة بمكعب خادم، توضح سلاسل LangChain التي تستدعي نقطة نهاية LLM مخصصة
رف خادم وميزان توازن مع عملات معدنية بجانب سحابة متوهجة، لمقارنة الاستضافة الذاتية مع API

نقاط رئيسية

  • تأخذ ChatOpenAI base_url و api_key و model، لذا تعمل أي نقطة نهاية متوافقة مع OpenAI.
  • استخدم عنوان URL الأساسي https://api.uncensoredllmhub.com/v1 والنموذج uncensored.
  • يدعم استدعاء الدوال؛ للإخراج المهيكل، يُعد وضع JSON الطريقة الأكثر أمانًا.
  • احترم الحدود: 8 طلبات متزامنة على مفتاح كامل، لذا حدّ من التزامن الدفعي.

التثبيت والاتصال

تكامل LangChain مع OpenAI هو حزمة منفصلة عن المكتبة الأساسية. ثبّته باستخدام pip install langchain-openai. احصل على مفتاح من صفحة مفتاح API؛ يمكن للمستخدمين الجدد الحصول على رصيد تجريبي بقيمة $0.50 هناك بنقرة واحدة، دون الحاجة إلى بطاقة.

ثم أنشئ كائن النموذج. ثلاثة وسائط مهمة: model، base_url و api_key.

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="uncensored",
    base_url="https://api.uncensoredllmhub.com/v1",
    api_key="YOUR_KEY",
    temperature=0.7,
)

print(llm.invoke("Give me three names for a lighthouse cat.").content)

هذا هو التكامل بأكمله. كل ما يليه، مثل الموجّهات والمحللات والوكلاء والمسترجعين، يعامل llm كنموذج محادثة آخر. إذا كنت تفضل متغيرات البيئة، فإن SDK OpenAI يقرأ OPENAI_API_KEY و OPENAI_BASE_URL، مما يسهل التبديل بين البيئات دون تعديل الكود.

ما تدعمه نقطة النهاية

تُعرِّض الخدمة نقاط النهاية POST /v1/chat/completions، وPOST /v1/responses، وGET /v1/models. يستخدم ChatOpenAI إكمال المحادثة افتراضياً، وهو الخيار الآمن. النموذج هو نموذج مفتوح الأوزان المُضبط للإجابة بدون رفض المحتوى للاستخدام القانوني للبالغين، مع نافذة سياق بحجم 100,000 رمز (token) مشتركة بين الموجّه والإكمال.

ميزات الطلب المدعومة التي تعتمد عليها LangChain: البث المتدفق عبر SSE مع الاستخدام في النهاية، استدعاء الدوال، وضع JSON، ومعاملات العينات temperature و top_p و stop و seed والعقوبات. غير متوفرة: التضميمات (embeddings)، توليد الصور أو الصوت، ضبط الدقة الدقيق (fine-tuning). إذا احتاجت سلسلة الاسترجاع إلى التضميمات، فاستخدم نموذج تضميم مختلف لتلك الخطوة واستخدم نقطة النهاية هذه للتوليد. ملاحظات المعاملات الكاملة موجودة في الوثائق.

موجّه، نموذج ومحلل

يُمرّر نمط LCEL الأساسي الموجّه إلى النموذج ثم إلى محلل الإخراج. يأتي البث المتدفق مجاناً مع .stream().

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser

llm = ChatOpenAI(model="uncensored", base_url="https://api.uncensoredllmhub.com/v1", api_key="YOUR_KEY")

prompt = ChatPromptTemplate.from_messages([
    ("system", "You are a concise editor. Reply in {tone} tone."),
    ("human", "Improve this sentence: {text}"),
])

chain = prompt | llm | StrOutputParser()
print(chain.invoke({"tone": "plain", "text": "The thing was done by the team."}))

for piece in chain.stream({"tone": "friendly", "text": "We regret to inform you of a delay."}):
    print(piece, end="", flush=True)

تحدد رسالة النظام السلوك لكل استدعاء. وبسبب كبر نافذة السياق، يمكنك أيضاً تزويد قالب الموجّه بنصوص مرجعية طويلة دون استخدام مُقسّم في كثير من الحالات. تكلف المدخلات $0.15 لكل مليون رمز (token)، لذا فإن مستنداً يحتوي على 20,000 رمز (token) في الموجّه يكلف 20,000 / 1,000,000 x $0.15 = $0.003 لكل استدعاء.

استدعاء الدوال

يتبع استدعاء الدوال تنسيق OpenAI: تمرر تعريفات الدوال، فيرد النموذج بـ tool_calls، وتشغّل الدالة وتعيد النتيجة كرسالة بدور الأداة. تغلف LangChain هذا في bind_tools.

from langchain_core.tools import tool
from langchain_openai import ChatOpenAI

@tool
def add(a: int, b: int) -> int:
    """Add two integers."""
    return a + b

llm = ChatOpenAI(model="uncensored", base_url="https://api.uncensoredllmhub.com/v1", api_key="YOUR_KEY")
llm_tools = llm.bind_tools([add])

msg = llm_tools.invoke("What is 41 plus 1? Use the tool.")
for call in msg.tool_calls:
    print(call["name"], call["args"])   # run the function yourself, then send a ToolMessage back

يطلب النموذج التنفيذ؛ وتشغّلها الشيفرة الخاصة بك. في إطار عمل وكيل مثل LangGraph، تقوم حلقة بذلك نيابةً عنك حتى يجيب النموذج بالنص العادي. اجعل وصف الأداة قصيرًا وأسماء الحجج واضحة. إذا تجاهل النموذج أداة، شدّ نص التوثيق (docstring) واضبط tool_choice لفرض التنفيذ أثناء التصحيح.

المخرجات المهيكلة بوضع JSON

تدعم نقطة النهاية وضع JSON، response_format: {"type":"json_object"}. في LangChain، اطلب ذلك عبر with_structured_output واختر طريقة وضع JSON، ثم تحقق من الصحة باستخدام نموذج Pydantic.

from pydantic import BaseModel
from langchain_openai import ChatOpenAI

class Ticket(BaseModel):
    title: str
    priority: str

llm = ChatOpenAI(model="uncensored", base_url="https://api.uncensoredllmhub.com/v1", api_key="YOUR_KEY")
structured = llm.with_structured_output(Ticket, method="json_mode")

print(structured.invoke("Return JSON with title and priority for: login page crashes on Safari, urgent."))

عادةان تجعلان JSON موثوقًا. أولاً، قل "JSON" وسمِّ المفاتيح في الموجّه، لأن وضع JSON يضمن صحة البنية النحوية (syntax) لكنه لا يضمن مخططك (schema). ثانيًا، لفّ التنفيذ في إعادة محاولة تلتقط أخطاء التحقق وترسل نص الخطأ مرة واحدة إلى النموذج. لا تعتمد على فك التشفير المقيد بالمخطط (schema-constrained decoding) إلا إذا اختبرته مع نقطة النهاية هذه.

التزامن وإعادة المحاولة والتحكم في التكلفة

يجعل LangChain المكالمات المتزامنة سهلة مع .batch()، وهذا هو المكان الذي تظهر فيه الحدود. المفتاح الكامل يسمح بـ8 طلبات متزامنة و300 في الدقيقة. مفتاح التجربة يسمح بـ2 و60. مرر config={"max_concurrency": 6} إلى batch لتبقى تحت الحد الأقصى.

عند تجاوز الحد، تُعيد الـ API استجابة HTTP 429 مع الكود rate_limited أو concurrency، ورأس Retry-After: 5 في حالات الحمل المؤقت. يحتوي ChatOpenAI على وسيط max_retries الذي يتعامل مع هذه الحالات باستخدام التراجع؛ اضبطه على 3 إلى 5. تشغل البث المتدفق مقعداً حتى ينتهي، لذا لا تترك البث نصف مقروء مفتوحاً.

مثال على التكلفة: مهمة دفعية من 2,000 عنصر، كل منها يحتوي على 800 رمز إدخال و150 رمز إخراج. الإدخال: 2,000 × 800 = 1,600,000 رمز = 1.6 × $0.15 = $0.24. الإخراج: 2,000 × 150 = 300,000 رمز = 0.3 × $0.50 = $0.15. تكلفتها $0.39. الطلبات الفاشلة أو المرفوضة لا تُحسب تكلفتها، وتتيح لك ترويسة X-Balance-USD مراقبة رصيدك. انظر الأسعار لشحن الرصيد، الذي يتراوح بين $20 و$500 ويمكن دفعه بالعملات المشفرة.

الوكلاء وذاكرة المحادثة

يظهر نمطان بعد نجاح السلسلة الأولى. الأول هو ذاكرة المحادثة. تساعد مكتبة LangChain في تخزين سجل الرسائل وتلحق المراحل السابقة بكل استدعاء. بما أن نافذة السياق تبلغ 100,000 رمز (token)، يمكنك الاحتفاظ بسجلات طويلة، لكن تذكر أن كل مرحلة تعيد إرسالها. يعني سجل بحجم 30,000 رمز (token) على 50 مرحلة 1,500,000 رمز (token) مدخل، أو 1.5 × $0.15 = $0.225 للجلسة. لخّص المراحل القديمة عندما يتجاوز السجل حداً معيناً للحفاظ على التكلفة ثابتة.

النمط الثاني هو حلقة الوكيل. في LangGraph، يأخذ وكيل جاهز مسبقاً نفس كائن llm بالإضافة إلى قائمة بالأدوات ويكرر العملية حتى يتوقف النموذج عن طلب الأدوات. حدد حداً أقصى لعدد الخطوات حتى لا تستهلك الحلقة المربكة رموزاً مدخلة. سجّل رأس الاستجابة X-Request-Id لأي استدعاء يتصرف بشكل غريب، لأنه المعرف الذي يجب ذكره عند التواصل مع الدعم.

استكشاف الأخطاء وإصلاحها

  • خطأ 404 في كل تنفيذ. يجب أن ينتهي عنوان URL الأساسي بـ /v1 ولا يجب أن يتضمن /chat/completions.
  • النموذج غير موجود. استخدم uncensored بالضبط. لا تتحقق LangChain من أسماء النماذج للنقاط النهائية المخصصة.
  • تحذيرات عدّ الرموز. بعض ميزات LangChain تُقدّر الرموز باستخدام أدوات عدّ الرموز من OpenAI. قد تختلف الأرقام قليلاً عن النموذج الفعلي، لذا اعتمد على الاستخدام الذي تعيده الـ API.
  • حلقات الوكلاء الطويلة مكلفة. يعيد كل تكرار إرسال السجل الكامل. قص مخرجات الأداة القديمة قبل وصولها إلى التنفيذ التالي.

إذا كانت سلسلتك تبدو صحيحة لكنها تفشل، اتصل بنقطة النهاية باستخدام curl عادي لفصل مشكلة LangChain عن مشكلة الحساب.

أسئلة وأجوبة

أي فئة LangChain أستخدم لنقطة نهاية متوافقة مع OpenAI؟

ChatOpenAI من حزمة langchain-openai، مع ضبط base_url وapi_key وmodel.

هل يعمل استدعاء الدوال مع هذا الـ API؟

نعم. يدعم الأدوات، وtool_choice، وtool_calls المتدفقة، والنتائج المرسلة مع دور الأداة.

هل يمكنني استخدام تضمينات LangChain مع نقطة النهاية هذه؟

لا. لا توجد نقطة نهاية للتضمينات في الخدمة. استخدم مزوّد تضمينات آخر أو نموذجاً محلياً لتلك الخطوة.

كيف أتجنب أخطاء 429 في المهام الدفعية؟

عيّن max_concurrency دون 8 على مفتاح كامل، أو دون 2 على مفتاح تجريبي، واسمح ببعض إعادة المحاولة التلقائية.

مفتاحك على بُعد استمارة واحدة

أنشئ حساباً، وانسخ المفتاح، ثم غيّر URL الأساسي. هذه هي الإعدادات الكاملة.

احصل على مفتاح API

https://api.uncensoredllmhub.com/v1