الانتقال إلى المحتوى الرئيسي

الدليل

إذا كنت تريد استخدام مزود ذكاء اصطناعي غير مدعوم من Gorbit، يمكنك تكوين مزود استدلال مخصص.
يجب أن يوفر مزودك المخصص نقاط نهاية API متوافقة مع OpenAI.
1

إعداد مزود الاستدلال المخصص الخاص بك

حدد عنوان URL الأساسي لـ API لمزودك. يجب أن يبدو شيئًا مثل https://yourprovider.com/v1 أو http://localhost:12345/v1.
2

Navigate to AI Model Configuration Page

Access the Admin Panel from your user profile icon → Admin PanelLLM
3

تكوين مزود الاستدلال المخصص

اختر إضافة مزود LLM مخصص من المزودين المتاحين.أعطِ مزودك اسمًا للعرض.أدخل اسم المزود للنموذج الخاص بك.
يجب أن يتطابق اسم المزود مع قائمة المزودين المدعومين من Litellm.
في هذا المثال، اسم المزود هو vertex_ai.Custom inference provider name
4

تكوين الحقول الاختيارية والنماذج

أدخل عنوان URL الأساسي للمزود.املأ الحقول الاختيارية الأخرى إذا كانت منطبقة.في قسم تكوينات النماذج، أدخل كل نموذج تريد استخدامه مع مزودك.
5

تكوين النماذج الافتراضية والسريعة

يتم اختيار النموذج الافتراضي تلقائيًا لوكلاء مخصصين وجلسات المحادثة الجديدة.تعيين نموذج سريع اختياري. يُستخدم هذا النموذج السريع خلف الكواليس للعمليات السريعة مثل تقييم نوع الرسالة، وإنشاء استعلامات مختلفة (توسيع الاستعلام)، وتسمية جلسة المحادثة.
إذا اخترت نموذجًا سريعًا، تأكد أنه نموذج سريع نسبيًا وفعال من حيث التكلفة مثل GPT-4.1-mini أو Claude 3.7 Sonnet.
6

تعيين وصول المزود

أخيرًا، يمكنك اختيار ما إذا كان المزود عامًا لجميع المستخدمين في Gorbit أم لا.إذا تم ضبطه على خاص، ستكون نماذج المزود متاحة للمسؤولين ومجموعات المستخدمين التي تعين المزود لها صراحة.