المدونة

ما توجيه نماذج اللغة الكبيرة؟

Markdown

كيف يختار توجيه نماذج اللغة الكبيرة النماذج وفقًا لمتطلبات الطلب والتكلفة والجودة وزمن الاستجابة وسعة السياق والسياسة.

توجيه نماذج اللغة الكبيرة (LLM) هو إرسال كل طلب ذكاء اصطناعي إلى النموذج ومزوّد الخدمة الأنسب له، بدلًا من تثبيت كل استدعاء على نموذج واحد. يقيّم الموجّه الطلب وفقًا لأهدافك والتكلفة والجودة وزمن الاستجابة وطول السياق والسياسة، ثم يرسله إلى الخيار الأنسب.

تبدأ معظم الفرق بتوصيل تطبيقها مباشرةً بمزوّد واحد، وغالبًا ما يكون OpenAI. ينجح ذلك إلى أن يتوقف عن النجاح: فقد يتعامل نموذج أرخص مع 60% من حركة الطلبات بالجودة نفسها، أو يتعرض أحد المزوّدين لانقطاع، أو يحتاج الطلب إلى نافذة سياق أطول، أو لا يجوز نقل عبء عمل خاضع للتنظيم خارج نطاق قضائي معين. يحلّ الموجّه كل هذه المشكلات عبر نقطة نهاية واحدة.

كيف يعمل توجيه نماذج اللغة الكبيرة

وجّه SDK المتوافق مع OpenAI الذي تستخدمه إلى الموجّه بدلًا من مزوّد الخدمة. يعالج الموجّه كل طلب كما يلي:

  1. ينشئ مجموعة من النماذج المرشحة القادرة على خدمة الطلب (من حيث القدرات المناسبة ونافذة السياق والتوافر).
  2. يقيّم النماذج المرشحة وفقًا لهدفك، مثل «أرخص خيار يتجاوز حدًا أدنى للجودة» أو «أقل زمن استجابة مقاس».
  3. يطبّق القيود مثل الميزانيات والمزوّدين المسموح بهم وموقع إقامة البيانات وقوائم النماذج المسموح بها لكل مفتاح.
  4. يرسل الطلب وينتقل إلى خيار احتياطي: إذا أخفق الخيار الأول أو انتهت مهلته، يعيد المحاولة تلقائيًا مع الخيار التالي الأفضل.

لماذا تستخدم الفرق التوجيه بدلًا من تثبيت نموذج واحد

  • التكلفة. وجّه الطلبات البسيطة إلى نماذج منخفضة التكلفة، واحتفظ بالنماذج المتميزة للطلبات التي تحتاج إليها.
  • الموثوقية. يتيح الانتقال التلقائي بين المزوّدين استمرار منتجك عند انقطاع الخدمة لدى أحدهم.
  • المرونة. بدّل النماذج أو أضف إليها دون إصدار نسخة جديدة من الكود، لأن التوجيه تحدده سياسة لا تطبيقك.
  • الحوكمة. طبّق الميزانيات وموقع إقامة البيانات والحدود الدنيا للجودة مركزيًا بدلًا من تطبيقها لكل خدمة على حدة.

التوجيه مقابل خيار احتياطي بسيط

الخيار الاحتياطي («إذا تعذّر OpenAI، فجرّب Anthropic») هو أبسط أشكال التوجيه، لكن التوجيه الفعلي يحسّن الاختيار في كل طلب، لا عند الإخفاقات فقط؛ إذ يختار الخيار الأنسب مسبقًا وفقًا للتكلفة والجودة، لا عند وقوع مشكلة فحسب.

استفد من هذا الدليل مع Ailoot

اربط نماذج الذكاء الاصطناعي بتطبيقاتك ووكلائك وأتمتتك عبر واجهة برمجة تطبيقات واحدة من Ailoot. اختر النموذج المناسب لمهمتك، واتبع وثائق Ailoot للبدء.