المدونة

نماذج اللغة الصغيرة (SLM): نظرة شاملة

Markdown

نظرة عامة على نماذج اللغة الصغيرة (SLMs)، تشمل كيفية إنشائها، ومزاياها وقيودها، واستخداماتها العملية، وخيارات تشغيلها على الأجهزة، وطرق ضبطها الدقيق.

شهدت السنوات القليلة الماضية طفرة كبيرة في مجال الذكاء الاصطناعي، إذ أذهلت نماذج اللغة الكبيرة (LLMs) الجميع بقدراتها، وأصبحت تدعم كل شيء، من روبوتات الدردشة إلى مساعدات البرمجة. لكن ليست كل التطبيقات بحاجة إلى الحجم الهائل والتعقيد الكبير لنماذج اللغة الكبيرة؛ فالقدرة الحاسوبية المطلوبة تجعلها غير عملية في كثير من حالات الاستخدام. لذلك ظهرت نماذج اللغة الصغيرة (SLMs) لجعل نماذج الذكاء الاصطناعي القوية أكثر إتاحةً من خلال تقليص حجمها.

لنستعرض ماهية نماذج اللغة الصغيرة، وكيفية تقليص حجمها، ومزاياها وقيودها، واستخداماتها في العالم الحقيقي، وكيفية تشغيلها على الأجهزة المحمولة وأجهزة الكمبيوتر المكتبية.

ما نماذج اللغة الصغيرة؟

نماذج اللغة الصغيرة (SLMs) هي إصدارات خفيفة من نماذج اللغة التقليدية، صُممت للعمل بكفاءة في البيئات محدودة الموارد، مثل الهواتف الذكية والأنظمة المضمّنة وأجهزة الكمبيوتر منخفضة الطاقة. وفي حين تضم نماذج اللغة الكبيرة مئات المليارات، أو حتى تريليونات، من المعلمات، يتراوح عدد معلمات نماذج اللغة الصغيرة عادةً بين مليون و10 مليارات معلمة. وهي أصغر بكثير، لكنها تحتفظ بالقدرات الأساسية لمعالجة اللغة الطبيعية (NLP)، مثل توليد النصوص والتلخيص والترجمة والإجابة عن الأسئلة.

لا يحب بعض الممارسين مصطلح "نموذج لغة صغير"، لأن مليار معلمة لا يُعد صغيرًا بأي مقياس. ويفضّلون مصطلح "نموذج لغة كبير صغير"، وهو تعبير يبدو معقدًا. لكن الأغلبية اختارت مصطلح نموذج اللغة الصغير، لذا سنستخدم SLM. وبالمناسبة، تذكّروا أنه صغير فقط مقارنةً بالنماذج الكبيرة.

كيف تُقلَّص أحجامها؟

تتضمن عملية تقليص حجم نموذج اللغة عدة تقنيات تهدف إلى خفض حجمه من دون التضحية بقدر كبير من الأداء:

  1. تقطير المعرفة: تدريب نموذج "طالب" أصغر باستخدام المعرفة المنقولة من نموذج "معلّم" أكبر.
  2. التقليم: إزالة المعلمات الزائدة أو الأقل أهمية من بنية الشبكة العصبية.
  3. التكميم: خفض دقة القيم العددية المستخدمة في الحسابات (مثل تحويل أعداد الفاصلة العائمة إلى أعداد صحيحة).

أمثلة على نماذج اللغة الصغيرة

ظهرت عدة نماذج لغة صغيرة لكنها قوية، وأثبتت أن الحجم ليس كل شيء. تتراوح الأمثلة التالية من نماذج اللغة الصغيرة بين 1 و4 مليارات معلمة:

  • Llama3.2-1B – إصدار طورته Meta ويضم مليار معلمة، وهو محسّن للأجهزة الطرفية.
  • Qwen2.5-1.5B – نموذج من Alibaba مصمم للتطبيقات متعددة اللغات، ويضم 1.5 مليار معلمة.
  • DeepSeeek-R1-1.5B - نموذج الاستدلال من الجيل الأول لدى DeepSeek، قُطّر انطلاقًا من Qwen2.5، ويضم 1.5 مليار معلمة.
  • SmolLM2-1.7B – من HuggingFaceTB، وهو نموذج لغة "صغير" متطور (1.7 مليار معلمة) دُرّب على مجموعات بيانات مفتوحة متخصصة (FineMath وStack-Edu وSmolTalk).
  • Phi-3.5-Mini-3.8B – نموذج Microsoft المفتوح الصغير لكنه قوي، ويضم 3.8 مليارات معلمة، ومحسّن للاستدلال وتوليد الشيفرات.
  • Gemma3-4B - طورته Google DeepMind، وهو نموذج خفيف لكنه قوي متعدد اللغات والوسائط، ويضم 4 مليارات معلمة.

وهناك نماذج لغة صغيرة أخرى أكثر قوة ومتاحة حاليًا، منها: Mistral 7B وGemma 9B وPhi-4 14B (مع أنني لست متأكدًا من أن Phi-4 الذي يضم 14 مليار معلمة ما يزال يُصنَّف «صغيرًا»، لكنه قادر جدًا :)

مزايا نماذج اللغة الصغيرة

  • متطلبات حوسبة منخفضة – يمكن تشغيلها على أجهزة الكمبيوتر المحمولة الاستهلاكية والأجهزة الطرفية والهواتف المحمولة.
  • استهلاك أقل للطاقة – تقلل النماذج الكفؤة من استخدام الطاقة، ما يجعلها صديقة للبيئة.
  • استدلال أسرع – تولّد النماذج الأصغر الردود بسرعة، ما يجعلها مثالية للتطبيقات الفورية.
  • ذكاء اصطناعي على الجهاز – لا حاجة إلى اتصال بالإنترنت أو خدمات سحابية، ما يعزز الخصوصية والأمان.
  • نشر أقل تكلفة – تجعل تكاليف الأجهزة والسحابة المنخفضة الذكاء الاصطناعي أيسر إتاحةً للشركات الناشئة والمطورين.
  • قابلية التخصيص: يسهل ضبطها بدقة لمهام متخصصة في مجال معين (مثل تحليل المستندات القانونية).

قيود نماذج اللغة الصغيرة

على الرغم من مزايا نماذج اللغة الصغيرة العديدة، فإنها تنطوي أيضًا على بعض المفاضلات:

  • نطاق محدود: قدرتها على التعميم خارج مجال تدريبها محدودة (مثل صعوبة استخدام نموذج طبي صغير في البرمجة).
  • مخاطر التحيز: قد تؤدي مجموعات البيانات الأصغر إلى تضخيم التحيزات إذا لم تُنتقَ بعناية.
  • تعقيد أقل: قد تواجه النماذج الأصغر صعوبة في المهام الدقيقة للغاية أو المعقدة التي تتطلب فهمًا عميقًا للسياق.
  • متانة أقل: تكون أكثر عرضة للأخطاء في الحالات الملتبسة أو عند مواجهة مدخلات عدائية.

تطبيقات نماذج اللغة الصغيرة في العالم الحقيقي

على الرغم من قيودها، تتمتع نماذج اللغة الصغيرة بنطاق واسع من التطبيقات العملية:

  1. روبوتات الدردشة والمساعدون الافتراضيون: كفؤة بما يكفي للعمل على الأجهزة المحمولة مع توفير تفاعل فوري.
  2. توليد الشيفرات: تساعد نماذج مثل Phi-3.5 Mini المطورين في كتابة الشيفرات وتصحيح أخطائها.
  3. الترجمة اللغوية: يمكن للنماذج الخفيفة توفير الترجمة على الجهاز للمسافرين.
  4. التلخيص وتوليد المحتوى: تستخدم الشركات نماذج اللغة الصغيرة لتوليد النصوص التسويقية ومنشورات وسائل التواصل الاجتماعي والتقارير.
  5. تطبيقات الرعاية الصحية: ذكاء اصطناعي على الجهاز للتحقق من الأعراض والبحث الطبي.
  6. إنترنت الأشياء والحوسبة الطرفية: تشغيل الذكاء الاصطناعي على أجهزة المنزل الذكي من دون الاعتماد على السحابة.
  7. الأدوات التعليمية: يمكن لأنظمة التدريس استخدام نماذج اللغة الصغيرة لتوليد شروحات واختبارات وملاحظات مخصصة في الوقت الفعلي.

تشغيل نماذج اللغة الصغيرة على الأجهزة الطرفية

تنقل نماذج اللغة الصغيرة قدرات الذكاء الاصطناعي مباشرةً إلى هاتفك الذكي (باستخدام PocketPal) أو الكمبيوتر الشخصي (باستخدام Ollama)، مع إتاحة العمل دون اتصال بالإنترنت وتعزيز الخصوصية وخفض زمن الاستجابة.

نماذج اللغة الصغيرة على الأجهزة المحمولة باستخدام PocketPal

للمهتمين بتجربة نماذج اللغة الصغيرة بأنفسهم، يوفّر تطبيق PocketPal AI طريقة سهلة للتفاعل مع هذه النماذج مباشرةً على الهاتف الذكي، من دون الحاجة إلى اتصال بالإنترنت. سواء أردت صياغة رسائل البريد الإلكتروني أو تبادل الأفكار أو الحصول على إجابات سريعة عن أسئلة موجزة، يوفّر PocketPal واجهة سلسة تعمل بنماذج لغة صغيرة محسّنة. وتضمن إمكاناته غير المتصلة بالإنترنت بقاء استفساراتك خاصة.

الميزات

  • مساعدة بالذكاء الاصطناعي دون اتصال: شغّل نماذج اللغة مباشرةً على جهازك من دون اتصال بالإنترنت.
  • مرونة النماذج: نزّل نماذج لغة صغيرة متعددة وبدّل بينها - مثل Phi وGemma وQwen وغيرها.
  • التفريغ والتحميل التلقائيان: إدارة الذاكرة تلقائيًا عبر تفريغ النماذج عند انتقال التطبيق إلى الخلفية.
  • إعدادات الاستدلال: خصّص معلمات النموذج، مثل مطالبة النظام ودرجة الحرارة ورمز BOS وقوالب الدردشة.
  • مقاييس الأداء في الوقت الفعلي: اطّلع على عدد الرموز في الثانية والمللي ثانية لكل رمز أثناء توليد رد الذكاء الاصطناعي.

نزّل PocketPal AI على iOS وAndroid.

تشغيل نماذج اللغة الصغيرة على الكمبيوتر الشخصي باستخدام Ollama

تسهّل Ollama، وهي أداة مفتوحة المصدر، نشر نماذج اللغة الصغيرة على أجهزة الكمبيوتر الشخصية:

  • إدارة محلية: شغّل نماذج مثل Llama3.2-1B أو Phi-3.5 Mini بإعدادات قليلة.
  • تحسين استخدام وحدة معالجة الرسومات: تستفيد من وحدات معالجة الرسومات المخصصة للمستهلكين لتسريع الاستدلال.
  • سير عمل مخصص: ادمج نماذج اللغة الصغيرة في خطوط معالجة البيانات أو الأدوات الإبداعية (مثل مراجعات الشيفرات المؤتمتة).

البدء باستخدام Ollama:

  1. ثبّت Ollama من ollama.com
  2. افتح الطرفية ونزّل نموذجًا:
ollama pull qwen2.5:1.5b
  1. شغّل النموذج تفاعليًا:
ollama run qwen2.5:1.5b

يتيح هذا الإعداد تشغيل روبوتات دردشة ومساعدات برمجة وتلخيص مستندات محليًا بالذكاء الاصطناعي، من دون الحاجة إلى خدمات سحابية.

الضبط الدقيق لنماذج اللغة الصغيرة

من أكثر جوانب نماذج اللغة الصغيرة إثارةً للاهتمام قابليتها للتكيف عبر الضبط الدقيق. فمن خلال تزويد نموذج لغة صغير بمجموعات بيانات خاصة بمجال معين، يمكنك تعزيز أدائه في التطبيقات المتخصصة.

على سبيل المثال:

  • اضبط نموذجًا بدقة على مستندات قانونية لإنشاء مساعد لتحليل العقود.
  • درّب نموذج لغة صغيرًا على أدلة تقنية لإنشاء دليل لاستكشاف المشكلات وإصلاحها للمهندسين.

هناك عدة طرق لضبط نموذج لغة صغير بدقة:

  1. الضبط الدقيق الكامل – إعادة تدريب جميع المعلمات باستخدام بيانات جديدة (يتطلب قدرة حوسبية كبيرة).
  2. LoRA (التكيّف منخفض الرتبة) – ضبط بضع طبقات فقط بدقة، ما يجعله خفيفًا وكفؤًا.
  3. المحولات وضبط المطالبات – إضافة طبقات إضافية أو تحسين المطالبات لتوجيه ردود النموذج.

مثال: الضبط الدقيق باستخدام LoRA عبر مكتبة peft من Hugging Face:

from peft import LoraConfig, get_peft_model
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "gemma-2-2b"
model = AutoModelForCausalLM.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)

config = LoraConfig(r=8, lora_alpha=16, lora_dropout=0.1)
model = get_peft_model(model, config)

# Train the model on new data...

لا يقتصر الضبط الدقيق على تحسين الدقة، بل يضمن أيضًا توافق النموذج بدرجة كبيرة مع متطلباتك الخاصة.

الخلاصة

تمثل نماذج اللغة الصغيرة (SLMs) خطوة مهمة نحو ذكاء اصطناعي كفؤ ومتاح للجميع وفعال من حيث التكلفة. فهي تقدم حلولًا عملية للشركات والمطورين والباحثين الذين يبحثون عن ذكاء اصطناعي قوي من دون العبء الحاسوبي الكبير لنماذج اللغة الكبيرة.

وبفضل أدوات مثل Ollama لأجهزة الكمبيوتر الشخصية وخيارات الضبط الدقيق للتخصيص، تعيد نماذج اللغة الصغيرة تشكيل مشهد الذكاء الاصطناعي، وتجعل الذكاء الاصطناعي أكثر ملاءمةً للأفراد وخصوصيةً وإتاحةً للجميع.

لنكتشف كيف يمكن للذكاء الاصطناعي المدمج أن يحوّل مشاريعنا.

المراجع

استطلاع حول نماذج اللغة الصغيرة (ورقة بحثية)

ضع هذا الدليل موضع التطبيق مع Ailoot

اربط نماذج الذكاء الاصطناعي بتطبيقاتك ووكلائك وأتمتاتك عبر واجهة برمجة تطبيقات واحدة من Ailoot. اختر النموذج الذي يناسب مهمتك، واتبع وثائق Ailoot للبدء.