LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B הוא מודל הטקסט שעבר אימון המשך במשפחת LFM2.5 הקומפקטית של Liquid, ומיועד לסוכנים הפועלים במכשיר ולתהליכי עבודה מעשיים. כרטיס המודל המסוים מציין 2.69 מיליארד פרמטרים ו־30 שכבות: 22 בלוקי קונבולוציה קצרה עם שער כפול ושמונה בלוקי קשב עם שאילתות מקובצות. התכנון ההיברידי מכוון לעיבוד טקסט יעיל. המודל מקבל טקסט ומחזיר טקסט, לרבות תשובה מנומקת או בקשה להשתמש בפונקציה מוגדרת.

היצרן ממליץ עליו לעומסי עבודה של סוכנים, לשימוש בכלים, לחילוץ נתונים, ליצירה מוגברת באחזור ולתהליכים עם הקשר ארוך. שרשרת האימון של המהדורה משלבת כוונון עדין מונחה, מודלי מורה מתמחים, זיקוק רב־תחומי לפי המדיניות ולמידת חיזוק בתוך סביבות סוכנים. הדבר מסביר את המיקוד שלו במילוי הוראות משימה, בשימוש בתצפיות כלים ובהתקדמות בכמה צעדים. תנו לו את החומרים בפועל ומטרה מדויקת, במקום להסתמך על ידע רחב שנלמד כדי למלא פערים.

לחילוץ, הגדירו את השדות ואת כללי המקור לפני אספקת החומר. בקשה מעשית: ״קרא את עדכוני השירות האלה, חלץ את המזהה, המצב המוצהר והפעולה הבאה הדרושה של כל רשומה, ושמור את המשפט התומך בכל שדה. החזר null כששדה חסר.״ ציינו אם יש להעתיק ערך בדיוק, לנרמל אותו או להסיק אותו. כך הפלט ניתן לבחינה ונמנע מצב שבו פרשנות סבירה מחליפה בשקט מידע המופיע בפועל במקור.

ל־RAG, ספקו קטעים רלוונטיים עם תוויות יציבות ובקשו תשובה המבוססת על קטעים אלה. לדוגמה: ״בהסתמך רק על הוראות ההתקנה האלה, הסבר אילו צעדים חלים על הסביבה שצוינה ופרט את דרישות הקדם שעדיין אינן ידועות.״ שמרו את גרסאות המסמכים ואת התנאים עם הטקסט. בקשו מהמודל לזהות עובדה חסרה או סותרת במקום להמציא נוהל שלם. הדבר מתאים להמלצת היצרן על משימות מבוססות מקורות יותר מבקשה מהמודל הקומפקטי לשמש מאגר ממצה של ידע מקצועי.

LFM2.5-2.6B הוא מודל הסקה בלבד: תבנית השיחה שלו מתחילה את תשובת העוזר בסמן חשיבה, והוא מסיק לפני התשובה הסופית. כרטיס המודל של היצרן ממליץ ליצירה על temperature 0.1,‏ top-k 50 וקנס חזרתיות של 1.1. אלה הגדרות המתכון של המודל הנקוב. הבדילו את התוצר הסופי מטקסט ההסקה והשאירו מקום לשניהם בבקשת העבודה. אין להניח שבקרות או מצבי תשובה ישירה השייכים למהדורות הוראות אחרות של LFM חלים גם על מודל זה.

המודל משתמש בפורמט שיחה הדומה ל־ChatML, עם תפקידי system,‏ user,‏ assistant ו־tool. לתהליך הפונקציות המתועד שלו ארבעה שלבים: הגדרת הכלים, מתן אפשרות למודל לבקש פונקציה, ביצוע הפונקציה ביישום שסביבו והחזרת התוצאה בפועל כדי שהמודל יוכל לענות. קריאות מובנות הן רשימות בסגנון Python המוקפות בסמני קריאה לכלי; היצרן מתאר גם בקשת פורמט קריאה של JSON באמצעות הוראת המערכת. השתמשו במנתח המתאים, בדקו את שם הפונקציה ואת הארגומנטים מול ההגדרות שסופקו ושמרו את התוצאה עם הקריאה שיצרה אותה.

לתהליך סוכן קומפקטי, חשפו רק את הפונקציות הרלוונטיות למשימה הנוכחית, עם תיאורים תמציתיים וטיפוסי ארגומנטים מפורשים. גם הגדרות הכלים עצמן תופסות הקשר. רצף שימושי עשוי לחפש את מצבה של רשומה שסופקה, להשוות את המצב שהוחזר לכלל ולהסביר אם דרוש מעקב. ספקו את מזהה הרשומה כראיה ובקשו תשובה סופית הקשורה לתצפית שהוחזרה. המודל מציע ומפרש את הפעולה; היישום מספק את ביצועה בפועל ואת תוצאתה.

כרטיס המודל הנוכחי של היצרן מציין הקשר מודל של 131,072 אסימונים, והמהדורה מתארת שלב ייעודי להרחבת ההקשר. עבדו בתוך החלון של התצורה שבשימוש, תוך שמירת גבולות מקורות, היסטוריה רלוונטית ומקום להמשך. עבור כמה מסמכים, בקשו לעקוב אחר השוואה או תלות מסוימת. נקודת השמירה המקורית ותוצרי GGUF,‏ ONNX ו־MLX משרתים צורכי פריסה שונים, וטיוטת פענוח ספקולטיבי היא תוצר נלווה נפרד. נתוני משאבים או מהירות מתצורה אחת אינם מתארים אוטומטית כל פורמט מודל וחלון עבודה.

Liquid אינה ממליצה במפורש על LFM2.5-2.6B לתכנות באמצעות סוכנים או למשימות עתירות ידע. שמרו אותו ממוקד בתהליכים מוחשיים עם ראיות שסופקו, כללי חילוץ ותצפיות כלים. גם נקודת השמירה Base שעברה אימון מקדים היא תוצר נפרד המיועד להתאמה, ואילו מהדורה זו שעברה אימון המשך היא מודל הסוכן. בתוצאה הסופית, בדקו ערכים שחולצו מול המקור שלהם, בדקו שקטע מצוטט תומך בתשובה והבחינו בין קריאה מבוקשת לכלי לפעולה בעלת תוצאה מתועדת. שמרו מידע לא פתור כשהוא משפיע על המסקנה, במקום לאפשר לטקסט רהוט לטשטש אותו.