Ministral 3 8B Instruct 2512 הוא המודל הבינוני בגודלו שהותאם להוראות במשפחת Ministral 3 של Mistral AI. נקודת הביקורת שפורסמה עברה אימון המשך למשימות שיחה והוראות בדיוק FP8. היא משלבת רכיב שפה עם מקודד ראייה, מקבלת טקסט ותמונות ומחזירה טקסט, ולא תוצר תמונה או שמע.
ארכיטקטורה ויכולות מרכזיות
היצרן מציין מודל שפה בעל 8.4 מיליארד פרמטרים ומקודד ראייה בעל 0.4 מיליארד פרמטרים. חלון ההקשר שלו מתואר כ־256k, והערות השימוש שפורסמו משתמשות באורך ברירת מחדל מוגדר של 262,144. אלה מתארים את מהדורת גודל 8B הזאת; בני המשפחה הקטן יותר, 3B, והגדול יותר, 14B, שומרים על גדלי רכיבים ותצורות משלהם.
ראייה מרחיבה את קלט המודל מעבר לשיחה כתובה. אפשר לצרף לתמונת מסמך שאלה על שדה, פסקה או קשר חזותי נבחרים. אפשר לצרף לצילום מסך את מטרת המשתמש ובקשה לזהות את הפקד הרלוונטי. בקשו את התצפית התומכת בכל מסקנה כאשר התשובה תלויה בפרט חזותי, ושמרו כותרות, תוויות ויחידות הדרושות לפירוש החיתוך.
הכרטיס מתאר עבודה רב־לשונית בעשרות שפות, ובהן אנגלית, צרפתית, ספרדית, גרמנית, איטלקית, פורטוגזית, הולנדית, סינית, יפנית, קוריאנית וערבית. הוא מציין גם היצמדות להוראות מערכת, קריאה מובנית לפונקציות ופלט JSON. הגדירו במפורש את שפת היעד, התפקיד ודרישות הפלט, במקום להשאיר למודל להסיק את התוצר המיועד מתוך קלט גדול.
משימות מסמכים, שיחה וסוכנים
מקרי השימוש של היצרן כוללים ממשקי שיחה, עוזרים יומיומיים, תיאור תמונות ומסמכים, תרגום, יצירת תוכן וסוכנים מתמחים. לעוזר מסמכים, ספקו את העמוד וציינו את המידע שיש להחזיר. בקשת חילוץ יכולה לציין את תוויות השדות, את הסוגים הצפויים ואת הטיפול בערכים חסרים. תשובה שימושית עשויה להכיל את מזהה המסמך, את הערך שחולץ והסבר קצר הקשור למקור הגלוי.
לשיחה מתמשכת, שמרו את התשובה הקודמת הרלוונטית ושאלו שאלת המשך ממוקדת. משתמש יכול לבקש תחילה סיכום מסמך ולאחר מכן לשאול איזו אמירה תומכת במסקנה אחת. כך משתנה הפלט הדרוש מסקירה כללית להסבר המקושר למקור, תוך שמירה על החומר המקורי ועל מטרת הדיאלוג.
לעריכה רב־לשונית, ספקו את הקטע המקורי, את הקורא המיועד ואת רשימת המונחים. בקשו גרסה מתוקנת המשמרת שמות, תנאים ויחידות, ולאחריה הסבר קצר על השינויים, אם הוא מועיל. ליצירת תוכן, ציינו את הקהל ואת העובדות שצריכות להופיע לפני בקשת טיוטה קצרה או ניסוח חלופי.
במשימת סוכן, היישום מספק את הכלים ואת הפרמטרים שלהם. המודל יכול לבחור פונקציה ולהכין ארגומנטים, ואילו היישום מפעיל אותה ומחזיר את התוצאה. דוגמת הפונקציה בכרטיס משלבת שאלה על תמונה עם כלי חישוב. שמרו את תוצאת הכלי בנפרד מהקריאה המוצעת, כדי שהתשובה הכתובה הבאה תשתמש במידע שהפעולה החזירה בפועל.
הכנה והגדרות מומלצות
היצרן ממליץ על הוראת מערכת המתארת את הסביבה, את מקרה השימוש ואת אופן השימוש בכלים. הקפידו שקבוצת הכלים תהיה מוגדרת היטב ומוגבלת למינימום הדרוש למשימה. תהליך חיפוש קטן יכול להציע את הפונקציות הרלוונטיות לשאלה הנוכחית, עם ארגומנטים נדרשים בעלי שמות ברורים, במקום להציג אוסף גדול של פעולות שאינן קשורות זו לזו.
לשימוש יומיומי ולשימוש בסביבת ייצור, הכרטיס ממליץ על טמפרטורה מתחת ל־0.1, עם טמפרטורות גבוהות יותר הזמינות לבחינה יצירתית. התייחסו לכך כהמלצה לתהליך ההוראות, ולא כבקרה נפרדת של מצב הסקה. למשפחה יש נקודות ביקורת נפרדות של Base, Instruct ו־Reasoning; רשומה זו היא מהדורת Instruct 2512, ולא גרסת Reasoning הנפרדת באותו גודל.
לתמונות, היצרן ממליץ על יחסי ממדים הקרובים ל־1:1 ועל הימנעות מקלטים צרים מאוד או רחבים מאוד. חתכו לפי הצורך תוך שמירה על התוויות ועל ההקשר שהשאלה דורשת. אם עמוד מכיל כמה אזורים שאינם קשורים זה לזה, זהו את החלק שיש לבדוק ואת התוצאה שיש להחזיר. תמונה קריאה וממוקדת שימושית יותר מבקשה מהמודל לנחש איזה פרט קטן בעמוד רחב חשוב.
גבולות ההקשר והמהדורה
תכננו את הטקסט, התמונות, השיחה והתשובה הרצויה סביב ההקשר המוגדר. הערות השימוש מאפשרות במפורש לצמצם את אורך המודל המוגדר כאשר נדרש פחות הקשר, ולכן החלון המלא אינו הוראה למלא כל בקשה בכל החומר הזמין. דוגמת היצירה של 512 אסימונים בכרטיס היא רק הגדרת דוגמה, והמקורות שנקראו אינם מבססים מגבלה קשיחה נפרדת לאורך תשובה מרבי.
נקודת הביקורת FP8 Instruct, גרסת Base שאומנה מראש וגרסת Reasoning הן מהדורות נפרדות. היצרן מתאר גם התמחות וכוונון עדין כמקרי שימוש. שמרו את נקודת הביקורת הנקובה בשם ואת מחלק האסימונים שלה בהכנת השיחה, והבחינו בין יצירת טקסט לגישה למאגר קוד, להפעלת פונקציות או לפעולות אחרות שהיישום הסובב מספק.
", "aboutText": "Ministral 3 8B Instruct 2512 הוא המודל הבינוני בגודלו שהותאם להוראות במשפחת Ministral 3 של Mistral AI. נקודת הביקורת שפורסמה עברה אימון המשך למשימות שיחה והוראות בדיוק FP8. היא משלבת רכיב שפה עם מקודד ראייה, מקבלת טקסט ותמונות ומחזירה טקסט, ולא תוצר תמונה או שמע.\n\nארכיטקטורה ויכולות מרכזיות\n\nהיצרן מציין מודל שפה בעל 8.4 מיליארד פרמטרים ומקודד ראייה בעל 0.4 מיליארד פרמטרים. חלון ההקשר שלו מתואר כ־256k, והערות השימוש שפורסמו משתמשות באורך ברירת מחדל מוגדר של 262,144. אלה מתארים את מהדורת גודל 8B הזאת; בני המשפחה הקטן יותר, 3B, והגדול יותר, 14B, שומרים על גדלי רכיבים ותצורות משלהם.\n\nראייה מרחיבה את קלט המודל מעבר לשיחה כתובה. אפשר לצרף לתמונת מסמך שאלה על שדה, פסקה או קשר חזותי נבחרים. אפשר לצרף לצילום מסך את מטרת המשתמש ובקשה לזהות את הפקד הרלוונטי. בקשו את התצפית התומכת בכל מסקנה כאשר התשובה תלויה בפרט חזותי, ושמרו כותרות, תוויות ויחידות הדרושות לפירוש החיתוך.\n\nהכרטיס מתאר עבודה רב־לשונית בעשרות שפות, ובהן אנגלית, צרפתית, ספרדית, גרמנית, איטלקית, פורטוגזית, הולנדית, סינית, יפנית, קוריאנית וערבית. הוא מציין גם היצמדות להוראות מערכת, קריאה מובנית לפונקציות ופלט JSON. הגדירו במפורש את שפת היעד, התפקיד ודרישות הפלט, במקום להשאיר למודל להסיק את התוצר המיועד מתוך קלט גדול.\n\nמשימות מסמכים, שיחה וסוכנים\n\nמקרי השימוש של היצרן כוללים ממשקי שיחה, עוזרים יומיומיים, תיאור תמונות ומסמכים, תרגום, יצירת תוכן וסוכנים מתמחים. לעוזר מסמכים, ספקו את העמוד וציינו את המידע שיש להחזיר. בקשת חילוץ יכולה לציין את תוויות השדות, את הסוגים הצפויים ואת הטיפול בערכים חסרים. תשובה שימושית עשויה להכיל את מזהה המסמך, את הערך שחולץ והסבר קצר הקשור למקור הגלוי.\n\nלשיחה מתמשכת, שמרו את התשובה הקודמת הרלוונטית ושאלו שאלת המשך ממוקדת. משתמש יכול לבקש תחילה סיכום מסמך ולאחר מכן לשאול איזו אמירה תומכת במסקנה אחת. כך משתנה הפלט הדרוש מסקירה כללית להסבר המקושר למקור, תוך שמירה על החומר המקורי ועל מטרת הדיאלוג.\n\nלעריכה רב־לשונית, ספקו את הקטע המקורי, את הקורא המיועד ואת רשימת המונחים. בקשו גרסה מתוקנת המשמרת שמות, תנאים ויחידות, ולאחריה הסבר קצר על השינויים, אם הוא מועיל. ליצירת תוכן, ציינו את הקהל ואת העובדות שצריכות להופיע לפני בקשת טיוטה קצרה או ניסוח חלופי.\n\nבמשימת סוכן, היישום מספק את הכלים ואת הפרמטרים שלהם. המודל יכול לבחור פונקציה ולהכין ארגומנטים, ואילו היישום מפעיל אותה ומחזיר את התוצאה. דוגמת הפונקציה בכרטיס משלבת שאלה על תמונה עם כלי חישוב. שמרו את תוצאת הכלי בנפרד מהקריאה המוצעת, כדי שהתשובה הכתובה הבאה תשתמש במידע שהפעולה החזירה בפועל.\n\nהכנה והגדרות מומלצות\n\nהיצרן ממליץ על הוראת מערכת המתארת את הסביבה, את מקרה השימוש ואת אופן השימוש בכלים. הקפידו שקבוצת הכלים תהיה מוגדרת היטב ומוגבלת למינימום הדרוש למשימה. תהליך חיפוש קטן יכול להציע את הפונקציות הרלוונטיות לשאלה הנוכחית, עם ארגומנטים נדרשים בעלי שמות ברורים, במקום להציג אוסף גדול של פעולות שאינן קשורות זו לזו.\n\nלשימוש יומיומי ולשימוש בסביבת ייצור, הכרטיס ממליץ על טמפרטורה מתחת ל־0.1, עם טמפרטורות גבוהות יותר הזמינות לבחינה יצירתית. התייחסו לכך כהמלצה לתהליך ההוראות, ולא כבקרה נפרדת של מצב הסקה. למשפחה יש נקודות ביקורת נפרדות של Base, Instruct ו־Reasoning; רשומה זו היא מהדורת Instruct 2512, ולא גרסת Reasoning הנפרדת באותו גודל.\n\nלתמונות, היצרן ממליץ על יחסי ממדים הקרובים ל־1:1 ועל הימנעות מקלטים צרים מאוד או רחבים מאוד. חתכו לפי הצורך תוך שמירה על התוויות ועל ההקשר שהשאלה דורשת. אם עמוד מכיל כמה אזורים שאינם קשורים זה לזה, זהו את החלק שיש לבדוק ואת התוצאה שיש להחזיר. תמונה קריאה וממוקדת שימושית יותר מבקשה מהמודל לנחש איזה פרט קטן בעמוד רחב חשוב.\n\nגבולות ההקשר והמהדורה\n\nתכננו את הטקסט, התמונות, השיחה והתשובה הרצויה סביב ההקשר המוגדר. הערות השימוש מאפשרות במפורש לצמצם את אורך המודל המוגדר כאשר נדרש פחות הקשר, ולכן החלון המלא אינו הוראה למלא כל בקשה בכל החומר הזמין. דוגמת היצירה של 512 אסימונים בכרטיס היא רק הגדרת דוגמה, והמקורות שנקראו אינם מבססים מגבלה קשיחה נפרדת לאורך תשובה מרבי.\n\nנקודת הביקורת FP8 Instruct, גרסת Base שאומנה מראש וגרסת Reasoning הן מהדורות נפרדות. היצרן מתאר גם התמחות וכוונון עדין כמקרי שימוש. שמרו את נקודת הביקורת הנקובה בשם ואת מחלק האסימונים שלה בהכנת השיחה, והבחינו בין יצירת טקסט לגישה למאגר קוד, להפעלת פונקציות או לפעולות אחרות שהיישום הסובב מספק.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "be274597c9aafdfa97c63c72c4a21f2e37f52af9da3f7cb7ef216d90e30e250c", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "he", "methods": [ { "html": "mistralai/ministral-8b-2512:batchMinistral 3 8B Instruct 2512 הוא מודל הוראות רב־לשוני לטקסט ולתמונות, עם רכיב שפה בעל 8.4 מיליארד פרמטרים ומקודד ראייה בעל 0.4 מיליארד פרמטרים. הוא תומך בהקשר של 256k לפי היצרן, בהוראות מערכת, ב־JSON ובקריאה מובנית לפונקציות לעוזרים ולתהליכי מסמכים.
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
Ministral 3 8B Instruct 2512 הוא המודל הבינוני בגודלו שהותאם להוראות במשפחת Ministral 3 של Mistral AI. נקודת הביקורת שפורסמה עברה אימון המשך למשימות שיחה והוראות בדיוק FP8. היא משלבת רכיב שפה עם מקודד ראייה, מקבלת טקסט ותמונות ומחזירה טקסט, ולא תוצר תמונה או שמע.
ארכיטקטורה ויכולות מרכזיות
היצרן מציין מודל שפה בעל 8.4 מיליארד פרמטרים ומקודד ראייה בעל 0.4 מיליארד פרמטרים. חלון ההקשר שלו מתואר כ־256k, והערות השימוש שפורסמו משתמשות באורך ברירת מחדל מוגדר של 262,144. אלה מתארים את מהדורת גודל 8B הזאת; בני המשפחה הקטן יותר, 3B, והגדול יותר, 14B, שומרים על גדלי רכיבים ותצורות משלהם.
ראייה מרחיבה את קלט המודל מעבר לשיחה כתובה. אפשר לצרף לתמונת מסמך שאלה על שדה, פסקה או קשר חזותי נבחרים. אפשר לצרף לצילום מסך את מטרת המשתמש ובקשה לזהות את הפקד הרלוונטי. בקשו את התצפית התומכת בכל מסקנה כאשר התשובה תלויה בפרט חזותי, ושמרו כותרות, תוויות ויחידות הדרושות לפירוש החיתוך.
הכרטיס מתאר עבודה רב־לשונית בעשרות שפות, ובהן אנגלית, צרפתית, ספרדית, גרמנית, איטלקית, פורטוגזית, הולנדית, סינית, יפנית, קוריאנית וערבית. הוא מציין גם היצמדות להוראות מערכת, קריאה מובנית לפונקציות ופלט JSON. הגדירו במפורש את שפת היעד, התפקיד ודרישות הפלט, במקום להשאיר למודל להסיק את התוצר המיועד מתוך קלט גדול.
משימות מסמכים, שיחה וסוכנים
מקרי השימוש של היצרן כוללים ממשקי שיחה, עוזרים יומיומיים, תיאור תמונות ומסמכים, תרגום, יצירת תוכן וסוכנים מתמחים. לעוזר מסמכים, ספקו את העמוד וציינו את המידע שיש להחזיר. בקשת חילוץ יכולה לציין את תוויות השדות, את הסוגים הצפויים ואת הטיפול בערכים חסרים. תשובה שימושית עשויה להכיל את מזהה המסמך, את הערך שחולץ והסבר קצר הקשור למקור הגלוי.
לשיחה מתמשכת, שמרו את התשובה הקודמת הרלוונטית ושאלו שאלת המשך ממוקדת. משתמש יכול לבקש תחילה סיכום מסמך ולאחר מכן לשאול איזו אמירה תומכת במסקנה אחת. כך משתנה הפלט הדרוש מסקירה כללית להסבר המקושר למקור, תוך שמירה על החומר המקורי ועל מטרת הדיאלוג.
לעריכה רב־לשונית, ספקו את הקטע המקורי, את הקורא המיועד ואת רשימת המונחים. בקשו גרסה מתוקנת המשמרת שמות, תנאים ויחידות, ולאחריה הסבר קצר על השינויים, אם הוא מועיל. ליצירת תוכן, ציינו את הקהל ואת העובדות שצריכות להופיע לפני בקשת טיוטה קצרה או ניסוח חלופי.
במשימת סוכן, היישום מספק את הכלים ואת הפרמטרים שלהם. המודל יכול לבחור פונקציה ולהכין ארגומנטים, ואילו היישום מפעיל אותה ומחזיר את התוצאה. דוגמת הפונקציה בכרטיס משלבת שאלה על תמונה עם כלי חישוב. שמרו את תוצאת הכלי בנפרד מהקריאה המוצעת, כדי שהתשובה הכתובה הבאה תשתמש במידע שהפעולה החזירה בפועל.
הכנה והגדרות מומלצות
היצרן ממליץ על הוראת מערכת המתארת את הסביבה, את מקרה השימוש ואת אופן השימוש בכלים. הקפידו שקבוצת הכלים תהיה מוגדרת היטב ומוגבלת למינימום הדרוש למשימה. תהליך חיפוש קטן יכול להציע את הפונקציות הרלוונטיות לשאלה הנוכחית, עם ארגומנטים נדרשים בעלי שמות ברורים, במקום להציג אוסף גדול של פעולות שאינן קשורות זו לזו.
לשימוש יומיומי ולשימוש בסביבת ייצור, הכרטיס ממליץ על טמפרטורה מתחת ל־0.1, עם טמפרטורות גבוהות יותר הזמינות לבחינה יצירתית. התייחסו לכך כהמלצה לתהליך ההוראות, ולא כבקרה נפרדת של מצב הסקה. למשפחה יש נקודות ביקורת נפרדות של Base, Instruct ו־Reasoning; רשומה זו היא מהדורת Instruct 2512, ולא גרסת Reasoning הנפרדת באותו גודל.
לתמונות, היצרן ממליץ על יחסי ממדים הקרובים ל־1:1 ועל הימנעות מקלטים צרים מאוד או רחבים מאוד. חתכו לפי הצורך תוך שמירה על התוויות ועל ההקשר שהשאלה דורשת. אם עמוד מכיל כמה אזורים שאינם קשורים זה לזה, זהו את החלק שיש לבדוק ואת התוצאה שיש להחזיר. תמונה קריאה וממוקדת שימושית יותר מבקשה מהמודל לנחש איזה פרט קטן בעמוד רחב חשוב.
גבולות ההקשר והמהדורה
תכננו את הטקסט, התמונות, השיחה והתשובה הרצויה סביב ההקשר המוגדר. הערות השימוש מאפשרות במפורש לצמצם את אורך המודל המוגדר כאשר נדרש פחות הקשר, ולכן החלון המלא אינו הוראה למלא כל בקשה בכל החומר הזמין. דוגמת היצירה של 512 אסימונים בכרטיס היא רק הגדרת דוגמה, והמקורות שנקראו אינם מבססים מגבלה קשיחה נפרדת לאורך תשובה מרבי.
נקודת הביקורת FP8 Instruct, גרסת Base שאומנה מראש וגרסת Reasoning הן מהדורות נפרדות. היצרן מתאר גם התמחות וכוונון עדין כמקרי שימוש. שמרו את נקודת הביקורת הנקובה בשם ואת מחלק האסימונים שלה בהכנת השיחה, והבחינו בין יצירת טקסט לגישה למאגר קוד, להפעלת פונקציות או לפעולות אחרות שהיישום הסובב מספק.
POST /v1/batchestexttext| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהendpoint | סוגstring | דרישהחובה | ערכים ומגבלות /v1/chat/completions | ברירת מחדל— |
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות mistralai/ministral-8b-2512:batch | ברירת מחדל— |
שדהrequests | סוגbatch_item[] | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: 1 | ברירת מחדל— |
שדהrequests[].custom_id | סוגstring | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהrequests[].body.messages | סוגmessage[] | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהcompletion_window | סוגstring | דרישהרשות | ערכים ומגבלות 24h | ברירת מחדל— |
שדהprovider | סוגobject|null | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהrequests[].body.model | סוגstring | דרישהרשות | ערכים ומגבלות mistralai/ministral-8b-2512:batch, mistralai/ministral-8b-2512 | ברירת מחדל— |
שדהprovider.only | סוגstring[] | דרישהרשות | ערכים ומגבלות mistral | ברירת מחדל— |
שדהprovider.allow_fallbacks | סוגboolean|null | דרישהרשות | ערכים ומגבלות false, null | ברירת מחדל— |
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטendpoint, model, requests |
פרמטרmaterial_types | מפרטtext |
פרמטרrepresentation | מפרטrequests[] מוטמעים; לכל פריט יש custom_id ו־body |
פרמטרrequest_endpoint_profile | מפרט/v1/chat/completions |
פרמטרfile_material | מפרטהגורם הקורא רשאי לקרוא מקומית תוכן JSONL אמיתי בקידוד UTF-8 לתוך requests[]. לא נעשה שימוש בשדה purpose להעלאה, ב־input_file_id או בהפניה לקובץ. חומר לקוח חסר או ריק עוצר את ההכנה לפני POST. |
פרמטרserialization_order | מפרטendpoint, model, provider (אם צוין), completion_window (אם צוין), requests בסוף |
פרמטרoptional_controls | מפרטprovider.only, provider.allow_fallbacks, completion_window |
פרמטרschema_scope | מפרטגופי בקשות טקסט של Chat Completions במעטפת Batch המוטמעת המתועדת. |
מחזור חיים: asynchronous
GET /v1/batches/{operation_id} · ערך response.id מבקשת היצירה המקורית שהוחזר בפועל; אותם משתמש/מפתח/קבוצה
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
התאימו כל חיוב לתנאים המוצגים. השתמשו בתעריף אחד לכל קבוצה של תצורות חלופיות.
| תצורה | טבלת תעריפים | טוקנים בהקשר, יותר מ- | טוקנים בהקשר, עד וכולל | חיוב |
|---|---|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | טוקנים בהקשר, יותר מ-— | טוקנים בהקשר, עד וכוללללא גבול עליון | חיוב קלט · טוקני קלט $0.00015 / 1K טוקנים פלט · טוקני פלט $0.00015 / 1K טוקנים קלט · קריאה מהמטמון $0.000015 / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
| תצורהרמת אורך בקשה 1 | טבלת תעריפים— | טוקנים בהקשר, יותר מ-0 | טוקנים בהקשר, עד וכוללללא גבול עליון | חיוב קלט · טוקני קלט $0.00015 / 1K טוקנים פלט · טוקני פלט $0.00015 / 1K טוקנים קלט · קריאה מהמטמון $0.000015 / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/ministral-8b-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/ministral-8b-2512:batch', 'mistralai/ministral-8b-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/ministral-8b-2512:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nJSON מוטמע מתוך results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nשמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו את JSON הסטטוס המקורי במלואו, כל תוצאה/custom_id ואת גוף התשובה או השגיאה המלא. שמרו את results[] שהושלמו כ־JSONL ללא סינון.
שמרו את מזהה הפעולה המקורי. לתשובת 503 result_pending_check יש X-Should-Retry:false; לעולם אל תשלחו מחדש אצווה מקורית שתוצאתה אינה ידועה.
| שדה | סוג |
|---|---|
שדהresults[].custom_id | סוגstring |
שדהresults[].response.body.choices[].message.content | סוגstring|null |
שדהresults[].error | סוגobject|null |
שדהusage | סוגobject|null |
שדהid | סוגstring |
שדהmodel | סוגstring |
שדהendpoint | סוגstring |
שדהstatus | סוגstring |
שדהrequest_counts | סוגobject |
שדהresults[].id | סוגstring |
שדהresults[].response.status_code | סוגinteger |
שדהresults[].response.request_id | סוגstring |
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאימעטפת מוטמעת מתועדת לא תקינה, מפתחות כפולים, זהות פריט לא תקינה או סתירה ביכולות המודל שהוגדרו. | השלב הבאתקנו את השדות שצוינו לפני כל שליחה חדשה. |
תגובה401 · authentication_error | תנאימפתח API לא תקין. | השלב הבאהשתמשו במפתח Ailoot המורשה. |
תגובה403 · permission_error | תנאיקבוצת Batch אינה זמינה. | השלב הבאבדקו את הרשאות המפתח/הקבוצה. |
תגובה422 · invalid_request_error | תנאיBatch מחויב מהיתרה; יצירה בחיוב מנוי נדחית. | השלב הבאהשתמשו בקבוצה המורשית שהחיוב שלה מנוכה מהיתרה. |
תגובה422 · price_unavailable | תנאילא ניתן לחשב הצעת מחיר לקלט Batch. | השלב הבאשמרו את התשובה; השתמשו בקלט המתועד למשפחת ה־API. |
תגובה402 · billing_error | תנאיהסכום לשריון עבור Batch אינו זמין. | השלב הבאפתרו את הבעיה המונעת את קבלת הבקשה לפני שליחת בקשה חדשה. |
תגובה503 · price_unavailable | תנאיהמחיר לשיטת Batch או התעריפים המקוריים אינם זמינים. | השלב הבאשמרו את התשובה; אל תחליפו את המחירים. |
תגובה503 · api_error | תנאינתיב הספק המדויק אינו זמין. | השלב הבאשמרו את התשובה לצורך תיקון נתיב הניתוב. |
תגובה503 · result_pending_check | תנאיהתוצאה המקורית דורשת בדיקה; X-Should-Retry:false. | השלב הבאשמרו את operation_id/id המקורי וקראו את הסטטוס שלו; לעולם אל תחזרו על ה־POST המקורי. |
תגובה404 · not_found | תנאיהפעולה לבדיקת סטטוס Batch אינה קיימת או שייכת לזהות אחרת. | השלב הבאהשתמשו בערך id המקורי המדויק ובאותם משתמש/מפתח/קבוצה. |
Ailoot Ultra mistralai/ministral-8b-2512:batch
השתמשו בנתיבי השיטות המוצגים למעלה.