Granite 4.0 H Micro הוא מודל ההוראות בעל ההקשר הארוך של IBM, עם 3 מיליארד פרמטרים, שעבר כוונון עדין מ־Granite 4.0 H Micro Base. זו מהדורת Micro הצפופה וההיברידית, המשלבת Mamba-2 וקשב, בנפרד מ־Micro המבוסס על Transformer בלבד ומווריאנטי תערובת המומחים הגדולים יותר. המודל מקבל הוראת טקסט והקשר ומחזיר טקסט, ולכן משמש אבן בניין קומפקטית לעוזרים ארגוניים ולצעדים מסוימים במשימת סוכן.
טבלת הארכיטקטורה של היצרן מונה ארבע שכבות קשב ושלושים ושש שכבות Mamba-2, עם אורך רצף של 128K. מודל ההוראות משתמש בכוונון עדין מונחה, ביישור באמצעות למידת חיזוק ובמיזוג מודלים. חומרי האימון שלו כוללים נתוני הוראות בעלי רישיונות מתירניים, נתונים סינתטיים ודוגמאות שנבחרו בידי בני אדם. המבנה ההיברידי הוא מאפיין של המהדורה; אין להחליפו בנתוני הפרמטרים או המומחים הפעילים של מודל Granite אחר.
היצרן מונה שתים־עשרה שפות נתמכות ומשימות הכוללות סיכום, סיווג, חילוץ, מענה לשאלות, יצירה מוגברת באחזור, תכנות וקריאות לפונקציות. ספקו את קטע המקור בפועל ותארו את הפעולה הדרושה. לחילוץ, הגדירו את השדות וכיצד לייצג ערך חסר. לסיווג, ספקו את משמעויות הקטגוריות ומקרה הממחיש גבול חשוב.
בריף לדוגמה: ״חלץ כל דרישה מהקטע הזה, שמור את המזהה שלה וצטט את המשפט שמבסס אותה.״ לסיכום, ציינו את הקהל ואת העובדות שחייבות להישמר. לתרגום, זהו שמות ומונחים טכניים שצריכים לשמור על האיות המקורי. פורמט סופי ברור מסייע למודל הוראות קטן להפיק את התוצר שהיישום צריך.
הכרטיס של Granite H Micro מדגים הגדרות כלים עם שמות פונקציות, תיאורים וסכמות פרמטרים. המודל מחזיר שם פונקציה וארגומנטים ב־JSON בייצוג הקריאה לכלי שלו. היישום שסביבו מבצע את הפעולה שנבחרה, בודק את הארגומנטים ומחזיר את התוצאה. משימת חיפוש ערך צריכה לשמור את התצפית הזאת כראיה שבה משתמשת התשובה.
בתהליך אחזור, ספקו את חומר המסמכים הרלוונטי ובקשו תשובה המבוססת עליו. הגישה למקור שייכת ליישום; תשובת מודל הטקסט נוצרת מההקשר שהוא מקבל. שמרו תוויות מסמכים ויחידות גלויות כדי שאפשר יהיה לעקוב אחר התוצאה אל הקלט.
המודל תומך במשימות קוד ובהשלמה באמצע קטע. בריף תכנות צריך לכלול את המימוש הרלוונטי, את ההתנהגות שנצפתה ואת ההתנהגות שיש לשמר. למשימת השלמה, זהו את הקוד שסביב ואת הפער שיש למלא. בקשו את תוצר הקוד ואת ההסבר הקשור לאילוצים, ואז בחנו את התוצאה בסביבת הפיתוח בפועל.
ההקשר של 128K כולל יחד את ההנחיה, המקור, השיחה והתשובה שנוצרת; הכרטיס אינו קובע אורך תשובה מרבי עצמאי ואחיד. תבנית השיחה לדוגמה כוללת הוראת מערכת כברירת מחדל לתשובות מקצועיות, מדויקות ובטוחות. רשימת שדות או תוצר קוד שהתבקשו עדיין זקוקים להוראות משימה מפורשות משלהם.
IBM מציינת שהביצועים הרב־לשוניים עשויים להיות שונים מאנגלית, משום שאימון ההוראות הוא בעיקר באנגלית; כמה דוגמאות הרלוונטיות למשימה עשויות לעזור. היא גם מכירה באפשרות לתשובות לא מדויקות או מוטות. בדקו ערכים שנגזרו ממקור וקוד שנוצר מול הקלט, והחזירו תצפיות בפועל כאשר המשימה דורשת תיקון. הפלט השימושי של H Micro הוא תוצאת טקסט או קוד ממוקדת, תוך שמירת זהותו המדויקת כ־Micro היברידי.
", "aboutText": "Granite 4.0 H Micro הוא מודל ההוראות בעל ההקשר הארוך של IBM, עם 3 מיליארד פרמטרים, שעבר כוונון עדין מ־Granite 4.0 H Micro Base. זו מהדורת Micro הצפופה וההיברידית, המשלבת Mamba-2 וקשב, בנפרד מ־Micro המבוסס על Transformer בלבד ומווריאנטי תערובת המומחים הגדולים יותר. המודל מקבל הוראת טקסט והקשר ומחזיר טקסט, ולכן משמש אבן בניין קומפקטית לעוזרים ארגוניים ולצעדים מסוימים במשימת סוכן.\n\n### מבנה המודל והאימון\n\nטבלת הארכיטקטורה של היצרן מונה ארבע שכבות קשב ושלושים ושש שכבות Mamba-2, עם אורך רצף של 128K. מודל ההוראות משתמש בכוונון עדין מונחה, ביישור באמצעות למידת חיזוק ובמיזוג מודלים. חומרי האימון שלו כוללים נתוני הוראות בעלי רישיונות מתירניים, נתונים סינתטיים ודוגמאות שנבחרו בידי בני אדם. המבנה ההיברידי הוא מאפיין של המהדורה; אין להחליפו בנתוני הפרמטרים או המומחים הפעילים של מודל Granite אחר.\n\n### שפה ומשימות ממוקדות\n\nהיצרן מונה שתים־עשרה שפות נתמכות ומשימות הכוללות סיכום, סיווג, חילוץ, מענה לשאלות, יצירה מוגברת באחזור, תכנות וקריאות לפונקציות. ספקו את קטע המקור בפועל ותארו את הפעולה הדרושה. לחילוץ, הגדירו את השדות וכיצד לייצג ערך חסר. לסיווג, ספקו את משמעויות הקטגוריות ומקרה הממחיש גבול חשוב.\n\nבריף לדוגמה: ״חלץ כל דרישה מהקטע הזה, שמור את המזהה שלה וצטט את המשפט שמבסס אותה.״ לסיכום, ציינו את הקהל ואת העובדות שחייבות להישמר. לתרגום, זהו שמות ומונחים טכניים שצריכים לשמור על האיות המקורי. פורמט סופי ברור מסייע למודל הוראות קטן להפיק את התוצר שהיישום צריך.\n\n### כלים ותשובות המבוססות על מקורות\n\nהכרטיס של Granite H Micro מדגים הגדרות כלים עם שמות פונקציות, תיאורים וסכמות פרמטרים. המודל מחזיר שם פונקציה וארגומנטים ב־JSON בייצוג הקריאה לכלי שלו. היישום שסביבו מבצע את הפעולה שנבחרה, בודק את הארגומנטים ומחזיר את התוצאה. משימת חיפוש ערך צריכה לשמור את התצפית הזאת כראיה שבה משתמשת התשובה.\n\nבתהליך אחזור, ספקו את חומר המסמכים הרלוונטי ובקשו תשובה המבוססת עליו. הגישה למקור שייכת ליישום; תשובת מודל הטקסט נוצרת מההקשר שהוא מקבל. שמרו תוויות מסמכים ויחידות גלויות כדי שאפשר יהיה לעקוב אחר התוצאה אל הקלט.\n\n### תכנות והשלמה\n\nהמודל תומך במשימות קוד ובהשלמה באמצע קטע. בריף תכנות צריך לכלול את המימוש הרלוונטי, את ההתנהגות שנצפתה ואת ההתנהגות שיש לשמר. למשימת השלמה, זהו את הקוד שסביב ואת הפער שיש למלא. בקשו את תוצר הקוד ואת ההסבר הקשור לאילוצים, ואז בחנו את התוצאה בסביבת הפיתוח בפועל.\n\n### הקשר ומגבלות\n\nההקשר של 128K כולל יחד את ההנחיה, המקור, השיחה והתשובה שנוצרת; הכרטיס אינו קובע אורך תשובה מרבי עצמאי ואחיד. תבנית השיחה לדוגמה כוללת הוראת מערכת כברירת מחדל לתשובות מקצועיות, מדויקות ובטוחות. רשימת שדות או תוצר קוד שהתבקשו עדיין זקוקים להוראות משימה מפורשות משלהם.\n\nIBM מציינת שהביצועים הרב־לשוניים עשויים להיות שונים מאנגלית, משום שאימון ההוראות הוא בעיקר באנגלית; כמה דוגמאות הרלוונטיות למשימה עשויות לעזור. היא גם מכירה באפשרות לתשובות לא מדויקות או מוטות. בדקו ערכים שנגזרו ממקור וקוד שנוצר מול הקלט, והחזירו תצפיות בפועל כאשר המשימה דורשת תיקון. הפלט השימושי של H Micro הוא תוצאת טקסט או קוד ממוקדת, תוך שמירת זהותו המדויקת כ־Micro היברידי.", "editorialOverlay": { "copy_fields": { "practical_html": "דוגמה טכנית באנגלית
Extract traceable requirements\n\nExtract requirements from this passage: '[R1] Export filenames must include the report ID. [R2] Reports with no rows must still include column headings. [R3] Files are encoded as UTF-8.' Return a table with requirement ID, implementation requirement and the exact supporting sentence. Keep each requirement separate and add no implementation details absent from the source.A three-row table retaining each ID, requirement and exact source sentence.Check every extracted requirement maps one-to-one to R1, R2 or R3 without added conditions.ibm-granite/granite-4.0-h-microGranite 4.0 H Micro הוא מודל הטקסט ההיברידי Mamba-2/Transformer של IBM, עם 3 מיליארד פרמטרים, למשימות ארגוניות ממוקדות. ההקשר שלו, באורך 128K, תומך בסיכום, בחילוץ, בשאלות, בתכנות ובקריאות לפונקציות, עם דיאלוג רב־לשוני והשלמת קוד באמצע קטע.
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
Granite 4.0 H Micro הוא מודל ההוראות בעל ההקשר הארוך של IBM, עם 3 מיליארד פרמטרים, שעבר כוונון עדין מ־Granite 4.0 H Micro Base. זו מהדורת Micro הצפופה וההיברידית, המשלבת Mamba-2 וקשב, בנפרד מ־Micro המבוסס על Transformer בלבד ומווריאנטי תערובת המומחים הגדולים יותר. המודל מקבל הוראת טקסט והקשר ומחזיר טקסט, ולכן משמש אבן בניין קומפקטית לעוזרים ארגוניים ולצעדים מסוימים במשימת סוכן.
טבלת הארכיטקטורה של היצרן מונה ארבע שכבות קשב ושלושים ושש שכבות Mamba-2, עם אורך רצף של 128K. מודל ההוראות משתמש בכוונון עדין מונחה, ביישור באמצעות למידת חיזוק ובמיזוג מודלים. חומרי האימון שלו כוללים נתוני הוראות בעלי רישיונות מתירניים, נתונים סינתטיים ודוגמאות שנבחרו בידי בני אדם. המבנה ההיברידי הוא מאפיין של המהדורה; אין להחליפו בנתוני הפרמטרים או המומחים הפעילים של מודל Granite אחר.
היצרן מונה שתים־עשרה שפות נתמכות ומשימות הכוללות סיכום, סיווג, חילוץ, מענה לשאלות, יצירה מוגברת באחזור, תכנות וקריאות לפונקציות. ספקו את קטע המקור בפועל ותארו את הפעולה הדרושה. לחילוץ, הגדירו את השדות וכיצד לייצג ערך חסר. לסיווג, ספקו את משמעויות הקטגוריות ומקרה הממחיש גבול חשוב.
בריף לדוגמה: ״חלץ כל דרישה מהקטע הזה, שמור את המזהה שלה וצטט את המשפט שמבסס אותה.״ לסיכום, ציינו את הקהל ואת העובדות שחייבות להישמר. לתרגום, זהו שמות ומונחים טכניים שצריכים לשמור על האיות המקורי. פורמט סופי ברור מסייע למודל הוראות קטן להפיק את התוצר שהיישום צריך.
הכרטיס של Granite H Micro מדגים הגדרות כלים עם שמות פונקציות, תיאורים וסכמות פרמטרים. המודל מחזיר שם פונקציה וארגומנטים ב־JSON בייצוג הקריאה לכלי שלו. היישום שסביבו מבצע את הפעולה שנבחרה, בודק את הארגומנטים ומחזיר את התוצאה. משימת חיפוש ערך צריכה לשמור את התצפית הזאת כראיה שבה משתמשת התשובה.
בתהליך אחזור, ספקו את חומר המסמכים הרלוונטי ובקשו תשובה המבוססת עליו. הגישה למקור שייכת ליישום; תשובת מודל הטקסט נוצרת מההקשר שהוא מקבל. שמרו תוויות מסמכים ויחידות גלויות כדי שאפשר יהיה לעקוב אחר התוצאה אל הקלט.
המודל תומך במשימות קוד ובהשלמה באמצע קטע. בריף תכנות צריך לכלול את המימוש הרלוונטי, את ההתנהגות שנצפתה ואת ההתנהגות שיש לשמר. למשימת השלמה, זהו את הקוד שסביב ואת הפער שיש למלא. בקשו את תוצר הקוד ואת ההסבר הקשור לאילוצים, ואז בחנו את התוצאה בסביבת הפיתוח בפועל.
ההקשר של 128K כולל יחד את ההנחיה, המקור, השיחה והתשובה שנוצרת; הכרטיס אינו קובע אורך תשובה מרבי עצמאי ואחיד. תבנית השיחה לדוגמה כוללת הוראת מערכת כברירת מחדל לתשובות מקצועיות, מדויקות ובטוחות. רשימת שדות או תוצר קוד שהתבקשו עדיין זקוקים להוראות משימה מפורשות משלהם.
IBM מציינת שהביצועים הרב־לשוניים עשויים להיות שונים מאנגלית, משום שאימון ההוראות הוא בעיקר באנגלית; כמה דוגמאות הרלוונטיות למשימה עשויות לעזור. היא גם מכירה באפשרות לתשובות לא מדויקות או מוטות. בדקו ערכים שנגזרו ממקור וקוד שנוצר מול הקלט, והחזירו תצפיות בפועל כאשר המשימה דורשת תיקון. הפלט השימושי של H Micro הוא תוצאת טקסט או קוד ממוקדת, תוך שמירת זהותו המדויקת כ־Micro היברידי.
POST /v1/chat/completionstexttext| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות ibm-granite/granite-4.0-h-micro | ברירת מחדל— |
שדהmessages | סוגmessage[] | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: 1 | ברירת מחדל— |
שדהmessages[].role | סוגstring | דרישהחובה | ערכים ומגבלות דוגמאות: system, user, assistant, tool, function תנאים: התפקידים האלה מיוצגים במפורש בטיפוסי התאימות בקוד המקור; מערך התפקידים המדויק נשאר ייחודי לכל מודל. תלוי במודל | ברירת מחדל— |
שדהmessages[].content | סוגstring|content_part[]|null | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהmessages[].tool_calls | סוגtool_call[] | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהmessages[].tool_call_id | סוגstring | דרישהרשות | ערכים ומגבלות חל כאשר: role=tool; השתמשו במזהה שהוחזר בפועל | ברירת מחדל— |
שדהmessages[].name | סוגstring | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהmessages[].reasoning_content | סוגstring | דרישהרשות | ערכים ומגבלות חל כאשר: החזירו בהמשך את ההנמקה שהתקבלה בפועל כאשר המודל הזה משתמש בה | ברירת מחדל— |
שדהmessages[].reasoning_details | סוגobject|array | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהmax_tokens | סוגinteger | דרישהרשות | ערכים ומגבלות מינימום: 1 תלוי במודל | ברירת מחדל— |
שדהmax_completion_tokens | סוגinteger | דרישהרשות | ערכים ומגבלות מינימום: 1 תלוי במודל | ברירת מחדל— |
שדהstream | סוגboolean | דרישהרשות | ערכים ומגבלות | ברירת מחדלfalse |
שדהstream_options.include_usage | סוגboolean | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהtemperature | סוגnumber | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהtop_p | סוגnumber | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהstop | סוגstring|string[] | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהtools | סוגfunction_tool[] | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהtools[].type | סוגstring | דרישהרשות | ערכים ומגבלות function תלוי במודל | ברירת מחדל— |
שדהtools[].function.name | סוגstring | דרישהחובה | ערכים ומגבלות חל כאשר: סופק כלי פונקציה | ברירת מחדל— |
שדהtools[].function.description | סוגstring | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהtools[].function.parameters | סוגJSON_schema | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהtool_choice | סוגstring|object | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהparallel_tool_calls | סוגboolean | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהresponse_format | סוגobject | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהreasoning_effort | סוגstring | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהreasoning | סוגobject | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהservice_tier | סוגstring | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהinstructions | סוגstring | דרישהרשות | ערכים ומגבלות שדה תאימות | ברירת מחדל— |
שדהfunctions | סוגfunction[] | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהfunction_call | סוגstring|object | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהprompt_cache_options | סוגobject | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהmodalities | סוגstring[] | דרישהרשות | ערכים ומגבלות text | ברירת מחדל— |
שדהprovider | סוגobject | דרישהרשות | ערכים ומגבלות תנאים: provider.options נדחה במסלול הטקסט הזה של Ultra | ברירת מחדל— |
שדהcache_control.ttl | סוגstring | דרישהרשות | ערכים ומגבלות תנאים: 1h נדחה במיקומים המשמשים בפועל למטמון הנחיות | ברירת מחדל— |
טקסט · טקסט UTF8
messages[].content
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, messages |
פרמטרmaterial_types | מפרטtext |
פרמטרmessages | מפרטמערך הודעות במבנה role/content |
פרמטרfile_material | מפרטמסמך UTF-8 בפועל מוכנס כטקסט מילולי; לא מוסק מזהה קובץ |
פרמטרoptional_controls | מפרטstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
פרמטרcontrol_scope | מפרטייחודי למודל; כלי פונקציות של המשתמש שונים מכלים מתארחים |
פרמטרoutput_modalities | מפרטtext |
פרמטרhosted_operations | מפרטfalse |
פרמטרmultimodal_input_binding | מפרטnull |
מחזור חיים: synchronous_or_streamed
שלחו את מזהה המודל המדויק עם messages.
אורך ההקשר אינו תקרת פלט.
קובץ טקסט יכול לספק טקסט מילולי; קלטי תמונה/אודיו/אובייקט קובץ דורשים קישור מדויק.
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
התאימו כל חיוב לתנאים המוצגים. השתמשו בתעריף אחד לכל קבוצה של תצורות חלופיות.
| תצורה | טבלת תעריפים | טוקנים בהקשר, יותר מ- | טוקנים בהקשר, עד וכולל | חיוב |
|---|---|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | טוקנים בהקשר, יותר מ-— | טוקנים בהקשר, עד וכוללללא גבול עליון | חיוב קלט · טוקני קלט $0.000034 / 1K טוקנים פלט · טוקני פלט $0.000224 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
| תצורהרמת אורך בקשה 1 | טבלת תעריפים— | טוקנים בהקשר, יותר מ-0 | טוקנים בהקשר, עד וכוללללא גבול עליון | חיוב קלט · טוקני קלט $0.000034 / 1K טוקנים פלט · טוקני פלט $0.000224 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "ibm-granite/granite-4.0-h-micro", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='ibm-granite/granite-4.0-h-micro',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='ibm-granite/granite-4.0-h-micro',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson או SSE
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו כל בחירה ואת התוכן, קריאות הכלים וההנמקה שלה. ב-SSE הרכיבו עדכונים לפי אינדקס הבחירה/הכלי ושמרו את סיבת הסיום הסופית ואת השימוש.
שמרו מזהי בקשות/תגובות וכותרות. לא מסופק URL כללי לאחזור משימת טקסט.
| שדה | סוג |
|---|---|
שדהchoices[].index | סוגinteger |
שדהchoices[].message.content | סוגstring|null |
שדהchoices[].message.tool_calls | סוגtool_call[] |
שדהchoices[].message.reasoning_content | סוגstring |
שדהchoices[].message.reasoning_details | סוגobject|array |
שדהchoices[].finish_reason | סוגstring|null |
שדהusage | סוגobject |
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
Ailoot Ultra ibm-granite/granite-4.0-h-micro
השתמשו בנתיבי השיטות המוצגים למעלה.
ibm-granite/granite-4.0-h-microGranite 4.0 H Micro הוא מודל הטקסט ההיברידי Mamba-2/Transformer של IBM, עם 3 מיליארד פרמטרים, למשימות ארגוניות ממוקדות. ההקשר שלו, באורך 128K, תומך בסיכום, בחילוץ, בשאלות, בתכנות ובקריאות לפונקציות, עם דיאלוג רב־לשוני והשלמת קוד באמצע קטע.
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
Granite 4.0 H Micro הוא מודל ההוראות בעל ההקשר הארוך של IBM, עם 3 מיליארד פרמטרים, שעבר כוונון עדין מ־Granite 4.0 H Micro Base. זו מהדורת Micro הצפופה וההיברידית, המשלבת Mamba-2 וקשב, בנפרד מ־Micro המבוסס על Transformer בלבד ומווריאנטי תערובת המומחים הגדולים יותר. המודל מקבל הוראת טקסט והקשר ומחזיר טקסט, ולכן משמש אבן בניין קומפקטית לעוזרים ארגוניים ולצעדים מסוימים במשימת סוכן.
טבלת הארכיטקטורה של היצרן מונה ארבע שכבות קשב ושלושים ושש שכבות Mamba-2, עם אורך רצף של 128K. מודל ההוראות משתמש בכוונון עדין מונחה, ביישור באמצעות למידת חיזוק ובמיזוג מודלים. חומרי האימון שלו כוללים נתוני הוראות בעלי רישיונות מתירניים, נתונים סינתטיים ודוגמאות שנבחרו בידי בני אדם. המבנה ההיברידי הוא מאפיין של המהדורה; אין להחליפו בנתוני הפרמטרים או המומחים הפעילים של מודל Granite אחר.
היצרן מונה שתים־עשרה שפות נתמכות ומשימות הכוללות סיכום, סיווג, חילוץ, מענה לשאלות, יצירה מוגברת באחזור, תכנות וקריאות לפונקציות. ספקו את קטע המקור בפועל ותארו את הפעולה הדרושה. לחילוץ, הגדירו את השדות וכיצד לייצג ערך חסר. לסיווג, ספקו את משמעויות הקטגוריות ומקרה הממחיש גבול חשוב.
בריף לדוגמה: ״חלץ כל דרישה מהקטע הזה, שמור את המזהה שלה וצטט את המשפט שמבסס אותה.״ לסיכום, ציינו את הקהל ואת העובדות שחייבות להישמר. לתרגום, זהו שמות ומונחים טכניים שצריכים לשמור על האיות המקורי. פורמט סופי ברור מסייע למודל הוראות קטן להפיק את התוצר שהיישום צריך.
הכרטיס של Granite H Micro מדגים הגדרות כלים עם שמות פונקציות, תיאורים וסכמות פרמטרים. המודל מחזיר שם פונקציה וארגומנטים ב־JSON בייצוג הקריאה לכלי שלו. היישום שסביבו מבצע את הפעולה שנבחרה, בודק את הארגומנטים ומחזיר את התוצאה. משימת חיפוש ערך צריכה לשמור את התצפית הזאת כראיה שבה משתמשת התשובה.
בתהליך אחזור, ספקו את חומר המסמכים הרלוונטי ובקשו תשובה המבוססת עליו. הגישה למקור שייכת ליישום; תשובת מודל הטקסט נוצרת מההקשר שהוא מקבל. שמרו תוויות מסמכים ויחידות גלויות כדי שאפשר יהיה לעקוב אחר התוצאה אל הקלט.
המודל תומך במשימות קוד ובהשלמה באמצע קטע. בריף תכנות צריך לכלול את המימוש הרלוונטי, את ההתנהגות שנצפתה ואת ההתנהגות שיש לשמר. למשימת השלמה, זהו את הקוד שסביב ואת הפער שיש למלא. בקשו את תוצר הקוד ואת ההסבר הקשור לאילוצים, ואז בחנו את התוצאה בסביבת הפיתוח בפועל.
ההקשר של 128K כולל יחד את ההנחיה, המקור, השיחה והתשובה שנוצרת; הכרטיס אינו קובע אורך תשובה מרבי עצמאי ואחיד. תבנית השיחה לדוגמה כוללת הוראת מערכת כברירת מחדל לתשובות מקצועיות, מדויקות ובטוחות. רשימת שדות או תוצר קוד שהתבקשו עדיין זקוקים להוראות משימה מפורשות משלהם.
IBM מציינת שהביצועים הרב־לשוניים עשויים להיות שונים מאנגלית, משום שאימון ההוראות הוא בעיקר באנגלית; כמה דוגמאות הרלוונטיות למשימה עשויות לעזור. היא גם מכירה באפשרות לתשובות לא מדויקות או מוטות. בדקו ערכים שנגזרו ממקור וקוד שנוצר מול הקלט, והחזירו תצפיות בפועל כאשר המשימה דורשת תיקון. הפלט השימושי של H Micro הוא תוצאת טקסט או קוד ממוקדת, תוך שמירת זהותו המדויקת כ־Micro היברידי.
POST /v1/messagestextjson, sse| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות ibm-granite/granite-4.0-h-micro | ברירת מחדל— |
שדהmessages | סוגmessage[] | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהmessages[].role | סוגstring | דרישהחובה | ערכים ומגבלות user, assistant | ברירת מחדל— |
שדהmessages[].content | סוגstring | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהmax_tokens | סוגinteger | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהstream | סוגboolean | דרישהרשות | ערכים ומגבלות | ברירת מחדלfalse |
טקסט · טקסט UTF-8
מחרוזת messages[].content
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, messages, max_tokens |
פרמטרoptional_controls | מפרטstream |
פרמטרmaterial_types | מפרטtext |
פרמטרtext_file_material | מפרטקראו את מסמך UTF-8 בפועל והכניסו את הטקסט שלו לקלט שצוין או למחרוזת תוכן ההודעה. |
מחזור חיים: synchronous_or_streamed
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
התאימו כל חיוב לתנאים המוצגים. השתמשו בתעריף אחד לכל קבוצה של תצורות חלופיות.
| תצורה | טבלת תעריפים | טוקנים בהקשר, יותר מ- | טוקנים בהקשר, עד וכולל | חיוב |
|---|---|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | טוקנים בהקשר, יותר מ-— | טוקנים בהקשר, עד וכוללללא גבול עליון | חיוב קלט · טוקני קלט $0.000034 / 1K טוקנים פלט · טוקני פלט $0.000224 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
| תצורהרמת אורך בקשה 1 | טבלת תעריפים— | טוקנים בהקשר, יותר מ-0 | טוקנים בהקשר, עד וכוללללא גבול עליון | חיוב קלט · טוקני קלט $0.000034 / 1K טוקנים פלט · טוקני פלט $0.000224 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
{\n "model": "ibm-granite/granite-4.0-h-micro",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'ibm-granite/granite-4.0-h-micro', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'ibm-granite/granite-4.0-h-micro', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON או SSE
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו את כל בלוקי התוכן, חתימות החשיבה ומזהי השימוש בכלים בפועל. הרכיבו את כל עדכוני הבלוקים של SSE; בלוק הטקסט הראשון אינו הפלט המלא.
שמרו מזהי בקשות/תגובות וכותרות. לא מסופק URL כללי לאחזור משימת טקסט.
| שדה | סוג |
|---|---|
שדהid | סוגstring |
שדהmodel | סוגstring |
שדהcontent[] | סוגtext|thinking|tool_use|other content block |
שדהstop_reason | סוגstring|null |
שדהusage | סוגobject |
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
Ailoot Ultra ibm-granite/granite-4.0-h-micro
השתמשו בנתיבי השיטות המוצגים למעלה.
דוגמה טכנית באנגלית
Extract traceable requirements\n\nExtract requirements from this passage: '[R1] Export filenames must include the report ID. [R2] Reports with no rows must still include column headings. [R3] Files are encoded as UTF-8.' Return a table with requirement ID, implementation requirement and the exact supporting sentence. Keep each requirement separate and add no implementation details absent from the source.A three-row table retaining each ID, requirement and exact source sentence.Check every extracted requirement maps one-to-one to R1, R2 or R3 without added conditions.