ERNIE 4.5 300B-A47B הוא מודל הטקסט הגדול של Baidu במשפחת ERNIE 4.5. תכנון תערובת המומחים שלו מכיל 300 מיליארד פרמטרים בסך הכול ומפעיל 47 מיליארד לכל טוקן. תצורת המודל שפורסמה נותנת אורך הקשר של 131,072 טוקנים. הוא מקבל טקסט ומפיק טקסט, ותומך בשיחה, בהסבר או במסמך חדש המבוססים על השאלה ועל החומר שנמסר.
מאפיינים עיקריים של ERNIE 4.5. Baidu מתארת אימון משותף של שפה ומידע חזותי לאורך המשפחה, עם ניתוב המאפשר למודליות שונות לשתף חלק מהפרמטרים תוך שמירה על עיבוד ייעודי. גרסת הטקסט מתמקדת בהבנת שפה כללית ובהפקתה. פיתוח המשפחה כולל גם תשתית לאימון ולהסקה יעילים ואימון המשך עם דוגמאות מפוקחות ואופטימיזציה מבוססת העדפות. בחירות התכנון הללו מסבירות את רקע המודל; הן אינן הופכות בקשת טקסט לקלט תמונה.
תצורת המודל. מודל הטקסט שפורסם כולל 54 שכבות, 64 ראשי קשב לשאילתות ו־8 ראשי מפתח/ערך. תצורת מומחי הטקסט שלו מציינת 64 מומחים, כאשר 8 מופעלים בכל פעם. להכנת קלט מעשית, השתמשו בהקשר לשמירת הקטעים שהמשימה דורשת, לצד כותרותיהם והקשרים ביניהם. השיחה והתשובה שנוצרת חולקות את תקציב ההקשר הזמין, ולכן בחרו חומר רלוונטי וציינו את אורך התוצאה במקום להתייחס לכל החלון כאל מקום לתשובה.
בקשה מתחילה בשאלה או בהוראה. לניתוח מסמכים, ספקו סעיפים מתויגים ובקשו מסקנה עם הסעיף התומך בכל נקודה. לכתיבה, ספקו את קהל היעד, את עובדות המקור ואת המבנה הנדרש. אפשר לבקש הסבר על שירות, סיכום דרישות או השוואה בין שני נהלים פנימיים. כללו את הכללים החלים על מקרים עמומים ובקשו הערה על מידע חסר כאשר המקור אינו מצדיק תשובה חד־משמעית.
תשובות המעוגנות במקורות עיון. היצרן מפרסם דוגמאות הנחיה בסינית ובאנגלית לתהליך המספק את השעה הנוכחית, מאמרי עיון ושאלה. המודל מקבל הוראה להעריך אם המקורות רלוונטיים ועדכניים, להעדיף חומר מוסמך ולציין מתי הראיות אינן מספיקות. ליישום התבנית, תייגו כל מקור שסופק, שמרו את זמן פרסומו כשישנו והפרידו בין תוכן המקור לשאלה. התוצאה הצפויה היא תשובה המבוססת על הקטעים האלה, ולא הנחה ששלב אחזור כבר התרחש.
הנחיות הפקה. כרטיס המודל של Baidu ממליץ על temperature 0.8 ועל top-p 0.8 בדוגמאות המודל שפרסם. התייחסו לכך כהנחיות יצרן בעת הגדרת מערכת הפקה תואמת, ואז העריכו את הפלט מול דרישות המשימה. מהדורות PT ו־Paddle של המודל מציינות פורמטי משקולות שונים; מהדורת הטקסט הנקובה נבדלת ממודל הראייה והשפה VL ומנקודת ביקורת לאימון Base. בדיקה מעשית צריכה לאמת טענות עובדתיות חשובות, פרטים מספריים ואת שלמות הסעיפים המבוקשים מול החומר שסופק.
", "aboutText": "ERNIE 4.5 300B-A47B הוא מודל הטקסט הגדול של Baidu במשפחת ERNIE 4.5. תכנון תערובת המומחים שלו מכיל 300 מיליארד פרמטרים בסך הכול ומפעיל 47 מיליארד לכל טוקן. תצורת המודל שפורסמה נותנת אורך הקשר של 131,072 טוקנים. הוא מקבל טקסט ומפיק טקסט, ותומך בשיחה, בהסבר או במסמך חדש המבוססים על השאלה ועל החומר שנמסר.\n\nמאפיינים עיקריים של ERNIE 4.5. Baidu מתארת אימון משותף של שפה ומידע חזותי לאורך המשפחה, עם ניתוב המאפשר למודליות שונות לשתף חלק מהפרמטרים תוך שמירה על עיבוד ייעודי. גרסת הטקסט מתמקדת בהבנת שפה כללית ובהפקתה. פיתוח המשפחה כולל גם תשתית לאימון ולהסקה יעילים ואימון המשך עם דוגמאות מפוקחות ואופטימיזציה מבוססת העדפות. בחירות התכנון הללו מסבירות את רקע המודל; הן אינן הופכות בקשת טקסט לקלט תמונה.\n\nתצורת המודל. מודל הטקסט שפורסם כולל 54 שכבות, 64 ראשי קשב לשאילתות ו־8 ראשי מפתח/ערך. תצורת מומחי הטקסט שלו מציינת 64 מומחים, כאשר 8 מופעלים בכל פעם. להכנת קלט מעשית, השתמשו בהקשר לשמירת הקטעים שהמשימה דורשת, לצד כותרותיהם והקשרים ביניהם. השיחה והתשובה שנוצרת חולקות את תקציב ההקשר הזמין, ולכן בחרו חומר רלוונטי וציינו את אורך התוצאה במקום להתייחס לכל החלון כאל מקום לתשובה.\n\nבקשה מתחילה בשאלה או בהוראה. לניתוח מסמכים, ספקו סעיפים מתויגים ובקשו מסקנה עם הסעיף התומך בכל נקודה. לכתיבה, ספקו את קהל היעד, את עובדות המקור ואת המבנה הנדרש. אפשר לבקש הסבר על שירות, סיכום דרישות או השוואה בין שני נהלים פנימיים. כללו את הכללים החלים על מקרים עמומים ובקשו הערה על מידע חסר כאשר המקור אינו מצדיק תשובה חד־משמעית.\n\nתשובות המעוגנות במקורות עיון. היצרן מפרסם דוגמאות הנחיה בסינית ובאנגלית לתהליך המספק את השעה הנוכחית, מאמרי עיון ושאלה. המודל מקבל הוראה להעריך אם המקורות רלוונטיים ועדכניים, להעדיף חומר מוסמך ולציין מתי הראיות אינן מספיקות. ליישום התבנית, תייגו כל מקור שסופק, שמרו את זמן פרסומו כשישנו והפרידו בין תוכן המקור לשאלה. התוצאה הצפויה היא תשובה המבוססת על הקטעים האלה, ולא הנחה ששלב אחזור כבר התרחש.\n\nהנחיות הפקה. כרטיס המודל של Baidu ממליץ על temperature 0.8 ועל top-p 0.8 בדוגמאות המודל שפרסם. התייחסו לכך כהנחיות יצרן בעת הגדרת מערכת הפקה תואמת, ואז העריכו את הפלט מול דרישות המשימה. מהדורות PT ו־Paddle של המודל מציינות פורמטי משקולות שונים; מהדורת הטקסט הנקובה נבדלת ממודל הראייה והשפה VL ומנקודת ביקורת לאימון Base. בדיקה מעשית צריכה לאמת טענות עובדתיות חשובות, פרטים מספריים ואת שלמות הסעיפים המבוקשים מול החומר שסופק.", "editorialOverlay": { "copy_fields": { "practical_html": "דוגמה טכנית באנגלית
Resolve conflicting reference passages\n\nAnswer the question using these references only. R1, old handbook: Trial accounts retain exports for 7 days. R2, current handbook: Trial exports are retained for 14 days; paid-account exports for 90 days. Question: How long can a trial customer retrieve an export? Cite the relevant reference and explain why the other passage differs.A short answer with the retention period, reference identifier and a sentence describing the documented version conflict.Check that the answer uses the current trial rule and does not substitute the paid-account period.baidu/ERNIE-4.5-300B-A47BERNIE 4.5 300B-A47B הוא מודל תערובת המומחים לטקסט של Baidu, עם 300 מיליארד פרמטרים בסך הכול, 47 מיליארד פרמטרים פעילים לכל טוקן והקשר מפורסם של 131,072 טוקנים. הוא תומך בהבנת שפה ובהפקתה, לרבות תשובות המעוגנות בקטעי עיון שאתם מספקים.
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
ERNIE 4.5 300B-A47B הוא מודל הטקסט הגדול של Baidu במשפחת ERNIE 4.5. תכנון תערובת המומחים שלו מכיל 300 מיליארד פרמטרים בסך הכול ומפעיל 47 מיליארד לכל טוקן. תצורת המודל שפורסמה נותנת אורך הקשר של 131,072 טוקנים. הוא מקבל טקסט ומפיק טקסט, ותומך בשיחה, בהסבר או במסמך חדש המבוססים על השאלה ועל החומר שנמסר.
מאפיינים עיקריים של ERNIE 4.5. Baidu מתארת אימון משותף של שפה ומידע חזותי לאורך המשפחה, עם ניתוב המאפשר למודליות שונות לשתף חלק מהפרמטרים תוך שמירה על עיבוד ייעודי. גרסת הטקסט מתמקדת בהבנת שפה כללית ובהפקתה. פיתוח המשפחה כולל גם תשתית לאימון ולהסקה יעילים ואימון המשך עם דוגמאות מפוקחות ואופטימיזציה מבוססת העדפות. בחירות התכנון הללו מסבירות את רקע המודל; הן אינן הופכות בקשת טקסט לקלט תמונה.
תצורת המודל. מודל הטקסט שפורסם כולל 54 שכבות, 64 ראשי קשב לשאילתות ו־8 ראשי מפתח/ערך. תצורת מומחי הטקסט שלו מציינת 64 מומחים, כאשר 8 מופעלים בכל פעם. להכנת קלט מעשית, השתמשו בהקשר לשמירת הקטעים שהמשימה דורשת, לצד כותרותיהם והקשרים ביניהם. השיחה והתשובה שנוצרת חולקות את תקציב ההקשר הזמין, ולכן בחרו חומר רלוונטי וציינו את אורך התוצאה במקום להתייחס לכל החלון כאל מקום לתשובה.
בקשה מתחילה בשאלה או בהוראה. לניתוח מסמכים, ספקו סעיפים מתויגים ובקשו מסקנה עם הסעיף התומך בכל נקודה. לכתיבה, ספקו את קהל היעד, את עובדות המקור ואת המבנה הנדרש. אפשר לבקש הסבר על שירות, סיכום דרישות או השוואה בין שני נהלים פנימיים. כללו את הכללים החלים על מקרים עמומים ובקשו הערה על מידע חסר כאשר המקור אינו מצדיק תשובה חד־משמעית.
תשובות המעוגנות במקורות עיון. היצרן מפרסם דוגמאות הנחיה בסינית ובאנגלית לתהליך המספק את השעה הנוכחית, מאמרי עיון ושאלה. המודל מקבל הוראה להעריך אם המקורות רלוונטיים ועדכניים, להעדיף חומר מוסמך ולציין מתי הראיות אינן מספיקות. ליישום התבנית, תייגו כל מקור שסופק, שמרו את זמן פרסומו כשישנו והפרידו בין תוכן המקור לשאלה. התוצאה הצפויה היא תשובה המבוססת על הקטעים האלה, ולא הנחה ששלב אחזור כבר התרחש.
הנחיות הפקה. כרטיס המודל של Baidu ממליץ על temperature 0.8 ועל top-p 0.8 בדוגמאות המודל שפרסם. התייחסו לכך כהנחיות יצרן בעת הגדרת מערכת הפקה תואמת, ואז העריכו את הפלט מול דרישות המשימה. מהדורות PT ו־Paddle של המודל מציינות פורמטי משקולות שונים; מהדורת הטקסט הנקובה נבדלת ממודל הראייה והשפה VL ומנקודת ביקורת לאימון Base. בדיקה מעשית צריכה לאמת טענות עובדתיות חשובות, פרטים מספריים ואת שלמות הסעיפים המבוקשים מול החומר שסופק.
POST /v1/chat/completionstexttext| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות baidu/ERNIE-4.5-300B-A47B | ברירת מחדל— |
שדהmessages | סוגmessage[] | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: 1 | ברירת מחדל— |
שדהmessages[].role | סוגstring | דרישהחובה | ערכים ומגבלות דוגמאות: system, user, assistant, tool, function תנאים: התפקידים האלה מיוצגים במפורש בטיפוסי התאימות בקוד המקור; מערך התפקידים המדויק נשאר ייחודי לכל מודל. תלוי במודל | ברירת מחדל— |
שדהmessages[].content | סוגstring|content_part[]|null | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהmessages[].tool_calls | סוגtool_call[] | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהmessages[].tool_call_id | סוגstring | דרישהרשות | ערכים ומגבלות חל כאשר: role=tool; השתמשו במזהה שהוחזר בפועל | ברירת מחדל— |
שדהmessages[].name | סוגstring | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהmessages[].reasoning_content | סוגstring | דרישהרשות | ערכים ומגבלות חל כאשר: החזירו בהמשך את ההנמקה שהתקבלה בפועל כאשר המודל הזה משתמש בה | ברירת מחדל— |
שדהmessages[].reasoning_details | סוגobject|array | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהmax_tokens | סוגinteger | דרישהרשות | ערכים ומגבלות מינימום: 1 תלוי במודל | ברירת מחדל— |
שדהmax_completion_tokens | סוגinteger | דרישהרשות | ערכים ומגבלות מינימום: 1 תלוי במודל | ברירת מחדל— |
שדהstream | סוגboolean | דרישהרשות | ערכים ומגבלות | ברירת מחדלfalse |
שדהstream_options.include_usage | סוגboolean | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהtemperature | סוגnumber | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהtop_p | סוגnumber | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהstop | סוגstring|string[] | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהtools | סוגfunction_tool[] | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהtools[].type | סוגstring | דרישהרשות | ערכים ומגבלות function תלוי במודל | ברירת מחדל— |
שדהtools[].function.name | סוגstring | דרישהחובה | ערכים ומגבלות חל כאשר: סופק כלי פונקציה | ברירת מחדל— |
שדהtools[].function.description | סוגstring | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהtools[].function.parameters | סוגJSON_schema | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהtool_choice | סוגstring|object | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהparallel_tool_calls | סוגboolean | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהresponse_format | סוגobject | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהreasoning_effort | סוגstring | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהreasoning | סוגobject | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהservice_tier | סוגstring | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהinstructions | סוגstring | דרישהרשות | ערכים ומגבלות שדה תאימות | ברירת מחדל— |
שדהfunctions | סוגfunction[] | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהfunction_call | סוגstring|object | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהprompt_cache_options | סוגobject | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהmodalities | סוגstring[] | דרישהרשות | ערכים ומגבלות text | ברירת מחדל— |
שדהprovider | סוגobject | דרישהרשות | ערכים ומגבלות תנאים: provider.options נדחה במסלול הטקסט הזה של Ultra | ברירת מחדל— |
שדהcache_control.ttl | סוגstring | דרישהרשות | ערכים ומגבלות תנאים: 1h נדחה במיקומים המשמשים בפועל למטמון הנחיות | ברירת מחדל— |
טקסט · טקסט UTF8
messages[].content
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, messages |
פרמטרmaterial_types | מפרטtext |
פרמטרmessages | מפרטמערך הודעות במבנה role/content |
פרמטרfile_material | מפרטמסמך UTF-8 בפועל מוכנס כטקסט מילולי; לא מוסק מזהה קובץ |
פרמטרoptional_controls | מפרטstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
פרמטרcontrol_scope | מפרטייחודי למודל; כלי פונקציות של המשתמש שונים מכלים מתארחים |
פרמטרoutput_modalities | מפרטtext |
פרמטרhosted_operations | מפרטfalse |
פרמטרmultimodal_input_binding | מפרטnull |
מחזור חיים: synchronous_or_streamed
שלחו את מזהה המודל המדויק עם messages.
אורך ההקשר אינו תקרת פלט.
קובץ טקסט יכול לספק טקסט מילולי; קלטי תמונה/אודיו/אובייקט קובץ דורשים קישור מדויק.
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0.0006 / 1K טוקנים פלט · טוקני פלט $0.00228 / 1K טוקנים קלט · קריאה מהמטמון $0 / 1K טוקנים קלט · כתיבה למטמון $0 / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "baidu/ERNIE-4.5-300B-A47B", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='baidu/ERNIE-4.5-300B-A47B',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='baidu/ERNIE-4.5-300B-A47B',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson או SSE
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו כל בחירה ואת התוכן, קריאות הכלים וההנמקה שלה. ב-SSE הרכיבו עדכונים לפי אינדקס הבחירה/הכלי ושמרו את סיבת הסיום הסופית ואת השימוש.
שמרו מזהי בקשות/תגובות וכותרות. לא מסופק URL כללי לאחזור משימת טקסט.
| שדה | סוג |
|---|---|
שדהchoices[].index | סוגinteger |
שדהchoices[].message.content | סוגstring|null |
שדהchoices[].message.tool_calls | סוגtool_call[] |
שדהchoices[].message.reasoning_content | סוגstring |
שדהchoices[].message.reasoning_details | סוגobject|array |
שדהchoices[].finish_reason | סוגstring|null |
שדהusage | סוגobject |
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
Ailoot Ultra baidu/ERNIE-4.5-300B-A47B
השתמשו בנתיבי השיטות המוצגים למעלה.
baidu/ERNIE-4.5-300B-A47BERNIE 4.5 300B-A47B הוא מודל תערובת המומחים לטקסט של Baidu, עם 300 מיליארד פרמטרים בסך הכול, 47 מיליארד פרמטרים פעילים לכל טוקן והקשר מפורסם של 131,072 טוקנים. הוא תומך בהבנת שפה ובהפקתה, לרבות תשובות המעוגנות בקטעי עיון שאתם מספקים.
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
ERNIE 4.5 300B-A47B הוא מודל הטקסט הגדול של Baidu במשפחת ERNIE 4.5. תכנון תערובת המומחים שלו מכיל 300 מיליארד פרמטרים בסך הכול ומפעיל 47 מיליארד לכל טוקן. תצורת המודל שפורסמה נותנת אורך הקשר של 131,072 טוקנים. הוא מקבל טקסט ומפיק טקסט, ותומך בשיחה, בהסבר או במסמך חדש המבוססים על השאלה ועל החומר שנמסר.
מאפיינים עיקריים של ERNIE 4.5. Baidu מתארת אימון משותף של שפה ומידע חזותי לאורך המשפחה, עם ניתוב המאפשר למודליות שונות לשתף חלק מהפרמטרים תוך שמירה על עיבוד ייעודי. גרסת הטקסט מתמקדת בהבנת שפה כללית ובהפקתה. פיתוח המשפחה כולל גם תשתית לאימון ולהסקה יעילים ואימון המשך עם דוגמאות מפוקחות ואופטימיזציה מבוססת העדפות. בחירות התכנון הללו מסבירות את רקע המודל; הן אינן הופכות בקשת טקסט לקלט תמונה.
תצורת המודל. מודל הטקסט שפורסם כולל 54 שכבות, 64 ראשי קשב לשאילתות ו־8 ראשי מפתח/ערך. תצורת מומחי הטקסט שלו מציינת 64 מומחים, כאשר 8 מופעלים בכל פעם. להכנת קלט מעשית, השתמשו בהקשר לשמירת הקטעים שהמשימה דורשת, לצד כותרותיהם והקשרים ביניהם. השיחה והתשובה שנוצרת חולקות את תקציב ההקשר הזמין, ולכן בחרו חומר רלוונטי וציינו את אורך התוצאה במקום להתייחס לכל החלון כאל מקום לתשובה.
בקשה מתחילה בשאלה או בהוראה. לניתוח מסמכים, ספקו סעיפים מתויגים ובקשו מסקנה עם הסעיף התומך בכל נקודה. לכתיבה, ספקו את קהל היעד, את עובדות המקור ואת המבנה הנדרש. אפשר לבקש הסבר על שירות, סיכום דרישות או השוואה בין שני נהלים פנימיים. כללו את הכללים החלים על מקרים עמומים ובקשו הערה על מידע חסר כאשר המקור אינו מצדיק תשובה חד־משמעית.
תשובות המעוגנות במקורות עיון. היצרן מפרסם דוגמאות הנחיה בסינית ובאנגלית לתהליך המספק את השעה הנוכחית, מאמרי עיון ושאלה. המודל מקבל הוראה להעריך אם המקורות רלוונטיים ועדכניים, להעדיף חומר מוסמך ולציין מתי הראיות אינן מספיקות. ליישום התבנית, תייגו כל מקור שסופק, שמרו את זמן פרסומו כשישנו והפרידו בין תוכן המקור לשאלה. התוצאה הצפויה היא תשובה המבוססת על הקטעים האלה, ולא הנחה ששלב אחזור כבר התרחש.
הנחיות הפקה. כרטיס המודל של Baidu ממליץ על temperature 0.8 ועל top-p 0.8 בדוגמאות המודל שפרסם. התייחסו לכך כהנחיות יצרן בעת הגדרת מערכת הפקה תואמת, ואז העריכו את הפלט מול דרישות המשימה. מהדורות PT ו־Paddle של המודל מציינות פורמטי משקולות שונים; מהדורת הטקסט הנקובה נבדלת ממודל הראייה והשפה VL ומנקודת ביקורת לאימון Base. בדיקה מעשית צריכה לאמת טענות עובדתיות חשובות, פרטים מספריים ואת שלמות הסעיפים המבוקשים מול החומר שסופק.
POST /v1/messagestextjson, sse| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות baidu/ERNIE-4.5-300B-A47B | ברירת מחדל— |
שדהmessages | סוגmessage[] | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהmessages[].role | סוגstring | דרישהחובה | ערכים ומגבלות user, assistant | ברירת מחדל— |
שדהmessages[].content | סוגstring | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהmax_tokens | סוגinteger | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהstream | סוגboolean | דרישהרשות | ערכים ומגבלות | ברירת מחדלfalse |
טקסט · טקסט UTF-8
מחרוזת messages[].content
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, messages, max_tokens |
פרמטרoptional_controls | מפרטstream |
פרמטרmaterial_types | מפרטtext |
פרמטרtext_file_material | מפרטקראו את מסמך UTF-8 בפועל והכניסו את הטקסט שלו לקלט שצוין או למחרוזת תוכן ההודעה. |
מחזור חיים: synchronous_or_streamed
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0.0006 / 1K טוקנים פלט · טוקני פלט $0.00228 / 1K טוקנים קלט · קריאה מהמטמון $0 / 1K טוקנים קלט · כתיבה למטמון $0 / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
{\n "model": "baidu/ERNIE-4.5-300B-A47B",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'baidu/ERNIE-4.5-300B-A47B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'baidu/ERNIE-4.5-300B-A47B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON או SSE
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו את כל בלוקי התוכן, חתימות החשיבה ומזהי השימוש בכלים בפועל. הרכיבו את כל עדכוני הבלוקים של SSE; בלוק הטקסט הראשון אינו הפלט המלא.
שמרו מזהי בקשות/תגובות וכותרות. לא מסופק URL כללי לאחזור משימת טקסט.
| שדה | סוג |
|---|---|
שדהid | סוגstring |
שדהmodel | סוגstring |
שדהcontent[] | סוגtext|thinking|tool_use|other content block |
שדהstop_reason | סוגstring|null |
שדהusage | סוגobject |
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
Ailoot Ultra baidu/ERNIE-4.5-300B-A47B
השתמשו בנתיבי השיטות המוצגים למעלה.
דוגמה טכנית באנגלית
Resolve conflicting reference passages\n\nAnswer the question using these references only. R1, old handbook: Trial accounts retain exports for 7 days. R2, current handbook: Trial exports are retained for 14 days; paid-account exports for 90 days. Question: How long can a trial customer retrieve an export? Cite the relevant reference and explain why the other passage differs.A short answer with the retention period, reference identifier and a sentence describing the documented version conflict.Check that the answer uses the current trial rule and does not substitute the paid-account period.