NVIDIA: Nemotron 3 Ultra (free)
NVIDIA Nemotron 3 Ultra הוא מודל טקסט גדול להסקה, עם 550B פרמטרים בסך הכול ו-55B פעילים. התכנון ההיברידי LatentMoE שלו תומך בסוכנים רב-שלביים תובעניים, בקוד, במתמטיקה, במדע ובניתוח מסמכים ארוכים, עם הקשר של עד 1M טוקנים ובקרות הסקה המתועדות בידי היצרן.
- Ailoot Ultra · OpenAI Chat
POST /v1/chat/completionsnvidia/nemotron-3-ultra-550b-a55b:free - Ailoot Ultra · Anthropic Messages
POST /v1/messagesnvidia/nemotron-3-ultra-550b-a55b:free
על המודל
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
NVIDIA Nemotron 3 Ultra הוא מודל ההסקה והתזמור בקנה מידה גדול במשפחת Nemotron 3. הוא מיועד לסוכנים רב-שלביים תובעניים, לניתוח בהקשר ארוך ולהסקה על קוד, מתמטיקה ומדע. המודל כולל 550B פרמטרים בסך הכול ו-55B פרמטרים פעילים. הוא משלב שכבות Mamba-2, קשב ו-Latent Mixture-of-Experts, עם שכבות Multi-Token Prediction התומכות בתכנון יצירת הפלט שלו.
LatentMoE מקרין מידע לייצוג חבוי קטן יותר לצורך עיבוד בידי המומחים. שיטת האימון של NVIDIA משלבת אימון מקדים, כוונון עדין מונחה, למידת חיזוק וזיקוק on-policy במספר תחומים. המטרה המעשית של השלבים האלה היא לשפר הסקה, מילוי הוראות, שימוש בכלים והתנהגות סוכנים בכמה סוגי משימות. Ultra מפיק טקסט: הסבר, פתרון, קוד, תוכנית או מבנה תשובה מבוקש. ספקו את החומר שעליו התשובה צריכה להתבסס ואת התנאים הקובעים אם התוצאה נכונה.
להסקה מתמטית או מדעית, כללו את נוסח הבעיה המלא, את הערכים הידועים, את היחידות ואת ההנחות המותרות. בקשה שימושית היא: ״גזור את התוצאה מהתנאים האלה, זהה את ההנחות בכל שלב, בדוק את הממדים, והסבר איזו תצפית תפריך את המסקנה.״ בקשו תוצאה סופית תמציתית אחרי הסבר דרך הפתרון. אם מעורבים נתונים ניסיוניים, הבדילו בין מה שנמדד לבין מה שחושב, ובקשו שאי-ודאות או מידע חסר יישארו גלויים במקום להיבלע בתשובה בטוחה בעצמה.
לתהליכי קוד וסוכנים, ספקו את היעד, את הקבצים הרלוונטיים כטקסט ואת הפלטים האמיתיים של השלבים הקודמים. Ultra מיועד למשימות המערבות כמה החלטות התלויות זו בזו, ולכן תיעוד מפורש של העבודה שהושלמה ושל השאלות שנותרו הוא שימושי. לדוגמה: ״בחן את הצעת המיגרציה הזו מול הסכמה והבדיקות שנכשלו. זהה את התלות המונעת את ההשלמה, הצע תיקון ממוקד, וציין את התוצאה הצפויה של הבדיקה הבאה.״ יישום המחובר לכלים יכול לאחר מכן לבצע שלב מוצע ולהחזיר ראיות להחלטה הבאה.
היצרן תומך בהפעלה או בהשבתה של הסקה דרך תבנית הצ'אט. ההסקה מופעלת כברירת מחדל ומפיקה עקבת הסקה ואחריה תשובה. כרטיס Ultra מתעד גם מצב הסקה במאמץ בינוני, המשתמש בפחות טוקני הסקה מחשיבה מלאה. זו אפשרות ייעודית ל-Ultra; אין לבלבל בינה לבין הגדרת המאמץ הנמוך המתועדת עבור Super. הגדירו את התוצר הסופי הרצוי והשאירו לו מקום אחרי ההסקה. עקבה שלא הושלמה אינה תחליף לתשובה מלאה לשאלה המקורית.
Ultra תומך בהקשר של עד 1M טוקנים. לאוסף גדול של מסמכים או קובצי מקור, תייגו את הסעיפים והסבירו למודל בדיוק מה להשוות, לעקוב אחריו או ליישב. שמרו על סדר המקורות כאשר יש חשיבות לכרונולוגיה או לתלות. תוצאה שימושית ממסמך ארוך כוללת את הממצא, את הקטע התומך בו ואת המשמעות שלו לשאלה. בחרו את החומרים הרלוונטיים ושמרו מקום לפלט; חלון ההקשר מתאר את רצף העבודה, ולא אורך נפרד ומובטח לתשובה הסופית.
היצרן מציין אנגלית, צרפתית, ספרדית, איטלקית, גרמנית, יפנית, הינדי, קוריאנית, פורטוגזית ברזילאית וסינית. ציינו את שפת הפלט ושמרו מזהים טכניים או ציטוטי מקור כאשר הניסוח המדויק חשוב. בניתוח רב-לשוני, השתמשו באותם קריטריונים לכל מסמך ובקשו הסבר להבדלים במינוח או בהנחות. שטף לשוני לבדו אינו מספיק כדי לקבוע ששתי דרישות המנוסחות אחרת אומרות אותו דבר.
NVIDIA מספקת דוגמאות מפורשות לקריאה לכלים עם הסקה. הגדירו את המטרה, הארגומנטים והתוצאה הצפויה של כל פונקציה, ואז החזירו למודל את הפלט האמיתי שלה. היישום מבצע את הפעולה; המודל מסיק על בסיס התצפית שהוחזרה. קל יותר לבדוק תהליך סוכן ארוך כאשר יש הבחנה ברורה בין פעולות מוצעות, תוצאות של פעולות שבוצעו ובדיקות שטרם הוכרעו. לדוח סופי, בקשו את התשובה, את הראיות התומכות בה, את ההנחות ואת כל פריטי המשימה שנותרו. אמתו חישובים מול היחידות המקוריות, שינויי קוד מול הבדיקות שנצפו וטענות עובדתיות מול המקורות שסופקו.
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions nvidia/nemotron-3-ultra-550b-a55b:free
nvidia/nemotron-3-ultra-550b-a55b:free
nvidia/nemotron-3-ultra-550b-a55b:freeהתחלה
NVIDIA Nemotron 3 Ultra הוא מודל טקסט גדול להסקה, עם 550B פרמטרים בסך הכול ו-55B פעילים. התכנון ההיברידי LatentMoE שלו תומך בסוכנים רב-שלביים תובעניים, בקוד, במתמטיקה, במדע ובניתוח מסמכים ארוכים, עם הקשר של עד 1M טוקנים ובקרות הסקה המתועדות בידי היצרן.
- סוגי קלט נתמכים
- טקסט
- תוצאות
- טקסט
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
- סוגי קלט
text- סוגי פלט
text- הקשר
- 1,000,000 tokens
- פלט מרבי
- 65,536 tokens
- פורמט פלט
- JSON
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות nvidia/nemotron-3-ultra-550b-a55b:free | ברירת מחדל— |
שדהmessages | סוגarray | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהstream | סוגboolean | דרישהרשות | ערכים ומגבלות false | ברירת מחדלfalse |
שדהmax_tokens | סוגinteger | דרישהרשות | ערכים ומגבלות מינימום: 1 מקסימום: 65,536 | ברירת מחדל— |
שדהmax_completion_tokens | סוגinteger | דרישהרשות | ערכים ומגבלות מינימום: 1 מקסימום: 65,536 | ברירת מחדל— |
שדהn | סוגinteger | דרישהרשות | ערכים ומגבלות מינימום: 1 מקסימום: 128 | ברירת מחדל— |
שדהtemperature | סוגnumber | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהtop_p | סוגnumber | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהseed | סוגinteger | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהstop | סוג | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהfrequency_penalty | סוגnumber | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהpresence_penalty | סוגnumber | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהuser | סוגstring | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, messages |
פרמטרoptional | מפרטstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
פרמטרmaterial_types | מפרטtext |
פרמטרconditions | מפרטUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
מחזור חיים: synchronous_json
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- תעריף רגיל כאשר נבחר מצב מהיר
- מצב Flex
- תעריף רגיל כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- תעריף רגיל כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
- תמחור מטמון מפורש
- לא מופעל כאשר מתבקש מטמון מפורש
- תעריפי אפס לטקסט בלבד
- Text input and output only. Cache, tools, media and streaming are unavailable. כאשר הקלט והפלט הם טקסט בלבד
תעריפי Ailoot
מחירים לפי תצורה
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי בסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0 / 1K טוקנים פלט · טוקני פלט $0 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · OpenAI Chat
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-ultra-550b-a55b:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
קבלה ושמירה של תוצאות
Ailoot Ultra · OpenAI Chat
JSON
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
Retain the complete response, all actual results, original identifiers, usage and response headers.
כשצריך לבדוק את התגובה המקורית
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
כינויים
כינויים למודל
Ailoot Ultra nvidia/nemotron-3-ultra-550b-a55b:free
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
Ailoot Ultra · Anthropic Messages POST /v1/messages nvidia/nemotron-3-ultra-550b-a55b:free
nvidia/nemotron-3-ultra-550b-a55b:free
nvidia/nemotron-3-ultra-550b-a55b:freeהתחלה
NVIDIA Nemotron 3 Ultra הוא מודל טקסט גדול להסקה, עם 550B פרמטרים בסך הכול ו-55B פעילים. התכנון ההיברידי LatentMoE שלו תומך בסוכנים רב-שלביים תובעניים, בקוד, במתמטיקה, במדע ובניתוח מסמכים ארוכים, עם הקשר של עד 1M טוקנים ובקרות הסקה המתועדות בידי היצרן.
- סוגי קלט נתמכים
- טקסט
- תוצאות
- טקסט
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · Anthropic Messages POST /v1/messages
- סוגי קלט
text- סוגי פלט
text- הקשר
- 1,000,000 tokens
- פלט מרבי
- 65,536 tokens
- פורמט פלט
- JSON
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות nvidia/nemotron-3-ultra-550b-a55b:free | ברירת מחדל— |
שדהmessages | סוגarray | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהstream | סוגboolean | דרישהרשות | ערכים ומגבלות false | ברירת מחדלfalse |
שדהsystem | סוגstring | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהmax_tokens | סוגinteger | דרישהחובה | ערכים ומגבלות מינימום: 1 מקסימום: 65,536 | ברירת מחדל— |
שדהtemperature | סוגnumber | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהtop_p | סוגnumber | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהtop_k | סוגinteger | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהstop_sequences | סוגarray | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהmetadata | סוגobject | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, messages, max_tokens |
פרמטרoptional | מפרטstream, system, temperature, top_p, top_k, stop_sequences, metadata |
פרמטרmaterial_types | מפרטtext |
פרמטרconditions | מפרטUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
מחזור חיים: synchronous_json
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- תעריף רגיל כאשר נבחר מצב מהיר
- מצב Flex
- תעריף רגיל כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- תעריף רגיל כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
- תעריפי אפס לטקסט בלבד
- Text input and output only. Cache, tools, media and streaming are unavailable. כאשר הקלט והפלט הם טקסט בלבד
תעריפי Ailoot
מחירים לפי תצורה
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי בסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0 / 1K טוקנים פלט · טוקני פלט $0 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · Anthropic Messages
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-ultra-550b-a55b:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
קבלה ושמירה של תוצאות
Ailoot Ultra · Anthropic Messages
JSON
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
Retain the complete response, all actual results, original identifiers, usage and response headers.
כשצריך לבדוק את התגובה המקורית
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
כינויים
כינויים למודל
Ailoot Ultra nvidia/nemotron-3-ultra-550b-a55b:free
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
FAQ · NVIDIA: Nemotron 3 Ultra (free)
- אילו קלטים ותוצאות זמינים?
POST /v1/chat/completions·nvidia/nemotron-3-ultra-550b-a55b:free:text→textPOST /v1/messages·nvidia/nemotron-3-ultra-550b-a55b:free:text→text- באילו שדות הבקשה משתמשת?
POST /v1/chat/completions·nvidia/nemotron-3-ultra-550b-a55b:free:model,messages,stream,max_tokens,max_completion_tokens,n,temperature,top_p,seed,stop,frequency_penalty,presence_penalty,userPOST /v1/messages·nvidia/nemotron-3-ultra-550b-a55b:free:model,messages,stream,system,max_tokens,temperature,top_p,top_k,stop_sequences,metadata- אילו מגבלות חלות?
POST /v1/chat/completions·nvidia/nemotron-3-ultra-550b-a55b:free:ctx:1000000;max_out:65536;max_tokens.minimum:1;max_tokens.maximum:65536;max_completion_tokens.minimum:1;max_completion_tokens.maximum:65536;n.minimum:1;n.maximum:128POST /v1/messages·nvidia/nemotron-3-ultra-550b-a55b:free:ctx:1000000;max_out:65536;max_tokens.minimum:1;max_tokens.maximum:65536