NVIDIA: Nemotron 3.5 Lightning (free)
NVIDIA Nemotron 3.5 Lightning הוא מודל טקסט להסקה ולצ'אט עם 30B פרמטרים בסך הכול ו-3B פרמטרים פעילים. ארכיטקטורת Mamba–MoE ההיברידית שלו תומכת בניתוח בהקשר ארוך, בתכנות ובתהליכים מבוססי כלים, עם מצבי חשיבה או תשובה ישירה המתועדים בתבנית הצ'אט של היצרן.
- Ailoot Ultra · OpenAI Chat
POST /v1/chat/completionsnvidia/nemotron-3.5-lightning:free - Ailoot Ultra · Anthropic Messages
POST /v1/messagesnvidia/nemotron-3.5-lightning:free
על המודל
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
NVIDIA Nemotron 3.5 Lightning הוא מודל שפה להסקה, לשיחה ולתהליכי עבודה ייעודיים של סוכנים. הוא כולל 30B פרמטרים בסך הכול, מהם 3B פעילים, ומשתמש בארכיטקטורה היברידית השוזרת שכבות Mamba-2, תערובת מומחים וקשב. שכבות Multi-Token Prediction מוסיפות אותות אימון לטוקנים עתידיים ותומכות בשיטות יצירת הפלט הממוטבות של המודל. המודל מעבד טקסט ומפיק טקסט, לרבות הסברים, קוד ותשובות המבוססות על החומר שסופק.
היצרן מתאר שימושים בצ'אטבוטים, ביצירה מועשרת באחזור, במילוי הוראות ובסוכנים. לקבלת תשובה ממאגר ידע, ספקו את השאלה ואת הקטעים הרלוונטיים עם תוויות מקור קבועות. בקשו מהמודל לענות מתוך הקטעים, לזהות איזה קטע תומך בכל טענה חשובה, ולציין מה נותר לא ידוע. לדוגמה: ״בעזרת מאמרי התמיכה האלה, הסבר את ההבדל בין שתי שיטות ההתקנה והחזר את הדרישות המקדימות, השלבים והבדיקות לכל אחת מהן.״ השאירו דרישה מקדימה חסרה גלויה, במקום להזמין את המודל להמציא אותה.
לעבודת תכנות, ספקו את הקוד הרלוונטי, את ההתנהגות הצפויה ואת הכשל שנצפה. בקשה מעשית מבקשת תיקון ממוקד והסבר של המקרים המושפעים ממנו. אם סוכן המחובר לכלים מריץ בדיקה, החזירו את הפלט האמיתי שלה לפני שתבקשו את השינוי הבא. אימון המודל כולל קוד, שימוש רב-שלבי בכלים ומשימות פלט מובנה, אך התוצר המוגמר עדיין צריך להתאים לדרישה המקורית. בקשו את הקוד המתוקן, את הסיבה לכל שינוי מהותי ואת התצפיות הנדרשות כדי לקבוע שהבעיה נפתרה.
היצרן מתעד מצב חשיבה המופעל כברירת מחדל, ומצב תשובה ישירה שבו החשיבה מושבתת באמצעות תבנית הצ'אט. מצב הסקה שימושי במשימה הכוללת כמה תנאים התלויים זה בזה; תשובה ישירה יכולה להתאים להמרה או לחילוץ פשוטים. היצרן ממליץ בדוגמאות הלקוח שלו על temperature 1.0 ועל top-p 0.95. התייחסו לערכים האלה כהגדרות של שיטת העבודה של היצרן, ובחרו במפורש את מבנה התשובה הסופית, כגון הסבר תמציתי, טבלת השוואה או תשובה שאחריה הראיות התומכות בה.
המודל תומך בהקשר של עד 1M טוקנים. שיטות הפריסה שפורסמו עבור BF16 מבדילות גם בין יכולת זו של המודל לבין תצורות המשתמשות בחלון של 256K עקב מגבלות זיכרון. הכינו חומר ארוך בהתאם לחלון העבודה הרלוונטי, תוך שימור מבנה המסמכים והשארת מקום לתשובה. הקשר ארוך מועיל במיוחד כשההנחיה מגדירה את הקשר שיש למצוא: סתירות בין מסמכים, תלויות בין קובצי מקור, או הראיות התומכות במסקנה. זו אינה סיבה לכלול היסטוריה לא קשורה או להניח שתשובה סופית יכולה למלא את כל החלון.
אנגלית ושפות תכנות הן המוקד העיקרי, וגם ספרדית, צרפתית, גרמנית, איטלקית ויפנית מופיעות ברשימה. ציינו את שפת הפלט הנדרשת ושמרו שמות, מזהים ומונחי מקור מצוטטים כאשר לאיות שלהם יש חשיבות. בעבודה עם מסמכים רב-לשוניים, הגדירו אם לתרגם, לסכם או להשוות בין החומרים; בקשות אלה מפיקות תוצרים שונים. בקשו לסמן מונחים לא ודאיים, כדי שתרגום שוטף לא ישנה בשקט משמעות טכנית.
NVIDIA מפרסמת מהדורת ייחוס BF16 המיועדת בעיקר להתאמה ולמחקר בדיוק מלא, ומהדורת NVFP4 נפרדת עם שיטות הסקה ממוטבות. הבחנה זו חשובה בעת השוואת הנחיות פריסה: תצורת חומרה או תוצאת תפוקה ממהדורה אחת אינן מתארות אוטומטית מהדורה אחרת. שם המודל מזהה את משפחת Lightning, ואילו נקודת הביקורת המדויקת ותצורת ההגשה קובעות את שיטת ההפעלה. הפרידו בין יכולות ברמת המודל לבין ביצועים והנחות זיכרון התלויים בשיטת הפעלה מסוימת.
לעבודה מבוססת כלים, ספקו תיאורי פונקציות ברורים והחזירו את התוצאה האמיתית של כל שלב שבוצע. פעולה מוצעת הופכת לראיה שימושית רק לאחר שהיישום המקיף מבצע אותה ומתעד מה קרה. בקשו שבתשובה הסופית תהיה הבחנה בין תצפיות מן המקור, מסקנות שהוסקו ובדיקות שטרם הושלמו. כאשר חישוב, פקודה או קטע שאוחזר סותרים את התוצאה המתוכננת, השתמשו בסתירה כדי לעדכן את המסקנה, במקום להפיק סיכום מלוטש של הנחה שלא אומתה.
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions nvidia/nemotron-3.5-lightning:free
nvidia/nemotron-3.5-lightning:free
nvidia/nemotron-3.5-lightning:freeהתחלה
NVIDIA Nemotron 3.5 Lightning הוא מודל טקסט להסקה ולצ'אט עם 30B פרמטרים בסך הכול ו-3B פרמטרים פעילים. ארכיטקטורת Mamba–MoE ההיברידית שלו תומכת בניתוח בהקשר ארוך, בתכנות ובתהליכים מבוססי כלים, עם מצבי חשיבה או תשובה ישירה המתועדים בתבנית הצ'אט של היצרן.
- סוגי קלט נתמכים
- טקסט
- תוצאות
- טקסט
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
- סוגי קלט
text- סוגי פלט
text- הקשר
- 1,000,000 tokens
- פלט מרבי
- 65,536 tokens
- פורמט פלט
- JSON
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות nvidia/nemotron-3.5-lightning:free | ברירת מחדל— |
שדהmessages | סוגarray | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהstream | סוגboolean | דרישהרשות | ערכים ומגבלות false | ברירת מחדלfalse |
שדהmax_tokens | סוגinteger | דרישהרשות | ערכים ומגבלות מינימום: 1 מקסימום: 65,536 | ברירת מחדל— |
שדהmax_completion_tokens | סוגinteger | דרישהרשות | ערכים ומגבלות מינימום: 1 מקסימום: 65,536 | ברירת מחדל— |
שדהn | סוגinteger | דרישהרשות | ערכים ומגבלות מינימום: 1 מקסימום: 128 | ברירת מחדל— |
שדהtemperature | סוגnumber | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהtop_p | סוגnumber | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהseed | סוגinteger | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהstop | סוג | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהfrequency_penalty | סוגnumber | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהpresence_penalty | סוגnumber | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהuser | סוגstring | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, messages |
פרמטרoptional | מפרטstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
פרמטרmaterial_types | מפרטtext |
פרמטרconditions | מפרטUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
מחזור חיים: synchronous_json
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- תעריף רגיל כאשר נבחר מצב מהיר
- מצב Flex
- תעריף רגיל כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- תעריף רגיל כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
- תמחור מטמון מפורש
- לא מופעל כאשר מתבקש מטמון מפורש
- תעריפי אפס לטקסט בלבד
- Text input and output only. Cache, tools, media and streaming are unavailable. כאשר הקלט והפלט הם טקסט בלבד
תעריפי Ailoot
מחירים לפי תצורה
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי בסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0 / 1K טוקנים פלט · טוקני פלט $0 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · OpenAI Chat
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
קבלה ושמירה של תוצאות
Ailoot Ultra · OpenAI Chat
JSON
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
Retain the complete response, all actual results, original identifiers, usage and response headers.
כשצריך לבדוק את התגובה המקורית
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
כינויים
כינויים למודל
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
Ailoot Ultra · Anthropic Messages POST /v1/messages nvidia/nemotron-3.5-lightning:free
nvidia/nemotron-3.5-lightning:free
nvidia/nemotron-3.5-lightning:freeהתחלה
NVIDIA Nemotron 3.5 Lightning הוא מודל טקסט להסקה ולצ'אט עם 30B פרמטרים בסך הכול ו-3B פרמטרים פעילים. ארכיטקטורת Mamba–MoE ההיברידית שלו תומכת בניתוח בהקשר ארוך, בתכנות ובתהליכים מבוססי כלים, עם מצבי חשיבה או תשובה ישירה המתועדים בתבנית הצ'אט של היצרן.
- סוגי קלט נתמכים
- טקסט
- תוצאות
- טקסט
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · Anthropic Messages POST /v1/messages
- סוגי קלט
text- סוגי פלט
text- הקשר
- 1,000,000 tokens
- פלט מרבי
- 65,536 tokens
- פורמט פלט
- JSON
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות nvidia/nemotron-3.5-lightning:free | ברירת מחדל— |
שדהmessages | סוגarray | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהstream | סוגboolean | דרישהרשות | ערכים ומגבלות false | ברירת מחדלfalse |
שדהsystem | סוגstring | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהmax_tokens | סוגinteger | דרישהחובה | ערכים ומגבלות מינימום: 1 מקסימום: 65,536 | ברירת מחדל— |
שדהtemperature | סוגnumber | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהtop_p | סוגnumber | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהtop_k | סוגinteger | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהstop_sequences | סוגarray | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהmetadata | סוגobject | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, messages, max_tokens |
פרמטרoptional | מפרטstream, system, temperature, top_p, top_k, stop_sequences, metadata |
פרמטרmaterial_types | מפרטtext |
פרמטרconditions | מפרטUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
מחזור חיים: synchronous_json
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- תעריף רגיל כאשר נבחר מצב מהיר
- מצב Flex
- תעריף רגיל כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- תעריף רגיל כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
- תעריפי אפס לטקסט בלבד
- Text input and output only. Cache, tools, media and streaming are unavailable. כאשר הקלט והפלט הם טקסט בלבד
תעריפי Ailoot
מחירים לפי תצורה
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי בסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0 / 1K טוקנים פלט · טוקני פלט $0 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · Anthropic Messages
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
קבלה ושמירה של תוצאות
Ailoot Ultra · Anthropic Messages
JSON
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
Retain the complete response, all actual results, original identifiers, usage and response headers.
כשצריך לבדוק את התגובה המקורית
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
כינויים
כינויים למודל
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
FAQ · NVIDIA: Nemotron 3.5 Lightning (free)
- אילו קלטים ותוצאות זמינים?
POST /v1/chat/completions·nvidia/nemotron-3.5-lightning:free:text→textPOST /v1/messages·nvidia/nemotron-3.5-lightning:free:text→text- באילו שדות הבקשה משתמשת?
POST /v1/chat/completions·nvidia/nemotron-3.5-lightning:free:model,messages,stream,max_tokens,max_completion_tokens,n,temperature,top_p,seed,stop,frequency_penalty,presence_penalty,userPOST /v1/messages·nvidia/nemotron-3.5-lightning:free:model,messages,stream,system,max_tokens,temperature,top_p,top_k,stop_sequences,metadata- אילו מגבלות חלות?
POST /v1/chat/completions·nvidia/nemotron-3.5-lightning:free:ctx:1000000;max_out:65536;max_tokens.minimum:1;max_tokens.maximum:65536;max_completion_tokens.minimum:1;max_completion_tokens.maximum:65536;n.minimum:1;n.maximum:128POST /v1/messages·nvidia/nemotron-3.5-lightning:free:ctx:1000000;max_out:65536;max_tokens.minimum:1;max_tokens.maximum:65536