NVIDIA: Nemotron 3 Embed 1B (free)
NVIDIA Nemotron 3 Embed 1B מייצג שאילתות וקטעים רב-לשוניים כווקטורים בני 2048 ממדים לצורכי חיפוש ו-RAG. משפחת המודלים המתועדת תומכת ברצף של 32,768 טוקנים ובגדלי וקטור מצומצמים באמצעות נרמול מחדש.
על המודל
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
Nemotron 3 Embed 1B היא משפחת הטמעת הטקסט של NVIDIA לאחזור רב־לשוני, לאחזור בין שפות ולדמיון סמנטי. היא הופכת שאלה או קטע לווקטור צפוף שמערכת חיפוש יכולה להשוות לייצוגי טקסט אחרים. היצרן מעריך את מהדורות 1B המתועדות בשלושים וארבע הגדרות של שפות וגרסאות שפה, ובהן אנגלית, ערבית, סינית, רוסית, יפנית, קוריאנית ו־Hinglish.
המקודד והייצוג
כרטיס המודל של היצרן מתאר Transformer דו־כיווני שעבר גיזום ונגזר מ־Ministral 3. יש לו כ־1.14 מיליארד פרמטרים, והוא ממצע את הייצוגים ברמת הטוקן כדי לקבל הטמעה אחת לכל טקסט. הפלט המקורי הוא וקטור נקודה צפה בן 2048 ממדים. זהו ייצוג לאחזור ולא תשובה כתובה לשאלה שמוטמעת.
היצרן תומך גם בשמירת החלק הראשון של הייצוג הזה, למשל 1024 או 512 ממדים. יש לנרמל שוב את הווקטור המקוצר לפי L2 לאחר החיתוך. שמרו על עקביות באורך הייצוג ובנרמול שנבחרו בין צד השאילתה לצד הקורפוס במשימת חיפוש. אורך הווקטור ואורך רצף הקלט הם תכונות נפרדות.
הכנת שאילתה וקטע
מוסכמת האחזור המתועדת משתמשת ב־“query:” לשאלה וב־“passage:” לטקסט מסמך. דוגמאות היצרן מחילות את התפקידים האלה לפני הקידוד ומשוות וקטורים מנורמלים באמצעות מכפלה סקלרית, השקולה לדמיון קוסינוס. השתמשו בהכנה שתהליך העבודה הנבחר מצפה לה, במקום לערבב ייצוג קורפוס גולמי עם שאילתה שהוכנה אחרת.
אוסף מעשי יכול לכלול הסברים טכניים, מדיניות או תיעוד הקשור לקוד. שאלה על האופן שבו פונקציה מטפלת במקרה מסוים צריכה לאחזר את קטע המקור או קטע הקוד המתאר את ההתנהגות הזו. שמרו מזהים, כותרות ותנאים רלוונטיים יחד עם טקסט הקטע בפועל. הווקטור מאפשר לחפש את המועמד; המקור שנשמר הוא מה שהקורא או שלב מאוחר יותר של כתיבת תשובת RAG משתמשים בו.
חומר מקור ארוך יותר
אורך הרצף המרבי המתועד הוא 32,768 טוקנים. בחרו את גבולות הקטעים במכוון גם כאשר המודל יכול להכיל טקסט רב. סעיף שלם יכול לשמור הגדרה ואת חריגיה; קטע ממוקד יכול להקל על בדיקת תשובה מסוימת. קלטים החורגים מחלון המודל דורשים חלוקה למקטעים או קיטוע, ולכן אין להתייחס לסוף שהושמט כתוכן שמיוצג.
שמרו כל פריט שהוטמע מקושר למסמך האב ולגרסה שלו. בדוח, שמרו את כותרת הסעיף ואת ההסבר סביב המסקנה שאליה מתייחסת השאלה. בחיפוש קוד, שמרו את שם הפונקציה, את הממשק הרלוונטי ואת ההתנהגות לצד הקטע. כך מתקבל פריט מקור קונקרטי כאשר שלב האחזור מחזיר מועמד.
מהדורות המשפחה ושימוש בתוצאות
NVIDIA מתעדת גרסאות BF16 ו־NVFP4 של משפחת 1B. כרטיס המודל המכומת שלה מציין ששתי המהדורות חולקות מרחב הטמעה וממליץ לבדוק את איכות האחזור על חומר מייצג בעת מעבר בין גרסאות. הייצוג המשותף המוצהר הוא הצהרת יצרן על הצמד הנקוב בשם, ולא כלל כללי לכל מודל בעל 2048 ערכי פלט.
התוצאה השימושית היא וקטור שאילתה או אוסף מקורות מאונדקס, עם תיעוד של המודל, בחירת מספר הממדים וההכנה. החזירו את הטקסט המועמד עם המזהה שלו ובדקו אם הוא מספק את המידע הדרוש. היצרן מציין במפורש שמודל אחזור אינו מבטיח את הקטע הנכון לכל שאלה; שלב מאוחר יותר של דירוג מחדש או מענה עובד עם המועמדים האלה כמשימה נפרדת שלו.
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:freeהתחלה
NVIDIA Nemotron 3 Embed 1B מייצג שאילתות וקטעים רב-לשוניים כווקטורים בני 2048 ממדים לצורכי חיפוש ו-RAG. משפחת המודלים המתועדת תומכת ברצף של 32,768 טוקנים ובגדלי וקטור מצומצמים באמצעות נרמול מחדש.
- סוגי קלט נתמכים
- טקסט · token_ids
- תוצאות
- embedding
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings
- סוגי קלט
text,token_ids- סוגי פלט
embedding- הקשר
- 32,768 tokens
- פורמט פלט
- json
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות nvidia/nemotron-3-embed-1b:free | ברירת מחדל— |
שדהinput | סוגstring|string[]|integer[]|integer[][] | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: 1 תנאים: אצווה אחידה שאינה ריקה. מזהי הטוקנים הם מספרים שלמים אי־שליליים. תקציב קלט: מקסימום: 32,768 · יחידת טקסט: בתים בקידוד UTF8 · יחידת טוקנים: רכיבים במערך טוקנים | ברירת מחדל— |
שדהencoding_format | סוגstring | דרישהרשות | ערכים ומגבלות float | ברירת מחדלfloat |
שדהdimensions | סוגinteger | דרישהלא נתמך | ערכים ומגבלות מינימום: 1 | ברירת מחדל— |
שדהuser | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהsession_id | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהtrace | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהprovider | סוגobject | דרישהרשות | ערכים ומגבלות תנאים: provider.options נדחה | ברירת מחדל— |
שילובים של חומרי קלט
text_to_embedding
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, input |
פרמטרinput_shapes | מפרטstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
פרמטרencoding_format | מפרטfloat |
פרמטרdimensions_override | מפרטfalse |
פרמטרmax_input_budget_units | מפרט32768 |
פרמטרmultimodal_objects | מפרטfalse |
פרמטרmaterial_types | מפרטtext, token_ids |
מחזור חיים: synchronous_json
שמרו כל אינדקס וקטור וממד.
שם מודל רב־מודאלי אינו מאפשר אובייקטי תמונה בנתיב המדויק הזה.
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- תעריף רגיל כאשר נבחר מצב מהיר
- מצב Flex
- תעריף רגיל כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- תעריף רגיל כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
תעריפי Ailoot
מחירים לפי תצורה
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0 / 1K טוקנים פלט · טוקני פלט $0 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · ייצוגים וקטוריים
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-embed-1b:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/nemotron-3-embed-1b:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
קבלה ושמירה של תוצאות
Ailoot Ultra · ייצוגים וקטוריים
json
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו כל וקטור עם האינדקס שלו. מספר הווקטורים חייב להיות שווה למספר פריטי הקלט; מספר הממדים חייב להיות עקבי.
כשצריך לבדוק את התגובה המקורית
לא מתווספת נקודת קצה למשימות הטמעה.
שדות התגובה
| שדה | סוג |
|---|---|
שדהobject | סוגstring |
שדהmodel | סוגstring |
שדהdata[].index | סוגinteger |
שדהdata[].embedding | סוגfinite float[] |
שדהusage | סוגobject |
שגיאות והשלבים הבאים
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
כינויים
כינויים למודל
Ailoot Ultra nvidia/nemotron-3-embed-1b:free
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
FAQ · NVIDIA: Nemotron 3 Embed 1B (free)
- אילו קלטים ותוצאות זמינים?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:text,token_ids→embedding- באילו שדות הבקשה משתמשת?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:model,input,encoding_format,provider- אילו מגבלות חלות?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:ctx:32768;input.budget.maximum:32768(בתים בקידוד UTF8);input.min_items:1