NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 הוא מודל ההטמעה הרב־מודלי של NVIDIA לאחזור. הוא הופך טקסט, תמונות או קלטי מסמך משולבים לווקטורים ותומך בחיפוש בשאילתת טקסט במסמכים המכילים טבלאות, תרשימים, טקסט ואינפוגרפיקה.
על המודל
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
Llama Nemotron Embed VL 1B V2 הוא מודל ההטמעה של NVIDIA לאחזור רב־מודלי לצורך מענה על שאלות. הוא יכול לייצג מסמך כטקסט, כתמונה או כשילוב של תמונה וטקסט. לאחר מכן אפשר להשתמש בשאילתת טקסט כדי לאחזר מסמכים קשורים. הפרופיל המפורסם שלו תומך בתמונות מסמך המכילות טקסט, טבלאות, תרשימים ואינפוגרפיקה, ומחזיר וקטורי הטמעה.
הכינו פריטי מסמך שניתן לזהות
שמרו כל קלט מחובר למסמך המקור, לעמוד או לקטע שהוא מייצג. עבור עמוד חזותי, שמרו את התמונה וכל טקסט נלווה השייך לה. עבור קטע טקסט, שמרו את הכותרת או את תווית הסעיף כאשר הן עוזרות לפרש התאמה מאוחרת יותר. מזהי המקור האלה הופכים פריט שאוחזר לשימושי כראיה ולא רק כתוצאת דמיון מספרית.
בחרו את גבולות הפריטים סביב החומר שמשתמש צריך למצוא. תרשים והסברו עשויים להשתייך לאותו פריט; עמודים לא קשורים צריכים לשמור על הזהויות הנפרדות שלהם. בדקו אם הקלט קריא ואם הטקסט או התמונה מכילים את המידע שהשאילתה המיועדת אמורה לאחזר.
שאילתות טקסט ואחזור וקטורי
תפקיד המודל הוא להפיק וקטורים לאחזור, כאשר טקסט הוא צורת השאילתה המתוארת בפרופיל. שמרו את השאילתה והפריטים המאונדקסים בתצורת הטמעה תואמת. היישום מאחסן את הווקטורים, משווה ביניהם ומחזיר את פריטי המקור המתאימים. המסמך שאוחזר נשאר החומר לבדיקה או להעברה לשלב מאוחר יותר של יצירת תשובה.
ערכת בדיקה שימושית כוללת את השאלות שמשתמשים באמת שואלים ואת העמודים שצריך למצוא. בדקו התאמות שגויות או חסרות מול תוכן המקור וגבולות הפריטים. שמרו את מזהה המסמך המלא עם כל קטע או תמונה שנבחרו, כדי שאפשר יהיה לבדוק את התוצאה בהקשרה.
מכסת הקלט ותוצר החיפוש
הפרופיל המתארח המתועד מציין עד 131,072 טוקנים לכל קלט. חלקו קבוצות מקור גדולות יותר לקלטים נפרדים ומסומנים ושמרו על היחסים ביניהם. הפלט הווקטורי של הפרופיל אינו תשובה בניסוח חופשי שנוצרה בידי המודל או תמליל; שלב מאוחר יותר ביישום יכול להשתמש בראיות שאוחזרו כדי לענות על שאלה.
תוצר אחזור שלם מקשר את השאילתה, את פריטי המקור שנבחרו ואת המזהים שלהם. שמרו את מודל ההטמעה ואת הכנת הקלט ששימשו לאינדקס, כדי שאפשר יהיה להבחין בין שינויים מאוחרים יותר לבין שינויים באוסף המקורות.
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeהתחלה
Llama Nemotron Embed VL 1B V2 הוא מודל ההטמעה הרב־מודלי של NVIDIA לאחזור. הוא הופך טקסט, תמונות או קלטי מסמך משולבים לווקטורים ותומך בחיפוש בשאילתת טקסט במסמכים המכילים טבלאות, תרשימים, טקסט ואינפוגרפיקה.
- סוגי קלט נתמכים
- טקסט · token_ids
- תוצאות
- embedding
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings
- סוגי קלט
text,token_ids- סוגי פלט
embedding- הקשר
- 131,072 tokens
- פורמט פלט
- json
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות nvidia/llama-nemotron-embed-vl-1b-v2:free | ברירת מחדל— |
שדהinput | סוגstring|string[]|integer[]|integer[][] | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: 1 תנאים: אצווה אחידה שאינה ריקה. מזהי הטוקנים הם מספרים שלמים אי־שליליים. תקציב קלט: מקסימום: 131,072 · יחידת טקסט: בתים בקידוד UTF8 · יחידת טוקנים: רכיבים במערך טוקנים | ברירת מחדל— |
שדהencoding_format | סוגstring | דרישהרשות | ערכים ומגבלות float | ברירת מחדלfloat |
שדהdimensions | סוגinteger | דרישהלא נתמך | ערכים ומגבלות מינימום: 1 | ברירת מחדל— |
שדהuser | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהsession_id | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהtrace | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהprovider | סוגobject | דרישהרשות | ערכים ומגבלות תנאים: provider.options נדחה | ברירת מחדל— |
שילובים של חומרי קלט
text_to_embedding
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, input |
פרמטרinput_shapes | מפרטstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
פרמטרencoding_format | מפרטfloat |
פרמטרdimensions_override | מפרטfalse |
פרמטרmax_input_budget_units | מפרט131072 |
פרמטרmultimodal_objects | מפרטfalse |
פרמטרmaterial_types | מפרטtext, token_ids |
מחזור חיים: synchronous_json
שמרו כל אינדקס וקטור וממד.
שם מודל רב־מודאלי אינו מאפשר אובייקטי תמונה בנתיב המדויק הזה.
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- תעריף רגיל כאשר נבחר מצב מהיר
- מצב Flex
- תעריף רגיל כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- תעריף רגיל כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
תעריפי Ailoot
מחירים לפי תצורה
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0 / 1K טוקנים פלט · טוקני פלט $0 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · ייצוגים וקטוריים
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
קבלה ושמירה של תוצאות
Ailoot Ultra · ייצוגים וקטוריים
json
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו כל וקטור עם האינדקס שלו. מספר הווקטורים חייב להיות שווה למספר פריטי הקלט; מספר הממדים חייב להיות עקבי.
כשצריך לבדוק את התגובה המקורית
לא מתווספת נקודת קצה למשימות הטמעה.
שדות התגובה
| שדה | סוג |
|---|---|
שדהobject | סוגstring |
שדהmodel | סוגstring |
שדהdata[].index | סוגinteger |
שדהdata[].embedding | סוגfinite float[] |
שדהusage | סוגobject |
שגיאות והשלבים הבאים
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
כינויים
כינויים למודל
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- אילו קלטים ותוצאות זמינים?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- באילו שדות הבקשה משתמשת?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- אילו מגבלות חלות?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(בתים בקידוד UTF8);input.min_items:1