NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2 הוא מודל הדירוג מחדש של NVIDIA מסוג מקודד צולב לסידור חומר שאוחזר לפי הרלוונטיות שלו לשאילתה. שלחו שאילתה ומסמכים מועמדים של טקסט, תמונה או שילוב ביניהם, ואז השתמשו בציונים ובאינדקסים המקוריים שהוחזרו כדי לבחור קטעים לתוצאות חיפוש או לתשובה המועשרת באחזור.
על המודל
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
Llama Nemotron Rerank VL 1B V2 מעריך את הרלוונטיות של טקסט מועמד ותמונות מסמכים לשאילתת טקסט, כולל תרשימים, טבלאות ועמודים המשלבים מדיה. NVIDIA מתארת אותו כמודל מקודד צולב עם 1.7B פרמטרים. בתהליך אחזור, הריצו קודם את החיפוש הראשוני ואז שלחו את המועמדים שנבחרו למודל הדירוג מחדש. התוצאה המועילה היא קבוצה מסודרת מחדש של אותם מועמדים עם ציוני רלוונטיות, שהיישום יכול להשתמש בה לבחירת הקשר לתשובה או לסידור עמוד תוצאות חיפוש.
השתמשו ב-POST /v1/rerank עם גוף application/json. הגדירו model ל-"nvidia/llama-nemotron-rerank-vl-1b-v2:free", את query לשאלת החיפוש בפועל ואת documents למערך שאינו ריק. כל מועמד יכול להיות מחרוזת טקסט או אובייקט עם text ו/או image; אובייקט מובנה חייב לספק לפחות אחד מהשדות האלה. text הוא מחרוזת. image הוא כתובת HTTP/HTTPS מרוחקת או URI של נתוני base64 שמתחיל ב-data:image/. מועמד משולב מספק את שני השדות. שימרו את סדר מערך הקלט הזה כדי שיהיה אפשר להתאים אינדקסים שהוחזרו למזהי המסמכים השמורים שלכם. top_n הוא מספר שלם אופציונלי שערכו לפחות 1 ומבקש את מספר המסמכים בדירוג הגבוה ביותר שיש להחזיר.
למשל, יישום מרכז עזרה יכול לאחזר קטעים על משלוחים, החזרות וגישה לחשבון, ואז לדרג מחדש את הקטעים האלה מול שאלת הלקוח על משלוח. העבירו את טקסט הקטע בפועל במקום שמות קבצים או קטעי תוצאות ממנוע חיפוש שאינם קשורים למקור השמור. השאירו כל קטע מקושר למזהה המקור שלו ביישום, כך שבהמשך יהיה אפשר לצטט או לפתוח את הראיות שנבחרו. למסמך סרוק, תרשים, טבלה או אינפוגרפיקה, ספקו את התמונה בפועל באובייקט מסמך והוסיפו טקסט כאשר הוא עוזר לזהות את התוכן.
עמוד המודל מתעד מגבלה של 10,240 טוקנים לכל שאילתה ומסמך. חלקו חומר מקור ארוך יותר לקטעים בגודל מוגבל לפני הכנת רשימת המועמדים. השאירו סביב כל קטע הקשר מועיל, כולל הכותרת או שם המוצר כאשר הם משנים את המשמעות. הבקשה המתועדת מתחילה במועמדים שאתם מספקים; היא אינה מחפשת באוסף מסמכים עבורכם.
הדירוג מחדש מחזיר תוצאת JSON סינכרונית. קראו כל פריט results, כולל index המקורי שלו, relevance_score ואובייקט document שהוחזר, שיכול להכיל text ו/או image, ושמרו כל usage ומזהי תגובה שהוחזרו. השתמשו ב-index כדי למפות את התוצאה המדורגת בחזרה למועמד הקלט שלה. התייחסו לציון רלוונטיות כאות דירוג לשאילתה הזו ולא כתשובה עובדתית שאומתה באופן עצמאי. שמרו את התוצאה המלאה כאשר נבחרים כמה קטעים לשלב הבא.
הכינו חומר מועמד ציבורי או סינתטי למהדורה החינמית הזו; תנאי השימוש המתועדים שלה אוסרים מידע סודי ונתונים אישיים. אם בקשה מסתיימת ללא תוצאה מלאה, שמרו את התגובה המקורית ואת מזהה הבקשה בעת בדיקת אותו ניסיון. תהליך הדירוג מחדש המתועד מחזיר את תוצאתו ישירות ואינו מספק תהליך נפרד לבדיקת מצב משימה או לביטול.
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:freeהתחלה
Llama Nemotron Rerank VL 1B V2 הוא מודל הדירוג מחדש של NVIDIA מסוג מקודד צולב לסידור חומר שאוחזר לפי הרלוונטיות שלו לשאילתה. שלחו שאילתה ומסמכים מועמדים של טקסט, תמונה או שילוב ביניהם, ואז השתמשו בציונים ובאינדקסים המקוריים שהוחזרו כדי לבחור קטעים לתוצאות חיפוש או לתשובה המועשרת באחזור.
- סוגי קלט נתמכים
- טקסט
- תוצאות
- ranking
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · Rerank POST /v1/rerank
- סוגי קלט
text- סוגי פלט
ranking- פורמט פלט
- JSON
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות nvidia/llama-nemotron-rerank-vl-1b-v2:free | ברירת מחדל— |
שדהquery | סוגstring | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהdocuments | סוגarray | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהtop_n | סוגinteger | דרישהרשות | ערכים ומגבלות מינימום: 1 | ברירת מחדל— |
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, query, documents |
פרמטרoptional | מפרטtop_n |
פרמטרmaterial_types | מפרטtext |
פרמטרconditions | מפרט |
מחזור חיים: synchronous_json
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- לא צוין כאשר נבחר מצב מהיר
- מצב Flex
- לא צוין כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- לא צוין כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
תעריפי Ailoot
מחירים לפי תצורה
התאימו כל חיוב לתנאים המוצגים. השתמשו בתעריף אחד לכל קבוצה של תצורות חלופיות.
| תצורה | טבלת תעריפים | כמות החיוב | חיוב |
|---|---|---|---|
| תצורהתעריפי בסיס לטוקנים | טבלת תעריפיםתעריף בסיס | כמות החיוב— | חיוב קלט · טוקני קלט — / 1K טוקנים פלט · טוקני פלט — / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
| תצורהלכל בקשה | טבלת תעריפים— | כמות החיובבקשה אחת | חיוב קלט $0 לכל בקשה |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
קבלה ושמירה של תוצאות
Ailoot Ultra · Rerank
JSON
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
Retain the complete response, all actual results, original identifiers, usage and response headers.
כשצריך לבדוק את התגובה המקורית
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
שדות התגובה
| שדה | סוג |
|---|---|
שדהresults | סוגarray |
כינויים
כינויים למודל
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- אילו קלטים ותוצאות זמינים?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- באילו שדות הבקשה משתמשת?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- אילו מגבלות חלות?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1