VoyageAI by MongoDB: voyage-4-large
voyage-4-large הוא מודל הטמעת הטקסט של Voyage AI בארכיטקטורת תערובת מומחים, לאחזור כללי ורב־לשוני. הווקטורים שלו חולקים את המרחב של משפחת Voyage 4, כך שאפשר לחפש בהטמעות קורפוס מ־Large באמצעות הטמעות שאילתה תואמות ממודלים אחרים במשפחה.
על המודל
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
voyage-4-large הוא מודל הטמעת הטקסט המוביל של Voyage AI במשפחת Voyage 4. הוא מייצג קטעי מקור ושאילתות כווקטורים מספריים לאחזור כללי ורב-לשוני. שני המאפיינים המייחדים אותו הם תכנון מודל המבוסס על תערובת מומחים ומרחב ההטמעה המשותף של voyage-4-large, voyage-4, voyage-4-lite ו-voyage-4-nano.
מרחב משותף: בחירות נפרדות לקורפוס ולשאילתה
היצרן מתאר אחזור א-סימטרי: אפשר להטמיע מסמכים באמצעות voyage-4-large, בעוד מודל אחר ממשפחת Voyage 4 מכין את וקטורי השאילתה. למשל, אפשר לחפש בקורפוס המיוצג באמצעות Large עם שאילתות voyage-4. כך שני צדדי החיפוש יכולים לבחור מודלים שונים ולהישאר במרחב התואם המתועד.
לכן אוסף מעשי יכול להשתמש ב-Large להכנת קטעי מסמכים יציבים ולבחור בנפרד את המודל בצד השאילתה. המסמכים מוטמעים בזמן יצירת הקורפוס או עדכונו, והשאילתות הופכות לווקטורים כשמשתמשים מחפשים. הודעת המשפחה מתארת שינוי מודל השאילתה בתוך המשפחה התואמת ללא יצירה מחדש של וקטורי קורפוס המסמכים רק בגלל השינוי הזה. שמרו וקטורים מושווים בממדים תואמים ובייצוגים שמערכת החיפוש יכולה לפרש יחד.
תכנון הטמעה המבוסס על תערובת מומחים
שכבת הזנה קדימה צפופה מעבדת כל טוקן באמצעות מערך הפרמטרים המלא שלה. גישת MoE המתוארת עבור voyage-4-large משתמשת בנתב וברשתות הזנה קדימה של מומחים, ובוחרת את המומחים שמעבדים כל טוקן. כך מופרדת קיבולת המודל הכוללת מהפרמטרים הפעילים לטוקן מסוים. Voyage מדווחת על יחס הפעלה של 1/10 בתכנון MoE של המודל, עם ניתוב top-k.
ההסבר הטכני של היצרן מתאר גם שתי בחירות בפיתוח. קיבולת המומחה משפיעה על השאלה אם טוקנים עודפים עוקפים שכבת מומחה דרך מסלול שיורי; הצוות בחר במקדם הקיבולת הגדול ביותר שניתן היה ליישם כדי להימנע מפגיעה באיכות האחזור. בשלב האימון האחרון, פרמטרי הנתב מוקפאים לפני מיזוג המודלים, כך שאינטרפולציה של מודלי המקור לא משנה את ניתוב בחירת המומחים שנלמד. אלה מאפייני הכנת המודל, הנפרדים מהגדרות אורך טקסט או חיתוך המשמשות להכנת קלט.
ממדים וייצוג הפלט
טבלת המודלים הרשמית מציינת חלון הקשר של 32,000 טוקנים והטמעות לבחירה ב-256, 512, 1024 ו-2048 ממדים, עם 1024 כברירת מחדל. המשפחה משתמשת בלמידת Matryoshka לגדלי ייצוג מקוננים ותומכת באפשרויות קוונטיזציה: נקודה צפה של 32 סיביות, מספרים שלמים עם או בלי סימן של 8 סיביות ופלט בינרי ארוז.
בפלט בינרי, אורך רשימת הבתים שמוחזרת הוא שמינית מהממד שנבחר, משום שכל בית מכיל שמונה סיביות הטמעה. שמרו את בחירות הממד וסוג הנתונים עם האינדקס והשתמשו בשיטת השוואה שתומכת בייצוג הזה. וקטור קטן יותר או דחוס משנה את הייצוג המשמש לחיפוש; העריכו את הקטעים הרלוונטיים שמוחזרים לשאלות בפועל לפני בחירתו לאוסף.
הכינו קלטי מסמכים ושאילתות
Voyage ממליצה להשתמש בתפקיד document לקטעי קורפוס ובתפקיד query לנוסח החיפוש. אפשרות התפקיד שלה מוסיפה את הוראת האחזור המתאימה לפני ההטמעה. שמרו את הכותרת השימושית, את התנאים ואת מיקום המקור של הקטע, ואז אחסנו את הווקטור שהוחזר עם הטקסט המקורי ומזהה יציב.
באוסף ידע טכני, שאלה על מצב כשל צריכה להוביל לקטע שמתאר את המצב ואת התנאים הרלוונטיים שלו. באוסף מסמכים המשתרע על שפות שונות, שמרו את שפת המקור והעריכו את השאלות ואת המונחים שבהם המשתמשים יחפשו. הגרסה מכסה חומרי אחזור הכוללים מסמכים טכניים, שיחות, מסמכים ארוכים, קוד, משפט, פיננסים וטקסט אינטרנט. ההטמעה מאתרת חומר מועמד; מודל דירוג מחדש או שלב תשובה מאוחר יותר משתמשים בטקסט המקורי.
מגבלות הקשר, אצווה וחיתוך
המדריך הנוכחי של היצרן מאפשר עד 1,000 מחרוזות ובסך הכול 120,000 טוקני קלט בבקשת voyage-4-large. הדבר שונה ממכסת האצווה המצוינת עבור voyage-4, ואילו לשניהם חלון של 32,000 טוקנים לכל טקסט. חיתוך ברירת המחדל מקצר קלט ארוך מדי כדי שייכנס; השבתת החיתוך מחזירה שגיאה עבור טקסט ארוך מדי.
בחרו במכוון את גבולות הקטעים הנושאים תשובה, כדי שמקור ארוך לא יאבד הסתייגות רלוונטית בזנב שנחתך. שמרו את השיוך למקור בעת החזרת תוצאות חיפוש ובדקו את טקסט המועמד בפועל, במקום להתייחס לקרבה בין וקטורים כאימות של תוכנו. התאימות במרחב המשותף חלה על משפחת הטקסט Voyage 4 המתועדת; עיבוד מקטעים עם הקשר, הטמעות תמונה/וידאו ומהדורות מודל מאוחרות יותר נשארים תהליכים ייחודיים לכל מודל.
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings voyageai/voyage-4-large
voyageai/voyage-4-largeהתחלה
voyage-4-large הוא מודל הטמעת הטקסט של Voyage AI בארכיטקטורת תערובת מומחים, לאחזור כללי ורב־לשוני. הווקטורים שלו חולקים את המרחב של משפחת Voyage 4, כך שאפשר לחפש בהטמעות קורפוס מ־Large באמצעות הטמעות שאילתה תואמות ממודלים אחרים במשפחה.
- סוגי קלט נתמכים
- טקסט · token_ids
- תוצאות
- embedding
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings
- סוגי קלט
text,token_ids- סוגי פלט
embedding- הקשר
- 32,000 tokens
- פורמט פלט
- json
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות voyageai/voyage-4-large | ברירת מחדל— |
שדהinput | סוגstring|string[]|integer[]|integer[][] | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: 1 תנאים: אצווה אחידה שאינה ריקה. מזהי הטוקנים הם מספרים שלמים אי־שליליים. תקציב קלט: מקסימום: 32,000 · יחידת טקסט: בתים בקידוד UTF8 · יחידת טוקנים: רכיבים במערך טוקנים | ברירת מחדל— |
שדהencoding_format | סוגstring | דרישהרשות | ערכים ומגבלות float | ברירת מחדלfloat |
שדהdimensions | סוגinteger | דרישהלא נתמך | ערכים ומגבלות מינימום: 1 | ברירת מחדל— |
שדהuser | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהsession_id | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהtrace | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהprovider | סוגobject | דרישהרשות | ערכים ומגבלות תנאים: provider.options נדחה | ברירת מחדל— |
שילובים של חומרי קלט
text_to_embedding
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, input |
פרמטרinput_shapes | מפרטstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
פרמטרencoding_format | מפרטfloat |
פרמטרdimensions_override | מפרטfalse |
פרמטרmax_input_budget_units | מפרט32000 |
פרמטרmultimodal_objects | מפרטfalse |
פרמטרmaterial_types | מפרטtext, token_ids |
מחזור חיים: synchronous_json
שמרו כל אינדקס וקטור וממד.
שם מודל רב־מודאלי אינו מאפשר אובייקטי תמונה בנתיב המדויק הזה.
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- תעריף רגיל כאשר נבחר מצב מהיר
- מצב Flex
- תעריף רגיל כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- תעריף רגיל כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
תעריפי Ailoot
מחירים לפי תצורה
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0.00024 / 1K טוקנים פלט · טוקני פלט $0 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · ייצוגים וקטוריים
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
קבלה ושמירה של תוצאות
Ailoot Ultra · ייצוגים וקטוריים
json
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו כל וקטור עם האינדקס שלו. מספר הווקטורים חייב להיות שווה למספר פריטי הקלט; מספר הממדים חייב להיות עקבי.
כשצריך לבדוק את התגובה המקורית
לא מתווספת נקודת קצה למשימות הטמעה.
שדות התגובה
| שדה | סוג |
|---|---|
שדהobject | סוגstring |
שדהmodel | סוגstring |
שדהdata[].index | סוגinteger |
שדהdata[].embedding | סוגfinite float[] |
שדהusage | סוגobject |
שגיאות והשלבים הבאים
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
כינויים
כינויים למודל
Ailoot Ultra voyageai/voyage-4-large
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
FAQ · VoyageAI by MongoDB: voyage-4-large
- אילו קלטים ותוצאות זמינים?
POST /v1/embeddings·voyageai/voyage-4-large:text,token_ids→embedding- באילו שדות הבקשה משתמשת?
POST /v1/embeddings·voyageai/voyage-4-large:model,input,encoding_format,provider- אילו מגבלות חלות?
POST /v1/embeddings·voyageai/voyage-4-large:ctx:32000;input.budget.maximum:32000(בתים בקידוד UTF8);input.min_items:1