VoyageAI by MongoDB: voyage-4-lite
Voyage AI voyage-4-lite הוא מהדורת הטמעת הטקסט הממוקדת בזמן תגובה במשפחת Voyage 4. הוא תומך בקלטים באורך 32,000 טוקנים, בארבע אפשרויות למספר ממדי הווקטור ובייצוגים מכומתים, עם מרחב הטמעה משותף התואם למודלי הטקסט האחרים של Voyage 4.
על המודל
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
voyage-4-lite הוא מודל הטמעת הטקסט הממוקד בזמן תגובה במשפחת Voyage 4 של Voyage AI. הוא מייצג שאילתות ומסמכים כווקטורים מספריים לאחזור לשימוש כללי. התכונה המשפחתית המבחינה שלו היא מרחב הטמעה משותף עם voyage-4, voyage-4-large ו־voyage-4-nano, המאפשר לבחור בנפרד את מודל השאילתות ואת מודל המסמכים.
התחילו בתפקידי האחזור
הכינו את צורכי המידע של המשתמש כשאילתה ואת החומר הניתן לחיפוש כמסמכים. Voyage ממליצה על סוגי הקלט query/document לאחזור; התהליך המפורסם שלה מוסיף את הוראת האחזור המתאימה בעת הפיכת הטקסט לווקטורים.
באוסף מדריכים לעובדים, שאילתה על העברת ימי חופשה שלא נוצלו לתקופה הבאה צריכה להיות מושווית לסעיפי המדיניות המסוימים. שמרו את הכלל, תנאיו וכל חריג רלוונטי בקטע המאונדקס. שמרו את המסמך המקורי ומזהה הסעיף לצד הווקטור, כדי שהיישום יוכל להחזיר את טקסט המדיניות בפועל.
סוג קלט שלא צוין מייצג ישירות את הטקסט, ואילו תפקידי query/document מתאימים אותו לאחזור. היצרן מציין שהטמעות שנוצרו עם הגדרות התפקיד האלה ובלעדיהן תואמות, אך שמירה על מדיניות הכנה עקבית מקלה על הערכת האוסף.
מרחב משותף במשפחת הטקסט Voyage 4
Voyage מתעדת במפורש תהליך אחזור אסימטרי: אפשר לקודד מסמכים באמצעות voyage-4-large ולחפש בהם בעזרת וקטורי שאילתה מ־voyage-4-lite. זו הצהרת תאימות ברמת המשפחה, ולא מסקנה הנובעת מכך ששני מודלים מחזירים וקטורים באותו אורך.
שמרו על התאמה במספר ממדי הווקטור ובייצוג שנבחרו בין האוסף לצד השאילתה. המרחב המשותף מאפשר גם להחליף את מודל השאילתה בתוך משפחת מודלי הטקסט Voyage 4 הנקובה בשם, בלי ליצור מחדש וקטורים למסמכים הקיימים. בעת בחירת מהדורת השאילתה, העריכו את הדירוג שנוצר בעזרת שאלות מייצגות.
תפקידה של מהדורת Lite הוא לשמש אפשרות קטנה יותר להטמעת שאילתות וטקסט, הממוקדת בזמן תגובה. היצרן מייחס את ארכיטקטורת תערובת המומחים במפורש ל־voyage-4-large; שם המשפחה אינו מוכיח שזו גם הארכיטקטורה של Lite.
הקשר, ממדים ופורמט התוצאה
אורך ההקשר המפורסם הוא 32,000 טוקנים לכל טקסט. לווקטור ברירת המחדל 1024 ממדים, ו־256, 512 ו־2048 זמינים גם הם באמצעות למידת Matryoshka. תהליך הטמעת הטקסט של היצרן מתעד עבור voyage-4-lite ייצוגי נקודה צפה, מספרים שלמים ב־8 סיביות עם סימן וללא סימן, וייצוגים בינאריים ארוזים ברמת הסיביות.
בווקטורי נקודה צפה רגילים, הנחיות הדמיון של Voyage מתארות הטמעות באורך יחידה, ולכן דמיון קוסינוס ודמיון לפי מכפלה סקלרית שקולים. צורות מכומתות זקוקות לטיפול המתאים לייצוג שלהן. למשל, רשימה בינארית ארוזה ברמת הסיביות מאחסנת שמונה סיביות הטמעה בכל בייט; אורך הרשימה שלה שונה ממספר ממדי הווקטור הסמנטי.
בתהליך האצווה המתועד של Voyage, רשימה מכילה לכל היותר 1000 טקסטים ומיליון טוקנים בסך הכול עבור מהדורת Lite המדויקת הזו. התנהגות ברירת המחדל במקרה של אורך עודף קוטעת כל טקסט בנפרד בגבול ההקשר; ההגדרה החלופית דוחה קלטים ארוכים מדי. מגבלות האצווה והמגבלות לכל טקסט הן מגבלות נפרדות.
הכינו ובדקו תוצאות אחזור
חלקו חומר מקור ארוך לסעיפים לכידים שאפשר להחזיר כראיות. הקשר של 32,000 טוקנים מאפשר קלט ארוך, אך יחידת אחזור שימושית עדיין צריכה להוביל לסעיף המקור הרלוונטי. כללו את הכותרת או פרט הזיהוי הדרוש לפירוש הכלל.
ב־RAG, אחזרו סעיפים מועמדים והעבירו את הטקסט המקורי שלהם לשלב כתיבת התשובה יחד עם הקישורים למקורות. מודל ההטמעה מייצר וקטורים ואינו יוצר תשובה בנושא מדיניות. הדמיון מדרג מועמדים בהתאם למודל ולהגדרות ההשוואה שנבחרו; עיינו בקטע בפועל כדי לבדוק את התנאי המדויק שנשאל עליו.
השילוב השימושי הייחודי למהדורת voyage-4-lite הוא מודל טקסט הממוקד בזמן תגובה, ייצוגים גמישים, הקשר של 32,000 טוקנים ותאימות מתועדת בתוך משפחת הטקסט Voyage 4. שמרו את המאפיינים האלה עם האוסף המאונדקס והשתמשו בתוצאות אחזור המבוססות על המקור כדי לתמוך ביישום המשתמש בהן.
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings voyageai/voyage-4-lite
voyageai/voyage-4-liteהתחלה
Voyage AI voyage-4-lite הוא מהדורת הטמעת הטקסט הממוקדת בזמן תגובה במשפחת Voyage 4. הוא תומך בקלטים באורך 32,000 טוקנים, בארבע אפשרויות למספר ממדי הווקטור ובייצוגים מכומתים, עם מרחב הטמעה משותף התואם למודלי הטקסט האחרים של Voyage 4.
- סוגי קלט נתמכים
- טקסט · token_ids
- תוצאות
- embedding
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings
- סוגי קלט
text,token_ids- סוגי פלט
embedding- הקשר
- 32,000 tokens
- פורמט פלט
- json
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות voyageai/voyage-4-lite | ברירת מחדל— |
שדהinput | סוגstring|string[]|integer[]|integer[][] | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: 1 תנאים: אצווה אחידה שאינה ריקה. מזהי הטוקנים הם מספרים שלמים אי־שליליים. תקציב קלט: מקסימום: 32,000 · יחידת טקסט: בתים בקידוד UTF8 · יחידת טוקנים: רכיבים במערך טוקנים | ברירת מחדל— |
שדהencoding_format | סוגstring | דרישהרשות | ערכים ומגבלות float | ברירת מחדלfloat |
שדהdimensions | סוגinteger | דרישהלא נתמך | ערכים ומגבלות מינימום: 1 | ברירת מחדל— |
שדהuser | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהsession_id | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהtrace | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהprovider | סוגobject | דרישהרשות | ערכים ומגבלות תנאים: provider.options נדחה | ברירת מחדל— |
שילובים של חומרי קלט
text_to_embedding
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, input |
פרמטרinput_shapes | מפרטstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
פרמטרencoding_format | מפרטfloat |
פרמטרdimensions_override | מפרטfalse |
פרמטרmax_input_budget_units | מפרט32000 |
פרמטרmultimodal_objects | מפרטfalse |
פרמטרmaterial_types | מפרטtext, token_ids |
מחזור חיים: synchronous_json
שמרו כל אינדקס וקטור וממד.
שם מודל רב־מודאלי אינו מאפשר אובייקטי תמונה בנתיב המדויק הזה.
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- תעריף רגיל כאשר נבחר מצב מהיר
- מצב Flex
- תעריף רגיל כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- תעריף רגיל כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
תעריפי Ailoot
מחירים לפי תצורה
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0.00004 / 1K טוקנים פלט · טוקני פלט $0 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · ייצוגים וקטוריים
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-lite", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-lite',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
קבלה ושמירה של תוצאות
Ailoot Ultra · ייצוגים וקטוריים
json
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו כל וקטור עם האינדקס שלו. מספר הווקטורים חייב להיות שווה למספר פריטי הקלט; מספר הממדים חייב להיות עקבי.
כשצריך לבדוק את התגובה המקורית
לא מתווספת נקודת קצה למשימות הטמעה.
שדות התגובה
| שדה | סוג |
|---|---|
שדהobject | סוגstring |
שדהmodel | סוגstring |
שדהdata[].index | סוגinteger |
שדהdata[].embedding | סוגfinite float[] |
שדהusage | סוגobject |
שגיאות והשלבים הבאים
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
כינויים
כינויים למודל
Ailoot Ultra voyageai/voyage-4-lite
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
FAQ · VoyageAI by MongoDB: voyage-4-lite
- אילו קלטים ותוצאות זמינים?
POST /v1/embeddings·voyageai/voyage-4-lite:text,token_ids→embedding- באילו שדות הבקשה משתמשת?
POST /v1/embeddings·voyageai/voyage-4-lite:model,input,encoding_format,provider- אילו מגבלות חלות?
POST /v1/embeddings·voyageai/voyage-4-lite:ctx:32000;input.budget.maximum:32000(בתים בקידוד UTF8);input.min_items:1