BAAI: bge-large-en-v1.5
BAAI bge-large-en-v1.5 מפיק וקטורי טקסט באנגלית בעלי 1024 ממדים לאחזור ולהשוואה סמנטית. ההכנה של v1.5 תומכת בהוראת שאילתה אופציונלית, עם אורך רצף מתועד של 512 טוקנים.
על המודל
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
bge-large-en-v1.5 הוא מהדורת ההטמעה הצפופה הגדולה של BAAI לאנגלית. הוא ממפה טקסט לווקטור בן 1024 ממדים לצורך אחזור קטעים והשוואה סמנטית. גרסה 1.5 היא עדכון היצרן שמטרתו התפלגות דמיון שימושית יותר ושיפור האחזור ללא הוראה. Large נשאר צ׳קפוינט נפרד מ-Base, מ-Small, מהמהדורות לסינית ומהמודל הרב-לשוני BGE-M3.
הכינו אחזור קטעים
לשאילתת חיפוש קצרה מול מסמכים ארוכים יותר, היצרן ממליץ על הוראת השאילתה “Represent this sentence for searching relevant passages:”. הוסיפו אותה בצד השאילתה; קטעי הקורפוס שומרים על טקסט המקור שלהם ללא ההוראה הזאת. בשימושים אחרים די בטקסט ישיר. BAAI מתעדת גם אחזור ללא הקידומת ב-v1.5 וממליצה לבחור בהכנה שעובדת בצורה הטובה ביותר במשימה בפועל.
אוסף ידע מעשי יכול לאנדקס את הסעיפים של מדריך טכני באנגלית. שאלה על ההגדרה שמשנה את פורמט הפלט צריכה להחזיר את הסעיף שמסביר את ההגדרה ואת תנאיה. שמרו עם כל קטע את הכותרת, ההסבר הרלוונטי והמיקום במקור. המודל מספק את הייצוג המספרי; טקסט המקור המוחזר הוא מה שהקורא או שלב RAG מאוחר יותר משתמשים בו.
ייצוג והתאמה
דוגמת הקידוד הישיר של היצרן משתמשת במצב החבוי האחרון של טוקן CLS הראשון כהטמעה המאוגמת, ולאחר מכן מנרמלת את הווקטור. השוואת וקטורים מנורמלים באמצעות מכפלה סקלרית נותנת דמיון קוסינוס. לכן אפשר להכין כל קטע פעם אחת ולשמור אותו להשוואה לווקטורי שאילתות נכנסות, ואילו חומר מקור שהשתנה מקבל ייצוג מעודכן.
1024 הממדים מציינים את אורך וקטור הפלט. הם שונים מייצוג Base בעל 768 הממדים ואינם מעידים על מרחב משותף תואם עם צ׳קפוינט אחר. שמרו את זהות המודל ואת מוסכמת ההכנה בצמוד לאינדקס המאוחסן. שינוי במהדורת ההטמעה מחייב בדיקה משותפת של ייצוגי הקורפוס ושל ייצוגי השאילתות.
התאימו את המקור לחלון
אורך הרצף המתועד הוא 512 טוקנים. הכינו מדריך ארוך כסעיפים קוהרנטיים במקום כקלט יחיד גדול מדי. שמרו תנאי או חריג לצד הכלל שהוא מסייג, וכללו מספיק הקשר כדי שקטע שאוחזר יהיה מובן בפני עצמו. גם הוראת שאילתה שנוספה תופסת טוקני קלט, ולכן חלון המודל נוגע לכל הקלט שהוכן.
גבול מועיל לקטע יכול לכלול כותרת ואת הפסקאות שעונות על שאלת משתמש אחת. שמרו את מזהה מסמך האב ואת הגרסה מחוץ לווקטור, כדי שיהיה אפשר להתחקות אחר המקור הנכון של התוצאה. למשימת השוואה, השתמשו בטקסטים עצמם במקום להחליף אותם בסיכומים שאינם קשורים ושמסירים את ההבדל שצריך למצוא.
פרשו את הציון
היצרן מזהיר מפני התייחסות לדמיון מוחלט ככלל אוניברסלי לשקילות סמנטית. סדר הציונים היחסי מרכזי באחזור, ויש לכייל סף לפי התפלגות הטקסט של המשימה עצמה. בדקו קטעים מועמדים לשאלות שיש להן תשובות ידועות ולשאלות שהתשובה עליהן אינה במקור. כך מתברר אם סעיף שהוחזר מספק את המידע הנדרש או רק דומה לנושא.
bge-large-en-v1.5 מספק וקטורים צפופים לאנגלית. מודל דירוג מחדש נפרד יכול לשפר את סדר המועמדים, ומודל שפה נפרד יכול להרכיב תשובה מהקטעים שנבחרו. הפלט השימושי של מהדורה זו הוא ייצוג הניתן לחיפוש והמקושר לטקסט המקור שלו, תוך שמירה על הבחירה המדויקת במודל Large v1.5 ועל הכנת הקלט.
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings baai/bge-large-en-v1.5
baai/bge-large-en-v1.5התחלה
BAAI bge-large-en-v1.5 מפיק וקטורי טקסט באנגלית בעלי 1024 ממדים לאחזור ולהשוואה סמנטית. ההכנה של v1.5 תומכת בהוראת שאילתה אופציונלית, עם אורך רצף מתועד של 512 טוקנים.
- סוגי קלט נתמכים
- טקסט · token_ids
- תוצאות
- embedding
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings
- סוגי קלט
text,token_ids- סוגי פלט
embedding- פורמט פלט
- json
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות baai/bge-large-en-v1.5 | ברירת מחדל— |
שדהinput | סוגstring|string[]|integer[]|integer[][] | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: 1 תנאים: אצווה אחידה שאינה ריקה. מזהי הטוקנים הם מספרים שלמים אי־שליליים. תקציב קלט: מקסימום: 512 · יחידת טקסט: בתים בקידוד UTF8 · יחידת טוקנים: רכיבים במערך טוקנים | ברירת מחדל— |
שדהencoding_format | סוגstring | דרישהרשות | ערכים ומגבלות float | ברירת מחדלfloat |
שדהdimensions | סוגinteger | דרישהלא נתמך | ערכים ומגבלות מינימום: 1 | ברירת מחדל— |
שדהuser | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהsession_id | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהtrace | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהprovider | סוגobject | דרישהרשות | ערכים ומגבלות תנאים: provider.options נדחה | ברירת מחדל— |
שילובים של חומרי קלט
text_to_embedding
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, input |
פרמטרinput_shapes | מפרטstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
פרמטרencoding_format | מפרטfloat |
פרמטרdimensions_override | מפרטfalse |
פרמטרmax_input_budget_units | מפרט512 |
פרמטרmultimodal_objects | מפרטfalse |
פרמטרmaterial_types | מפרטtext, token_ids |
מחזור חיים: synchronous_json
שמרו כל אינדקס וקטור וממד.
שם מודל רב־מודאלי אינו מאפשר אובייקטי תמונה בנתיב המדויק הזה.
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- לא צוין כאשר נבחר מצב מהיר
- מצב Flex
- לא צוין כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- לא צוין כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
תעריפי Ailoot
מחירים לפי תצורה
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0.00002 / 1K טוקנים פלט · טוקני פלט $0 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · ייצוגים וקטוריים
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-large-en-v1.5", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-large-en-v1.5',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
קבלה ושמירה של תוצאות
Ailoot Ultra · ייצוגים וקטוריים
json
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו כל וקטור עם האינדקס שלו. מספר הווקטורים חייב להיות שווה למספר פריטי הקלט; מספר הממדים חייב להיות עקבי.
כשצריך לבדוק את התגובה המקורית
לא מתווספת נקודת קצה למשימות הטמעה.
שדות התגובה
| שדה | סוג |
|---|---|
שדהobject | סוגstring |
שדהmodel | סוגstring |
שדהdata[].index | סוגinteger |
שדהdata[].embedding | סוגfinite float[] |
שדהusage | סוגobject |
שגיאות והשלבים הבאים
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
כינויים
כינויים למודל
Ailoot Ultra baai/bge-large-en-v1.5
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
FAQ · BAAI: bge-large-en-v1.5
- אילו קלטים ותוצאות זמינים?
POST /v1/embeddings·baai/bge-large-en-v1.5:text,token_ids→embedding- באילו שדות הבקשה משתמשת?
POST /v1/embeddings·baai/bge-large-en-v1.5:model,input,encoding_format,provider- אילו מגבלות חלות?
POST /v1/embeddings·baai/bge-large-en-v1.5:input.budget.maximum:512(בתים בקידוד UTF8);input.min_items:1