Sentence Transformers: multi-qa-mpnet-base-dot-v1
Sentence Transformers multi-qa-mpnet-base-dot-v1 מקודד שאלות וקטעים לווקטורים בעלי 768 ממדים לחיפוש סמנטי. הוא משתמש באיגום CLS ובהטמעות לא מנורמלות המיועדות למתן ציונים במכפלה סקלרית, עם מגבלת קלט של 512 חלקי מילה.
- Ailoot Ultra · ייצוגים וקטוריים
POST /v1/embeddingssentence-transformers/multi-qa-mpnet-base-dot-v1
על המודל
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
multi-qa-mpnet-base-dot-v1 הוא מודל של Sentence Transformers שנועד לאחזר קטעי טקסט עבור שאלה או שאילתה. האימון שלו השתמש בכ־215 מיליון זוגות שאלה–תשובה. כל קלט הופך לווקטור צפוף בעל 768 ממדים, כאשר איגום CLS ומתן ציונים במכפלה סקלרית מגדירים את המהדורה המדויקת הזאת.
הכינו שאלה וקטעים מועמדים
נסחו את השאילתה כצורך במידע והכינו את רשומות הקורפוס כקטעי טקסט קריאים. לדוגמה, אפשר להשוות שאלה על שינוי כתובת משלוח לפסקאות נפרדות המכסות שינויי כתובת, ביטול הזמנה ומעקב משלוחים. שמרו את התנאים הרלוונטיים בקטע שינוי הכתובת, כולל אם ההזמנה כבר נשלחה.
קודדו את השאילתה ואת הקטעים באותו מודל. הדוגמה שפורסמה עושה זאת ישירות, ללא קידומת query/document, וממיינת את הקטעים לפי ציוני המכפלה הסקלרית שלהם. שמרו כל וקטור מחובר לקטע המקורי שלו ולמזהה המסמך, כדי שהתוצאה המדורגת תוכל להראות את החומר שאונדקס בפועל.
איגום CLS ומהדורת המכפלה הסקלרית
מתכון הייחוס של המודל לוקח את הייצוג של הטוקן הראשון, המוכר כאיגום CLS. הטבלה הטכנית שלו מציינת במפורש שההטמעות אינן מנורמלות ומפרטת מכפלה סקלרית כפונקציית מתן הציונים המתאימה. שמרו את המתכון הזה בעת הגדרת האוסף וצד השאילתה.
נרמול L2 של הווקטורים האלה משנה את הגאומטריה של מתן הציונים. פרופיל all-mpnet-base-v2 המנורמל משתמש במתכון אחר והוא נקודת ביקורת נפרדת, אף שהוא חולק את משפחת MPNet ופלט בן 768 רכיבים. שמרו את המהדורה המדויקת ואת פונקציית ההשוואה עם האוסף המאוחסן, במקום לבחור אותן לפי אורך הווקטור בלבד.
מגבלת אורך וקטעים ארוכים יותר
מגבלת הקלט המצוינת היא 512 חלקי מילה; טקסט ארוך יותר נקטע. היצרן מציין גם שקלטי האימון הגיעו רק ל־250 חלקי מילה ושטקסט ארוך יותר עשוי לעבוד פחות טוב. אורך הקלט שמקבל הטוקנייזר וההסתייגות לגבי אורך האימון מתארים אפוא גבולות מעשיים שונים.
במאמר עזרה גדול, הכינו מקטעים קצרים שעונים על שאלות מסוימות. שמרו כותרת כאשר היא מזהה את הנושא ושמרו כלל עם החריג הדרוש לקריאתו הנכונה. קלט יחיד של עמוד שלם עלול לאבד חומר מאוחר בגלל קטיעה, ואילו קטע קטן מדי עלול לאבד את התנאי שהופך אותו לשימושי.
השתמשו בדירוג באחזור וב־RAG
הווקטורים הצפופים תומכים בשלב אחזור ראשון. החזירו את הקטעים המועמדים בעלי הציון הגבוה ביותר עם הפניות המקור שלהם, ואז בדקו אם הם עונים על השאלה בפועל. בתהליך RAG, ספקו את הקטעים האלה לשלב כתיבת התשובה כחומר מקור; האחזור עצמו אינו מחבר את התשובה.
השתמשו בשאלות מייצגות עם קטעים רלוונטיים ידועים כדי לבחור את מספר התוצאות ולהעריך את הדירוג. כללו דוגמאות עם אוצר מילים דומה אך כוונה שונה, כגון שינוי כתובת לעומת צפייה בכתובת הנוכחית. פרשו ציונים ביחס למועמדים באותו מודל ובאותה הגדרת ציונים, ולא כהסתברויות מכוילות לנכונות.
הפלט השימושי של נקודת הביקורת הזאת הוא מרחב הטמעות לשאלות ולקטעים לחיפוש סמנטי. הווקטורים הלא מנורמלים, איגום CLS, ציון המכפלה הסקלרית וההסתייגות שפורסמה לגבי קלט ארוך הם הפרטים שיש לשמר בעת הכנת תוצאות ושימוש בהן.
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1התחלה
Sentence Transformers multi-qa-mpnet-base-dot-v1 מקודד שאלות וקטעים לווקטורים בעלי 768 ממדים לחיפוש סמנטי. הוא משתמש באיגום CLS ובהטמעות לא מנורמלות המיועדות למתן ציונים במכפלה סקלרית, עם מגבלת קלט של 512 חלקי מילה.
- סוגי קלט נתמכים
- טקסט · token_ids
- תוצאות
- embedding
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings
- סוגי קלט
text,token_ids- סוגי פלט
embedding- פורמט פלט
- json
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות sentence-transformers/multi-qa-mpnet-base-dot-v1 | ברירת מחדל— |
שדהinput | סוגstring|string[]|integer[]|integer[][] | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: 1 תנאים: אצווה אחידה שאינה ריקה. מזהי הטוקנים הם מספרים שלמים אי־שליליים. תקציב קלט: מקסימום: 512 · יחידת טקסט: בתים בקידוד UTF8 · יחידת טוקנים: רכיבים במערך טוקנים | ברירת מחדל— |
שדהencoding_format | סוגstring | דרישהרשות | ערכים ומגבלות float | ברירת מחדלfloat |
שדהdimensions | סוגinteger | דרישהלא נתמך | ערכים ומגבלות מינימום: 1 | ברירת מחדל— |
שדהuser | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהsession_id | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהtrace | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהprovider | סוגobject | דרישהרשות | ערכים ומגבלות תנאים: provider.options נדחה | ברירת מחדל— |
שילובים של חומרי קלט
text_to_embedding
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, input |
פרמטרinput_shapes | מפרטstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
פרמטרencoding_format | מפרטfloat |
פרמטרdimensions_override | מפרטfalse |
פרמטרmax_input_budget_units | מפרט512 |
פרמטרmultimodal_objects | מפרטfalse |
פרמטרmaterial_types | מפרטtext, token_ids |
מחזור חיים: synchronous_json
שמרו כל אינדקס וקטור וממד.
שם מודל רב־מודאלי אינו מאפשר אובייקטי תמונה בנתיב המדויק הזה.
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- לא צוין כאשר נבחר מצב מהיר
- מצב Flex
- לא צוין כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- לא צוין כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
תעריפי Ailoot
מחירים לפי תצורה
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0.00001 / 1K טוקנים פלט · טוקני פלט $0 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · ייצוגים וקטוריים
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/multi-qa-mpnet-base-dot-v1", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/multi-qa-mpnet-base-dot-v1',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
קבלה ושמירה של תוצאות
Ailoot Ultra · ייצוגים וקטוריים
json
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו כל וקטור עם האינדקס שלו. מספר הווקטורים חייב להיות שווה למספר פריטי הקלט; מספר הממדים חייב להיות עקבי.
כשצריך לבדוק את התגובה המקורית
לא מתווספת נקודת קצה למשימות הטמעה.
שדות התגובה
| שדה | סוג |
|---|---|
שדהobject | סוגstring |
שדהmodel | סוגstring |
שדהdata[].index | סוגinteger |
שדהdata[].embedding | סוגfinite float[] |
שדהusage | סוגobject |
שגיאות והשלבים הבאים
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
כינויים
כינויים למודל
Ailoot Ultra sentence-transformers/multi-qa-mpnet-base-dot-v1
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
FAQ · Sentence Transformers: multi-qa-mpnet-base-dot-v1
- אילו קלטים ותוצאות זמינים?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:text,token_ids→embedding- באילו שדות הבקשה משתמשת?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:model,input,encoding_format,provider- אילו מגבלות חלות?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:input.budget.maximum:512(בתים בקידוד UTF8);input.min_items:1