Thenlper: GTE-Large
Alibaba DAMO Academy GTE-large ממיר טקסט באנגלית לווקטורים בני 1024 ממדים לאחזור, לדמיון סמנטי ולדירוג מחדש המבוסס על הטמעות. התהליך המומלץ שלו משתמש במיצוע, בנרמול אופציונלי ובאורך רצף מרבי של 512 טוקנים.
על המודל
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
GTE-large הוא מודל General Text Embeddings בגודל Large שאומן בידי Alibaba DAMO Academy. זהו מקודד טקסט באנגלית המבוסס בעיקר על מסגרת BERT, עם ייצוג צפוף בן 1024 ממדים לכל קלט. היצרן מאמן את משפחת GTE על זוגות טקסט בעלי קשר רלוונטיות מתחומים שונים, ומציין אחזור, דמיון סמנטי בין טקסטים ודירוג טקסט מחדש כיישומים בהמשך התהליך.
ייצגו את תוכן הסעיף
הכינו את הקטע באנגלית שאותו צריך להשוות לשאילתת חיפוש. באוסף דוחות טכניים, שמרו את נושא הסעיף הקצר, את התצפית ואת התנאי הרלוונטי. דוח המתאר רטט רק תחת עומס מסוים צריך לשמור את התנאי הזה, במקום להותיר אמירה כללית על רטט.
שמרו מזהי מקור, כותרות מסמכים ומיקומי סעיפים יחד עם הווקטורים המאוחסנים. שאילתה יכולה לאחזר סעיפים מועמדים, ואילו הדוח המקורי נשאר זמין לאימות הציוד, התנאי והמסקנה. ההטמעה מספקת ייצוג מספרי של תוכן הקטע.
איגום, נרמול ושימוש בווקטורים
התהליך המפורסם משתמש במיצוע ייצוגי הטוקנים עם מסכת הקשב, תוך השמטת טוקני הריפוד מהממוצע. הוא מציג גם נרמול L2 אופציונלי ואחריו השוואה באמצעות מכפלה סקלרית של וקטורים מנורמלים. דוגמת Sentence Transformers משתמשת בדמיון קוסינוס.
שמרו על אותן הגדרות הכנה, איגום והשוואה באוסף ובצד השאילתה. כל ייצוג מכיל 1024 רכיבים. מספר הרכיבים הגדול יותר הוא פרט של המהדורה; הוא אינו מוכיח שאפשר לערבב וקטורי GTE-large עם הייצוג בן 768 הממדים של GTE-base או עם מקודד אחר בן 1024 ממדים.
תהליך דירוג מחדש יכול להשוות הטמעת שאילתה לקבוצה של הטמעות מועמדים שכבר אוחזרו ולשנות את סדר הרשומות האלה. שמרו על ההבחנה בין השוואת הווקטורים הזו לבין מודל נפרד שמעריך במשותף זוג שאילתה–קטע.
אורך הקלט והמגבלה לאנגלית
כרטיס המודל מגביל במפורש את המודל המדויק הזה לטקסט באנגלית וקוטע קלטים ארוכים לאורך מרבי של 512 טוקנים. חלקו דוח טכני ארוך לסעיפים לכידים ושמרו מספיק הקשר מקומי כדי שכל סעיף יעמוד בפני עצמו. אם משפט תלוי בסייג קודם, שמרו את הסייג באותה יחידה מאונדקסת כאשר הוא נכנס בה.
גבול טוקנים שונה ממספר מילים גלוי. בדקו את אורך הסעיף שהוכן וודאו שהפרט הדרוש לחיפוש המיועד אינו נמצא מעבר לחלק הנשמר לאחר הקיטוע.
בדקו את הראיות שאוחזרו
ביישום לחיפוש דוחות, הציגו סעיפים מועמדים עם מיקומם במקור ובדקו את תוכנם בפועל. לתצפיות דומות יכולים להיות גורמים או המלצות שונים. ציון וקטורי עוזר לסדר את המועמדים בהתאם להגדרות ההשוואה שנבחרו; הוא אינו מוכיח שמסקנת דוח חלה במצב חדש.
ב־RAG, השתמשו בסעיפים שנבחרו כהקשר מקור לשלב כתיבת התשובה ושמרו את הקישורים שלהם למסמכים. פרופיל GTE-large המדויק הזה מספק הטמעות צפופות באנגלית עם 1024 ממדים וגבול קלט של 512 טוקנים. למהדורות GTE מאוחרות יותר שהן רב־לשוניות או בעלות הקשר מורחב יש זהויות נפרדות, ולכן כיסוי השפות או הגדרות הקלט שלהן אינם נובעים משם המשפחה של גרסת המודל הזו.
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings thenlper/gte-large
thenlper/gte-largeהתחלה
Alibaba DAMO Academy GTE-large ממיר טקסט באנגלית לווקטורים בני 1024 ממדים לאחזור, לדמיון סמנטי ולדירוג מחדש המבוסס על הטמעות. התהליך המומלץ שלו משתמש במיצוע, בנרמול אופציונלי ובאורך רצף מרבי של 512 טוקנים.
- סוגי קלט נתמכים
- טקסט · token_ids
- תוצאות
- embedding
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings
- סוגי קלט
text,token_ids- סוגי פלט
embedding- פורמט פלט
- json
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות thenlper/gte-large | ברירת מחדל— |
שדהinput | סוגstring|string[]|integer[]|integer[][] | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: 1 תנאים: אצווה אחידה שאינה ריקה. מזהי הטוקנים הם מספרים שלמים אי־שליליים. תקציב קלט: מקסימום: 512 · יחידת טקסט: בתים בקידוד UTF8 · יחידת טוקנים: רכיבים במערך טוקנים | ברירת מחדל— |
שדהencoding_format | סוגstring | דרישהרשות | ערכים ומגבלות float | ברירת מחדלfloat |
שדהdimensions | סוגinteger | דרישהלא נתמך | ערכים ומגבלות מינימום: 1 | ברירת מחדל— |
שדהuser | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהsession_id | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהtrace | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהprovider | סוגobject | דרישהרשות | ערכים ומגבלות תנאים: provider.options נדחה | ברירת מחדל— |
שילובים של חומרי קלט
text_to_embedding
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, input |
פרמטרinput_shapes | מפרטstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
פרמטרencoding_format | מפרטfloat |
פרמטרdimensions_override | מפרטfalse |
פרמטרmax_input_budget_units | מפרט512 |
פרמטרmultimodal_objects | מפרטfalse |
פרמטרmaterial_types | מפרטtext, token_ids |
מחזור חיים: synchronous_json
שמרו כל אינדקס וקטור וממד.
שם מודל רב־מודאלי אינו מאפשר אובייקטי תמונה בנתיב המדויק הזה.
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- לא צוין כאשר נבחר מצב מהיר
- מצב Flex
- לא צוין כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- לא צוין כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
תעריפי Ailoot
מחירים לפי תצורה
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0.00002 / 1K טוקנים פלט · טוקני פלט $0 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · ייצוגים וקטוריים
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
קבלה ושמירה של תוצאות
Ailoot Ultra · ייצוגים וקטוריים
json
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו כל וקטור עם האינדקס שלו. מספר הווקטורים חייב להיות שווה למספר פריטי הקלט; מספר הממדים חייב להיות עקבי.
כשצריך לבדוק את התגובה המקורית
לא מתווספת נקודת קצה למשימות הטמעה.
שדות התגובה
| שדה | סוג |
|---|---|
שדהobject | סוגstring |
שדהmodel | סוגstring |
שדהdata[].index | סוגinteger |
שדהdata[].embedding | סוגfinite float[] |
שדהusage | סוגobject |
שגיאות והשלבים הבאים
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
כינויים
כינויים למודל
Ailoot Ultra thenlper/gte-large
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
FAQ · Thenlper: GTE-Large
- אילו קלטים ותוצאות זמינים?
POST /v1/embeddings·thenlper/gte-large:text,token_ids→embedding- באילו שדות הבקשה משתמשת?
POST /v1/embeddings·thenlper/gte-large:model,input,encoding_format,provider- אילו מגבלות חלות?
POST /v1/embeddings·thenlper/gte-large:input.budget.maximum:512(בתים בקידוד UTF8);input.min_items:1