Mistral: Mistral Embed 2312
Mistral Embed 2312 הופך טקסט לווקטורים בעלי 1,024 ממדים לחיפוש סמנטי, לאחזור ולניתוח טקסטים קשורים. דף היצרן מתעד הקשר 8k; התוצאה היא ייצוג מספרי הקשור לכל קלט, ולא תשובה שנוצרה.
על המודל
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
Mistral Embed 2312 הוא מודל הטמעות הטקסט של Mistral AI לייצוג משמעות באופן מספרי. הוא מקבל מחרוזת טקסט או רשימת מחרוזות ומחזיר הטמעה לכל קלט. התוצאה היא וקטור שהיישום משתמש בו לדמיון, לאחזור, לסיווג או לקיבוץ לאשכולות, ולא הסבר שיחתי. דף המודל הקבוע של היצרן מזהה את mistral-embed-2312.
קלט, הקשר וצורת וקטור
דף המודל המדויק מתעד תווית הקשר 8k. הכינו כל פריט טקסט בתוך קיבולת הקלט החלה ושמרו את זהות הפריט עם הווקטור שלו. אפשר לחלק מסמך מקור ארוך לקטעים שימושיים, תוך שמירת כותרת המסמך, המקטע ומיקום המקור הדרושים להחזרת החומר הנכון בהמשך.
מדריך Mistral Embed של היצרן מציין 1,024 ממדים לכל הטמעת טקסט, ללא קשר לאורך הנראה של הקלט. לכן לשאלה קצרה ולקטע ארוך יותר יש אותה צורת וקטור, אף שהתוכן ומספרי הטוקנים שלהם שונים. זהו ממד של ייצוג פלט, ולא תקציב טוקנים לתשובה או מדד למספר מילות המקור שנשמרו.
התגובה המתועדת כוללת את ההטמעות ואת מידע השימוש בטוקנים; דוגמת נקודת הקצה משייכת כל וקטור לאינדקס קלט. שמרו על השיוך הזה בעת עיבוד כמה טקסטים. היישום זקוק לטקסט המקורי ולמזהים שלו לצד התוצאה המספרית, כדי להציג תוצאת חיפוש שימושית או לספק חומר מקור לשלב מאוחר יותר.
דמיון סמנטי
המדריך מסביר שטקסטים קשורים נוטים להיות קרובים במרחב ההטמעות. הדבר תומך במציאת קטעים שמשתמשים במילים שונות להבעת אותו נושא או צורך. שאילתת בסיס ידע לדוגמה עשויה לשאול כיצד לשחזר גישה, בעוד שהנוהל הרלוונטי משתמש בביטוי אחר לאותה פעולה. היישום יכול להשוות את וקטור השאילתה לווקטורי קטעים שמורים במקום להסתמך רק על התאמת מילים מדויקת.
דוגמאות היצרן משתמשות בהטמעות המנורמלות לאורך יחידה. בווקטורים כאלה, דמיון קוסינוס, מכפלה סקלרית ומרחק אוקלידי נותנים דירוגי דמיון עקביים, אף שהערכים המספריים שלהם אינם זהים. בחרו שיטת השוואה מתאימה אחת והחילו אותה בעקביות על ייצוגי השאילתה והמסמך.
דמיון אינו הוכחה ששתי אמירות ניתנות להחלפה. שמרו את טקסט המקור ובדקו את התנאי, התאריך או המזהה שחשובים לשאלה. שני קטעים יכולים לעסוק באותו נושא תוך תיאור נהלים או חריגים שונים. ההטמעה מספקת אות לאחזור; פירוש הקטע שנבחר הוא חלק נפרד מהמשימה.
אחזור ותשובות מבוססות מקורות
תהליך מסמכים מעשי מכין וקטורים לקטעי בסיס ידע, מאחסן את המזהים ואת הטקסט המקורי שלהם ואז משווה שאלה חדשה לאוסף הזה. החזירו את הקטעים הרלוונטיים עם מיקומי המקור שלהם. היישום יכול להציג את הקטעים ישירות או לספק אותם למודל יצירת טקסט שכותב תשובה המבוססת על החומר שאוחזר.
לתוצאת חיפוש שימושית, שמרו את כותרת המסמך, המקטע, הקטע ואת המזהה ששימש למציאתו. עוזר תמיכה יכול אז לאחזר את הנוהל הרלוונטי לשאלת המשתמש ולהעביר אותו לשלב כתיבת התשובה. Mistral Embed מבצע את שלב הייצוג המספרי; הוא אינו מנסח בעצמו את ההסבר הסופי או מבצע פעולה חיצונית.
שימושים מתועדים נוספים
היצרן מציין גם זיהוי פרפרזות, סיווג, קיבוץ לאשכולות ועיבוד באצוות בין תהליכי ההטמעה. משימת השוואה יכולה לאחזר קטעים בעלי משמעות קשורה לסקירה. תהליך סיווג יכול להשוות קלט לדוגמאות מסומנות או להשתמש בווקטורים כתכונות למסווג נפרד. תהליך קיבוץ לאשכולות יכול לקבץ פריטים דומים לתיאור מאוחר יותר בידי אדם או ברמת היישום.
הגדירו את מטרת הייצוג לפני הכנת הנתונים. קטע המשמש לחיפוש סמנטי צריך לשמור את המידע שמישהו יזדקק לו אחרי האחזור; דוגמת סיווג צריכה להכיל את הניסוח שמבדיל את המחלקה. שמרו על הכנה עקבית, כך ששאילתה ופריט שמור ייצגו חומר שניתן להשוות.
גבולות מהדורה ופלט
השתמשו באותה מהדורת מודל ובייצוג תואם עבור המסמכים והשאילתות שלהם. וקטור עם אותו מספר קואורדינטות ממודל אחר אינו נמצא אוטומטית באותו מרחב סמנטי. החלפת המודל או הייצוג דורשת שהפריטים המאוחסנים והשאילתות יישארו מיושרים.
הרשומה הזאת מתארת קלט טקסט ופלט וקטורים מספריים, עם הקשר 8k של היצרן וייצוג Mistral Embed המתועד בעל 1,024 הממדים. הממדים הניתנים להגדרה והפורמטים המכומתים של Codestral Embed שייכים למודל הקוד הנפרד הנושא את השם הזה ואין להניח שהם חלים כאן. תמונות, אודיו, טקסט שנוצר וביצוע כלים הם יכולות נפרדות מחוץ לתוצאת הטמעת הטקסט הזאת.
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings mistralai/mistral-embed-2312
mistralai/mistral-embed-2312התחלה
Mistral Embed 2312 הופך טקסט לווקטורים בעלי 1,024 ממדים לחיפוש סמנטי, לאחזור ולניתוח טקסטים קשורים. דף היצרן מתעד הקשר 8k; התוצאה היא ייצוג מספרי הקשור לכל קלט, ולא תשובה שנוצרה.
- סוגי קלט נתמכים
- טקסט · token_ids
- תוצאות
- embedding
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · ייצוגים וקטוריים POST /v1/embeddings
- סוגי קלט
text,token_ids- סוגי פלט
embedding- הקשר
- 8,192 tokens
- פורמט פלט
- json
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות mistralai/mistral-embed-2312 | ברירת מחדל— |
שדהinput | סוגstring|string[]|integer[]|integer[][] | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: 1 תנאים: אצווה אחידה שאינה ריקה. מזהי הטוקנים הם מספרים שלמים אי־שליליים. תקציב קלט: מקסימום: 8,192 · יחידת טקסט: בתים בקידוד UTF8 · יחידת טוקנים: רכיבים במערך טוקנים | ברירת מחדל— |
שדהencoding_format | סוגstring | דרישהרשות | ערכים ומגבלות float | ברירת מחדלfloat |
שדהdimensions | סוגinteger | דרישהלא נתמך | ערכים ומגבלות מינימום: 1 | ברירת מחדל— |
שדהuser | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהsession_id | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהtrace | סוגjson_value | דרישהרשות | ערכים ומגבלות תנאים: המקור מאפשר שדה מטא־נתונים זה ב־JSON; המשמעות המדויקת אצל הספק תלויה במודל. | ברירת מחדל— |
שדהprovider | סוגobject | דרישהרשות | ערכים ומגבלות תנאים: provider.options נדחה | ברירת מחדל— |
שילובים של חומרי קלט
text_to_embedding
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, input |
פרמטרinput_shapes | מפרטstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
פרמטרencoding_format | מפרטfloat |
פרמטרdimensions_override | מפרטfalse |
פרמטרmax_input_budget_units | מפרט8192 |
פרמטרmultimodal_objects | מפרטfalse |
פרמטרmaterial_types | מפרטtext, token_ids |
מחזור חיים: synchronous_json
שמרו כל אינדקס וקטור וממד.
שם מודל רב־מודאלי אינו מאפשר אובייקטי תמונה בנתיב המדויק הזה.
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- תעריף רגיל כאשר נבחר מצב מהיר
- מצב Flex
- תעריף רגיל כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- תעריף רגיל כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
תעריפי Ailoot
מחירים לפי תצורה
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0.0002 / 1K טוקנים פלט · טוקני פלט $0 / 1K טוקנים קלט · קריאה מהמטמון — / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · ייצוגים וקטוריים
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "mistralai/mistral-embed-2312", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='mistralai/mistral-embed-2312',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
קבלה ושמירה של תוצאות
Ailoot Ultra · ייצוגים וקטוריים
json
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו כל וקטור עם האינדקס שלו. מספר הווקטורים חייב להיות שווה למספר פריטי הקלט; מספר הממדים חייב להיות עקבי.
כשצריך לבדוק את התגובה המקורית
לא מתווספת נקודת קצה למשימות הטמעה.
שדות התגובה
| שדה | סוג |
|---|---|
שדהobject | סוגstring |
שדהmodel | סוגstring |
שדהdata[].index | סוגinteger |
שדהdata[].embedding | סוגfinite float[] |
שדהusage | סוגobject |
שגיאות והשלבים הבאים
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
כינויים
כינויים למודל
Ailoot Ultra mistralai/mistral-embed-2312
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
FAQ · Mistral: Mistral Embed 2312
- אילו קלטים ותוצאות זמינים?
POST /v1/embeddings·mistralai/mistral-embed-2312:text,token_ids→embedding- באילו שדות הבקשה משתמשת?
POST /v1/embeddings·mistralai/mistral-embed-2312:model,input,encoding_format,provider- אילו מגבלות חלות?
POST /v1/embeddings·mistralai/mistral-embed-2312:ctx:8192;input.budget.maximum:8192(בתים בקידוד UTF8);input.min_items:1