Sentence Transformers: multi-qa-mpnet-base-dot-v1
Sentence Transformers multi-qa-mpnet-base-dot-v1 сұрақтар мен үзінділерді семантикалық іздеу үшін 768 өлшемді векторларға кодтайды. Ол 512 сөз бөлшегімен шектелген кіріспен CLS пулингін және скалярлық көбейтіндімен бағалауға арналған нормаланбаған эмбеддингтерді қолданады.
Модель туралы
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
multi-qa-mpnet-base-dot-v1 — сұрақ немесе сұрау үшін мәтін үзінділерін іздеуге арналған Sentence Transformers моделі. Оның оқытуында шамамен 215 миллион сұрақ–жауап жұбы қолданылған. Әр кіріс 768 өлшемді тығыз векторға айналады; CLS пулингі және скалярлық көбейтіндімен бағалау осы нақты нұсқаны анықтайды.
Сұрақ пен кандидат үзінділерді дайындаңыз
Сұрауды ақпарат қажеттілігі ретінде жазып, корпус жазбаларын оқуға болатын мәтін үзінділері ретінде дайындаңыз. Мысалы, жеткізу мекенжайын өзгерту сұрағын мекенжай өзгерту, тапсырысты болдырмау және жеткізуді бақылау туралы бөлек абзацтармен салыстыруға болады. Мекенжай өзгерту үзіндісінде тиісті шарттарды, соның ішінде тапсырыстың жіберіліп қойған-қоймағаны туралы мәліметті сақтаңыз.
Сұрау мен үзінділерді осы модельмен кодтаңыз. Жарияланған мысал мұны query/document префиксінсіз тікелей жасап, үзінділерді скалярлық көбейтінді бағалары бойынша сұрыптайды. Реттелген нәтиже нақты индекстелген материалды көрсете алуы үшін әр векторды бастапқы үзіндімен және құжат идентификаторымен байланысты сақтаңыз.
CLS пулингі және скалярлық көбейтінді нұсқасы
Модельдің эталондық тәсілі бірінші токен көрінісін алады; бұл CLS пулингі деп аталады. Техникалық кесте эмбеддингтердің нормаланбағанын нақты көрсетіп, тиісті бағалау функциясы ретінде скалярлық көбейтіндіні атайды. Жинақ пен сұрау жағын баптағанда осы тәсілді сақтаңыз.
Бұл векторларды L2 бойынша нормалау олардың бағалау геометриясын өзгертеді. Нормаланған all-mpnet-base-v2 профилі басқа тәсілді қолданады және ортақ MPNet отбасы мен 768 компонентті шығысқа қарамастан, бөлек бақылау нүктесі болады. Нақты нұсқаны және салыстыру функциясын тек вектор ұзындығына қарап таңдамай, сақталған жинақпен бірге ұстаңыз.
Ұзындық шегі және ұзын үзінділер
Көрсетілген кіріс шегі — 512 сөз бөлшегі; ұзын мәтін қысқартылады. Өндіруші оқыту кірістері тек 250 сөз бөлшегіне дейін жеткенін және ұзын мәтіннің сапасы төменірек болуы мүмкін екенін де атап өтеді. Сондықтан токенизатор қабылдайтын ұзындық пен оқыту ұзындығы туралы ескерту әртүрлі практикалық шекараларды сипаттайды.
Үлкен көмек мақаласы үшін нақты сұрақтарға жауап беретін қысқа бөлімдер дайындаңыз. Тақырыпты ол мазмұнды анықтайтын жерде сақтап, ережені дұрыс түсінуге қажет ерекшелікпен бірге ұстаңыз. Бір толық беттік кіріс қысқарту кезінде кейінгі материалды жоғалтуы мүмкін, ал тым шағын үзінді оны пайдалы ететін шартты жоғалтады.
Ретті іздеуде және RAG-та қолданыңыз
Тығыз векторлар алғашқы іздеу кезеңін қолдайды. Ең жоғары ұпай жинаған кандидат үзінділерді дереккөз сілтемелерімен қайтарып, олардың нақты сұраққа жауап беретінін тексеріңіз. RAG үдерісінде осы үзінділерді жауап жазу кезеңіне бастапқы материал ретінде беріңіз; іздеудің өзі жауап құрастырмайды.
Нәтиже санын таңдау және ретті бағалау үшін қатысты үзінділері белгілі өкілдік сұрақтарды қолданыңыз. Мекенжайды өзгерту мен ағымдағы мекенжайды көру сияқты сөздігі ұқсас, бірақ ниеті бөлек мысалдарды қосыңыз. Бағаларды дұрыстықтың калибрленген ықтималдықтары емес, бір модель мен бағалау баптауындағы кандидаттарға қатысты түсіндіріңіз.
Осы бақылау нүктесінің пайдалы шығысы — семантикалық іздеуге арналған сұрақтар мен үзінділердің эмбеддинг кеңістігі. Оның нормаланбаған векторлары, CLS пулингі, скалярлық көбейтінді бағасы және ұзын кіріс туралы жарияланған ескертуі нәтижелерді дайындау мен қолдануда сақталуы тиіс бөлшектер.
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1Бастау
Sentence Transformers multi-qa-mpnet-base-dot-v1 сұрақтар мен үзінділерді семантикалық іздеу үшін 768 өлшемді векторларға кодтайды. Ол 512 сөз бөлшегімен шектелген кіріспен CLS пулингін және скалярлық көбейтіндімен бағалауға арналған нормаланбаған эмбеддингтерді қолданады.
- Қабылданатын кіріс деректері
- Мәтін · token_ids
- Нәтижелер
- embedding
Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings
- Кіріс
text,token_ids- Шығыс
embedding- Шығыс пішімі
- json
| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер sentence-transformers/multi-qa-mpnet-base-dot-v1 | Әдепкі— |
Өрісinput | Түріstring|string[]|integer[]|integer[][] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 Шарттар: Бос емес, біртекті пакет. Токендердің ID мәндері — теріс емес бүтін сандар. Кіріс бюджеті: Ең көбі: 512 · Мәтін бірлігі: UTF8 байттары · Токен бірлігі: токендер массивінің элементтері | Әдепкі— |
Өрісencoding_format | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер float | Әдепкіfloat |
Өрісdimensions | Түріinteger | ТалапҚолдау көрсетілмейді | Мәндер мен шектеулер Ең азы: 1 | Әдепкі— |
Өрісuser | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісsession_id | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісtrace | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісprovider | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: provider.options қабылданбайды | Әдепкі— |
Кіріс материалдарының үйлесімдері
text_to_embedding
Әдіс параметрлері мен өмірлік циклі
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыmodel, input |
Параметрinput_shapes | Параметр талаптарыstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Параметрencoding_format | Параметр талаптарыfloat |
Параметрdimensions_override | Параметр талаптарыfalse |
Параметрmax_input_budget_units | Параметр талаптары512 |
Параметрmultimodal_objects | Параметр талаптарыfalse |
Параметрmaterial_types | Параметр талаптарыtext, token_ids |
Өмірлік цикл: synchronous_json
Әрбір вектордың индексін және өлшемін сақтаңыз.
Модель атауының мультимодаль болуы осы нақты жолда кескін объектілерін қабылдауға рұқсат бермейді.
Тарифтер
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
- Жылдам режим
- Көрсетілмеген Жылдам режим таңдалғанда
- Икемді режим
- Көрсетілмеген flex режимі таңдалғанда
- Ой қорытудың ең жоғары деңгейі
- Көрсетілмеген Ой қорыту деңгейі ең жоғары болып, default түзетуі қолданылғанда
Ailoot мөлшерлемелері
Баптаулар бойынша бағалар
| Баптау | Мөлшерлемелер кестесі | Төлем |
|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Төлем Кіріс · Кіріс токендері $0.00001 / 1K токен Шығыс · Шығыс токендері $0 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
Сұрау мысалдары
Ailoot Ultra · Эмбеддингтер
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/multi-qa-mpnet-base-dot-v1", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/multi-qa-mpnet-base-dot-v1',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Нәтижелерді алу және сақтау
Ailoot Ultra · Эмбеддингтер
json
Барлық дайын нәтижені сақтау
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Әрбір векторды индексімен бірге сақтаңыз. Векторлар саны кіріс элементтерінің санына тең болуы керек; өлшемдері бірдей болуы керек.
Бастапқы жауапты тексеру қажет болса
Эмбеддинг тапсырмасы үшін жаңа эндпоинт енгізілмейді.
Жауап өрістері
| Өріс | Түрі |
|---|---|
Өрісobject | Түріstring |
Өрісmodel | Түріstring |
Өрісdata[].index | Түріinteger |
Өрісdata[].embedding | Түріfinite float[] |
Өрісusage | Түріobject |
Қателер және келесі қадамдар
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Балама атаулар
Модельдердің балама атаулары
Ailoot Ultra sentence-transformers/multi-qa-mpnet-base-dot-v1
Әдіс жолдарының балама атаулары
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
Шақыруға арналған байланысты ID
FAQ · Sentence Transformers: multi-qa-mpnet-base-dot-v1
- Қандай кіріс деректері мен нәтижелер қолжетімді?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:text,token_ids→embedding- Сұрау қандай өрістерді пайдаланады?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:model,input,encoding_format,provider- Қандай шектеулер қолданылады?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:input.budget.maximum:512(UTF8 байттары);input.min_items:1