BAAI: bge-m3
BAAI BGE-M3 100-ден астам тілде тығыз, сирек лексикалық және көпвекторлы іздеуді қолдайды. Оның тығыз шығысы 1024 өлшемнен тұрады, ал 8192 токендік терезесі міндетті сұрау нұсқауынсыз сөйлемдерден бастап ұзағырақ құжаттарға дейін сыйғызады.
Модель туралы
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
BGE-M3 — BAAI компаниясының әмбебаптықтың үш түріне негізделген көптілді іздеу моделі: бірнеше іздеу функциясы, бірнеше тіл және әртүрлі кіріс ұзындығы. Өндіруші жүзден астам тіл мен 8192 токенге дейінгі кірістерді қолдауды құжаттайды. Оның бірыңғай моделі тығыз векторларды, сирек лексикалық салмақтарды және көпвекторлы көріністерді бере алады, сондықтан іздеу жобасы дәлелдің бірнеше түрін таңдай немесе біріктіре алады.
Іздеуге арналған үш көрініс
Тығыз режим мәтінді бір 1024 өлшемді векторға бейнелейді. Ол сұрау мен үзінді білдіретін мағынаны салыстыруды қолдайды. Сирек режим лексикалық сәйкестендіру үшін мәтінде бар токендерге салмақ тағайындайды. Көпвекторлы режим мәтінді бірнеше вектормен көрсетіп, сұрау мен құжатты егжей-тегжейлі деңгейде салыстыру үшін ColBERT үлгісіндегі өзара әрекетті қолданады.
Бұл шығыстар іздеу индексінде әртүрлі рөл атқарады. Тығыз вектор үзіндіге бір көрініс береді; токен салмақтарының сирек картасы лексикалық сигналдарды сақтайды; бірнеше вектор басқа салыстыру құрылымын береді. Өндіруші мысалдары таңдалған көріністерді қайтаруды және мәтін жұптарына бағалар есептеуді көрсетеді. Таңдалған көрініс пен бағалау тәсілін іздеу тапсырмасының саналы бөлігі деп қарастырыңыз.
Көптілді мәтін және кірісті дайындау
BGE-M3 ертеректегі BGE модельдері қолданған іздеу нұсқауын қосуды талап етпейді. Сұрауды және нақты бастапқы үзінділерді тікелей дайындаңыз. Көптілді білім жинағы әр үзіндіні бастапқы тілінде, құжат идентификаторымен және локалімен сақтай алады. Нәтижелерді тексергенде көзделген тілдер қоспасынан нақты пайдаланушы сұрақтарын қолданыңыз.
Практикалық тапсырма — бірнеше тілде сақталған саясат түсіндірмелерін, өнім көмегін немесе техникалық құжаттаманы іздеу. Сұраққа маңызды атауларды, модель нөмірлерін және терминдерді сақтаңыз. Лексикалық көрініс сол терминдердің сәйкестігін сақтауға көмектесе алады, ал тығыз көрініс семантикалық дәлел береді. Табылған үзінді оқырман тексере алатын мәтінді және дереккөз орнын қамтуы керек.
Ұзын құжаттар және үзінді көлемі
8192 токендік кіріс терезесі модельге қысқа сөйлемдерден ұзын құжаттарға дейінгі материалды бейнелеуге мүмкіндік береді. Үзінді көлемін іздеу қайтаруы тиіс жауапқа қарай таңдаңыз. Толық бөлім анықтама мен оның ерекшеліктерін сақтай алады; шағын үзінді нақты нұсқауды табуды жеңілдетеді. Ұзын терезе осы таңдауларға мүмкіндік береді, бірақ вектор шын кодталған материалмен байланысты болып қалады.
Әр үзіндіні негізгі құжатымен және нұсқасымен байланысты сақтаңыз. Көлемді есепте тиісті көрсеткіштің не қорытындының тақырыбын және айналасындағы түсіндірмені қалдырыңыз. Дәлел негізгі мәтінде болса, іздеу нәтижесінің атауына ғана сенбеңіз. Дереккөз өзгерсе, тиісті іздеу көріністерін жаңартуға жеткілікті метадеректерді сақтаңыз.
Гибридті бағалар және кейінгі қолдану
Өндіруші гибридті іздеуден кейін бөлек қайта ранжирлеу кезеңін ұсынады. Оның мысалдары тығыз, сирек және көпвекторлы бағаларды есептеп, салмақталған комбинациялар құрады. Комбинацияны жинақтың сұрақтары мен сөздігіне қарай таңдаңыз; мысалда көрсетілген салмақ әр корпусқа арналған әмбебап баптау емес.
Пайдалы нәтиже — бастапқы үзінділері қолжетімді, көрінісі мен реттеу тәсілі тіркелген кандидаттар жиыны. Бөлек қайта ранжирлеуші осы жиынды нақтылай алады, ал бөлек мәтін генерациясы кезеңі үзінді мазмұнын қолдана алады. BGE-M3 моделінің сирек және көпвекторлы мүмкіндіктері — өндіруші моделінің режимдері; тығыз эмбеддинг, лексикалық шығыс және жұп бағасы өзара алмастырылатын массивтер емес, бөлек артефактілер.
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings baai/bge-m3
baai/bge-m3Бастау
BAAI BGE-M3 100-ден астам тілде тығыз, сирек лексикалық және көпвекторлы іздеуді қолдайды. Оның тығыз шығысы 1024 өлшемнен тұрады, ал 8192 токендік терезесі міндетті сұрау нұсқауынсыз сөйлемдерден бастап ұзағырақ құжаттарға дейін сыйғызады.
- Қабылданатын кіріс деректері
- Мәтін · token_ids
- Нәтижелер
- embedding
Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings
- Кіріс
text,token_ids- Шығыс
embedding- Контекст
- 8 194 tokens
- Шығыс пішімі
- json
| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер baai/bge-m3 | Әдепкі— |
Өрісinput | Түріstring|string[]|integer[]|integer[][] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 Шарттар: Бос емес, біртекті пакет. Токендердің ID мәндері — теріс емес бүтін сандар. Кіріс бюджеті: Ең көбі: 8 194 · Мәтін бірлігі: UTF8 байттары · Токен бірлігі: токендер массивінің элементтері | Әдепкі— |
Өрісencoding_format | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер float | Әдепкіfloat |
Өрісdimensions | Түріinteger | ТалапҚолдау көрсетілмейді | Мәндер мен шектеулер Ең азы: 1 | Әдепкі— |
Өрісuser | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісsession_id | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісtrace | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісprovider | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: provider.options қабылданбайды | Әдепкі— |
Кіріс материалдарының үйлесімдері
text_to_embedding
Әдіс параметрлері мен өмірлік циклі
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыmodel, input |
Параметрinput_shapes | Параметр талаптарыstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Параметрencoding_format | Параметр талаптарыfloat |
Параметрdimensions_override | Параметр талаптарыfalse |
Параметрmax_input_budget_units | Параметр талаптары8194 |
Параметрmultimodal_objects | Параметр талаптарыfalse |
Параметрmaterial_types | Параметр талаптарыtext, token_ids |
Өмірлік цикл: synchronous_json
Әрбір вектордың индексін және өлшемін сақтаңыз.
Модель атауының мультимодаль болуы осы нақты жолда кескін объектілерін қабылдауға рұқсат бермейді.
Тарифтер
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
- Жылдам режим
- Стандартты тариф Жылдам режим таңдалғанда
- Икемді режим
- Стандартты тариф flex режимі таңдалғанда
- Ой қорытудың ең жоғары деңгейі
- Стандартты тариф Ой қорыту деңгейі ең жоғары болып, default түзетуі қолданылғанда
Ailoot мөлшерлемелері
Баптаулар бойынша бағалар
| Баптау | Мөлшерлемелер кестесі | Төлем |
|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Төлем Кіріс · Кіріс токендері $0.00004 / 1K токен Шығыс · Шығыс токендері $0 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
Сұрау мысалдары
Ailoot Ultra · Эмбеддингтер
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-m3", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-m3',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Нәтижелерді алу және сақтау
Ailoot Ultra · Эмбеддингтер
json
Барлық дайын нәтижені сақтау
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Әрбір векторды индексімен бірге сақтаңыз. Векторлар саны кіріс элементтерінің санына тең болуы керек; өлшемдері бірдей болуы керек.
Бастапқы жауапты тексеру қажет болса
Эмбеддинг тапсырмасы үшін жаңа эндпоинт енгізілмейді.
Жауап өрістері
| Өріс | Түрі |
|---|---|
Өрісobject | Түріstring |
Өрісmodel | Түріstring |
Өрісdata[].index | Түріinteger |
Өрісdata[].embedding | Түріfinite float[] |
Өрісusage | Түріobject |
Қателер және келесі қадамдар
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Балама атаулар
Модельдердің балама атаулары
Ailoot Ultra baai/bge-m3
Әдіс жолдарының балама атаулары
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
Шақыруға арналған байланысты ID
FAQ · BAAI: bge-m3
- Қандай кіріс деректері мен нәтижелер қолжетімді?
POST /v1/embeddings·baai/bge-m3:text,token_ids→embedding- Сұрау қандай өрістерді пайдаланады?
POST /v1/embeddings·baai/bge-m3:model,input,encoding_format,provider- Қандай шектеулер қолданылады?
POST /v1/embeddings·baai/bge-m3:ctx:8194;input.budget.maximum:8194(UTF8 байттары);input.min_items:1