VoyageAI by MongoDB: voyage-4-large
voyage-4-large — Voyage AI-дың жалпы мақсаттағы және көптілді іздеуге арналған mixture-of-experts мәтіндік эмбеддинг моделі. Оның векторлары Voyage 4 тобының ортақ кеңістігін пайдаланады; Large корпус эмбеддингтерінен топтың басқа модельдерінің үйлесімді сұрау эмбеддингтерімен іздеуге болады.
Модель туралы
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
voyage-4-large — Voyage AI-дың Voyage 4 тобындағы флагмандық мәтіндік эмбеддинг моделі. Ол жалпы мақсаттағы және көптілді іздеу үшін бастапқы үзінділер мен сұрауларды сандық векторлар түрінде көрсетеді. Оның екі ерекше қасиеті — mixture-of-experts модель құрылысы және voyage-4-large, voyage-4, voyage-4-lite пен voyage-4-nano пайдаланатын ортақ эмбеддинг кеңістігі.
Ортақ кеңістік: корпус пен сұрау үшін бөлек таңдау
Өндіруші асимметриялық іздеуді сипаттайды: құжаттардың эмбеддингін voyage-4-large жасай алады, ал сұрау векторларын Voyage 4 тобының басқа моделі дайындайды. Мысалы, Large арқылы көрсетілген корпустан voyage-4 сұрауларымен іздеуге болады. Бұл іздеудің екі жағына әртүрлі модель таңдауға және құжатталған үйлесімді кеңістікте қалуға мүмкіндік береді.
Сондықтан практикалық жинақ тұрақты құжат үзінділерін дайындауға Large моделін пайдаланып, сұрау жағындағы модельді тәуелсіз таңдай алады. Құжаттардың эмбеддингі корпус құрылғанда немесе жаңартылғанда жасалады, ал сұраулар пайдаланушылар іздеген сайын векторланады. Топ туралы хабарландыру үйлесімді модельдер тобының ішінде сұрау моделін ауыстырғанда тек сол өзгеріс үшін құжат корпусын қайта векторлаудың қажет еместігін сипаттайды. Салыстырылатын векторлардың өлшемдері сәйкес болсын және көрсетілімдерін іздеу жүйесі бірге түсіндіре алсын.
Mixture-of-experts эмбеддинг құрылысы
Тығыз тікелей таралатын қабат әр токенді барлық параметрлер жиыны арқылы өңдейді. voyage-4-large үшін сипатталған MoE тәсілі әр токенді өңдейтін сарапшыларды таңдайтын бағыттауыш пен сарапшы тікелей таралатын желілерді қолданады. Бұл модельдің жалпы сыйымдылығын нақты токен үшін белсенді параметрлерден ажыратады. Voyage модельдің MoE құрылысы үшін top-k бағыттауын пайдаланып, белсендіру үлесі 1/10 екенін хабарлайды.
Өндірушінің техникалық түсіндірмесі әзірлеудегі екі таңдауды да сипаттайды. Сарапшы сыйымдылығы артық токендердің сарапшы қабатын қалдық жол арқылы айналып өтетін-өтпейтініне әсер етеді; команда іздеу сапасының төмендеуін болдырмау үшін іске асыруға болатын ең үлкен сыйымдылық коэффициентін таңдаған. Оқытудың соңғы кезеңінде бастапқы модельдерді интерполяциялау үйренілген сарапшы таңдау бағытын өзгертпеуі үшін модельдерді біріктіруден бұрын бағыттауыш параметрлері бекітіледі. Бұлар — модельді дайындау сипаттары; олар кірісті дайындауда қолданылатын мәтін ұзындығы немесе қысқарту параметрлерінен бөлек.
Өлшемдер және шығыс көрсетілімі
Ресми модель кестесінде 32 000 токендік контекст терезесі және таңдауға болатын 256, 512, 1024 және 2048 өлшемді эмбеддингтер көрсетілген; әдепкі өлшем — 1024. Бұл топ ішкі құрылымы бірінің ішінде бірі орналасқан көрсетілім өлшемдері үшін Matryoshka оқытуын қолданады және кванттау таңдауларын қолдайды: 32 биттік жылжымалы нүктелі сандар, таңбалы не таңбасыз 8 биттік бүтін сандар және қапталған бинарлық шығыс.
Бинарлық шығыста қайтарылған байттар тізімінің ұзындығы таңдалған өлшемнің сегізден біріне тең, себебі әр байт эмбеддингтің сегіз битін қамтиды. Өлшем мен дерек түрі таңдауларын индекспен бірге сақтап, сол көрсетілімді қолдайтын салыстыру әдісін қолданыңыз. Кішірек немесе сығылған вектор іздеуге қолданылатын көрсетілімді өзгертеді; оны жинаққа таңдамас бұрын нақты сұрақтар бойынша қайтарылған тиісті үзінділерді бағалаңыз.
Құжат пен сұрау кірістерін дайындаңыз
Voyage корпус үзінділері үшін document рөлін, ал іздеу тұжырымы үшін query рөлін қолдануды ұсынады. Рөл параметрі эмбеддинг жасалмас бұрын тиісті іздеу нұсқауын қосады. Үзіндінің пайдалы тақырыбын, шарттарын және дереккөздегі орнын сақтап, қайтарылған векторды бастапқы мәтінмен және тұрақты идентификатормен бірге сақтаңыз.
Техникалық білім жинағында ақау түрі туралы сұрақ сол ақауды және оған қатысты шарттарды сипаттайтын үзіндіге апаруы керек. Бірнеше тілді қамтитын құжат жинағында бастапқы тілді сақтап, пайдаланушылар іздейтін сұрақтар мен терминологияны бағалаңыз. Релиз техникалық құжаттар, әңгімелер, ұзын құжаттар, код, құқық, қаржы және веб-мәтіндер сияқты іздеу материалдарын қамтиды. Эмбеддинг кандидат материалды табады; кейінгі реранкер немесе жауап кезеңі бастапқы мәтінді пайдаланады.
Контекст, пакет және қысқарту шектеулері
Өндірушінің қазіргі нұсқаулығы voyage-4-large сұрауында ең көбі 1000 жол және жиынтық 120 000 кіріс токеніне рұқсат береді. Бұл voyage-4 үшін көрсетілген пакет шектеуінен өзгеше, ал екеуінде де әр мәтінге 32 000 токендік терезе бар. Әдепкі қысқарту шектен ұзын кірісті сыйғанша қысқартады; қысқартуды өшіру шектен ұзын мәтін үшін қате қайтарады.
Ұзын дереккөздің қысқартылған соңында маңызды нақтылау жоғалмауы үшін жауап қамтитын үзінділердің шекарасын әдейі таңдаңыз. Іздеу нәтижелерін қайтарғанда дереккөз байланысын сақтап, векторлардың жақындығын мазмұнның дұрыстығын тексеру деп қабылдамай, кандидаттың нақты мәтінін тексеріңіз. Ортақ кеңістік үйлесімділігі құжатталған Voyage 4 мәтіндік модельдер тобына қолданылады; контекст ескерілетін бөліктерді өңдеу, сурет/бейне эмбеддингтері және кейінгі модель нұсқалары өздеріне тән бөлек үдерістер болып қалады.
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings voyageai/voyage-4-large
voyageai/voyage-4-largeБастау
voyage-4-large — Voyage AI-дың жалпы мақсаттағы және көптілді іздеуге арналған mixture-of-experts мәтіндік эмбеддинг моделі. Оның векторлары Voyage 4 тобының ортақ кеңістігін пайдаланады; Large корпус эмбеддингтерінен топтың басқа модельдерінің үйлесімді сұрау эмбеддингтерімен іздеуге болады.
- Қабылданатын кіріс деректері
- Мәтін · token_ids
- Нәтижелер
- embedding
Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings
- Кіріс
text,token_ids- Шығыс
embedding- Контекст
- 32 000 tokens
- Шығыс пішімі
- json
| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер voyageai/voyage-4-large | Әдепкі— |
Өрісinput | Түріstring|string[]|integer[]|integer[][] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 Шарттар: Бос емес, біртекті пакет. Токендердің ID мәндері — теріс емес бүтін сандар. Кіріс бюджеті: Ең көбі: 32 000 · Мәтін бірлігі: UTF8 байттары · Токен бірлігі: токендер массивінің элементтері | Әдепкі— |
Өрісencoding_format | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер float | Әдепкіfloat |
Өрісdimensions | Түріinteger | ТалапҚолдау көрсетілмейді | Мәндер мен шектеулер Ең азы: 1 | Әдепкі— |
Өрісuser | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісsession_id | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісtrace | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісprovider | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: provider.options қабылданбайды | Әдепкі— |
Кіріс материалдарының үйлесімдері
text_to_embedding
Әдіс параметрлері мен өмірлік циклі
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыmodel, input |
Параметрinput_shapes | Параметр талаптарыstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Параметрencoding_format | Параметр талаптарыfloat |
Параметрdimensions_override | Параметр талаптарыfalse |
Параметрmax_input_budget_units | Параметр талаптары32000 |
Параметрmultimodal_objects | Параметр талаптарыfalse |
Параметрmaterial_types | Параметр талаптарыtext, token_ids |
Өмірлік цикл: synchronous_json
Әрбір вектордың индексін және өлшемін сақтаңыз.
Модель атауының мультимодаль болуы осы нақты жолда кескін объектілерін қабылдауға рұқсат бермейді.
Тарифтер
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
- Жылдам режим
- Стандартты тариф Жылдам режим таңдалғанда
- Икемді режим
- Стандартты тариф flex режимі таңдалғанда
- Ой қорытудың ең жоғары деңгейі
- Стандартты тариф Ой қорыту деңгейі ең жоғары болып, default түзетуі қолданылғанда
Ailoot мөлшерлемелері
Баптаулар бойынша бағалар
| Баптау | Мөлшерлемелер кестесі | Төлем |
|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Төлем Кіріс · Кіріс токендері $0.00024 / 1K токен Шығыс · Шығыс токендері $0 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
Сұрау мысалдары
Ailoot Ultra · Эмбеддингтер
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Нәтижелерді алу және сақтау
Ailoot Ultra · Эмбеддингтер
json
Барлық дайын нәтижені сақтау
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Әрбір векторды индексімен бірге сақтаңыз. Векторлар саны кіріс элементтерінің санына тең болуы керек; өлшемдері бірдей болуы керек.
Бастапқы жауапты тексеру қажет болса
Эмбеддинг тапсырмасы үшін жаңа эндпоинт енгізілмейді.
Жауап өрістері
| Өріс | Түрі |
|---|---|
Өрісobject | Түріstring |
Өрісmodel | Түріstring |
Өрісdata[].index | Түріinteger |
Өрісdata[].embedding | Түріfinite float[] |
Өрісusage | Түріobject |
Қателер және келесі қадамдар
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Балама атаулар
Модельдердің балама атаулары
Ailoot Ultra voyageai/voyage-4-large
Әдіс жолдарының балама атаулары
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
Шақыруға арналған байланысты ID
FAQ · VoyageAI by MongoDB: voyage-4-large
- Қандай кіріс деректері мен нәтижелер қолжетімді?
POST /v1/embeddings·voyageai/voyage-4-large:text,token_ids→embedding- Сұрау қандай өрістерді пайдаланады?
POST /v1/embeddings·voyageai/voyage-4-large:model,input,encoding_format,provider- Қандай шектеулер қолданылады?
POST /v1/embeddings·voyageai/voyage-4-large:ctx:32000;input.budget.maximum:32000(UTF8 байттары);input.min_items:1