VoyageAI by MongoDB: voyage-4
voyage-4 Voyage 4 модельдер тобының ортақ векторлық кеңістігінде жалпы мақсаттағы және көптілді іздеуге арналған мәтін эмбеддингтерін жасайды. 32 000 токендік кірісті, таңдауға болатын 256–2048 өлшемді шығысты және іздеу мен RAG үшін query/document рөлдерін қолдайды.
Модель туралы
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
voyage-4 — Voyage AI-дың Voyage 4 тобындағы орташа өлшемді мәтіндік эмбеддинг моделі. Ол жалпы мақсаттағы және көптілді іздеу үшін сұрау мен құжат мәтінін сандық векторларға айналдырады. Топтың негізгі мүмкіндігі — ортақ эмбеддинг кеңістігі: voyage-4, voyage-4-large, voyage-4-lite және voyage-4-nano үйлесімді көрсетілімдер жасайды, сондықтан іздеу тапсырмасының сұрау және құжат жақтарында осы топтың әртүрлі модельдерін қолдануға болады.
Ортақ кеңістік және асимметриялық іздеу
Өндіруші сұрау мен корпус үшін әртүрлі модель қолдануды асимметриялық іздеу деп атайды. Құжатталған тәсілдердің бірі — корпусты voyage-4-large арқылы дайындап, одан voyage-4 сұрау эмбеддингтерімен іздеу. Корпус эмбеддингтері бір рет немесе бастапқы материал өзгергенде жасалады, ал сұрау векторлары іздеу сұраулары түскен сайын жасалады. Ортақ кеңістік топ ішіндегі сұрау моделін ауыстыруға мүмкіндік береді; тек осы ауыстыру үшін корпус эмбеддингтерін қайта жасау талап етілмейді.
Салыстырылатын векторлардың шығыс өлшемі мен көрсетілімін үйлесімді ұстаңыз. Ортақ кеңістік туралы мәлімдеме аталған Voyage 4 мәтіндік модельдеріне қатысты; өзара байланыссыз екі модель бірдей ұзындықтағы массив қайтарғаны мұны дәлелдемейді. Сондықтан практикалық тапсырма іздеудің екі жағында да voyage-4 моделін немесе көрсетілім параметрлері сәйкес болғанда оның сұрау векторларын бар voyage-4-large құжат индексімен қолдана алады.
Сұрау және құжат рөлдері
Voyage іздеу үшін кіріс мәтінін сұрау немесе құжат деп белгілеуді ұсынады. Кіріс рөлі параметрі векторлау алдында тиісті іздеу нұсқауын қосады. Корпус үзінділерін құжат, пайдаланушының іздеу тұжырымын сұрау ретінде дайындап, әр сақталған вектормен бірге нақты бастапқы мәтін мен идентификаторларды сақтаңыз.
Мысалы, білім іздеу жинағы техникалық нұсқаулар мен өнім түсіндірмелерін индекстей алады. Сәтсіз импорттан кейін не болатыны туралы сұрау осы әрекетті сипаттайтын бастапқы үзіндіні қайтаруы тиіс. Табылған нәтижені тексеруге немесе кейінгі RAG жауап кезеңінде қолдануға мүмкіндік беру үшін үзіндімен бірге тақырыптарды, тиісті шарттарды және дереккөздегі орнын сақтаңыз. Эмбеддинг — іздеуге арналған сандық көрсетілім; оның негізіндегі үзінді — кейінгі кезең қолданатын дәлел.
Өлшемдер және шығыс дерек түрлері
Құжатталған контекст терезесі — әр мәтінге 32 000 токен. Таңдауға болатын өлшемдер — 256, 512, 1024 және 2048; әдепкісі — 1024. Matryoshka оқытуы осы бірінің ішінде бірі орналасқан көрсетілім өлшемдерін қамтамасыз етеді. Топтың кванттауды ескеретін дайындауы арқасында шығыс 32 биттік жылжымалы нүктелі сандарды, таңбалы не таңбасыз 8 биттік бүтін сандарды немесе қапталған бинарлық мәндерді қолдана алады.
Қапталған бинарлық шығыста әр қайтарылған байт эмбеддингтің сегіз битін сақтайды, сондықтан байттар тізімінің ұзындығы таңдалған өлшемнің сегізден біріне тең. Байт саны мен эмбеддинг өлшемі әртүрлі мағына береді. Іздеу индексіңіз түсіндіре алатын көрсетілімді таңдаңыз және сығылған конфигурацияны таңдамас бұрын жинақта нақты қолданылатын сұрақтар мен тілдер бойынша кандидаттардың қатыстылығын тексеріңіз.
Кіріс ұзындығы, пакеттеу және қысқарту
Өндірушінің қазіргі мәтіндік эмбеддинг нұсқаулығы voyage-4 сұрауында ең көбі 1000 жол және жиынтық 320 000 токенге рұқсат береді. Пакет шектеуі әр кірістің 32 000 токендік терезесінен бөлек. Қысқарту әдепкі бойынша қосулы: шектен ұзын мәтін сыйғанша қысқартылады. Қысқарту өшірілсе, шектен ұзын жазба оның орнына қате туғызады.
Ұзын есеп немесе транскрипт үшін кіріс шекарасындағы қиып тастауға сүйенбей, жауап қамтитын үзінділерді әдейі дайындаңыз. Әр үзіндіні оның негізгі құжатымен және дереккөз нұсқасымен байланыстырыңыз. Кәдімгі voyage-4 эмбеддинг кірістері — жеке мәтіндер; бөліктер тобын контекстімен бірге өңдеу бөлек құжатталған контекстік эмбеддинг модельдеріне жатады.
Іздеу нәтижесін пайдаланыңыз
Векторларды үзінді мәтінімен және тұрақты дереккөз идентификаторларымен сақтаңыз, әр сұрау векторын үйлесімді құжат векторларымен салыстырып, кандидат үзінділерді қайтарыңыз. Топ релизі техникалық құжаттар, әңгімелер, ұзын құжаттар, код, құқық, қаржы және веб-мәтіндер сияқты материалдар бойынша іздеуді бағалайды. Бөлек реранкер кандидаттарды нақтылай алады, ал кейінгі жауап кезеңі олардың мәтінін қолдана алады. Қайтарылған үзінділерді тапсырмаға сай бағалаңыз: ортақ кеңістік үйлесімділігі модельдерді біріктіруге мүмкіндік береді, ал нәтиженің пайдалылығы бәрібір бастапқы материал мен сұраққа тәуелді.
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings voyageai/voyage-4
voyageai/voyage-4Бастау
voyage-4 Voyage 4 модельдер тобының ортақ векторлық кеңістігінде жалпы мақсаттағы және көптілді іздеуге арналған мәтін эмбеддингтерін жасайды. 32 000 токендік кірісті, таңдауға болатын 256–2048 өлшемді шығысты және іздеу мен RAG үшін query/document рөлдерін қолдайды.
- Қабылданатын кіріс деректері
- Мәтін · token_ids
- Нәтижелер
- embedding
Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings
- Кіріс
text,token_ids- Шығыс
embedding- Контекст
- 32 000 tokens
- Шығыс пішімі
- json
| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер voyageai/voyage-4 | Әдепкі— |
Өрісinput | Түріstring|string[]|integer[]|integer[][] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 Шарттар: Бос емес, біртекті пакет. Токендердің ID мәндері — теріс емес бүтін сандар. Кіріс бюджеті: Ең көбі: 32 000 · Мәтін бірлігі: UTF8 байттары · Токен бірлігі: токендер массивінің элементтері | Әдепкі— |
Өрісencoding_format | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер float | Әдепкіfloat |
Өрісdimensions | Түріinteger | ТалапҚолдау көрсетілмейді | Мәндер мен шектеулер Ең азы: 1 | Әдепкі— |
Өрісuser | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісsession_id | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісtrace | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісprovider | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: provider.options қабылданбайды | Әдепкі— |
Кіріс материалдарының үйлесімдері
text_to_embedding
Әдіс параметрлері мен өмірлік циклі
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыmodel, input |
Параметрinput_shapes | Параметр талаптарыstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Параметрencoding_format | Параметр талаптарыfloat |
Параметрdimensions_override | Параметр талаптарыfalse |
Параметрmax_input_budget_units | Параметр талаптары32000 |
Параметрmultimodal_objects | Параметр талаптарыfalse |
Параметрmaterial_types | Параметр талаптарыtext, token_ids |
Өмірлік цикл: synchronous_json
Әрбір вектордың индексін және өлшемін сақтаңыз.
Модель атауының мультимодаль болуы осы нақты жолда кескін объектілерін қабылдауға рұқсат бермейді.
Тарифтер
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
- Жылдам режим
- Стандартты тариф Жылдам режим таңдалғанда
- Икемді режим
- Стандартты тариф flex режимі таңдалғанда
- Ой қорытудың ең жоғары деңгейі
- Стандартты тариф Ой қорыту деңгейі ең жоғары болып, default түзетуі қолданылғанда
Ailoot мөлшерлемелері
Баптаулар бойынша бағалар
| Баптау | Мөлшерлемелер кестесі | Төлем |
|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Төлем Кіріс · Кіріс токендері $0.00012 / 1K токен Шығыс · Шығыс токендері $0 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
Сұрау мысалдары
Ailoot Ultra · Эмбеддингтер
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Нәтижелерді алу және сақтау
Ailoot Ultra · Эмбеддингтер
json
Барлық дайын нәтижені сақтау
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Әрбір векторды индексімен бірге сақтаңыз. Векторлар саны кіріс элементтерінің санына тең болуы керек; өлшемдері бірдей болуы керек.
Бастапқы жауапты тексеру қажет болса
Эмбеддинг тапсырмасы үшін жаңа эндпоинт енгізілмейді.
Жауап өрістері
| Өріс | Түрі |
|---|---|
Өрісobject | Түріstring |
Өрісmodel | Түріstring |
Өрісdata[].index | Түріinteger |
Өрісdata[].embedding | Түріfinite float[] |
Өрісusage | Түріobject |
Қателер және келесі қадамдар
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Балама атаулар
Модельдердің балама атаулары
Ailoot Ultra voyageai/voyage-4
Әдіс жолдарының балама атаулары
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
Шақыруға арналған байланысты ID
FAQ · VoyageAI by MongoDB: voyage-4
- Қандай кіріс деректері мен нәтижелер қолжетімді?
POST /v1/embeddings·voyageai/voyage-4:text,token_ids→embedding- Сұрау қандай өрістерді пайдаланады?
POST /v1/embeddings·voyageai/voyage-4:model,input,encoding_format,provider- Қандай шектеулер қолданылады?
POST /v1/embeddings·voyageai/voyage-4:ctx:32000;input.budget.maximum:32000(UTF8 байттары);input.min_items:1