VoyageAI by MongoDB: voyage-4-lite
Voyage AI voyage-4-lite — Voyage 4 тобындағы кідірісі аз болуына бағытталған мәтіндік эмбеддинг нұсқасы. 32 000 токендік кірісті, вектор өлшемінің төрт нұсқасын және квантталған көрсетілімдерді қолдайды; ортақ эмбеддинг кеңістігі басқа Voyage 4 мәтіндік модельдерімен үйлеседі.
Модель туралы
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
voyage-4-lite — Voyage AI-дың Voyage 4 тобындағы кідірісі аз болуына бағытталған мәтіндік эмбеддинг моделі. Ол жалпы мақсаттағы іздеу үшін сұраулар мен құжаттарды сандық векторлар түрінде көрсетеді. Оның модельдер тобына тән ерекше мүмкіндігі — voyage-4, voyage-4-large және voyage-4-nano модельдерімен ортақ эмбеддинг кеңістігі; бұл сұрау мен құжат модельдерін бөлек таңдауға мүмкіндік береді.
Іздеу рөлдерінен бастаңыз
Пайдаланушыға қажет ақпаратты сұрау, ал ізделетін материалды құжаттар ретінде дайындаңыз. Voyage іздеу үшін query/document кіріс түрлерін ұсынады; жарияланған үлгі мәтінді векторлау кезінде тиісті іздеу нұсқауын қосады.
Қызметкерлерге арналған анықтамалықтар жинағында пайдаланылмаған демалысты келесі кезеңге көшіру туралы сұрауды ережелердің нақты бөлімдерімен салыстыру керек. Индекстелетін үзіндіде ережені, оның шарттарын және тиісті ерекшеліктерін сақтаңыз. Қолданба ереженің нақты мәтінін қайтара алуы үшін бастапқы құжат пен бөлім идентификаторын вектормен бірге сақтаңыз.
Кіріс түрі көрсетілмесе, мәтін тікелей көрсетіледі, ал query/document рөлдері оны іздеуге бейімдейді. Өндіруші осы рөл параметрлерімен және оларсыз алынған эмбеддингтер үйлесімді екенін мәлімдейді, бірақ дайындау саясатын бірізді ұстану жинақты бағалауды жеңілдетеді.
Voyage 4 мәтіндік модельдер тобының ортақ кеңістігі
Voyage асимметриялық іздеу үдерісін нақты құжаттайды: құжаттарды voyage-4-large арқылы кодтап, олардан voyage-4-lite сұрау векторларымен іздеуге болады. Бұл — екі модель бірдей ұзындықтағы вектор қайтарғанына қарап жасалған қорытынды емес, модельдер тобы деңгейіндегі үйлесімділік мәлімдемесі.
Жинақ пен сұрау жағында таңдалған вектор өлшемі мен көрсетілімін сәйкестендіріңіз. Ортақ кеңістік осы аталған Voyage 4 мәтіндік модельдер тобының ішінде сұрау моделін ауыстыруға да мүмкіндік береді; ол үшін бар құжаттарды қайта векторлау қажет емес. Сұрауға арналған нұсқаны таңдағанда алынған реттеуді өкілдік сұрақтармен бағалаңыз.
Lite нұсқасының рөлі — сұраулар мен мәтіндік эмбеддингтерге арналған ықшам әрі кідірісті азайтуға бағытталған балама болу. Өндіруші mixture-of-experts архитектурасын нақты voyage-4-large моделіне жатқызады; модельдер тобының атауы Lite үшін осы архитектураны дәлелдемейді.
Контекст, өлшемдер және нәтиже пішімі
Жарияланған контекст ұзындығы — әр мәтінге 32 000 токен. Әдепкі векторда 1024 өлшем бар; Matryoshka оқытуы арқылы 256, 512 және 2048 өлшемдері де қолжетімді. Өндірушінің мәтіндік эмбеддинг үдерісі voyage-4-lite үшін жылжымалы нүктелі, таңбалы және таңбасыз 8 биттік бүтін санды, сондай-ақ биттері қапталған бинарлық көрсетілімдерді құжаттайды.
Стандартты жылжымалы нүктелі векторлар үшін Voyage ұқсастық нұсқаулығы бірлік ұзындықтағы эмбеддингтерді сипаттайды, сондықтан косинустық ұқсастық пен скалярлық көбейтінді тең болады. Квантталған пішімдер өз көрсетіліміне сәйкес өңдеуді қажет етеді. Мысалы, биттері қапталған бинарлық тізім әр байтта эмбеддингтің сегіз битін сақтайды; тізім ұзындығы вектордың семантикалық өлшемінен өзгеше.
Voyage құжаттаған пакеттік үлгіде осы нақты Lite нұсқасының бір тізімі ең көбі 1000 мәтін және жиынтық бір миллион токен қамтиды. Әдепкі әрекет шектен ұзын жеке мәтінді контекст шекарасына дейін қысқартады; балама параметр шектен ұзын кірістерді қабылдамайды. Пакет шектеуі мен әр мәтіннің шектеуі бөлек.
Іздеу нәтижелерін дайындап, тексеріңіз
Ұзын бастапқы материалды дәлел ретінде қайтаруға болатын мағыналық тұтас бөлімдерге бөліңіз. 32 000 токендік контекст ұзын кіріске мүмкіндік береді, бірақ пайдалы іздеу бірлігі бәрібір дереккөздің тиісті бөліміне апаруы керек. Ережені түсінуге қажет тақырыпты немесе сәйкестендіретін мәліметті қосыңыз.
RAG үшін кандидат бөлімдерді тауып, олардың бастапқы мәтінін дереккөз байланыстарымен бірге жауап жазу кезеңіне беріңіз. Эмбеддинг моделі векторлар жасайды және ереже туралы жауап генерацияламайды. Ұқсастық таңдалған модель мен салыстыру баптауларына сай кандидаттарды реттейді; сұралған нақты шартты үзіндінің өзінен тексеріңіз.
voyage-4-lite нұсқасына тән пайдалы үйлесім — кідірісті азайтуға бағытталған мәтіндік модель, икемді көрсетілімдер, 32 000 токендік контекст және Voyage 4 мәтіндік модельдер тобындағы құжатталған үйлесімділік. Осы қасиеттерді индекстелген жинақпен бірге сақтап, айналасындағы қолданбаны қолдау үшін дереккөзге сүйенген іздеу нәтижелерін пайдаланыңыз.
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings voyageai/voyage-4-lite
voyageai/voyage-4-liteБастау
Voyage AI voyage-4-lite — Voyage 4 тобындағы кідірісі аз болуына бағытталған мәтіндік эмбеддинг нұсқасы. 32 000 токендік кірісті, вектор өлшемінің төрт нұсқасын және квантталған көрсетілімдерді қолдайды; ортақ эмбеддинг кеңістігі басқа Voyage 4 мәтіндік модельдерімен үйлеседі.
- Қабылданатын кіріс деректері
- Мәтін · token_ids
- Нәтижелер
- embedding
Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings
- Кіріс
text,token_ids- Шығыс
embedding- Контекст
- 32 000 tokens
- Шығыс пішімі
- json
| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер voyageai/voyage-4-lite | Әдепкі— |
Өрісinput | Түріstring|string[]|integer[]|integer[][] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 Шарттар: Бос емес, біртекті пакет. Токендердің ID мәндері — теріс емес бүтін сандар. Кіріс бюджеті: Ең көбі: 32 000 · Мәтін бірлігі: UTF8 байттары · Токен бірлігі: токендер массивінің элементтері | Әдепкі— |
Өрісencoding_format | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер float | Әдепкіfloat |
Өрісdimensions | Түріinteger | ТалапҚолдау көрсетілмейді | Мәндер мен шектеулер Ең азы: 1 | Әдепкі— |
Өрісuser | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісsession_id | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісtrace | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісprovider | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: provider.options қабылданбайды | Әдепкі— |
Кіріс материалдарының үйлесімдері
text_to_embedding
Әдіс параметрлері мен өмірлік циклі
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыmodel, input |
Параметрinput_shapes | Параметр талаптарыstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Параметрencoding_format | Параметр талаптарыfloat |
Параметрdimensions_override | Параметр талаптарыfalse |
Параметрmax_input_budget_units | Параметр талаптары32000 |
Параметрmultimodal_objects | Параметр талаптарыfalse |
Параметрmaterial_types | Параметр талаптарыtext, token_ids |
Өмірлік цикл: synchronous_json
Әрбір вектордың индексін және өлшемін сақтаңыз.
Модель атауының мультимодаль болуы осы нақты жолда кескін объектілерін қабылдауға рұқсат бермейді.
Тарифтер
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
- Жылдам режим
- Стандартты тариф Жылдам режим таңдалғанда
- Икемді режим
- Стандартты тариф flex режимі таңдалғанда
- Ой қорытудың ең жоғары деңгейі
- Стандартты тариф Ой қорыту деңгейі ең жоғары болып, default түзетуі қолданылғанда
Ailoot мөлшерлемелері
Баптаулар бойынша бағалар
| Баптау | Мөлшерлемелер кестесі | Төлем |
|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Төлем Кіріс · Кіріс токендері $0.00004 / 1K токен Шығыс · Шығыс токендері $0 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
Сұрау мысалдары
Ailoot Ultra · Эмбеддингтер
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-lite", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-lite',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Нәтижелерді алу және сақтау
Ailoot Ultra · Эмбеддингтер
json
Барлық дайын нәтижені сақтау
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Әрбір векторды индексімен бірге сақтаңыз. Векторлар саны кіріс элементтерінің санына тең болуы керек; өлшемдері бірдей болуы керек.
Бастапқы жауапты тексеру қажет болса
Эмбеддинг тапсырмасы үшін жаңа эндпоинт енгізілмейді.
Жауап өрістері
| Өріс | Түрі |
|---|---|
Өрісobject | Түріstring |
Өрісmodel | Түріstring |
Өрісdata[].index | Түріinteger |
Өрісdata[].embedding | Түріfinite float[] |
Өрісusage | Түріobject |
Қателер және келесі қадамдар
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Балама атаулар
Модельдердің балама атаулары
Ailoot Ultra voyageai/voyage-4-lite
Әдіс жолдарының балама атаулары
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
Шақыруға арналған байланысты ID
FAQ · VoyageAI by MongoDB: voyage-4-lite
- Қандай кіріс деректері мен нәтижелер қолжетімді?
POST /v1/embeddings·voyageai/voyage-4-lite:text,token_ids→embedding- Сұрау қандай өрістерді пайдаланады?
POST /v1/embeddings·voyageai/voyage-4-lite:model,input,encoding_format,provider- Қандай шектеулер қолданылады?
POST /v1/embeddings·voyageai/voyage-4-lite:ctx:32000;input.budget.maximum:32000(UTF8 байттары);input.min_items:1