VoyageAI by MongoDB: voyage-4-lite
Voyage AI voyage-4-lite je edícia textových embeddingov v rodine Voyage 4 zameraná na latenciu. Podporuje vstupy s 32 000 tokenmi, štyri možnosti rozmeru vektora a kvantované reprezentácie so spoločným priestorom embeddingov kompatibilným s ostatnými textovými modelmi Voyage 4.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
voyage-4-lite je model textových embeddingov v rodine Voyage 4 od Voyage AI zameraný na latenciu. Dopyty a dokumenty reprezentuje ako číselné vektory na všeobecné vyhľadávanie. Rozlišujúcou vlastnosťou rodiny je spoločný priestor embeddingov s voyage-4, voyage-4-large a voyage-4-nano, ktorý umožňuje vyberať modely pre dopyty a dokumenty samostatne.
Začnite vyhľadávacími rolami
Informačnú potrebu používateľa pripravte ako dopyt a vyhľadateľný materiál ako dokumenty. Voyage na vyhľadávanie odporúča typy vstupu query/document; jeho zverejnený postup pri vektorizácii textu pridáva zodpovedajúcu vyhľadávaciu inštrukciu.
Pri kolekcii zamestnaneckých príručiek treba dopyt o prenose nevyčerpanej dovolenky do ďalšieho obdobia porovnať s konkrétnymi časťami pravidiel. V indexovanej pasáži zachovajte pravidlo, jeho podmienky aj relevantnú výnimku. Vedľa vektora uchovajte pôvodný dokument a identifikátor časti, aby aplikácia mohla vrátiť skutočný text pravidiel.
Neurčený typ vstupu reprezentuje text priamo, zatiaľ čo roly query/document ho prispôsobujú vyhľadávaniu. Výrobca uvádza, že embeddingy vytvorené s týmito nastaveniami rolí aj bez nich sú kompatibilné, ale jednotná politika prípravy uľahčuje posudzovanie kolekcie.
Spoločný priestor v textovej rodine Voyage 4
Voyage výslovne dokumentuje asymetrický vyhľadávací postup: dokumenty možno kódovať pomocou voyage-4-large a prehľadávať vektormi dopytov z voyage-4-lite. Ide o vyjadrenie kompatibility na úrovni rodiny, nie o záver odvodený z rovnakej dĺžky vektorov dvoch modelov.
Zvolený rozmer a reprezentáciu vektorov zosúlaďte medzi kolekciou a stranou dopytu. Spoločný priestor tiež umožňuje zmenu modelu dopytov v tejto pomenovanej textovej rodine Voyage 4 bez opätovnej vektorizácie existujúcich dokumentov. Pri výbere edície pre dopyty posúďte výsledné poradie na reprezentatívnych otázkach.
Úlohou edície Lite je menšia možnosť pre dopyty a textové embeddingy so zameraním na latenciu. Výrobca pripisuje architektúru so zmesou expertov konkrétne voyage-4-large; názov rodiny modelov takúto architektúru pre Lite nepreukazuje.
Kontext, rozmery a formát výsledku
Zverejnená dĺžka kontextu je 32 000 tokenov na text. Predvolený vektor má 1024 rozmerov a prostredníctvom učenia Matryoshka sú dostupné aj 256, 512 a 2048. Postup textových embeddingov výrobcu dokumentuje pre voyage-4-lite reprezentácie s pohyblivou rádovou čiarkou, 8-bitovými celými číslami so znamienkom i bez znamienka a bitovo zbalené binárne reprezentácie.
Pri štandardných vektoroch s pohyblivou rádovou čiarkou pokyny Voyage pre podobnosť opisujú embeddingy s jednotkovou normou, takže kosínusová podobnosť a podobnosť skalárnym súčinom sú ekvivalentné. Kvantované formy potrebujú zodpovedajúce spracovanie reprezentácie. Napríklad bitovo zbalený binárny zoznam ukladá osem bitov embeddingu do každého bajtu; jeho dĺžka sa líši od sémantického rozmeru vektora.
V zdokumentovanom dávkovom postupe Voyage obsahuje zoznam pre túto konkrétnu edíciu Lite najviac 1000 textov a celkovo jeden milión tokenov. Predvolené správanie pri prekročení dĺžky skráti jednotlivý text po hranicu kontextu; alternatívne nastavenie príliš dlhé vstupy odmietne. Limity dávky a jednotlivého textu sú odlišné.
Pripravte a preskúmajte výsledky vyhľadávania
Dlhý zdrojový materiál rozdeľte na ucelené časti, ktoré možno vrátiť ako dôkazy. Kontext 32 000 tokenov umožňuje dlhý vstup, ale užitočná vyhľadávacia jednotka má stále viesť k relevantnej zdrojovej časti. Zahrňte nadpis alebo identifikačný detail potrebný na interpretáciu pravidla.
Pri RAG vyhľadajte kandidátske časti a ich pôvodný text s prepojeniami na zdroje odovzdajte fáze písania odpovede. Model embeddingov vytvára vektory a negeneruje odpoveď o pravidlách. Podobnosť radí kandidátov pri zvolenom modeli a nastavení porovnávania; presnú požadovanú podmienku overte v skutočnej pasáži.
Užitočnou kombináciou špecifickou pre voyage-4-lite je textový model zameraný na latenciu, flexibilné reprezentácie, kontext 32 000 tokenov a zdokumentovaná kompatibilita v textovej rodine Voyage 4. Tieto vlastnosti uchovajte s indexovanou kolekciou a výsledkami vyhľadávania podloženými zdrojmi podporujte okolitú aplikáciu.
Ailoot Ultra · Embeddingy POST /v1/embeddings voyageai/voyage-4-lite
voyageai/voyage-4-liteÚvod
Voyage AI voyage-4-lite je edícia textových embeddingov v rodine Voyage 4 zameraná na latenciu. Podporuje vstupy s 32 000 tokenmi, štyri možnosti rozmeru vektora a kvantované reprezentácie so spoločným priestorom embeddingov kompatibilným s ostatnými textovými modelmi Voyage 4.
- Povolené vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Embeddingy POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Kontext
- 32 000 tokens
- Výstupný formát
- json
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity voyageai/voyage-4-lite | Predvolené— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 Podmienky: Neprázdna homogénna dávka. ID tokenov sú nezáporné celé čísla. Vstupný rozpočet: Maximum: 32 000 · Textová jednotka: bajty UTF8 · Jednotka tokenov: prvky poľa tokenov | Predvolené— |
Poleencoding_format | Typstring | PožiadavkaVoliteľné | Hodnoty a limity float | Predvolenéfloat |
Poledimensions | Typinteger | PožiadavkaNepodporované | Hodnoty a limity Minimum: 1 | Predvolené— |
Poleuser | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Polesession_id | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poletrace | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poleprovider | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: provider.options sa odmieta | Predvolené— |
Kombinácie vstupných podkladov
text_to_embedding
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, input |
Parameterinput_shapes | Špecifikáciastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Špecifikáciafloat |
Parameterdimensions_override | Špecifikáciafalse |
Parametermax_input_budget_units | Špecifikácia32000 |
Parametermultimodal_objects | Špecifikáciafalse |
Parametermaterial_types | Špecifikáciatext, token_ids |
Životný cyklus: synchronous_json
Uchovajte každý index a rozmer vektora.
Názov multimodálneho modelu neznamená, že na tejto konkrétnej trase možno použiť objekty obrázkov.
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Štandardná sadzba Keď je zvolený rýchly režim
- Režim Flex
- Štandardná sadzba Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Štandardná sadzba Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0.00004 / 1K tokenov Výstup · Výstupné tokeny $0 / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Embeddingy
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-lite", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-lite',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Prijať a uložiť výsledky
Ailoot Ultra · Embeddingy
json
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Uchovajte každý vektor spolu s jeho indexom. Počet vektorov sa musí rovnať počtu vstupov; rozmery musia byť konzistentné.
Ak treba overiť pôvodnú odpoveď
Nezavádza sa žiadny koncový bod pre úlohy tvorby embeddingov.
Polia odpovede
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Aliasy
Aliasy modelov
Ailoot Ultra voyageai/voyage-4-lite
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · VoyageAI by MongoDB: voyage-4-lite
- Aké vstupy a výsledky sú dostupné?
POST /v1/embeddings·voyageai/voyage-4-lite:text,token_ids→embedding- Aké polia používa požiadavka?
POST /v1/embeddings·voyageai/voyage-4-lite:model,input,encoding_format,provider- Aké limity platia?
POST /v1/embeddings·voyageai/voyage-4-lite:ctx:32000;input.budget.maximum:32000(bajty UTF8);input.min_items:1