VoyageAI by MongoDB: voyage-4-lite
Voyage AI voyage-4-lite je edice textových embeddingů z rodiny Voyage 4 zaměřená na nízkou latenci. Podporuje vstupy o délce 32 000 tokenů, čtyři možnosti rozměrů vektorů a kvantované reprezentace ve společném embeddingovém prostoru kompatibilním s ostatními textovými modely Voyage 4.
O modelu
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
voyage-4-lite je textový embeddingový model z rodiny Voyage 4 společnosti Voyage AI zaměřený na nízkou latenci. Reprezentuje dotazy a dokumenty jako číselné vektory pro vyhledávání obecného účelu. Charakteristickým rysem této modelové rodiny je společný embeddingový prostor s voyage-4, voyage-4-large a voyage-4-nano, který umožňuje vybírat modely dotazů a dokumentů odděleně.
Začněte rolemi při vyhledávání
Připravte informační potřebu uživatele jako dotaz a prohledávaný materiál jako dokumenty. Voyage doporučuje pro vyhledávání vstupní typy query/document; její publikovaný postup přidává při vektorizaci textu příslušný pokyn pro vyhledávání.
V kolekci zaměstnaneckých příruček by se dotaz na převádění nevyčerpané dovolené do dalšího období měl porovnávat s konkrétními oddíly pravidel. V indexované pasáži zachovejte pravidlo, jeho podmínky a případnou relevantní výjimku. U vektoru uchovávejte původní dokument a identifikátor oddílu, aby aplikace mohla vrátit skutečné znění pravidel.
Neurčený vstupní typ reprezentuje text přímo, zatímco role query/document jej přizpůsobují vyhledávání. Výrobce uvádí, že embeddingy vytvořené s těmito nastaveními rolí i bez nich jsou kompatibilní, konzistentní politika přípravy však usnadňuje hodnocení kolekce.
Společný prostor textové rodiny Voyage 4
Voyage výslovně dokumentuje asymetrický postup vyhledávání: dokumenty lze kódovat pomocí voyage-4-large a prohledávat pomocí vektorů dotazů z voyage-4-lite. Jde o tvrzení o kompatibilitě na úrovni rodiny, nikoli o závěr vyvozený z toho, že dva modely vracejí vektory stejné délky.
Zvolený rozměr vektoru a reprezentaci udržujte sladěné mezi kolekcí a stranou dotazu. Společný prostor také umožňuje měnit model dotazů v rámci této pojmenované textové rodiny Voyage 4 bez nové vektorizace existujících dokumentů. Při výběru edice pro dotazy vyhodnoťte výsledné pořadí pomocí reprezentativních otázek.
Úlohou edice Lite je nabídnout menší variantu pro embeddingy dotazů a textu se zaměřením na latenci. Výrobce připisuje architekturu směsi expertů konkrétně modelu voyage-4-large; název rodiny tuto architekturu u Lite nedokládá.
Kontext, rozměry a formát výsledků
Publikovaná délka kontextu je 32 000 tokenů na text. Výchozí vektor má 1024 rozměrů; díky učení Matryoshka jsou dostupné také rozměry 256, 512 a 2048. Postup textových embeddingů výrobce dokumentuje pro voyage-4-lite reprezentace s plovoucí řádovou čárkou, 8bitové celočíselné reprezentace se znaménkem i bez znaménka a bitově balené binární reprezentace.
U standardních vektorů s plovoucí řádovou čárkou popisují pokyny Voyage k podobnosti embeddingy s jednotkovou normou, takže kosinová podobnost a podobnost pomocí skalárního součinu jsou ekvivalentní. Kvantované formy potřebují odpovídající zpracování reprezentace. Například bitově balený binární seznam ukládá do každého bajtu osm bitů embeddingu; délka seznamu se liší od rozměru sémantického vektoru.
V dokumentovaném dávkovém postupu Voyage obsahuje seznam nejvýše 1000 textů a celkem jeden milion tokenů pro tuto konkrétní edici Lite. Výchozí chování při překročení délky ořízne jednotlivý text na hranici kontextu; alternativní nastavení příliš dlouhé vstupy odmítá. Dávkové limity a limity jednotlivých textů jsou oddělené.
Příprava a kontrola výsledků vyhledávání
Dlouhý zdrojový materiál rozdělte na souvislé oddíly, které lze vrátit jako důkazní podklady. Kontext 32 000 tokenů umožňuje dlouhý vstup, užitečná jednotka vyhledávání by však stále měla vést k příslušnému zdrojovému oddílu. Zahrňte nadpis nebo identifikační detail potřebný k interpretaci pravidla.
Pro RAG vyhledejte kandidátní oddíly a předejte jejich původní text do fáze psaní odpovědi spolu s vazbami na zdroje. Embeddingový model vytváří vektory a negeneruje odpověď o pravidlech. Podobnost řadí kandidáty podle zvoleného modelu a nastavení porovnání; skutečnou pasáž zkontrolujte vzhledem k přesné podmínce, na kterou se otázka ptá.
Užitečnou kombinací specifickou pro edici voyage-4-lite je textový model zaměřený na latenci, flexibilní reprezentace, kontext 32 000 tokenů a dokumentovaná kompatibilita v rámci textové rodiny Voyage 4. Tyto vlastnosti uchovávejte s indexovanou kolekcí a výsledky vyhledávání podložené zdroji používejte k podpoře aplikace, která je využívá.
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings voyageai/voyage-4-lite
voyageai/voyage-4-liteÚvod
Voyage AI voyage-4-lite je edice textových embeddingů z rodiny Voyage 4 zaměřená na nízkou latenci. Podporuje vstupy o délce 32 000 tokenů, čtyři možnosti rozměrů vektorů a kvantované reprezentace ve společném embeddingovém prostoru kompatibilním s ostatními textovými modely Voyage 4.
- Přijímané vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metody
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Kontext
- 32 000 tokens
- Výstupní formát
- json
| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity voyageai/voyage-4-lite | Výchozí— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 Podmínky: Neprázdná homogenní dávka. ID tokenů jsou nezáporná celá čísla. Rozpočet vstupu: Maximum: 32 000 · Jednotka textu: bajty UTF8 · Jednotka tokenů: prvky pole tokenů | Výchozí— |
Poleencoding_format | Typstring | PožadavekVolitelné | Hodnoty a limity float | Výchozífloat |
Poledimensions | Typinteger | PožadavekNepodporováno | Hodnoty a limity Minimum: 1 | Výchozí— |
Poleuser | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Polesession_id | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poletrace | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: Parametr provider.options byl odmítnut | Výchozí— |
Kombinace vstupních materiálů
text_to_embedding
Parametry a životní cyklus metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, input |
Parametrinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Kontraktfloat |
Parametrdimensions_override | Kontraktfalse |
Parametrmax_input_budget_units | Kontrakt32000 |
Parametrmultimodal_objects | Kontraktfalse |
Parametrmaterial_types | Kontrakttext, token_ids |
Životní cyklus: synchronous_json
Uchovejte index i rozměr každého vektoru.
Multimodální název modelu neznamená, že tato konkrétní cesta přijímá obrazové objekty.
Tarify
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
- Rychlý režim
- Standardní sazba Při výběru rychlého režimu
- Režim flex
- Standardní sazba Při výběru režimu flex
- Maximální intenzita uvažování
- Standardní sazba Když se při maximální intenzitě uvažování použije výchozí úprava (default)
Sazby Ailoot
Ceny podle konfigurace
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.00004 / 1K tokenů Výstup · Výstupní tokeny $0 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
Příklady požadavků
Ailoot Ultra · Vektorové reprezentace
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-lite", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-lite',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Přijímání a ukládání výsledků
Ailoot Ultra · Vektorové reprezentace
json
Uchovejte všechny dokončené výsledky
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Uchovejte každý vektor spolu s jeho indexem. Počet vektorů musí odpovídat počtu vstupů; jejich rozměr musí být jednotný.
Pokud je nutné ověřit původní odpověď
Samostatný endpoint úloh pro embeddingy se nezavádí.
Pole odpovědi
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a další kroky
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Aliasy
Aliasy modelu
Ailoot Ultra voyageai/voyage-4-lite
Aliasy cest metod
Použijte cesty metod uvedené výše.
Související ID modelů
FAQ · VoyageAI by MongoDB: voyage-4-lite
- Jaké vstupy a výsledky jsou dostupné?
POST /v1/embeddings·voyageai/voyage-4-lite:text,token_ids→embedding- Jaká pole požadavek používá?
POST /v1/embeddings·voyageai/voyage-4-lite:model,input,encoding_format,provider- Jaké limity platí?
POST /v1/embeddings·voyageai/voyage-4-lite:ctx:32000;input.budget.maximum:32000(bajty UTF8);input.min_items:1