VoyageAI by MongoDB: voyage-4-large
voyage-4-large är Voyage AI:s mixture-of-experts-textinbäddningsmodell för generell och flerspråkig informationssökning. Vektorerna delar Voyage 4-familjens rum, vilket låter korpusinbäddningar från Large sökas med kompatibla frågeinbäddningar från andra familjemodeller.
Om modellen
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
voyage-4-large är Voyage AI:s flaggskeppsmodell för textinbäddningar i Voyage 4-familjen. Den representerar källavsnitt och frågor som numeriska vektorer för allmän och flerspråkig informationssökning. Dess två särskiljande egenskaper är en expertblandningsdesign och det gemensamma inbäddningsrum som används av voyage-4-large, voyage-4, voyage-4-lite och voyage-4-nano.
Gemensamt rum: separata val för korpus och frågor
Tillverkaren beskriver asymmetrisk sökning: dokument kan bäddas in med voyage-4-large medan en annan modell i Voyage 4-familjen förbereder frågevektorerna. En korpus representerad av Large kan exempelvis sökas med voyage-4-frågor. Det låter sökningens två sidor ha olika modellval och samtidigt förbli i det dokumenterade kompatibla rummet.
En praktisk samling kan därför använda Large för att förbereda stabila dokumentavsnitt och välja frågesidans modell oberoende. Dokument bäddas in när korpusen skapas eller uppdateras, medan frågor vektoriseras när användare söker. Familjens tillkännagivande beskriver byte av frågemodell inom den kompatibla familjen utan att dokumentkorpusen vektoriseras om enbart för detta byte. Håll jämförda vektorer på matchande dimensioner och i representationer som söksystemet kan tolka tillsammans.
Inbäddningsdesign med expertblandning
Ett tätt framåtriktat lager bearbetar varje token genom hela sin parameteruppsättning. MoE-metoden som beskrivs för voyage-4-large använder en router och framåtriktade expertnätverk och väljer experterna som bearbetar varje token. Det skiljer total modellkapacitet från parametrarna som är aktiva för en viss token. Voyage rapporterar en aktiveringsandel på 1/10 för modellens MoE-design, med top-k-dirigering.
Tillverkarens tekniska förklaring beskriver också två utvecklingsval. Expertkapacitet påverkar om överskjutande token går förbi ett expertlager via en residualväg; teamet valde den största möjliga kapacitetsfaktorn för att undvika förlust av sökkvalitet. I det sista träningsstadiet fryses routerparametrarna före modellsammanslagning så att interpolation av källmodellerna inte ändrar den inlärda dirigeringen för expertval. Detta är egenskaper hos modellförberedelsen, skilda från inställningar för textlängd eller trunkering när indata förbereds.
Dimensioner och utdatarepresentation
Den officiella modelltabellen anger ett kontextfönster på 32,000 token och valbara inbäddningar på 256, 512, 1024 och 2048 dimensioner, med 1024 som standard. Familjen använder Matryoshka-inlärning för nästlade representationsstorlekar och stöder kvantiseringsval: 32-bitars flyttal, signerade eller osignerade 8-bitars heltal och packade binära utdata.
Med binära utdata är den returnerade bytelistans längd en åttondel av den valda dimensionen eftersom varje byte innehåller åtta inbäddningsbitar. Bevara val av dimension och datatyp med indexet och använd en jämförelsemetod som stöder representationen. En mindre eller komprimerad vektor ändrar representationen som används för sökning; bedöm relevanta avsnitt som returneras på verkliga frågor innan den väljs för en samling.
Förbered dokument- och frågeindata
Voyage rekommenderar rollen document för korpusavsnitt och rollen query för sökformuleringar. Rollalternativet lägger till motsvarande sökinstruktion före inbäddningen. Bevara avsnittets användbara rubrik, villkor och källplats och lagra sedan den returnerade vektorn med originaltexten och en stabil identifierare.
För en teknisk kunskapssamling bör en fråga om ett felläge leda till avsnittet som beskriver läget och relevanta villkor. För en dokumentsamling över flera språk behåller du källspråket och utvärderar frågorna och terminologin användarna kommer att söka med. Utgåvan omfattar sökmaterial som tekniska dokument, konversationer, långa dokument, kod, juridik, ekonomi och webbtext. Inbäddningen lokaliserar kandidatmaterial; ett senare omranknings- eller svarssteg använder originaltexten.
Gränser för kontext, batchning och trunkering
Tillverkarens aktuella guide tillåter upp till 1,000 strängar och totalt 120,000 indatatoken i en voyage-4-large-förfrågan. Detta skiljer sig från batchutrymmet som anges för voyage-4, medan båda har ett fönster på 32,000 token per text. Standardtrunkering kortar för långa indata så att de passar; avstängd trunkering returnerar ett fel för en för lång text.
Välj medvetet avsnittsgränser som innehåller svar så att en lång källa inte förlorar en relevant precisering i en trunkerad slutdel. Behåll källkopplingen när sökresultat returneras och granska den faktiska kandidattexten i stället för att behandla vektornärhet som verifiering av innehållet. Kompatibiliteten i det gemensamma rummet gäller den dokumenterade textfamiljen Voyage 4; kontextualiserad segmentbearbetning, bild- och videoinbäddningar och senare modellutgåvor förblir egna modellspecifika flöden.
Ailoot Ultra · Embeddings POST /v1/embeddings voyageai/voyage-4-large
voyageai/voyage-4-largeStart
voyage-4-large är Voyage AI:s mixture-of-experts-textinbäddningsmodell för generell och flerspråkig informationssökning. Vektorerna delar Voyage 4-familjens rum, vilket låter korpusinbäddningar från Large sökas med kompatibla frågeinbäddningar från andra familjemodeller.
- Godkända indata
- Text · token_ids
- Resultat
- embedding
Tillgängligt i Ailoot · indata & metoder
Ailoot Ultra · Embeddings POST /v1/embeddings
- Indatatyper
text,token_ids- Utdatatyper
embedding- Kontext
- 32 000 tokens
- Utdataformat
- json
| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser voyageai/voyage-4-large | Standard— |
Fältinput | Typstring|string[]|integer[]|integer[][] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 Villkor: En homogen batch som inte är tom. Token-ID:n är heltal som är större än eller lika med noll. Indatabudget: Maximum: 32 000 · Textenhet: UTF8-byte · Tokenenhet: element i en tokenarray | Standard— |
Fältencoding_format | Typstring | KravValfritt | Värden & gränser float | Standardfloat |
Fältdimensions | Typinteger | KravStöds inte | Värden & gränser Minimum: 1 | Standard— |
Fältuser | Typjson_value | KravValfritt | Värden & gränser Villkor: Källan tillåter detta JSON-metadatafält; den exakta innebörden hos leverantören beror på modellen. | Standard— |
Fältsession_id | Typjson_value | KravValfritt | Värden & gränser Villkor: Källan tillåter detta JSON-metadatafält; den exakta innebörden hos leverantören beror på modellen. | Standard— |
Fälttrace | Typjson_value | KravValfritt | Värden & gränser Villkor: Källan tillåter detta JSON-metadatafält; den exakta innebörden hos leverantören beror på modellen. | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisades | Standard— |
Kombinationer av indatamaterial
text_to_embedding
Metodparametrar och livscykel
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, input |
Parameterinput_shapes | Avtalstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Avtalfloat |
Parameterdimensions_override | Avtalfalse |
Parametermax_input_budget_units | Avtal32000 |
Parametermultimodal_objects | Avtalfalse |
Parametermaterial_types | Avtaltext, token_ids |
Livscykel: synchronous_json
Behåll varje vektorindex och dimension.
Att modellen har ett multimodalt namn innebär inte att bildobjekt tillåts på just denna anropsväg.
Priser
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
- Snabbt läge
- Standardpris När snabbt läge är valt
- Flex-läge
- Standardpris När läget flex är valt
- Högsta resonemangsnivå
- Standardpris När den högsta resonemangsnivån använder standardjusteringen (default)
Ailoot-priser
Priser efter konfiguration
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.00024 / 1K token Utdata · Utdatatoken $0 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
Exempelbegäranden
Ailoot Ultra · Embeddings
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Ta emot och spara resultat
Ailoot Ultra · Embeddings
json
Behåll alla färdiga resultat
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje vektor tillsammans med dess index. Antalet vektorer måste vara lika med antalet indataobjekt; dimensionerna måste vara konsekventa.
Om det ursprungliga svaret behöver kontrolleras
Ingen endpoint för inbäddningsjobb införs.
Svarsfält
| Fält | Typ |
|---|---|
Fältobject | Typstring |
Fältmodel | Typstring |
Fältdata[].index | Typinteger |
Fältdata[].embedding | Typfinite float[] |
Fältusage | Typobject |
Fel och nästa steg
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Alias
Modellalias
Ailoot Ultra voyageai/voyage-4-large
Alias för metodsökvägar
Använd metodsökvägarna som visas ovan.
Relaterade anropar-ID:n
FAQ · VoyageAI by MongoDB: voyage-4-large
- Vilka indata och resultat finns?
POST /v1/embeddings·voyageai/voyage-4-large:text,token_ids→embedding- Vilka fält använder begäran?
POST /v1/embeddings·voyageai/voyage-4-large:model,input,encoding_format,provider- Vilka gränser gäller?
POST /v1/embeddings·voyageai/voyage-4-large:ctx:32000;input.budget.maximum:32000(UTF8-byte);input.min_items:1