VoyageAI by MongoDB: voyage-4-lite
Voyage AI voyage-4-lite er den latenstidsorienterede tekstembeddingudgave i Voyage 4-familien. Den understøtter input på 32.000 tokens, fire valgbare vektorstørrelser og kvantiserede repræsentationer med et fælles embeddingrum, som er kompatibelt med de øvrige Voyage 4-tekstmodeller.
Om modellen
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
voyage-4-lite er den latenstidsorienterede tekstembeddingmodel i Voyage AI’s Voyage 4-familie. Den repræsenterer forespørgsler og dokumenter som numeriske vektorer til generel genfinding. Dens særlige familieegenskab er et fælles embeddingrum med voyage-4, voyage-4-large og voyage-4-nano, så forespørgsels- og dokumentmodeller kan vælges separat.
Begynd med genfindingsrollerne
Forbered brugerens informationsbehov som en forespørgsel og det søgbare materiale som dokumenter. Voyage anbefaler inputtyperne query/document til genfinding; den offentliggjorte opskrift tilføjer den tilsvarende genfindingsinstruktion, når teksten vektoriseres.
Ved en samling af medarbejderhåndbøger bør en forespørgsel om overførsel af ubrugt ferie til næste periode sammenlignes med de konkrete regelafsnit. Bevar reglen, dens betingelser og eventuelle relevante undtagelser i den indekserede passage. Gem det oprindelige dokument og afsnitsidentifikatoren ved siden af vektoren, så applikationen kan returnere den faktiske regeltekst.
En uspecificeret inputtype repræsenterer teksten direkte, mens query/document-rollerne tilpasser den til genfinding. Producenten oplyser, at embeddings produceret med og uden disse rolleindstillinger er kompatible, men en konsekvent forberedelsespolitik gør samlingen lettere at vurdere.
Fælles rum på tværs af Voyage 4-tekstfamilien
Voyage dokumenterer udtrykkeligt en asymmetrisk genfindingsarbejdsgang: Dokumenter kan kodes med voyage-4-large og gennemsøges med forespørgselsvektorer fra voyage-4-lite. Det er en kompatibilitetserklæring på familieniveau frem for en konklusion udledt af, at to modeller returnerer samme vektorlængde.
Hold den valgte vektordimension og repræsentation afstemt mellem samlingen og forespørgselssiden. Det fælles rum tillader også at ændre forespørgselsmodellen inden for denne navngivne Voyage 4-tekstfamilie uden at vektorisere de eksisterende dokumenter igen. Vurdér den resulterende rangering med repræsentative spørgsmål, når forespørgselsudgaven vælges.
Lite-udgavens rolle er det mindre, latenstidsfokuserede valg til forespørgsler og tekstembeddings. Producenten knytter mixture-of-experts-arkitekturen specifikt til voyage-4-large; familienavnet fastslår ikke denne arkitektur for Lite.
Kontekst, dimensioner og resultatformat
Den offentliggjorte kontekstlængde er 32.000 tokens pr. tekst. Standardvektoren har 1024 dimensioner, og 256, 512 og 2048 er også tilgængelige gennem Matryoshka-læring. Producentens tekstembeddingforløb dokumenterer repræsentationer med flydende tal, 8-bit-heltal med og uden fortegn samt bitpakkede binære repræsentationer til voyage-4-lite.
Ved standardvektorer med flydende tal beskriver Voyages lighedsvejledning embeddings med enhedslængde, hvilket gør cosinus- og prikproduktlighed ækvivalente. Kvantiserede former kræver deres tilsvarende repræsentationshåndtering. En bitpakket binær liste lagrer eksempelvis otte embeddingbits i hver byte; dens listelængde adskiller sig fra den semantiske vektordimension.
I Voyages dokumenterede batchopskrift indeholder en liste højst 1000 tekster og én million tokens samlet for denne præcise Lite-udgave. Standardadfærden ved for langt input afkorter den enkelte tekst til kontekstgrænsen; den alternative indstilling afviser for lange input. Disse batchgrænser og grænser pr. tekst er forskellige.
Forbered og undersøg genfindingsresultater
Opdel langt kildemateriale i sammenhængende afsnit, der kan returneres som evidens. En kontekst på 32.000 tokens tillader et langt input, men en nyttig genfindingsenhed bør stadig føre til det relevante kildeafsnit. Medtag den overskrift eller identificerende detalje, der er nødvendig for at fortolke en regel.
Ved RAG skal du genfinde kandidatafsnit og sende deres oprindelige tekst til svarskrivningstrinnet med kildetilknytninger. Embeddingmodellen producerer vektorer og genererer ikke et regelsvar. Lighed rangerer kandidater under den valgte model og sammenligningsopsætning; gennemgå den faktiske passage for den præcise betingelse, der blev spurgt om.
voyage-4-lite’s nyttige udgavespecifikke kombination er en latenstidsfokuseret tekstmodel, fleksible repræsentationer, en kontekst på 32.000 tokens og dokumenteret kompatibilitet inden for Voyage 4-tekstfamilien. Gem egenskaberne sammen med den indekserede samling, og brug kildeunderbyggede genfindingsresultater til at understøtte den omgivende applikation.
Ailoot Ultra · Embeddings POST /v1/embeddings voyageai/voyage-4-lite
voyageai/voyage-4-liteStart
Voyage AI voyage-4-lite er den latenstidsorienterede tekstembeddingudgave i Voyage 4-familien. Den understøtter input på 32.000 tokens, fire valgbare vektorstørrelser og kvantiserede repræsentationer med et fælles embeddingrum, som er kompatibelt med de øvrige Voyage 4-tekstmodeller.
- Accepterede input
- Tekst · token_ids
- Resultater
- embedding
Tilgængelig i Ailoot · input og metoder
Ailoot Ultra · Embeddings POST /v1/embeddings
- Inputtyper
text,token_ids- Outputtyper
embedding- Kontekst
- 32.000 tokens
- Outputformat
- json
| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser voyageai/voyage-4-lite | Standard— |
Feltinput | Typestring|string[]|integer[]|integer[][] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 Betingelser: Ikke-tom batch med ensartede elementer. Token-ID’er er ikke-negative heltal. Inputbudget: Maksimum: 32.000 · Tekstenhed: UTF8-bytes · Tokenenhed: elementer i et tokenarray | Standard— |
Feltencoding_format | Typestring | KravValgfrit | Værdier og grænser float | Standardfloat |
Feltdimensions | Typeinteger | KravIkke understøttet | Værdier og grænser Minimum: 1 | Standard— |
Feltuser | Typejson_value | KravValgfrit | Værdier og grænser Betingelser: Kilden tillader dette JSON-metadatafelt; den præcise betydning hos den bagvedliggende udbyder afhænger af modellen. | Standard— |
Feltsession_id | Typejson_value | KravValgfrit | Værdier og grænser Betingelser: Kilden tillader dette JSON-metadatafelt; den præcise betydning hos den bagvedliggende udbyder afhænger af modellen. | Standard— |
Felttrace | Typejson_value | KravValgfrit | Værdier og grænser Betingelser: Kilden tillader dette JSON-metadatafelt; den præcise betydning hos den bagvedliggende udbyder afhænger af modellen. | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvist | Standard— |
Kombinationer af inputmaterialer
text_to_embedding
Metodeparametre og livscyklus
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, input |
Parameterinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontraktfloat |
Parameterdimensions_override | Kontraktfalse |
Parametermax_input_budget_units | Kontrakt32000 |
Parametermultimodal_objects | Kontraktfalse |
Parametermaterial_types | Kontrakttext, token_ids |
Livscyklus: synchronous_json
Gem hver vektors indeks og dimension.
Et multimodalt modelnavn giver ikke adgang til at bruge billedobjekter på denne præcise sti.
Priser
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
- Hurtig tilstand
- Standardpris Når hurtig tilstand er valgt
- flex-tilstand
- Standardpris Når flex-tilstanden er valgt
- Maksimal ræsonneringsindsats
- Standardpris Når default-justeringen anvendes ved maksimal ræsonneringsindsats
Ailoot-takster
Priser efter konfiguration
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.00004 / 1K tokens Output · Outputtokens $0 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
Eksempelanmodninger
Ailoot Ultra · Embeddings
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-lite", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-lite',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Hent og gem resultater
Ailoot Ultra · Embeddings
json
Behold alle færdige resultater
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Gem hver vektor med dens indeks. Antallet af vektorer skal svare til antallet af input; dimensionerne skal være ensartede.
Hvis det oprindelige svar skal kontrolleres
Der indføres intet endpoint til embedding-job.
Svarfelter
| Felt | Type |
|---|---|
Feltobject | Typestring |
Feltmodel | Typestring |
Feltdata[].index | Typeinteger |
Feltdata[].embedding | Typefinite float[] |
Feltusage | Typeobject |
Fejl og næste trin
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Aliaser
Modelaliaser
Ailoot Ultra voyageai/voyage-4-lite
Aliaser for metodestier
Brug metodestierne vist ovenfor.
Relaterede kalder-ID’er
FAQ · VoyageAI by MongoDB: voyage-4-lite
- Hvilke input og resultater er tilgængelige?
POST /v1/embeddings·voyageai/voyage-4-lite:text,token_ids→embedding- Hvilke felter bruger anmodningen?
POST /v1/embeddings·voyageai/voyage-4-lite:model,input,encoding_format,provider- Hvilke grænser gælder?
POST /v1/embeddings·voyageai/voyage-4-lite:ctx:32000;input.budget.maximum:32000(UTF8-bytes);input.min_items:1