VoyageAI by MongoDB: voyage-4

voyage-4 er Voyage AIs mellomstore tekstembeddingmodell i Voyage 4-familien. Den omdanner forespørsels- og dokumenttekst til numeriske vektorer for generell og flerspråklig gjenfinning. Familiens definerende evne er et felles embeddingrom: voyage-4, voyage-4-large, voyage-4-lite og voyage-4-nano produserer kompatible representasjoner, slik at forespørsels- og dokumentsiden i en søkeoppgave kan bruke ulike modeller i familien.

Felles rom og asymmetrisk gjenfinning

Produsenten kaller bruken av ulike forespørsels- og korpusmodeller asymmetrisk gjenfinning. Et dokumentert mønster er å forberede korpuset med voyage-4-large og søke i det med forespørselsembeddinger fra voyage-4. Embeddingvektorene for korpuset beregnes én gang eller når kildematerialet endres, mens forespørselsvektorer opprettes når søk kommer inn. Det felles rommet lar modellvalget på forespørselssiden endres innenfor familien uten at korpuset må behandles på nytt bare på grunn av dette byttet.

Hold resultatdimensjonen og representasjonen kompatible på tvers av vektorene som sammenlignes. Erklæringen om felles rom gjelder de navngitte Voyage 4-tekstmodellene; den fastslås ikke bare av at to ubeslektede modeller returnerer arrays med samme lengde. En praktisk oppgave kan derfor bruke voyage-4 på begge sider av søket eller bruke forespørselsvektorene med en eksisterende voyage-4-large-dokumentindeks når representasjonsinnstillingene samsvarer.

Query- og document-roller

For gjenfinning anbefaler Voyage å angi inndatateksten som typen query eller document. Valget av inndatarolle gir den tilsvarende gjenfinningsinstruksjonen før vektorisering. Forbered korpuspassasjer som dokumenter og brukerens søkeordlyd som en forespørsel, med den faktiske kildeteksten og identifikatorene ved siden av hver lagret vektor.

En kunnskapssøkesamling kan for eksempel indeksere tekniske instruksjoner og produktforklaringer. En forespørsel om hva som skjer etter en mislykket import, bør returnere kildepassasjen som beskriver adferden. Bevar overskrifter, relevante betingelser og kildeplasseringen med passasjen, slik at søketreffet kan undersøkes eller brukes av et senere RAG-svartrinn. Embeddingvektoren er den numeriske gjenfinningsrepresentasjonen; den underliggende passasjen er evidensen i det senere trinnet.

Dimensjoner og resultatdatatyper

Det dokumenterte kontekstvinduet per tekst er 32 000 tokener. Valgbare dimensjoner er 256, 512, 1024 og 2048, med 1024 som standard. Matryoshka-læring gir disse nestede representasjonsstørrelsene. Resultatet kan bruke 32-biters flyttall, 8-biters heltall med eller uten fortegn eller pakkede binærverdier, muliggjort av familiens kvantiseringsbevisste forberedelse.

Med pakket binærresultat lagrer hver returnerte byte åtte embeddingbiter, så byte-listens lengde er en åttendedel av den valgte dimensjonen. Byteantallet og embeddingdimensjonen har ulike betydninger. Velg representasjonen søkeindeksen kan tolke, og undersøk kandidatrelevans på spørsmålene og språkene samlingen faktisk bruker før du velger en komprimert konfigurasjon.

Inndatalengde, batchbehandling og avkorting

Produsentens gjeldende tekstembeddingveiledning tillater opptil 1000 strenger og 320 000 tokener totalt i en voyage-4-forespørsel. Batchbudsjettet er atskilt fra vinduet på 32 000 tokener for hver inndatatekst. Avkorting er aktivert som standard: For lang tekst forkortes for å få plass. Hvis avkorting deaktiveres, gir et for langt element en feil i stedet.

For en lang rapport eller transkripsjon forbereder du bevisst passasjer som inneholder svar, fremfor å stole på et kutt ved inndatagrensen. Hold hver passasje koblet til det overordnede dokumentet og kildeversjonen. Vanlige voyage-4-embeddinginndata er individuelle tekster; kontekstualisert behandling av grupper med dokumentstykker tilhører de separat dokumenterte kontekstuelle embeddingmodellene.

Bruk gjenfinningsresultatet

Lagre vektorene med passasjeteksten og stabile kildeidentifikatorer, sammenlign hver forespørselsvektor med kompatible dokumentvektorer og returner kandidatpassasjer. Familieutgivelsen vurderer gjenfinning på materiale som inkluderer tekniske dokumenter, samtaler, lange dokumenter, kode, juss, finans og nettekst. En separat reranker kan finjustere kandidatene, og et senere svartrinn kan bruke teksten deres. Vurder de returnerte passasjene mot oppgaven; kompatibilitet i felles rom muliggjør modellkombinasjonen, mens nytten av et resultat fortsatt avhenger av kildematerialet og spørsmålet.