BAAI: bge-large-en-v1.5

bge-large-en-v1.5 er BAAIs store engelske utgave for tette embeddingvektorer. Den avbilder en tekst som en 1024-dimensjonal vektor for gjenfinning av tekstutdrag og semantisk sammenligning. Versjon 1.5 er produsentens oppdatering rettet mot en mer nyttig likhetsfordeling og bedre gjenfinning uten instruks. Large er fortsatt et eget sjekkpunkt, adskilt fra Base, Small, de kinesiske utgavene og den flerspråklige BGE-M3-modellen.

Sett opp gjenfinning av tekstutdrag

For en kort søkespørring mot lengre dokumenter anbefaler produsenten spørringsinstruksen «Represent this sentence for searching relevant passages:». Legg den til på spørringssiden; tekstutdragene i korpuset beholder sin egen kildetekst uten denne instruksen. Ved andre bruksområder er direkte tekst tilstrekkelig. BAAI dokumenterer også gjenfinning uten prefikset i v1.5 og anbefaler å velge forberedelsen som virker best på den faktiske oppgaven.

En praktisk kunnskapssamling kan indeksere delene av en engelsk teknisk håndbok. Et spørsmål om hvilken innstilling som endrer utdataformatet, bør returnere delen som forklarer denne innstillingen og vilkårene. Behold overskrift, relevant forklaring og kildeplassering sammen med hvert utdrag. Modellen gir den numeriske representasjonen; den returnerte kildeteksten er det en leser eller et senere RAG-trinn bruker.

Representasjon og samsvar

Produsentens direkte kodingseksempel bruker den siste skjulte tilstanden til det første CLS-tokenet som samlet embedding og normaliserer deretter vektoren. Sammenligning av normaliserte vektorer med et skalarprodukt gir cosinuslikhet. Hvert tekstutdrag kan derfor forberedes én gang og lagres for sammenligning med innkommende spørringsvektorer, mens endret kildemateriale får en oppdatert representasjon.

De 1024 dimensjonene angir lengden på utdatavektoren. De skiller seg fra Bases 768-dimensjonale representasjon og etablerer ikke et kompatibelt felles rom med et annet sjekkpunkt. Hold modellvalget og forberedelseskonvensjonen knyttet til den lagrede indeksen. En endring i embeddingutgaven krever at korpus- og spørringsrepresentasjonene kontrolleres sammen.

Tilpass kilden til vinduet

Den dokumenterte sekvenslengden er 512 tokener. Forbered en lang håndbok som sammenhengende deler i stedet for én for stor inngang. Hold et vilkår eller unntak ved siden av regelen det presiserer, og ta med nok kontekst til at en gjenfunnet del gir mening på egen hånd. En ekstra spørringsinstruks bruker også inngående tokener, så modellvinduet gjelder hele den forberedte inngangen.

En nyttig grense for tekstutdrag kan inkludere en overskrift og avsnittene som besvarer ett brukerspørsmål. Bevar identifikatoren og versjonen til hoveddokumentet utenfor vektoren, slik at et resultat fortsatt kan spores til riktig kilde. For en sammenligningsoppgave bruker du de faktiske tekstene som skal sammenlignes, i stedet for å erstatte dem med uvedkommende sammendrag som fjerner forskjellen du trenger å finne.

Tolk poengsummen

Produsenten advarer mot å behandle absolutt likhet som en universell regel for semantisk ekvivalens. Relativ rekkefølge etter poengsum er sentral for gjenfinning, og en terskel bør kalibreres på tekstfordelingen i selve oppgaven. Vurder kandidatpassasjer for spørsmål med kjente svar og for spørsmål der svaret ikke finnes. Dette viser om en returnert del gir den påkrevde informasjonen i stedet for bare å ligne på temaet.

bge-large-en-v1.5 gir engelske, tette vektorer. En separat omrangerer kan finjustere kandidatrekkefølgen, og en separat språkmodell kan utforme et svar fra de valgte utdragene. Den nyttige leveransen fra denne utgaven er en søkbar representasjon knyttet til kildeteksten, med det nøyaktige modellvalget Large v1.5 og inndataforberedelsen beholdt.