BAAI: bge-base-en-v1.5

bge-base-en-v1.5 er BAAIs engelske modell for tette embeddinger i basestørrelse. Den omdanner hver tekst til en 768-dimensjonal numerisk representasjon for gjenfinning og semantisk sammenligning. Modellen tilhører BGE v1.5-serien, som håndterer den tidligere familiens fordeling av likhetsskårer og forbedrer gjenfinningen når ingen instruksjon er oppgitt. Resultatet er en vektor som brukes til å sammenligne tekster eller finne relevante passasjer.

Forbered forespørsler og passasjer

For en kort forespørsel som søker i lengre passasjer, anbefaler BAAI å sette «Represent this sentence for searching relevant passages:» foran forespørselen. Korpuspassasjene får ikke denne instruksjonen. For andre oppgaver kan originalteksten embeddes direkte. Produsenten påpeker at v1.5 også fungerer uten instruksjon, så forberedelsen bør velges ut fra oppgaven fremfor å behandle prefikset som de eneste gyldige inndataene.

En praktisk søkesamling kan inneholde hjelpeartikler, produktforklaringer eller tekniske instruksjoner. En forespørsel som «How do I change the export format?» bør gjenfinne passasjen som beskriver handlingen. Hold seksjonsoverskriften, relevante betingelser og den faktiske kildeteksten samlet. Lagre passasjens identifikator og plassering sammen med vektoren, slik at et søkeresultat kan returnere noe brukeren kan lese, eller et senere svartrinn kan sitere.

Vektorformat og sammenligning

Den dokumenterte representasjonen bruker den siste skjulte tilstanden til første token, eller CLS-tokenen, som setningsembedding. Produsentens eksempler normaliserer vektoren og sammenligner normaliserte embeddinger med et prikkprodukt, tilsvarende cosinuslikhet. De 768 dimensjonene er størrelsen på denne modellens resultatrepresentasjon; de er ikke en valgbar kontekstlengde eller et tekstgenereringsbudsjett.

Bruk samme modell og forberedelseskonvensjon for forespørsels- og korpusvektorene som sammenlignes. En praktisk kontroll er å gjenfinne kjente passasjer med svar for et lite sett faktiske brukerspørsmål og deretter undersøke teksten som returneres. En kompatibel vektorform lar en indeks lagre representasjonen, mens kildepassasjen fastslår hva resultatet faktisk sier.

Inndatalengde og dokumentforberedelse

Modellens dokumenterte sekvenslengde er 512 tokener. En lang kilde bør derfor deles i sammenhengende passasjer som inneholder svar, før embedding. Behold definisjoner og unntak sammen med utsagnet de kvalifiserer, og bevar forbindelsen mellom en passasje og det overordnede dokumentet. Teksten som skal embeddes, inkluderer enhver instruksjon eller overskrift du legger til, så en kompakt forberedelse gir mer plass til nyttig kildeinnhold.

For en rapport eller håndbok velger du grenser rundt en seksjon eller en liten gruppe relaterte avsnitt. En passasje som bare inneholder en tittel eller et fragment uten emnet det gjelder, kan være vanskelig å tolke når den gjenfinnes. Behold originalteksten og en kildeversjon, slik at en indeksoppdatering kan erstatte det tilsvarende materialet når dokumentet endres.

Skårer og nyttig resultat

BAAI advarer om at absolutte likhetsverdier ikke er universelle terskler for å avgjøre at to tekster betyr det samme. Den relative rangeringen har betydning, og en filtreringsterskel bør velges med fordelingen i oppgavens egne data. Høy vektorlikhet er et gjenfinningssignal, ikke en bekreftelse på at faktaene i passasjen er riktige.

Den nyttige leveransen er en engelsk passasjeindeks, et sett forespørselsvektorer eller numeriske egenskaper for semantisk sammenligning. En separat reranker kan finjustere gjenfunne kandidater, og et separat genereringstrinn kan skrive et svar fra teksten deres. Denne nøyaktige engelske base-modellen i v1.5 er fortsatt forskjellig fra BGE Large, kinesiske utgaver og BGE-M3s flerspråklige og hybride gjenfinningsprofiler.