BAAI: bge-large-en-v1.5

bge-large-en-v1.5 er BAAI’s store engelske udgave til tætte embeddings. Den omsætter en tekst til en vektor med 1024 dimensioner til passagesøgning og semantisk sammenligning. Version 1.5 er udviklerens opdatering, der sigter mod en mere nyttig lighedsfordeling og bedre søgning uden en instruktion. Large er fortsat et separat checkpoint fra Base, Small, kinesiske udgaver og den flersprogede BGE-M3-model.

Forbered passagesøgning

Til en kort søgeforespørgsel mod længere dokumenter anbefaler udvikleren forespørgselsinstruktionen “Represent this sentence for searching relevant passages:”. Føj den til forespørgselssiden; passager i korpusset beholder deres egen kildetekst uden denne instruktion. Ved andre anvendelser er direkte tekst tilstrækkelig. BAAI dokumenterer også søgning uden præfikset i v1.5 og anbefaler at vælge den forberedelse, der virker bedst på den faktiske opgave.

En praktisk videnssamling kan indeksere afsnittene i en engelsk teknisk manual. Et spørgsmål om, hvilken indstilling der ændrer outputformatet, bør returnere det afsnit, der forklarer indstillingen og dens betingelser. Gem overskriften, den relevante forklaring og kildeplaceringen sammen med hver passage. Modellen leverer den numeriske repræsentation; den returnerede kildetekst er det, en læser eller et senere RAG-trin bruger.

Repræsentation og sammenligning

Udviklerens eksempel på direkte kodning bruger det første CLS-tokens sidste skjulte tilstand som samlet embedding og normaliserer derefter vektoren. Skalarproduktet af normaliserede vektorer giver cosinuslighed. Hver passage kan derfor forberedes én gang og gemmes til sammenligning med indgående forespørgselsvektorer, mens ændret kildemateriale får en opdateret repræsentation.

De 1024 dimensioner angiver outputvektorens længde. De adskiller sig fra Base-repræsentationen med 768 dimensioner og fastslår ikke et kompatibelt fælles vektorrum med et andet checkpoint. Gem modellen og forberedelseskonventionen sammen med det lagrede indeks. En ændring af embeddingudgaven kræver kontrol af korpus- og forespørgselsrepræsentationerne samlet.

Tilpas kilden til vinduet

Den dokumenterede sekvenslængde er 512 tokens. Forbered en lang manual som sammenhængende afsnit frem for ét overdimensioneret input. Hold en betingelse eller undtagelse ved siden af den regel, den præciserer, og medtag nok kontekst til, at et fundet afsnit giver mening alene. En tilføjet forespørgselsinstruktion optager også inputtokens, så modellens vindue gælder hele det forberedte input.

En nyttig passagegrænse kan omfatte en overskrift og de afsnit, som besvarer ét brugerspørgsmål. Gem det overordnede dokuments identifikator og version uden for vektoren, så et resultat fortsat kan spores til den rigtige kilde. Brug de faktiske tekster til en sammenligningsopgave i stedet for at erstatte dem med uvedkommende resuméer, som fjerner den forskel, du skal finde.

Fortolk scoren

Udvikleren advarer mod at behandle absolut lighed som en universel regel for semantisk ækvivalens. Den relative scorerækkefølge er central for søgning, og en tærskel bør kalibreres på opgavens egen tekstfordeling. Gennemgå kandidatpassager for spørgsmål med kendte svar og for spørgsmål, hvis svar mangler. Det viser, om et returneret afsnit giver de nødvendige oplysninger i stedet for blot at ligne emnet.

bge-large-en-v1.5 leverer engelske tætte vektorer. En separat reranker kan forbedre kandidaternes rækkefølge, og en separat sprogmodel kan sammensætte et svar ud fra de valgte passager. Det nyttige output fra denne udgave er en søgbar repræsentation knyttet til sin kildetekst med bevaret valg af den præcise Large v1.5-model og inputforberedelse.