Intfloat: Multilingual-E5-Large

Multilingual-E5-Large er intfloats flersprogede model til tætte tekstembeddings med fireogtyve lag og et 1024-dimensionalt output. Den er initialiseret fra XLM-RoBERTa Large og videre trænet på flersprogede data. Modelkortet beskriver understøttelse af XLM-R’s omfang på hundrede sprog og påpeger samtidig svagere ydeevne for sprog med få træningsressourcer. Dens vektorer repræsenterer tekst til genfinding, semantisk sammenligning og opgaver med numeriske features.

Bevar inputrollen på alle sprog

De indlærte præfikser er »query:« og »passage:«, også for ikke-engelsk tekst. En søgeforespørgsel og dens korpuspassager bruger deres respektive roller. Præfikserne forbliver disse engelske strenge, mens kildens ordlyd bevarer sit eget sprog. Til symmetrisk semantisk lighed, parafrasegenfinding, udvinding af paralleltekst eller brug som features anbefaler producenten »query:«.

En praktisk samling kan indeholde dokumentation på flere understøttede sprog. Gem hver passages sprog, oprindelige tekst og kildeplacering sammen med dens vektor. Forbered virkelige søgespørgsmål fra målgruppen frem for at antage, at én engelsk test repræsenterer hele samlingen. Outputtet bør returnere den faktiske passage og dens kontekst, så læseren kan vurdere, hvad den siger.

Ved en flersproget matchningsopgave skal formålet med sammenligningen holdes tydeligt. Et muligt oversættelsespar og en forespørgsel, der søger en understøttende passage, kræver forskellig forberedelse. Modellens vejledning om rollepræfikser giver en konkret konvention for disse opgaver; at udelade præfikset er ikke det dokumenterede tilsvarende input, fordi det ændrer det inputmønster, der blev brugt under træning.

Pooling og vektorsammenligning

Producentens eksempel beregner gennemsnittet af tokenrepræsentationer med en attention-maske, der udelukker padding, og normaliserer derefter vektoren. Normaliserede prikprodukter giver cosinuslighed. Det 1024-dimensionale array repræsenterer én forberedt tekst. Bevar tilknytningen mellem den præcise model, forberedelsen og de lagrede vektorer, så senere forespørgsler bruger den tilsvarende repræsentation.

Disse vektorer kan levere kandidatrangeringer eller features til et senere trin med klyngedannelse eller klassifikation. De oversætter ikke kilden og formulerer ikke et svar. Returnér den underliggende passagetekst, når et genfindingsresultat skal understøtte en læser eller et senere genereringstrin med RAG.

Træning og sprogdækning

Modelkortet dokumenterer svagt superviseret kontrastiv fortræning efterfulgt af superviseret finjustering. Den flersprogede forberedelse omfatter materiale som titel–passage-par, samtalepar og oversættelsespar, mens mærkede data til genfinding og sprogforståelse bruges i det senere trin. Det forklarer de tilsigtede tekstrepræsentationsopgaver uden at fastslå ens ydeevne på alle sprog.

Producenten angiver udtrykkeligt forringet ydeevne for sprog med få ressourcer som en begrænsning. Kontrollér samlingens faktiske sprog og ordlyd, herunder forkortelser, navne og specialiseret ordforråd. Betegnelsen flersproget er en nyttig beskrivelse af omfanget; den returnerede teksts relevans skal stadig undersøges for målgruppen og opgaven.

Længde og nyttige resultater

Langt input afkortes til højst 512 tokens. Forbered et langt dokument som sammenhængende passager, hvor rollepræfikset og relevante overskrifter er medtaget. Bevar definitioner og forbehold ved siden af det udsagn, de påvirker, og gem en identifikator for det overordnede dokument og kildeversionen uden for vektoren.

Producenten anbefaler at fokusere på den relative rækkefølge af cosinusscorer frem for at behandle en absolut værdi som et universelt konfidensmål. Et nyttigt resultat er et sæt kandidatpassager, sammenlignelige tekstrepræsentationer eller features knyttet til deres oprindelige poster. Denne præcise model er fortsat adskilt fra de rent engelsksprogede E5 v2-checkpoints og fra instruktionsfinjusterede E5-varianter, selv når en anden model også returnerer 1024 værdier.