Thenlper: GTE-Large

GTE-large er den store General Text Embeddings-model trænet af Alibaba DAMO Academy. Det er en engelsksproget tekstencoder, hovedsageligt baseret på BERT-rammeværket, med en tæt repræsentation på 1024 dimensioner for hvert input. Producenten træner GTE-familien på relevanspar af tekst på tværs af domæner og angiver genfinding, semantisk tekstlighed og tekstreranking som efterfølgende anvendelser.

Repræsentér indholdet i et afsnit

Forbered den engelske passage, der skal sammenlignes med en søgeforespørgsel. Ved en samling af tekniske rapporter skal du bevare et kort afsnits emne, observation og relevante betingelse. En rapport, der kun beskriver vibration ved en bestemt belastning, bør bevare denne betingelse frem for at efterlade et generelt udsagn om vibration.

Gem kildeidentifikatorer, dokumenttitler og afsnitsplaceringer sammen med de lagrede vektorer. En forespørgsel kan genfinde kandidatafsnit, mens den oprindelige rapport fortsat er tilgængelig til at kontrollere udstyr, betingelse og konklusion. Embeddingvektoren giver en numerisk repræsentation af passagens indhold.

Pooling, normalisering og vektorbrug

Den offentliggjorte opskrift bruger gennemsnitspooling over tokenrepræsentationer med attention-masken og udelukker padding fra gennemsnittet. Den viser også valgfri L2-normalisering efterfulgt af prikproduktsammenligning af normaliserede vektorer. Sentence Transformers-eksemplet bruger cosinuslighed.

Bevar samme indstillinger for forberedelse, pooling og sammenligning på tværs af samlingen og forespørgselssiden. Hver repræsentation indeholder 1024 komponenter. Det større komponentantal er en udgavedetalje; det fastslår ikke, at GTE-large-vektorer kan blandes med den 768-dimensionale GTE-base-repræsentation eller en anden 1024-dimensional encoder.

En rerankingarbejdsgang kan sammenligne en forespørgselsembedding med et allerede genfundet sæt kandidatembeddings og omordne posterne. Bevar forskellen mellem denne vektorsammenligning og en separat model, der vurderer et forespørgsels–passage-par samlet.

Inputlængde og begrænsning til engelsk

Modelkortet begrænser udtrykkeligt denne præcise model til engelsk tekst og afkorter lange input til højst 512 tokens. Opdel en lang teknisk rapport i sammenhængende afsnit, og bevar tilstrækkelig lokal kontekst til, at hvert afsnit kan stå alene. Hvis en sætning afhænger af et forudgående forbehold, skal dette forbehold bevares i samme indekserede enhed, når det kan være der.

En tokengrænse er forskellig fra et synligt antal ord. Kontrollér længden af det forberedte afsnit, og sørg for, at den detalje, den tilsigtede søgning kræver, ikke ligger efter den del, der bevares ved afkortning.

Undersøg den genfundne evidens

Ved en applikation til rapportsøgning skal kandidatafsnit præsenteres med kildeplaceringer, og deres faktiske indhold undersøges. Lignende observationer kan have forskellige årsager eller anbefalinger. En vektorscore hjælper med at ordne kandidaterne under den valgte sammenligningsopsætning; den fastslår ikke, at en rapports konklusion gælder i en ny situation.

Ved RAG skal de valgte afsnit bruges som kildekontekst til svarskrivningstrinnet, og deres dokumenttilknytninger bevares. Denne præcise GTE-large-profil leverer engelske tætte embeddings med 1024 dimensioner og en inputgrænse på 512 tokens. Senere flersprogede GTE-udgaver og udgaver med udvidet kontekst har særskilte identiteter, så deres sprogdækning eller inputindstillinger følger ikke af dette checkpoints familienavn.