Thenlper: GTE-Base

GTE-base er General Text Embeddings-modellen i basisstørrelse trænet af Alibaba DAMO Academy. Denne engelske tekstencoder er hovedsageligt baseret på BERT-rammeværket og producerer tætte vektorer med 768 dimensioner. Træningen bruger et stort korpus af relevanspar på tværs af domæner med informationsgenfinding, semantisk tekstlighed og embeddingbaseret tekstreranking blandt de angivne anvendelser.

Forbered engelske forespørgsler og passager

Brug læsbar engelsk tekst til både informationsbehovet og det materiale, der skal søges i. En forespørgsel om udskiftning af en slidt komponent kan eksempelvis sammenlignes med korte vedligeholdelsesafsnit, der beskriver udskiftningskriterier, inspektionstrin og bestillingsinstruktioner. Bevar komponentnavnet og de betingelser, der adskiller afsnittene.

Det offentliggjorte eksempel koder spørgsmål og kandidattekst direkte uden en tilføjet opgaveinstruktion. Hold denne forberedelse ens på tværs af samlingen og senere forespørgsler. Gem den oprindelige passage og dens identifikator sammen med vektoren, så et rangeret resultat kan vise den information, der blev repræsenteret.

Gennemsnitspooling og sammenligning

Referenceopskriften beregner gennemsnittet af modellens tokenrepræsentationer med attention-masken, så paddingpositioner ikke bidrager til resultatet. Derefter viser den valgfri L2-normalisering og sammenligner de normaliserede vektorer gennem deres prikprodukt. Et separat eksempel bruger cosinuslighed.

Vælg og bevar en ensartet opsætning for normalisering og sammenligning til indeksering og genfinding. Outputtet indeholder 768 numeriske komponenter; det indeholder ikke et genereret svar. Ved et trin til kandidatreranking skal kandidatpassagerne kodes med samme model og ordnes efter deres lighed med forespørgslen. Det er fortsat embeddingbaseret sammenligning frem for en påstand om, at modellen læser hvert forespørgsels–passage-par samlet som en cross-encoder.

Engelsk omfang og input på 512 tokens

Det præcise modelkort begrænser modellen til engelsk tekst og oplyser, at lange input afkortes til højst 512 tokens. En lang manual bør derfor opdeles i meningsfulde afsnit før indeksering. Hold en advarsel, undtagelse eller et forbehold sammen med den regel, det ændrer, når disse detaljer kræves for at fortolke passagen.

Ved en forespørgsel om vedligeholdelsesintervaller er et afsnit med intervallet og driftsbetingelsen mere nyttigt end et fragment med kun et tal. Bevar overskriften eller udstyrsidentiteten, når den gør instruktionen entydig. Kontrollér tokenizerlængden frem for at stole på det synlige antal ord.

Brug kildepassagerne bag scoren

Genfinding returnerer kandidater fra den indekserede samling. Undersøg de øverst rangerede passager i forhold til den præcise opgave, og bevar kildeplaceringerne, når de sendes videre til et RAG-svarskrivningstrin. En relateret passage kan beskrive inspektion uden at tillade udskiftning; den forskel skal forblive synlig i kildematerialet.

GTE-base adskiller sig fra GTE-large, som producerer 1024-dimensionale vektorer, og fra senere flersprogede GTE-udgaver eller udgaver med udvidet kontekst. Dens offentliggjorte modelidentitet definerer det engelske omfang, repræsentationen på 768 komponenter og grænsen på 512 tokens. Brug denne præcise profil med repræsentative forespørgsler og kildeposter, når en genfindingssamling vurderes.