Thenlper: GTE-Base

GTE-base er baseutgaven av General Text Embeddings-modellen trent av Alibaba DAMO Academy. Denne engelske tekstencoderen er hovedsakelig basert på BERT-rammeverket og produserer tette vektorer med 768 dimensjoner. Treningen bruker et stort korpus av relevanspar på tvers av domener, med informasjonsgjenfinning, semantisk tekstlikhet og embeddingbasert tekstreranking blant de oppgitte bruksområdene.

Forbered engelske forespørsler og passasjer

Bruk lesbar engelsk tekst for både informasjonsbehovet og materialet som skal søkes i. En forespørsel om å erstatte en slitt komponent kan for eksempel sammenlignes med korte vedlikeholdsseksjoner som beskriver utskiftingskriterier, inspeksjonstrinn og bestillingsinstruksjoner. Behold komponentnavnet og betingelsene som skiller seksjonene fra hverandre.

Det publiserte eksemplet koder spørsmål og kandidattekst direkte, uten en ekstra oppgaveinstruksjon. Hold denne forberedelsen konsekvent på tvers av samlingen og senere forespørsler. Lagre originalpassasjen og identifikatoren ved siden av vektoren, slik at et rangert resultat kan vise informasjonen som ble representert.

Gjennomsnittspooling og sammenligning

Referanseoppskriften beregner gjennomsnittet av modellens tokenrepresentasjoner med attention-masken og hindrer paddingposisjoner i å bidra til resultatet. Deretter viser den valgfri L2-normalisering og sammenligner de normaliserte vektorene gjennom prikkproduktet. Et separat eksempel bruker cosinuslikhet.

Velg og behold et konsekvent normaliserings- og sammenligningsoppsett for indeksering og gjenfinning. Resultatet inneholder 768 numeriske komponenter; det inneholder ikke et generert svar. For et kandidatrerankingtrinn koder du kandidatpassasjene med samme modell og ordner dem etter likheten med forespørselen. Dette er fortsatt embeddingbasert sammenligning, ikke en påstand om at modellen leser hvert forespørsel–passasje-par samlet som en cross-encoder.

Engelsk omfang og inndata på 512 tokener

Det nøyaktige modellkortet begrenser modellen til engelsk tekst og sier at lange inndata avkortes til høyst 512 tokener. En lang håndbok bør derfor bli meningsfulle seksjoner før indeksering. Hold advarsler, unntak og forbehold sammen med reglene de påvirker når detaljene trengs for å tolke passasjen.

For en forespørsel om vedlikeholdsintervaller er en seksjon med intervallet og driftsbetingelsen mer nyttig enn et fragment som bare inneholder et tall. Bevar overskriften eller utstyrsidentiteten når den gjør instruksjonen entydig. Kontroller tokenizerlengden fremfor å stole på det synlige antallet ord.

Bruk kildepassasjene bak skåren

Gjenfinning returnerer kandidater fra den indekserte samlingen. Undersøk de øverst rangerte passasjene for den nøyaktige oppgaven og behold kildeplasseringene når de sendes til et RAG-svarskrivingstrinn. En relatert passasje kan omtale inspeksjon uten å tillate utskifting; det skillet må forbli synlig i kildematerialet.

GTE-base er atskilt fra GTE-large, som produserer vektorer med 1024 dimensjoner, og fra senere flerspråklige GTE-utgaver eller utgaver med utvidet kontekst. Den publiserte modellidentiteten definerer det engelske omfanget, representasjonen på 768 komponenter og grensen på 512 tokener. Bruk denne nøyaktige profilen med representative forespørsler og kildeposter når en gjenfinningssamling vurderes.