Thenlper: GTE-Large

GTE-large è il modello di taglia large General Text Embeddings addestrato da Alibaba DAMO Academy. È un encoder di testo inglese principalmente basato sull’architettura BERT, con una rappresentazione densa a 1024 dimensioni per ogni input. Il produttore addestra la famiglia GTE su coppie di testi legati dalla pertinenza in più domini e identifica recupero, similarità semantica testuale e reranking del testo come applicazioni a valle.

Rappresentare il contenuto di una sezione

Prepara il passaggio inglese che dovrebbe essere confrontato con una query di ricerca. Per una raccolta di rapporti tecnici, conserva soggetto, osservazione e condizione pertinente di una breve sezione. Un rapporto che descrive vibrazioni soltanto sotto un determinato carico dovrebbe preservare quella condizione, anziché lasciare un’affermazione generica sulle vibrazioni.

Mantieni identificatori delle fonti, titoli dei documenti e posizioni delle sezioni insieme ai vettori memorizzati. Una query può recuperare sezioni candidate, mentre il rapporto originale rimane disponibile per verificare apparecchiatura, condizione e conclusione. L’embedding fornisce una rappresentazione numerica del contenuto del passaggio.

Pooling, normalizzazione e uso dei vettori

La ricetta pubblicata usa pooling medio sulle rappresentazioni dei token con la maschera di attenzione, escludendo il padding dalla media. Mostra anche una normalizzazione L2 facoltativa seguita da un confronto a prodotto scalare tra vettori normalizzati. L’esempio Sentence Transformers usa la similarità del coseno.

Mantieni le stesse impostazioni di preparazione, pooling e confronto tra la raccolta e il lato query. Ogni rappresentazione contiene 1024 componenti. Il numero maggiore di componenti è un dettaglio dell’edizione; non stabilisce che i vettori GTE-large possano essere mescolati con la rappresentazione GTE-base a 768 dimensioni o con un altro encoder a 1024 dimensioni.

Un flusso di reranking può confrontare un embedding di query con un insieme di embedding candidati già recuperati e riordinare quei record. Mantieni la distinzione tra quel confronto vettoriale e un modello separato che valuta congiuntamente una coppia query–passaggio.

Lunghezza dell’input e limitazione all’inglese

La scheda limita esplicitamente questo modello esatto al testo inglese e tronca gli input lunghi a un massimo di 512 token. Suddividi un rapporto tecnico lungo in sezioni coerenti e mantieni abbastanza contesto locale affinché ogni sezione sia comprensibile autonomamente. Se una frase dipende da una precisazione precedente, conserva tale precisazione nella stessa unità indicizzata quando rientra nel limite.

Un confine in token è diverso da un conteggio visibile di parole. Verifica la lunghezza della sezione preparata e assicurati che il dettaglio necessario alla ricerca prevista non sia posizionato oltre la parte conservata dopo il troncamento.

Esaminare l’evidenza recuperata

Per un’applicazione di ricerca nei rapporti, presenta sezioni candidate con le posizioni nelle fonti ed esaminane il contenuto effettivo. Osservazioni simili possono avere cause o raccomandazioni differenti. Un punteggio vettoriale aiuta a ordinare i candidati con la configurazione di confronto scelta; non stabilisce che la conclusione di un rapporto si applichi a una nuova situazione.

Per il RAG, usa le sezioni selezionate come contesto di origine per la fase di scrittura della risposta e conserva i collegamenti ai documenti. Questo profilo esatto GTE-large fornisce embedding densi inglesi a 1024 dimensioni e un confine di input di 512 token. Le successive edizioni GTE multilingue e a contesto esteso hanno identità separate, quindi la loro copertura linguistica o le loro impostazioni di input non derivano dal nome di famiglia di questo checkpoint.