Thenlper: GTE-Base

GTE-base è il modello di taglia base General Text Embeddings addestrato da Alibaba DAMO Academy. Questo encoder di testo inglese è principalmente basato sull’architettura BERT e produce vettori densi a 768 dimensioni. Il suo addestramento usa un grande corpus di coppie legate dalla pertinenza in più domini, con recupero di informazioni, similarità semantica testuale e reranking del testo basato sugli embedding tra le applicazioni dichiarate.

Preparare query e passaggi in inglese

Usa testo inglese leggibile sia per il bisogno informativo sia per il materiale da cercare. Per esempio, una query sulla sostituzione di un componente usurato può essere confrontata con brevi sezioni di manutenzione che descrivono criteri di sostituzione, passaggi di ispezione e istruzioni per l’ordine. Conserva il nome del componente e le condizioni che distinguono quelle sezioni.

L’esempio pubblicato codifica direttamente domande e testo candidato, senza un’istruzione di attività aggiunta. Mantieni quella preparazione coerente tra la raccolta e le query successive. Memorizza il passaggio originale e il suo identificatore accanto al vettore, affinché un risultato ordinato possa mostrare le informazioni rappresentate.

Pooling medio e confronto

La ricetta di riferimento calcola la media delle rappresentazioni dei token del modello usando la maschera di attenzione, impedendo alle posizioni di padding di contribuire al risultato. Mostra poi una normalizzazione L2 facoltativa e confronta i vettori normalizzati tramite il loro prodotto scalare. Un esempio separato usa la similarità del coseno.

Scegli e mantieni una configurazione coerente di normalizzazione e confronto per indicizzazione e recupero. L’output contiene 768 componenti numeriche; non contiene una risposta generata. Per una fase di reranking dei candidati, codifica i passaggi candidati con lo stesso modello e ordinali in base alla similarità con la query. Rimane un confronto basato sugli embedding, anziché un’affermazione che il modello legga congiuntamente ogni coppia query–passaggio come un cross-encoder.

Ambito inglese e input di 512 token

La scheda esatta limita questo modello al testo inglese e afferma che gli input lunghi vengono troncati a un massimo di 512 token. Un manuale lungo dovrebbe quindi diventare sezioni significative prima dell’indicizzazione. Mantieni un’avvertenza, un’eccezione o una precisazione insieme alla regola che modifica quando quei dettagli sono necessari per interpretare il passaggio.

Per una query sugli intervalli di manutenzione, una sezione contenente l’intervallo e la condizione operativa è più utile di un frammento che contiene soltanto un numero. Conserva il titolo o l’identità dell’apparecchiatura quando disambigua l’istruzione. Verifica la lunghezza con il tokenizer anziché affidarti al numero visibile di parole.

Usare i passaggi di origine dietro il punteggio

Il recupero restituisce candidati dalla raccolta indicizzata. Esamina i passaggi in testa rispetto all’attività esatta e conserva le posizioni nelle fonti quando li passi a una fase RAG di scrittura della risposta. Un passaggio correlato può discutere un’ispezione senza autorizzare la sostituzione; tale distinzione deve rimanere visibile nel materiale di origine.

GTE-base è distinto da GTE-large, che produce vettori a 1024 dimensioni, e dalle successive edizioni GTE multilingue o a contesto esteso. La sua identità pubblicata di modello definisce l’ambito inglese, la rappresentazione a 768 componenti e il confine di 512 token. Usa questo profilo esatto con query rappresentative e record di origine quando valuti una raccolta di recupero.