Sentence Transformers: all-mpnet-base-v2

all-mpnet-base-v2 è un modello di Sentence Transformers per rappresentare frasi e brevi paragrafi come vettori densi a 768 dimensioni. È stato adattato dal modello base MPNet con apprendimento contrastivo su una raccolta di un miliardo di coppie di frasi. Il produttore identifica recupero di informazioni, clustering e similarità tra frasi come usi previsti.

Codificare una frase o un breve paragrafo

Prepara il testo da confrontare mantenendo l’idea principale e i dettagli distintivi. Per una raccolta documentale interna, una sezione breve potrebbe descrivere come richiedere la sostituzione di un’apparecchiatura o quali informazioni debba contenere un rapporto di manutenzione. Mantieni disponibili il titolo del documento e la posizione nella fonte insieme al vettore.

Una query codificata con lo stesso modello può recuperare sezioni correlate anche quando la formulazione differisce. Esamina quelle sezioni per individuare l’istruzione effettiva necessaria al lettore. Per un flusso di similarità, confronta le frasi candidate stesse dopo il recupero, soprattutto quando una include un’eccezione o una condizione assente nell’altra.

Pooling medio e normalizzazione

L’esempio di codifica di riferimento calcola la media delle rappresentazioni contestuali dei token usando la maschera di attenzione, escludendo il padding dalla media. Applica poi la normalizzazione L2 agli embedding di frase risultanti. Preserva entrambi i passaggi quando produci vettori per una raccolta e per query successive.

Ogni vettore ha 768 componenti. La similarità del coseno può confrontare queste rappresentazioni normalizzate, mentre il testo di origine fornisce gli elementi alla base di un risultato. Il numero comune di componenti non rende questo modello compatibile con multi-qa-mpnet-base-dot-v1: quell’edizione separata specifica pooling CLS e vettori non normalizzati per punteggi a prodotto scalare.

Troncamento predefinito e preparazione dei passaggi

Il produttore afferma che l’input oltre 384 unità subword viene troncato per impostazione predefinita. Mantieni la sezione pertinente entro quel confine del tokenizer. Per una procedura lunga, suddividi in corrispondenza di sezioni significative e includi abbastanza contesto locale da spiegare a che cosa si applica un passaggio. Un frammento come «Submit within five days» richiede l’evento o il processo da cui decorre la scadenza.

La procedura di addestramento limitava le sequenze a 128 token, un’impostazione distinta dal valore predefinito pubblicato di 384 unità subword per la codifica. Usa materiale rappresentativo quando valuti paragrafi più lunghi o vocabolario specifico della raccolta. Il fatto che più testo rientri nell’input non stabilisce che ogni dettaglio influenzerà allo stesso modo un risultato di recupero.

Recupero, raggruppamento e confronto

Per la ricerca, mantieni l’associazione tra vettore e documento, affinché i candidati ordinati possano restituire le sezioni originali. In un flusso RAG, le sezioni selezionate diventano contesto per la fase di scrittura della risposta. Il modello fornisce rappresentazioni numeriche; non genera una risposta basata su fonti e non decide quale documento sia autorevole.

Per il clustering, confronta i record di ogni gruppo proposto prima di assegnare etichette. Un insieme di note di manutenzione può contenere linguaggio simile ma riferirsi a dispositivi o condizioni di guasto differenti. Includi questi dettagli distintivi nel testo codificato ed esaminali nel materiale restituito, anziché affidarti soltanto a un punteggio.

Questo checkpoint esatto all-mpnet-base-v2 è un profilo inglese di embedding di frasi con proprie impostazioni di pooling medio, normalizzazione e troncamento predefinito. Mantieni tali impostazioni insieme alla raccolta indicizzata e usa i vettori come ausilio per trovare e confrontare i passaggi di origine importanti per l’attività.