Sentence Transformers: multi-qa-mpnet-base-dot-v1

multi-qa-mpnet-base-dot-v1 è un modello di Sentence Transformers progettato per recuperare passaggi testuali per una domanda o una query. Il suo addestramento ha usato circa 215 milioni di coppie domanda–risposta. Ogni input diventa un vettore denso a 768 dimensioni, con pooling CLS e punteggio tramite prodotto scalare che definiscono questa esatta edizione.

Preparare una domanda e passaggi candidati

Scrivi la query come bisogno informativo e prepara le voci del corpus come passaggi testuali leggibili. Per esempio, una domanda sulla modifica di un indirizzo di consegna può essere confrontata con paragrafi separati su cambi di indirizzo, annullamento dell’ordine e tracciamento della consegna. Mantieni le condizioni pertinenti nel passaggio sul cambio di indirizzo, compreso il fatto che l’ordine sia già stato spedito o meno.

Codifica query e passaggi con questo stesso modello. L’esempio pubblicato lo fa direttamente, senza un prefisso di query o documento, e ordina i passaggi secondo i punteggi del prodotto scalare. Mantieni ogni vettore collegato al passaggio originale e all’identificatore del documento, affinché il risultato ordinato possa mostrare il materiale effettivamente indicizzato.

Pooling CLS e l’edizione a prodotto scalare

La ricetta di riferimento del modello prende la rappresentazione del primo token, nota come pooling CLS. La sua tabella tecnica afferma esplicitamente che gli embedding non sono normalizzati e indica il prodotto scalare come funzione di punteggio adatta. Preserva quella ricetta quando imposti la raccolta e il lato delle query.

La normalizzazione L2 di questi vettori ne cambia la geometria dei punteggi. Il profilo normalizzato all-mpnet-base-v2 usa una ricetta diversa ed è un checkpoint separato, nonostante condivida la famiglia MPNet e un output a 768 componenti. Mantieni l’edizione esatta e la funzione di confronto insieme alla raccolta memorizzata, anziché sceglierle soltanto dalla lunghezza dei vettori.

Limite di lunghezza e passaggi più lunghi

Il limite di input dichiarato è di 512 unità subword; il testo più lungo viene troncato. Il produttore osserva inoltre che gli input di addestramento raggiungevano soltanto 250 unità subword e che il testo più lungo può funzionare meno bene. La lunghezza accettata dal tokenizer e l’avvertenza sulla lunghezza di addestramento descrivono quindi confini pratici differenti.

Per un articolo di aiuto esteso, prepara sezioni brevi che rispondano a domande specifiche. Conserva un titolo quando identifica l’argomento e mantieni una regola con l’eccezione necessaria per leggerla correttamente. Un unico input di pagina intera può perdere materiale successivo per troncamento, mentre un frammento troppo piccolo può perdere la condizione che lo rende utile.

Usare l’ordinamento nel recupero e nel RAG

I vettori densi supportano una prima fase di recupero. Restituisci i passaggi candidati con i punteggi più alti insieme ai riferimenti alle fonti, quindi esamina se affrontano la domanda effettiva. In un flusso RAG, fornisci quei passaggi come materiale di origine alla fase di scrittura della risposta; il recupero stesso non compone la risposta.

Usa domande rappresentative con passaggi pertinenti noti per scegliere il numero di risultati e valutare l’ordinamento. Includi esempi con vocabolario simile ma intento diverso, come modificare un indirizzo rispetto a visualizzare quello attuale. Interpreta i punteggi relativamente ai candidati sotto lo stesso modello e la stessa configurazione di punteggio, anziché come probabilità calibrate di correttezza.

L’output utile di questo checkpoint è uno spazio di embedding per domande e passaggi destinato alla ricerca semantica. Vettori non normalizzati, pooling CLS, punteggio a prodotto scalare e l’avvertenza pubblicata sugli input lunghi sono i dettagli da preservare quando si preparano e si usano i risultati.