LiquidAI: LFM2.5-Embedding-350M (free)

LFM2.5-Embedding-350M è il bi-encoder denso di LiquidAI per recupero multilingue e tra lingue diverse. Produce un vettore a 1024 dimensioni per ogni testo e mira alla ricerca a contesto breve in undici lingue. La famiglia denominata 350M usa un adattamento bidirezionale di LFM2.5-350M-Base; la tabella dettagliata del modello indica circa 354 milioni di parametri per questa edizione di embedding.

Una rappresentazione bidirezionale per il recupero

Il produttore adatta l’architettura di base affinché attenzione e convoluzioni locali possano usare il contesto su entrambi i lati di un token. Il pooling di tipo CLS trasforma il testo elaborato in un vettore denso. La tabella del modello descrive diciassette strati: dieci blocchi di convoluzione, sei blocchi di attenzione e una fase di pooling. È un encoder di recupero con propria preparazione e output, anziché l’attività di generazione testuale del modello base.

Il modello denominato separatamente LFM2.5-ColBERT-350M conserva vettori per token per l’interazione tardiva. Quella rappresentazione richiede un indice e un metodo di confronto diversi. Il modello Embedding qui descritto fornisce un vettore per documento o query, con la similarità del coseno come confronto documentato.

Usare i prompt asimmetrici corretti

Prepara le query di ricerca con «query:» e i passaggi di origine con «document:». Il produttore memorizza questi prompt nella configurazione e il flusso di riferimento applica il nome di prompt corrispondente. Raccomanda specificamente di usare il ruolo appropriato su ogni lato, perché il modello è stato addestrato con questi prefissi. Questo prefisso di documento è diverso dalla convenzione «passage:» dei modelli E5.

Una raccolta concreta di ricerca di prodotti può contenere descrizioni nelle lingue supportate. Prepara la formulazione di ricerca dell’utente come query e ogni descrizione di prodotto come documento. Memorizza testo originale, identificatore del prodotto e lingua insieme al vettore, affinché un risultato di ricerca possa restituire il record corrispondente. Per una raccolta di assistenza, conserva la regola o l’istruzione pertinente alla domanda anziché sostituirla con un’etichetta breve non correlata.

Lingue e dimensione dei passaggi

L’insieme linguistico documentato comprende inglese, spagnolo, tedesco, francese, italiano, portoghese, arabo, svedese, norvegese, giapponese e coreano. Il produttore mira esplicitamente sia al recupero all’interno di una lingua sia al recupero tra lingue diverse. Prepara domande reali del pubblico previsto ed esamina il testo dei documenti restituiti in quelle lingue.

La specifica di lunghezza del documento è di 512 token. Dividi una fonte lunga in passaggi coerenti che preservino titolo, definizioni e condizioni necessari a un risultato recuperato. Il prefisso di ruolo e il contesto aggiunto fanno parte dell’input preparato. Una risposta di FAQ, una spiegazione di prodotto o una sezione mirata di un documento tecnico sono unità più adatte di un intero manuale eccessivamente grande.

Addestramento e corrispondenza

Il produttore descrive tre fasi di addestramento: pre-addestramento contrastivo inglese, distillazione multilingue e tra lingue diverse, quindi fine-tuning con esempi negativi difficili selezionati. Il modello risultante è destinato a cataloghi di prodotti, raccolte di FAQ e assistenza, ricerca in file o note e recupero di conoscenze aziendali. Sono attività per le rappresentazioni testuali, non affermazioni sul deployment di una particolare applicazione.

L’esempio del produttore normalizza i vettori di query e documenti e li ordina con un prodotto scalare, equivalente alla similarità del coseno. Precalcola le rappresentazioni del corpus quando il materiale di origine è preparato, poi codifica una query di ricerca e restituisci documenti candidati con testo e identificatori. Mantieni il modello selezionato e la convenzione di ruolo insieme all’indice, affinché il confronto numerico usi rappresentazioni compatibili.

Il risultato utile è un indice di ricerca denso e compatto o un vettore di query che recupera materiale di origine nell’insieme linguistico documentato. Questa esatta edizione LFM2.5 Embedding rimane distinta dal modello compagno ColBERT, dai precedenti modelli di recupero LFM2 e dalle implementazioni quantizzate esternamente. Il testo del passaggio selezionato è l’evidenza usata da un lettore o da una successiva fase di risposta RAG.