LiquidAI: LFM2.5-Embedding-350M (free)

LFM2.5-Embedding-350M er LiquidAI’s tætte bi-encoder til flersproget genfinding og genfinding på tværs af sprog. Den producerer én 1024-dimensional vektor for hver tekst og er rettet mod søgning med kort kontekst på elleve sprog. Den navngivne 350M-modelfamilie bruger en bidirektionel tilpasning af LFM2.5-350M-Base; den detaljerede modeltabel angiver cirka 354 millioner parametre for denne embeddingudgave.

En bidirektionel genfindingsrepræsentation

Producenten tilpasser grundmodellen, så attention og lokale konvolutioner kan bruge kontekst på begge sider af en token. Pooling i CLS-stil omdanner den behandlede tekst til én tæt vektor. Modeltabellen beskriver sytten lag: ti konvolutionsblokke, seks attention-blokke og et poolingtrin. Dette er en genfindingsencoder med sin egen forberedelse og sit eget output frem for grundmodellens tekstgenereringsopgave.

Den særskilt navngivne LFM2.5-ColBERT-350M bevarer vektorer pr. token til sen interaktion. Den repræsentation kræver et andet indeks og en anden sammenligningsmetode. Embeddingmodellen her leverer én vektor pr. dokument eller forespørgsel med cosinuslighed som den dokumenterede sammenligning.

Brug de korrekte asymmetriske prompts

Forbered søgeforespørgsler med »query:« og kildepassager med »document:«. Producenten lagrer disse prompts i konfigurationen, og referencearbejdsgangen anvender det tilsvarende promptnavn. Producenten anbefaler specifikt den tilsvarende rolle på hver side, fordi modellen blev trænet med disse præfikser. Dette dokumentpræfiks adskiller sig fra E5-modellernes »passage:«-konvention.

En praktisk samling til produktsøgning kan indeholde beskrivelser på de understøttede sprog. Forbered brugerens søgeordlyd som en forespørgsel og hver produktbeskrivelse som et dokument. Gem den oprindelige tekst, produktidentifikatoren og sproget sammen med vektoren, så et søgeresultat kan returnere den tilsvarende post. Ved en supportsamling skal du bevare den regel eller instruktion, der er relevant for spørgsmålet, frem for at erstatte den med en uvedkommende kort etiket.

Sprog og passagestørrelse

Det dokumenterede sprogsæt er engelsk, spansk, tysk, fransk, italiensk, portugisisk, arabisk, svensk, norsk, japansk og koreansk. Producenten sigter udtrykkeligt mod både genfinding inden for ét sprog og på tværs af sproggrænser. Forbered virkelige spørgsmål fra den tilsigtede målgruppe, og undersøg den returnerede dokumenttekst på disse sprog.

Specifikationen for dokumentlængde er 512 tokens. Opdel en lang kilde i sammenhængende passager, som bevarer overskriften, definitionerne og de betingelser, der kræves for et genfundet resultat. Rollepræfikset og tilføjet kontekst indgår i det forberedte input. Et FAQ-svar, en produktforklaring eller et fokuseret afsnit i et teknisk dokument er en mere passende enhed end en hel, for stor manual.

Træning og matchning

Producenten beskriver tre træningstrin: engelsk kontrastiv fortræning, flersproget destillation og destillation på tværs af sprog samt finjustering med svært skelnelige negative eksempler udvalgt ved mining. Den resulterende model er beregnet til produktkataloger, FAQ- og supportsamlinger, fil- eller notesøgning og genfinding i virksomheders viden. Det er opgaver til tekstrepræsentationerne, ikke påstande om en bestemt applikations udrulning.

Producentens eksempel normaliserer forespørgsels- og dokumentvektorer og rangerer dem med et prikprodukt, svarende til cosinuslighed. Forudberegn korpusrepræsentationerne, når kildematerialet er forberedt, og embed derefter en søgeforespørgsel og returnér kandidatdokumenter med tekst og identifikatorer. Gem den valgte model og rollekonvention sammen med indekset, så den numeriske sammenligning bruger kompatible repræsentationer.

Det nyttige resultat er et kompakt, tæt søgeindeks eller en forespørgselsvektor, som genfinder kildemateriale på tværs af det dokumenterede sprogsæt. Denne præcise LFM2.5 Embedding-udgave er fortsat adskilt fra sin ColBERT-ledsager, ældre LFM2-genfindingsmodeller og eksternt kvantiserede implementeringer. Den valgte passagetekst er den evidens, som en læser eller et senere RAG-svartrin bruger.