VoyageAI by MongoDB: rerank-2.5

rerank-2.5 er Voyage AI's instruktionsfølgende reranker, udviklet til at finjustere et sæt søgekandidater. Den undersøger forespørgslen og hvert dokument samlet som en cross-encoder og returnerer derefter en relevansrækkefølge. Producentens udgivelse fremhæver styring i naturligt sprog af, hvad der tæller som relevant, flersproget informationshentning og en længere forespørgsels-dokumentkontekst end den foregående rerank-2-udgave.

Giv modellen de kandidater, den skal sammenligne

Inputtet er en forespørgsel og en liste over kandidattekstdokumenter. De kan være tekststykker udvalgt ved embeddingsøgning eller en leksikalsk førstesøgning. Rerankeren vurderer den leverede tekst frem for at skabe korpusembeddings, så dens praktiske opgave er at finjustere de kandidater, den første søgning allerede fandt.

Bevar kandidaternes oprindelige rækkefølge og kilde-id'er, når listen forberedes. De returnerede indeks henviser til disse inputpositioner. Til en RAG-opgave skal du levere de tekststykker, svartrinnet faktisk kan bruge, inklusive titel eller forbehold, der er nødvendige for at fortolke dem. Et relevant dokument, der mangler i det indsendte kandidatsæt, kan ikke optræde som et nyfundet resultat af omrangering.

Angiv det tilsigtede relevansbegreb

Instruktioner kan tilføjes efter eller før forespørgslen. Udgivelsen beskriver tre nyttige roller: fremhæv en bestemt del af et dokument, foretræk en kildetype, og afklar forespørgslens tvetydighed med applikationskontekst. De ændrer den relevansopgave, modellen får præsenteret.

Til en teknisk søgning er en illustrativ instruktion “Prioritér tekststykker, der forklarer fejlen og genopretningsadfærden; indledende oversigter er sekundære.” Ved en researchsamling skal du angive, om titlen, metoden eller resultatet er vigtigst. Ved en tvetydig term skal du angive søgningens emneområde. Hold spørgsmålet og instruktionen forenelige, så det ene ikke spørger til et bredt emne, mens den anden ubemærket ændrer opgaven.

Disse præferencer styrer relevansscoringen. Hvis applikationen har strenge berettigelseskrav — eksempelvis kildeversion, dato eller adgangsomfang — skal du forberede det berettigede kandidatsæt særskilt. Modellens relevansinstruktion og en deterministisk begrænsning af samlingen har forskellige formål.

Rangeret output og senere brug af resultaterne

Resultaterne ordnes efter faldende relevans og indeholder en relevansscore som flydende kommatal og kandidatens oprindelige inputindeks. Indstillingen top-k vælger, hvor mange øverste resultater der returneres; uden den returnerer producentens specifikation resultater for alle indsendte kandidater. En valgfri return-documents-indstilling medtager den tilsvarende kildetekst; ellers indeholder svaret indeks og scorer.

Brug rækkefølgen til at vælge tekststykker til visning eller et senere svartrin, mens deres kildeidentitet bevares intakt. Undersøg den faktiske tekst, når rangeringen vurderes: scoren er et mål for relevans i forhold til den indsendte forespørgsel, ikke et genereret svar eller en verifikation af, at dokumentets påstande er korrekte. Det gør modellen nyttig til at finjustere teknisk, juridisk, finansielt, medicinsk, samtalebaseret og flersproget søgemateriale uden at omdanne rangering til en domænekonklusion.

Kontekst, samlet tokenbudget og trunkering

Den dokumenterede forespørgselsgrænse er 8.000 tokens inklusive instruktioner placeret i forespørgslen. Forespørgslen plus ethvert enkelt kandidatdokument skal passe inden for 32.000 tokens, og dokumentlisten må indeholde højst 1.000 elementer. Den samlede ramme er 600.000 tokens, talt som forespørgselstokens ganget med dokumentantallet plus alle dokumenttokens. En lang instruktion tælles derfor gentagne gange på tværs af kandidatparrene.

Antallet af outputresultater valgt med top-k ændrer ikke kandidatantallet i denne inputtokenberegning. Standardtrunkering forkorter for lange forespørgsler eller dokumenter for at overholde kontekstgrænsen; deaktivering får en for lang forespørgsel eller et for langt par til at returnere en fejl. Forbered bevidst tekststykker med svarindhold, og hold det relevante forbehold inden for den tekst, modellen vil se. Vurdér den finjusterede rækkefølge på repræsentative spørgsmål og instruktioner, og send derefter de valgte oprindelige tekststykker videre til næste trin.