VoyageAI by MongoDB: rerank-2.5

rerank-2.5 är Voyage AI:s instruktionsföljande omrangordnare, utformad för att förfina en uppsättning sökkandidater. Den granskar frågan och varje dokument tillsammans som en korsenkodare och returnerar sedan en relevansordning. Tillverkarens utgåva betonar kontroll på naturligt språk över vad som räknas som relevant, flerspråkig hämtning och en längre fråga–dokument-kontext än den föregående rerank-2-utgåvan.

Ge modellen kandidaterna som ska jämföras

Indata är en fråga och en lista med kandidatdokument i text. Dessa kan vara avsnitt valda genom embeddingsökning eller ett lexikalt första söksteg. Omrangordnaren bedömer den tillhandahållna texten i stället för att skapa embeddings för textsamlingen, så dess praktiska uppgift är att förfina kandidaterna som den första sökningen redan hittade.

Behåll den ursprungliga kandidatordningen och källidentifierarna när listan förbereds. De returnerade indexen hänvisar till dessa indatapositioner. För en RAG-uppgift tillhandahåller du textavsnitten som svarsteget faktiskt kan använda, inklusive titeln eller villkoren som behövs för att tolka dem. Ett relevant dokument som saknas i den inskickade kandidatuppsättningen kan inte dyka upp som ett nyfunnet resultat av omrangordningen.

Ange den avsedda innebörden av relevans

Instruktioner kan läggas till efter eller före frågan. Utgåvan beskriver tre användbara roller: betona en särskild del av ett dokument, föredra en källtyp och göra frågan entydig med applikationskontext. Dessa ändrar relevansuppgiften som presenteras för modellen.

För en teknisk sökning är en illustrativ instruktion ”Prioritera textavsnitt som förklarar fel- och återhämtningsbeteendet; inledande översikter är sekundära.” För en forskningssamling anger du om titeln, metoden eller resultatet spelar störst roll. För en tvetydig term anger du sökningens ämnesområde. Håll frågan och instruktionen samstämmiga så att den ena inte efterfrågar ett brett ämne medan den andra tyst ändrar uppgiften.

Dessa önskemål styr relevanspoängsättningen. Om applikationen har strikta behörighetskrav — som källversion, datum eller åtkomstomfattning — förbereder du den tillåtna kandidatuppsättningen separat. Modellens relevansinstruktion och en deterministisk samlingsbegränsning fyller olika syften.

Rangordnade utdata och senare användning av resultat

Resultaten ordnas efter fallande relevans och innehåller en relevanspoäng som flyttal och kandidatens ursprungliga indataindex. Alternativet top-k väljer hur många ledande resultat som returneras; utan det returnerar tillverkarens specifikation resultat för alla inskickade kandidater. En valfri inställning för return-documents inkluderar motsvarande källtext; annars innehåller svaret index och poäng.

Använd ordningen för att välja textavsnitt för visning eller ett senare svarssteg och håll deras källidentitet intakt. Granska den faktiska texten när rangordningen bedöms: poängen är ett mått på relevans för den inskickade frågan, inget genererat svar eller en verifiering av att dokumentets påståenden är korrekta. Det gör modellen användbar för att förfina tekniskt, juridiskt, finansiellt, medicinskt, konversationsbaserat och flerspråkigt sökmaterial utan att omvandla rangordning till en domänslutsats.

Kontext, total tokenbudget och trunkering

Den dokumenterade frågegränsen är 8 000 token, inklusive instruktioner som placerats i frågan. Frågan plus ett valfritt enskilt kandidatdokument måste rymmas inom 32 000 token och dokumentlistan får innehålla högst 1 000 objekt. Den totala tilldelningen är 600 000 token, räknat som frågetoken multiplicerat med antalet dokument plus alla dokumenttoken. En lång instruktion räknas därför upprepade gånger över kandidatparen.

Antalet utdata för top-k ändrar inte antalet kandidater i den indatatokenberäkningen. Standardtrunkering kortar för långa frågor eller dokument så att kontextgränsen uppfylls; att stänga av den gör att en för lång fråga eller ett för långt par returnerar ett fel. Förbered medvetet textavsnitt som innehåller svaret och håll relevanta villkor inom texten som modellen kommer att se. Bedöm den förfinade ordningen för representativa frågor och instruktioner och skicka sedan de valda originalavsnitten till nästa steg.