Cohere: Rerank 4 Pro

Cohere Rerank 4 Pro is het kwaliteitsgerichte model binnen de Rerank 4-familie van Cohere. Het beoordeelt kandidaatdocumenten ten opzichte van een zoekvraag en geeft hun volgorde op relevantie en hun scores terug. Het model is bedoeld voor complexe zoektaken, waaronder meertalige documenten en semigestructureerde informatie. Het past in een zoekproces of werkproces met opgehaalde bronnen nadat een bestaand systeem kandidaten heeft verzameld: het resultaat helpt kiezen welke passages worden getoond of als bewijs aan de volgende stap worden aangeleverd.

De ontwikkelaars-ID is rerank-v4.0-pro, afzonderlijk van rerank-v4.0-fast en rerank-v3.5. Pro is gepositioneerd voor complexe gevallen waarin zoekkwaliteit vooropstaat, terwijl Fast zich richt op lagere vertraging en hogere verwerkingscapaciteit. Beide Rerank 4-edities gebruiken een context van 32.768 tokens. De zoekvraag en één kandidaatdocument delen dat budget; het is geen afzonderlijk volledig venster voor elk invoerveld of een limiet voor het hele opgeslagen zoekcorpus.

Lever een duidelijke zoekvraag en een lijst met kandidaatteksten als strings aan. Elk teruggegeven resultaat bevat de oorspronkelijke documentindex en een relevantiescore, en top_n kan bepalen hoeveel gerangschikte resultaten worden teruggegeven; zonder die parameter geeft de ontwikkelaar alle resultaten terug. Bewaar bij elke invoer een bron-ID, zodat de rangschikking aan de exacte passage kan worden gekoppeld. Vraag bij een ondersteuningsvraag naar de vereiste voorwaarden en lever de kandidaatsecties van het beleid aan, in plaats van te verwachten dat de reranker beleid vindt dat niet in de lijst staat.

Het model ondersteunt meer dan 100 talen en kan Engels en niet-Engels materiaal opnieuw rangschikken. Vermeld bij een zoekvraag met meerdere vereisten de voorwaarden die een passage bruikbaar maken, zoals het product, de situatie en de benodigde procedure. Voor semigestructureerde records beveelt Cohere YAML-strings aan, in plaats van ruwe objecten door te geven in de V2-documentlijst. Zet betekenisvolle velden zoals titel en inhoud in een bewuste volgorde, omdat afkappen latere velden kan verwijderen. Deze voorbereiding is bruikbaar voor productrecords, berichten en documentmetadata, evenals voor gewone tekst.

De modelspecifieke voorbereidingshandleiding beperkt de Rerank 4-zoekvraag tot de eerste 16.384 tokens. Ze beschrijft de verwerking van langere documenten via fragmenten die de context van 32.768 tokens delen met de zoekvraag en gereserveerde tokens. De huidige V2-referentie stelt max_tokens_per_doc afzonderlijk standaard in op 4096 en vermeldt dat langere documentstrings tot die instelling worden afgekapt. Behandel het modelvenster en de documentafkapping van het ontwikkelaarsverzoek als verschillende instellingen. Bereid beknopte relevante passages voor of kies een passend documentbudget, in plaats van aan te nemen dat elke lange bron altijd volledig wordt gelezen.

Voor aanbevolen verzoekprestaties raadt Cohere af meer dan 1.000 documenten tegelijk te versturen. Bewaar kandidaat-ID’s wanneer je een grotere lijst in beheersbare groepen opdeelt. Relevantiescores worden genormaliseerd tussen 0 en 1, maar hangen af van de zoekvraag en de kandidaten; ze zijn geen lineaire maatstaf voor feitelijke correctheid. Gebruik de volgorde als het belangrijkste zoekresultaat. Stel bij filtering op een scoredrempel die drempel vast met representatieve zoekvragen en passages met grensgevallen van relevantie uit het daadwerkelijke domein, in plaats van een universele grens aan te nemen.

Een bruikbaar eindresultaat is een gerangschikte kandidatenlijst met bron-ID’s en scores, klaar voor zoekresultaten of een stap voor bewijsselectie. Een document met een hoge relevantiescore kan nog steeds verouderde of onjuiste informatie bevatten; bewaar daarom de bron en inhoud voor de stap die deze gebruikt. Het doel van Pro is relevantie beoordelen, niet een vrij geformuleerd antwoord schrijven of embeddings genereren. Bewaar de exacte Pro-editie bij het resultaat wanneer je een zoekproces vergelijkt of verfijnt.