Cohere: Rerank 4 Pro

Cohere Rerank 4 Pro is het op kwaliteit gerichte model binnen de Rerank 4-familie van Cohere. Het beoordeelt kandidaatdocumenten ten opzichte van een zoekvraag en geeft hun relevantievolgorde en scores terug. Het model is bedoeld voor complexe retrievaltaken, waaronder meertalige documenten en semigestructureerde informatie. Het past in een zoek- of retrievalondersteunde workflow nadat een bestaand systeem kandidaten heeft verzameld: het resultaat helpt kiezen welke passages moeten worden getoond of als bewijs aan de volgende stap moeten worden meegegeven.

De identificator van de producent is rerank-v4.0-pro, onderscheiden van rerank-v4.0-fast en rerank-v3.5. Pro is gepositioneerd voor complexe gevallen waarin retrievalkwaliteit voorrang heeft, terwijl Fast zich richt op lagere latentie en hogere verwerkingscapaciteit. Beide Rerank 4-edities gebruiken een context van 32.768 tokens. De zoekvraag en één kandidaatdocument delen dat budget; het is geen afzonderlijk volledig venster voor elk invoerveld of een limiet voor het volledige opgeslagen zoekcorpus.

Lever een duidelijke zoekvraag en de lijst met kandidaattekststrings aan. Elk teruggegeven resultaat bevat de oorspronkelijke documentindex en een relevantiescore, en top_n kan kiezen hoeveel gerangschikte resultaten worden teruggegeven; zonder die parameter geeft de producent alle resultaten terug. Bewaar een bronidentificator naast elke invoer, zodat de rangschikking met de exacte passage kan worden verbonden. Vraag voor een ondersteuningsvraag naar de vereiste voorwaarden en lever de kandidaatsecties van het beleid aan, in plaats van te verwachten dat de reranker beleid vindt dat niet in de lijst stond.

Het model ondersteunt meer dan 100 talen en kan Engels en niet-Engels materiaal opnieuw rangschikken. Vermeld voor een zoekvraag met verschillende vereisten de voorwaarden die een passage nuttig maken, zoals het product, de situatie en de benodigde procedure. Voor semigestructureerde records beveelt Cohere YAML-strings aan in plaats van ruwe objecten in de V2-documentlijst door te geven. Zet betekenisvolle velden, zoals titel en inhoud, in een bewuste volgorde, omdat afkapping latere velden kan verwijderen. Deze voorbereiding is nuttig voor productrecords, berichten en documentmetadata, en ook voor gewone lopende tekst.

De modelspecifieke voorbereidingsgids beperkt de Rerank 4-zoekvraag tot de eerste 16.384 tokens. Ze beschrijft de verwerking van langere documenten via fragmenten die de context van 32.768 tokens delen met de zoekvraag en gereserveerde tokens. De huidige V2-referentie stelt max_tokens_per_doc afzonderlijk standaard op 4.096 en vermeldt dat langere documentstrings tot die instelling worden afgekapt. Behandel het modelvenster en de documentafkapping van de producentaanvraag als verschillende besturingsopties. Bereid beknopte relevante passages voor of kies een passend documentbudget, in plaats van aan te nemen dat elke lange bron altijd volledig wordt gelezen.

Voor de aanbevolen aanvraagprestaties raadt Cohere af om meer dan 1.000 documenten tegelijk te sturen. Behoud kandidaatidentificatoren wanneer je een grotere lijst in beheersbare groepen splitst. Relevantiescores worden tussen 0 en 1 genormaliseerd, maar hangen af van de zoekvraag en kandidaten; ze zijn geen lineaire maat voor feitelijke juistheid. Gebruik de volgorde als het primaire retrievalresultaat. Stel bij filtering op een scoredrempel die drempel vast met representatieve zoekvragen en passages op de grens van relevantie uit het daadwerkelijke domein, in plaats van een universele grens aan te nemen.

Een bruikbaar eindresultaat is een gerangschikte kandidatenlijst met bronidentificatoren en scores, klaar voor een zoekresultaat of een stap voor bewijsselectie. Een document met een hoge relevantiescore kan nog steeds verouderde of onjuiste informatie bevatten, dus bewaar de bron en inhoud voor de stap die ze gebruikt. Pro dient om relevantie te beoordelen, niet om een vrij geformuleerd antwoord te schrijven of embeddings te genereren. Houd de exacte Pro-editie bij het resultaat wanneer je een retrievalworkflow vergelijkt of verfijnt.