Cohere: Rerank 4 Fast

Cohere Rerank 4 Fast is de lichtere Rerank 4-editie, gepositioneerd voor zoektaken met lagere vertraging en hogere verwerkingscapaciteit. Het ontvangt een zoekvraag en kandidaatdocumenten en geeft vervolgens hun volgorde op relevantie en hun scores terug. Het is bruikbaar voor interactief zoeken, herhaalde bewijsselectie en applicaties die een bestaande resultatenlijst opnieuw moeten ordenen. Fast blijft een afzonderlijke editie naast Rerank 4 Pro, dat is gepositioneerd voor complexere gevallen waarin zoekkwaliteit voorrang krijgt.

De ontwikkelaarscode is rerank-v4.0-fast. Net als Pro heeft het een context van 32.768 tokens en meertalige dekking voor meer dan 100 talen. De zoekvraag en één document delen de context; het is geen vectordimensie of budget voor een volledig geïndexeerd corpus. Lever de te vergelijken kandidaatteksten aan in plaats van te verwachten dat het model documenten ophaalt uit een bron die niet is gegeven.

Het gedocumenteerde resultaat bevat de oorspronkelijke documentindex en een relevance_score. top_n bepaalt hoeveel resultaten worden teruggegeven, terwijl weglaten ervan de volledige gerangschikte lijst oplevert. Bewaar bron-ID’s bij de invoer, zodat de nieuwe volgorde met de daadwerkelijke passages kan worden verbonden. Beschrijf voor een productzoekopdracht de vereiste productkenmerken in de zoekvraag en rangschik de kandidaatbeschrijvingen opnieuw; een hogere positie moet verbonden blijven met het productrecord waaruit die voortkomt.

Het model kan werken met Engelse en niet-Engelse documenten en semigestructureerde records. In het V2-werkproces is documentinvoer een string en beveelt Cohere aan gestructureerde gegevens als YAML weer te geven. Zet belangrijke velden voorop en behoud hun volgorde, zodat afkappen niet de inhoud verwijdert die nodig is om relevantie te beoordelen. Een ondersteuningsrecord kan titel, product en proceduretekst bevatten; een bericht kan onderwerp en hoofdtekst bevatten. Deze expliciete relaties geven de ranker informatie die verder gaat dan een lijst met overeenkomende trefwoorden.

De modelspecifieke zoekvraaglimiet in de voorbereidingshandleiding van Cohere is 16.384 tokens, waarbij zoekvraag en document de gedeelde context gebruiken. De handleiding beschrijft fragmentverwerking voor langere documenten, terwijl de V2-referentie documentafkapping via max_tokens_per_doc afzonderlijk standaard op 4096 tokens instelt. Controleer die effectieve documentinstelling in plaats van aan te nemen dat het volledige modelvenster van 32K altijd wordt gebruikt. Bereid relevante passages of een passend documentbudget voor de daadwerkelijke zoektaak voor.

Voor aanbevolen prestaties raadt Cohere meer dan 1.000 documenten in één verzoek af. Verdeel grotere kandidaatverzamelingen in beheersbare groepen met behoud van hun ID’s. De uitvoerscores worden genormaliseerd van 0 tot 1 en hangen af van de zoekvraag en de passages. Hun volgorde is het belangrijkste resultaat; een score is geen lineair veelvoud van relevantie of bewijs dat een passage correct is. Stel elke filterdrempel vast met representatieve zoekvragen en passages met grensgevallen van relevantie uit het domein.

Een bruikbaar Fast-resultaat is een gerangschikte lijst die direct zoekresultaten kan aansturen of bewijs kan selecteren voor een stap die het antwoord schrijft. Bewaar de brontekst bij de score en beoordeel of de hoogste resultaten daadwerkelijk op de gevraagde voorwaarden ingaan. De rol van Fast is het rangschikken van zoekresultaten, niet het genereren van een nieuwe uitleg of een embeddingvector. Houd de benoemde editie en invoervoorbereiding consistent wanneer je het relevantiegedrag verfijnt.