Cohere: Rerank 4 Fast

Cohere Rerank 4 Fast is de lichtere Rerank 4-editie, gepositioneerd voor retrievaltaken met lagere latentie en hogere verwerkingscapaciteit. Het ontvangt een zoekvraag en kandidaatdocumenten en geeft vervolgens hun relevantievolgorde en scores terug. Het is nuttig voor interactief zoeken, herhaalde bewijsselectie en applicaties die een bestaande resultatenlijst moeten herordenen. Fast blijft een afzonderlijke editie naast Rerank 4 Pro, dat is gepositioneerd voor complexere gevallen waarin retrievalkwaliteit voorrang heeft.

De producentcode is rerank-v4.0-fast. Net als Pro heeft het een context van 32.768 tokens en meertalige dekking voor meer dan 100 talen. De zoekvraag en één document delen de context; het is geen vectordimensie of budget voor een volledig geïndexeerd corpus. Lever de kandidaatteksten aan die moeten worden vergeleken, in plaats van te verwachten dat het model documenten ophaalt uit een bron die het niet heeft gekregen.

Het gedocumenteerde resultaat bevat de oorspronkelijke documentindex en een relevance_score. top_n selecteert hoeveel resultaten worden teruggegeven, terwijl weglaten ervan de volledige gerangschikte lijst teruggeeft. Bewaar bronidentificatoren naast de invoer, zodat de nieuwe volgorde met de daadwerkelijke passages kan worden verbonden. Beschrijf voor een productzoekopdracht de vereiste productkenmerken in de zoekvraag en rangschik de kandidaatbeschrijvingen opnieuw; een hogere positie moet verbonden blijven met het productrecord dat die positie opleverde.

Het model kan met Engelse en niet-Engelse documenten en semigestructureerde records werken. In de V2-workflow zijn documentinvoeren strings en beveelt Cohere aan gestructureerde gegevens als YAML weer te geven. Zet belangrijke velden eerst en behoud hun volgorde, zodat afkapping niet de inhoud verwijdert die nodig is om relevantie te beoordelen. Een ondersteuningsrecord kan titel, product en proceduretekst bevatten; een bericht kan het onderwerp en de inhoud bevatten. Die expliciete relaties geven het rangschikkingsmodel meer informatie dan een lijst met overeenkomende trefwoorden.

De modelspecifieke zoekvraaglimiet in de voorbereidingsgids van Cohere bedraagt 16.384 tokens, waarbij de zoekvraag en het document de gedeelde context verbruiken. De gids beschrijft verwerking van langere documenten in fragmenten, terwijl de V2-referentie documentafkapping afzonderlijk standaard op 4.096 tokens instelt via max_tokens_per_doc. Controleer die effectieve documentinstelling in plaats van aan te nemen dat het volledige modelvenster van 32K altijd wordt gebruikt. Bereid relevante passages of een geschikt documentbudget voor de daadwerkelijke retrievaltaak voor.

Voor de aanbevolen prestaties raadt Cohere meer dan 1.000 documenten in één aanvraag af. Splits grotere kandidatenverzamelingen in beheersbare groepen met behoud van hun identificatoren. De uitvoerscores worden van 0 tot 1 genormaliseerd en hangen af van de zoekvraag en passages. Hun volgorde is het belangrijkste resultaat; een score is geen lineair veelvoud van relevantie of bewijs dat een passage correct is. Stel elke filterdrempel vast met representatieve zoekvragen en passages op de grens van relevantie uit het domein.

Een bruikbaar Fast-resultaat is een gerangschikte lijst die onmiddellijk een zoekweergave kan aansturen of bewijs kan selecteren voor een stap die een antwoord schrijft. Bewaar de brontekst bij de score en controleer of de bovenste resultaten daadwerkelijk de gevraagde voorwaarden behandelen. Fast dient voor retrievalrangschikking, niet voor het genereren van een nieuwe uitleg of een embeddingvector. Houd de benoemde editie en invoervoorbereiding consistent wanneer je het relevantiegedrag verfijnt.