Cohere: Rerank v3.5

Cohere Rerank 3.5 is een meertalig model voor het rangschikken van kandidaatdocumenten en semigestructureerde tekst op relevantie. Het beoordeelt elke kandidaat in relatie tot een zoekvraag en geeft een herordende resultatenlijst met relevantiescores terug. Het kan kandidaten uit trefwoord- of semantisch zoeken verfijnen en passages selecteren voor een antwoord met retrievalondersteuning. De taak is de volgorde van het bewijs te verbeteren, in plaats van een vrij geformuleerd antwoord te genereren of een nieuwe corpusindex te maken.

De exacte identificator van de producent is rerank-v3.5. Het gebruikt een context van 4.096 tokens, onderscheiden van de context van 32K van Rerank 4 Pro en Fast. Zoekvraag- en documenttokens tellen samen mee voor dat venster per kandidaat. De modelspecifieke voorbereidingsgids kapt een zoekvraag na de eerste 2.048 tokens af en beschrijft documentfragmenten van 4.093 tokens voordat de zoekvraag wordt meegerekend. Houd de zoekvraag gericht en bereid kandidaatpassages voor met de informatie die nodig is om de gevraagde relatie te beoordelen.

Lever de zoekvraag en een lijst met kandidaattekststrings aan. Elk resultaat bevat een index die naar de oorspronkelijke documentpositie wijst en een relevantiescore; top_n bepaalt hoeveel gerangschikte resultaten behouden blijven. Zonder die parameter geeft de gedocumenteerde workflow van de producent alle resultaten terug. Bewaar documentidentificatoren onafhankelijk van de score, zodat de bovenste passage nog steeds tot het oorspronkelijke beleid, productrecord of bericht kan worden herleid.

Rerank 3.5 ondersteunt meer dan 100 talen, waaronder Engels en niet-Engels materiaal. Een zoekvraag kan verschillende aspecten van de behoefte bevatten, zoals het product, de gebruikerssituatie en de gewenste procedure. Voor gestructureerde records verwijderde de V2-versie ruwe documentobjecten en beveelt ze YAML-strings aan. Zet nuttige velden in een bewuste volgorde, met doorslaggevende inhoud vóór minder relevante metadata, omdat lange strings kunnen worden afgekapt. Dit werkt voor titels en inhoud, productkenmerken of het onderwerp en de inhoud van een bericht.

De V2-referentie van de producent gebruikt max_tokens_per_doc voor documentafkapping, met een standaardwaarde van 4.096. De voorbereidingsgids van Cohere beschrijft ook het opdelen van lange documenten; de effectieve invoer hangt af van de gekozen workflow en de documentinstellingen. Bereid voor meer controle zelf herkenbare passages voor in plaats van aan te nemen dat elke sectie van een lange bron zichtbaar blijft. Behoud voldoende omringende context om een passage die het antwoord bevat te onderscheiden van een passage die alleen dezelfde woordenschat gebruikt.

Voor de prestaties van aanvragen beveelt de huidige referentie aan niet meer dan 1.000 documenten tegelijk te sturen. Relevantiescores worden tussen 0 en 1 genormaliseerd, maar hun waarden hangen af van de zoekvraag en kandidaten en vormen geen lineaire schaal van juistheid. Gebruik de rangschikking om nuttig bewijs te identificeren. Als een scoredrempel nodig is, kies dan representatieve zoekvragen uit het domein en passages op de grens van relevantie, zodat de drempel de daadwerkelijke retrievaltaak weerspiegelt.

Een praktische ondersteuningsworkflow kan kandidaatsecties uit een retourbeleid opnieuw rangschikken voor een vraag over een beschadigd artikel en de geselecteerde brontekst vervolgens doorgeven aan een stap die een antwoord schrijft. Een e-mailzoekopdracht kan berichten volgens een specifiek probleem rangschikken en de oorspronkelijke berichtidentificator bij elk resultaat behouden. Het bruikbare resultaat is de geordende bewijslijst. Houd de kortere context van Rerank 3.5 en de V2-documentvoorbereiding gekoppeld aan dat resultaat, in plaats van limieten van latere modellen over te nemen.