Cohere: Rerank 4 Pro

Cohere Rerank 4 Pro är den kvalitetsinriktade modellen i Coheres Rerank 4-familj. Den bedömer kandidatdokument mot en fråga och returnerar deras relevansordning och värden. Modellen är avsedd för komplexa sökuppgifter, inklusive flerspråkiga dokument och halvstrukturerad information. Den passar in i ett sökflöde eller sökförstärkt arbetsflöde efter att ett befintligt system har samlat kandidater: resultatet hjälper till att välja vilka avsnitt som ska visas eller tillhandahållas som belägg i nästa steg.

Tillverkaridentifieraren är rerank-v4.0-pro, skild från rerank-v4.0-fast och rerank-v3.5. Pro positioneras för komplexa fall där sökkvalitet prioriteras, medan Fast riktar sig mot lägre latens och högre genomströmning. Båda Rerank 4-utgåvorna använder en kontext på 32 768 token. Frågan och ett kandidatdokument delar den budgeten; den är inte ett separat fullständigt fönster för varje indatafält eller en gräns för hela den lagrade sökkorpusen.

Tillhandahåll en tydlig fråga och listan med kandidattexter som strängar. Varje returnerat resultat innehåller det ursprungliga dokumentindexet och ett relevansvärde, och top_n kan välja hur många rangordnade resultat som returneras; utan det returnerar tillverkaren alla resultat. Bevara en källidentifierare bredvid varje indata så att rangordningen kan kopplas tillbaka till det exakta avsnittet. För en supportfråga, fråga efter de nödvändiga villkoren och tillhandahåll kandidatavsnitten ur policyn i stället för att förvänta dig att omrangordningsmodellen hittar policyer som inte fanns i listan.

Modellen stödjer fler än 100 språk och kan rangordna om engelskt och icke-engelskt material. För en fråga med flera krav, ange villkoren som gör ett avsnitt användbart, såsom produkten, situationen och den nödvändiga proceduren. För halvstrukturerade poster rekommenderar Cohere YAML-strängar i stället för att skicka råa objekt i V2:s dokumentlista. Håll meningsfulla fält som titel och innehåll i en genomtänkt ordning, eftersom trunkering kan ta bort senare fält. Den förberedelsen är användbar för produktposter, meddelanden och dokumentmetadata liksom för vanlig prosa.

Den modellspecifika förberedelseguiden begränsar Rerank 4-frågan till de första 16 384 token. Den beskriver bearbetning av längre dokument genom delar som delar kontexten på 32 768 token med frågan och reserverade token. Den aktuella V2-referensen sätter separat max_tokens_per_doc till standardvärdet 4 096 och anger att längre dokumentsträngar trunkeras till den inställningen. Behandla modellfönstret och dokumenttrunkeringen i tillverkarens begäran som olika reglage. Förbered kortfattade relevanta avsnitt eller välj en lämplig dokumentbudget i stället för att anta att varje lång källa alltid läses i sin helhet.

För rekommenderad begäransprestanda avråder Cohere från att skicka fler än 1 000 dokument åt gången. Bevara kandidatidentifierare när en större lista delas i hanterbara grupper. Relevansvärden normaliseras mellan 0 och 1, men de beror på frågan och kandidaterna; de är inget linjärt mått på faktisk korrekthet. Använd ordningen som det primära sökresultatet. Om du filtrerar med en värdetröskel, fastställ den med representativa frågor och avsnitt på gränsen till relevanta från den faktiska domänen i stället för att anta en universell gräns.

En användbar slutlig artefakt är en rangordnad kandidatlista med källidentifierare och värden, redo för ett sökresultat eller ett steg för att välja belägg. Ett dokument med högt relevansvärde kan fortfarande innehålla föråldrad eller felaktig information, så behåll dess källa och innehåll för steget som använder det. Pros syfte är relevansbedömning, inte att skriva ett fritt formulerat svar eller generera inbäddningar. Behåll den exakta Pro-utgåvan kopplad till resultatet när ett sökflöde jämförs eller förfinas.