Cohere: Rerank 4 Pro

Cohere Rerank 4 Pro er den kvalitetsorienterte modellen i Coheres Rerank 4-familie. Den vurderer kandidatdokumenter mot en spørring og returnerer relevansrekkefølgen og skårene deres. Modellen er beregnet på komplekse gjenfinningsoppgaver, inkludert flerspråklige dokumenter og halvstrukturert informasjon. Den passer i en søke- eller gjenfinningsstøttet arbeidsflyt etter at et eksisterende system har samlet kandidater: resultatet hjelper med å velge hvilke avsnitt som skal vises eller gis som belegg til neste trinn.

Produsentidentifikatoren er rerank-v4.0-pro, forskjellig fra rerank-v4.0-fast og rerank-v3.5. Pro er posisjonert for komplekse tilfeller der gjenfinningskvalitet prioriteres, mens Fast er rettet mot lavere ventetid og høyere gjennomstrømning. Begge Rerank 4-utgavene bruker en kontekst på 32 768 tokener. Spørringen og ett kandidatdokument deler dette budsjettet; det er ikke et separat fullt vindu for hvert inndatafelt eller en grense for hele det lagrede søkekorpuset.

Oppgi en tydelig spørring og listen over kandidattekststrenger. Hvert returnerte resultat inneholder den opprinnelige dokumentindeksen og en relevansskår, og top_n kan velge hvor mange rangerte resultater som returneres; uten dette returnerer produsenten alle resultater. Behold en kildeidentifikator ved siden av hver inndatatekst, slik at rangeringen kan kobles tilbake til det nøyaktige avsnittet. Ved et støttespørsmål bør du spørre om de nødvendige vilkårene og oppgi kandidatseksjonene fra regelverket fremfor å forvente at omrangeringsmodellen finner regelverk som ikke var i listen.

Modellen støtter mer enn 100 språk og kan omrangere engelsk og ikke-engelsk materiale. Ved en spørring med flere krav bør du angi vilkårene som gjør et avsnitt nyttig, for eksempel produkt, situasjon og nødvendig prosedyre. For halvstrukturerte poster anbefaler Cohere YAML-strenger fremfor rå objekter i V2-dokumentlisten. Hold meningsfulle felter som tittel og innhold i en bevisst rekkefølge, fordi avkorting kan fjerne senere felter. Denne klargjøringen er nyttig for produktposter, meldinger og dokumentmetadata, så vel som vanlig prosa.

Den modellspesifikke klargjøringsveiledningen begrenser Rerank 4-spørringen til de første 16 384 tokenene. Den beskriver behandling av lengre dokumenter gjennom deler som deler konteksten på 32 768 tokener med spørringen og reserverte tokener. Den gjeldende V2-referansen setter separat max_tokens_per_doc til 4096 som standard og sier at lengre dokumentstrenger avkortes til denne innstillingen. Behandle modellvinduet og dokumentavkortingen i produsentforespørselen som forskjellige kontroller. Klargjør korte, relevante avsnitt eller velg et passende dokumentbudsjett fremfor å anta at alle lange kilder alltid leses i sin helhet.

For anbefalt forespørselsytelse fraråder Cohere å sende mer enn 1 000 dokumenter samtidig. Behold kandidatidentifikatorene når en større liste deles i håndterbare grupper. Relevansskårer normaliseres mellom 0 og 1, men avhenger av spørringen og kandidatene; de er ikke et lineært mål på faktisk korrekthet. Bruk rekkefølgen som det primære gjenfinningsresultatet. Ved filtrering med en skårterskel bør du fastsette den med representative spørringer og avsnitt med tvilsom relevans fra det faktiske domenet fremfor å anta en universell grenseverdi.

En nyttig sluttleveranse er en rangert kandidatliste med kildeidentifikatorer og skårer, klar for et søkeresultat eller et trinn for utvelgelse av belegg. Et dokument med høy relevansskår kan fortsatt inneholde utdatert eller feilaktig informasjon, så behold kilden og innholdet til trinnet som bruker det. Pros formål er relevansvurdering, ikke å skrive et fritt formulert svar eller generere innbygginger. Behold den nøyaktige Pro-utgaven knyttet til resultatet når en gjenfinningsarbeidsflyt sammenlignes eller forbedres.