Cohere: Rerank v3.5

Cohere Rerank 3.5 er en flerspråklig modell for relevansrangering av kandidatdokumenter og halvstrukturert tekst. Den vurderer hver kandidat i forhold til en spørring og returnerer en omordnet resultatliste med relevansskårer. Den kan forbedre kandidater hentet gjennom nøkkelordbasert eller semantisk søk og velge avsnitt til et svar støttet av gjenfinning. Oppgaven er å forbedre rekkefølgen på belegget fremfor å generere et fritt formulert svar eller lage en ny korpusindeks.

Den nøyaktige produsentidentifikatoren er rerank-v3.5. Den bruker en kontekst på 4096 tokener, forskjellig fra Rerank 4 Pro og Fast sin kontekst på 32K. Tokener i spørringen og dokumentet teller samlet mot dette vinduet per kandidat. Den modellspesifikke klargjøringsveiledningen avkorter en spørring etter de første 2048 tokenene og beskriver dokumentdeler på 4093 tokener før spørringen tas med i beregningen. Hold spørringen fokusert, og klargjør kandidatavsnitt som inneholder informasjonen som trengs for å vurdere det forespurte forholdet.

Oppgi spørringen og en liste med kandidattekststrenger. Hvert resultat har en indeks som peker på den opprinnelige dokumentposisjonen, og en relevansskår; top_n velger hvor mange rangerte resultater som skal beholdes. Uten denne parameteren returnerer den dokumenterte produsentarbeidsflyten alle resultater. Behold dokumentidentifikatorer uavhengig av skåren, slik at det øverste avsnittet fortsatt kan spores til det opprinnelige regelverket, produktposten eller meldingen.

Rerank 3.5 støtter mer enn 100 språk, inkludert engelsk og ikke-engelsk materiale. En spørring kan inneholde flere sider ved behovet, for eksempel produktet, brukerens situasjon og ønsket prosedyre. For strukturerte poster fjernet V2-utgaven rå dokumentobjekter og anbefaler YAML-strenger. Hold nyttige felter i en bevisst rekkefølge, med avgjørende innhold før mindre relevante metadata, fordi lange strenger kan bli avkortet. Dette fungerer for titler og innhold, produktegenskaper eller emnet og brødteksten i en melding.

Produsentens V2-referanse bruker max_tokens_per_doc for dokumentavkorting, med standardverdien 4096. Coheres klargjøringsveiledning beskriver også oppdeling av lange dokumenter; de effektive inndataene avhenger av den valgte arbeidsflyten og dokumentinnstillingene. For større kontroll bør du klargjøre identifiserbare avsnitt selv fremfor å anta at hver seksjon av en lang kilde fortsatt er synlig. Behold nok kontekst rundt til å skille et avsnitt som inneholder svaret, fra et som bare deler ordforrådet.

Av hensyn til forespørselsytelsen anbefaler den gjeldende referansen å ikke sende mer enn 1 000 dokumenter samtidig. Relevansskårer normaliseres mellom 0 og 1, men verdiene avhenger av spørringen og kandidatene og er ikke en lineær skala for korrekthet. Bruk rangeringen til å identifisere nyttig belegg. Hvis en skårterskel trengs, bør du velge representative domenespørringer og avsnitt med tvilsom relevans, slik at terskelen gjenspeiler den faktiske gjenfinningsoppgaven.

En praktisk støttearbeidsflyt kan omrangere kandidatseksjoner i returreglene for et spørsmål om en skadet vare og deretter sende den valgte kildeteksten til et trinn for svarskriving. Et e-postsøk kan rangere meldinger etter et bestemt problem og beholde den opprinnelige meldingsidentifikatoren med hvert resultat. Den nyttige leveransen er den ordnede listen med belegg. Behold Rerank 3.5s kortere kontekst og dokumentklargjøring for V2 knyttet til dette resultatet fremfor å erstatte dem med grenser fra senere modeller.