Cohere: Rerank 4 Pro

Cohere Rerank 4 Pro er den kvalitetsfokuserede model i Coheres Rerank 4-familie. Den vurderer kandidatdokumenter i forhold til en forespørgsel og returnerer deres relevansrækkefølge og scorer. Modellen er beregnet til komplekse søgeopgaver, herunder flersprogede dokumenter og semistrukturerede oplysninger. Den passer ind i en søgearbejdsgang eller en arbejdsgang understøttet af informationssøgning, efter at et eksisterende system har indsamlet kandidater: Resultatet hjælper med at vælge, hvilke passager der skal vises eller leveres som dokumentation til næste trin.

Producentidentifikatoren er rerank-v4.0-pro, adskilt fra rerank-v4.0-fast og rerank-v3.5. Pro er positioneret til komplekse tilfælde, hvor søgekvalitet er prioriteten, mens Fast sigter mod lavere latenstid og højere gennemstrømning. Begge Rerank 4-udgaver bruger en kontekst på 32.768 tokens. Forespørgslen og ét kandidatdokument deler dette budget; det er ikke et særskilt fuldt vindue for hvert inputfelt eller en grænse for hele det lagrede søgekorpus.

Lever en tydelig forespørgsel og listen over kandidattekststrenge. Hvert returneret resultat indeholder det oprindelige dokumentindeks og en relevansscore, og top_n kan vælge, hvor mange rangerede resultater der returneres; uden dette returnerer producenten alle resultater. Bevar en kildeidentifikator ved hvert input, så rangeringen kan forbindes tilbage til den præcise passage. Ved et supportspørgsmål skal du spørge til de nødvendige betingelser og levere kandidatsektionerne fra regelsættet frem for at forvente, at omrangeringsmodellen finder regelsæt, som ikke stod på listen.

Modellen understøtter mere end 100 sprog og kan omrangere engelsk og ikke-engelsk materiale. Ved en forespørgsel med flere krav skal du angive de betingelser, der gør en passage nyttig, såsom produktet, situationen og den nødvendige procedure. Til semistrukturerede poster anbefaler Cohere YAML-strenge frem for at sende rå objekter i V2-dokumentlisten. Hold meningsfulde felter såsom titel og indhold i en bevidst rækkefølge, fordi afkortning kan fjerne senere felter. Denne klargøring er nyttig til produktposter, beskeder og dokumentmetadata såvel som almindelig prosa.

Den modelspecifikke klargøringsvejledning begrænser Rerank 4-forespørgslen til de første 16.384 tokens. Den beskriver behandling af længere dokumenter gennem blokke, der deler konteksten på 32.768 tokens med forespørgslen og reserverede tokens. Den aktuelle V2-reference sætter særskilt max_tokens_per_doc til 4096 som standard og angiver, at længere dokumentstrenge afkortes til denne indstilling. Behandl modelvinduet og producentforespørgslens dokumentafkortning som forskellige kontroller. Klargør korte, relevante passager, eller vælg et passende dokumentbudget frem for at antage, at alle lange kilder altid læses fuldt ud.

For den anbefalede forespørgselsydelse fraråder Cohere at sende mere end 1.000 dokumenter ad gangen. Bevar kandidatidentifikatorer, når en større liste opdeles i håndterbare grupper. Relevansscorer normaliseres mellem 0 og 1, men afhænger af forespørgslen og kandidaterne; de er ikke et lineært mål for faktuel korrekthed. Brug rækkefølgen som det primære søgeresultat. Hvis der filtreres efter en scoregrænse, skal den fastlægges med repræsentative forespørgsler og passager på grænsen til relevans fra det faktiske domæne frem for at antage en universel grænse.

En nyttig endelig leverance er en rangeret kandidatliste med kildeidentifikatorer og scorer, klar til et søgeresultat eller et trin til udvælgelse af dokumentation. Et dokument med en høj relevansscore kan stadig indeholde forældede eller forkerte oplysninger, så bevar dets kilde og indhold til det trin, der bruger det. Pros formål er relevansvurdering, ikke at skrive et frit formuleret svar eller generere embeddings. Hold den præcise Pro-udgave knyttet til resultatet, når en søgearbejdsgang sammenlignes eller forbedres.