Qwen3 Reranker 8B

Qwen3 Reranker 8B er en modell for omrangering av tekst, tilgjengelig under den nøyaktige ID-en qwen/qwen3-reranker-8b. Den tar imot en spørring og en samling kandidatdokumenter og returnerer en relevansrangering. En praktisk plassering er mellom et innledende søk og applikasjonen som bruker de valgte avsnittene: Hent mulige treff først, omranger treffene mot det faktiske spørsmålet og send den valgte kildeteksten videre til neste trinn.

Send POST /v1/rerank med en JSON-kropp som inneholder model, query og documents. Sett model til qwen/qwen3-reranker-8b, oppgi søkespørsmålet som en streng og legg kandidatavsnittene i en array med tekststrenger som ikke er tom. Behold rekkefølgen på inndata-arrayen og dine egne dokumentidentifikatorer ved siden av, fordi den returnerte index identifiserer et dokument etter den opprinnelige posisjonen. Ta med materialet som avgjør relevansen, som et produktnavn, et vilkår i retningslinjene eller et teknisk avsnitt, i teksten som oppgis for kandidaten.

Den valgfrie parameteren top_n er et heltall med minsteverdi 1 og velger hvor mange av de mest relevante dokumentene som skal returneres. For et kundestøttesøk kan spørringen være kundens nøyaktige spørsmål og dokumentene være aktuelle deler av hjelpesenteret. For en intern kunnskapsbase bruker du spørsmålet sammen med avsnitt som beholder deloverskriftene og nok omkringliggende tekst til å forklare hvert resultat. Velg et resultatantall som passer svaret eller søkevisningen i neste trinn.

Den publiserte modellprofilen oppgir en kontekstlengde på 40 960 tokener. Ta høyde for spørringen og den oppgitte dokumentteksten når du forbereder forespørselen, og velg avsnittene som er nyttige for spørsmålet. Omrangering produserer poengsummer og kildeutvalg; bruk den valgte dokumentteksten når et annet trinn skal formulere et svar eller et sitat.

Operasjonen returnerer et fullstendig JSON-svar. Les results i den returnerte relevansrekkefølgen, behold hvert resultats index, relevance_score og returnerte dokumentinnhold, og behold svarets modell-, identifikator- og usage-felt når de finnes. Koble indeksene tilbake til de opprinnelige dokumentene før du presenterer en kilde eller setter sammen et svar. Lagre det opprinnelige svaret og forespørselsidentiteten hvis leveringen avbrytes, slik at det eksisterende resultatet kan undersøkes uten å sende inn den samme uavklarte operasjonen på nytt.