Cohere: Rerank v3.5

Cohere Rerank 3.5 je večjezični model za razvrščanje kandidatnih dokumentov in polstrukturiranega besedila po ustreznosti. Vsakega kandidata ovrednoti glede na poizvedbo in vrne preurejen seznam rezultatov z ocenami ustreznosti. Izboljša lahko izbor kandidatov, pridobljenih z iskanjem po ključnih besedah ali semantičnim iskanjem, in izbere odlomke za odgovor, obogaten s pridobivanjem podatkov. Njegova naloga je izboljšati vrstni red dokazov, ne ustvariti prostega odgovora ali novega indeksa korpusa.

Točen proizvajalčev identifikator je rerank-v3.5. Uporablja kontekst 4096 žetonov, ločen od konteksta 32K modelov Rerank 4 Pro in Fast. Žetoni poizvedbe in dokumenta se skupaj vštevajo v to okno posameznega kandidata. Vodnik za pripravo za ta model poizvedbo odreže po prvih 2048 žetonih in opisuje kose dokumentov s 4093 žetoni, še preden se upošteva poizvedba. Poizvedba naj bo osredotočena, pripravite pa kandidatne odlomke z informacijami, potrebnimi za presojo zahtevanega razmerja.

Predložite poizvedbo in seznam kandidatnih besedilnih nizov. Vsak rezultat vsebuje indeks, ki kaže na izvirni položaj dokumenta, in oceno ustreznosti; top_n določa, koliko razvrščenih rezultatov naj se ohrani. Brez njega dokumentirani proizvajalčev potek vrne vse rezultate. Identifikatorje dokumentov ohranite neodvisno od ocene, da je najvišje uvrščenemu odlomku še vedno mogoče slediti do izvirnega pravilnika, zapisa izdelka ali sporočila.

Rerank 3.5 podpira več kot 100 jezikov, vključno z angleškim in neangleškim gradivom. Poizvedba lahko vsebuje več vidikov potrebe, na primer izdelek, uporabnikovo situacijo in želeni postopek. Pri strukturiranih zapisih je izdaja V2 odstranila surove objekte dokumentov in priporoča nize YAML. Uporabna polja ohranite v premišljenem vrstnem redu, z odločilno vsebino pred manj pomembnimi metapodatki, ker so dolgi nizi lahko odrezani. To deluje za naslove in vsebino, lastnosti izdelkov ali zadevo in telo sporočila.

Proizvajalčeva referenčna dokumentacija V2 uporablja max_tokens_per_doc za krajšanje dokumentov s privzeto vrednostjo 4096. Coherov vodnik za pripravo opisuje tudi razdeljevanje dolgih dokumentov na kose; dejanski vhod je odvisen od izbranega poteka dela in nastavitev dokumentov. Za večji nadzor sami pripravite prepoznavne odlomke, namesto da bi predpostavili, da ostane vsak razdelek dolgega vira viden. Ohranite dovolj okoliškega konteksta, da ločite odlomek z odgovorom od tistega, ki ima le skupno besedišče.

Za zmogljivost zahtev trenutna referenčna dokumentacija priporoča, da ne pošiljate več kot 1.000 dokumentov hkrati. Ocene ustreznosti so normalizirane med 0 in 1, vendar so njihove vrednosti odvisne od poizvedbe in kandidatov ter niso linearna lestvica pravilnosti. Razvrstitev uporabite za prepoznavanje uporabnih dokazov. Če potrebujete prag ocene, izberite reprezentativne področne poizvedbe in mejno ustrezne odlomke, da prag odraža dejansko nalogo pridobivanja.

Praktičen podporni potek dela lahko prerazvrsti kandidatne razdelke pravilnika vračil za vprašanje o poškodovanem izdelku, nato pa izbrano izvorno besedilo preda fazi pisanja odgovora. Iskanje po e-pošti lahko sporočila razvrsti po konkretni težavi in ob vsakem rezultatu ohrani izvirni identifikator sporočila. Uporaben izdelek je urejen seznam dokazov. Ob tem rezultatu ohranite krajši kontekst Rerank 3.5 in pripravo dokumentov V2, namesto da bi uporabili omejitve poznejših modelov.