Cohere: Rerank v3.5

A Cohere Rerank 3.5 többnyelvű modell jelölt dokumentumok és félig strukturált szövegek relevancia szerinti rangsorolására. Minden jelöltet egy lekérdezéshez viszonyítva értékel, és relevanciapontszámokkal kísért, újrarendezett eredménylistát ad vissza. Pontosíthatja a kulcsszavas vagy szemantikus kereséssel kapott jelölteket, és részleteket választhat ki egy visszakereséssel kiegészített válaszhoz. Feladata a bizonyítékok sorrendjének javítása, nem szabad formájú válasz generálása vagy új korpuszindex készítése.

A pontos gyártói azonosító rerank-v3.5. 4096 tokenes kontextust használ, eltérően a Rerank 4 Pro és Fast 32K kontextusától. A lekérdezés és a dokumentum tokenjei együtt számítanak bele e jelöltenkénti ablakba. A modellspecifikus előkészítési útmutató a lekérdezést az első 2048 token után csonkolja, és a lekérdezés figyelembevétele előtt 4093 tokenes dokumentumdarabokat ír le. A lekérdezés maradjon célzott, és olyan jelölt részleteket készítsen elő, amelyek tartalmazzák a kért kapcsolat megítéléséhez szükséges információt.

Adja meg a lekérdezést és a jelölt szöveges karakterláncok listáját. Minden eredmény az eredeti dokumentumpozícióra mutató indexet és relevanciapontszámot tartalmaz; a top_n választja ki, hány rangsorolt eredményt kell megtartani. Enélkül a dokumentált gyártói munkafolyamat az összes eredményt visszaadja. A dokumentumazonosítókat a pontszámtól függetlenül őrizze meg, hogy a legelső részlet továbbra is visszavezethető legyen az eredeti szabályzathoz, termékrekordhoz vagy üzenethez.

A Rerank 3.5 több mint 100 nyelvet támogat, angol és nem angol anyagokat is. A lekérdezés az igény több szempontját is tartalmazhatja, például a terméket, a felhasználó helyzetét és a kívánt eljárást. Strukturált rekordoknál a V2 kiadás eltávolította a nyers dokumentumobjektumokat, és YAML-karakterláncokat ajánl. A hasznos mezőket tudatos sorrendben tartsa, a döntő tartalmat a kevésbé releváns metaadatok elé helyezve, mert a hosszú karakterláncok csonkolódhatnak. Ez címeknél és tartalomnál, terméktulajdonságoknál, illetve üzenet tárgyánál és törzsénél is működik.

A V2 gyártói referencia a max_tokens_per_doc mezőt használja a dokumentumcsonkoláshoz, 4096-os alapértelmezéssel. A Cohere előkészítési útmutatója hosszú dokumentumok darabolását is leírja; a tényleges bemenet a kiválasztott munkafolyamattól és dokumentumbeállításaitól függ. Nagyobb kontrollhoz saját maga készítsen azonosítható részleteket, és ne feltételezze, hogy egy hosszú forrás minden szakasza látható marad. Őrizzen meg elegendő környező kontextust ahhoz, hogy a választ hordozó részlet megkülönböztethető legyen attól, amely csupán a szókincsében egyezik.

A kérések teljesítménye érdekében az aktuális referencia azt ajánlja, hogy egyszerre ne küldjön 1000-nél több dokumentumot. A relevanciapontszámok 0 és 1 közé vannak normalizálva, de értékeik a lekérdezéstől és a jelöltektől függenek, és nem alkotják a helyesség lineáris skáláját. A rangsorolással azonosítsa a hasznos bizonyítékot. Ha pontszámküszöb szükséges, válasszon reprezentatív szakterületi lekérdezéseket és határesetként releváns részleteket, hogy a küszöb a tényleges visszakeresési feladatot tükrözze.

Gyakorlati ügyféltámogatási munkafolyamat újrarangsorolhatja a visszaküldési szabályzat jelölt szakaszait egy sérült termékre vonatkozó kérdéshez, majd a kiválasztott forrásszöveget átadhatja a válaszíró lépésnek. E-mail-keresés rangsorolhat üzeneteket konkrét probléma szerint, az eredeti üzenetazonosítót minden eredménnyel együtt megtartva. A hasznos eredménytermék a rendezett bizonyítéklista. A Rerank 3.5 rövidebb kontextusát és V2-es dokumentum-előkészítését tartsa ehhez az eredményhez kapcsolva, ahelyett hogy későbbi modellek korlátait helyettesítené be.