Cohere: Rerank 4 Fast
Cohere Rerank 4 Fast rikiuoja kandidatų dokumentus pagal aktualumą užklausai, daugiausia dėmesio skirdamas mažos delsos ir didelio pralaidumo paieškai. Jis palaiko 32K kontekstą, daugiau nei 100 kalbų ir pusiau struktūruotą tekstą paieškos bei paieška papildytoms darbo eigoms.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Cohere Rerank 4 Fast – lengvesnis Rerank 4 leidimas, skirtas mažesnės delsos ir didesnio pralaidumo paieškos užduotims. Jis gauna užklausą ir kandidatų dokumentus, tada grąžina jų aktualumo tvarką bei įverčius. Jis naudingas interaktyviai paieškai, kartotinei įrodymų atrankai ir programoms, kurioms reikia perrikiuoti esamą rezultatų sąrašą. Fast išlieka atskiras nuo Rerank 4 Pro leidimo, orientuoto į sudėtingesnius atvejus, kai pirmenybė teikiama paieškos kokybei.
Gamintojo kodas yra rerank-v4.0-fast. Kaip ir Pro, jis turi 32 768 žetonų kontekstą ir palaiko daugiau nei 100 kalbų. Užklausa ir vienas dokumentas dalijasi kontekstu; tai nėra vektoriaus matmuo arba viso indeksuoto tekstyno limitas. Pateikite lygintinus kandidatų tekstus, nesitikėdami, kad modelis suras dokumentus iš jam nepateikto šaltinio.
Dokumentuotame rezultate yra originalus dokumento indeksas ir relevance_score. top_n pasirenka grąžinamų rezultatų skaičių, o jo nenurodžius grąžinamas visas surikiuotas sąrašas. Prie įvesčių išsaugokite šaltinių identifikatorius, kad naują tvarką būtų galima sujungti su tikromis ištraukomis. Produktų paieškai užklausoje aprašykite reikalingus produktų atributus ir perrikiuokite kandidatų aprašus; aukštesnė vieta turi likti susieta su ją gavusiu produkto įrašu.
Modelis gali dirbti su angliškais bei neangliškais dokumentais ir pusiau struktūruotais įrašais. V2 darbo eigoje dokumentų įvestys yra eilutės, o Cohere struktūruotus duomenis rekomenduoja vaizduoti YAML formatu. Svarbius laukus dėkite pirmus ir išlaikykite jų tvarką, kad trumpinimas nepašalintų aktualumui įvertinti reikalingo turinio. Pagalbos įraše gali būti pavadinimas, produktas ir procedūros tekstas; žinutėje – tema ir turinys. Šie aiškūs ryšiai rikiavimo modeliui suteikia daugiau informacijos nei sutampančių raktažodžių sąrašas.
Cohere pasirengimo vadove modeliui skirtas užklausos limitas yra 16 384 žetonai, o užklausa bei dokumentas naudoja bendrą kontekstą. Vadovas aprašo ilgesnių dokumentų apdorojimą fragmentais, o V2 žinynas atskirai nustato dokumentų trumpinimo numatytąją reikšmę 4096 žetonų per max_tokens_per_doc. Patikrinkite šį realiai galiojantį dokumento nustatymą, užuot manę, kad visada naudojamas visas 32K modelio langas. Tikrajai paieškos užduočiai parenkite reikšmingas ištraukas arba tinkamą dokumento limitą.
Rekomenduojamam našumui Cohere pataria vienoje užklausoje nesiųsti daugiau nei 1 000 dokumentų. Didesnius kandidatų rinkinius skaidykite į valdomas grupes, išlaikydami jų identifikatorius. Išvesties įverčiai normalizuojami nuo 0 iki 1 ir priklauso nuo užklausos bei ištraukų. Jų tvarka yra pagrindinis rezultatas; įvertis nėra tiesinis aktualumo kartotinis arba įrodymas, kad ištrauka teisinga. Bet kurį filtravimo slenkstį nustatykite pagal reprezentatyvias srities užklausas ir ribinio aktualumo ištraukas.
Naudingas Fast rezultatas – surikiuotas sąrašas, iš karto tinkantis paieškos rodiniui arba įrodymams atsakymo rašymo etapui atrinkti. Šaltinio tekstą išsaugokite kartu su įverčiu ir patikrinkite, ar pirmieji rezultatai realiai atitinka prašytas sąlygas. Fast vaidmuo – paieškos rikiavimas, o ne naujo paaiškinimo arba įterpinio vektoriaus generavimas. Tobulindami aktualumo elgseną nuosekliai išlaikykite vardinį leidimą ir įvesties parengimą.
Ailoot Ultra · Perrikiavimas POST /v1/rerank cohere/rerank-4-fast
cohere/rerank-4-fastPradžia
Cohere Rerank 4 Fast rikiuoja kandidatų dokumentus pagal aktualumą užklausai, daugiausia dėmesio skirdamas mažos delsos ir didelio pralaidumo paieškai. Jis palaiko 32K kontekstą, daugiau nei 100 kalbų ir pusiau struktūruotą tekstą paieškos bei paieška papildytoms darbo eigoms.
- Leidžiamos įvestys
- Tekstas
- Rezultatai
- Surikiuoti rezultatai
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Perrikiavimas POST /v1/rerank
- Įvestis
text- Išvestis
rerank- Išvesties formatas
- json
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasdocuments | Tipasarray | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos cohere/rerank-4-fast | Numatyta— |
Laukasprovider | Tipasschema | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasquery | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukassession_id | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastop_n | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Laukastrace | Tipasschema | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasuser | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasdocuments[].text | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasdocuments[].image | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Įvesties medžiagos deriniai
text_rerank · Privaloma: query, documents array with minItems1
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, query, documents |
Parametrasmaterial_types | Specifikacijatext |
Parametrasoptional_controls | Specifikacijaprovider, session_id, top_n, trace, user |
Parametrasmultimodal_input_binding | Specifikacijanull |
Gyvavimo ciklas: synchronous
Siųskite tikslų modelio ID ir išsaugokite visą pirminį atsakymą.
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Nenurodyta Pasirinkus spartųjį režimą
- Flex režimas
- Nenurodyta Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Nenurodyta Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Apskaitos vienetas | Mokestis |
|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Apskaitos vienetas— | Mokestis Įvestis · Įvesties tokenai — / 1K tokenų Išvestis · Išvesties tokenai — / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUltra | Įkainių lentelė— | Apskaitos vienetasuž paieškos vienetą | Mokestis total · paieškos vienetas $0.004 už paieškos vienetą |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Perrikiavimas
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-4-fast",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-4-fast'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Perrikiavimas
json
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugomas kiekvienas tikras rezultato indeksas, baigtinė relevance_score reikšmė ir pradinis dokumento objektas. Indeksai susieja rezultatus su pradiniu dokumentų masyvu. Visas pradinis JSON saugomas ir grąžinamas tik atsiskaičius.
Jei reikia patikrinti pradinį atsakymą
Išsaugokite pradinę operaciją ir visą arba dalinį atsakymą; nekartokite POST.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasmodel | Tipasstring |
Laukasid | Tipasstring |
Laukasprovider | Tipasstring |
Laukasresults[].index | Tipasinteger |
Laukasresults[].relevance_score | Tipasnumber |
Laukasresults[].document.text | Tipasstring |
Laukasresults[].document.image | Tipasstring |
Laukasusage.search_units | Tipasinteger |
Laukasusage.total_tokens | Tipasinteger |
Laukasusage.cost | Tipasnumber |
Klaidos ir tolesni veiksmai
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNegaliojantis privalomas laukas, pateikimo forma arba reikšmė | Kitas žingsnisPataisykite nurodytą užklausos lauką. |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra cohere/rerank-4-fast
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · Cohere: Rerank 4 Fast
- Kokios įvestys ir rezultatai prieinami?
POST /v1/rerank·cohere/rerank-4-fast:text→rerank- Kokius laukus naudoja užklausa?
POST /v1/rerank·cohere/rerank-4-fast:documents,model,provider,query,session_id,top_n,trace,user- Kokie apribojimai taikomi?
POST /v1/rerank·cohere/rerank-4-fast:top_n.minimum:1