Cohere: Rerank 4 Fast
Cohere Rerank 4 Fast zoraďuje kandidátske dokumenty podľa relevantnosti pre dopyt so zameraním na vyhľadávanie s nízkou latenciou a vysokou priepustnosťou. Podporuje kontext 32K, viac než 100 jazykov a pološtruktúrovaný text pre vyhľadávanie a postupy rozšírené vyhľadávaním.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Cohere Rerank 4 Fast je ľahšia edícia Rerank 4 určená na vyhľadávacie úlohy s nižšou latenciou a vyššou priepustnosťou. Prijíma dopyt a kandidátske dokumenty a vracia ich poradie relevantnosti a skóre. Je užitočný pre interaktívne vyhľadávanie, opakovaný výber dôkazov a aplikácie potrebujúce preusporiadať existujúci zoznam výsledkov. Fast zostáva samostatnou edíciou oproti Rerank 4 Pro, ktorý je určený na zložitejšie prípady s prioritou kvality vyhľadávania.
Kód výrobcu je rerank-v4.0-fast. Rovnako ako Pro má kontext 32 768 tokenov a viacjazyčné pokrytie viac než 100 jazykov. Dopyt a jeden dokument zdieľajú kontext; nejde o rozmer vektora ani rozpočet celého indexovaného korpusu. Dodajte kandidátske texty na porovnanie namiesto očakávania, že model vyhľadá dokumenty v zdroji, ktorý nedostal.
Dokumentovaný výsledok obsahuje pôvodný index dokumentu a relevance_score. top_n vyberá počet vrátených výsledkov, zatiaľ čo jeho vynechanie vracia celý zoradený zoznam. Identifikátory zdrojov uchovajte pri vstupoch, aby sa nové poradie dalo spojiť so skutočnými pasážami. Pri vyhľadávaní produktov opíšte v dopyte požadované vlastnosti produktu a preusporiadajte kandidátske opisy; vyššie umiestnenie má zostať prepojené s produktovým záznamom, ktorý ho vytvoril.
Model môže pracovať s anglickými aj neanglickými dokumentmi a pološtruktúrovanými záznamami. V postupe V2 sú vstupy dokumentov reťazce a Cohere odporúča štruktúrované údaje reprezentovať ako YAML. Dôležité polia vložte na začiatok a zachovajte ich poradie, aby skracovanie neodstránilo obsah potrebný na posúdenie relevantnosti. Záznam podpory môže niesť názov, produkt a text postupu; správa môže niesť predmet a telo. Tieto výslovné vzťahy poskytujú zoraďovaciemu modelu informácie nad rámec zoznamu zhodných kľúčových slov.
Limit dopytu konkrétneho modelu v sprievodcovi prípravou Cohere je 16 384 tokenov, pričom dopyt a dokument spotrebúvajú spoločný kontext. Sprievodca opisuje spracovanie dlhších dokumentov po blokoch, zatiaľ čo referenčná dokumentácia V2 samostatne nastavuje predvolené skracovanie dokumentov na 4 096 tokenov cez max_tokens_per_doc. Overte toto účinné nastavenie dokumentu namiesto predpokladu, že sa vždy používa celé okno modelu 32K. Pripravte relevantné pasáže alebo vhodný rozpočet dokumentu pre skutočnú vyhľadávaciu úlohu.
Pre odporúčaný výkon Cohere neodporúča viac než 1 000 dokumentov v jednej požiadavke. Väčšie množiny kandidátov rozdeľte do zvládnuteľných skupín pri zachovaní ich identifikátorov. Výstupné skóre sú normalizované od 0 do 1 a závisia od dopytu a pasáží. Ich poradie je kľúčovým výsledkom; skóre nie je lineárnym násobkom relevantnosti ani dôkazom správnosti pasáže. Prah filtrovania určte pomocou reprezentatívnych dopytov a hranične relevantných pasáží z domény.
Užitočným výsledkom Fast je zoradený zoznam, ktorý môže priamo riadiť zobrazenie vyhľadávania alebo vybrať dôkazy pre krok písania odpovede. Zdrojový text zachovajte pri skóre a skontrolujte, či najvyššie výsledky skutočne riešia požadované podmienky. Rolou Fast je zoraďovanie pri vyhľadávaní, nie generovanie nového vysvetlenia alebo embeddingového vektora. Pri spresňovaní správania relevantnosti zachovajte konzistentnú pomenovanú edíciu a prípravu vstupu.
Ailoot Ultra · Opätovné zoradenie výsledkov POST /v1/rerank cohere/rerank-4-fast
cohere/rerank-4-fastÚvod
Cohere Rerank 4 Fast zoraďuje kandidátske dokumenty podľa relevantnosti pre dopyt so zameraním na vyhľadávanie s nízkou latenciou a vysokou priepustnosťou. Podporuje kontext 32K, viac než 100 jazykov a pološtruktúrovaný text pre vyhľadávanie a postupy rozšírené vyhľadávaním.
- Povolené vstupy
- Text
- Výsledky
- Zoradené výsledky
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Opätovné zoradenie výsledkov POST /v1/rerank
- Vstup
text- Výstup
rerank- Výstupný formát
- json
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Poledocuments | Typarray | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity cohere/rerank-4-fast | Predvolené— |
Poleprovider | Typschema | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polequery | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polesession_id | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poletop_n | Typinteger | PožiadavkaVoliteľné | Hodnoty a limity Minimum: 1 | Predvolené— |
Poletrace | Typschema | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poleuser | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poledocuments[].text | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poledocuments[].image | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Kombinácie vstupných podkladov
text_rerank · Povinné: query, documents array with minItems1
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, query, documents |
Parametermaterial_types | Špecifikáciatext |
Parameteroptional_controls | Špecifikáciaprovider, session_id, top_n, trace, user |
Parametermultimodal_input_binding | Špecifikácianull |
Životný cyklus: synchronous
Odošlite presné ID modelu a zachovajte celú natívnu odpoveď.
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Neuvedené Keď je zvolený rýchly režim
- Režim Flex
- Neuvedené Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
Každý poplatok priraďte k zobrazeným podmienkam. Pre každú skupinu alternatívnych konfigurácií použite jednu sadzbu.
| Konfigurácia | Sadzobník | Účtovacia jednotka | Poplatok |
|---|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Účtovacia jednotka— | Poplatok Vstup · Vstupné tokeny — / 1K tokenov Výstup · Výstupné tokeny — / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
| KonfiguráciaUltra | Sadzobník— | Účtovacia jednotkaza jednotku vyhľadávania | Poplatok total · jednotka vyhľadávania $0.004 za jednotku vyhľadávania |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Opätovné zoradenie výsledkov
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-4-fast",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-4-fast'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Prijať a uložiť výsledky
Ailoot Ultra · Opätovné zoradenie výsledkov
json
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachováva sa každý skutočný index výsledku, konečná hodnota relevance_score a pôvodný objekt dokumentu. Indexy odkazujú na pôvodné pole dokumentov. Celý pôvodný JSON sa uloží a vráti až po zúčtovaní.
Ak treba overiť pôvodnú odpoveď
Zachovajte pôvodnú operáciu a úplnú alebo čiastočnú odpoveď; POST znova neodosielajte.
Polia odpovede
| Pole | Typ |
|---|---|
Polemodel | Typstring |
Poleid | Typstring |
Poleprovider | Typstring |
Poleresults[].index | Typinteger |
Poleresults[].relevance_score | Typnumber |
Poleresults[].document.text | Typstring |
Poleresults[].document.image | Typstring |
Poleusage.search_units | Typinteger |
Poleusage.total_tokens | Typinteger |
Poleusage.cost | Typnumber |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné pole, reprezentácia alebo hodnota | Ďalší krokOpravte označené pole požiadavky. |
Aliasy
Aliasy modelov
Ailoot Ultra cohere/rerank-4-fast
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · Cohere: Rerank 4 Fast
- Aké vstupy a výsledky sú dostupné?
POST /v1/rerank·cohere/rerank-4-fast:text→rerank- Aké polia používa požiadavka?
POST /v1/rerank·cohere/rerank-4-fast:documents,model,provider,query,session_id,top_n,trace,user- Aké limity platia?
POST /v1/rerank·cohere/rerank-4-fast:top_n.minimum:1