Cohere: Rerank 4 Fast
Cohere Rerank 4 Fast řadí kandidátní dokumenty podle relevance k dotazu se zaměřením na nízkou latenci a vysokou propustnost vyhledávání. Podporuje kontext 32K, více než 100 jazyků a polostrukturovaný text pro vyhledávání a postupy rozšířené o vyhledané podklady.
O modelu
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Cohere Rerank 4 Fast je lehčí varianta Rerank 4 určená pro vyhledávací úlohy s nižší latencí a vyšší propustností. Přijímá dotaz a kandidátní dokumenty a vrací jejich pořadí podle relevance a skóre. Je užitečná pro interaktivní vyhledávání, opakovaný výběr důkazů a aplikace potřebující přeuspořádat existující seznam výsledků. Fast zůstává samostatnou variantou odlišnou od Rerank 4 Pro, která je určena pro složitější případy s prioritou kvality vyhledávání.
Kód výrobce je rerank-v4.0-fast. Stejně jako Pro má kontext 32 768 tokenů a vícejazyčné pokrytí více než 100 jazyků. Dotaz a jeden dokument kontext sdílejí; nejde o rozměr vektoru ani rozpočet pro celý indexovaný korpus. Dodejte kandidátní texty, které se mají porovnat, místo očekávání, že model načte dokumenty ze zdroje, který nedostal.
Zdokumentovaný výsledek zahrnuje původní index dokumentu a relevance_score. top_n volí počet vrácených výsledků, zatímco jeho vynechání vrací celý seřazený seznam. U vstupů uchovávejte zdrojové identifikátory, aby šlo nové pořadí propojit se skutečnými pasážemi. U vyhledávání produktů popište v dotazu požadované vlastnosti produktu a přeuspořádejte kandidátní popisy; vyšší pořadí má zůstat spojené s produktovým záznamem, který je vytvořil.
Model může pracovat s anglickými i neanglickými dokumenty a polostrukturovanými záznamy. V postupu V2 tvoří vstupy dokumentů řetězce a Cohere doporučuje strukturovaná data reprezentovat jako YAML. Důležitá pole dávejte první a zachovávejte jejich pořadí, aby ořezání neodstranilo obsah potřebný k posouzení relevance. Záznam podpory může obsahovat název, produkt a text postupu; zpráva může obsahovat předmět a tělo. Tyto výslovné vztahy poskytují řadicímu modelu informace nad rámec seznamu shodných klíčových slov.
Limit dotazu specifický pro model v průvodci přípravou Cohere je 16 384 tokenů; dotaz a dokument spotřebovávají společný kontext. Průvodce popisuje zpracování delších dokumentů po částech, zatímco reference V2 samostatně nastavuje výchozí ořezávání dokumentu na 4 096 tokenů pomocí max_tokens_per_doc. Toto skutečně účinné nastavení dokumentu zkontrolujte místo předpokladu, že se vždy používá celé okno modelu 32K. Pro skutečnou vyhledávací úlohu připravte relevantní pasáže nebo vhodný rozpočet dokumentu.
Pro doporučený výkon Cohere nedoporučuje více než 1 000 dokumentů v jednom požadavku. Větší sady kandidátů rozdělte do zvládnutelných skupin a zachovejte jejich identifikátory. Výstupní skóre jsou normalizována od 0 do 1 a závisejí na dotazu a pasážích. Klíčovým výsledkem je jejich pořadí; skóre není lineárním násobkem relevance ani důkazem správnosti pasáže. Případný filtrační práh stanovte pomocí reprezentativních dotazů a hraničně relevantních pasáží z oboru.
Užitečným výsledkem Fast je seřazený seznam, který může okamžitě řídit zobrazení vyhledávání nebo vybírat důkazy pro krok psaní odpovědi. Zdrojový text zachovejte se skóre a zkontrolujte, zda nejlepší výsledky skutečně řeší požadované podmínky. Rolí Fast je řazení vyhledaných podkladů, nikoli vytváření nového vysvětlení nebo embeddingového vektoru. Při zpřesňování chování relevance zachovávejte pojmenovanou variantu a přípravu vstupu konzistentní.
Ailoot Ultra · Přeřazení podle relevance POST /v1/rerank cohere/rerank-4-fast
cohere/rerank-4-fastÚvod
Cohere Rerank 4 Fast řadí kandidátní dokumenty podle relevance k dotazu se zaměřením na nízkou latenci a vysokou propustnost vyhledávání. Podporuje kontext 32K, více než 100 jazyků a polostrukturovaný text pro vyhledávání a postupy rozšířené o vyhledané podklady.
- Přijímané vstupy
- Text
- Výsledky
- Výsledky seřazené podle relevance
Dostupné v Ailoot · vstupy a metody
Ailoot Ultra · Přeřazení podle relevance POST /v1/rerank
- Vstup
text- Výstup
rerank- Výstupní formát
- json
| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Poledocuments | Typarray | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity cohere/rerank-4-fast | Výchozí— |
Poleprovider | Typschema | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polequery | Typstring | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polesession_id | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poletop_n | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 | Výchozí— |
Poletrace | Typschema | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poleuser | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poledocuments[].text | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poledocuments[].image | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Kombinace vstupních materiálů
text_rerank · Povinné: query, documents array with minItems1
Parametry a životní cyklus metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, query, documents |
Parametrmaterial_types | Kontrakttext |
Parametroptional_controls | Kontraktprovider, session_id, top_n, trace, user |
Parametrmultimodal_input_binding | Kontraktnull |
Životní cyklus: synchronous
Odešlete přesné ID modelu a uchovejte celou nativní odpověď.
Tarify
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
- Rychlý režim
- Neuvedeno Při výběru rychlého režimu
- Režim flex
- Neuvedeno Při výběru režimu flex
- Maximální intenzita uvažování
- Neuvedeno Když se při maximální intenzitě uvažování použije výchozí úprava (default)
Sazby Ailoot
Ceny podle konfigurace
Přiřaďte každý poplatek k uvedeným podmínkám. Pro každou sadu alternativních konfigurací použijte jednu sazbu.
| Konfigurace | Tabulka sazeb | Účtovací jednotka | Poplatek |
|---|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Účtovací jednotka— | Poplatek Vstup · Vstupní tokeny — / 1K tokenů Výstup · Výstupní tokeny — / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
| KonfiguraceUltra | Tabulka sazeb— | Účtovací jednotkaza jednotku vyhledávání | Poplatek total · jednotka vyhledávání $0.004 za jednotku vyhledávání |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
Příklady požadavků
Ailoot Ultra · Přeřazení podle relevance
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-4-fast",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-4-fast'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Přijímání a ukládání výsledků
Ailoot Ultra · Přeřazení podle relevance
json
Uchovejte všechny dokončené výsledky
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovává se každý skutečný index výsledku, konečná hodnota relevance_score a původní objekt dokumentu. Indexy odkazují na původní pole dokumentů. Celý původní JSON se uloží a vrátí až po vyúčtování.
Pokud je nutné ověřit původní odpověď
Zachovejte původní operaci a úplnou či částečnou odpověď; požadavek POST neopakujte.
Pole odpovědi
| Pole | Typ |
|---|---|
Polemodel | Typstring |
Poleid | Typstring |
Poleprovider | Typstring |
Poleresults[].index | Typinteger |
Poleresults[].relevance_score | Typnumber |
Poleresults[].document.text | Typstring |
Poleresults[].document.image | Typstring |
Poleusage.search_units | Typinteger |
Poleusage.total_tokens | Typinteger |
Poleusage.cost | Typnumber |
Chyby a další kroky
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatné povinné pole, způsob zadání nebo hodnota | Další krokOpravte označené pole požadavku. |
Aliasy
Aliasy modelu
Ailoot Ultra cohere/rerank-4-fast
Aliasy cest metod
Použijte cesty metod uvedené výše.
Související ID modelů
FAQ · Cohere: Rerank 4 Fast
- Jaké vstupy a výsledky jsou dostupné?
POST /v1/rerank·cohere/rerank-4-fast:text→rerank- Jaká pole požadavek používá?
POST /v1/rerank·cohere/rerank-4-fast:documents,model,provider,query,session_id,top_n,trace,user- Jaké limity platí?
POST /v1/rerank·cohere/rerank-4-fast:top_n.minimum:1