Cohere: Rerank 4 Fast
Cohere Rerank 4 Fast kandidatne dokumente uredi po ustreznosti poizvedbi s poudarkom na pridobivanju z nizko zakasnitvijo in visoko prepustnostjo. Podpira kontekst 32K, več kot 100 jezikov in polstrukturirano besedilo za iskanje ter poteke dela, obogatene s pridobivanjem podatkov.
O modelu
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Cohere Rerank 4 Fast je lažja izdaja Rerank 4, namenjena nalogam pridobivanja z nižjo zakasnitvijo in višjo prepustnostjo. Sprejme poizvedbo in kandidatne dokumente ter vrne njihov vrstni red ustreznosti in ocene. Uporabna je za interaktivno iskanje, ponavljajočo se izbiro dokazov in aplikacije, ki morajo preurediti obstoječi seznam rezultatov. Fast ostaja ločena izdaja od Rerank 4 Pro, ki je namenjena zapletenejšim primerom, kjer ima kakovost pridobivanja prednost.
Proizvajalčeva koda je rerank-v4.0-fast. Tako kot Pro ima kontekst 32.768 žetonov in večjezično podporo za več kot 100 jezikov. Poizvedba in en dokument si delita kontekst; to ni dimenzija vektorja ali obseg za celoten indeksirani korpus. Predložite kandidatna besedila za primerjavo, namesto da bi pričakovali, da bo model pridobil dokumente iz vira, ki mu ni bil podan.
Dokumentirani rezultat vsebuje izvirni indeks dokumenta in relevance_score. top_n določa število vrnjenih rezultatov, brez njega pa se vrne celoten razvrščeni seznam. Ob vhodih ohranite identifikatorje virov, da je mogoče novi vrstni red povezati z dejanskimi odlomki. Pri iskanju izdelkov v poizvedbi opišite zahtevane lastnosti izdelka in prerazvrstite kandidatne opise; višja uvrstitev naj ostane povezana z zapisom izdelka, ki jo je ustvaril.
Model lahko obdeluje angleške in neangleške dokumente ter polstrukturirane zapise. V poteku V2 so vhodi dokumentov nizi, Cohere pa priporoča predstavitev strukturiranih podatkov kot YAML. Pomembna polja postavite na začetek in ohranite njihov vrstni red, da krajšanje ne zavrže vsebine, potrebne za presojo ustreznosti. Podporni zapis lahko vsebuje naslov, izdelek in besedilo postopka; sporočilo lahko vsebuje zadevo in telo. Te izrecne povezave modelu za razvrščanje dajejo informacije, ki presegajo seznam ujemajočih se ključnih besed.
Omejitev poizvedbe za ta model v Coherovem vodniku za pripravo je 16.384 žetonov, pri čemer poizvedba in dokument porabljata skupni kontekst. Vodnik opisuje obdelavo kosov daljših dokumentov, referenčna dokumentacija V2 pa ločeno nastavi privzeto krajšanje dokumentov na 4096 žetonov prek max_tokens_per_doc. Preverite dejansko nastavitev dokumentov, namesto da bi predpostavili, da je vedno uporabljeno celotno okno modela 32K. Za dejansko nalogo pridobivanja pripravite ustrezne odlomke ali primeren obseg dokumenta.
Za priporočeno zmogljivost Cohere odsvetuje več kot 1.000 dokumentov v eni zahtevi. Večje nabore kandidatov razdelite v obvladljive skupine in ohranite njihove identifikatorje. Izhodne ocene so normalizirane od 0 do 1 ter odvisne od poizvedbe in odlomkov. Njihov vrstni red je ključni rezultat; ocena ni linearni večkratnik ustreznosti ali dokaz, da je odlomek pravilen. Morebitni prag filtriranja določite z reprezentativnimi poizvedbami in mejno ustreznimi odlomki s področja.
Uporaben rezultat Fast je razvrščen seznam, ki lahko neposredno poganja prikaz iskanja ali izbere dokaze za fazo pisanja odgovora. Ob oceni ohranite izvorno besedilo in preverite, ali najvišje uvrščeni rezultati dejansko obravnavajo zahtevane pogoje. Vloga Fast je razvrščanje pri pridobivanju, ne ustvarjanje nove razlage ali vektorske vložitve. Pri izboljševanju vedenja glede ustreznosti ohranite dosledni poimensko določeno izdajo in pripravo vhoda.
Ailoot Ultra · Ponovno razvrščanje POST /v1/rerank cohere/rerank-4-fast
cohere/rerank-4-fastZačetek
Cohere Rerank 4 Fast kandidatne dokumente uredi po ustreznosti poizvedbi s poudarkom na pridobivanju z nizko zakasnitvijo in visoko prepustnostjo. Podpira kontekst 32K, več kot 100 jezikov in polstrukturirano besedilo za iskanje ter poteke dela, obogatene s pridobivanjem podatkov.
- Dovoljeni vhodi
- Besedilo
- Rezultati
- Razvrščeni rezultati
Na voljo v Ailoot · vhodi in metode
Ailoot Ultra · Ponovno razvrščanje POST /v1/rerank
- Vhod
text- Izhod
rerank- Izhodni format
- json
| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljedocuments | Vrstaarray | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve cohere/rerank-4-fast | Privzeto— |
Poljeprovider | Vrstaschema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljequery | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljesession_id | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetop_n | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 | Privzeto— |
Poljetrace | Vrstaschema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljeuser | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljedocuments[].text | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljedocuments[].image | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Kombinacije vhodnih gradiv
text_rerank · Obvezno: query, documents array with minItems1
Parametri in življenjski cikel metode
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, query, documents |
Parametermaterial_types | Specifikacijatext |
Parameteroptional_controls | Specifikacijaprovider, session_id, top_n, trace, user |
Parametermultimodal_input_binding | Specifikacijanull |
Življenjski cikel: synchronous
Pošljite natančni ID modela in ohranite celoten izvorni odgovor.
Cenik
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
- Hitri način
- Ni navedeno Ko je izbran hitri način
- Način flex
- Ni navedeno Ko je izbran način flex
- Najvišja raven razmišljanja
- Ni navedeno Ko najvišja raven razmišljanja uporablja privzeto prilagoditev (default)
Cene Ailoot
Cene po nastavitvah
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Obračunska enota | Strošek |
|---|---|---|---|
| NastavitevOsnovne cene žetonov | Cenovna lestvicaOsnovna cena | Obračunska enota— | Strošek Vhod · Vhodni žetoni — / 1K žetonov Izhod · Izhodni žetoni — / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevUltra | Cenovna lestvica— | Obračunska enotana iskalno enoto | Strošek total · enota iskanja $0.004 na iskalno enoto |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
Primeri zahtev
Ailoot Ultra · Ponovno razvrščanje
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-4-fast",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-4-fast'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Prejmi in shrani rezultate
Ailoot Ultra · Ponovno razvrščanje
json
Ohrani vse dokončane rezultate
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranijo se vsak dejanski indeks rezultata, relevance_score s končno vrednostjo in izvirni objekt dokumenta. Indeksi se povezujejo z izvirnim poljem dokumentov. Celoten izvirni JSON se shrani in vrne šele po obračunu.
Če je treba preveriti izvirni odgovor
Ohranite prvotno operacijo in celoten/delni odgovor; ne ponovite POST.
Polja odgovora
| Polje | Vrsta |
|---|---|
Poljemodel | Vrstastring |
Poljeid | Vrstastring |
Poljeprovider | Vrstastring |
Poljeresults[].index | Vrstainteger |
Poljeresults[].relevance_score | Vrstanumber |
Poljeresults[].document.text | Vrstastring |
Poljeresults[].document.image | Vrstastring |
Poljeusage.search_units | Vrstainteger |
Poljeusage.total_tokens | Vrstainteger |
Poljeusage.cost | Vrstanumber |
Napake in naslednji koraki
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavno obvezno polje, predstavitev ali vrednost | Naslednji korakPopravite navedeno polje zahteve. |
Druga imena
Druga imena modelov
Ailoot Ultra cohere/rerank-4-fast
Druga imena poti metod
Uporabite zgoraj navedene poti metod.
Povezani ID-ji za klic
FAQ · Cohere: Rerank 4 Fast
- Kateri vhodi in rezultati so na voljo?
POST /v1/rerank·cohere/rerank-4-fast:text→rerank- Katera polja uporablja zahteva?
POST /v1/rerank·cohere/rerank-4-fast:documents,model,provider,query,session_id,top_n,trace,user- Katere omejitve veljajo?
POST /v1/rerank·cohere/rerank-4-fast:top_n.minimum:1