Cohere: Rerank 4 Fast
Cohere Rerank 4 Fast järjestää ehdokasasiakirjat kyselyrelevanssin mukaan painottaen pienen viiveen ja suuren käsittelykapasiteetin tiedonhakua. Se tukee 32K:n kontekstia, yli 100 kieltä ja puolirakenteista tekstiä haku- ja haulla täydennetyissä työnkuluissa.
Tietoa mallista
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Cohere Rerank 4 Fast on kevyempi Rerank 4 -versio, joka on suunnattu pienemmän viiveen ja suuremman käsittelykapasiteetin tiedonhakutehtäviin. Se vastaanottaa kyselyn ja ehdokasasiakirjat sekä palauttaa niiden relevanssijärjestyksen ja pisteet. Se sopii vuorovaikutteiseen hakuun, toistuvaan näytön valintaan ja sovelluksiin, joiden on järjestettävä olemassa oleva tulosluettelo uudelleen. Fast on erillinen versio Rerank 4 Prosta, joka on suunnattu monimutkaisempiin tapauksiin, joissa hakulaatu on ensisijainen.
Valmistajan koodi on rerank-v4.0-fast. Pron tavoin siinä on 32 768 tokenin konteksti ja monikielinen kattavuus yli 100 kielellä. Kysely ja yksi asiakirja jakavat kontekstin; se ei ole vektorin dimensio eikä koko indeksoidun korpuksen budjetti. Anna verrattavat ehdokastekstit sen sijaan, että odottaisit mallin hakevan asiakirjoja lähteestä, jota sille ei ole annettu.
Dokumentoitu tulos sisältää alkuperäisen asiakirjaindeksin ja relevance_score-arvon. top_n valitsee palautettavien tulosten määrän, kun taas sen jättäminen pois palauttaa koko järjestetyn luettelon. Säilytä lähdetunnisteet syötteiden rinnalla, jotta uusi järjestys voidaan yhdistää todellisiin katkelmiin. Kuvaa tuotehaussa vaaditut tuoteominaisuudet kyselyssä ja järjestä ehdokaskuvaukset uudelleen; korkeampi sijoitus pitää yhdistää sen tuottaneeseen tuotetietueeseen.
Malli voi käsitellä englanninkielisiä ja muita asiakirjoja sekä puolirakenteisia tietueita. V2-työnkulussa asiakirjasyötteet ovat merkkijonoja, ja Cohere suosittelee rakenteisen tiedon esittämistä YAML-muodossa. Sijoita tärkeät kentät ensin ja säilytä niiden järjestys, jotta katkaisu ei poista relevanssin arvioinnissa tarvittavaa sisältöä. Tukitietue voi sisältää otsikon, tuotteen ja menettelytekstin; viesti voi sisältää aiheen ja rungon. Nämä täsmälliset suhteet antavat järjestelijälle tietoa pelkän täsmäävien avainsanojen luettelon lisäksi.
Coheren valmisteluoppaan mallikohtainen kyselyraja on 16 384 tokenia, ja kysely sekä asiakirja kuluttavat yhteistä kontekstia. Opas kuvaa pidempien asiakirjojen lohkokäsittelyä, kun taas V2-viite asettaa erikseen asiakirjan katkaisun oletukseksi 4096 tokenia max_tokens_per_doc-asetuksella. Tarkista tosiasiallinen asiakirja-asetus sen sijaan, että olettaisit koko 32K:n malli-ikkunan olevan aina käytössä. Valmistele olennaiset katkelmat tai sopiva asiakirjabudjetti varsinaiseen tiedonhakutehtävään.
Suositeltavaa suorituskykyä varten Cohere neuvoo välttämään yli 1 000 asiakirjaa yhdessä pyynnössä. Jaa suuremmat ehdokasjoukot hallittaviin ryhmiin ja säilytä niiden tunnisteet. Tulospisteet on normalisoitu välille 0–1, ja ne riippuvat kyselystä ja katkelmista. Niiden järjestys on keskeinen tulos; piste ei ole relevanssin lineaarinen kerroin eikä todiste katkelman oikeellisuudesta. Määritä mahdollinen suodatusraja toimialan edustavilla kyselyillä ja rajatapauksina relevanteilla katkelmilla.
Hyödyllinen Fast-tulos on järjestetty luettelo, joka voi ohjata heti hakutulosnäkymää tai valita näyttöä vastauksen kirjoitusvaiheeseen. Säilytä lähdeteksti pisteen yhteydessä ja tarkista, vastaavatko parhaat tulokset todella pyydettyihin ehtoihin. Fastin rooli on tiedonhaun järjestäminen eikä uuden selityksen tai upotusvektorin tuottaminen. Pidä nimetty versio ja syötteen valmistelu yhdenmukaisina kehittäessäsi relevanssitoimintaa.
Ailoot Ultra · Uudelleenjärjestys POST /v1/rerank cohere/rerank-4-fast
cohere/rerank-4-fastAloitus
Cohere Rerank 4 Fast järjestää ehdokasasiakirjat kyselyrelevanssin mukaan painottaen pienen viiveen ja suuren käsittelykapasiteetin tiedonhakua. Se tukee 32K:n kontekstia, yli 100 kieltä ja puolirakenteista tekstiä haku- ja haulla täydennetyissä työnkuluissa.
- Hyväksytyt syötteet
- Teksti
- Tulokset
- Järjestetyt tulokset
Saatavilla Ailootissa · syötteet & menetelmät
Ailoot Ultra · Uudelleenjärjestys POST /v1/rerank
- Syötetyypit
text- Tulostyypit
rerank- Tulosteen muoto
- json
| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttädocuments | Tyyppiarray | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat cohere/rerank-4-fast | Oletus— |
Kenttäprovider | Tyyppischema | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttäquery | Tyyppistring | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttäsession_id | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttätop_n | Tyyppiinteger | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 | Oletus— |
Kenttätrace | Tyyppischema | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttäuser | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttädocuments[].text | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttädocuments[].image | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Syöteaineistojen yhdistelmät
text_rerank · Pakollinen: query, documents array with minItems1
Menetelmän parametrit ja elinkaari
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, query, documents |
Parametrimaterial_types | Sopimustext |
Parametrioptional_controls | Sopimusprovider, session_id, top_n, trace, user |
Parametrimultimodal_input_binding | Sopimusnull |
Elinkaari: synchronous
Lähetä täsmällinen mallin tunniste ja säilytä koko natiivivastaus.
Hinnoittelu
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
- Nopea tila
- Ei määritetty Kun nopea tila on valittu
- Flex-tila
- Ei määritetty Kun flex-tila on valittu
- Päättelyn enimmäisteho
- Ei määritetty Kun päättelyn enimmäistehoon sovelletaan default-oletussäätöä
Ailoot-hinnat
Hinnat asetusten mukaan
Kohdista kukin veloitus näytettyihin ehtoihin. Käytä yhtä hintaa kutakin vaihtoehtoisten asetusten ryhmää kohden.
| Asetukset | Hinnasto | Laskutusyksikkö | Veloitus |
|---|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Laskutusyksikkö— | Veloitus Syöte · Syötetokenit — / 1K tokenia Tuloste · Tulostokenit — / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
| AsetuksetUltra | Hinnasto— | Laskutusyksikköhakuyksikköä kohden | Veloitus total · hakuyksikkö $0.004 hakuyksikköä kohden |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
Esimerkkipyynnöt
Ailoot Ultra · Uudelleenjärjestys
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-4-fast",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-4-fast'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Vastaanota ja tallenna tulokset
Ailoot Ultra · Uudelleenjärjestys
json
Säilytä kaikki valmistuneet tulokset
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Jokainen todellinen tulosindeksi, äärellinen relevance_score ja alkuperäinen asiakirjaolio säilytetään. Indeksit sitovat tulokset alkuperäiseen asiakirjataulukkoon. Koko alkuperäinen JSON tallennetaan ja palautetaan vasta veloituksen lopullisen kirjauksen jälkeen.
Jos alkuperäinen vastaus on tarkistettava
Säilytä alkuperäinen operaatio ja kokonainen tai osittainen vastaus; älä toista POST-pyyntöä.
Vastauksen kentät
| Kenttä | Tyyppi |
|---|---|
Kenttämodel | Tyyppistring |
Kenttäid | Tyyppistring |
Kenttäprovider | Tyyppistring |
Kenttäresults[].index | Tyyppiinteger |
Kenttäresults[].relevance_score | Tyyppinumber |
Kenttäresults[].document.text | Tyyppistring |
Kenttäresults[].document.image | Tyyppistring |
Kenttäusage.search_units | Tyyppiinteger |
Kenttäusage.total_tokens | Tyyppiinteger |
Kenttäusage.cost | Tyyppinumber |
Virheet ja seuraavat vaiheet
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheellinen pakollinen kenttä, esitysmuoto tai arvo | Seuraava vaiheKorjaa ilmoitettu pyyntökenttä. |
Aliakset
Mallin aliakset
Ailoot Ultra cohere/rerank-4-fast
Menetelmäpolkujen aliakset
Käytä yllä näytettyjä menetelmäpolkuja.
Liittyvät kutsujan ID:t
FAQ · Cohere: Rerank 4 Fast
- Mitä syötteitä ja tuloksia on saatavilla?
POST /v1/rerank·cohere/rerank-4-fast:text→rerank- Mitä kenttiä pyyntö käyttää?
POST /v1/rerank·cohere/rerank-4-fast:documents,model,provider,query,session_id,top_n,trace,user- Mitä rajoja sovelletaan?
POST /v1/rerank·cohere/rerank-4-fast:top_n.minimum:1