Cohere: Rerank v3.5
Cohere Rerank 3.5 järjestää ehdokastekstit ja puolirakenteiset tietueet uudelleen niiden kyselyrelevanssin mukaan. Se tukee yli 100 kieltä ja 4096 tokenin kontekstia avainsana- tai semanttisen haun tulosten tarkentamiseen ennen vastausta tai hakutulosten näyttöä.
Tietoa mallista
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Cohere Rerank 3.5 on monikielinen malli ehdokasasiakirjojen ja puolirakenteisen tekstin relevanssijärjestykseen asettamiseen. Se arvioi jokaisen ehdokkaan suhteessa kyselyyn ja palauttaa uudelleenjärjestetyn tulosluettelon relevanssipisteineen. Se voi tarkentaa avainsana- tai semanttisella haulla saatuja ehdokkaita ja valita katkelmia haulla täydennettyyn vastaukseen. Sen tehtävä on parantaa näytön järjestystä eikä tuottaa vapaamuotoista vastausta tai uutta korpusindeksiä.
Täsmällinen valmistajan tunniste on rerank-v3.5. Se käyttää 4096 tokenin kontekstia, joka eroaa Rerank 4 Pron ja Fastin 32K:n kontekstista. Kyselyn ja asiakirjan tokenit lasketaan yhdessä tähän ehdokaskohtaiseen ikkunaan. Mallikohtainen valmisteluopas katkaisee kyselyn sen ensimmäisten 2048 tokenin jälkeen ja kuvaa 4093 tokenin asiakirjalohkoja ennen kyselyn huomioimista. Pidä kysely rajattuna ja valmistele ehdokaskatkelmat, joissa on pyydetyn suhteen arviointiin tarvittavat tiedot.
Anna kysely ja luettelo ehdokastekstimerkkijonoista. Jokainen tulos sisältää indeksin alkuperäisen asiakirjan sijaintiin ja relevanssipisteen; top_n valitsee säilytettävien järjestettyjen tulosten määrän. Ilman sitä dokumentoitu valmistajan työnkulku palauttaa kaikki tulokset. Säilytä asiakirjatunnisteet pisteestä riippumattomina, jotta paras katkelma voidaan edelleen jäljittää alkuperäiseen käytäntöön, tuotetietueeseen tai viestiin.
Rerank 3.5 tukee yli 100 kieltä, mukaan lukien englanninkielinen ja muu aineisto. Kysely voi sisältää useita tarpeen puolia, kuten tuotteen, käyttäjätilanteen ja halutun menettelyn. V2-julkaisu poisti rakenteisista tietueista raakojen asiakirjaobjektien käytön ja suosittelee YAML-merkkijonoja. Pidä hyödylliset kentät harkitussa järjestyksessä ja ratkaiseva sisältö ennen vähemmän olennaista metadataa, koska pitkät merkkijonot voidaan katkaista. Tämä sopii otsikoille ja sisällölle, tuoteominaisuuksille sekä viestin aiheelle ja rungolle.
V2-valmistajaviite käyttää asiakirjan katkaisuun max_tokens_per_doc-asetusta, jonka oletus on 4096. Coheren valmisteluopas kuvaa myös pitkien asiakirjojen lohkomista; tosiasiallinen syöte riippuu valitusta työnkulusta ja sen asiakirja-asetuksista. Jos haluat enemmän hallintaa, valmistele tunnistettavat katkelmat itse sen sijaan, että olettaisit pitkän lähteen kaikkien osioiden pysyvän näkyvissä. Säilytä riittävästi ympäröivää kontekstia, jotta vastausta sisältävä katkelma erottuu katkelmasta, joka vain käyttää samaa sanastoa.
Pyyntöjen suorituskyvyn kannalta nykyinen viite suosittelee, ettei kerralla lähetetä yli 1 000 asiakirjaa. Relevanssipisteet on normalisoitu välille 0–1, mutta arvot riippuvat kyselystä ja ehdokkaista eivätkä ole lineaarinen oikeellisuusasteikko. Käytä järjestystä hyödyllisen näytön tunnistamiseen. Jos tarvitset pisterajan, valitse toimialaa edustavia kyselyjä ja rajatapauksina relevantteja katkelmia, jotta raja vastaa varsinaista tiedonhakutehtävää.
Käytännön tukityönkulku voi järjestää palautuskäytännön ehdokasosiot uudelleen vahingoittunutta tuotetta koskevaa kysymystä varten ja välittää valitun lähdetekstin vastauksen kirjoitusvaiheeseen. Sähköpostihaku voi järjestää viestejä tietyn ongelman mukaan ja säilyttää alkuperäisen viestitunnisteen jokaisen tuloksen yhteydessä. Hyödyllinen tuotos on järjestetty näyttöluettelo. Säilytä tuloksen yhteydessä Rerank 3.5:n lyhyempi konteksti ja V2:n asiakirjavalmistelu myöhempien mallien rajojen korvaamisen sijaan.
Ailoot Ultra · Uudelleenjärjestys POST /v1/rerank cohere/rerank-v3.5
cohere/rerank-v3.5Aloitus
Cohere Rerank 3.5 järjestää ehdokastekstit ja puolirakenteiset tietueet uudelleen niiden kyselyrelevanssin mukaan. Se tukee yli 100 kieltä ja 4096 tokenin kontekstia avainsana- tai semanttisen haun tulosten tarkentamiseen ennen vastausta tai hakutulosten näyttöä.
- Hyväksytyt syötteet
- Teksti
- Tulokset
- Järjestetyt tulokset
Saatavilla Ailootissa · syötteet & menetelmät
Ailoot Ultra · Uudelleenjärjestys POST /v1/rerank
- Syötetyypit
text- Tulostyypit
rerank- Tulosteen muoto
- json
| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttädocuments | Tyyppiarray | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat cohere/rerank-v3.5 | Oletus— |
Kenttäprovider | Tyyppischema | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttäquery | Tyyppistring | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttäsession_id | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttätop_n | Tyyppiinteger | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 | Oletus— |
Kenttätrace | Tyyppischema | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttäuser | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttädocuments[].text | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttädocuments[].image | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Syöteaineistojen yhdistelmät
text_rerank · Pakollinen: query, documents array with minItems1
Menetelmän parametrit ja elinkaari
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, query, documents |
Parametrimaterial_types | Sopimustext |
Parametrioptional_controls | Sopimusprovider, session_id, top_n, trace, user |
Parametrimultimodal_input_binding | Sopimusnull |
Elinkaari: synchronous
Lähetä täsmällinen mallin tunniste ja säilytä koko natiivivastaus.
Hinnoittelu
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
- Nopea tila
- Ei määritetty Kun nopea tila on valittu
- Flex-tila
- Ei määritetty Kun flex-tila on valittu
- Päättelyn enimmäisteho
- Ei määritetty Kun päättelyn enimmäistehoon sovelletaan default-oletussäätöä
Ailoot-hinnat
Hinnat asetusten mukaan
Kohdista kukin veloitus näytettyihin ehtoihin. Käytä yhtä hintaa kutakin vaihtoehtoisten asetusten ryhmää kohden.
| Asetukset | Hinnasto | Laskutusyksikkö | Veloitus |
|---|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Laskutusyksikkö— | Veloitus Syöte · Syötetokenit — / 1K tokenia Tuloste · Tulostokenit — / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
| AsetuksetUltra | Hinnasto— | Laskutusyksikköhakuyksikköä kohden | Veloitus total · hakuyksikkö $0.002 hakuyksikköä kohden |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
Esimerkkipyynnöt
Ailoot Ultra · Uudelleenjärjestys
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-v3.5",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-v3.5'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Vastaanota ja tallenna tulokset
Ailoot Ultra · Uudelleenjärjestys
json
Säilytä kaikki valmistuneet tulokset
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Jokainen todellinen tulosindeksi, äärellinen relevance_score ja alkuperäinen asiakirjaolio säilytetään. Indeksit sitovat tulokset alkuperäiseen asiakirjataulukkoon. Koko alkuperäinen JSON tallennetaan ja palautetaan vasta veloituksen lopullisen kirjauksen jälkeen.
Jos alkuperäinen vastaus on tarkistettava
Säilytä alkuperäinen operaatio ja kokonainen tai osittainen vastaus; älä toista POST-pyyntöä.
Vastauksen kentät
| Kenttä | Tyyppi |
|---|---|
Kenttämodel | Tyyppistring |
Kenttäid | Tyyppistring |
Kenttäprovider | Tyyppistring |
Kenttäresults[].index | Tyyppiinteger |
Kenttäresults[].relevance_score | Tyyppinumber |
Kenttäresults[].document.text | Tyyppistring |
Kenttäresults[].document.image | Tyyppistring |
Kenttäusage.search_units | Tyyppiinteger |
Kenttäusage.total_tokens | Tyyppiinteger |
Kenttäusage.cost | Tyyppinumber |
Virheet ja seuraavat vaiheet
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheellinen pakollinen kenttä, esitysmuoto tai arvo | Seuraava vaiheKorjaa ilmoitettu pyyntökenttä. |
Aliakset
Mallin aliakset
Ailoot Ultra cohere/rerank-v3.5
Menetelmäpolkujen aliakset
Käytä yllä näytettyjä menetelmäpolkuja.
Liittyvät kutsujan ID:t
FAQ · Cohere: Rerank v3.5
- Mitä syötteitä ja tuloksia on saatavilla?
POST /v1/rerank·cohere/rerank-v3.5:text→rerank- Mitä kenttiä pyyntö käyttää?
POST /v1/rerank·cohere/rerank-v3.5:documents,model,provider,query,session_id,top_n,trace,user- Mitä rajoja sovelletaan?
POST /v1/rerank·cohere/rerank-v3.5:top_n.minimum:1