VoyageAI by MongoDB: rerank-2.5
rerank-2.5 priloženi nabor besedilnih kandidatov preuredi glede na relevantnost za poizvedbo in izbirna navodila v naravnem jeziku. Je večjezični, kakovostno usmerjeni model za ponovno razvrščanje s kontekstom poizvedba–dokument z 32.000 žetoni in razvrščenimi ocenami, povezanimi z izvirnimi indeksi kandidatov.
O modelu
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
rerank-2.5 je model podjetja Voyage AI za ponovno razvrščanje po navodilih, zasnovan za izboljšanje nabora iskalnih kandidatov. Poizvedbo in vsak dokument skupaj preuči kot navzkrižni kodirnik, nato vrne vrstni red po relevantnosti. Proizvajalčeva izdaja poudarja nadzor nad relevantnostjo v naravnem jeziku, večjezično pridobivanje in daljši kontekst poizvedba–dokument kot pri predhodni izdaji rerank-2.
Modelu podajte kandidate za primerjavo
Vhod sta poizvedba in seznam kandidatnih besedilnih dokumentov. To so lahko odlomki, izbrani z iskanjem po vdelavah ali leksikalnim iskanjem v prvi stopnji. Model za ponovno razvrščanje ocenjuje priloženo besedilo, namesto da bi ustvarjal vdelave korpusa, zato je njegova praktična naloga izboljšanje razvrstitve kandidatov, ki jih je začetno iskanje že našlo.
Pri pripravi seznama ohranite izvirni vrstni red kandidatov in identifikatorje virov. Vrnjeni indeksi se nanašajo na te vhodne položaje. Pri nalogi RAG priložite odlomke, ki bi jih stopnja odgovarjanja dejansko lahko uporabila, vključno z naslovom ali pogoji, potrebnimi za razumevanje. Ustrezen dokument, ki ga ni v oddanem naboru kandidatov, se ne more pojaviti kot na novo najden rezultat ponovnega razvrščanja.
Določite želeni pomen relevantnosti
Navodila lahko dodate za poizvedbo ali pred njo. Izdaja opisuje tri uporabne vloge: poudarek na določenem delu dokumenta, prednostni tip vira in razjasnitev poizvedbe z aplikacijskim kontekstom. Te spremenijo nalogo relevantnosti, predstavljeno modelu.
Pri tehničnem iskanju je ponazoritveno navodilo »Daj prednost odlomkom, ki pojasnjujejo obnašanje ob napaki in obnovitvi; uvodni pregledi so drugotnega pomena.« Pri raziskovalni zbirki določite, ali so najpomembnejši naslov, metoda ali rezultat. Pri dvoumnem izrazu navedite predmetno področje iskanja. Vprašanje in navodilo naj bosta skladna, da eno ne zahteva široke teme, drugo pa tiho spremeni nalogo.
Te preference usmerjajo ocenjevanje relevantnosti. Če ima aplikacija stroge zahteve upravičenosti, kot so različica vira, datum ali obseg dostopa, ustrezni nabor kandidatov pripravite ločeno. Navodilo modelu o relevantnosti in deterministična omejitev zbirke služita različnima namenoma.
Razvrščeni izhod in poznejša uporaba rezultatov
Rezultati so urejeni po padajoči relevantnosti ter vključujejo oceno relevantnosti s plavajočo vejico in izvirni vhodni indeks kandidata. Možnost top-k izbere število vrnjenih vodilnih rezultatov; brez nje proizvajalčeva specifikacija vrne rezultate za vse oddane kandidate. Izbirna nastavitev return-documents vključuje ustrezno izvorno besedilo; sicer odgovor vsebuje indekse in ocene.
Vrstni red uporabite za izbiro odlomkov za prikaz ali poznejšo stopnjo odgovarjanja, pri čemer ohranite njihovo identiteto vira. Pri ocenjevanju razvrstitve preglejte dejansko besedilo: ocena je merilo relevantnosti za oddano poizvedbo, ne ustvarjeni odgovor ali preveritev pravilnosti trditev dokumenta. Zato je model uporaben za izboljšanje tehničnega, pravnega, finančnega, medicinskega, pogovornega in večjezičnega iskalnega gradiva, ne da bi razvrstitev pretvoril v sklep o vsebini posameznega strokovnega področja.
Kontekst, skupni proračun žetonov in krajšanje
Dokumentirana omejitev poizvedbe je 8.000 žetonov, vključno z navodili, postavljenimi v poizvedbo. Poizvedba skupaj s katerim koli posameznim kandidatnim dokumentom mora ostati znotraj 32.000 žetonov, seznam dokumentov pa lahko vsebuje največ 1.000 elementov. Skupna dodelitev je 600.000 žetonov, šteta kot žetoni poizvedbe, pomnoženi s številom dokumentov, plus vsi žetoni dokumentov. Dolgo navodilo se zato večkrat šteje v kandidatnih parih.
Izhodno število top-k ne spremeni števila kandidatov v tem izračunu vhodnih žetonov. Privzeto krajšanje predolge poizvedbe ali dokumente skrajša na omejitev konteksta; izklop povzroči napako pri predolgi poizvedbi ali paru. Odlomke z odgovori pripravite premišljeno in pomembne pogoje ohranite v besedilu, ki ga bo model videl. Izboljšani vrstni red ocenite na reprezentativnih vprašanjih in navodilih, nato izbrane izvirne odlomke posredujte naslednji stopnji.
Ailoot Ultra · Ponovno razvrščanje POST /v1/rerank voyageai/rerank-2.5
voyageai/rerank-2.5Začetek
rerank-2.5 priloženi nabor besedilnih kandidatov preuredi glede na relevantnost za poizvedbo in izbirna navodila v naravnem jeziku. Je večjezični, kakovostno usmerjeni model za ponovno razvrščanje s kontekstom poizvedba–dokument z 32.000 žetoni in razvrščenimi ocenami, povezanimi z izvirnimi indeksi kandidatov.
- Dovoljeni vhodi
- Besedilo
- Rezultati
- Razvrščeni rezultati
Na voljo v Ailoot · vhodi in metode
Ailoot Ultra · Ponovno razvrščanje POST /v1/rerank
- Vhod
text- Izhod
rerank- Izhodni format
- json
| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljedocuments | Vrstaarray | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve voyageai/rerank-2.5 | Privzeto— |
Poljeprovider | Vrstaschema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljequery | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljesession_id | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetop_n | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 | Privzeto— |
Poljetrace | Vrstaschema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljeuser | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljedocuments[].text | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljedocuments[].image | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Kombinacije vhodnih gradiv
text_rerank · Obvezno: query, documents array with minItems1
Parametri in življenjski cikel metode
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, query, documents |
Parametermaterial_types | Specifikacijatext |
Parameteroptional_controls | Specifikacijaprovider, session_id, top_n, trace, user |
Parametermultimodal_input_binding | Specifikacijanull |
Življenjski cikel: synchronous
Pošljite natančni ID modela in ohranite celoten izvorni odgovor.
Cenik
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
- Hitri način
- Ni navedeno Ko je izbran hitri način
- Način flex
- Ni navedeno Ko je izbran način flex
- Najvišja raven razmišljanja
- Ni navedeno Ko najvišja raven razmišljanja uporablja privzeto prilagoditev (default)
Cene Ailoot
Cene po nastavitvah
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Obračunska enota | Strošek |
|---|---|---|---|
| NastavitevOsnovne cene žetonov | Cenovna lestvicaOsnovna cena | Obračunska enota— | Strošek Vhod · Vhodni žetoni — / 1K žetonov Izhod · Izhodni žetoni — / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevUltra | Cenovna lestvica— | Obračunska enota/ 1K žetonov | Strošek Vhod $0.0001 / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
Primeri zahtev
Ailoot Ultra · Ponovno razvrščanje
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Prejmi in shrani rezultate
Ailoot Ultra · Ponovno razvrščanje
json
Ohrani vse dokončane rezultate
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranijo se vsak dejanski indeks rezultata, relevance_score s končno vrednostjo in izvirni objekt dokumenta. Indeksi se povezujejo z izvirnim poljem dokumentov. Celoten izvirni JSON se shrani in vrne šele po obračunu.
Če je treba preveriti izvirni odgovor
Ohranite prvotno operacijo in celoten/delni odgovor; ne ponovite POST.
Polja odgovora
| Polje | Vrsta |
|---|---|
Poljemodel | Vrstastring |
Poljeid | Vrstastring |
Poljeprovider | Vrstastring |
Poljeresults[].index | Vrstainteger |
Poljeresults[].relevance_score | Vrstanumber |
Poljeresults[].document.text | Vrstastring |
Poljeresults[].document.image | Vrstastring |
Poljeusage.search_units | Vrstainteger |
Poljeusage.total_tokens | Vrstainteger |
Poljeusage.cost | Vrstanumber |
Napake in naslednji koraki
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavno obvezno polje, predstavitev ali vrednost | Naslednji korakPopravite navedeno polje zahteve. |
Druga imena
Druga imena modelov
Ailoot Ultra voyageai/rerank-2.5
Druga imena poti metod
Uporabite zgoraj navedene poti metod.
Povezani ID-ji za klic
FAQ · VoyageAI by MongoDB: rerank-2.5
- Kateri vhodi in rezultati so na voljo?
POST /v1/rerank·voyageai/rerank-2.5:text→rerank- Katera polja uporablja zahteva?
POST /v1/rerank·voyageai/rerank-2.5:documents,model,provider,query,session_id,top_n,trace,user- Katere omejitve veljajo?
POST /v1/rerank·voyageai/rerank-2.5:top_n.minimum:1