VoyageAI by MongoDB: rerank-3-lite
Voyage rerank-3-lite ocenjuje in preureja kandidatne besedilne dokumente za poizvedbo, s poudarkom na hitrem odzivanju iskanja. Podpira navodila o relevantnosti in okno poizvedba–dokument z 32.000 žetoni, zato je uporaben po vektorskem iskanju ali iskanju po ključnih besedah v iskalnih delovnih potekih in RAG.
O modelu
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Voyage rerank-3-lite je izdaja serije Voyage Rerank 3, osredotočena na zakasnitev. Sprejme besedilno poizvedbo in kandidatne dokumente, vsak par poizvedba–dokument oceni skupaj ter vrne ocene relevantnosti v razvrščenem vrstnem redu. Služi drugi stopnji iskanja: iskalnik z vdelavami ali ključnimi besedami poišče kandidate, Lite pa nato izboljša njihov vrstni red. Rezultat je razvrstitev za uporabo pri iskanju ali v delovnem poteku ustvarjanja s podporo pridobivanja informacij.
Kaj se spreminja v Rerank 3 Lite Ponudnik poudarja boljše pridobivanje dolgih dokumentov in kode v primerjavi z rerank-2.5-lite. Obe izdaji Rerank 3 ohranjata sledenje navodilom in isti razred konteksta 32K, Lite pa je zasnovan za aplikacije, občutljive na zakasnitev. Zato je praktičen kandidat za interaktivno iskanje po bazi znanja, pridobivanje podpornih dokumentov in iskanje kode, kadar uporabniki potrebujejo relevantne rezultate hitro. Izberite ga glede na zahteve glede kakovosti in odzivnega časa dejanske zbirke, namesto da predpostavljate, da manjša izdaja pomeni manjše kontekstno okno.
Relevantnost usmerite s poizvedbo Poizvedbo lahko spremljajo navodila v naravnem jeziku, ki pojasnijo, kaj šteje kot relevantno. Vprašanje in želeno relevantnost ohranite kratka in skladna. Pri iskanju za programsko podporo uporabite »Poišči postopek ponastavitve naprave; daj prednost navodilom za navedeno revizijo strojne opreme.« Pri dvoumnem imenu izdelka vključite kategorijo izdelka, da ne prevladajo nepovezani pomeni. Prednost v poizvedbi usmerja semantično ocenjevanje; pred sestavo kandidatnega seznama z izrecnimi metapodatki zbirke izberite pravi izdelek, različico dokumenta ali obseg dostopa.
Pripravite ožji izbor besedilnih kandidatov Vhodni dokumenti so nizi. Iz izvornega gradiva izluščite berljivo besedilo ter ohranite uporabne naslove, podnaslove, identifikatorje in okoliški kontekst. Hranite stabilno preslikavo vsakega vhodnega položaja v izvirni zapis. Pri članku o odpravljanju težav vključite simptom in ustrezni postopek, ne le osamljenega stavka. Pri iskanju izvorne kode vključite funkcijo in bližnje informacije, potrebne za razlikovanje od podobno poimenovanih funkcij. Odstranite ponavljajočo se navigacijo ali standardno besedilo, kadar izrivata uporaben odlomek.
Model za ponovno razvrščanje lahko preuredi samo prejete dokumente. Če prvo iskanje nikoli ne pridobi ustreznega članka, ta stopnja ne more obnoviti manjkajočega kandidata. Kadar se rezultat zdi napačen, preglejte ožji izbor in končni vrstni red. Če dolg dokument zajema več tem, ločite smiselne razdelke in ohranite njihove reference na nadrejeni dokument, da lahko izberete ustrezen razdelek, ne da bi izgubili njegov vir.
Omejitve konteksta in zahteve Trenutni proizvajalčev vodnik določa največ 8.000 žetonov za poizvedbo in skupno največ 32.000 žetonov za poizvedbo ter vsak posamezni dokument. Dopušča do 1.000 kandidatnih dokumentov in skupni proračun zahteve 600.000 žetonov, izračunan kot število žetonov poizvedbe, pomnoženo s številom dokumentov, plus vsi žetoni dokumentov. Dolga poizvedba zato porablja prostor v vsakem paru in večkrat prispeva k skupnemu proračunu. Oddano besedilo preštejte z ustreznim tokenizatorjem modela, namesto da znake, besede in žetone obravnavate kot zamenljive.
Na primer, poizvedba s 500 žetoni in 100 dokumenti s po 4.000 žetoni po tej formuli predstavlja 450.000 vhodnih žetonov. To ponazarja načrtovanje proračuna, ne priporočene velikosti ožjega izbora ali izmerjene hitrosti. Dokumentirana možnost krajšanja je privzeto omogočena; preobsežno besedilo se lahko pred ocenjevanjem skrajša. Pomembne razdelke pripravite premišljeno, da krajšanje ne odstrani prav odlomka, ki ga morate ujemati.
Preberite in uporabite rezultat Rezultati so razvrščeni od najvišje ocene relevantnosti navzdol. Vsak rezultat določa izvirni vhodni položaj dokumenta, zato mu lahko aplikacija pripne lastni naslov, identifikator zapisa in vir. Nastavitev top_k nadzoruje število vrnjenih razvrščenih kandidatov; brez nje so vrnjeni vsi kandidati. Proizvajalčev vmesnik REST lahko vrne tudi besedilo dokumenta. Pri prikazu iskalne strani ali posredovanju dokazov v korak ustvarjanja odgovora ob izbranih rezultatih ohranite izvirne identifikatorje.
Ocena relevantnosti izraža ujemanje kandidata s poizvedbo; ne potrjuje pravilnosti njegovih trditev. Najvišje uvrščene elemente primerjajte z dejanskim uporabnikovim vprašanjem, vključno z izključitvami in razlikami med različicami dokumentov. Tudi če so vsi kandidati nerelevantni, najvišje uvrščeni element še vedno obstaja. Z reprezentativnimi poizvedbami iz zbirke določite, kako aplikacija obravnava ta primer.
Nadgradnja in izbira izdaje Proizvajalec rerank-3-lite opisuje kot nadgradnjo rerank-2.5-lite z nespremenjeno semantiko API in ocenami, kalibriranimi na porazdelitev ustreznega predhodnika. Ohranite obstoječo preslikavo zapisov in stopnjo pridobivanja, nato pa nastali vrstni red primerjajte na smiselnih poizvedbah, preden se zanesete na ustaljeni prag ocene. Lite uporabite za iskalno izkušnjo, pri kateri je odzivni čas pomemben; kakovostno usmerjeno izdajo rerank-3 uporabite za primerjavo, kadar ima relevantnost pri zahtevnih kandidatih večjo prednost.
Ailoot Ultra · Ponovno razvrščanje POST /v1/rerank voyageai/rerank-3-lite
voyageai/rerank-3-liteZačetek
Voyage rerank-3-lite ocenjuje in preureja kandidatne besedilne dokumente za poizvedbo, s poudarkom na hitrem odzivanju iskanja. Podpira navodila o relevantnosti in okno poizvedba–dokument z 32.000 žetoni, zato je uporaben po vektorskem iskanju ali iskanju po ključnih besedah v iskalnih delovnih potekih in RAG.
- Dovoljeni vhodi
- Besedilo
- Rezultati
- Razvrščeni rezultati
Na voljo v Ailoot · vhodi in metode
Ailoot Ultra · Ponovno razvrščanje POST /v1/rerank
- Vhod
text- Izhod
rerank- Izhodni format
- json
| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljedocuments | Vrstaarray | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve voyageai/rerank-3-lite | Privzeto— |
Poljeprovider | Vrstaschema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljequery | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljesession_id | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetop_n | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 | Privzeto— |
Poljetrace | Vrstaschema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljeuser | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljedocuments[].text | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljedocuments[].image | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Kombinacije vhodnih gradiv
text_rerank · Obvezno: query, documents array with minItems1
Parametri in življenjski cikel metode
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, query, documents |
Parametermaterial_types | Specifikacijatext |
Parameteroptional_controls | Specifikacijaprovider, session_id, top_n, trace, user |
Parametermultimodal_input_binding | Specifikacijanull |
Življenjski cikel: synchronous
Pošljite natančni ID modela in ohranite celoten izvorni odgovor.
Cenik
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
- Hitri način
- Ni navedeno Ko je izbran hitri način
- Način flex
- Ni navedeno Ko je izbran način flex
- Najvišja raven razmišljanja
- Ni navedeno Ko najvišja raven razmišljanja uporablja privzeto prilagoditev (default)
Cene Ailoot
Cene po nastavitvah
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Obračunska enota | Strošek |
|---|---|---|---|
| NastavitevOsnovne cene žetonov | Cenovna lestvicaOsnovna cena | Obračunska enota— | Strošek Vhod · Vhodni žetoni — / 1K žetonov Izhod · Izhodni žetoni — / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevUltra | Cenovna lestvica— | Obračunska enota/ 1K žetonov | Strošek Vhod $0.00004 / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
Primeri zahtev
Ailoot Ultra · Ponovno razvrščanje
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-3-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-3-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Prejmi in shrani rezultate
Ailoot Ultra · Ponovno razvrščanje
json
Ohrani vse dokončane rezultate
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranijo se vsak dejanski indeks rezultata, relevance_score s končno vrednostjo in izvirni objekt dokumenta. Indeksi se povezujejo z izvirnim poljem dokumentov. Celoten izvirni JSON se shrani in vrne šele po obračunu.
Če je treba preveriti izvirni odgovor
Ohranite prvotno operacijo in celoten/delni odgovor; ne ponovite POST.
Polja odgovora
| Polje | Vrsta |
|---|---|
Poljemodel | Vrstastring |
Poljeid | Vrstastring |
Poljeprovider | Vrstastring |
Poljeresults[].index | Vrstainteger |
Poljeresults[].relevance_score | Vrstanumber |
Poljeresults[].document.text | Vrstastring |
Poljeresults[].document.image | Vrstastring |
Poljeusage.search_units | Vrstainteger |
Poljeusage.total_tokens | Vrstainteger |
Poljeusage.cost | Vrstanumber |
Napake in naslednji koraki
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavno obvezno polje, predstavitev ali vrednost | Naslednji korakPopravite navedeno polje zahteve. |
Druga imena
Druga imena modelov
Ailoot Ultra voyageai/rerank-3-lite
Druga imena poti metod
Uporabite zgoraj navedene poti metod.
Povezani ID-ji za klic
FAQ · VoyageAI by MongoDB: rerank-3-lite
- Kateri vhodi in rezultati so na voljo?
POST /v1/rerank·voyageai/rerank-3-lite:text→rerank- Katera polja uporablja zahteva?
POST /v1/rerank·voyageai/rerank-3-lite:documents,model,provider,query,session_id,top_n,trace,user- Katere omejitve veljajo?
POST /v1/rerank·voyageai/rerank-3-lite:top_n.minimum:1