VoyageAI by MongoDB: rerank-2.5-lite
rerank-2.5-lite je model podjetja Voyage AI za ponovno razvrščanje po navodilih, usmerjen v nizko zakasnitev, za priloženi nabor besedilnih kandidatov. Ohranja kontekst poizvedba–dokument z 32.000 žetoni in večjezično podporo ter vrača urejen seznam ocen relevantnosti in izvirnih indeksov dokumentov.
O modelu
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
rerank-2.5-lite je lahki član izdaje modelov Voyage AI za ponovno razvrščanje 2.5. Proizvajalec ga opisuje kot splošnonamenski model, ki uravnoveša zakasnitev in kakovost relevantnosti, s sledenjem navodilom v naravnem jeziku in večjezično podporo. Njegov vhod so poizvedba in kandidatna besedila, izhod pa izboljšani vrstni red teh kandidatov z ocenami relevantnosti.
Lahka odločitev o relevantnosti v drugi stopnji
Model Lite vsak par poizvedba–dokument obdela skupaj kot navzkrižni kodirnik. Sledi lahko prvi stopnji iskanja z vdelavami ali leksikalnega iskanja ter izboljša razvrstitev odlomkov, ki jih je ta stopnja izbrala. To se razlikuje od priprave ponovno uporabnega indeksa vdelav: model za ponovno razvrščanje skupaj preuči oddano poizvedbo in besedilo dokumenta za trenutno odločitev o relevantnosti.
Pri interaktivnem iskanju pomoči oddajte kandidatna pojasnila, ki bi lahko odgovorila na uporabnikovo vprašanje. Od vsakega odlomka ohranite dovolj vsebine za opis obnašanja in njegovih pogojev ter ohranite povezavo med vhodnim indeksom in izvornim elementom. Usmerjen nabor kandidatov pomaga razjasniti nalogo ponovnega razvrščanja, hkrati pa ohrani pridobljene dokaze uporabne za prikaz ali poznejši odgovor.
Navodila izrazijo uporabnikove prednostne zahteve
Tako kot rerank-2.5 tudi Lite sprejema navodila v naravnem jeziku pred poizvedbo ali za njo. Proizvajalčevi primeri z njimi poudarijo sestavne dele dokumenta, izberejo želeno vrsto vira ali dodajo kontekst dvoumni besedi. Aplikacija lahko priskrbi stalno preferenco relevantnosti, trenutno vprašanje pa lahko vključuje bolj konkretno.
Ponazoritvena podporna poizvedba lahko vpraša, kateri odlomek pojasnjuje napako, z navodilom, naj imajo koraki odpravljanja težav prednost pred splošnimi opisi izdelka. Iskanje dokumentov lahko zahteva izvirno besedilo politike namesto razprave o njej. Opišite predvidene dokaze in navodilo ohranite kratko. Navodila vplivajo na ocene relevantnosti; morebitne stroge omejitve različice, datuma ali dovoljenj pripravite pri izbiri kandidatov, namesto da preferenco relevantnosti obravnavate kot zajamčen filter.
Preberite razvrstitev in vrnite izvorni odlomek
Izhod je razvrščen po padajoči relevantnosti. Vsak rezultat vsebuje izvirni indeks dokumenta in oceno s plavajočo vejico; izbirna nastavitev return-documents vrne tudi ustrezno vhodno besedilo. Možnost top-k določa število vrnjenih vodilnih rezultatov, izpustitev pa vrne razvrstitev vseh oddanih kandidatov.
S temi indeksi pridobite izvorni odlomek in njegov identifikator. Ponovno razvrščeni kandidat lahko postane rezultat iskanja ali dokaz za naslednji korak RAG, vendar je izhod vrstni red priloženega besedila, ne preoblikovan odgovor. Ocenite, ali vodilni odlomki izpolnjujejo vprašanje in navodilo o relevantnosti, tudi pri jezikih in vrstah dokumentov, ki so dejansko prisotni v zbirki.
Omejitve in praktični proračun kandidatov
Izdaja 2.5 Lite ima dokumentirano največjo dolžino poizvedbe 8.000 žetonov in omejitev 32.000 žetonov za poizvedbo ter vsak posamezni dokument. Ločena je od starejšega modela rerank-2-lite in njegovega manjšega konteksta. Oddate lahko največ 1.000 dokumentov, skupni vhod pa je omejen na 600.000 žetonov po formuli: žetoni poizvedbe, pomnoženi s številom kandidatov, plus vsota žetonov kandidatnih dokumentov.
Za uporabo, občutljivo na zakasnitev, proizvajalčeva pogosta vprašanja priporočajo rerank-2.5-lite z največ 200.000 skupnimi žetoni na zahtevo. To je praktično priporočilo pod navedeno največjo vrednostjo, ne drugačno okno posameznega dokumenta. Daljša poizvedba ali navodilo se šteje enkrat za vsak par s kandidatom, zato število kandidatov in dolžina poizvedbe vplivata na skupni znesek.
Krajšanje je privzeto omogočeno in predolg vhod poizvedbe/dokumenta skrajša, da ustreza; izklop pri predolgi poizvedbi ali paru vrne napako. Strnjene kandidate z odgovori pripravite premišljeno, da uporabni dokazi ne ostanejo zunaj skrajšane meje. Izbira manjšega števila izhodnih rezultatov prek top-k ne odstrani drugih priloženih kandidatov iz izračuna žetonov. Preglejte vrnjene izvorne odlomke in pripravo vhoda izboljšujte glede na dejanska vprašanja, na katera mora iskalni vmesnik odgovarjati.
Ailoot Ultra · Ponovno razvrščanje POST /v1/rerank voyageai/rerank-2.5-lite
voyageai/rerank-2.5-liteZačetek
rerank-2.5-lite je model podjetja Voyage AI za ponovno razvrščanje po navodilih, usmerjen v nizko zakasnitev, za priloženi nabor besedilnih kandidatov. Ohranja kontekst poizvedba–dokument z 32.000 žetoni in večjezično podporo ter vrača urejen seznam ocen relevantnosti in izvirnih indeksov dokumentov.
- Dovoljeni vhodi
- Besedilo
- Rezultati
- Razvrščeni rezultati
Na voljo v Ailoot · vhodi in metode
Ailoot Ultra · Ponovno razvrščanje POST /v1/rerank
- Vhod
text- Izhod
rerank- Izhodni format
- json
| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljedocuments | Vrstaarray | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve voyageai/rerank-2.5-lite | Privzeto— |
Poljeprovider | Vrstaschema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljequery | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljesession_id | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetop_n | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 | Privzeto— |
Poljetrace | Vrstaschema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljeuser | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljedocuments[].text | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljedocuments[].image | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Kombinacije vhodnih gradiv
text_rerank · Obvezno: query, documents array with minItems1
Parametri in življenjski cikel metode
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, query, documents |
Parametermaterial_types | Specifikacijatext |
Parameteroptional_controls | Specifikacijaprovider, session_id, top_n, trace, user |
Parametermultimodal_input_binding | Specifikacijanull |
Življenjski cikel: synchronous
Pošljite natančni ID modela in ohranite celoten izvorni odgovor.
Cenik
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
- Hitri način
- Ni navedeno Ko je izbran hitri način
- Način flex
- Ni navedeno Ko je izbran način flex
- Najvišja raven razmišljanja
- Ni navedeno Ko najvišja raven razmišljanja uporablja privzeto prilagoditev (default)
Cene Ailoot
Cene po nastavitvah
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Obračunska enota | Strošek |
|---|---|---|---|
| NastavitevOsnovne cene žetonov | Cenovna lestvicaOsnovna cena | Obračunska enota— | Strošek Vhod · Vhodni žetoni — / 1K žetonov Izhod · Izhodni žetoni — / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevUltra | Cenovna lestvica— | Obračunska enota/ 1K žetonov | Strošek Vhod $0.00004 / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
Primeri zahtev
Ailoot Ultra · Ponovno razvrščanje
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Prejmi in shrani rezultate
Ailoot Ultra · Ponovno razvrščanje
json
Ohrani vse dokončane rezultate
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranijo se vsak dejanski indeks rezultata, relevance_score s končno vrednostjo in izvirni objekt dokumenta. Indeksi se povezujejo z izvirnim poljem dokumentov. Celoten izvirni JSON se shrani in vrne šele po obračunu.
Če je treba preveriti izvirni odgovor
Ohranite prvotno operacijo in celoten/delni odgovor; ne ponovite POST.
Polja odgovora
| Polje | Vrsta |
|---|---|
Poljemodel | Vrstastring |
Poljeid | Vrstastring |
Poljeprovider | Vrstastring |
Poljeresults[].index | Vrstainteger |
Poljeresults[].relevance_score | Vrstanumber |
Poljeresults[].document.text | Vrstastring |
Poljeresults[].document.image | Vrstastring |
Poljeusage.search_units | Vrstainteger |
Poljeusage.total_tokens | Vrstainteger |
Poljeusage.cost | Vrstanumber |
Napake in naslednji koraki
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavno obvezno polje, predstavitev ali vrednost | Naslednji korakPopravite navedeno polje zahteve. |
Druga imena
Druga imena modelov
Ailoot Ultra voyageai/rerank-2.5-lite
Druga imena poti metod
Uporabite zgoraj navedene poti metod.
Povezani ID-ji za klic
FAQ · VoyageAI by MongoDB: rerank-2.5-lite
- Kateri vhodi in rezultati so na voljo?
POST /v1/rerank·voyageai/rerank-2.5-lite:text→rerank- Katera polja uporablja zahteva?
POST /v1/rerank·voyageai/rerank-2.5-lite:documents,model,provider,query,session_id,top_n,trace,user- Katere omejitve veljajo?
POST /v1/rerank·voyageai/rerank-2.5-lite:top_n.minimum:1