VoyageAI by MongoDB: rerank-2.5-lite
rerank-2.5-lite je reranker spoločnosti Voyage AI orientovaný na nízku latenciu a dodržiavanie pokynov pre dodanú množinu textových kandidátov. Zachováva kontext 32 000 tokenov pre dopyt a dokument a viacjazyčnú podporu a vracia usporiadaný zoznam skóre relevancie a pôvodných indexov dokumentov.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
rerank-2.5-lite je odľahčeným členom vydania rerankerov 2.5 spoločnosti Voyage AI. Výrobca ho opisuje ako univerzálny model vyvažujúci latenciu a kvalitu relevancie s dodržiavaním pokynov v prirodzenom jazyku a viacjazyčnou podporou. Vstupom je dopyt a kandidátske texty a výstupom spresnené poradie týchto kandidátov so skóre relevancie.
Odľahčené rozhodovanie o relevancii v druhej fáze
Model Lite spoločne spracúva každý pár dopytu a dokumentu ako cross-encoder. Môže nasledovať po prvotnom embeddingovom alebo lexikálnom vyhľadávaní a spresňovať úryvky, ktoré táto fáza vybrala. To sa líši od prípravy opakovane použiteľného embeddingového indexu: reranker skúma odoslaný dopyt a text dokumentu spoločne pre aktuálne rozhodnutie o relevancii.
Pri interaktívnom vyhľadávaní pomoci odošlite kandidátske vysvetlenia, ktoré by mohli odpovedať na otázku používateľa. Z každého úryvku zachovajte dosť na sprostredkovanie správania a jeho podmienok a udržte prepojenie vstupného indexu so zdrojovou položkou. Presne zameraná množina kandidátov pomáha vyjasniť úlohu preusporiadania a pritom ponecháva získané dôkazy použiteľné na zobrazenie alebo neskoršiu odpoveď.
Pokyny vyjadrujú, čo chce používateľ uprednostniť
Podobne ako rerank-2.5 prijíma Lite pokyny v prirodzenom jazyku pred dopytom alebo po ňom. Príklady výrobcu ich používajú na zdôraznenie častí dokumentu, výber preferovaného typu zdroja alebo doplnenie kontextu k nejednoznačnému slovu. Aplikácia môže dodávať stálu preferenciu relevancie alebo môže aktuálna otázka obsahovať konkrétnejšiu preferenciu.
Ilustračný dopyt podpory sa môže pýtať, ktorý úryvok vysvetľuje chybu, s pokynom uprednostniť kroky riešenia problémov pred všeobecnými opismi produktu. Vyhľadávanie dokumentov môže žiadať pôvodné znenie pravidiel namiesto ich rozboru. Opíšte zamýšľané dôkazy a pokyn udržte stručný. Pokyny ovplyvňujú skóre relevancie; prípadné prísne obmedzenia verzie, dátumu alebo oprávnení pripravte pri výbere kandidátov a nepovažujte preferenciu relevancie za zaručený filter.
Čítajte poradie a vráťte zdrojový úryvok
Výstup je zoradený podľa klesajúcej relevancie. Každý výsledok zahŕňa pôvodný index dokumentu a skóre s pohyblivou rádovou čiarkou; voliteľné nastavenie return-documents vracia aj príslušný vstupný text. Voľba top-k určuje počet vrátených najvyšších výsledkov, zatiaľ čo pri jej vynechaní sa vracia poradie všetkých odoslaných kandidátov.
Tieto indexy použite na obnovenie zdrojového úryvku a jeho identifikátora. Preusporiadaný kandidát sa môže stať výsledkom vyhľadávania alebo dôkazom pre ďalší krok RAG, ale výstupom je poradie dodaného textu, nie prepísaná odpoveď. Vyhodnoťte, či najvyššie úryvky spĺňajú otázku aj pokyn k relevancii vrátane jazykov a typov dokumentov skutočne prítomných v zbierke.
Limity a praktický rozpočet kandidátov
Edícia 2.5 Lite má zdokumentované maximum dopytu 8 000 tokenov a limit 32 000 tokenov pre dopyt a každý jednotlivý dokument. Líši sa od skoršieho modelu rerank-2-lite a jeho menšieho kontextu. Odoslať možno najviac 1 000 dokumentov a celkový vstup je obmedzený na 600 000 tokenov podľa vzorca: tokeny dopytu krát počet kandidátov plus súčet tokenov kandidátskych dokumentov.
Pre použitie citlivé na latenciu odporúča FAQ výrobcu pri rerank-2.5-lite najviac 200 000 celkových tokenov na požiadavku. Ide o praktické odporúčanie pod uvedeným maximom, nie o iné okno pre jednotlivý dokument. Dlhší dopyt alebo pokyn sa počíta raz pre každý kandidátsky pár, takže počet kandidátov aj dĺžka dopytu ovplyvňujú celkový počet.
Skracovanie je predvolene zapnuté a skracuje nadmerne dlhý vstup dopytu alebo dokumentu tak, aby sa zmestil; pri jeho vypnutí nadmerne dlhý dopyt alebo pár vráti chybu. Kompaktných kandidátov obsahujúcich odpoveď pripravte zámerne, aby užitočné dôkazy nezostali za skrátenou hranicou. Výber menšieho počtu výstupných výsledkov pomocou top-k neodstraňuje ostatných dodaných kandidátov z výpočtu tokenov. Preskúmajte vrátené zdrojové úryvky a prípravu vstupu spresnite podľa skutočných otázok, na ktoré musí vyhľadávacie rozhranie odpovedať.
Ailoot Ultra · Opätovné zoradenie výsledkov POST /v1/rerank voyageai/rerank-2.5-lite
voyageai/rerank-2.5-liteÚvod
rerank-2.5-lite je reranker spoločnosti Voyage AI orientovaný na nízku latenciu a dodržiavanie pokynov pre dodanú množinu textových kandidátov. Zachováva kontext 32 000 tokenov pre dopyt a dokument a viacjazyčnú podporu a vracia usporiadaný zoznam skóre relevancie a pôvodných indexov dokumentov.
- Povolené vstupy
- Text
- Výsledky
- Zoradené výsledky
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Opätovné zoradenie výsledkov POST /v1/rerank
- Vstup
text- Výstup
rerank- Výstupný formát
- json
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Poledocuments | Typarray | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity voyageai/rerank-2.5-lite | Predvolené— |
Poleprovider | Typschema | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polequery | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polesession_id | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poletop_n | Typinteger | PožiadavkaVoliteľné | Hodnoty a limity Minimum: 1 | Predvolené— |
Poletrace | Typschema | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poleuser | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poledocuments[].text | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poledocuments[].image | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Kombinácie vstupných podkladov
text_rerank · Povinné: query, documents array with minItems1
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, query, documents |
Parametermaterial_types | Špecifikáciatext |
Parameteroptional_controls | Špecifikáciaprovider, session_id, top_n, trace, user |
Parametermultimodal_input_binding | Špecifikácianull |
Životný cyklus: synchronous
Odošlite presné ID modelu a zachovajte celú natívnu odpoveď.
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Neuvedené Keď je zvolený rýchly režim
- Režim Flex
- Neuvedené Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
Každý poplatok priraďte k zobrazeným podmienkam. Pre každú skupinu alternatívnych konfigurácií použite jednu sadzbu.
| Konfigurácia | Sadzobník | Účtovacia jednotka | Poplatok |
|---|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Účtovacia jednotka— | Poplatok Vstup · Vstupné tokeny — / 1K tokenov Výstup · Výstupné tokeny — / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
| KonfiguráciaUltra | Sadzobník— | Účtovacia jednotka/ 1K tokenov | Poplatok Vstup $0.00004 / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Opätovné zoradenie výsledkov
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Prijať a uložiť výsledky
Ailoot Ultra · Opätovné zoradenie výsledkov
json
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachováva sa každý skutočný index výsledku, konečná hodnota relevance_score a pôvodný objekt dokumentu. Indexy odkazujú na pôvodné pole dokumentov. Celý pôvodný JSON sa uloží a vráti až po zúčtovaní.
Ak treba overiť pôvodnú odpoveď
Zachovajte pôvodnú operáciu a úplnú alebo čiastočnú odpoveď; POST znova neodosielajte.
Polia odpovede
| Pole | Typ |
|---|---|
Polemodel | Typstring |
Poleid | Typstring |
Poleprovider | Typstring |
Poleresults[].index | Typinteger |
Poleresults[].relevance_score | Typnumber |
Poleresults[].document.text | Typstring |
Poleresults[].document.image | Typstring |
Poleusage.search_units | Typinteger |
Poleusage.total_tokens | Typinteger |
Poleusage.cost | Typnumber |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné pole, reprezentácia alebo hodnota | Ďalší krokOpravte označené pole požiadavky. |
Aliasy
Aliasy modelov
Ailoot Ultra voyageai/rerank-2.5-lite
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · VoyageAI by MongoDB: rerank-2.5-lite
- Aké vstupy a výsledky sú dostupné?
POST /v1/rerank·voyageai/rerank-2.5-lite:text→rerank- Aké polia používa požiadavka?
POST /v1/rerank·voyageai/rerank-2.5-lite:documents,model,provider,query,session_id,top_n,trace,user- Aké limity platia?
POST /v1/rerank·voyageai/rerank-2.5-lite:top_n.minimum:1