VoyageAI by MongoDB: rerank-2.5
rerank-2.5 preusporadúva dodanú množinu textových kandidátov podľa relevancie k dopytu a voliteľným pokynom v prirodzenom jazyku. Je to viacjazyčný reranker zameraný na kvalitu s kontextom 32 000 tokenov pre dopyt a dokument a zoradeným skóre naviazaným na pôvodné indexy kandidátov.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
rerank-2.5 je reranker spoločnosti Voyage AI dodržiavajúci pokyny, navrhnutý na spresnenie množiny kandidátov z vyhľadávania. Spoločne skúma dopyt a každý dokument ako cross-encoder a potom vracia poradie podľa relevancie. Vydanie výrobcu zdôrazňuje riadenie toho, čo sa považuje za relevantné, pomocou prirodzeného jazyka, viacjazyčné vyhľadávanie a dlhší kontext dopytu a dokumentu než pri predchádzajúcej edícii rerank-2.
Dodajte modelu kandidátov na porovnanie
Vstupom je dopyt a zoznam kandidátskych textových dokumentov. Môžu to byť úryvky vybrané embeddingovým vyhľadávaním alebo prvotným lexikálnym vyhľadávaním. Reranker hodnotí dodaný text namiesto vytvárania embeddingov korpusu, takže jeho praktickou úlohou je spresniť kandidátov, ktorých už našlo úvodné vyhľadávanie.
Pri príprave zoznamu zachovajte pôvodné poradie kandidátov a identifikátory zdrojov. Vrátené indexy odkazujú na tieto vstupné pozície. Pri úlohe RAG dodajte úryvky, ktoré by fáza odpovede mohla skutočne použiť, vrátane názvu alebo podmienok potrebných na ich interpretáciu. Relevantný dokument neprítomný v odoslanej množine kandidátov sa nemôže objaviť ako novo nájdený výsledok preusporiadania.
Určte zamýšľaný význam relevancie
Pokyny možno pripojiť na koniec alebo začiatok dopytu. Vydanie opisuje tri užitočné úlohy: zdôraznenie konkrétnej časti dokumentu, uprednostnenie typu zdroja a odstránenie nejednoznačnosti dopytu kontextom aplikácie. Menia úlohu relevancie predloženú modelu.
Pri technickom vyhľadávaní môže ilustračný pokyn znieť „Uprednostnite úryvky vysvetľujúce správanie pri zlyhaní a obnove; úvodné prehľady sú druhoradé.“ Pri rešeršnej zbierke určte, či najviac záleží na názve, metóde alebo výsledku. Pri nejednoznačnom termíne uveďte odbor, ktorého sa vyhľadávanie týka. Otázku a pokyn udržte kompatibilné, aby jeden nežiadal širokú tému, zatiaľ čo druhý potichu mení úlohu.
Tieto preferencie usmerňujú skórovanie relevancie. Ak má aplikácia prísne požiadavky na oprávnenosť — napríklad verziu zdroja, dátum alebo rozsah prístupu — pripravte oprávnenú množinu kandidátov samostatne. Pokyn k relevancii modelu a deterministické obmedzenie zbierky slúžia odlišným účelom.
Zoradený výstup a neskoršie použitie výsledkov
Výsledky sú usporiadané zostupne podľa relevancie a obsahujú skóre relevancie s pohyblivou rádovou čiarkou a pôvodný vstupný index kandidáta. Voľba top-k vyberá počet vrátených najvyšších výsledkov; bez nej špecifikácia výrobcu vracia výsledky všetkých odoslaných kandidátov. Voliteľné nastavenie return-documents zahŕňa príslušný zdrojový text; inak odpoveď obsahuje indexy a skóre.
Poradie použite na výber úryvkov na zobrazenie alebo neskoršiu fázu odpovede a zachovajte ich zdrojovú identitu. Pri hodnotení poradia preskúmajte skutočný text: skóre je mierou relevancie k odoslanému dopytu, nie generovanou odpoveďou ani overením správnosti tvrdení dokumentu. Model je tak užitočný na spresnenie technického, právneho, finančného, medicínskeho, konverzačného a viacjazyčného vyhľadávacieho materiálu bez premieňania poradia na odborný záver.
Kontext, celkový tokenový rozpočet a skracovanie
Zdokumentovaný limit dopytu je 8 000 tokenov vrátane pokynov umiestnených v dopyte. Dopyt spolu s ktorýmkoľvek jedným kandidátskym dokumentom sa musí zmestiť do 32 000 tokenov a zoznam dokumentov môže obsahovať najviac 1 000 položiek. Celkový limit je 600 000 tokenov, počítaný ako tokeny dopytu krát počet dokumentov plus všetky tokeny dokumentov. Dlhý pokyn sa preto opakovane počíta naprieč kandidátskymi pármi.
Výstupný počet top-k nemení počet kandidátov v tomto výpočte vstupných tokenov. Predvolené skracovanie skracuje nadmerne dlhé dopyty alebo dokumenty, aby splnili limit kontextu; jeho vypnutie spôsobí, že nadmerne dlhý dopyt alebo pár vráti chybu. Úryvky obsahujúce odpoveď pripravte zámerne a príslušnú podmienku ponechajte v texte, ktorý model uvidí. Spresnené poradie vyhodnoťte na reprezentatívnych otázkach a pokynoch a potom odovzdajte vybrané pôvodné úryvky do ďalšej fázy.
Ailoot Ultra · Opätovné zoradenie výsledkov POST /v1/rerank voyageai/rerank-2.5
voyageai/rerank-2.5Úvod
rerank-2.5 preusporadúva dodanú množinu textových kandidátov podľa relevancie k dopytu a voliteľným pokynom v prirodzenom jazyku. Je to viacjazyčný reranker zameraný na kvalitu s kontextom 32 000 tokenov pre dopyt a dokument a zoradeným skóre naviazaným na pôvodné indexy kandidátov.
- Povolené vstupy
- Text
- Výsledky
- Zoradené výsledky
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Opätovné zoradenie výsledkov POST /v1/rerank
- Vstup
text- Výstup
rerank- Výstupný formát
- json
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Poledocuments | Typarray | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity voyageai/rerank-2.5 | Predvolené— |
Poleprovider | Typschema | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polequery | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polesession_id | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poletop_n | Typinteger | PožiadavkaVoliteľné | Hodnoty a limity Minimum: 1 | Predvolené— |
Poletrace | Typschema | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poleuser | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poledocuments[].text | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poledocuments[].image | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Kombinácie vstupných podkladov
text_rerank · Povinné: query, documents array with minItems1
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, query, documents |
Parametermaterial_types | Špecifikáciatext |
Parameteroptional_controls | Špecifikáciaprovider, session_id, top_n, trace, user |
Parametermultimodal_input_binding | Špecifikácianull |
Životný cyklus: synchronous
Odošlite presné ID modelu a zachovajte celú natívnu odpoveď.
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Neuvedené Keď je zvolený rýchly režim
- Režim Flex
- Neuvedené Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
Každý poplatok priraďte k zobrazeným podmienkam. Pre každú skupinu alternatívnych konfigurácií použite jednu sadzbu.
| Konfigurácia | Sadzobník | Účtovacia jednotka | Poplatok |
|---|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Účtovacia jednotka— | Poplatok Vstup · Vstupné tokeny — / 1K tokenov Výstup · Výstupné tokeny — / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
| KonfiguráciaUltra | Sadzobník— | Účtovacia jednotka/ 1K tokenov | Poplatok Vstup $0.0001 / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Opätovné zoradenie výsledkov
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Prijať a uložiť výsledky
Ailoot Ultra · Opätovné zoradenie výsledkov
json
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachováva sa každý skutočný index výsledku, konečná hodnota relevance_score a pôvodný objekt dokumentu. Indexy odkazujú na pôvodné pole dokumentov. Celý pôvodný JSON sa uloží a vráti až po zúčtovaní.
Ak treba overiť pôvodnú odpoveď
Zachovajte pôvodnú operáciu a úplnú alebo čiastočnú odpoveď; POST znova neodosielajte.
Polia odpovede
| Pole | Typ |
|---|---|
Polemodel | Typstring |
Poleid | Typstring |
Poleprovider | Typstring |
Poleresults[].index | Typinteger |
Poleresults[].relevance_score | Typnumber |
Poleresults[].document.text | Typstring |
Poleresults[].document.image | Typstring |
Poleusage.search_units | Typinteger |
Poleusage.total_tokens | Typinteger |
Poleusage.cost | Typnumber |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné pole, reprezentácia alebo hodnota | Ďalší krokOpravte označené pole požiadavky. |
Aliasy
Aliasy modelov
Ailoot Ultra voyageai/rerank-2.5
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · VoyageAI by MongoDB: rerank-2.5
- Aké vstupy a výsledky sú dostupné?
POST /v1/rerank·voyageai/rerank-2.5:text→rerank- Aké polia používa požiadavka?
POST /v1/rerank·voyageai/rerank-2.5:documents,model,provider,query,session_id,top_n,trace,user- Aké limity platia?
POST /v1/rerank·voyageai/rerank-2.5:top_n.minimum:1