VoyageAI by MongoDB: rerank-3-lite
Voyage rerank-3-lite skóruje a preusporadúva kandidátske textové dokumenty podľa dopytu so zameraním na rýchlo reagujúce vyhľadávanie. Podporuje pokyny k relevancii a okno 32 000 tokenov pre dopyt a dokument, preto je užitočný po vektorovom vyhľadávaní alebo vyhľadávaní podľa kľúčových slov v postupoch vyhľadávania a RAG.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Voyage rerank-3-lite je edícia série Voyage Rerank 3 zameraná na nízku latenciu. Prijíma textový dopyt a kandidátske dokumenty, spoločne vyhodnocuje každý pár dopytu a dokumentu a vracia skóre relevancie v zoradenom poradí. Slúži ako druhá fáza vyhľadávania: vyhľadávač založený na embeddingoch alebo kľúčových slovách nájde kandidátov a Lite potom spresní ich poradie. Výsledkom je poradie použiteľné vo vyhľadávaní alebo v postupe generovania rozšíreného o vyhľadávanie.
Čo sa mení v Rerank 3 Lite Výrobca zdôrazňuje lepšie vyhľadávanie v dlhých dokumentoch a kóde oproti rerank-2.5-lite. Obe edície Rerank 3 zachovávajú dodržiavanie pokynov a rovnakú triedu kontextu 32K, zatiaľ čo Lite je navrhnutý pre aplikácie citlivé na latenciu. Je tak praktickým kandidátom na interaktívne vyhľadávanie v znalostnej báze, získavanie dokumentov podpory a vyhľadávanie kódu, keď používatelia potrebujú relevantné výsledky rýchlo. Vyberajte ho podľa požiadaviek na kvalitu a čas odozvy skutočnej zbierky a nepredpokladajte, že menšia edícia znamená menšie kontextové okno.
Usmernite relevanciu dopytom Dopyt môžu sprevádzať pokyny v prirodzenom jazyku vysvetľujúce, čo sa považuje za relevantné. Otázku a preferenciu relevancie udržte stručné a konzistentné. Pri vyhľadávaní v softvérovej podpore použite „Nájdite postup resetovania zariadenia; uprednostnite pokyny pre uvedenú hardvérovú revíziu.“ Pri nejednoznačnom názve produktu uveďte kategóriu produktu, aby neprevládli nesúvisiace významy. Preferencia v dopyte usmerňuje sémantické skórovanie; pred zostavením zoznamu kandidátov použite výslovné metadáta zbierky na výber správneho produktu, verzie dokumentu alebo rozsahu prístupu.
Pripravte užší výber textových kandidátov Vstupné dokumenty sú reťazce. Zo zdrojového materiálu extrahujte čitateľný text a zachovajte užitočné názvy, nadpisy, identifikátory a okolitý kontext. Udržujte stabilné mapovanie každej vstupnej pozície na pôvodný záznam. Pri článku o riešení problémov uveďte prejav chyby a príslušný postup, nie iba vytrhnutú vetu. Pri vyhľadávaní zdrojového kódu uveďte funkciu a okolité informácie potrebné na jej odlíšenie od podobne pomenovaných funkcií. Opakujúcu sa navigáciu alebo šablónový text odstráňte, keď vytláčajú užitočný úryvok.
Reranker môže preusporiadať iba dokumenty, ktoré dostane. Ak prvé vyhľadávanie nikdy nezíska príslušný článok, táto fáza nemôže chýbajúceho kandidáta obnoviť. Keď sa výsledok zdá nesprávny, preskúmajte užší výber aj konečné poradie. Ak dlhý dokument pokrýva viacero tém, oddeľte súdržné časti a zachovajte odkazy na nadradený dokument, aby sa relevantná časť dala vybrať bez straty zdroja.
Kontext a limity požiadavky Aktuálna príručka výrobcu uvádza maximum dopytu 8 000 tokenov a spoločné maximum 32 000 tokenov pre dopyt a každý jednotlivý dokument. Povoľuje najviac 1 000 kandidátskych dokumentov a celkový rozpočet požiadavky 600 000 tokenov, vypočítaný ako počet tokenov dopytu krát počet dokumentov plus všetky tokeny dokumentov. Dlhý dopyt preto spotrebúva priestor v každom páre a opakovane prispieva do súhrnného rozpočtu. Odoslaný text počítajte vhodným tokenizérom modelu a nepovažujte znaky, slová a tokeny za zameniteľné.
Napríklad dopyt s 500 tokenmi a 100 dokumentmi po 4 000 tokenov tvorí podľa tohto vzorca 450 000 vstupných tokenov. Ide o ilustráciu rozpočtu, nie o odporúčanú veľkosť užšieho výberu ani o nameranú rýchlosť. Zdokumentovaná voľba skracovania je predvolene zapnutá; nadmerne dlhý text možno pred skórovaním skrátiť. Dôležité časti pripravte zámerne tak, aby skracovanie neodstránilo práve úryvok, ktorý potrebujete spárovať.
Čítajte a používajte výsledok Výsledky sú zoradené od najvyššieho skóre relevancie nadol. Každý výsledok určuje pôvodnú vstupnú pozíciu dokumentu, čo aplikácii umožňuje pripojiť vlastný názov, identifikátor záznamu a zdroj. Nastavenie top_k riadi počet vrátených zoradených kandidátov; bez neho sa vracajú všetci kandidáti. Rozhranie REST výrobcu môže vrátiť aj text dokumentu. Pri zobrazovaní stránky výsledkov alebo odovzdávaní dôkazov do kroku generovania odpovede zachovajte pri vybraných výsledkoch pôvodné identifikátory.
Skóre relevancie vyjadruje, ako dobre kandidát zodpovedá dopytu; nedokladá správnosť jeho tvrdení. Najvyššie umiestnené položky porovnajte so skutočnou otázkou používateľa vrátane vylúčení a rozdielov medzi verziami dokumentov. Ak sú všetci kandidáti nerelevantní, najvyššie umiestnená položka stále existuje. Pomocou reprezentatívnych dopytov zo zbierky rozhodnite, ako má aplikácia tento prípad spracovať.
Aktualizácia a výber edície Výrobca opisuje rerank-3-lite ako aktualizáciu rerank-2.5-lite s nezmenenou sémantikou API a skóre kalibrovaným na rozdelenie zodpovedajúceho predchodcu. Zachovajte existujúce mapovanie záznamov a fázu získavania a potom porovnajte výsledné poradie pri zmysluplných dopytoch predtým, ako sa spoľahnete na zavedený prah skóre. Lite používajte tam, kde je pri vyhľadávaní dôležitý čas odozvy; edíciu rerank-3 zameranú na kvalitu použite na porovnanie, keď má väčšiu prioritu relevancia náročných kandidátov.
Ailoot Ultra · Opätovné zoradenie výsledkov POST /v1/rerank voyageai/rerank-3-lite
voyageai/rerank-3-liteÚvod
Voyage rerank-3-lite skóruje a preusporadúva kandidátske textové dokumenty podľa dopytu so zameraním na rýchlo reagujúce vyhľadávanie. Podporuje pokyny k relevancii a okno 32 000 tokenov pre dopyt a dokument, preto je užitočný po vektorovom vyhľadávaní alebo vyhľadávaní podľa kľúčových slov v postupoch vyhľadávania a RAG.
- Povolené vstupy
- Text
- Výsledky
- Zoradené výsledky
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Opätovné zoradenie výsledkov POST /v1/rerank
- Vstup
text- Výstup
rerank- Výstupný formát
- json
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Poledocuments | Typarray | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity voyageai/rerank-3-lite | Predvolené— |
Poleprovider | Typschema | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polequery | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polesession_id | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poletop_n | Typinteger | PožiadavkaVoliteľné | Hodnoty a limity Minimum: 1 | Predvolené— |
Poletrace | Typschema | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poleuser | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poledocuments[].text | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poledocuments[].image | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Kombinácie vstupných podkladov
text_rerank · Povinné: query, documents array with minItems1
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, query, documents |
Parametermaterial_types | Špecifikáciatext |
Parameteroptional_controls | Špecifikáciaprovider, session_id, top_n, trace, user |
Parametermultimodal_input_binding | Špecifikácianull |
Životný cyklus: synchronous
Odošlite presné ID modelu a zachovajte celú natívnu odpoveď.
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Neuvedené Keď je zvolený rýchly režim
- Režim Flex
- Neuvedené Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
Každý poplatok priraďte k zobrazeným podmienkam. Pre každú skupinu alternatívnych konfigurácií použite jednu sadzbu.
| Konfigurácia | Sadzobník | Účtovacia jednotka | Poplatok |
|---|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Účtovacia jednotka— | Poplatok Vstup · Vstupné tokeny — / 1K tokenov Výstup · Výstupné tokeny — / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
| KonfiguráciaUltra | Sadzobník— | Účtovacia jednotka/ 1K tokenov | Poplatok Vstup $0.00004 / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Opätovné zoradenie výsledkov
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-3-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-3-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Prijať a uložiť výsledky
Ailoot Ultra · Opätovné zoradenie výsledkov
json
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachováva sa každý skutočný index výsledku, konečná hodnota relevance_score a pôvodný objekt dokumentu. Indexy odkazujú na pôvodné pole dokumentov. Celý pôvodný JSON sa uloží a vráti až po zúčtovaní.
Ak treba overiť pôvodnú odpoveď
Zachovajte pôvodnú operáciu a úplnú alebo čiastočnú odpoveď; POST znova neodosielajte.
Polia odpovede
| Pole | Typ |
|---|---|
Polemodel | Typstring |
Poleid | Typstring |
Poleprovider | Typstring |
Poleresults[].index | Typinteger |
Poleresults[].relevance_score | Typnumber |
Poleresults[].document.text | Typstring |
Poleresults[].document.image | Typstring |
Poleusage.search_units | Typinteger |
Poleusage.total_tokens | Typinteger |
Poleusage.cost | Typnumber |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné pole, reprezentácia alebo hodnota | Ďalší krokOpravte označené pole požiadavky. |
Aliasy
Aliasy modelov
Ailoot Ultra voyageai/rerank-3-lite
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · VoyageAI by MongoDB: rerank-3-lite
- Aké vstupy a výsledky sú dostupné?
POST /v1/rerank·voyageai/rerank-3-lite:text→rerank- Aké polia používa požiadavka?
POST /v1/rerank·voyageai/rerank-3-lite:documents,model,provider,query,session_id,top_n,trace,user- Aké limity platia?
POST /v1/rerank·voyageai/rerank-3-lite:top_n.minimum:1