VoyageAI by MongoDB: rerank-2.5
rerank-2.5 perrikiuoja pateiktą tekstinių kandidatų rinkinį pagal aktualumą užklausai ir pasirenkamiems natūralios kalbos nurodymams. Tai daugiakalbis, į kokybę orientuotas perrikiavimo modelis su 32 000 žetonų užklausos bei dokumento kontekstu ir reitingavimo balais, susietais su pradiniais kandidatų indeksais.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
rerank-2.5 – tai „Voyage AI“ perrikiavimo pagal nurodymus modelis, skirtas paieškos kandidatų rinkiniui patikslinti. Jis kartu nagrinėja užklausą ir kiekvieną dokumentą kaip kryžminis koduotuvas, tada grąžina aktualumo eilę. Gamintojo leidime pabrėžiamas natūralios kalbos valdymas, apibrėžiantis, kas laikoma aktualiu, daugiakalbė paieška ir ilgesnis užklausos bei dokumento kontekstas nei ankstesniame rerank-2 leidime.
Pateikite modeliui lygintinus kandidatus
Įvestis yra užklausa ir tekstinių dokumentų kandidatų sąrašas. Tai gali būti ištraukos, atrinktos įterpinių paieška ar pirmojo etapo leksine paieška. Perrikiavimo modelis vertina pateiktą tekstą, o ne kuria tekstyno įterpinius, todėl praktinė jo užduotis – patikslinti kandidatus, kuriuos jau rado pradinė paieška.
Rengdami sąrašą išsaugokite pradinę kandidatų eilę ir šaltinių identifikatorius. Grąžinti indeksai nurodo šias įvesties pozicijas. RAG užduočiai pateikite ištraukas, kurias atsakymo etapas iš tikrųjų galėtų naudoti, įskaitant joms suprasti reikalingą pavadinimą ar sąlygas. Aktualus dokumentas, kurio nėra pateiktame kandidatų rinkinyje, negali pasirodyti kaip naujai rastas perrikiavimo rezultatas.
Apibrėžkite numatytą aktualumo sampratą
Nurodymus galima pridėti po užklausos ar prieš ją. Leidime aprašomi trys naudingi vaidmenys: pabrėžti konkrečią dokumento dalį, teikti pirmenybę tam tikram šaltinio tipui ir programos kontekstu pašalinti užklausos dviprasmiškumą. Tai pakeičia modeliui pateikiamą aktualumo užduotį.
Techninei paieškai iliustracinis nurodymas yra: „Pirmenybę teikite ištraukoms, paaiškinančioms klaidos ir atkūrimo elgseną; įvadinės apžvalgos yra antraeilės.“ Tyrimų rinkiniui nurodykite, ar svarbiausias pavadinimas, metodas ar rezultatas. Dviprasmiškam terminui įvardykite paieškos sritį. Klausimas ir nurodymas turi derėti, kad vienas neprašytų plačios temos, o kitas tyliai nekeistų užduoties.
Šios nuostatos nukreipia aktualumo vertinimą. Jei programa turi griežtus tinkamumo reikalavimus, pavyzdžiui, šaltinio versiją, datą ar prieigos apimtį, tinkamų kandidatų rinkinį parenkite atskirai. Modelio aktualumo nurodymas ir deterministinis rinkinio apribojimas turi skirtingas paskirtis.
Reitinguota išvestis ir vėlesnis rezultato naudojimas
Rezultatai rikiuojami mažėjančio aktualumo tvarka ir apima slankiojo kablelio aktualumo balą bei pradinį kandidato įvesties indeksą. Parinktis top-k parenka, kiek pirmųjų rezultatų grąžinti; jos nenurodžius, gamintojo specifikacija grąžina visų pateiktų kandidatų rezultatus. Pasirenkamas dokumentų grąžinimo nustatymas įtraukia atitinkamą šaltinio tekstą; kitu atveju atsakyme yra indeksai ir balai.
Eilę naudokite ištraukoms parinkti rodymui ar vėlesniam atsakymo etapui, išlaikydami jų šaltinio tapatybę nepakitusią. Vertindami reitingą tikrinkite tikrąjį tekstą: balas matuoja aktualumą pateiktai užklausai, o nėra sugeneruotas atsakymas ar dokumento teiginių teisingumo patvirtinimas. Dėl to modelis naudingas tikslinant techninę, teisinę, finansinę, medicininę, pokalbių ir daugiakalbės paieškos medžiagą, nepaverčiant reitingavimo srities išvada.
Kontekstas, bendras žetonų biudžetas ir nukirpimas
Dokumentuota užklausos riba yra 8 000 žetonų, įskaitant užklausoje esančius nurodymus. Užklausa su bet kuriuo vienu dokumentu kandidatu turi tilpti į 32 000 žetonų, o dokumentų sąraše gali būti daugiausia 1 000 elementų. Bendras leidžiamas kiekis yra 600 000 žetonų, skaičiuojant užklausos žetonus, padaugintus iš dokumentų skaičiaus, ir pridedant visų dokumentų žetonus. Todėl ilgas nurodymas skaičiuojamas pakartotinai visose kandidatų porose.
Išvesties top-k skaičius nekeičia kandidatų skaičiaus šiame įvesties žetonų skaičiavime. Numatytasis nukirpimas sutrumpina per ilgas užklausas ar dokumentus, kad atitiktų konteksto ribą; jį išjungus per ilga užklausa ar pora grąžina klaidą. Atsakymą pagrindžiančias ištraukas parenkite apgalvotai ir svarbias sąlygas išlaikykite tekste, kurį modelis matys. Patikslintą eilę įvertinkite reprezentatyviais klausimais ir nurodymais, tada pasirinktas originalias ištraukas perduokite kitam etapui.
Ailoot Ultra · Perrikiavimas POST /v1/rerank voyageai/rerank-2.5
voyageai/rerank-2.5Pradžia
rerank-2.5 perrikiuoja pateiktą tekstinių kandidatų rinkinį pagal aktualumą užklausai ir pasirenkamiems natūralios kalbos nurodymams. Tai daugiakalbis, į kokybę orientuotas perrikiavimo modelis su 32 000 žetonų užklausos bei dokumento kontekstu ir reitingavimo balais, susietais su pradiniais kandidatų indeksais.
- Leidžiamos įvestys
- Tekstas
- Rezultatai
- Surikiuoti rezultatai
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Perrikiavimas POST /v1/rerank
- Įvestis
text- Išvestis
rerank- Išvesties formatas
- json
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasdocuments | Tipasarray | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos voyageai/rerank-2.5 | Numatyta— |
Laukasprovider | Tipasschema | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasquery | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukassession_id | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastop_n | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Laukastrace | Tipasschema | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasuser | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasdocuments[].text | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasdocuments[].image | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Įvesties medžiagos deriniai
text_rerank · Privaloma: query, documents array with minItems1
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, query, documents |
Parametrasmaterial_types | Specifikacijatext |
Parametrasoptional_controls | Specifikacijaprovider, session_id, top_n, trace, user |
Parametrasmultimodal_input_binding | Specifikacijanull |
Gyvavimo ciklas: synchronous
Siųskite tikslų modelio ID ir išsaugokite visą pirminį atsakymą.
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Nenurodyta Pasirinkus spartųjį režimą
- Flex režimas
- Nenurodyta Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Nenurodyta Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Apskaitos vienetas | Mokestis |
|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Apskaitos vienetas— | Mokestis Įvestis · Įvesties tokenai — / 1K tokenų Išvestis · Išvesties tokenai — / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUltra | Įkainių lentelė— | Apskaitos vienetas/ 1K tokenų | Mokestis Įvestis $0.0001 / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Perrikiavimas
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Perrikiavimas
json
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugomas kiekvienas tikras rezultato indeksas, baigtinė relevance_score reikšmė ir pradinis dokumento objektas. Indeksai susieja rezultatus su pradiniu dokumentų masyvu. Visas pradinis JSON saugomas ir grąžinamas tik atsiskaičius.
Jei reikia patikrinti pradinį atsakymą
Išsaugokite pradinę operaciją ir visą arba dalinį atsakymą; nekartokite POST.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasmodel | Tipasstring |
Laukasid | Tipasstring |
Laukasprovider | Tipasstring |
Laukasresults[].index | Tipasinteger |
Laukasresults[].relevance_score | Tipasnumber |
Laukasresults[].document.text | Tipasstring |
Laukasresults[].document.image | Tipasstring |
Laukasusage.search_units | Tipasinteger |
Laukasusage.total_tokens | Tipasinteger |
Laukasusage.cost | Tipasnumber |
Klaidos ir tolesni veiksmai
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNegaliojantis privalomas laukas, pateikimo forma arba reikšmė | Kitas žingsnisPataisykite nurodytą užklausos lauką. |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra voyageai/rerank-2.5
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · VoyageAI by MongoDB: rerank-2.5
- Kokios įvestys ir rezultatai prieinami?
POST /v1/rerank·voyageai/rerank-2.5:text→rerank- Kokius laukus naudoja užklausa?
POST /v1/rerank·voyageai/rerank-2.5:documents,model,provider,query,session_id,top_n,trace,user- Kokie apribojimai taikomi?
POST /v1/rerank·voyageai/rerank-2.5:top_n.minimum:1