VoyageAI by MongoDB: rerank-2.5-lite
rerank-2.5-lite on Voyage AI:n viivepainotteinen, ohjeita noudattava uudelleenjärjestäjä toimitetulle tekstiehdokkaiden joukolle. Se säilyttää 32 000 tokenin kysely–asiakirja-kontekstin ja monikielisen tuen ja palauttaa järjestetyn luettelon relevanssipisteistä ja alkuperäisistä asiakirjaindekseistä.
Tietoa mallista
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
rerank-2.5-lite on Voyage AI:n 2.5-uudelleenjärjestäjäjulkaisun kevyt jäsen. Valmistaja kuvaa sitä yleismalliksi, joka tasapainottaa viivettä ja relevanssin laatua ja tukee luonnollisen kielen ohjeiden noudattamista ja monikielisyyttä. Sen syöte on kysely ja ehdokastekstit, ja tulos on näiden ehdokkaiden tarkennettu järjestys relevanssipisteineen.
Kevyt toisen vaiheen relevanssipäätös
Lite-malli käsittelee kutakin kysely–asiakirja-paria yhdessä cross-encoderina. Se voi seurata ensimmäisen vaiheen upotus- tai sanapohjaista hakua ja tarkentaa kyseisen vaiheen valitsemia tekstikohtia. Tämä eroaa uudelleenkäytettävän upotusindeksin valmistelusta: uudelleenjärjestäjä tarkastelee lähetettyä kyselyä ja asiakirjatekstiä yhdessä nykyistä relevanssipäätöstä varten.
Lähetä interaktiiviseen ohjehakuun ehdokasselitykset, jotka saattavat vastata käyttäjän kysymykseen. Säilytä kustakin tekstikohdasta riittävästi toimintaa ja sen ehtoja välittävää sisältöä sekä yhteys syöteindeksin ja lähdekohteen välillä. Kohdennettu ehdokasjoukko auttaa selkeyttämään uudelleenjärjestämistehtävää ja pitää haetun näytön käyttökelpoisena näyttämistä tai myöhempää vastausta varten.
Ohjeet ilmaisevat käyttäjän haluaman painotuksen
rerank-2.5:n tavoin Lite hyväksyy luonnollisen kielen ohjeita ennen kyselyä tai sen jälkeen. Valmistajan esimerkit käyttävät niitä asiakirjan osien korostamiseen, toivotun lähdetyypin valintaan tai monitulkintaisen sanan taustoittamiseen. Sovellus voi tarjota pysyvän relevanssitoiveen, tai nykyinen kysymys voi sisältää tarkemman toiveen.
Havainnollistava tukikysely voi kysyä, mikä tekstikohta selittää virheen, ja ohjeistaa painottamaan vianmääritysvaiheita yleisten tuotekuvausten sijaan. Asiakirjahaku voi pyytää alkuperäistä käytäntösanamuotoa käytäntöä käsittelevän keskustelun sijaan. Kuvaile tavoiteltu näyttö ja pidä ohje tiiviinä. Ohjeet vaikuttavat relevanssipisteisiin; toteuta ehdokkaiden valinnassa tiukat versio-, päivämäärä- tai käyttöoikeusrajaukset sen sijaan, että pitäisit relevanssitoivetta taattuna suodattimena.
Lue järjestys ja palauta lähdetekstikohta
Tulos järjestetään laskevan relevanssin mukaan. Kukin tulos sisältää alkuperäisen asiakirjaindeksin ja liukulukupisteen; valinnainen return-documents-asetus palauttaa myös vastaavan syötetekstin. top-k-vaihtoehto määrittää palautettavien kärkisijojen määrän, kun taas sen pois jättäminen palauttaa kaikkien lähetettyjen ehdokkaiden järjestyksen.
Käytä indeksejä lähdetekstikohdan ja sen tunnisteen hakemiseen. Uudelleenjärjestetty ehdokas voi toimia hakutuloksena tai seuraavan RAG-vaiheen näyttönä, mutta tulos on toimitetun tekstin järjestys eikä uudelleenkirjoitettu vastaus. Arvioi, täyttävätkö kärkitekstikohdat sekä kysymyksen että relevanssiohjeen, myös kokoelmassa todellisuudessa esiintyvien kielten ja asiakirjatyyppien kohdalla.
Rajat ja käytännöllinen ehdokasbudjetti
2.5 Lite -versiolla on dokumentoitu 8 000 tokenin kyselyn enimmäisraja ja 32 000 tokenin raja kyselylle sekä kullekin yksittäiselle asiakirjalle. Se eroaa aiemmasta rerank-2-lite-mallista ja sen pienemmästä kontekstista. Asiakirjoja voi lähettää enintään 1 000, ja kokonaissyöte rajataan 600 000 tokeniin kaavalla: kyselytokenit kerrottuna ehdokkaiden määrällä sekä ehdokasasiakirjojen tokenien summa.
Viiveherkkään käyttöön valmistajan FAQ suosittelee rerank-2.5-liteä siten, että pyynnössä on yhteensä enintään 200 000 tokenia. Tämä on käytännön ohje ilmoitettua enimmäisrajaa alemmalle tasolle eikä eri asiakirjakohtainen ikkuna. Pidempi kysely tai ohje lasketaan kerran jokaista ehdokasparia kohti, joten sekä ehdokasmäärä että kyselyn pituus vaikuttavat kokonaismäärään.
Katkaisu on oletusarvoisesti käytössä ja lyhentää liian pitkän kysely-/asiakirjasyötteen sopivaksi; sen poistaminen käytöstä palauttaa virheen liian pitkästä kyselystä tai parista. Valmistele tiiviit, vastauksen sisältävät ehdokkaat tarkoituksella, jotta hyödyllinen näyttö ei jää katkaisurajan taakse. Pienemmän tulosmäärän valitseminen top-k:lla ei poista muita toimitettuja ehdokkaita tokenilaskennasta. Tarkasta palautetut lähdetekstikohdat ja tarkenna syötteen valmistelua niiden todellisten kysymysten mukaan, joihin hakukäyttöliittymän tulee vastata.
Ailoot Ultra · Uudelleenjärjestys POST /v1/rerank voyageai/rerank-2.5-lite
voyageai/rerank-2.5-liteAloitus
rerank-2.5-lite on Voyage AI:n viivepainotteinen, ohjeita noudattava uudelleenjärjestäjä toimitetulle tekstiehdokkaiden joukolle. Se säilyttää 32 000 tokenin kysely–asiakirja-kontekstin ja monikielisen tuen ja palauttaa järjestetyn luettelon relevanssipisteistä ja alkuperäisistä asiakirjaindekseistä.
- Hyväksytyt syötteet
- Teksti
- Tulokset
- Järjestetyt tulokset
Saatavilla Ailootissa · syötteet & menetelmät
Ailoot Ultra · Uudelleenjärjestys POST /v1/rerank
- Syötetyypit
text- Tulostyypit
rerank- Tulosteen muoto
- json
| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttädocuments | Tyyppiarray | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat voyageai/rerank-2.5-lite | Oletus— |
Kenttäprovider | Tyyppischema | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttäquery | Tyyppistring | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttäsession_id | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttätop_n | Tyyppiinteger | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 | Oletus— |
Kenttätrace | Tyyppischema | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttäuser | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttädocuments[].text | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttädocuments[].image | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Syöteaineistojen yhdistelmät
text_rerank · Pakollinen: query, documents array with minItems1
Menetelmän parametrit ja elinkaari
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, query, documents |
Parametrimaterial_types | Sopimustext |
Parametrioptional_controls | Sopimusprovider, session_id, top_n, trace, user |
Parametrimultimodal_input_binding | Sopimusnull |
Elinkaari: synchronous
Lähetä täsmällinen mallin tunniste ja säilytä koko natiivivastaus.
Hinnoittelu
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
- Nopea tila
- Ei määritetty Kun nopea tila on valittu
- Flex-tila
- Ei määritetty Kun flex-tila on valittu
- Päättelyn enimmäisteho
- Ei määritetty Kun päättelyn enimmäistehoon sovelletaan default-oletussäätöä
Ailoot-hinnat
Hinnat asetusten mukaan
Kohdista kukin veloitus näytettyihin ehtoihin. Käytä yhtä hintaa kutakin vaihtoehtoisten asetusten ryhmää kohden.
| Asetukset | Hinnasto | Laskutusyksikkö | Veloitus |
|---|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Laskutusyksikkö— | Veloitus Syöte · Syötetokenit — / 1K tokenia Tuloste · Tulostokenit — / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
| AsetuksetUltra | Hinnasto— | Laskutusyksikkö/ 1K tokenia | Veloitus Syöte $0.00004 / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
Esimerkkipyynnöt
Ailoot Ultra · Uudelleenjärjestys
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Vastaanota ja tallenna tulokset
Ailoot Ultra · Uudelleenjärjestys
json
Säilytä kaikki valmistuneet tulokset
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Jokainen todellinen tulosindeksi, äärellinen relevance_score ja alkuperäinen asiakirjaolio säilytetään. Indeksit sitovat tulokset alkuperäiseen asiakirjataulukkoon. Koko alkuperäinen JSON tallennetaan ja palautetaan vasta veloituksen lopullisen kirjauksen jälkeen.
Jos alkuperäinen vastaus on tarkistettava
Säilytä alkuperäinen operaatio ja kokonainen tai osittainen vastaus; älä toista POST-pyyntöä.
Vastauksen kentät
| Kenttä | Tyyppi |
|---|---|
Kenttämodel | Tyyppistring |
Kenttäid | Tyyppistring |
Kenttäprovider | Tyyppistring |
Kenttäresults[].index | Tyyppiinteger |
Kenttäresults[].relevance_score | Tyyppinumber |
Kenttäresults[].document.text | Tyyppistring |
Kenttäresults[].document.image | Tyyppistring |
Kenttäusage.search_units | Tyyppiinteger |
Kenttäusage.total_tokens | Tyyppiinteger |
Kenttäusage.cost | Tyyppinumber |
Virheet ja seuraavat vaiheet
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheellinen pakollinen kenttä, esitysmuoto tai arvo | Seuraava vaiheKorjaa ilmoitettu pyyntökenttä. |
Aliakset
Mallin aliakset
Ailoot Ultra voyageai/rerank-2.5-lite
Menetelmäpolkujen aliakset
Käytä yllä näytettyjä menetelmäpolkuja.
Liittyvät kutsujan ID:t
FAQ · VoyageAI by MongoDB: rerank-2.5-lite
- Mitä syötteitä ja tuloksia on saatavilla?
POST /v1/rerank·voyageai/rerank-2.5-lite:text→rerank- Mitä kenttiä pyyntö käyttää?
POST /v1/rerank·voyageai/rerank-2.5-lite:documents,model,provider,query,session_id,top_n,trace,user- Mitä rajoja sovelletaan?
POST /v1/rerank·voyageai/rerank-2.5-lite:top_n.minimum:1