VoyageAI by MongoDB: voyage-4-lite
Voyage AI voyage-4-lite on Voyage 4 -perheen viivepainotteinen tekstiupotusversio. Se tukee 32 000 tokenin syötteitä, neljää vektorikokoa ja kvantisoituja esityksiä yhteisessä upotusavaruudessa, joka on yhteensopiva muiden Voyage 4 -tekstimallien kanssa.
Tietoa mallista
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
voyage-4-lite on Voyage AI:n Voyage 4 -perheen viivepainotteinen tekstiupotusmalli. Se esittää kyselyt ja asiakirjat numeerisina vektoreina yleiskäyttöiseen tiedonhakuun. Sen erottava perheominaisuus on yhteinen upotusavaruus voyage-4:n, voyage-4-largen ja voyage-4-nanon kanssa, mikä mahdollistaa kysely- ja asiakirjamallien valitsemisen erikseen.
Aloita hakurooleista
Valmistele käyttäjän tiedontarve kyselyksi ja haettava materiaali asiakirjoiksi. Voyage suosittelee hakuun query/document-syötetyyppejä; sen julkaistu menetelmä lisää vastaavan hakuohjeen tekstiä vektorisoitaessa.
Henkilöstökäsikirjojen kokoelmassa käyttämättömän loman seuraavalle kaudelle siirtämistä koskevaa kyselyä tulisi verrata täsmällisiin sääntöosioihin. Säilytä sääntö, sen ehdot ja olennaiset poikkeukset indeksoidussa katkelmassa. Säilytä alkuperäinen asiakirja ja osiotunniste vektorin rinnalla, jotta sovellus voi palauttaa todellisen sääntötekstin.
Määrittelemätön syötetyyppi esittää tekstin suoraan, ja query/document-roolit mukauttavat sitä tiedonhakuun. Valmistaja ilmoittaa näillä rooliasetuksilla ja ilman niitä tuotettujen upotusten olevan yhteensopivia, mutta yhtenäinen valmistelukäytäntö helpottaa kokoelman arviointia.
Yhteinen avaruus Voyage 4 -tekstimalliperheessä
Voyage dokumentoi nimenomaisesti epäsymmetrisen hakutyönkulun: asiakirjat voidaan koodata voyage-4-largella ja niitä voidaan hakea voyage-4-liten kyselyvektoreilla. Tämä on perhetason yhteensopivuuslausuma, ei kahden mallin samasta vektoripituudesta tehty johtopäätös.
Pidä valittu vektoriulottuvuus ja esitys yhteensopivina kokoelman ja kyselypuolen välillä. Yhteinen avaruus sallii myös kyselymallin vaihtamisen tässä nimetyssä Voyage 4 -tekstimalliperheessä vektorisoimatta olemassa olevia asiakirjoja uudelleen. Arvioi tulosjärjestystä edustavilla kysymyksillä valitessasi kyselyversiota.
Lite-version rooli on pienempi, viiveeseen keskittyvä kysely- ja tekstiupotusvaihtoehto. Valmistaja liittää mixture-of-experts-arkkitehtuurin nimenomaisesti voyage-4-largeen; malliperheen nimi ei osoita samaa arkkitehtuuria Litelle.
Konteksti, ulottuvuudet ja tulosmuoto
Julkaistu kontekstipituus on 32 000 tokenia tekstiä kohti. Oletusvektorissa on 1024 ulottuvuutta, ja Matryoshka-oppiminen tarjoaa myös 256, 512 ja 2048 ulottuvuutta. Valmistajan tekstiupotuskulku dokumentoi voyage-4-litelle liukuluku-, etumerkilliset ja etumerkittömät 8-bittiset kokonaisluku- sekä bittipakatut binääriesitykset.
Tavallisille liukulukuvektoreille Voyagen samankaltaisuusohje kuvaa yksikköpituiset upotukset, jolloin kosini- ja pistetulosamankaltaisuus vastaavat toisiaan. Kvantisoidut muodot tarvitsevat vastaavan esityskäsittelyn. Esimerkiksi bittipakattu binääriluettelo tallentaa kahdeksan upotusbittiä jokaiseen tavuun; sen luettelopituus eroaa semanttisesta vektoriulottuvuudesta.
Voyagen dokumentoidussa erämenetelmässä luettelo sisältää tälle täsmälliselle Lite-versiolle enintään 1000 tekstiä ja yhteensä miljoona tokenia. Liian pitkän syötteen oletuskäsittely katkaisee yksittäisen tekstin kontekstirajaan; vaihtoehtoinen asetus hylkää liian pitkät syötteet. Nämä erä- ja tekstikohtaiset rajat ovat erillisiä.
Valmistele ja tutki hakutulokset
Jaa pitkä lähdemateriaali yhtenäisiin osioihin, jotka voidaan palauttaa evidenssinä. 32 000 tokenin konteksti sallii pitkän syötteen, mutta hyödyllisen hakukokonaisuuden pitäisi silti johtaa olennaiseen lähdeosioon. Sisällytä säännön tulkitsemiseen tarvittava otsikko tai yksilöivä yksityiskohta.
Hae RAGia varten ehdokasosioita ja anna niiden alkuperäinen teksti vastauksenkirjoitusvaiheelle lähdeyhteyksineen. Upotusmalli tuottaa vektoreita eikä generoi sääntövastausta. Samankaltaisuus järjestää ehdokkaat valitun mallin ja vertailukokoonpanon puitteissa; tarkastele todellisesta katkelmasta täsmällinen kysytty ehto.
voyage-4-liten hyödyllinen versiokohtainen yhdistelmä on viiveeseen keskittyvä tekstimalli, joustavat esitykset, 32 000 tokenin konteksti ja dokumentoitu yhteensopivuus Voyage 4 -tekstimalliperheessä. Säilytä nämä ominaisuudet indeksoidun kokoelman yhteydessä ja käytä lähteisiin perustuvia hakutuloksia ympäröivän sovelluksen tukena.
Ailoot Ultra · Vektoriesitykset POST /v1/embeddings voyageai/voyage-4-lite
voyageai/voyage-4-liteAloitus
Voyage AI voyage-4-lite on Voyage 4 -perheen viivepainotteinen tekstiupotusversio. Se tukee 32 000 tokenin syötteitä, neljää vektorikokoa ja kvantisoituja esityksiä yhteisessä upotusavaruudessa, joka on yhteensopiva muiden Voyage 4 -tekstimallien kanssa.
- Hyväksytyt syötteet
- Teksti · token_ids
- Tulokset
- embedding
Saatavilla Ailootissa · syötteet & menetelmät
Ailoot Ultra · Vektoriesitykset POST /v1/embeddings
- Syötetyypit
text,token_ids- Tulostyypit
embedding- Konteksti
- 32 000 tokens
- Tulosteen muoto
- json
| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat voyageai/voyage-4-lite | Oletus— |
Kenttäinput | Tyyppistring|string[]|integer[]|integer[][] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 Ehdot: Ei-tyhjä, yhdenmukaisista alkioista koostuva erä. Tokenien ID:t ovat ei-negatiivisia kokonaislukuja. Syötebudjetti: Enimmäismäärä: 32 000 · Tekstiyksikkö: UTF8-tavut · Tokenyksikkö: Token-taulukon alkiot | Oletus— |
Kenttäencoding_format | Tyyppistring | VaatimusValinnainen | Arvot & rajat float | Oletusfloat |
Kenttädimensions | Tyyppiinteger | VaatimusEi tuettu | Arvot & rajat Vähimmäismäärä: 1 | Oletus— |
Kenttäuser | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttäsession_id | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttätrace | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttäprovider | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Ehdot: provider.options hylätty | Oletus— |
Syöteaineistojen yhdistelmät
text_to_embedding
Menetelmän parametrit ja elinkaari
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, input |
Parametriinput_shapes | Sopimusstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametriencoding_format | Sopimusfloat |
Parametridimensions_override | Sopimusfalse |
Parametrimax_input_budget_units | Sopimus32000 |
Parametrimultimodal_objects | Sopimusfalse |
Parametrimaterial_types | Sopimustext, token_ids |
Elinkaari: synchronous_json
Säilytä jokaisen vektorin indeksi ja ulottuvuus.
Mallin nimen multimodaalisuus ei tarkoita, että tämä nimenomainen reitti hyväksyisi kuvaolioita.
Hinnoittelu
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
- Nopea tila
- Vakiohinta Kun nopea tila on valittu
- Flex-tila
- Vakiohinta Kun flex-tila on valittu
- Päättelyn enimmäisteho
- Vakiohinta Kun päättelyn enimmäistehoon sovelletaan default-oletussäätöä
Ailoot-hinnat
Hinnat asetusten mukaan
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.00004 / 1K tokenia Tuloste · Tulostokenit $0 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
Esimerkkipyynnöt
Ailoot Ultra · Vektoriesitykset
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-lite", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-lite',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Vastaanota ja tallenna tulokset
Ailoot Ultra · Vektoriesitykset
json
Säilytä kaikki valmistuneet tulokset
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vektori indekseineen. Vektorien määrän on vastattava syötteiden määrää; ulottuvuuksien on oltava yhdenmukaiset.
Jos alkuperäinen vastaus on tarkistettava
Uutta upotustehtävien päätepistettä ei oteta käyttöön.
Vastauksen kentät
| Kenttä | Tyyppi |
|---|---|
Kenttäobject | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttädata[].index | Tyyppiinteger |
Kenttädata[].embedding | Tyyppifinite float[] |
Kenttäusage | Tyyppiobject |
Virheet ja seuraavat vaiheet
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Aliakset
Mallin aliakset
Ailoot Ultra voyageai/voyage-4-lite
Menetelmäpolkujen aliakset
Käytä yllä näytettyjä menetelmäpolkuja.
Liittyvät kutsujan ID:t
FAQ · VoyageAI by MongoDB: voyage-4-lite
- Mitä syötteitä ja tuloksia on saatavilla?
POST /v1/embeddings·voyageai/voyage-4-lite:text,token_ids→embedding- Mitä kenttiä pyyntö käyttää?
POST /v1/embeddings·voyageai/voyage-4-lite:model,input,encoding_format,provider- Mitä rajoja sovelletaan?
POST /v1/embeddings·voyageai/voyage-4-lite:ctx:32000;input.budget.maximum:32000(UTF8-tavut);input.min_items:1