VoyageAI by MongoDB: voyage-4-large
voyage-4-large on Voyage AI:n mixture-of-experts-tekstiupotusmalli yleiskäyttöiseen ja monikieliseen tiedonhakuun. Sen vektorit jakavat Voyage 4 -perheen avaruuden, joten Largen korpusupotuksia voidaan hakea perheen muiden mallien yhteensopivilla kyselyupotuksilla.
Tietoa mallista
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
voyage-4-large on Voyage AI:n Voyage 4 -perheen johtava tekstiupotusmalli. Se esittää lähdetekstijaksot ja kyselyt numeerisina vektoreina yleistä ja monikielistä tiedonhakua varten. Sen kaksi erityispiirrettä ovat mixture-of-experts-mallirakenne ja voyage-4-large-, voyage-4-, voyage-4-lite- ja voyage-4-nano-mallien yhteinen upotusavaruus.
Yhteinen avaruus: erilliset valinnat korpukselle ja kyselylle
Valmistaja kuvaa epäsymmetristä hakua: asiakirjat voidaan upottaa voyage-4-largella ja kyselyvektorit valmistella toisella Voyage 4 -perheen mallilla. Esimerkiksi Largella esitetystä korpuksesta voi hakea voyage-4-kyselyillä. Näin haun kahdella puolella voi olla eri mallivalinnat samalla, kun ne pysyvät dokumentoidussa yhteensopivassa avaruudessa.
Käytännön kokoelma voi siis valmistella vakaat asiakirjajaksot Largella ja valita kyselypuolen mallin itsenäisesti. Asiakirjat upotetaan korpuksen luonnin tai päivityksen yhteydessä, kun taas kyselyt vektoroidaan käyttäjien hakiessa. Perheen julkistus kuvaa kyselymallin vaihtamista yhteensopivan perheen sisällä ilman asiakirjakorpuksen uudelleenvektorointia pelkästään tämän muutoksen takia. Pidä vertailtavat vektorit samanulotteisina ja esitysmuodoissa, joita hakujärjestelmä osaa tulkita yhdessä.
Mixture-of-experts-rakenne upotuksissa
Tiheä eteenpäin syöttävä kerros käsittelee jokaisen tokenin koko parametrijoukollaan. Mallille voyage-4-large kuvattu MoE-lähestymistapa käyttää reititintä ja asiantuntijoiden eteenpäin syöttäviä verkkoja. Se valitsee kutakin tokenia käsittelevät asiantuntijat. Näin mallin kokonaiskapasiteetti erotetaan tietylle tokenille aktiivisista parametreista. Voyage ilmoittaa mallin MoE-rakenteen aktivointisuhteeksi 1/10 ja käyttää top-k-reititystä.
Valmistajan tekninen selitys kuvaa myös kahta kehitysvalintaa. Asiantuntijan kapasiteetti vaikuttaa siihen, ohittavatko ylimääräiset tokenit asiantuntijakerroksen residuaalipolkua pitkin. Tiimi valitsi suurimman toteutuskelpoisen kapasiteettikertoimen välttääkseen hakulaadun heikkenemisen. Viimeisessä koulutusvaiheessa reitittimen parametrit jäädytetään ennen mallien yhdistämistä, jotta lähdemallien interpolointi ei muuta opittua asiantuntijavalinnan reititystä. Nämä ovat mallin valmistelun ominaisuuksia. Ne ovat erillisiä syötteen valmistelussa käytettävistä tekstipituus- ja katkaisuasetuksista.
Ulottuvuudet ja tuloksen esitysmuoto
Virallinen mallitaulukko määrittää 32,000 tokenin konteksti-ikkunan sekä valittavat 256-, 512-, 1024- ja 2048-ulotteiset upotukset, joista 1024 on oletus. Perhe käyttää sisäkkäisten esityskokojen Matryoshka-oppimista ja tukee kvantisointivalintoja: 32-bittistä liukulukua, etumerkillisiä tai etumerkittömiä 8-bittisiä kokonaislukuja sekä pakattua binaaritulosta.
Binaarituloksessa palautetun tavuluettelon pituus on kahdeksasosa valitusta ulottuvuusmäärästä, koska kukin tavu sisältää kahdeksan upotusbittiä. Säilytä ulottuvuus- ja tietotyyppivalinnat indeksin mukana ja käytä esitysmuotoa tukevaa vertailumenetelmää. Pienempi tai pakattu vektori muuttaa haussa käytettävää esitystä. Arvioi todellisiin kysymyksiin palautetut olennaiset tekstikohdat ennen valintaa kokoelmalle.
Valmistele asiakirja- ja kyselysyötteet
Voyage suosittelee document-roolia korpuksen tekstijaksoille ja query-roolia hakusanoitukselle. Sen rooliasetus lisää vastaavan hakuohjeen ennen upottamista. Säilytä tekstikohdan hyödyllinen otsikko, ehdot ja sijainti lähteessä. Tallenna palautettu vektori alkuperäisen tekstin ja vakaan tunnisteen kanssa.
Teknisessä tietokokoelmassa virhetilaa koskevan kysymyksen tulee johtaa kohtaan, joka kuvaa kyseisen tilan ja sen olennaiset ehdot. Säilytä eri kieliä sisältävässä asiakirjakokoelmassa lähdekieli ja arvioi kysymykset ja termit, joilla käyttäjät hakevat. Julkaisu kattaa hakuaineistona muun muassa tekniset asiakirjat, keskustelut, pitkät asiakirjat, koodin, oikeuden, rahoituksen ja verkkotekstin. Upotus löytää ehdokasaineiston; myöhempi uudelleenjärjestäjä tai vastausvaihe käyttää alkuperäistä tekstiä.
Kontekstin, erien ja katkaisun rajat
Valmistajan nykyinen ohje sallii voyage-4-large-pyynnössä enintään 1,000 merkkijonoa ja yhteensä 120,000 syötetokenia. Tämä eroaa voyage-4:lle luetellusta erärajasta, vaikka molemmilla on 32,000 tokenin tekstikohtainen ikkuna. Oletusarvoinen katkaisu lyhentää liian pitkän syötteen sopivaksi. Kun katkaisu poistetaan käytöstä, liian pitkä teksti palauttaa virheen.
Valitse vastauksen sisältävien tekstijaksojen rajat harkitusti, jotta pitkästä lähteestä ei katoa olennaista täsmennystä katkaistussa lopussa. Säilytä yhteys lähteeseen hakutuloksia palautettaessa ja tarkista varsinainen ehdokasteksti. Älä pidä vektorien läheisyyttä niiden sisällön varmistuksena. Yhteisen avaruuden yhteensopivuus koskee dokumentoitua Voyage 4 -tekstiperhettä. Kontekstiin sidottu lohkokäsittely, kuva- ja videoupotukset sekä myöhemmät malliversiot ovat omia mallikohtaisia työnkulkujaan.
Ailoot Ultra · Vektoriesitykset POST /v1/embeddings voyageai/voyage-4-large
voyageai/voyage-4-largeAloitus
voyage-4-large on Voyage AI:n mixture-of-experts-tekstiupotusmalli yleiskäyttöiseen ja monikieliseen tiedonhakuun. Sen vektorit jakavat Voyage 4 -perheen avaruuden, joten Largen korpusupotuksia voidaan hakea perheen muiden mallien yhteensopivilla kyselyupotuksilla.
- Hyväksytyt syötteet
- Teksti · token_ids
- Tulokset
- embedding
Saatavilla Ailootissa · syötteet & menetelmät
Ailoot Ultra · Vektoriesitykset POST /v1/embeddings
- Syötetyypit
text,token_ids- Tulostyypit
embedding- Konteksti
- 32 000 tokens
- Tulosteen muoto
- json
| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat voyageai/voyage-4-large | Oletus— |
Kenttäinput | Tyyppistring|string[]|integer[]|integer[][] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 Ehdot: Ei-tyhjä, yhdenmukaisista alkioista koostuva erä. Tokenien ID:t ovat ei-negatiivisia kokonaislukuja. Syötebudjetti: Enimmäismäärä: 32 000 · Tekstiyksikkö: UTF8-tavut · Tokenyksikkö: Token-taulukon alkiot | Oletus— |
Kenttäencoding_format | Tyyppistring | VaatimusValinnainen | Arvot & rajat float | Oletusfloat |
Kenttädimensions | Tyyppiinteger | VaatimusEi tuettu | Arvot & rajat Vähimmäismäärä: 1 | Oletus— |
Kenttäuser | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttäsession_id | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttätrace | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttäprovider | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Ehdot: provider.options hylätty | Oletus— |
Syöteaineistojen yhdistelmät
text_to_embedding
Menetelmän parametrit ja elinkaari
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, input |
Parametriinput_shapes | Sopimusstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametriencoding_format | Sopimusfloat |
Parametridimensions_override | Sopimusfalse |
Parametrimax_input_budget_units | Sopimus32000 |
Parametrimultimodal_objects | Sopimusfalse |
Parametrimaterial_types | Sopimustext, token_ids |
Elinkaari: synchronous_json
Säilytä jokaisen vektorin indeksi ja ulottuvuus.
Mallin nimen multimodaalisuus ei tarkoita, että tämä nimenomainen reitti hyväksyisi kuvaolioita.
Hinnoittelu
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
- Nopea tila
- Vakiohinta Kun nopea tila on valittu
- Flex-tila
- Vakiohinta Kun flex-tila on valittu
- Päättelyn enimmäisteho
- Vakiohinta Kun päättelyn enimmäistehoon sovelletaan default-oletussäätöä
Ailoot-hinnat
Hinnat asetusten mukaan
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.00024 / 1K tokenia Tuloste · Tulostokenit $0 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
Esimerkkipyynnöt
Ailoot Ultra · Vektoriesitykset
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Vastaanota ja tallenna tulokset
Ailoot Ultra · Vektoriesitykset
json
Säilytä kaikki valmistuneet tulokset
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vektori indekseineen. Vektorien määrän on vastattava syötteiden määrää; ulottuvuuksien on oltava yhdenmukaiset.
Jos alkuperäinen vastaus on tarkistettava
Uutta upotustehtävien päätepistettä ei oteta käyttöön.
Vastauksen kentät
| Kenttä | Tyyppi |
|---|---|
Kenttäobject | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttädata[].index | Tyyppiinteger |
Kenttädata[].embedding | Tyyppifinite float[] |
Kenttäusage | Tyyppiobject |
Virheet ja seuraavat vaiheet
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Aliakset
Mallin aliakset
Ailoot Ultra voyageai/voyage-4-large
Menetelmäpolkujen aliakset
Käytä yllä näytettyjä menetelmäpolkuja.
Liittyvät kutsujan ID:t
FAQ · VoyageAI by MongoDB: voyage-4-large
- Mitä syötteitä ja tuloksia on saatavilla?
POST /v1/embeddings·voyageai/voyage-4-large:text,token_ids→embedding- Mitä kenttiä pyyntö käyttää?
POST /v1/embeddings·voyageai/voyage-4-large:model,input,encoding_format,provider- Mitä rajoja sovelletaan?
POST /v1/embeddings·voyageai/voyage-4-large:ctx:32000;input.budget.maximum:32000(UTF8-tavut);input.min_items:1