VoyageAI by MongoDB: voyage-4-lite
Voyage AI voyage-4-lite je različica besedilnih vektorskih vložitev v družini Voyage 4, usmerjena v majhno zakasnitev. Podpira vhode do 32 000 žetonov, štiri izbire dimenzij vektorjev in kvantizirane predstavitve, s skupnim prostorom vložitev, združljivim z drugimi besedilnimi modeli Voyage 4.
O modelu
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
voyage-4-lite je model besedilnih vektorskih vložitev v družini Voyage 4 podjetja Voyage AI, usmerjen v majhno zakasnitev. Poizvedbe in dokumente predstavi kot numerične vektorje za splošno iskanje. Posebnost te družine modelov je skupni prostor vektorskih vložitev z voyage-4, voyage-4-large in voyage-4-nano, kar omogoča ločeno izbiro modelov za poizvedbe in dokumente.
Začnite z vlogami pri iskanju
Uporabnikovo informacijsko potrebo pripravite kot poizvedbo, gradivo za iskanje pa kot dokumente. Voyage za iskanje priporoča vhodna tipa query/document; objavljeni postopek ob vektorizaciji besedila doda ustrezno iskalno navodilo.
Pri zbirki priročnikov za zaposlene je treba poizvedbo o prenosu neizkoriščenega dopusta v naslednje obdobje primerjati z ustreznimi razdelki pravilnika. V indeksiranem odlomku ohranite pravilo, njegove pogoje in morebitne pomembne izjeme. Ob vektorju ohranite izvirni dokument in identifikator razdelka, da lahko aplikacija vrne dejansko besedilo pravilnika.
Če vhodni tip ni določen, model neposredno predstavi besedilo, vlogi query/document pa ga prilagodita za iskanje. Proizvajalec navaja, da so vektorske vložitve, ustvarjene s temi nastavitvami vlog ali brez njih, združljive, vendar dosledna politika priprave olajša ocenjevanje zbirke.
Skupni prostor v besedilni družini Voyage 4
Voyage izrecno dokumentira asimetrično iskanje: dokumente je mogoče kodirati z voyage-4-large in po njih iskati z vektorji poizvedb iz voyage-4-lite. To je navedba združljivosti na ravni modelne družine, ne sklep na podlagi tega, da dva modela vračata enako dolge vektorje.
Izbrano dimenzijo in predstavitev vektorjev uskladite med zbirko in stranjo poizvedb. Skupni prostor omogoča tudi spremembo modela poizvedb znotraj te poimensko določene besedilne družine Voyage 4 brez ponovne vektorizacije obstoječih dokumentov. Pri izbiri različice za poizvedbe ocenite nastalo razvrstitev z reprezentativnimi vprašanji.
Različica Lite je manjša možnost za poizvedbe in besedilne vektorske vložitve, osredotočena na majhno zakasnitev. Proizvajalec arhitekturo mixture-of-experts pripisuje konkretno modelu voyage-4-large; ime modelne družine te arhitekture za Lite ne potrjuje.
Kontekst, dimenzije in oblika rezultata
Objavljena dolžina konteksta je 32 000 žetonov na besedilo. Privzeti vektor ima 1024 dimenzij, z učenjem Matryoshka pa so na voljo tudi dimenzije 256, 512 in 2048. Proizvajalčev postopek besedilnih vektorskih vložitev za voyage-4-lite dokumentira predstavitve s plavajočo vejico, predznačene in nepredznačene 8-bitne celoštevilske ter bitno pakirane binarne predstavitve.
Za standardne vektorje s plavajočo vejico Voyageova navodila za podobnost opisujejo vektorske vložitve enotske dolžine, zato sta kosinusna podobnost in skalarni produkt enakovredna. Kvantizirane oblike potrebujejo ustrezno obravnavo predstavitve. Bitno pakirani binarni seznam na primer v vsakem bajtu shrani osem bitov vektorske vložitve; njegova dolžina se razlikuje od semantične dimenzije vektorja.
V Voyageovem dokumentiranem paketnem postopku seznam za to konkretno različico Lite vsebuje največ 1000 besedil in skupno milijon žetonov. Privzeto ravnanje s predolgimi vhodi posamezno besedilo skrajša do meje konteksta; alternativna nastavitev predolge vhode zavrne. Paketne omejitve in omejitve posameznega besedila so ločene.
Pripravite in preverite rezultate iskanja
Dolgo izvorno gradivo razdelite na smiselno povezane razdelke, ki jih je mogoče vrniti kot dokazno gradivo. Kontekst 32 000 žetonov dopušča dolg vhod, vendar mora uporabna iskalna enota še vedno voditi do ustreznega izvornega razdelka. Vključite naslov ali prepoznavni podatek, potreben za razumevanje pravila.
Za RAG poiščite kandidatne razdelke in njihovo izvirno besedilo s povezavami na vire posredujte stopnji pisanja odgovora. Model vektorskih vložitev ustvarja vektorje in ne generira odgovora o pravilniku. Podobnost razvršča kandidate glede na izbrani model in način primerjave; dejanski odlomek preverite glede konkretnega pogoja iz vprašanja.
Uporabna kombinacija, značilna za voyage-4-lite, je besedilni model z majhno zakasnitvijo, prilagodljive predstavitve, kontekst 32 000 žetonov in dokumentirana združljivost znotraj besedilne družine Voyage 4. Te lastnosti ohranite z indeksirano zbirko ter v aplikaciji uporabite rezultate iskanja, podprte z viri.
Ailoot Ultra · Vektorske predstavitve POST /v1/embeddings voyageai/voyage-4-lite
voyageai/voyage-4-liteZačetek
Voyage AI voyage-4-lite je različica besedilnih vektorskih vložitev v družini Voyage 4, usmerjena v majhno zakasnitev. Podpira vhode do 32 000 žetonov, štiri izbire dimenzij vektorjev in kvantizirane predstavitve, s skupnim prostorom vložitev, združljivim z drugimi besedilnimi modeli Voyage 4.
- Dovoljeni vhodi
- Besedilo · token_ids
- Rezultati
- embedding
Na voljo v Ailoot · vhodi in metode
Ailoot Ultra · Vektorske predstavitve POST /v1/embeddings
- Vhod
text,token_ids- Izhod
embedding- Kontekst
- 32.000 tokens
- Izhodni format
- json
| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve voyageai/voyage-4-lite | Privzeto— |
Poljeinput | Vrstastring|string[]|integer[]|integer[][] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 Pogoji: Neprazen paket istovrstnih vhodnih podatkov. Identifikatorji žetonov so nenegativna cela števila. Vhodni proračun: Največ: 32.000 · Besedilna enota: bajti UTF8 · Enota žetonov: elementi polja žetonov | Privzeto— |
Poljeencoding_format | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve float | Privzetofloat |
Poljedimensions | Vrstainteger | ZahtevaNi podprto | Vrednosti in omejitve Najmanj: 1 | Privzeto— |
Poljeuser | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljesession_id | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljetrace | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljeprovider | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je zavrnjen | Privzeto— |
Kombinacije vhodnih gradiv
text_to_embedding
Parametri in življenjski cikel metode
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, input |
Parameterinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Specifikacijafloat |
Parameterdimensions_override | Specifikacijafalse |
Parametermax_input_budget_units | Specifikacija32000 |
Parametermultimodal_objects | Specifikacijafalse |
Parametermaterial_types | Specifikacijatext, token_ids |
Življenjski cikel: synchronous_json
Shranite indeks in dimenzijo vsakega vektorja.
Ime multimodalnega modela ne pomeni, da so na tej točno določeni poti dovoljeni slikovni objekti.
Cenik
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
- Hitri način
- Standardna tarifa Ko je izbran hitri način
- Način flex
- Standardna tarifa Ko je izbran način flex
- Najvišja raven razmišljanja
- Standardna tarifa Ko najvišja raven razmišljanja uporablja privzeto prilagoditev (default)
Cene Ailoot
Cene po nastavitvah
| Nastavitev | Cenovna lestvica | Strošek |
|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Strošek Vhod · Vhodni žetoni $0.00004 / 1K žetonov Izhod · Izhodni žetoni $0 / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
Primeri zahtev
Ailoot Ultra · Vektorske predstavitve
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-lite", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-lite',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Prejmi in shrani rezultate
Ailoot Ultra · Vektorske predstavitve
json
Ohrani vse dokončane rezultate
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Shranite vsak vektor skupaj z njegovim indeksom. Število vektorjev mora biti enako številu vhodov; dimenzije morajo biti skladne.
Če je treba preveriti izvirni odgovor
Končna točka za opravila ustvarjanja vektorskih predstavitev se ne uvaja.
Polja odgovora
| Polje | Vrsta |
|---|---|
Poljeobject | Vrstastring |
Poljemodel | Vrstastring |
Poljedata[].index | Vrstainteger |
Poljedata[].embedding | Vrstafinite float[] |
Poljeusage | Vrstaobject |
Napake in naslednji koraki
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Druga imena
Druga imena modelov
Ailoot Ultra voyageai/voyage-4-lite
Druga imena poti metod
Uporabite zgoraj navedene poti metod.
Povezani ID-ji za klic
FAQ · VoyageAI by MongoDB: voyage-4-lite
- Kateri vhodi in rezultati so na voljo?
POST /v1/embeddings·voyageai/voyage-4-lite:text,token_ids→embedding- Katera polja uporablja zahteva?
POST /v1/embeddings·voyageai/voyage-4-lite:model,input,encoding_format,provider- Katere omejitve veljajo?
POST /v1/embeddings·voyageai/voyage-4-lite:ctx:32000;input.budget.maximum:32000(bajti UTF8);input.min_items:1