VoyageAI by MongoDB: voyage-4-lite
Voyage AI voyage-4-lite yra Voyage 4 šeimos teksto įterpinių versija, orientuota į mažą delsą. Ji palaiko 32 000 žetonų įvestis, keturis vektoriaus matmenų skaičiaus pasirinkimus ir kvantuotas reprezentacijas bendroje įterpinių erdvėje, suderinamoje su kitais Voyage 4 teksto modeliais.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
voyage-4-lite yra Voyage AI Voyage 4 šeimos teksto įterpinių modelis, orientuotas į mažą delsą. Užklausas ir dokumentus jis atvaizduoja skaitiniais vektoriais bendrosios paskirties paieškai. Išskirtinė jo šeimos savybė yra bendra įterpinių erdvė su voyage-4, voyage-4-large ir voyage-4-nano, leidžianti užklausų ir dokumentų modelius pasirinkti atskirai.
Pradėkite nuo paieškos vaidmenų
Naudotojo informacijos poreikį paruoškite kaip užklausą, o ieškomą medžiagą – kaip dokumentus. Voyage paieškai rekomenduoja query/document įvesties tipus; jos paskelbta procedūra vektorizuojant tekstą prideda atitinkamą paieškos instrukciją.
Darbuotojų vadovų kolekcijoje užklausą apie nepanaudotų atostogų perkėlimą į kitą laikotarpį reikėtų palyginti su konkrečiais taisyklių skyriais. Indeksuojamoje ištraukoje išsaugokite taisyklę, jos sąlygas ir visas aktualias išimtis. Originalų dokumentą ir skyriaus identifikatorių saugokite šalia vektoriaus, kad programa galėtų grąžinti tikrąjį taisyklių tekstą.
Nenurodytas įvesties tipas tekstą atvaizduoja tiesiogiai, o query/document vaidmenys jį pritaiko paieškai. Gamintojas nurodo, kad įterpiniai, sukurti su šiais vaidmenų nustatymais ir be jų, yra suderinami, tačiau nuosekli paruošimo politika palengvina kolekcijos vertinimą.
Bendra Voyage 4 teksto šeimos erdvė
Voyage aiškiai dokumentuoja asimetrinės paieškos procesą: dokumentus galima koduoti su voyage-4-large ir ieškoti juose naudojant voyage-4-lite užklausų vektorius. Tai šeimos lygmens suderinamumo teiginys, o ne išvada, padaryta vien todėl, kad du modeliai grąžina tokio paties ilgio vektorius.
Pasirinktą vektoriaus matmenų skaičių ir reprezentaciją išlaikykite suderintus kolekcijos ir užklausos pusėse. Bendra erdvė taip pat leidžia keisti užklausų modelį šioje įvardytoje Voyage 4 teksto šeimoje, iš naujo nevektorizuojant esamų dokumentų. Rinkdamiesi užklausų versiją, gautą rikiavimą įvertinkite reprezentatyviais klausimais.
Lite versijos vaidmuo yra mažesnė, į delsą orientuota užklausų ir teksto įterpinių parinktis. Gamintojas ekspertų mišinio architektūrą konkrečiai priskiria voyage-4-large; šeimos pavadinimas neįrodo tokios Lite architektūros.
Kontekstas, matmenys ir rezultato formatas
Paskelbtas konteksto ilgis yra 32 000 žetonų vienam tekstui. Numatytasis vektorius turi 1024 matmenis, o Matryoshka mokymasis taip pat suteikia 256, 512 ir 2048 matmenis. Gamintojo teksto įterpinių procesas voyage-4-lite dokumentuoja slankiojo kablelio, 8 bitų sveikųjų skaičių su ženklu ir be ženklo bei bitiniu būdu supakuotas dvejetaines reprezentacijas.
Standartiniams slankiojo kablelio vektoriams Voyage panašumo gairės aprašo vienetinės normos įterpinius, todėl kosinuso panašumas ir skaliarine sandauga apskaičiuotas panašumas yra lygiaverčiai. Kvantuotoms formoms reikia jų reprezentaciją atitinkančio apdorojimo. Pavyzdžiui, bitiniu būdu supakuotas dvejetainis sąrašas kiekviename baite saugo aštuonis įterpinio bitus; jo sąrašo ilgis skiriasi nuo semantinio vektoriaus matmenų skaičiaus.
Voyage dokumentuotoje paketinėje procedūroje sąraše gali būti daugiausia 1000 tekstų ir iš viso milijonas žetonų šiai konkrečiai Lite versijai. Numatytasis elgesys viršijus ilgį nukerpa atskirą tekstą ties konteksto riba; alternatyvus nustatymas per ilgas įvestis atmeta. Šios paketo ir vieno teksto ribos yra atskiros.
Paruoškite ir patikrinkite paieškos rezultatus
Ilgą šaltinio medžiagą skaidykite į rišlius skyrius, kuriuos galima grąžinti kaip pagrindimą. 32 000 žetonų kontekstas leidžia ilgą įvestį, tačiau naudingas paieškos vienetas vis tiek turėtų nuvesti į aktualų šaltinio skyrių. Įtraukite antraštę arba identifikuojančią detalę, reikalingą taisyklei interpretuoti.
RAG atveju raskite kandidatinius skyrius ir perduokite jų originalų tekstą atsakymo rašymo etapui kartu su ryšiais su šaltiniais. Įterpinių modelis sukuria vektorius ir negeneruoja atsakymo apie taisykles. Panašumas rikiuoja kandidatus pagal pasirinktą modelį ir palyginimo nustatymus; tikrąją ištrauką peržiūrėkite pagal konkrečią klausime nurodytą sąlygą.
Naudingas būtent voyage-4-lite versijos savybių derinys yra į mažą delsą orientuotas teksto modelis, lanksčios reprezentacijos, 32 000 žetonų kontekstas ir dokumentuotas suderinamumas Voyage 4 teksto šeimoje. Saugokite šias savybes kartu su indeksuota kolekcija ir naudokite šaltiniais pagrįstus paieškos rezultatus juos naudojančiai programai palaikyti.
Ailoot Ultra · Įterpiniai POST /v1/embeddings voyageai/voyage-4-lite
voyageai/voyage-4-litePradžia
Voyage AI voyage-4-lite yra Voyage 4 šeimos teksto įterpinių versija, orientuota į mažą delsą. Ji palaiko 32 000 žetonų įvestis, keturis vektoriaus matmenų skaičiaus pasirinkimus ir kvantuotas reprezentacijas bendroje įterpinių erdvėje, suderinamoje su kitais Voyage 4 teksto modeliais.
- Leidžiamos įvestys
- Tekstas · token_ids
- Rezultatai
- embedding
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Įterpiniai POST /v1/embeddings
- Įvestis
text,token_ids- Išvestis
embedding- Kontekstas
- 32 000 tokens
- Išvesties formatas
- json
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos voyageai/voyage-4-lite | Numatyta— |
Laukasinput | Tipasstring|string[]|integer[]|integer[][] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 Sąlygos: Netuščias vienalyčių įvesčių paketas. Žetonų ID yra neneigiami sveikieji skaičiai. Įvesties biudžetas: Didžiausia reikšmė: 32 000 · Teksto vienetas: UTF8 baitai · Tokenų vienetas: žetonų masyvo elementai | Numatyta— |
Laukasencoding_format | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos float | Numatytafloat |
Laukasdimensions | Tipasinteger | ReikalavimasNepalaikoma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Laukasuser | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukassession_id | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukastrace | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options atmetamas | Numatyta— |
Įvesties medžiagos deriniai
text_to_embedding
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, input |
Parametrasinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrasencoding_format | Specifikacijafloat |
Parametrasdimensions_override | Specifikacijafalse |
Parametrasmax_input_budget_units | Specifikacija32000 |
Parametrasmultimodal_objects | Specifikacijafalse |
Parametrasmaterial_types | Specifikacijatext, token_ids |
Gyvavimo ciklas: synchronous_json
Išsaugokite kiekvieną vektoriaus indeksą ir matmenį.
Tai, kad modelio pavadinimas nurodo multimodalumą, nereiškia, jog šiuo konkrečiu keliu priimami vaizdų objektai.
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Standartinis įkainis Pasirinkus spartųjį režimą
- Flex režimas
- Standartinis įkainis Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Standartinis įkainis Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00004 / 1K tokenų Išvestis · Išvesties tokenai $0 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Įterpiniai
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-lite", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-lite',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Įterpiniai
json
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną vektorių su jo indeksu. Vektorių skaičius turi sutapti su įvesčių skaičiumi; jų matmenų skaičius turi būti vienodas.
Jei reikia patikrinti pradinį atsakymą
Vektorių generavimo užduotims atskiras API galinis taškas neįvedamas.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasobject | Tipasstring |
Laukasmodel | Tipasstring |
Laukasdata[].index | Tipasinteger |
Laukasdata[].embedding | Tipasfinite float[] |
Laukasusage | Tipasobject |
Klaidos ir tolesni veiksmai
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra voyageai/voyage-4-lite
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · VoyageAI by MongoDB: voyage-4-lite
- Kokios įvestys ir rezultatai prieinami?
POST /v1/embeddings·voyageai/voyage-4-lite:text,token_ids→embedding- Kokius laukus naudoja užklausa?
POST /v1/embeddings·voyageai/voyage-4-lite:model,input,encoding_format,provider- Kokie apribojimai taikomi?
POST /v1/embeddings·voyageai/voyage-4-lite:ctx:32000;input.budget.maximum:32000(UTF8 baitai);input.min_items:1