VoyageAI by MongoDB: voyage-4-large
A voyage-4-large a Voyage AI szakértői keverékarchitektúrájú szövegbeágyazási modellje általános célú és többnyelvű kereséshez. Vektorai a Voyage 4 modellcsalád közös terét használják, így a Large modellel beágyazott korpusz más családtagok kompatibilis lekérdezési beágyazásaival is kereshető.
A modellről
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A voyage-4-large a Voyage AI zászlóshajó szövegbeágyazási modellje a Voyage 4 modellcsaládban. A forrásszövegeket és lekérdezéseket numerikus vektorokként reprezentálja általános célú és többnyelvű kereséshez. Két megkülönböztető jellemzője a szakértői keverékarchitektúra és a voyage-4-large, voyage-4, voyage-4-lite és voyage-4-nano által használt közös beágyazási tér.
Közös tér: a korpusz és a lekérdezések modellje külön választható
A gyártó aszimmetrikus keresést ír le: a dokumentumok a voyage-4-large modellel ágyazhatók be, míg egy másik Voyage 4 családtag készíti elő a lekérdezési vektorokat. Például a Large által reprezentált korpusz voyage-4 lekérdezésekkel is kereshető. Így a keresés két oldala eltérő modellt választhat, miközben a dokumentált kompatibilis térben marad.
Egy gyakorlati gyűjtemény ezért a Large modellel készítheti elő az állandó dokumentumrészleteket, és ettől függetlenül választhatja ki a lekérdezési oldali modellt. A dokumentumokat a korpusz létrehozásakor vagy frissítésekor ágyazzák be, míg a lekérdezéseket akkor vektorizálják, amikor a felhasználók keresnek. A modellcsalád bejelentése a lekérdezési modell kompatibilis családon belüli cseréjét írja le anélkül, hogy pusztán emiatt újra kellene vektorizálni a dokumentumkorpuszt. Az összehasonlított vektorok dimenziója egyezzen, és olyan reprezentációkat használjanak, amelyeket a keresőrendszer együtt tud értelmezni.
Szakértői keverékarchitektúra a beágyazáshoz
Egy sűrű előrecsatolt réteg minden tokent a teljes paraméterkészletével dolgoz fel. A voyage-4-large esetében ismertetett MoE-megközelítés útválasztót és szakértői előrecsatolt hálózatokat használ, és kiválasztja az egyes tokeneket feldolgozó szakértőket. Ez elkülöníti a modell teljes kapacitását az adott tokenhez aktív paraméterektől. A Voyage a modell MoE-kialakításához 1/10-es aktiválási arányt közöl, top-k útválasztással.
A gyártó műszaki magyarázata két fejlesztési döntést is ismertet. A szakértői kapacitás befolyásolja, hogy a többlettokenek maradékkapcsolaton keresztül megkerülik-e a szakértői réteget; a csapat a legnagyobb megvalósítható kapacitástényezőt választotta a keresési minőség romlásának elkerülésére. A tanítás utolsó szakaszában az útválasztó paramétereit a modellek összevonása előtt rögzítik, hogy a forrásmodellek interpolációja ne változtassa meg a megtanult szakértőválasztási útválasztást. Ezek a modell előkészítésének jellemzői, amelyek különböznek a bemenet előkészítésekor alkalmazott szöveghossz- és csonkolási beállításoktól.
Dimenziók és kimeneti reprezentáció
A hivatalos modelltáblázat 32 000 tokenes kontextusablakot és választható 256, 512, 1024 és 2048 dimenziós beágyazásokat határoz meg, alapértelmezés szerint 1024 dimenzióval. A modellcsalád Matryoshka-tanulást használ az egymásba ágyazott reprezentációméretekhez, és többféle kvantálási lehetőséget támogat: 32 bites lebegőpontos, előjeles vagy előjel nélküli 8 bites egész számú, valamint csomagolt bináris kimenetet.
Bináris kimenetnél a visszaadott bájtlista hossza a kiválasztott dimenzió egynyolcada, mert minden bájt nyolc beágyazási bitet tartalmaz. Az index mellett őrizze meg a dimenzió- és adattípus-választást, és a reprezentációt támogató összehasonlítási módszert használjon. A kisebb vagy tömörített vektor megváltoztatja a kereséshez használt reprezentációt; mielőtt egy gyűjteményhez ezt választja, tényleges kérdéseken értékelje a visszaadott releváns szövegrészleteket.
Készítse elő a dokumentum- és lekérdezési bemeneteket
A Voyage a korpusz szövegrészleteihez a document, a keresőkérdések megfogalmazásához pedig a query szerep használatát javasolja. A szerepbeállítás a beágyazás előtt hozzáadja a megfelelő keresési utasítást. Őrizze meg a szövegrészlet hasznos címsorát, feltételeit és forrásbeli helyét, majd a visszaadott vektort az eredeti szöveggel és egy állandó azonosítóval együtt tárolja.
Műszaki tudásgyűjteménynél egy meghibásodási módra vonatkozó kérdésnek az adott módot és annak releváns feltételeit leíró szövegrészlethez kell vezetnie. Több nyelvet lefedő dokumentumgyűjteménynél őrizze meg a forrásnyelvet, és értékelje azokat a kérdéseket és kifejezéseket, amelyekkel a felhasználók keresni fognak. A kiadás keresési anyagai között műszaki dokumentumok, beszélgetések, hosszú dokumentumok, kód, jogi, pénzügyi és webes szövegek szerepelnek. A beágyazás jelölt anyagokat talál meg; egy későbbi újrarangsoroló vagy válaszadási lépés az eredeti szöveget használja.
A kontextus, a kötegelés és a csonkolás korlátai
A gyártó jelenlegi útmutatója egy voyage-4-large kérésben legfeljebb 1000 karakterláncot és összesen 120 000 bemeneti tokent enged meg. Ez eltér a voyage-4 esetében megadott kötegelt kerettől, miközben mindkét modell szövegenként 32 000 tokenes ablakot használ. Az alapértelmezett csonkolás a túl hosszú bemenetet a kerethez rövidíti; a csonkolás kikapcsolása túl hosszú szövegnél hibát eredményez.
Tudatosan válassza meg a választ hordozó szövegrészletek határait, hogy egy hosszú forrás ne veszítsen el releváns megszorítást a levágott végén. A keresési eredmények visszaadásakor őrizze meg a forráskapcsolatot, és a tényleges jelölt szöveget vizsgálja meg, ahelyett, hogy a vektorok közelségét a tartalom igazolásának tekintené. A közös tér kompatibilitása a dokumentált Voyage 4 szövegmodellcsaládra vonatkozik; a kontextualizált darabfeldolgozás, a kép- és videóbeágyazások, valamint a későbbi modellkiadások saját, modellspecifikus munkafolyamatok maradnak.
Ailoot Ultra · Beágyazások POST /v1/embeddings voyageai/voyage-4-large
voyageai/voyage-4-largeKezdő lépések
A voyage-4-large a Voyage AI szakértői keverékarchitektúrájú szövegbeágyazási modellje általános célú és többnyelvű kereséshez. Vektorai a Voyage 4 modellcsalád közös terét használják, így a Large modellel beágyazott korpusz más családtagok kompatibilis lekérdezési beágyazásaival is kereshető.
- Elfogadott bemenetek
- Szöveg · token_ids
- Eredmények
- embedding
Elérhető az Ailootban · bemenetek és metódusok
Ailoot Ultra · Beágyazások POST /v1/embeddings
- Bemenet
text,token_ids- Kimenet
embedding- Kontextus
- 32 000 tokens
- Kimeneti formátum
- json
| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok voyageai/voyage-4-large | Alapértelmezett— |
Mezőinput | Típusstring|string[]|integer[]|integer[][] | KövetelményKötelező | Értékek és korlátok Minimális elemszám: 1 Feltételek: Nem üres, homogén köteg. A tokenazonosítók nemnegatív egész számok. Bemeneti keret: Maximum: 32 000 · Szövegegység: UTF8-bájtok · Tokenegység: tokentömb elemei | Alapértelmezett— |
Mezőencoding_format | Típusstring | KövetelményOpcionális | Értékek és korlátok float | Alapértelmezettfloat |
Meződimensions | Típusinteger | KövetelményNem támogatott | Értékek és korlátok Minimum: 1 | Alapértelmezett— |
Mezőuser | Típusjson_value | KövetelményOpcionális | Értékek és korlátok Feltételek: A forrás engedélyezi ezt a JSON-metaadatmezőt; a szolgáltatónál érvényes pontos jelentése modellenként eltér. | Alapértelmezett— |
Mezősession_id | Típusjson_value | KövetelményOpcionális | Értékek és korlátok Feltételek: A forrás engedélyezi ezt a JSON-metaadatmezőt; a szolgáltatónál érvényes pontos jelentése modellenként eltér. | Alapértelmezett— |
Mezőtrace | Típusjson_value | KövetelményOpcionális | Értékek és korlátok Feltételek: A forrás engedélyezi ezt a JSON-metaadatmezőt; a szolgáltatónál érvényes pontos jelentése modellenként eltér. | Alapértelmezett— |
Mezőprovider | Típusobject | KövetelményOpcionális | Értékek és korlátok Feltételek: A provider.options elutasítva | Alapértelmezett— |
Bemeneti anyagok kombinációi
text_to_embedding
Metódus paraméterei és életciklusa
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, input |
Paraméterinput_shapes | Szerződésstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Paraméterencoding_format | Szerződésfloat |
Paraméterdimensions_override | Szerződésfalse |
Paramétermax_input_budget_units | Szerződés32000 |
Paramétermultimodal_objects | Szerződésfalse |
Paramétermaterial_types | Szerződéstext, token_ids |
Életciklus: synchronous_json
Őrizze meg minden vektor indexét és dimenzióját.
A multimodális modell neve ezen a pontos útvonalon nem teszi lehetővé képobjektumok használatát.
Díjcsomagok
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
- Gyors mód
- Normál díjszabás Ha a gyors mód van kiválasztva
- Flex mód
- Normál díjszabás Ha a flex mód van kiválasztva
- Maximális gondolkodási ráfordítás
- Normál díjszabás Ha a maximális gondolkodási ráfordításra a default beállításhoz tartozó korrekció vonatkozik
Ailoot-díjak
Árak beállításonként
| Beállítás | Díjtáblázat | Díj |
|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Díj Bemenet · Bemeneti tokenek $0.00024 / 1K token Kimenet · Kimeneti tokenek $0 / 1K token Bemenet · Gyorsítótár olvasása — / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
Példakérések
Ailoot Ultra · Beágyazások
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Eredmények fogadása és mentése
Ailoot Ultra · Beágyazások
json
Őrizzen meg minden elkészült eredményt
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizzen meg minden vektort az indexével együtt. A vektorok számának meg kell egyeznie a bemenetek számával; a dimenzióknak egységesnek kell lenniük.
Ha az eredeti választ ellenőrizni kell
Nem kerül bevezetésre külön beágyazási feladatvégpont.
Válaszmezők
| Mező | Típus |
|---|---|
Mezőobject | Típusstring |
Mezőmodel | Típusstring |
Meződata[].index | Típusinteger |
Meződata[].embedding | Típusfinite float[] |
Mezőusage | Típusobject |
Hibák és következő lépések
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen kötelező mezők, az anyag érvénytelen reprezentációja vagy érvénytelen paraméterérték | Következő lépésJavítsa a jelzett mezőket egy új létrehozási kérés előtt. |
Álnevek
Modell álnevei
Ailoot Ultra voyageai/voyage-4-large
Metódusútvonalak álnevei
Használja a fent látható metódusútvonalakat.
Kapcsolódó modellazonosítók
FAQ · VoyageAI by MongoDB: voyage-4-large
- Milyen bemenetek és eredmények érhetők el?
POST /v1/embeddings·voyageai/voyage-4-large:text,token_ids→embedding- Mely mezőket használja a kérés?
POST /v1/embeddings·voyageai/voyage-4-large:model,input,encoding_format,provider- Milyen korlátok érvényesek?
POST /v1/embeddings·voyageai/voyage-4-large:ctx:32000;input.budget.maximum:32000(UTF8-bájtok);input.min_items:1