Thenlper: GTE-Large
Az Alibaba DAMO Academy GTE-large modellje angol szöveget alakít 1024 dimenziós vektorokká kereséshez, szemantikai hasonlósághoz és beágyazásalapú újrarangsoroláshoz. Referenciaeljárása átlagoló összevonást, opcionális normalizálást és legfeljebb 512 tokenes szekvenciahosszt használ.
A modellről
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A GTE-large az Alibaba DAMO Academy által tanított General Text Embeddings sorozat nagy méretű modellje. Ez a főként a BERT keretrendszerre épülő angol szövegkódoló minden bemenethez 1024 dimenziós sűrű reprezentációt ad. A gyártó a GTE modellcsaládot különböző területekről származó relevanciakapcsolatú szövegpárokon tanítja, és a keresést, a szemantikai szöveghasonlóságot és a szövegek újrarangsorolását nevezi meg további alkalmazásként.
Reprezentálja egy szakasz tartalmát
Készítse elő a keresőkérdéssel összehasonlítandó angol szövegrészletet. Műszaki jelentések gyűjteményénél őrizze meg a rövid szakasz tárgyát, megfigyelését és releváns feltételét. Egy csak bizonyos terhelés mellett fellépő rezgést leíró jelentésben meg kell tartani ezt a feltételt, ahelyett, hogy csupán egy általános rezgésre vonatkozó állítás maradna.
A tárolt vektorok mellett őrizze meg a forrásazonosítókat, a dokumentumcímeket és a szakaszok helyét. Egy lekérdezés jelölt szakaszokat kereshet meg, miközben az eredeti jelentés továbbra is elérhető marad a berendezés, a feltétel és a következtetés ellenőrzéséhez. A beágyazás a szövegrészlet tartalmának numerikus reprezentációját biztosítja.
Összevonás, normalizálás és vektorhasználat
A közzétett eljárás a tokenreprezentációk átlagoló összevonását használja a figyelmi maszkkal, kizárva a kitöltést az átlagból. Opcionális L2-normalizálást is bemutat, amelyet a normalizált vektorok skalárszorzatával végzett összehasonlítás követ. A Sentence Transformers példája koszinuszhasonlóságot használ.
A gyűjteményben és a lekérdezési oldalon ugyanazokat az előkészítési, összevonási és összehasonlítási beállításokat tartsa meg. Minden reprezentáció 1024 komponenst tartalmaz. A nagyobb komponensszám ennek a kiadásnak a sajátossága; nem igazolja, hogy a GTE-large vektorai keverhetők a GTE-base 768 dimenziós reprezentációjával vagy egy másik, 1024 dimenziós kódolóéval.
Egy újrarangsorolási munkafolyamat összehasonlíthatja a lekérdezési beágyazást egy már lekért jelöltbeágyazás-készlettel, és átrendezheti ezeket a rekordokat. Őrizze meg a különbséget e vektor-összehasonlítás és egy külön modell között, amely egy lekérdezés–szövegrészlet párt együtt értékel.
Bemeneti hossz és az angol nyelvre való korlátozás
A modellkártya ezt a konkrét modellt kifejezetten angol szövegre korlátozza, és a hosszú bemeneteket legfeljebb 512 tokenre csonkolja. A hosszú műszaki jelentést ossza összefüggő szakaszokra, és tartson meg elegendő helyi kontextust ahhoz, hogy minden szakasz önmagában is értelmezhető legyen. Ha egy mondat egy korábbi megszorítástól függ, azt ugyanabban az indexelt egységben őrizze meg, ha belefér.
A tokenhatár eltér a látható szavak számától. Ellenőrizze az előkészített szakasz hosszát, és biztosítsa, hogy a tervezett kereséshez szükséges részlet ne a csonkolás után megmaradó részen kívül helyezkedjen el.
Vizsgálja meg a megtalált bizonyítékokat
Jelentéskereső alkalmazásban a jelölt szakaszokat a forrásbeli helyükkel együtt jelenítse meg, és vizsgálja meg a tényleges tartalmukat. Hasonló megfigyeléseknek eltérő okai vagy ajánlásai lehetnek. A vektorpontszám a választott összehasonlítási beállítás szerint segít sorba rendezni a jelölteket; nem igazolja, hogy egy jelentés következtetése új helyzetre is érvényes.
RAG esetén a kiválasztott szakaszokat használja forráskontextusként a válaszírási lépésben, és őrizze meg a dokumentumkapcsolataikat. Ez a konkrét GTE-large profil 1024 dimenziós sűrű beágyazásokat ad angol szöveghez, 512 tokenes bemeneti határral. A későbbi többnyelvű és kiterjesztett kontextusú GTE-kiadások külön identitással rendelkeznek, ezért nyelvi lefedettségük vagy bemeneti beállításaik nem következnek ennek a modellváltozatnak a családnevéből.
Ailoot Ultra · Beágyazások POST /v1/embeddings thenlper/gte-large
thenlper/gte-largeKezdő lépések
Az Alibaba DAMO Academy GTE-large modellje angol szöveget alakít 1024 dimenziós vektorokká kereséshez, szemantikai hasonlósághoz és beágyazásalapú újrarangsoroláshoz. Referenciaeljárása átlagoló összevonást, opcionális normalizálást és legfeljebb 512 tokenes szekvenciahosszt használ.
- Elfogadott bemenetek
- Szöveg · token_ids
- Eredmények
- embedding
Elérhető az Ailootban · bemenetek és metódusok
Ailoot Ultra · Beágyazások POST /v1/embeddings
- Bemenet
text,token_ids- Kimenet
embedding- Kimeneti formátum
- json
| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok thenlper/gte-large | Alapértelmezett— |
Mezőinput | Típusstring|string[]|integer[]|integer[][] | KövetelményKötelező | Értékek és korlátok Minimális elemszám: 1 Feltételek: Nem üres, homogén köteg. A tokenazonosítók nemnegatív egész számok. Bemeneti keret: Maximum: 512 · Szövegegység: UTF8-bájtok · Tokenegység: tokentömb elemei | Alapértelmezett— |
Mezőencoding_format | Típusstring | KövetelményOpcionális | Értékek és korlátok float | Alapértelmezettfloat |
Meződimensions | Típusinteger | KövetelményNem támogatott | Értékek és korlátok Minimum: 1 | Alapértelmezett— |
Mezőuser | Típusjson_value | KövetelményOpcionális | Értékek és korlátok Feltételek: A forrás engedélyezi ezt a JSON-metaadatmezőt; a szolgáltatónál érvényes pontos jelentése modellenként eltér. | Alapértelmezett— |
Mezősession_id | Típusjson_value | KövetelményOpcionális | Értékek és korlátok Feltételek: A forrás engedélyezi ezt a JSON-metaadatmezőt; a szolgáltatónál érvényes pontos jelentése modellenként eltér. | Alapértelmezett— |
Mezőtrace | Típusjson_value | KövetelményOpcionális | Értékek és korlátok Feltételek: A forrás engedélyezi ezt a JSON-metaadatmezőt; a szolgáltatónál érvényes pontos jelentése modellenként eltér. | Alapértelmezett— |
Mezőprovider | Típusobject | KövetelményOpcionális | Értékek és korlátok Feltételek: A provider.options elutasítva | Alapértelmezett— |
Bemeneti anyagok kombinációi
text_to_embedding
Metódus paraméterei és életciklusa
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, input |
Paraméterinput_shapes | Szerződésstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Paraméterencoding_format | Szerződésfloat |
Paraméterdimensions_override | Szerződésfalse |
Paramétermax_input_budget_units | Szerződés512 |
Paramétermultimodal_objects | Szerződésfalse |
Paramétermaterial_types | Szerződéstext, token_ids |
Életciklus: synchronous_json
Őrizze meg minden vektor indexét és dimenzióját.
A multimodális modell neve ezen a pontos útvonalon nem teszi lehetővé képobjektumok használatát.
Díjcsomagok
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
- Gyors mód
- Nincs megadva Ha a gyors mód van kiválasztva
- Flex mód
- Nincs megadva Ha a flex mód van kiválasztva
- Maximális gondolkodási ráfordítás
- Nincs megadva Ha a maximális gondolkodási ráfordításra a default beállításhoz tartozó korrekció vonatkozik
Ailoot-díjak
Árak beállításonként
| Beállítás | Díjtáblázat | Díj |
|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Díj Bemenet · Bemeneti tokenek $0.00002 / 1K token Kimenet · Kimeneti tokenek $0 / 1K token Bemenet · Gyorsítótár olvasása — / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
Példakérések
Ailoot Ultra · Beágyazások
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Eredmények fogadása és mentése
Ailoot Ultra · Beágyazások
json
Őrizzen meg minden elkészült eredményt
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizzen meg minden vektort az indexével együtt. A vektorok számának meg kell egyeznie a bemenetek számával; a dimenzióknak egységesnek kell lenniük.
Ha az eredeti választ ellenőrizni kell
Nem kerül bevezetésre külön beágyazási feladatvégpont.
Válaszmezők
| Mező | Típus |
|---|---|
Mezőobject | Típusstring |
Mezőmodel | Típusstring |
Meződata[].index | Típusinteger |
Meződata[].embedding | Típusfinite float[] |
Mezőusage | Típusobject |
Hibák és következő lépések
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen kötelező mezők, az anyag érvénytelen reprezentációja vagy érvénytelen paraméterérték | Következő lépésJavítsa a jelzett mezőket egy új létrehozási kérés előtt. |
Álnevek
Modell álnevei
Ailoot Ultra thenlper/gte-large
Metódusútvonalak álnevei
Használja a fent látható metódusútvonalakat.
Kapcsolódó modellazonosítók
FAQ · Thenlper: GTE-Large
- Milyen bemenetek és eredmények érhetők el?
POST /v1/embeddings·thenlper/gte-large:text,token_ids→embedding- Mely mezőket használja a kérés?
POST /v1/embeddings·thenlper/gte-large:model,input,encoding_format,provider- Milyen korlátok érvényesek?
POST /v1/embeddings·thenlper/gte-large:input.budget.maximum:512(UTF8-bájtok);input.min_items:1