Thenlper: GTE-Large
Alibaba DAMO Academy GTE-large premieňa anglický text na 1024-rozmerné vektory na vyhľadávanie, sémantickú podobnosť a preusporiadanie výsledkov pomocou embeddingov. Jeho referenčný postup používa priemerovanie reprezentácií, voliteľnú normalizáciu a maximálnu dĺžku sekvencie 512 tokenov.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
GTE-large je veľká verzia modelu General Text Embeddings trénovaného spoločnosťou Alibaba DAMO Academy. Ide o enkodér anglického textu založený najmä na rámci BERT s 1024-rozmernou hustou reprezentáciou každého vstupu. Výrobca trénuje rodinu GTE na textových pároch vyjadrujúcich relevantnosť naprieč oblasťami a ako nadväzujúce použitia uvádza vyhľadávanie, sémantickú podobnosť textov a preusporiadanie textových výsledkov.
Reprezentujte obsah časti
Pripravte anglickú pasáž, ktorá sa má porovnávať s vyhľadávacím dopytom. Pri kolekcii technických reportov zachovajte predmet krátkej časti, pozorovanie a relevantnú podmienku. Report opisujúci vibrácie iba pri konkrétnom zaťažení má zachovať túto podmienku namiesto ponechania všeobecného tvrdenia o vibráciách.
Identifikátory zdrojov, názvy dokumentov a umiestnenia častí uchovajte s uloženými vektormi. Dopyt môže vyhľadať kandidátske časti, zatiaľ čo pôvodný report zostáva dostupný na overenie zariadenia, podmienky a záveru. Embedding poskytuje číselnú reprezentáciu obsahu pasáže.
Zlučovanie reprezentácií, normalizácia a použitie vektorov
Zverejnený postup priemeruje reprezentácie tokenov s maskou pozornosti a vylučuje výplň z priemeru. Ukazuje tiež voliteľnú normalizáciu L2 nasledovanú porovnaním normalizovaných vektorov skalárnym súčinom. Príklad Sentence Transformers používa kosínusovú podobnosť.
V kolekcii aj na strane dopytov zachovajte rovnakú prípravu, zlučovanie a nastavenia porovnávania. Každá reprezentácia obsahuje 1024 zložiek. Väčší počet zložiek je detailom edície; nepreukazuje, že vektory GTE-large možno miešať so 768-rozmernou reprezentáciou GTE-base alebo s iným 1024-rozmerným enkodérom.
Postup preusporiadania môže porovnať embedding dopytu s už vyhľadaným súborom embeddingov kandidátov a zmeniť poradie týchto záznamov. Zachovajte rozdiel medzi takýmto vektorovým porovnávaním a samostatným modelom, ktorý spoločne vyhodnocuje dvojicu dopyt–pasáž.
Dĺžka vstupu a obmedzenie na angličtinu
Karta výslovne obmedzuje tento konkrétny model na anglický text a dlhé vstupy skracuje na maximum 512 tokenov. Dlhý technický report rozdeľte na ucelené časti a pre každú zachovajte dostatok miestneho kontextu, aby bola zrozumiteľná samostatne. Ak veta závisí od predchádzajúceho spresnenia, ponechajte ho v tej istej indexovanej jednotke, keď sa zmestí.
Tokenová hranica sa líši od viditeľného počtu slov. Overte dĺžku pripravenej časti a uistite sa, že detail potrebný pre zamýšľané vyhľadávanie neleží za časťou zachovanou po skrátení.
Preskúmajte vyhľadané dôkazy
V aplikácii na vyhľadávanie reportov zobrazte kandidátske časti s ich zdrojovými umiestneniami a preskúmajte skutočný obsah. Podobné pozorovania môžu mať odlišné príčiny alebo odporúčania. Vektorové skóre pomáha usporiadať kandidátov pri zvolenom nastavení porovnávania; nepreukazuje použiteľnosť záveru reportu na novú situáciu.
Pri RAG použite vybrané časti ako zdrojový kontext pre fázu písania odpovede a zachovajte ich prepojenia na dokumenty. Tento konkrétny profil GTE-large poskytuje anglické husté embeddingy s 1024 rozmermi a vstupnou hranicou 512 tokenov. Neskoršie viacjazyčné edície GTE a edície s rozšíreným kontextom majú samostatné identity, takže ich jazykové pokrytie či vstupné nastavenia nevyplývajú z názvu rodiny modelov tejto kontrolnej točky.
Ailoot Ultra · Embeddingy POST /v1/embeddings thenlper/gte-large
thenlper/gte-largeÚvod
Alibaba DAMO Academy GTE-large premieňa anglický text na 1024-rozmerné vektory na vyhľadávanie, sémantickú podobnosť a preusporiadanie výsledkov pomocou embeddingov. Jeho referenčný postup používa priemerovanie reprezentácií, voliteľnú normalizáciu a maximálnu dĺžku sekvencie 512 tokenov.
- Povolené vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Embeddingy POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Výstupný formát
- json
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity thenlper/gte-large | Predvolené— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 Podmienky: Neprázdna homogénna dávka. ID tokenov sú nezáporné celé čísla. Vstupný rozpočet: Maximum: 512 · Textová jednotka: bajty UTF8 · Jednotka tokenov: prvky poľa tokenov | Predvolené— |
Poleencoding_format | Typstring | PožiadavkaVoliteľné | Hodnoty a limity float | Predvolenéfloat |
Poledimensions | Typinteger | PožiadavkaNepodporované | Hodnoty a limity Minimum: 1 | Predvolené— |
Poleuser | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Polesession_id | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poletrace | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poleprovider | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: provider.options sa odmieta | Predvolené— |
Kombinácie vstupných podkladov
text_to_embedding
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, input |
Parameterinput_shapes | Špecifikáciastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Špecifikáciafloat |
Parameterdimensions_override | Špecifikáciafalse |
Parametermax_input_budget_units | Špecifikácia512 |
Parametermultimodal_objects | Špecifikáciafalse |
Parametermaterial_types | Špecifikáciatext, token_ids |
Životný cyklus: synchronous_json
Uchovajte každý index a rozmer vektora.
Názov multimodálneho modelu neznamená, že na tejto konkrétnej trase možno použiť objekty obrázkov.
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Neuvedené Keď je zvolený rýchly režim
- Režim Flex
- Neuvedené Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0.00002 / 1K tokenov Výstup · Výstupné tokeny $0 / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Embeddingy
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Prijať a uložiť výsledky
Ailoot Ultra · Embeddingy
json
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Uchovajte každý vektor spolu s jeho indexom. Počet vektorov sa musí rovnať počtu vstupov; rozmery musia byť konzistentné.
Ak treba overiť pôvodnú odpoveď
Nezavádza sa žiadny koncový bod pre úlohy tvorby embeddingov.
Polia odpovede
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Aliasy
Aliasy modelov
Ailoot Ultra thenlper/gte-large
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · Thenlper: GTE-Large
- Aké vstupy a výsledky sú dostupné?
POST /v1/embeddings·thenlper/gte-large:text,token_ids→embedding- Aké polia používa požiadavka?
POST /v1/embeddings·thenlper/gte-large:model,input,encoding_format,provider- Aké limity platia?
POST /v1/embeddings·thenlper/gte-large:input.budget.maximum:512(bajty UTF8);input.min_items:1