Thenlper: GTE-Large
Alibaba DAMO Academy GTE-large převádí anglický text na 1024rozměrné vektory pro vyhledávání, posuzování sémantické podobnosti a přeřazování založené na embeddingu. Jeho referenční postup používá průměrové sdružování, volitelnou normalizaci a maximální délku sekvence 512 tokenů.
O modelu
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
GTE-large je velká varianta modelu General Text Embeddings vytrénovaná společností Alibaba DAMO Academy. Jde o enkodér anglického textu založený převážně na architektuře BERT s 1024rozměrnou hustou reprezentací pro každý vstup. Výrobce trénuje rodinu GTE na dvojicích souvisejících textů z různých oborů a mezi navazujícími aplikacemi uvádí vyhledávání, posuzování sémantické podobnosti textů a přeřazování textů.
Reprezentace obsahu oddílu
Připravte anglickou pasáž, která se má porovnávat s vyhledávacím dotazem. U kolekce technických zpráv zachovejte téma krátkého oddílu, pozorování a relevantní podmínku. Zpráva popisující vibrace pouze při určitém zatížení by měla tuto podmínku zachovat, místo aby zůstalo obecné tvrzení o vibracích.
S uloženými vektory uchovávejte identifikátory zdrojů, názvy dokumentů a umístění oddílů. Dotaz může vyhledat kandidátní oddíly, zatímco původní zpráva zůstává dostupná k ověření zařízení, podmínky a závěru. Embedding poskytuje číselnou reprezentaci obsahu pasáže.
Sdružování, normalizace a použití vektorů
Publikovaný postup používá průměrové sdružování reprezentací tokenů s maskou pozornosti, přičemž do průměru nezahrnuje výplňové tokeny. Ukazuje také volitelnou normalizaci L2 následovanou porovnáním normalizovaných vektorů pomocí skalárního součinu. Příklad Sentence Transformers používá kosinovou podobnost.
V kolekci a na straně dotazu zachovávejte stejná nastavení přípravy, sdružování a porovnávání. Každá reprezentace obsahuje 1024 složek. Vyšší počet složek je vlastností edice; nedokládá, že vektory GTE-large lze míchat se 768rozměrnou reprezentací GTE-base nebo jiným 1024rozměrným enkodérem.
Postup přeřazování může porovnat embedding dotazu s již vyhledanou sadou embeddingů kandidátů a změnit pořadí těchto záznamů. Zachovejte rozdíl mezi tímto vektorovým porovnáním a samostatným modelem, který společně hodnotí pár dotazu a pasáže.
Délka vstupu a omezení na angličtinu
Karta výslovně omezuje tento konkrétní model na anglický text a ořezává dlouhé vstupy na maximálně 512 tokenů. Dlouhou technickou zprávu rozdělte na souvislé oddíly a zachovejte dostatek místního kontextu, aby každý oddíl dával smysl sám o sobě. Pokud věta závisí na předcházejícím upřesnění, zachovejte je ve stejné indexované jednotce, pokud se vejde.
Tokenová hranice se liší od viditelného počtu slov. Ověřte délku připraveného oddílu a zajistěte, aby detail potřebný pro zamýšlené vyhledávání neležel za částí zachovanou po oříznutí.
Kontrola nalezených důkazních podkladů
V aplikaci pro vyhledávání zpráv předkládejte kandidátní oddíly s jejich umístěním ve zdrojích a prohlédněte skutečný obsah. Podobná pozorování mohou mít jiné příčiny nebo doporučení. Vektorové skóre pomáhá uspořádat kandidáty podle zvoleného nastavení porovnání; nedokládá, že závěr zprávy platí v nové situaci.
Pro RAG použijte vybrané oddíly jako zdrojový kontext fáze psaní odpovědi a zachovejte jejich vazby na dokumenty. Tento konkrétní profil GTE-large poskytuje husté anglické embeddingy s 1024 rozměry a vstupní hranicí 512 tokenů. Pozdější vícejazyčné edice GTE a edice s rozšířeným kontextem mají samostatné identity, takže jejich jazykové pokrytí nebo vstupní nastavení nevyplývají z názvu rodiny této verze modelu.
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings thenlper/gte-large
thenlper/gte-largeÚvod
Alibaba DAMO Academy GTE-large převádí anglický text na 1024rozměrné vektory pro vyhledávání, posuzování sémantické podobnosti a přeřazování založené na embeddingu. Jeho referenční postup používá průměrové sdružování, volitelnou normalizaci a maximální délku sekvence 512 tokenů.
- Přijímané vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metody
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Výstupní formát
- json
| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity thenlper/gte-large | Výchozí— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 Podmínky: Neprázdná homogenní dávka. ID tokenů jsou nezáporná celá čísla. Rozpočet vstupu: Maximum: 512 · Jednotka textu: bajty UTF8 · Jednotka tokenů: prvky pole tokenů | Výchozí— |
Poleencoding_format | Typstring | PožadavekVolitelné | Hodnoty a limity float | Výchozífloat |
Poledimensions | Typinteger | PožadavekNepodporováno | Hodnoty a limity Minimum: 1 | Výchozí— |
Poleuser | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Polesession_id | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poletrace | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: Parametr provider.options byl odmítnut | Výchozí— |
Kombinace vstupních materiálů
text_to_embedding
Parametry a životní cyklus metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, input |
Parametrinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Kontraktfloat |
Parametrdimensions_override | Kontraktfalse |
Parametrmax_input_budget_units | Kontrakt512 |
Parametrmultimodal_objects | Kontraktfalse |
Parametrmaterial_types | Kontrakttext, token_ids |
Životní cyklus: synchronous_json
Uchovejte index i rozměr každého vektoru.
Multimodální název modelu neznamená, že tato konkrétní cesta přijímá obrazové objekty.
Tarify
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
- Rychlý režim
- Neuvedeno Při výběru rychlého režimu
- Režim flex
- Neuvedeno Při výběru režimu flex
- Maximální intenzita uvažování
- Neuvedeno Když se při maximální intenzitě uvažování použije výchozí úprava (default)
Sazby Ailoot
Ceny podle konfigurace
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.00002 / 1K tokenů Výstup · Výstupní tokeny $0 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
Příklady požadavků
Ailoot Ultra · Vektorové reprezentace
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Přijímání a ukládání výsledků
Ailoot Ultra · Vektorové reprezentace
json
Uchovejte všechny dokončené výsledky
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Uchovejte každý vektor spolu s jeho indexem. Počet vektorů musí odpovídat počtu vstupů; jejich rozměr musí být jednotný.
Pokud je nutné ověřit původní odpověď
Samostatný endpoint úloh pro embeddingy se nezavádí.
Pole odpovědi
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a další kroky
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Aliasy
Aliasy modelu
Ailoot Ultra thenlper/gte-large
Aliasy cest metod
Použijte cesty metod uvedené výše.
Související ID modelů
FAQ · Thenlper: GTE-Large
- Jaké vstupy a výsledky jsou dostupné?
POST /v1/embeddings·thenlper/gte-large:text,token_ids→embedding- Jaká pole požadavek používá?
POST /v1/embeddings·thenlper/gte-large:model,input,encoding_format,provider- Jaké limity platí?
POST /v1/embeddings·thenlper/gte-large:input.budget.maximum:512(bajty UTF8);input.min_items:1