Intfloat: E5-Large-v2
intfloat E5-Large-v2 kóduje anglické dotazy a pasáže do vektorů s 1024 rozměry. Jeho model s 24 vrstvami používá role query/passage, průměrování reprezentací a limit vstupu 512 tokenů pro vyhledávání, sémantickou podobnost a číselné příznaky textu.
O modelu
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
E5-Large-v2 je model intfloat pro vektorové reprezentace anglického textu s dvaceti čtyřmi vrstvami a výstupem o 1024 rozměrech. Je navržen k číselné reprezentaci dotazů a pasáží pro vyhledávání a další úlohy textových vektorů. Konvence přípravy E5 je součástí jeho trénování: vstupní text nese prefix role a zakódované reprezentace tokenů se agregují do jediného vektoru daného textu.
Udržujte role dotazu a pasáže výslovné
Pro asymetrické vyhledávání začněte otázku řetězcem „query:“ a text korpusu řetězcem „passage:“. Tyto role odlišují, co uživatel hledá, od materiálu, který může odpovědět. Pro symetrické porovnávání, hledání parafrází nebo příznaky pro shlukování či klasifikaci výrobce doporučuje „query:“ pro převáděné texty.
Praktická kolekce může indexovat anglická vysvětlení podpory. Připravte otázku jako „query: What should I check before replacing the connector?“ a spojte ji se zdrojovými pasážemi popisujícími kontroly a výjimky. Text pasáže si ponechává odpovídající prefix. Ukládejte identifikátor zdroje a původní formulaci vedle každého vektoru, aby výsledek mohl vracet materiál, který uživatel potřebuje číst.
Prefixy nejsou dekorativní štítky k odstranění z jedné strany úlohy. Výrobce uvádí, že jejich vynechání zhoršuje výkon vyhledávání, protože model byl trénován s touto přípravou. Zvolenou roli uplatňujte konzistentně při budování korpusu a pozdějším kódování dotazu.
Průměrování a normalizované vektory
Oficiální příklad kódování průměruje reprezentace tokenů a maskou pozornosti vylučuje výplňové pozice. Poté výsledný vektor normalizuje. Skalární součin normalizovaných vektorů dotazu a pasáže poskytuje kosinovou podobnost pro řazení kandidátů. Tento postup průměrování patří E5-Large-v2; agregace podle prvního tokenu z jiné rodiny představuje samostatnou volbu přípravy.
1024 výstupních hodnot tvoří vektorovou reprezentaci, nikoli písemnou odpověď nebo přímý štítek kategorie. Vyhledávací fáze porovnává hodnoty s kompatibilními reprezentacemi korpusu a pozdější fáze používá text vybrané pasáže. Pokud vektory slouží jako příznaky pro shlukování nebo klasifikátor, zachovejte spojení každého vektoru se vstupním záznamem, jehož příznaky představuje.
Anglický text v rámci okna
Karta modelu specifikuje pouze anglický text a zkracování dlouhých vstupů nejvýše na 512 tokenů. Udržujte každou pasáž dokumentu v tomto okně ucelenou, včetně prefixu role a užitečného zdrojového kontextu. Dlouhá příručka má být připravena jako sekce, jejichž názvy, podmínky a pokyny lze pochopit při samostatném vyhledání.
Například ustanovení popisující nastavení může potřebovat definici daného nastavení a výjimku v následující větě. Zachovejte tuto malou jednotku pohromadě, místo dělení čistě podle počtu znaků. Uchovejte nadřazený dokument a verzi zdroje s pasáží, aby aktualizace nahradila správný materiál.
Čtěte pořadí jako vyhledávací podklad
Výrobce vysvětluje, že pořadí kosinových skóre je důležitější než jejich absolutní hodnoty. Skóre se nemá interpretovat jako kalibrovaná pravděpodobnost, že pasáž odpovídá na otázku. Při volbě počtu uchovávaných výsledků nebo místa filtrování kandidátní sady kontrolujte známé pasáže obsahující odpověď i blízký nerelevantní materiál.
Užitečným výstupem je reprezentace korpusu nebo dotazu, signál sémantického porovnání nebo číselné příznaky pro jinou úlohu. Tento přesný anglický checkpoint Large v2 zůstává oddělený od E5-Base-v2 a Multilingual-E5-Large. Samotná shoda rozměrů nedělá z jejich vektorů zdokumentovaný společný prostor reprezentací.
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings intfloat/e5-large-v2
intfloat/e5-large-v2Úvod
intfloat E5-Large-v2 kóduje anglické dotazy a pasáže do vektorů s 1024 rozměry. Jeho model s 24 vrstvami používá role query/passage, průměrování reprezentací a limit vstupu 512 tokenů pro vyhledávání, sémantickou podobnost a číselné příznaky textu.
- Přijímané vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metody
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Výstupní formát
- json
| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity intfloat/e5-large-v2 | Výchozí— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 Podmínky: Neprázdná homogenní dávka. ID tokenů jsou nezáporná celá čísla. Rozpočet vstupu: Maximum: 512 · Jednotka textu: bajty UTF8 · Jednotka tokenů: prvky pole tokenů | Výchozí— |
Poleencoding_format | Typstring | PožadavekVolitelné | Hodnoty a limity float | Výchozífloat |
Poledimensions | Typinteger | PožadavekNepodporováno | Hodnoty a limity Minimum: 1 | Výchozí— |
Poleuser | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Polesession_id | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poletrace | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: Parametr provider.options byl odmítnut | Výchozí— |
Kombinace vstupních materiálů
text_to_embedding
Parametry a životní cyklus metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, input |
Parametrinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Kontraktfloat |
Parametrdimensions_override | Kontraktfalse |
Parametrmax_input_budget_units | Kontrakt512 |
Parametrmultimodal_objects | Kontraktfalse |
Parametrmaterial_types | Kontrakttext, token_ids |
Životní cyklus: synchronous_json
Uchovejte index i rozměr každého vektoru.
Multimodální název modelu neznamená, že tato konkrétní cesta přijímá obrazové objekty.
Tarify
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
- Rychlý režim
- Neuvedeno Při výběru rychlého režimu
- Režim flex
- Neuvedeno Při výběru režimu flex
- Maximální intenzita uvažování
- Neuvedeno Když se při maximální intenzitě uvažování použije výchozí úprava (default)
Sazby Ailoot
Ceny podle konfigurace
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.00002 / 1K tokenů Výstup · Výstupní tokeny $0 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
Příklady požadavků
Ailoot Ultra · Vektorové reprezentace
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "intfloat/e5-large-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='intfloat/e5-large-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Přijímání a ukládání výsledků
Ailoot Ultra · Vektorové reprezentace
json
Uchovejte všechny dokončené výsledky
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Uchovejte každý vektor spolu s jeho indexem. Počet vektorů musí odpovídat počtu vstupů; jejich rozměr musí být jednotný.
Pokud je nutné ověřit původní odpověď
Samostatný endpoint úloh pro embeddingy se nezavádí.
Pole odpovědi
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a další kroky
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Aliasy
Aliasy modelu
Ailoot Ultra intfloat/e5-large-v2
Aliasy cest metod
Použijte cesty metod uvedené výše.
Související ID modelů
FAQ · Intfloat: E5-Large-v2
- Jaké vstupy a výsledky jsou dostupné?
POST /v1/embeddings·intfloat/e5-large-v2:text,token_ids→embedding- Jaká pole požadavek používá?
POST /v1/embeddings·intfloat/e5-large-v2:model,input,encoding_format,provider- Jaké limity platí?
POST /v1/embeddings·intfloat/e5-large-v2:input.budget.maximum:512(bajty UTF8);input.min_items:1