Intfloat: E5-Base-v2
intfloat E5-Base-v2 převádí anglický text na 768rozměrné embeddingy pomocí 12vrstvého enkodéru. Prefixy pro dotaz a pasáž spolu s oknem 512 tokenů určují přípravu pro vyhledávání, porovnávání parafrází, shlukování a textové příznaky.
O modelu
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
E5-Base-v2 je anglický model intfloat pro vektorové reprezentace textu s dvanácti vrstvami a reprezentací o 768 rozměrech. Převádí připravený text do jediného číselného vektoru pro vyhledávání, sémantické porovnávání nebo použití jako příznaky v jiné úloze. Checkpoint Base v2 se liší od vydání Large v2 s dvaceti čtyřmi vrstvami a 1024 rozměry i od samostatně trénovaných vícejazyčných modelů E5.
Používejte prefixy rolí z trénování
E5 očekává roli na začátku vstupu. Při vyhledávání pasáží začíná otázka řetězcem „query:“ a její možný zdroj obsahující odpověď řetězcem „passage:“. Výrobce doporučuje „query:“ na obou stranách pro symetrické úlohy, jako je sémantická podobnost a vyhledávání parafrází. Tento prefix doporučuje také tehdy, když budou vektory příznaky pro shlukování nebo klasifikaci.
Například kolekce zpětné vazby může obsahovat několik různě formulovaných žádostí o stejné zlepšení. Zakódujte tyto záznamy pomocí doporučené symetrické přípravy a poté porovnávejte nebo shlukujte výsledné vektory. U každé reprezentace zachovejte původní formulaci a identifikátor záznamu, aby bylo možné shluk zkoumat jako skutečné zprávy zákazníků namísto nevysvětlené skupiny čísel.
Pro vyhledávací kolekci připravte otázky a zdrojové pasáže v jejich odpovídajících rolích. Užitečný dotaz je „query: Which setting changes the notification frequency?“ Pasáž korpusu zachovává vysvětlení a příslušné podmínky. Prefix je součástí přípravy modelu při trénování; výrobce upozorňuje, že jeho vynechání snižuje výkon.
Agregujte a porovnávejte reprezentaci
Oficiální příklad počítá průměr reprezentací tokenů s ohledem na masku pozornosti a vyloučením výplně, poté výsledný vektor normalizuje. Skalární součin normalizovaných reprezentací poskytuje kosinovou podobnost. 768 výstupních hodnot popisuje jeden text; nejde o odpověď, štítek třídy ani párové skóre přerankovacího modelu.
Při shlukování vytváří jiná fáze skupiny z těchto vektorů. Při klasifikaci je jiná fáze používá jako vstupní příznaky. Zachování tohoto rozlišení usnadňuje interpretaci výsledku: vektorová reprezentace představuje záznam, zatímco navazující úloha určuje skupinu nebo štítek. Pro porovnávané reprezentace používejte konzistentně jeden model a konvenci přípravy.
Pracujte v angličtině a v 512 tokenech
Karta modelu uvádí, že toto vydání funguje pouze pro angličtinu a zkracuje dlouhý text nejvýše na 512 tokenů. Připravte v tomto rozsahu ucelené pasáže, včetně požadovaného prefixu role. Dlouhá recenze, zpráva nebo příručka má být rozdělena kolem smysluplných sekcí, nikoli převedena jako nadměrný vstup, jehož konec se ztratí.
Zachovejte nadpis s větami, které uvádí, a podmínku či výjimku měnící význam pravidla. U krátkých záznamů, například zpětné vazby, uchovejte úplnou zprávu, pokud se vejde. Identifikátor zdroje a verze uložené vedle vektoru umožní pozdější aktualizaci kolekce nahradit správný záznam.
Interpretujte podobnost podle úlohy
Výrobce vysvětluje, že relativní pořadí kosinových skóre je důležitější než absolutní hodnota. Filtrační práh má být posouzen na vlastních příkladech kolekce a vektorová podobnost není kalibrovaná pravděpodobnost odpovídajícího štítku nebo správné odpovědi. Při rozhodování o použití vektorů zkoumejte blízké záznamy i známé neshody.
Užitečným výstupem je anglický vyhledávací index, sada sémantických porovnání nebo číselné příznaky textu spojené se zdrojovými záznamy. Tento profil Base v2 poskytuje vlastní rozměry, agregaci a přípravu rolí; tvar vektoru nebo jazykové pokrytí jiného vydání E5 nedokládají zaměnitelnou reprezentaci.
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings intfloat/e5-base-v2
intfloat/e5-base-v2Úvod
intfloat E5-Base-v2 převádí anglický text na 768rozměrné embeddingy pomocí 12vrstvého enkodéru. Prefixy pro dotaz a pasáž spolu s oknem 512 tokenů určují přípravu pro vyhledávání, porovnávání parafrází, shlukování a textové příznaky.
- Přijímané vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metody
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Výstupní formát
- json
| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity intfloat/e5-base-v2 | Výchozí— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 Podmínky: Neprázdná homogenní dávka. ID tokenů jsou nezáporná celá čísla. Rozpočet vstupu: Maximum: 512 · Jednotka textu: bajty UTF8 · Jednotka tokenů: prvky pole tokenů | Výchozí— |
Poleencoding_format | Typstring | PožadavekVolitelné | Hodnoty a limity float | Výchozífloat |
Poledimensions | Typinteger | PožadavekNepodporováno | Hodnoty a limity Minimum: 1 | Výchozí— |
Poleuser | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Polesession_id | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poletrace | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: Parametr provider.options byl odmítnut | Výchozí— |
Kombinace vstupních materiálů
text_to_embedding
Parametry a životní cyklus metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, input |
Parametrinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Kontraktfloat |
Parametrdimensions_override | Kontraktfalse |
Parametrmax_input_budget_units | Kontrakt512 |
Parametrmultimodal_objects | Kontraktfalse |
Parametrmaterial_types | Kontrakttext, token_ids |
Životní cyklus: synchronous_json
Uchovejte index i rozměr každého vektoru.
Multimodální název modelu neznamená, že tato konkrétní cesta přijímá obrazové objekty.
Tarify
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
- Rychlý režim
- Neuvedeno Při výběru rychlého režimu
- Režim flex
- Neuvedeno Při výběru režimu flex
- Maximální intenzita uvažování
- Neuvedeno Když se při maximální intenzitě uvažování použije výchozí úprava (default)
Sazby Ailoot
Ceny podle konfigurace
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.00001 / 1K tokenů Výstup · Výstupní tokeny $0 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
Příklady požadavků
Ailoot Ultra · Vektorové reprezentace
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "intfloat/e5-base-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='intfloat/e5-base-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Přijímání a ukládání výsledků
Ailoot Ultra · Vektorové reprezentace
json
Uchovejte všechny dokončené výsledky
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Uchovejte každý vektor spolu s jeho indexem. Počet vektorů musí odpovídat počtu vstupů; jejich rozměr musí být jednotný.
Pokud je nutné ověřit původní odpověď
Samostatný endpoint úloh pro embeddingy se nezavádí.
Pole odpovědi
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a další kroky
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Aliasy
Aliasy modelu
Ailoot Ultra intfloat/e5-base-v2
Aliasy cest metod
Použijte cesty metod uvedené výše.
Související ID modelů
FAQ · Intfloat: E5-Base-v2
- Jaké vstupy a výsledky jsou dostupné?
POST /v1/embeddings·intfloat/e5-base-v2:text,token_ids→embedding- Jaká pole požadavek používá?
POST /v1/embeddings·intfloat/e5-base-v2:model,input,encoding_format,provider- Jaké limity platí?
POST /v1/embeddings·intfloat/e5-base-v2:input.budget.maximum:512(bajty UTF8);input.min_items:1