LiquidAI: LFM2.5-Embedding-350M (free)
LiquidAI LFM2.5-Embedding-350M vytváří pro každý text jeden vektor s 1024 rozměry pro vícejazyčné a mezijazykové vyhledávání. Cílí na 11 jazyků a krátké vstupy o 512 tokenech s odlišnými předponami pro dotaz a dokument.
O modelu
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
LFM2.5-Embedding-350M je hustý bi-enkodér společnosti LiquidAI pro vícejazyčné vyhledávání a vyhledávání napříč jazyky. Pro každý text vytváří jeden 1024rozměrný vektor a zaměřuje se na vyhledávání s krátkým kontextem v jedenácti jazycích. Pojmenovaná rodina modelů 350M používá obousměrnou úpravu LFM2.5-350M-Base; podrobná tabulka modelů uvádí pro tuto embeddingovou edici přibližně 354 milionů parametrů.
Obousměrná reprezentace pro vyhledávání
Výrobce upravuje základní architekturu tak, aby mechanismus pozornosti a lokální konvoluce mohly využívat kontext na obou stranách tokenu. Sdružování ve stylu CLS převádí zpracovaný text na jeden hustý vektor. Tabulka modelu popisuje sedmnáct vrstev: deset konvolučních bloků, šest bloků pozornosti a fázi sdružování. Jde o enkodér pro vyhledávání s vlastní přípravou a výstupem, nikoli o úlohu generování textu základního modelu.
Samostatně pojmenovaný LFM2.5-ColBERT-350M zachovává vektory pro jednotlivé tokeny pro pozdní interakci. Tato reprezentace vyžaduje jiný index a metodu porovnání. Zde popisovaný model Embedding poskytuje jeden vektor na dokument nebo dotaz s kosinovou podobností jako dokumentovaným způsobem porovnání.
Použití správných asymetrických promptů
Vyhledávací dotazy připravujte s „query:“ a zdrojové pasáže s „document:“. Výrobce ukládá tyto prompty do konfigurace a jeho referenční postup používá odpovídající název promptu. Výslovně doporučuje používat na každé straně příslušnou roli, protože model byl s těmito prefixy trénován. Tento prefix dokumentu se liší od konvence „passage:“ u modelů E5.
Praktická kolekce pro vyhledávání produktů může obsahovat popisy v podporovaných jazycích. Vyhledávací formulaci uživatele připravte jako dotaz a každý popis produktu jako dokument. S vektorem ukládejte původní text, identifikátor produktu a jazyk, aby výsledek vyhledávání mohl vrátit odpovídající záznam. U kolekce podpory zachovejte pravidlo nebo instrukci relevantní pro otázku namísto jejich nahrazení nesouvisejícím krátkým označením.
Jazyky a velikost pasáží
Dokumentovaná sada jazyků zahrnuje angličtinu, španělštinu, němčinu, francouzštinu, italštinu, portugalštinu, arabštinu, švédštinu, norštinu, japonštinu a korejštinu. Výrobce se výslovně zaměřuje jak na vyhledávání v rámci jednoho jazyka, tak na vyhledávání napříč jazykovými hranicemi. Připravte skutečné otázky zamýšleného publika a prohlédněte si vrácený text dokumentů v těchto jazycích.
Specifikovaná délka dokumentu je 512 tokenů. Dlouhý zdroj rozdělte na souvislé pasáže, které zachovávají nadpis, definice a podmínky potřebné pro nalezený výsledek. Prefix role a přidaný kontext patří do připraveného vstupu. Odpověď v FAQ, vysvětlení produktu nebo tematicky vymezený oddíl technického dokumentu jsou vhodnější jednotkou než celá příliš rozsáhlá příručka.
Trénování a porovnávání
Výrobce popisuje tři fáze trénování: anglické kontrastivní předtrénování, vícejazyčnou a mezijazykovou destilaci a následné dotrénování s vytěženými obtížnými negativními příklady. Výsledný model je určen pro produktové katalogy, FAQ a kolekce podpory, vyhledávání souborů či poznámek a vyhledávání podnikových znalostí. Jde o úkoly textových reprezentací, nikoli o tvrzení o nasazení konkrétní aplikace.
Příklad výrobce normalizuje vektory dotazů a dokumentů a řadí je pomocí skalárního součinu, který je ekvivalentní kosinové podobnosti. Při přípravě zdrojového materiálu předem vypočítejte reprezentace korpusu, poté vytvořte embedding vyhledávacího dotazu a vraťte kandidátní dokumenty s jejich textem a identifikátory. S indexem uchovávejte zvolený model a konvenci rolí, aby číselné porovnání používalo kompatibilní reprezentace.
Užitečným výsledkem je kompaktní hustý vyhledávací index nebo vektor dotazu, který vyhledává zdrojový materiál napříč dokumentovanou sadou jazyků. Tato konkrétní edice LFM2.5 Embedding zůstává oddělená od příbuzného ColBERT, starších vyhledávacích modelů LFM2 a externě kvantovaných implementací. Text vybrané pasáže je podkladem, který používá čtenář nebo pozdější fáze vytváření odpovědi pomocí RAG.
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:freeÚvod
LiquidAI LFM2.5-Embedding-350M vytváří pro každý text jeden vektor s 1024 rozměry pro vícejazyčné a mezijazykové vyhledávání. Cílí na 11 jazyků a krátké vstupy o 512 tokenech s odlišnými předponami pro dotaz a dokument.
- Přijímané vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metody
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Kontext
- 512 tokens
- Výstupní formát
- json
| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity liquid/lfm-2.5-embedding-350m:free | Výchozí— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 Podmínky: Neprázdná homogenní dávka. ID tokenů jsou nezáporná celá čísla. Rozpočet vstupu: Maximum: 512 · Jednotka textu: bajty UTF8 · Jednotka tokenů: prvky pole tokenů | Výchozí— |
Poleencoding_format | Typstring | PožadavekVolitelné | Hodnoty a limity float | Výchozífloat |
Poledimensions | Typinteger | PožadavekNepodporováno | Hodnoty a limity Minimum: 1 | Výchozí— |
Poleuser | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Polesession_id | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poletrace | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: Parametr provider.options byl odmítnut | Výchozí— |
Kombinace vstupních materiálů
text_to_embedding
Parametry a životní cyklus metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, input |
Parametrinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Kontraktfloat |
Parametrdimensions_override | Kontraktfalse |
Parametrmax_input_budget_units | Kontrakt512 |
Parametrmultimodal_objects | Kontraktfalse |
Parametrmaterial_types | Kontrakttext, token_ids |
Životní cyklus: synchronous_json
Uchovejte index i rozměr každého vektoru.
Multimodální název modelu neznamená, že tato konkrétní cesta přijímá obrazové objekty.
Tarify
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
- Rychlý režim
- Standardní sazba Při výběru rychlého režimu
- Režim flex
- Standardní sazba Při výběru režimu flex
- Maximální intenzita uvažování
- Standardní sazba Když se při maximální intenzitě uvažování použije výchozí úprava (default)
Sazby Ailoot
Ceny podle konfigurace
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0 / 1K tokenů Výstup · Výstupní tokeny $0 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
Příklady požadavků
Ailoot Ultra · Vektorové reprezentace
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "liquid/lfm-2.5-embedding-350m:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='liquid/lfm-2.5-embedding-350m:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Přijímání a ukládání výsledků
Ailoot Ultra · Vektorové reprezentace
json
Uchovejte všechny dokončené výsledky
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Uchovejte každý vektor spolu s jeho indexem. Počet vektorů musí odpovídat počtu vstupů; jejich rozměr musí být jednotný.
Pokud je nutné ověřit původní odpověď
Samostatný endpoint úloh pro embeddingy se nezavádí.
Pole odpovědi
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a další kroky
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Aliasy
Aliasy modelu
Ailoot Ultra liquid/lfm-2.5-embedding-350m:free
Aliasy cest metod
Použijte cesty metod uvedené výše.
Související ID modelů
FAQ · LiquidAI: LFM2.5-Embedding-350M (free)
- Jaké vstupy a výsledky jsou dostupné?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:text,token_ids→embedding- Jaká pole požadavek používá?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:model,input,encoding_format,provider- Jaké limity platí?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:ctx:512;input.budget.maximum:512(bajty UTF8);input.min_items:1