LiquidAI: LFM2.5-Embedding-350M (free)
LiquidAI LFM2.5-Embedding-350M vytvára jeden 1024-rozmerný vektor na text pre viacjazyčné a medzijazyčné vyhľadávanie. Zameriava sa na 11 jazykov a krátke 512-tokenové vstupy s odlišnými prefixmi pre dopyt a dokument.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
LFM2.5-Embedding-350M je hustý bi-enkodér od LiquidAI na viacjazyčné a medzijazykové vyhľadávanie. Pre každý text vytvára jeden 1024-rozmerný vektor a zameriava sa na vyhľadávanie s krátkym kontextom v jedenástich jazykoch. Pomenovaná rodina modelov 350M používa obojsmernú adaptáciu LFM2.5-350M-Base; podrobná tabuľka modelu uvádza pre túto edíciu embeddingov približne 354 miliónov parametrov.
Obojsmerná reprezentácia na vyhľadávanie
Výrobca upravuje základnú sieť tak, aby pozornosť a lokálne konvolúcie mohli používať kontext na oboch stranách tokenu. Zlučovanie v štýle CLS mení spracovaný text na jeden hustý vektor. Tabuľka modelu opisuje sedemnásť vrstiev: desať konvolučných blokov, šesť blokov pozornosti a fázu zlučovania. Ide o vyhľadávací enkodér s vlastnou prípravou a výstupom, nie o úlohu generovania textu základného modelu.
Samostatne pomenovaný LFM2.5-ColBERT-350M zachováva vektory jednotlivých tokenov na neskorú interakciu. Táto reprezentácia vyžaduje iný index a metódu porovnávania. Tu opisovaný model Embedding poskytuje jeden vektor pre každý dokument alebo dopyt s kosínusovou podobnosťou ako zdokumentovaným porovnaním.
Používajte správne asymetrické prompty
Vyhľadávacie dopyty pripravujte s „query:“ a zdrojové pasáže s „document:“. Výrobca ukladá tieto prompty do konfigurácie a jeho referenčný postup používa zodpovedajúci názov promptu. Výslovne odporúča používať na každej strane príslušnú rolu, pretože model bol trénovaný s týmito prefixmi. Tento dokumentový prefix sa líši od konvencie „passage:“ v modeloch E5.
Praktická kolekcia na vyhľadávanie produktov môže obsahovať opisy v podporovaných jazykoch. Znenie vyhľadávania používateľa pripravte ako dopyt a každý opis produktu ako dokument. Pôvodný text, identifikátor produktu a jazyk uložte s vektorom, aby výsledok vyhľadávania mohol vrátiť zodpovedajúci záznam. Pri kolekcii podpory zachovajte pravidlo alebo pokyn relevantný pre otázku namiesto jeho nahradenia nesúvisiacim krátkym štítkom.
Jazyky a veľkosť pasáže
Zdokumentovaný súbor jazykov tvorí angličtina, španielčina, nemčina, francúzština, taliančina, portugalčina, arabčina, švédčina, nórčina, japončina a kórejčina. Výrobca výslovne cieli na vyhľadávanie v rámci jedného jazyka aj cez jazykové hranice. Pripravte skutočné otázky zamýšľaného publika a preskúmajte vrátený text dokumentov v týchto jazykoch.
Špecifikovaná dĺžka dokumentu je 512 tokenov. Dlhý zdroj rozdeľte na ucelené pasáže zachovávajúce nadpis, definície a podmienky potrebné pre vyhľadaný výsledok. Prefix roly a pridaný kontext patria do pripraveného vstupu. Odpoveď FAQ, vysvetlenie produktu alebo zameraná časť technického dokumentu je vhodnejšou jednotkou než celá nadmerná príručka.
Trénovanie a porovnávanie
Výrobca opisuje tri fázy trénovania: anglické kontrastívne predtrénovanie, viacjazyčnú a medzijazykovú destiláciu a potom doladenie s vyhľadanými náročnými negatívnymi príkladmi. Výsledný model je určený pre produktové katalógy, FAQ a kolekcie podpory, vyhľadávanie súborov či poznámok a podnikové znalostné vyhľadávanie. Ide o úlohy pre textové reprezentácie, nie o tvrdenia o nasadení konkrétnej aplikácie.
Príklad výrobcu normalizuje vektory dopytov a dokumentov a radí ich skalárnym súčinom, ekvivalentným kosínusovej podobnosti. Reprezentácie korpusu predpočítajte po príprave zdrojového materiálu, potom vytvorte embedding vyhľadávacieho dopytu a vráťte kandidátske dokumenty s ich textom a identifikátormi. Zvolený model a konvenciu rolí uchovajte s indexom, aby číselné porovnávanie používalo kompatibilné reprezentácie.
Užitočným výsledkom je kompaktný hustý vyhľadávací index alebo vektor dopytu, ktorý vyhľadáva zdrojový materiál v zdokumentovanom súbore jazykov. Táto konkrétna edícia LFM2.5 Embedding zostáva oddelená od sprievodného ColBERT, starších vyhľadávacích modelov LFM2 a externe kvantovaných implementácií. Text vybranej pasáže je dôkazom používaným čitateľom alebo neskoršou fázou odpovede RAG.
Ailoot Ultra · Embeddingy POST /v1/embeddings liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:freeÚvod
LiquidAI LFM2.5-Embedding-350M vytvára jeden 1024-rozmerný vektor na text pre viacjazyčné a medzijazyčné vyhľadávanie. Zameriava sa na 11 jazykov a krátke 512-tokenové vstupy s odlišnými prefixmi pre dopyt a dokument.
- Povolené vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Embeddingy POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Kontext
- 512 tokens
- Výstupný formát
- json
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity liquid/lfm-2.5-embedding-350m:free | Predvolené— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 Podmienky: Neprázdna homogénna dávka. ID tokenov sú nezáporné celé čísla. Vstupný rozpočet: Maximum: 512 · Textová jednotka: bajty UTF8 · Jednotka tokenov: prvky poľa tokenov | Predvolené— |
Poleencoding_format | Typstring | PožiadavkaVoliteľné | Hodnoty a limity float | Predvolenéfloat |
Poledimensions | Typinteger | PožiadavkaNepodporované | Hodnoty a limity Minimum: 1 | Predvolené— |
Poleuser | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Polesession_id | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poletrace | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poleprovider | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: provider.options sa odmieta | Predvolené— |
Kombinácie vstupných podkladov
text_to_embedding
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, input |
Parameterinput_shapes | Špecifikáciastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Špecifikáciafloat |
Parameterdimensions_override | Špecifikáciafalse |
Parametermax_input_budget_units | Špecifikácia512 |
Parametermultimodal_objects | Špecifikáciafalse |
Parametermaterial_types | Špecifikáciatext, token_ids |
Životný cyklus: synchronous_json
Uchovajte každý index a rozmer vektora.
Názov multimodálneho modelu neznamená, že na tejto konkrétnej trase možno použiť objekty obrázkov.
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Štandardná sadzba Keď je zvolený rýchly režim
- Režim Flex
- Štandardná sadzba Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Štandardná sadzba Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0 / 1K tokenov Výstup · Výstupné tokeny $0 / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Embeddingy
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "liquid/lfm-2.5-embedding-350m:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='liquid/lfm-2.5-embedding-350m:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Prijať a uložiť výsledky
Ailoot Ultra · Embeddingy
json
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Uchovajte každý vektor spolu s jeho indexom. Počet vektorov sa musí rovnať počtu vstupov; rozmery musia byť konzistentné.
Ak treba overiť pôvodnú odpoveď
Nezavádza sa žiadny koncový bod pre úlohy tvorby embeddingov.
Polia odpovede
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Aliasy
Aliasy modelov
Ailoot Ultra liquid/lfm-2.5-embedding-350m:free
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · LiquidAI: LFM2.5-Embedding-350M (free)
- Aké vstupy a výsledky sú dostupné?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:text,token_ids→embedding- Aké polia používa požiadavka?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:model,input,encoding_format,provider- Aké limity platia?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:ctx:512;input.budget.maximum:512(bajty UTF8);input.min_items:1