LiquidAI: LFM2.5-Embedding-350M (free)
A LiquidAI LFM2.5-Embedding-350M szövegenként egy 1024 dimenziós vektort állít elő többnyelvű és nyelvek közötti visszakereséshez. 11 nyelvet és rövid, 512 tokenes bemeneteket céloz, külön lekérdezés-/dokumentumelőtagokkal.
A modellről
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
Az LFM2.5-Embedding-350M a LiquidAI sűrű bi-encodere többnyelvű és nyelvek közötti visszakereséshez. Minden szöveghez egyetlen 1024 dimenziós vektort állít elő, és rövid kontextusú keresésre céloz tizenegy nyelven. A név szerint megadott 350M modellcsalád az LFM2.5-350M-Base kétirányú adaptációját használja; a részletes modelltáblázat e beágyazási kiadáshoz körülbelül 354 millió paramétert ad meg.
Kétirányú visszakeresési reprezentáció
A gyártó úgy adaptálja az alapmodellt, hogy a figyelmi mechanizmus és a helyi konvolúciók a token mindkét oldalán lévő kontextust használhassák. CLS-jellegű pooling alakítja a feldolgozott szöveget egyetlen sűrű vektorrá. A modelltáblázat tizenhét réteget ír le: tíz konvolúciós blokkot, hat figyelmi blokkot és egy poolinglépést. Ez saját előkészítéssel és kimenettel rendelkező visszakeresési kódoló, nem az alapmodell szöveggenerálási feladata.
A külön elnevezett LFM2.5-ColBERT-350M tokenenkénti vektorokat tart meg késői interakcióhoz. Ez a reprezentáció eltérő indexet és összehasonlítási módszert igényel. Az itt leírt Embedding modell dokumentumonként vagy lekérdezésenként egy vektort szolgáltat, dokumentált összehasonlításként koszinuszhasonlósággal.
Használja a megfelelő aszimmetrikus promptokat
A keresési lekérdezéseket „query:”, a forrásszövegrészleteket „document:” előtaggal készítse elő. A gyártó e promptokat konfigurációjában tárolja, referencia-munkafolyamata pedig a megfelelő promptnevet alkalmazza. Kifejezetten a megfelelő szerep használatát ajánlja mindkét oldalon, mert a modellt ezekkel az előtagokkal tanították. Ez a dokumentumelőtag különbözik az E5-modellek „passage:” konvenciójától.
Egy gyakorlati termékkeresési gyűjtemény a támogatott nyelveken tartalmazhat leírásokat. A felhasználó keresési megfogalmazását lekérdezésként, minden termékleírást dokumentumként készítsen elő. Az eredeti szöveget, termékazonosítót és nyelvet a vektor mellett tárolja, hogy a keresési eredmény visszaadhassa a megfelelő rekordot. Ügyfélszolgálati gyűjteménynél őrizze meg a kérdéshez releváns szabályt vagy utasítást, ne cserélje nem kapcsolódó rövid címkére.
Nyelvek és szövegrészlet-méret
A dokumentált nyelvkészlet az angol, spanyol, német, francia, olasz, portugál, arab, svéd, norvég, japán és koreai. A gyártó kifejezetten célozza a nyelven belüli és nyelvhatárokon átnyúló visszakeresést is. A tervezett közönség valódi kérdéseit készítse elő, és e nyelveken vizsgálja meg a visszaadott dokumentumszöveget.
A dokumentumhossz-specifikáció 512 token. A hosszú forrást összefüggő részletekre bontsa, megőrizve a címsort, definíciókat és a visszakeresett eredmény értelmezéséhez szükséges feltételeket. A szerepelőtag és hozzáadott kontextus az előkészített bemenet része. GYIK-válasz, termékmagyarázat vagy műszaki dokumentum célzott szakasza megfelelőbb egység, mint egy egész túlméretes kézikönyv.
Tanítás és megfeleltetés
A gyártó három tanítási lépést ír le: angol kontrasztív előtanítást, többnyelvű és nyelvek közötti desztillációt, majd finomhangolást célzottan kiválasztott nehéz negatív példákkal. A kapott modellt termékkatalógusokhoz, GYIK- és ügyfélszolgálati gyűjteményekhez, fájl- vagy jegyzetkereséshez és vállalati tudás visszakereséséhez szánják. Ezek szövegreprezentációs feladatok, nem állítások egy adott alkalmazás telepítéséről.
A gyártó példája normalizálja a lekérdezés- és dokumentumvektorokat, és skalárszorzattal rangsorolja őket, ami koszinuszhasonlóságnak felel meg. A forrásanyag előkészítésekor számítsa ki előre a korpuszreprezentációkat, majd ágyazza be a keresési lekérdezést, és a jelölt dokumentumokat szövegükkel és azonosítóikkal együtt adja vissza. A kiválasztott modellt és szerepkonvenciót az index mellett tartsa meg, hogy a numerikus összehasonlítás kompatibilis reprezentációkat használjon.
A hasznos eredmény tömör, sűrű keresési index vagy olyan lekérdezésvektor, amely a dokumentált nyelvkészleten keresztül keres vissza forrásanyagot. Ez a pontos LFM2.5 Embedding kiadás különálló marad ColBERT társától, régebbi LFM2 visszakeresőktől és külsőleg kvantált implementációktól. A kiválasztott szövegrészlet az olvasó vagy későbbi RAG-válaszlépés által használt bizonyíték.
Ailoot Ultra · Beágyazások POST /v1/embeddings liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:freeKezdő lépések
A LiquidAI LFM2.5-Embedding-350M szövegenként egy 1024 dimenziós vektort állít elő többnyelvű és nyelvek közötti visszakereséshez. 11 nyelvet és rövid, 512 tokenes bemeneteket céloz, külön lekérdezés-/dokumentumelőtagokkal.
- Elfogadott bemenetek
- Szöveg · token_ids
- Eredmények
- embedding
Elérhető az Ailootban · bemenetek és metódusok
Ailoot Ultra · Beágyazások POST /v1/embeddings
- Bemenet
text,token_ids- Kimenet
embedding- Kontextus
- 512 tokens
- Kimeneti formátum
- json
| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok liquid/lfm-2.5-embedding-350m:free | Alapértelmezett— |
Mezőinput | Típusstring|string[]|integer[]|integer[][] | KövetelményKötelező | Értékek és korlátok Minimális elemszám: 1 Feltételek: Nem üres, homogén köteg. A tokenazonosítók nemnegatív egész számok. Bemeneti keret: Maximum: 512 · Szövegegység: UTF8-bájtok · Tokenegység: tokentömb elemei | Alapértelmezett— |
Mezőencoding_format | Típusstring | KövetelményOpcionális | Értékek és korlátok float | Alapértelmezettfloat |
Meződimensions | Típusinteger | KövetelményNem támogatott | Értékek és korlátok Minimum: 1 | Alapértelmezett— |
Mezőuser | Típusjson_value | KövetelményOpcionális | Értékek és korlátok Feltételek: A forrás engedélyezi ezt a JSON-metaadatmezőt; a szolgáltatónál érvényes pontos jelentése modellenként eltér. | Alapértelmezett— |
Mezősession_id | Típusjson_value | KövetelményOpcionális | Értékek és korlátok Feltételek: A forrás engedélyezi ezt a JSON-metaadatmezőt; a szolgáltatónál érvényes pontos jelentése modellenként eltér. | Alapértelmezett— |
Mezőtrace | Típusjson_value | KövetelményOpcionális | Értékek és korlátok Feltételek: A forrás engedélyezi ezt a JSON-metaadatmezőt; a szolgáltatónál érvényes pontos jelentése modellenként eltér. | Alapértelmezett— |
Mezőprovider | Típusobject | KövetelményOpcionális | Értékek és korlátok Feltételek: A provider.options elutasítva | Alapértelmezett— |
Bemeneti anyagok kombinációi
text_to_embedding
Metódus paraméterei és életciklusa
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, input |
Paraméterinput_shapes | Szerződésstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Paraméterencoding_format | Szerződésfloat |
Paraméterdimensions_override | Szerződésfalse |
Paramétermax_input_budget_units | Szerződés512 |
Paramétermultimodal_objects | Szerződésfalse |
Paramétermaterial_types | Szerződéstext, token_ids |
Életciklus: synchronous_json
Őrizze meg minden vektor indexét és dimenzióját.
A multimodális modell neve ezen a pontos útvonalon nem teszi lehetővé képobjektumok használatát.
Díjcsomagok
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
- Gyors mód
- Normál díjszabás Ha a gyors mód van kiválasztva
- Flex mód
- Normál díjszabás Ha a flex mód van kiválasztva
- Maximális gondolkodási ráfordítás
- Normál díjszabás Ha a maximális gondolkodási ráfordításra a default beállításhoz tartozó korrekció vonatkozik
Ailoot-díjak
Árak beállításonként
| Beállítás | Díjtáblázat | Díj |
|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Díj Bemenet · Bemeneti tokenek $0 / 1K token Kimenet · Kimeneti tokenek $0 / 1K token Bemenet · Gyorsítótár olvasása — / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
Példakérések
Ailoot Ultra · Beágyazások
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "liquid/lfm-2.5-embedding-350m:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='liquid/lfm-2.5-embedding-350m:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Eredmények fogadása és mentése
Ailoot Ultra · Beágyazások
json
Őrizzen meg minden elkészült eredményt
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizzen meg minden vektort az indexével együtt. A vektorok számának meg kell egyeznie a bemenetek számával; a dimenzióknak egységesnek kell lenniük.
Ha az eredeti választ ellenőrizni kell
Nem kerül bevezetésre külön beágyazási feladatvégpont.
Válaszmezők
| Mező | Típus |
|---|---|
Mezőobject | Típusstring |
Mezőmodel | Típusstring |
Meződata[].index | Típusinteger |
Meződata[].embedding | Típusfinite float[] |
Mezőusage | Típusobject |
Hibák és következő lépések
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen kötelező mezők, az anyag érvénytelen reprezentációja vagy érvénytelen paraméterérték | Következő lépésJavítsa a jelzett mezőket egy új létrehozási kérés előtt. |
Álnevek
Modell álnevei
Ailoot Ultra liquid/lfm-2.5-embedding-350m:free
Metódusútvonalak álnevei
Használja a fent látható metódusútvonalakat.
Kapcsolódó modellazonosítók
FAQ · LiquidAI: LFM2.5-Embedding-350M (free)
- Milyen bemenetek és eredmények érhetők el?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:text,token_ids→embedding- Mely mezőket használja a kérés?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:model,input,encoding_format,provider- Milyen korlátok érvényesek?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:ctx:512;input.budget.maximum:512(UTF8-bájtok);input.min_items:1