LiquidAI: LFM2.5-Embedding-350M (free)
LiquidAI LFM2.5-Embedding-350M kiekvienam tekstui sukuria vieną 1024 matmenų vektorių daugiakalbei ir tarpkalbinei paieškai. Jis skirtas 11 kalbų ir trumpoms, 512 žetonų įvestims su skirtingais užklausos ir dokumento priešdėliais.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
LFM2.5-Embedding-350M yra LiquidAI tankusis bi-koduotuvas daugiakalbei ir tarpkalbinei paieškai. Kiekvienam tekstui jis sukuria vieną 1024 matmenų vektorių ir yra skirtas trumpo konteksto paieškai vienuolika kalbų. Įvardyta 350M modelių šeima naudoja dvikryptę LFM2.5-350M-Base adaptaciją; išsamioje modelių lentelėje šiai įterpinių versijai nurodyta maždaug 354 milijonai parametrų.
Dvikryptis paieškos atvaizdas
Gamintojas pritaiko pagrindinę architektūrą taip, kad dėmesio mechanizmas ir vietinės konvoliucijos galėtų naudoti kontekstą abiejose žetono pusėse. CLS tipo agregavimas apdorotą tekstą paverčia vienu tankiuoju vektoriumi. Modelio lentelėje aprašyta septyniolika sluoksnių: dešimt konvoliucinių blokų, šeši dėmesio blokai ir agregavimo etapas. Tai paieškos koduotuvas su savu paruošimu ir išvestimi, o ne bazinio modelio teksto generavimo užduotis.
Atskirai įvardytas LFM2.5-ColBERT-350M išsaugo kiekvieno žetono vektorius vėlyvajai sąveikai. Tokiai reprezentacijai reikia kitokio indekso ir palyginimo metodo. Čia aprašomas Embedding modelis pateikia vieną vektorių dokumentui ar užklausai, o dokumentuotas palyginimas yra kosinuso panašumas.
Naudokite tinkamus asimetrinius raginimus
Paieškos užklausas paruoškite su „query:“, o šaltinio ištraukas – su „document:“. Gamintojas šiuos raginimus saugo savo konfigūracijoje, o etaloniniame procese taikomas atitinkamas raginimo pavadinimas. Jis konkrečiai rekomenduoja kiekvienoje pusėje naudoti atitinkamą vaidmenį, nes modelis mokytas su šiais priešdėliais. Šis dokumento priešdėlis skiriasi nuo E5 modelių „passage:“ konvencijos.
Praktinėje produktų paieškos kolekcijoje gali būti aprašymų palaikomomis kalbomis. Naudotojo paieškos formuluotę paruoškite kaip užklausą, o kiekvieną produkto aprašymą – kaip dokumentą. Originalų tekstą, produkto identifikatorių ir kalbą saugokite su vektoriumi, kad paieškos rezultatas galėtų grąžinti atitinkamą įrašą. Pagalbos kolekcijoje išsaugokite klausimui aktualią taisyklę ar instrukciją, užuot pakeitę ją nesusijusia trumpa žyma.
Kalbos ir ištraukų dydis
Dokumentuotas kalbų rinkinys apima anglų, ispanų, vokiečių, prancūzų, italų, portugalų, arabų, švedų, norvegų, japonų ir korėjiečių kalbas. Gamintojas aiškiai orientuojasi ir į paiešką viena kalba, ir į paiešką tarp kalbų. Paruoškite tikrus numatytos auditorijos klausimus ir patikrinkite grąžintą dokumentų tekstą tomis kalbomis.
Dokumento ilgio specifikacija yra 512 žetonų. Ilgą šaltinį padalykite į rišlias ištraukas, išsaugančias antraštę, apibrėžimus ir sąlygas, kurių reikia rastam rezultatui suprasti. Vaidmens priešdėlis ir pridėtas kontekstas priklauso paruoštai įvesčiai. DUK atsakymas, produkto paaiškinimas arba konkrečiai temai skirtas techninio dokumento skyrius yra tinkamesnis vienetas nei visas pernelyg ilgas vadovas.
Mokymas ir atitikties nustatymas
Gamintojas aprašo tris mokymo etapus: kontrastinį išankstinį mokymą anglų kalba, daugiakalbę ir tarpkalbinę distiliaciją, tada papildomą mokymą su atrinktais sunkiais neigiamais pavyzdžiais. Gautas modelis skirtas produktų katalogams, DUK ir pagalbos kolekcijoms, failų ar užrašų paieškai ir įmonės žinių paieškai. Tai teksto atvaizdų užduotys, o ne teiginiai apie konkrečios programos diegimą.
Gamintojo pavyzdyje užklausų ir dokumentų vektoriai normalizuojami ir rikiuojami skaliarine sandauga, lygiaverte kosinuso panašumui. Paruošę šaltinio medžiagą iš anksto apskaičiuokite korpuso atvaizdus, tada sukurkite paieškos užklausos įterpinį ir grąžinkite kandidatinius dokumentus su jų tekstu bei identifikatoriais. Pasirinktą modelį ir vaidmenų konvenciją saugokite kartu su indeksu, kad skaitinis palyginimas naudotų suderinamas reprezentacijas.
Naudingas rezultatas yra kompaktiškas tankusis paieškos indeksas arba užklausos vektorius, randantis šaltinio medžiagą visomis dokumentuotomis kalbomis. Ši konkreti LFM2.5 Embedding versija lieka atskira nuo jos ColBERT atitikmens, senesnių LFM2 paieškos modelių ir išoriškai kvantuotų realizacijų. Pasirinktos ištraukos tekstas yra pagrindžianti medžiaga, kurią naudoja skaitytojas arba vėlesnis RAG atsakymo etapas.
Ailoot Ultra · Įterpiniai POST /v1/embeddings liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:freePradžia
LiquidAI LFM2.5-Embedding-350M kiekvienam tekstui sukuria vieną 1024 matmenų vektorių daugiakalbei ir tarpkalbinei paieškai. Jis skirtas 11 kalbų ir trumpoms, 512 žetonų įvestims su skirtingais užklausos ir dokumento priešdėliais.
- Leidžiamos įvestys
- Tekstas · token_ids
- Rezultatai
- embedding
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Įterpiniai POST /v1/embeddings
- Įvestis
text,token_ids- Išvestis
embedding- Kontekstas
- 512 tokens
- Išvesties formatas
- json
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos liquid/lfm-2.5-embedding-350m:free | Numatyta— |
Laukasinput | Tipasstring|string[]|integer[]|integer[][] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 Sąlygos: Netuščias vienalyčių įvesčių paketas. Žetonų ID yra neneigiami sveikieji skaičiai. Įvesties biudžetas: Didžiausia reikšmė: 512 · Teksto vienetas: UTF8 baitai · Tokenų vienetas: žetonų masyvo elementai | Numatyta— |
Laukasencoding_format | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos float | Numatytafloat |
Laukasdimensions | Tipasinteger | ReikalavimasNepalaikoma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Laukasuser | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukassession_id | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukastrace | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options atmetamas | Numatyta— |
Įvesties medžiagos deriniai
text_to_embedding
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, input |
Parametrasinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrasencoding_format | Specifikacijafloat |
Parametrasdimensions_override | Specifikacijafalse |
Parametrasmax_input_budget_units | Specifikacija512 |
Parametrasmultimodal_objects | Specifikacijafalse |
Parametrasmaterial_types | Specifikacijatext, token_ids |
Gyvavimo ciklas: synchronous_json
Išsaugokite kiekvieną vektoriaus indeksą ir matmenį.
Tai, kad modelio pavadinimas nurodo multimodalumą, nereiškia, jog šiuo konkrečiu keliu priimami vaizdų objektai.
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Standartinis įkainis Pasirinkus spartųjį režimą
- Flex režimas
- Standartinis įkainis Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Standartinis įkainis Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0 / 1K tokenų Išvestis · Išvesties tokenai $0 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Įterpiniai
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "liquid/lfm-2.5-embedding-350m:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='liquid/lfm-2.5-embedding-350m:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Įterpiniai
json
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną vektorių su jo indeksu. Vektorių skaičius turi sutapti su įvesčių skaičiumi; jų matmenų skaičius turi būti vienodas.
Jei reikia patikrinti pradinį atsakymą
Vektorių generavimo užduotims atskiras API galinis taškas neįvedamas.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasobject | Tipasstring |
Laukasmodel | Tipasstring |
Laukasdata[].index | Tipasinteger |
Laukasdata[].embedding | Tipasfinite float[] |
Laukasusage | Tipasobject |
Klaidos ir tolesni veiksmai
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra liquid/lfm-2.5-embedding-350m:free
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · LiquidAI: LFM2.5-Embedding-350M (free)
- Kokios įvestys ir rezultatai prieinami?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:text,token_ids→embedding- Kokius laukus naudoja užklausa?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:model,input,encoding_format,provider- Kokie apribojimai taikomi?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:ctx:512;input.budget.maximum:512(UTF8 baitai);input.min_items:1