LiquidAI: LFM2.5-Embedding-350M (free)
LiquidAI LFM2.5-Embedding-350M produserer én 1024-dimensjonal vektor per tekst for flerspråklig og tverrspråklig gjenfinning. Den retter seg mot 11 språk og korte inndata på 512 tokener, med adskilte prefikser for spørringer og dokumenter.
Om modellen
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
LFM2.5-Embedding-350M er LiquidAIs tette bi-encoder for flerspråklig gjenfinning og gjenfinning på tvers av språk. Den produserer én vektor med 1024 dimensjoner for hver tekst og er rettet mot søk med kort kontekst på elleve språk. Den navngitte 350M-modellfamilien bruker en toveis tilpasning av LFM2.5-350M-Base; den detaljerte modelltabellen oppgir omtrent 354 millioner parametere for denne embeddingutgaven.
En toveis gjenfinningsrepresentasjon
Produsenten tilpasser grunnmodellen slik at attention og lokale konvolusjoner kan bruke kontekst på begge sider av en token. Pooling i CLS-stil omdanner den behandlede teksten til én tett vektor. Modelltabellen beskriver sytten lag: ti konvolusjonsblokker, seks attention-blokker og et poolingtrinn. Dette er en gjenfinningsencoder med sin egen forberedelse og sitt eget resultat, fremfor grunnmodellens tekstgenereringsoppgave.
Den separat navngitte LFM2.5-ColBERT-350M beholder vektorer per token for sen interaksjon. Den representasjonen krever en annen indeks og sammenligningsmetode. Embeddingmodellen her gir én vektor per dokument eller forespørsel, med cosinuslikhet som dokumentert sammenligning.
Bruk de riktige asymmetriske promptene
Forbered søkeforespørsler med «query:» og kildepassasjer med «document:». Produsenten lagrer disse promptene i konfigurasjonen, og referansearbeidsflyten bruker det tilsvarende promptnavnet. Den anbefaler spesielt å bruke tilsvarende rolle på hver side fordi modellen ble trent med disse prefiksene. Dokumentprefikset her er forskjellig fra E5-modellenes «passage:»-konvensjon.
En praktisk produktsøkesamling kan ha beskrivelser på de støttede språkene. Forbered brukerens søkeordlyd som en forespørsel og hver produktbeskrivelse som et dokument. Lagre originalteksten, produktidentifikatoren og språket sammen med vektoren, slik at et søkeresultat kan returnere den tilsvarende posten. For en supportsamling beholder du regelen eller instruksjonen som er relevant for spørsmålet, fremfor å erstatte den med en uvedkommende kort etikett.
Språk og passasjestørrelse
Det dokumenterte språksettet er engelsk, spansk, tysk, fransk, italiensk, portugisisk, arabisk, svensk, norsk, japansk og koreansk. Produsenten retter modellen uttrykkelig mot både gjenfinning innenfor ett språk og på tvers av språkgrenser. Forbered reelle spørsmål fra den tilsiktede målgruppen og undersøk dokumentteksten som returneres på disse språkene.
Spesifikasjonen for dokumentlengde er 512 tokener. Del en lang kilde i sammenhengende passasjer som bevarer overskriften, definisjonene og betingelsene et gjenfunnet resultat trenger. Rolleprefikset og tilføyd kontekst inngår i de forberedte inndataene. Et FAQ-svar, en produktforklaring eller en fokusert seksjon i et teknisk dokument er en mer egnet enhet enn en hel, for stor håndbok.
Trening og samsvar
Produsenten beskriver tre treningstrinn: engelsk kontrastiv forhåndstrening, destillasjon for flere språk og på tvers av språk, deretter finjustering med utvunne vanskelige negative eksempler. Den resulterende modellen er beregnet på produktkataloger, FAQ- og supportsamlinger, fil- eller notatsøk og gjenfinning av virksomhetskunnskap. Dette er oppgaver for tekstrepresentasjonene, ikke påstander om utrulling i en bestemt applikasjon.
Produsentens eksempel normaliserer forespørsels- og dokumentvektorer og rangerer dem med et prikkprodukt, tilsvarende cosinuslikhet. Forhåndsberegn korpusrepresentasjonene når kildematerialet er forberedt, beregn deretter embeddingvektoren for en søkeforespørsel og returner kandidatdokumenter med tekst og identifikatorer. Hold den valgte modellen og rollekonvensjonen med indeksen, slik at den numeriske sammenligningen bruker kompatible representasjoner.
Det nyttige resultatet er en kompakt, tett søkeindeks eller en forespørselsvektor som gjenfinner kildemateriale på tvers av det dokumenterte språksettet. Denne nøyaktige LFM2.5 Embedding-utgaven er fortsatt atskilt fra ColBERT-ledsageren, eldre LFM2-gjenfinningsmodeller og eksternt kvantiserte implementeringer. Den valgte passasjeteksten er evidensen som brukes av en leser eller et senere RAG-svartrinn.
Ailoot Ultra · Vektorrepresentasjoner POST /v1/embeddings liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:freeStart
LiquidAI LFM2.5-Embedding-350M produserer én 1024-dimensjonal vektor per tekst for flerspråklig og tverrspråklig gjenfinning. Den retter seg mot 11 språk og korte inndata på 512 tokener, med adskilte prefikser for spørringer og dokumenter.
- Godkjente inndata
- Tekst · token_ids
- Resultater
- embedding
Tilgjengelig i Ailoot · inndata & metoder
Ailoot Ultra · Vektorrepresentasjoner POST /v1/embeddings
- Inndatatyper
text,token_ids- Utdatatyper
embedding- Kontekst
- 512 tokens
- Utdataformat
- json
| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser liquid/lfm-2.5-embedding-350m:free | Standard— |
Feltinput | Typestring|string[]|integer[]|integer[][] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 Vilkår: Ikke-tom batch med ensartede elementer. Token-ID-er er ikke-negative heltall. Inndatabudsjett: Maksimum: 512 · Tekstenhet: UTF8-byte · Tokenenhet: elementer i token-arrayet | Standard— |
Feltencoding_format | Typestring | KravValgfritt | Verdier & grenser float | Standardfloat |
Feltdimensions | Typeinteger | KravStøttes ikke | Verdier & grenser Minimum: 1 | Standard— |
Feltuser | Typejson_value | KravValgfritt | Verdier & grenser Vilkår: Kilden tillater dette JSON-metadatafeltet; den nøyaktige semantikken hos den underliggende leverandøren er modellavhengig. | Standard— |
Feltsession_id | Typejson_value | KravValgfritt | Verdier & grenser Vilkår: Kilden tillater dette JSON-metadatafeltet; den nøyaktige semantikken hos den underliggende leverandøren er modellavhengig. | Standard— |
Felttrace | Typejson_value | KravValgfritt | Verdier & grenser Vilkår: Kilden tillater dette JSON-metadatafeltet; den nøyaktige semantikken hos den underliggende leverandøren er modellavhengig. | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises | Standard— |
Kombinasjoner av inngående materialer
text_to_embedding
Metodeparametere og livssyklus
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, input |
Parameterinput_shapes | Avtalestring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Avtalefloat |
Parameterdimensions_override | Avtalefalse |
Parametermax_input_budget_units | Avtale512 |
Parametermultimodal_objects | Avtalefalse |
Parametermaterial_types | Avtaletext, token_ids |
Livssyklus: synchronous_json
Bevar hver vektors indeks og dimensjon.
Et multimodalt modellnavn innebærer ikke at bildeobjekter er tillatt på denne nøyaktige stien.
Priser
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
- Hurtigmodus
- Standardpris Når hurtigmodus er valgt
- Flex-modus
- Standardpris Når flex-modus er valgt
- Maksimal resonneringsinnsats
- Standardpris Når justeringen «default» brukes for maksimal resonneringsinnsats
Ailoot-satser
Priser etter konfigurasjon
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0 / 1K tokener Utdata · Utgående tokener $0 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
Eksempelforespørsler
Ailoot Ultra · Vektorrepresentasjoner
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "liquid/lfm-2.5-embedding-350m:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='liquid/lfm-2.5-embedding-350m:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Motta og lagre resultater
Ailoot Ultra · Vektorrepresentasjoner
json
Behold alle ferdige resultater
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Bevar hver vektor sammen med indeksen. Antall vektorer må være lik antall inndata; dimensjonene må være konsistente.
Hvis det opprinnelige svaret må kontrolleres
Det innføres ikke noe endepunkt for embedding-jobber.
Svarfelter
| Felt | Type |
|---|---|
Feltobject | Typestring |
Feltmodel | Typestring |
Feltdata[].index | Typeinteger |
Feltdata[].embedding | Typefinite float[] |
Feltusage | Typeobject |
Feil og neste trinn
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Aliaser
Modellaliaser
Ailoot Ultra liquid/lfm-2.5-embedding-350m:free
Aliaser for metodestier
Bruk metodestiene som vises ovenfor.
Tilknyttede anroper-ID-er
FAQ · LiquidAI: LFM2.5-Embedding-350M (free)
- Hvilke inndata og resultater er tilgjengelige?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:text,token_ids→embedding- Hvilke felt bruker forespørselen?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:model,input,encoding_format,provider- Hvilke grenser gjelder?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:ctx:512;input.budget.maximum:512(UTF8-byte);input.min_items:1