LiquidAI: LFM2.5-Embedding-350M (free)
LiquidAI LFM2.5-Embedding-350M tuottaa jokaisesta tekstistä yhden 1024-ulotteisen vektorin monikieliseen ja kieltenväliseen tiedonhakuun. Se kohdistuu 11 kieleen ja lyhyisiin, 512 tokenin syötteisiin. Kyselyillä ja asiakirjoilla on erilliset etuliitteet.
Tietoa mallista
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
LFM2.5-Embedding-350M on LiquidAI:n tiheä bi-encoder monikieliseen ja kieltenväliseen tiedonhakuun. Se tuottaa yhden 1024-ulotteisen vektorin kullekin tekstille ja tähtää lyhyen kontekstin hakuun yhdellätoista kielellä. Nimetty 350M-malliperhe käyttää LFM2.5-350M-Basen kaksisuuntaista mukautusta; yksityiskohtainen mallitaulukko antaa tämän upotusversion parametrimääräksi noin 354 miljoonaa.
Kaksisuuntainen hakuesitys
Valmistaja mukauttaa perusmallia niin, että attention ja paikalliset konvoluutiot voivat käyttää kontekstia tokenin molemmilta puolilta. CLS-tyyppinen pooling muuntaa käsitellyn tekstin yhdeksi tiheäksi vektoriksi. Mallitaulukko kuvaa 17 kerrosta: kymmenen konvoluutiolohkoa, kuusi attention-lohkoa ja pooling-vaiheen. Tämä on hakukooderi, jolla on oma valmistelunsa ja tuloksensa, ei perusmallin tekstintuottotehtävä.
Erikseen nimetty LFM2.5-ColBERT-350M säilyttää tokenkohtaiset vektorit myöhäistä vuorovaikutusta varten. Tämä esitys tarvitsee erilaisen indeksin ja vertailumenetelmän. Tässä kuvattu Embedding-malli antaa yhden vektorin asiakirjaa tai kyselyä kohti ja käyttää dokumentoituna vertailuna kosinisamankaltaisuutta.
Käytä oikeita epäsymmetrisiä kehotteita
Valmistele hakukyselyt etuliitteellä ”query:” ja lähdekatkelmat etuliitteellä ”document:”. Valmistaja tallentaa nämä kehotteet kokoonpanoonsa, ja viitetyönkulku käyttää vastaavaa kehotenimeä. Se suosittelee nimenomaisesti kummallekin puolelle vastaavaa roolia, koska malli koulutettiin näillä etuliitteillä. Tämä asiakirjaetuliite eroaa E5-mallien ”passage:”-käytännöstä.
Käytännön tuotehakukokoelma voi sisältää kuvauksia tuetuilla kielillä. Valmistele käyttäjän hakusanamuoto kyselyksi ja kukin tuotekuvaus asiakirjaksi. Tallenna alkuperäinen teksti, tuotetunniste ja kieli vektorin yhteyteen, jotta hakutulos voi palauttaa vastaavan tietueen. Säilytä tukikokoelmassa kysymykselle olennainen sääntö tai ohje sen sijaan, että korvaisit sen asiaan liittymättömällä lyhyellä tunnuksella.
Kielet ja katkelmakoko
Dokumentoitu kielijoukko on englanti, espanja, saksa, ranska, italia, portugali, arabia, ruotsi, norja, japani ja korea. Valmistaja tähtää nimenomaisesti sekä kielen sisäiseen että kielirajat ylittävään hakuun. Valmistele tarkoitetun yleisön todellisia kysymyksiä ja tutki palautettua asiakirjatekstiä näillä kielillä.
Asiakirjapituuden määritys on 512 tokenia. Jaa pitkä lähde yhtenäisiin katkelmiin, jotka säilyttävät hakutuloksen tarvitseman otsikon, määritelmät ja ehdot. Roolietuliite ja lisätty konteksti kuuluvat valmisteltuun syötteeseen. UKK-vastaus, tuoteselitys tai teknisen asiakirjan kohdennettu osio on sopivampi kokonaisuus kuin kokonainen liian suuri käyttöopas.
Koulutus ja vastaavuus
Valmistaja kuvaa kolme koulutusvaihetta: englanninkielisen kontrastiivisen esikoulutuksen, monikielisen ja kieltenvälisen tislaamisen sekä hienosäädön louhituilla vaikeilla negatiivisilla esimerkeillä. Tuloksena syntynyt malli on tarkoitettu tuotekatalogeihin, UKK- ja tukikokoelmiin, tiedosto- tai muistiinpanohakuun sekä yritystiedon hakuun. Nämä ovat tekstiesitysten tehtäviä, eivät väitteitä tietyn sovelluksen käyttöönotosta.
Valmistajan esimerkki normalisoi kysely- ja asiakirjavektorit ja järjestää ne pistetulolla, mikä vastaa kosinisamankaltaisuutta. Esilaske korpusesitykset lähdemateriaalin valmistelun yhteydessä, upota sitten hakukysely ja palauta ehdokasasiakirjat teksteineen ja tunnisteineen. Säilytä valittu malli ja roolikäytäntö indeksin yhteydessä, jotta numeerinen vertailu käyttää yhteensopivia esityksiä.
Hyödyllinen tulos on kompakti tiheä hakuindeksi tai kyselyvektori, joka hakee lähdemateriaalia dokumentoidun kielijoukon yli. Tämä täsmällinen LFM2.5 Embedding -versio pysyy erillään ColBERT-kumppanistaan, vanhemmista LFM2-hakumalleista ja ulkoisesti kvantisoiduista toteutuksista. Valittu katkelmateksti on evidenssi, jota lukija tai myöhempi RAG-vastausvaihe käyttää.
Ailoot Ultra · Vektoriesitykset POST /v1/embeddings liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:freeAloitus
LiquidAI LFM2.5-Embedding-350M tuottaa jokaisesta tekstistä yhden 1024-ulotteisen vektorin monikieliseen ja kieltenväliseen tiedonhakuun. Se kohdistuu 11 kieleen ja lyhyisiin, 512 tokenin syötteisiin. Kyselyillä ja asiakirjoilla on erilliset etuliitteet.
- Hyväksytyt syötteet
- Teksti · token_ids
- Tulokset
- embedding
Saatavilla Ailootissa · syötteet & menetelmät
Ailoot Ultra · Vektoriesitykset POST /v1/embeddings
- Syötetyypit
text,token_ids- Tulostyypit
embedding- Konteksti
- 512 tokens
- Tulosteen muoto
- json
| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat liquid/lfm-2.5-embedding-350m:free | Oletus— |
Kenttäinput | Tyyppistring|string[]|integer[]|integer[][] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 Ehdot: Ei-tyhjä, yhdenmukaisista alkioista koostuva erä. Tokenien ID:t ovat ei-negatiivisia kokonaislukuja. Syötebudjetti: Enimmäismäärä: 512 · Tekstiyksikkö: UTF8-tavut · Tokenyksikkö: Token-taulukon alkiot | Oletus— |
Kenttäencoding_format | Tyyppistring | VaatimusValinnainen | Arvot & rajat float | Oletusfloat |
Kenttädimensions | Tyyppiinteger | VaatimusEi tuettu | Arvot & rajat Vähimmäismäärä: 1 | Oletus— |
Kenttäuser | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttäsession_id | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttätrace | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttäprovider | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Ehdot: provider.options hylätty | Oletus— |
Syöteaineistojen yhdistelmät
text_to_embedding
Menetelmän parametrit ja elinkaari
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, input |
Parametriinput_shapes | Sopimusstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametriencoding_format | Sopimusfloat |
Parametridimensions_override | Sopimusfalse |
Parametrimax_input_budget_units | Sopimus512 |
Parametrimultimodal_objects | Sopimusfalse |
Parametrimaterial_types | Sopimustext, token_ids |
Elinkaari: synchronous_json
Säilytä jokaisen vektorin indeksi ja ulottuvuus.
Mallin nimen multimodaalisuus ei tarkoita, että tämä nimenomainen reitti hyväksyisi kuvaolioita.
Hinnoittelu
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
- Nopea tila
- Vakiohinta Kun nopea tila on valittu
- Flex-tila
- Vakiohinta Kun flex-tila on valittu
- Päättelyn enimmäisteho
- Vakiohinta Kun päättelyn enimmäistehoon sovelletaan default-oletussäätöä
Ailoot-hinnat
Hinnat asetusten mukaan
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0 / 1K tokenia Tuloste · Tulostokenit $0 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
Esimerkkipyynnöt
Ailoot Ultra · Vektoriesitykset
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "liquid/lfm-2.5-embedding-350m:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='liquid/lfm-2.5-embedding-350m:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Vastaanota ja tallenna tulokset
Ailoot Ultra · Vektoriesitykset
json
Säilytä kaikki valmistuneet tulokset
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vektori indekseineen. Vektorien määrän on vastattava syötteiden määrää; ulottuvuuksien on oltava yhdenmukaiset.
Jos alkuperäinen vastaus on tarkistettava
Uutta upotustehtävien päätepistettä ei oteta käyttöön.
Vastauksen kentät
| Kenttä | Tyyppi |
|---|---|
Kenttäobject | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttädata[].index | Tyyppiinteger |
Kenttädata[].embedding | Tyyppifinite float[] |
Kenttäusage | Tyyppiobject |
Virheet ja seuraavat vaiheet
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Aliakset
Mallin aliakset
Ailoot Ultra liquid/lfm-2.5-embedding-350m:free
Menetelmäpolkujen aliakset
Käytä yllä näytettyjä menetelmäpolkuja.
Liittyvät kutsujan ID:t
FAQ · LiquidAI: LFM2.5-Embedding-350M (free)
- Mitä syötteitä ja tuloksia on saatavilla?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:text,token_ids→embedding- Mitä kenttiä pyyntö käyttää?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:model,input,encoding_format,provider- Mitä rajoja sovelletaan?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:ctx:512;input.budget.maximum:512(UTF8-tavut);input.min_items:1