Intfloat: E5-Large-v2
intfloat E5-Large-v2 koduoja angliškas užklausas ir ištraukas į 1024 matmenų vektorius. Jo 24 sluoksnių modelis naudoja query/passage vaidmenis, vidurkinimo agregavimą ir 512 žetonų įvesties ribą paieškai, semantiniam panašumui bei skaitiniams teksto požymiams.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
E5-Large-v2 – intfloat angliško teksto įterpinių modelis, turintis dvidešimt keturis sluoksnius ir 1024 matmenų išvestį. Jis skirtas užklausoms ir ištraukoms skaitmeniškai atvaizduoti paieškai bei kitoms įterpinių užduotims. E5 paruošimo konvencija yra jo mokymo dalis: įvesties tekstas turi vaidmens prefiksą, o užkoduotos žetonų reprezentacijos sujungiamos į vieną to teksto vektorių.
Aiškiai išlaikykite užklausos ir ištraukos vaidmenis
Asimetrinėje paieškoje klausimą pradėkite „query:“, o tekstyno tekstą – „passage:“. Šie vaidmenys skiria tai, ko naudotojas ieško, nuo medžiagos, kuri gali atsakyti. Simetriniam palyginimui, perfrazuotų tekstų paieškai arba grupavimo ar klasifikavimo požymiams gamintojas rekomenduoja „query:“ tekstams, paverčiamiems įterpiniais.
Praktiniame rinkinyje galima indeksuoti angliškus pagalbos paaiškinimus. Paruoškite tokį klausimą kaip „query: What should I check before replacing the connector?“ ir susiekite jį su šaltinio ištraukomis, aprašančiomis patikras bei išimtis. Ištraukos tekstas išlaiko atitinkamą prefiksą. Šalia kiekvieno vektoriaus saugokite šaltinio identifikatorių ir pirminę formuluotę, kad rezultatas galėtų grąžinti medžiagą, kurią naudotojui reikia perskaityti.
Prefiksai nėra dekoratyvinės žymos, kurias galima pašalinti vienoje užduoties pusėje. Gamintojas nurodo, kad jų praleidimas pablogina paieškos rezultatus, nes modelis mokytas su tokiu paruošimu. Pasirinktą vaidmenį nuosekliai taikykite kurdami tekstyną ir vėliau koduodami užklausą.
Vidurkinimo agregavimas ir normalizuoti vektoriai
Oficialiame kodavimo pavyzdyje žetonų reprezentacijos vidurkinamos, dėmesio kauke atmetant užpildymo pozicijas. Tada gautas vektorius normalizuojamas. Normalizuotų užklausos ir ištraukos vektorių skaliarinė sandauga suteikia kosinusinį panašumą kandidatams rikiuoti. Šis vidurkinimo receptas priklauso E5-Large-v2; kitos šeimos agregavimas pagal pirmą žetoną yra atskiras paruošimo pasirinkimas.
1024 išvesties reikšmės sudaro įterpinį, o ne rašytinį atsakymą ar tiesioginę kategorijos žymą. Paieškos etapas palygina šias reikšmes su suderinamomis tekstyno reprezentacijomis, o vėlesnis etapas naudoja pasirinktos ištraukos tekstą. Jei vektoriai naudojami grupavimo ar klasifikatoriaus požymiams, išlaikykite kiekvieno vektoriaus ryšį su įvesties įrašu, kurio požymius jis atvaizduoja.
Angliškas tekstas lange
Modelio kortelėje nurodytas tik angliškas tekstas ir ilgų įvesčių nukirpimas iki ne daugiau kaip 512 žetonų. Kiekvieną dokumento ištrauką išlaikykite nuoseklią šiame lange, įskaitant vaidmens prefiksą ir naudingą šaltinio kontekstą. Ilgą vadovą paruoškite kaip skyrius, kurių antraštės, sąlygos ir instrukcijos suprantamos radus juos atskirai.
Pavyzdžiui, nuostatai, aprašančiai nustatymą, gali reikėti to nustatymo apibrėžimo ir išimties kitame sakinyje. Šį nedidelį vienetą išsaugokite kartu, užuot skaidę vien pagal ženklų skaičių. Su ištrauka išlaikykite pirminį dokumentą ir šaltinio versiją, kad atnaujinimas pakeistų teisingą medžiagą.
Rikiavimą vertinkite kaip paieškos požymį
Gamintojas paaiškina, kad kosinusinių balų tvarka svarbesnė už absoliučias reikšmes. Balo negalima interpretuoti kaip kalibruotos tikimybės, kad ištrauka atsako į klausimą. Rinkdamiesi, kiek rezultatų išsaugoti arba kur filtruoti kandidatų rinkinį, tikrinkite žinomas atsakymą turinčias ištraukas ir šalia esančią nesusijusią medžiagą.
Naudinga išvestis – tekstyno ar užklausos reprezentacija, semantinio palyginimo signalas arba skaitiniai požymiai kitai užduočiai. Šis konkretus angliškas Large v2 kontrolinis taškas lieka atskiras nuo E5-Base-v2 ir Multilingual-E5-Large. Vien matmenų sutapimas nepaverčia jų vektorių dokumentuota bendra įterpinių erdve.
Ailoot Ultra · Įterpiniai POST /v1/embeddings intfloat/e5-large-v2
intfloat/e5-large-v2Pradžia
intfloat E5-Large-v2 koduoja angliškas užklausas ir ištraukas į 1024 matmenų vektorius. Jo 24 sluoksnių modelis naudoja query/passage vaidmenis, vidurkinimo agregavimą ir 512 žetonų įvesties ribą paieškai, semantiniam panašumui bei skaitiniams teksto požymiams.
- Leidžiamos įvestys
- Tekstas · token_ids
- Rezultatai
- embedding
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Įterpiniai POST /v1/embeddings
- Įvestis
text,token_ids- Išvestis
embedding- Išvesties formatas
- json
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos intfloat/e5-large-v2 | Numatyta— |
Laukasinput | Tipasstring|string[]|integer[]|integer[][] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 Sąlygos: Netuščias vienalyčių įvesčių paketas. Žetonų ID yra neneigiami sveikieji skaičiai. Įvesties biudžetas: Didžiausia reikšmė: 512 · Teksto vienetas: UTF8 baitai · Tokenų vienetas: žetonų masyvo elementai | Numatyta— |
Laukasencoding_format | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos float | Numatytafloat |
Laukasdimensions | Tipasinteger | ReikalavimasNepalaikoma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Laukasuser | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukassession_id | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukastrace | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options atmetamas | Numatyta— |
Įvesties medžiagos deriniai
text_to_embedding
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, input |
Parametrasinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrasencoding_format | Specifikacijafloat |
Parametrasdimensions_override | Specifikacijafalse |
Parametrasmax_input_budget_units | Specifikacija512 |
Parametrasmultimodal_objects | Specifikacijafalse |
Parametrasmaterial_types | Specifikacijatext, token_ids |
Gyvavimo ciklas: synchronous_json
Išsaugokite kiekvieną vektoriaus indeksą ir matmenį.
Tai, kad modelio pavadinimas nurodo multimodalumą, nereiškia, jog šiuo konkrečiu keliu priimami vaizdų objektai.
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Nenurodyta Pasirinkus spartųjį režimą
- Flex režimas
- Nenurodyta Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Nenurodyta Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00002 / 1K tokenų Išvestis · Išvesties tokenai $0 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Įterpiniai
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "intfloat/e5-large-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='intfloat/e5-large-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Įterpiniai
json
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną vektorių su jo indeksu. Vektorių skaičius turi sutapti su įvesčių skaičiumi; jų matmenų skaičius turi būti vienodas.
Jei reikia patikrinti pradinį atsakymą
Vektorių generavimo užduotims atskiras API galinis taškas neįvedamas.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasobject | Tipasstring |
Laukasmodel | Tipasstring |
Laukasdata[].index | Tipasinteger |
Laukasdata[].embedding | Tipasfinite float[] |
Laukasusage | Tipasobject |
Klaidos ir tolesni veiksmai
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra intfloat/e5-large-v2
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · Intfloat: E5-Large-v2
- Kokios įvestys ir rezultatai prieinami?
POST /v1/embeddings·intfloat/e5-large-v2:text,token_ids→embedding- Kokius laukus naudoja užklausa?
POST /v1/embeddings·intfloat/e5-large-v2:model,input,encoding_format,provider- Kokie apribojimai taikomi?
POST /v1/embeddings·intfloat/e5-large-v2:input.budget.maximum:512(UTF8 baitai);input.min_items:1