BAAI: bge-base-en-v1.5
BAAI bge-base-en-v1.5 paverčia anglišką tekstą į 768 matmenų vektorius semantinės paieškos ir panašumo užduotims. Jo 512 žetonų įvesties langas ir tik užklausai skirta paieškos instrukcija tinka konkrečios temos ištraukoms dokumentų ar žinių paieškos indekse.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
bge-base-en-v1.5 – BAAI Base dydžio angliškas tankiųjų įterpinių modelis. Kiekvieną tekstą jis paverčia 768 matmenų skaitine reprezentacija paieškai ir semantiniam palyginimui. Modelis priklauso BGE v1.5 linijai, kuri koreguoja ankstesnės šeimos panašumo balų pasiskirstymą ir pagerina paiešką, kai instrukcija nepateikiama. Jo išvestis yra vektorius tekstams palyginti arba susijusioms ištraukoms rasti.
Paruoškite užklausas ir ištraukas
Trumpai užklausai, ieškančiai ilgesnių ištraukų, BAAI rekomenduoja prieš užklausą pridėti „Represent this sentence for searching relevant passages:“. Tekstyno ištraukos šios instrukcijos negauna. Kitoms užduotims pirminį tekstą galima tiesiogiai paversti įterpiniu. Gamintojas pažymi, kad v1.5 veikia ir be instrukcijos, todėl paruošimą reikia rinktis pagal užduotį, o ne laikyti prefiksą vienintele tinkama įvestimi.
Praktiniame paieškos rinkinyje gali būti pagalbos straipsniai, produktų paaiškinimai ar techninės instrukcijos. Tokia užklausa kaip „How do I change the export format?“ turėtų rasti ištrauką, aprašančią tą veiksmą. Skyriaus antraštę, susijusias sąlygas ir tikrąjį šaltinio tekstą išsaugokite kartu. Šalia vektoriaus saugokite ištraukos identifikatorių ir vietą, kad paieškos rezultatas grąžintų medžiagą, kurią naudotojas gali perskaityti arba vėlesnis atsakymo etapas cituoti.
Vektoriaus formatas ir palyginimas
Dokumentuota reprezentacija naudoja pirmo, arba CLS, žetono galutinę paslėptą būseną kaip sakinio įterpinį. Gamintojo pavyzdžiuose vektorius normalizuojamas, o normalizuoti įterpiniai lyginami skaliarine sandauga, lygiaverte kosinusiniam panašumui. 768 matmenys yra šio modelio išvesties reprezentacijos dydis; tai nėra pasirenkamas konteksto ilgis ar teksto generavimo limitas.
Lyginamiems užklausos ir tekstyno vektoriams naudokite tą patį modelį ir paruošimo konvenciją. Praktinė patikra – nedideliam tikrų naudotojų klausimų rinkiniui rasti žinomas atsakymą turinčias ištraukas, tada peržiūrėti grąžintą tekstą. Suderinama vektoriaus forma leidžia indeksui saugoti reprezentaciją, o šaltinio ištrauka parodo, ką rezultatas iš tikrųjų sako.
Įvesties ilgis ir dokumentų paruošimas
Dokumentuotas modelio sekos ilgis yra 512 žetonų. Todėl ilgą šaltinį prieš kodavimą reikia suskaidyti į nuoseklias, atsakymus turinčias ištraukas. Apibrėžimus ir išimtis išsaugokite su teiginiu, kurį jie patikslina, ir išlaikykite ryšį su pirminiu dokumentu. Koduojamas tekstas apima visas pridėtas instrukcijas ar antraštes, todėl glaustas paruošimas palieka daugiau vietos naudingam šaltinio turiniui.
Ataskaitoje ar vadove ribas rinkitės pagal skyrių arba nedidelę susijusių pastraipų grupę. Ištrauką, kurioje tėra antraštė arba fragmentas be jo objekto, radus gali būti sunku interpretuoti. Išsaugokite pirminį tekstą ir šaltinio versiją, kad dokumentui pasikeitus indekso atnaujinimas pakeistų atitinkamą medžiagą.
Balai ir naudinga išvestis
BAAI perspėja, kad absoliučios panašumo reikšmės nėra universalūs slenksčiai nuspręsti, ar du tekstai reiškia tą patį. Svarbus santykinis rikiavimas, o filtravimo slenkstį reikia pasirinkti pagal pačios užduoties duomenų pasiskirstymą. Didelis vektorių panašumas yra paieškos signalas, o ne ištraukos faktinio turinio patvirtinimas.
Naudingas rezultatas – angliškų ištraukų indeksas, užklausų vektorių rinkinys arba skaitiniai požymiai semantiniam palyginimui. Atskiras pakartotinio reitingavimo modelis gali patikslinti rastus kandidatus, o atskiras generavimo etapas parašyti atsakymą pagal jų tekstą. Šis konkretus angliškas Base v1.5 modelis lieka atskiras nuo BGE Large, kiniškų leidimų ir BGE-M3 daugiakalbės bei hibridinės paieškos profilių.
Ailoot Ultra · Įterpiniai POST /v1/embeddings baai/bge-base-en-v1.5
baai/bge-base-en-v1.5Pradžia
BAAI bge-base-en-v1.5 paverčia anglišką tekstą į 768 matmenų vektorius semantinės paieškos ir panašumo užduotims. Jo 512 žetonų įvesties langas ir tik užklausai skirta paieškos instrukcija tinka konkrečios temos ištraukoms dokumentų ar žinių paieškos indekse.
- Leidžiamos įvestys
- Tekstas · token_ids
- Rezultatai
- embedding
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Įterpiniai POST /v1/embeddings
- Įvestis
text,token_ids- Išvestis
embedding- Išvesties formatas
- json
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos baai/bge-base-en-v1.5 | Numatyta— |
Laukasinput | Tipasstring|string[]|integer[]|integer[][] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 Sąlygos: Netuščias vienalyčių įvesčių paketas. Žetonų ID yra neneigiami sveikieji skaičiai. Įvesties biudžetas: Didžiausia reikšmė: 512 · Teksto vienetas: UTF8 baitai · Tokenų vienetas: žetonų masyvo elementai | Numatyta— |
Laukasencoding_format | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos float | Numatytafloat |
Laukasdimensions | Tipasinteger | ReikalavimasNepalaikoma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Laukasuser | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukassession_id | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukastrace | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options atmetamas | Numatyta— |
Įvesties medžiagos deriniai
text_to_embedding
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, input |
Parametrasinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrasencoding_format | Specifikacijafloat |
Parametrasdimensions_override | Specifikacijafalse |
Parametrasmax_input_budget_units | Specifikacija512 |
Parametrasmultimodal_objects | Specifikacijafalse |
Parametrasmaterial_types | Specifikacijatext, token_ids |
Gyvavimo ciklas: synchronous_json
Išsaugokite kiekvieną vektoriaus indeksą ir matmenį.
Tai, kad modelio pavadinimas nurodo multimodalumą, nereiškia, jog šiuo konkrečiu keliu priimami vaizdų objektai.
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Nenurodyta Pasirinkus spartųjį režimą
- Flex režimas
- Nenurodyta Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Nenurodyta Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00001 / 1K tokenų Išvestis · Išvesties tokenai $0 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Įterpiniai
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-base-en-v1.5", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-base-en-v1.5',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Įterpiniai
json
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną vektorių su jo indeksu. Vektorių skaičius turi sutapti su įvesčių skaičiumi; jų matmenų skaičius turi būti vienodas.
Jei reikia patikrinti pradinį atsakymą
Vektorių generavimo užduotims atskiras API galinis taškas neįvedamas.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasobject | Tipasstring |
Laukasmodel | Tipasstring |
Laukasdata[].index | Tipasinteger |
Laukasdata[].embedding | Tipasfinite float[] |
Laukasusage | Tipasobject |
Klaidos ir tolesni veiksmai
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra baai/bge-base-en-v1.5
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · BAAI: bge-base-en-v1.5
- Kokios įvestys ir rezultatai prieinami?
POST /v1/embeddings·baai/bge-base-en-v1.5:text,token_ids→embedding- Kokius laukus naudoja užklausa?
POST /v1/embeddings·baai/bge-base-en-v1.5:model,input,encoding_format,provider- Kokie apribojimai taikomi?
POST /v1/embeddings·baai/bge-base-en-v1.5:input.budget.maximum:512(UTF8 baitai);input.min_items:1