BAAI: bge-large-en-v1.5
BAAI bge-large-en-v1.5 kuria 1024 matmenų angliško teksto vektorius paieškai ir semantiniam palyginimui. Jo v1.5 paruošimas palaiko pasirenkamą užklausos instrukciją, o dokumentuotas sekos ilgis yra 512 žetonų.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
bge-large-en-v1.5 – tai didysis „BAAI“ anglų kalbos tankiųjų įterpinių leidimas. Jis paverčia tekstą 1024 matmenų vektoriumi ištraukų paieškai ir semantiniam palyginimui. 1.5 versija yra gamintojo atnaujinimas, siekiantis naudingesnio panašumo pasiskirstymo ir geresnės paieškos be instrukcijos. Large išlieka atskiras kontrolinis taškas nuo Base, Small, kinų kalbos leidimų ir daugiakalbio BGE-M3 modelio.
Paruoškite ištraukų paiešką
Trumpai paieškos užklausai ilgesniuose dokumentuose gamintojas rekomenduoja užklausos instrukciją „Represent this sentence for searching relevant passages:“. Pridėkite ją užklausos pusėje; korpuso ištraukos išlaiko savo pradinį tekstą be šios instrukcijos. Kitais naudojimo atvejais pakanka tiesioginio teksto. „BAAI“ taip pat dokumentuoja v1.5 paiešką be priešdėlio ir rekomenduoja parinkti tikrai užduočiai geriausiai tinkantį parengimą.
Praktinis žinių rinkinys gali indeksuoti angliško techninio vadovo skyrius. Klausimas apie nustatymą, keičiantį išvesties formatą, turi grąžinti tą nustatymą ir jo sąlygas aiškinantį skyrių. Kartu su kiekviena ištrauka išsaugokite antraštę, svarbų paaiškinimą ir vietą šaltinyje. Modelis pateikia skaitinę reprezentaciją; grąžintas pradinis tekstas yra tai, ką naudoja skaitytojas ar vėlesnis RAG etapas.
Reprezentacija ir palyginimas
Gamintojo tiesioginio kodavimo pavyzdys kaip sutelktą įterpinį naudoja galutinę pirmojo CLS žetono paslėptąją būseną ir tada normalizuoja vektorių. Normalizuotų vektorių skaliarinė sandauga duoda kosinusinį panašumą. Todėl kiekvieną ištrauką galima paruošti vieną kartą ir išsaugoti palyginimui su gaunamais užklausų vektoriais, o pasikeitusiai pradinei medžiagai sukurti atnaujintą reprezentaciją.
1024 matmenys nurodo išvesties vektoriaus ilgį. Jie skiriasi nuo 768 matmenų Base reprezentacijos ir neįrodo suderinamos bendros erdvės su kitu kontroliniu tašku. Modelį ir parengimo susitarimą susiekite su išsaugotu indeksu. Pakeitus įterpinių leidimą reikia kartu patikrinti korpuso ir užklausų reprezentacijas.
Sutalpinkite šaltinį į langą
Dokumentuotas sekos ilgis yra 512 žetonų. Ilgą vadovą paruoškite kaip nuoseklius skyrius, o ne vieną per didelę įvestį. Sąlygą ar išimtį laikykite greta jos tikslinamos taisyklės ir pateikite pakankamai konteksto, kad rasta dalis būtų suprantama pati savaime. Papildoma užklausos instrukcija taip pat naudoja įvesties žetonus, todėl modelio langas apima visą paruoštą įvestį.
Naudinga ištraukos riba gali apimti antraštę ir pastraipas, atsakančias į vieną naudotojo klausimą. Pagrindinio dokumento identifikatorių ir versiją išsaugokite už vektoriaus ribų, kad rezultatą būtų galima atsekti iki teisingo šaltinio. Palyginimui naudokite tikrus lygintinus tekstus, o ne pakeiskite juos nesusijusiomis santraukomis, pašalinančiomis skirtumą, kurį reikia rasti.
Interpretuokite įvertį
Gamintojas įspėja nelaikyti absoliutaus panašumo universalia semantinio lygiavertiškumo taisykle. Paieškai svarbiausia santykinė įverčių eilė, o slenkstį reikia kalibruoti pagal užduoties tekstų pasiskirstymą. Peržiūrėkite kandidatines ištraukas klausimams su žinomais atsakymais ir klausimams, kurių atsakymo nėra. Tai parodo, ar grąžintas skyrius pateikia reikiamą informaciją, o ne tik panašus į temą.
bge-large-en-v1.5 pateikia anglų kalbos tankiuosius vektorius. Atskiras pakartotinio rikiavimo modelis gali patikslinti kandidatų eilę, o atskiras kalbinis modelis – parengti atsakymą pagal pasirinktas ištraukas. Naudinga šio leidimo išvestis yra paieškai tinkama reprezentacija, susieta su pradiniu tekstu, išsaugant tikslų Large v1.5 modelio pasirinkimą ir įvesties parengimą.
Ailoot Ultra · Įterpiniai POST /v1/embeddings baai/bge-large-en-v1.5
baai/bge-large-en-v1.5Pradžia
BAAI bge-large-en-v1.5 kuria 1024 matmenų angliško teksto vektorius paieškai ir semantiniam palyginimui. Jo v1.5 paruošimas palaiko pasirenkamą užklausos instrukciją, o dokumentuotas sekos ilgis yra 512 žetonų.
- Leidžiamos įvestys
- Tekstas · token_ids
- Rezultatai
- embedding
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Įterpiniai POST /v1/embeddings
- Įvestis
text,token_ids- Išvestis
embedding- Išvesties formatas
- json
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos baai/bge-large-en-v1.5 | Numatyta— |
Laukasinput | Tipasstring|string[]|integer[]|integer[][] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 Sąlygos: Netuščias vienalyčių įvesčių paketas. Žetonų ID yra neneigiami sveikieji skaičiai. Įvesties biudžetas: Didžiausia reikšmė: 512 · Teksto vienetas: UTF8 baitai · Tokenų vienetas: žetonų masyvo elementai | Numatyta— |
Laukasencoding_format | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos float | Numatytafloat |
Laukasdimensions | Tipasinteger | ReikalavimasNepalaikoma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Laukasuser | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukassession_id | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukastrace | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options atmetamas | Numatyta— |
Įvesties medžiagos deriniai
text_to_embedding
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, input |
Parametrasinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrasencoding_format | Specifikacijafloat |
Parametrasdimensions_override | Specifikacijafalse |
Parametrasmax_input_budget_units | Specifikacija512 |
Parametrasmultimodal_objects | Specifikacijafalse |
Parametrasmaterial_types | Specifikacijatext, token_ids |
Gyvavimo ciklas: synchronous_json
Išsaugokite kiekvieną vektoriaus indeksą ir matmenį.
Tai, kad modelio pavadinimas nurodo multimodalumą, nereiškia, jog šiuo konkrečiu keliu priimami vaizdų objektai.
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Nenurodyta Pasirinkus spartųjį režimą
- Flex režimas
- Nenurodyta Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Nenurodyta Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00002 / 1K tokenų Išvestis · Išvesties tokenai $0 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Įterpiniai
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-large-en-v1.5", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-large-en-v1.5',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Įterpiniai
json
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną vektorių su jo indeksu. Vektorių skaičius turi sutapti su įvesčių skaičiumi; jų matmenų skaičius turi būti vienodas.
Jei reikia patikrinti pradinį atsakymą
Vektorių generavimo užduotims atskiras API galinis taškas neįvedamas.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasobject | Tipasstring |
Laukasmodel | Tipasstring |
Laukasdata[].index | Tipasinteger |
Laukasdata[].embedding | Tipasfinite float[] |
Laukasusage | Tipasobject |
Klaidos ir tolesni veiksmai
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra baai/bge-large-en-v1.5
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · BAAI: bge-large-en-v1.5
- Kokios įvestys ir rezultatai prieinami?
POST /v1/embeddings·baai/bge-large-en-v1.5:text,token_ids→embedding- Kokius laukus naudoja užklausa?
POST /v1/embeddings·baai/bge-large-en-v1.5:model,input,encoding_format,provider- Kokie apribojimai taikomi?
POST /v1/embeddings·baai/bge-large-en-v1.5:input.budget.maximum:512(UTF8 baitai);input.min_items:1