Sentence Transformers: multi-qa-mpnet-base-dot-v1
Sentence Transformers multi-qa-mpnet-base-dot-v1 klausimus ir teksto ištraukas koduoja į 768 matmenų vektorius semantinei paieškai. Naudojamas CLS agregavimas ir nenormalizuoti įterpiniai, skirti balams skaičiuoti skaliarine sandauga; įvesties riba yra 512 žodžių dalių.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
multi-qa-mpnet-base-dot-v1 yra Sentence Transformers modelis, skirtas teksto ištraukoms pagal klausimą ar užklausą rasti. Jam mokyti panaudota apie 215 milijonų klausimų ir atsakymų porų. Kiekviena įvestis tampa 768 matmenų tankiuoju vektoriumi; šią konkrečią versiją apibrėžia CLS agregavimas ir balų skaičiavimas skaliarine sandauga.
Paruoškite klausimą ir kandidatines ištraukas
Užklausą suformuluokite kaip informacijos poreikį, o korpuso įrašus paruoškite kaip skaitomas teksto ištraukas. Pavyzdžiui, klausimą apie pristatymo adreso pakeitimą galima palyginti su atskiromis pastraipomis apie adreso keitimą, užsakymo atšaukimą ir pristatymo sekimą. Ištraukoje apie adreso keitimą išsaugokite svarbias sąlygas, įskaitant tai, ar užsakymas jau išsiųstas.
Užklausą ir ištraukas koduokite tuo pačiu modeliu. Paskelbtame pavyzdyje tai daroma tiesiogiai, be query/document priešdėlio, ir ištraukos rikiuojamos pagal skaliarinės sandaugos balus. Kiekvieną vektorių išlaikykite susietą su originalia ištrauka ir dokumento identifikatoriumi, kad surikiuotame rezultate būtų galima parodyti iš tikrųjų indeksuotą medžiagą.
CLS agregavimas ir skaliarinės sandaugos versija
Etaloninėje modelio procedūroje imamas pirmojo žetono atvaizdas; tai vadinama CLS agregavimu. Techninėje lentelėje aiškiai nurodyta, kad įterpiniai nenormalizuojami, o tinkama balų funkcija yra skaliarinė sandauga. Nustatydami kolekciją ir užklausų pusę išsaugokite šią procedūrą.
Normalizavimas pagal L2 normą pakeičia šių vektorių balų skaičiavimo geometriją. Normalizuotų įterpinių all-mpnet-base-v2 profilis naudoja kitokią procedūrą ir yra atskira modelio versija, nors priklauso tai pačiai MPNet šeimai ir grąžina 768 komponentus. Tikslią versiją ir palyginimo funkciją saugokite kartu su kolekcija, o ne rinkitės vien pagal vektoriaus ilgį.
Ilgio riba ir ilgesnės ištraukos
Nurodyta įvesties riba yra 512 žodžių dalių; ilgesnis tekstas nukerpamas. Gamintojas taip pat pažymi, kad mokymo įvestys siekė tik 250 žodžių dalių ir ilgesnis tekstas gali veikti prasčiau. Taigi tokenizatoriaus priimamos įvesties ilgis ir išlyga dėl mokymo įvesčių ilgio apibūdina skirtingas praktines ribas.
Didelį pagalbos straipsnį paruoškite kaip trumpus skyrius, atsakančius į konkrečius klausimus. Išsaugokite antraštę, jei ji nurodo temą, ir taisyklę laikykite kartu su išimtimi, būtina jai teisingai suprasti. Viena viso puslapio įvestis dėl nukirpimo gali netekti vėlesnės medžiagos, o pernelyg mažas fragmentas gali prarasti sąlygą, dėl kurios jis naudingas.
Rikiavimo naudojimas paieškoje ir RAG
Tankieji vektoriai padeda atlikti pradinį informacijos paieškos etapą. Grąžinkite didžiausius balus gavusias kandidatines ištraukas su nuorodomis į šaltinius ir patikrinkite, ar jos atsako į tikrąjį klausimą. RAG procese šias ištraukas pateikite atsakymo rašymo etapui kaip šaltinio medžiagą; pati paieška atsakymo nesukuria.
Rezultatų skaičiui pasirinkti ir rikiavimui įvertinti naudokite reprezentatyvius klausimus su žinomomis svarbiomis ištraukomis. Įtraukite pavyzdžių su panašiu žodynu, bet skirtingu ketinimu, pavyzdžiui, adreso keitimą ir dabartinio adreso peržiūrą. Balus interpretuokite kitų kandidatų atžvilgiu pagal tą patį modelį ir balų skaičiavimo nustatymus, o ne kaip sukalibruotas teisingumo tikimybes.
Naudingas šios modelio versijos rezultatas yra klausimų ir ištraukų įterpinių erdvė semantinei paieškai. Nenormalizuoti vektoriai, CLS agregavimas, skaliarinės sandaugos balas ir paskelbta išlyga dėl ilgų įvesčių yra detalės, kurias reikia išsaugoti ruošiant ir naudojant rezultatus.
Ailoot Ultra · Įterpiniai POST /v1/embeddings sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1Pradžia
Sentence Transformers multi-qa-mpnet-base-dot-v1 klausimus ir teksto ištraukas koduoja į 768 matmenų vektorius semantinei paieškai. Naudojamas CLS agregavimas ir nenormalizuoti įterpiniai, skirti balams skaičiuoti skaliarine sandauga; įvesties riba yra 512 žodžių dalių.
- Leidžiamos įvestys
- Tekstas · token_ids
- Rezultatai
- embedding
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Įterpiniai POST /v1/embeddings
- Įvestis
text,token_ids- Išvestis
embedding- Išvesties formatas
- json
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos sentence-transformers/multi-qa-mpnet-base-dot-v1 | Numatyta— |
Laukasinput | Tipasstring|string[]|integer[]|integer[][] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 Sąlygos: Netuščias vienalyčių įvesčių paketas. Žetonų ID yra neneigiami sveikieji skaičiai. Įvesties biudžetas: Didžiausia reikšmė: 512 · Teksto vienetas: UTF8 baitai · Tokenų vienetas: žetonų masyvo elementai | Numatyta— |
Laukasencoding_format | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos float | Numatytafloat |
Laukasdimensions | Tipasinteger | ReikalavimasNepalaikoma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Laukasuser | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukassession_id | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukastrace | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options atmetamas | Numatyta— |
Įvesties medžiagos deriniai
text_to_embedding
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, input |
Parametrasinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrasencoding_format | Specifikacijafloat |
Parametrasdimensions_override | Specifikacijafalse |
Parametrasmax_input_budget_units | Specifikacija512 |
Parametrasmultimodal_objects | Specifikacijafalse |
Parametrasmaterial_types | Specifikacijatext, token_ids |
Gyvavimo ciklas: synchronous_json
Išsaugokite kiekvieną vektoriaus indeksą ir matmenį.
Tai, kad modelio pavadinimas nurodo multimodalumą, nereiškia, jog šiuo konkrečiu keliu priimami vaizdų objektai.
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Nenurodyta Pasirinkus spartųjį režimą
- Flex režimas
- Nenurodyta Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Nenurodyta Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00001 / 1K tokenų Išvestis · Išvesties tokenai $0 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Įterpiniai
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/multi-qa-mpnet-base-dot-v1", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/multi-qa-mpnet-base-dot-v1',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Įterpiniai
json
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną vektorių su jo indeksu. Vektorių skaičius turi sutapti su įvesčių skaičiumi; jų matmenų skaičius turi būti vienodas.
Jei reikia patikrinti pradinį atsakymą
Vektorių generavimo užduotims atskiras API galinis taškas neįvedamas.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasobject | Tipasstring |
Laukasmodel | Tipasstring |
Laukasdata[].index | Tipasinteger |
Laukasdata[].embedding | Tipasfinite float[] |
Laukasusage | Tipasobject |
Klaidos ir tolesni veiksmai
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra sentence-transformers/multi-qa-mpnet-base-dot-v1
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · Sentence Transformers: multi-qa-mpnet-base-dot-v1
- Kokios įvestys ir rezultatai prieinami?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:text,token_ids→embedding- Kokius laukus naudoja užklausa?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:model,input,encoding_format,provider- Kokie apribojimai taikomi?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:input.budget.maximum:512(UTF8 baitai);input.min_items:1