Sentence Transformers: all-mpnet-base-v2
Sentence Transformers all-mpnet-base-v2 sakinius ir trumpas pastraipas paverčia 768 matmenų vektoriais, skirtais informacijos paieškai, grupavimui į klasterius ir panašumo vertinimui. Paskelbtoje procedūroje naudojamas vidurkinimas ir L2 normalizavimas, o pagal numatytuosius nustatymus įvestis nukerpama ties 384 žodžių dalimis.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
all-mpnet-base-v2 yra Sentence Transformers modelis, atvaizduojantis sakinius ir trumpas pastraipas 768 matmenų tankiaisiais vektoriais. Jis papildomai mokytas iš bazinio MPNet modelio taikant kontrastinį mokymąsi milijardo sakinių porų rinkinyje. Gamintojas kaip numatytas paskirtis nurodo informacijos paiešką, grupavimą į klasterius ir sakinių panašumo vertinimą.
Užkoduokite sakinį arba trumpą pastraipą
Paruoškite tekstą, kurį reikia palyginti, išsaugodami pagrindinę mintį ir skiriamąsias detales. Vidinių dokumentų kolekcijoje trumpas skyrius gali aprašyti, kaip paprašyti pakeisti įrangą arba kokia informacija turi būti techninės priežiūros ataskaitoje. Kartu su vektoriumi išlaikykite prieinamą dokumento pavadinimą ir vietą šaltinyje.
Tuo pačiu modeliu sukurtas užklausos įterpinys gali padėti rasti susijusius skyrius, net jei jų formuluotės skiriasi. Patikrinkite, ar tuose skyriuose yra skaitytojui iš tikrųjų reikalinga instrukcija. Panašumo vertinimo procese po paieškos palyginkite pačius kandidatinius sakinius, ypač kai viename yra išimtis ar sąlyga, kurios kitame nėra.
Vidurkinimas ir normalizavimas
Etaloniniame kodavimo pavyzdyje kontekstiniai žetonų atvaizdai vidurkinami atsižvelgiant į dėmesio kaukę, į vidurkį neįtraukiant užpildymo žetonų. Tada gauti sakinių įterpiniai normalizuojami pagal L2 normą. Kurdami vektorius kolekcijai ir vėlesnėms užklausoms išsaugokite abu veiksmus.
Kiekvienas vektorius turi 768 komponentus. Kosinuso panašumu galima palyginti šiuos normalizuotus atvaizdus, o šaltinio tekstas pateikia rezultatą pagrindžiančius duomenis. Vienodas komponentų skaičius nedaro šio modelio suderinamo su multi-qa-mpnet-base-dot-v1: toje atskiroje versijoje nurodytas CLS agregavimas ir nenormalizuoti vektoriai, kurių balai skaičiuojami skaliarine sandauga.
Numatytasis nukirpimas ir ištraukų paruošimas
Gamintojas nurodo, kad įvestis, viršijanti 384 žodžių dalis, pagal numatytuosius nustatymus nukerpama. Svarbų skyrių išlaikykite šios tokenizatoriaus ribos viduje. Ilgą procedūrą skaidykite prasmingose skyrių ribose ir pridėkite pakankamai vietinio konteksto, paaiškinančio, kam taikomas veiksmas. Tokiam fragmentui kaip „Pateikite per penkias dienas“ reikia įvykio ar proceso, nuo kurio pradedamas skaičiuoti terminas.
Mokymo procedūroje sekos buvo ribojamos iki 128 žetonų; tai atskira riba nuo paskelbtos numatytosios 384 žodžių dalių kodavimo ribos. Vertindami ilgesnes pastraipas ar jūsų kolekcijai būdingą žodyną naudokite reprezentatyvią medžiagą. Tai, kad į įvestį telpa daugiau teksto, neįrodo, jog kiekviena detalė vienodai paveiks paieškos rezultatą.
Paieška, grupavimas ir palyginimas
Paieškai išsaugokite vektoriaus ryšį su dokumentu, kad surikiuoti kandidatai leistų grąžinti originalius skyrius. RAG procese atrinkti skyriai tampa atsakymo rašymo etapo kontekstu. Modelis pateikia skaitinius atvaizdus; jis negeneruoja šaltiniais pagrįsto atsakymo ir nesprendžia, kuris dokumentas laikytinas autoritetingu.
Grupuodami į klasterius palyginkite kiekvienos siūlomos grupės įrašus prieš suteikdami žymas. Techninės priežiūros pastabų rinkinyje gali būti panašių formuluočių, tačiau jos gali būti susijusios su skirtingais įrenginiais ar gedimo sąlygomis. Į užkoduojamą tekstą įtraukite šias skiriamąsias detales ir tikrinkite jas grąžintoje medžiagoje, užuot pasikliovę vien balu.
Ši konkreti all-mpnet-base-v2 modelio versija yra anglų kalbos sakinių įterpinių profilis su savais vidurkinimo, normalizavimo ir numatytojo nukirpimo nustatymais. Saugokite šiuos nustatymus kartu su indeksuota kolekcija, o vektorius naudokite kaip pagalbą ieškant ir lyginant užduočiai svarbias šaltinio ištraukas.
Ailoot Ultra · Įterpiniai POST /v1/embeddings sentence-transformers/all-mpnet-base-v2
sentence-transformers/all-mpnet-base-v2
sentence-transformers/all-mpnet-base-v2Pradžia
Sentence Transformers all-mpnet-base-v2 sakinius ir trumpas pastraipas paverčia 768 matmenų vektoriais, skirtais informacijos paieškai, grupavimui į klasterius ir panašumo vertinimui. Paskelbtoje procedūroje naudojamas vidurkinimas ir L2 normalizavimas, o pagal numatytuosius nustatymus įvestis nukerpama ties 384 žodžių dalimis.
- Leidžiamos įvestys
- Tekstas · token_ids
- Rezultatai
- embedding
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Įterpiniai POST /v1/embeddings
- Įvestis
text,token_ids- Išvestis
embedding- Išvesties formatas
- json
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos sentence-transformers/all-mpnet-base-v2 | Numatyta— |
Laukasinput | Tipasstring|string[]|integer[]|integer[][] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 Sąlygos: Netuščias vienalyčių įvesčių paketas. Žetonų ID yra neneigiami sveikieji skaičiai. Įvesties biudžetas: Didžiausia reikšmė: 512 · Teksto vienetas: UTF8 baitai · Tokenų vienetas: žetonų masyvo elementai | Numatyta— |
Laukasencoding_format | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos float | Numatytafloat |
Laukasdimensions | Tipasinteger | ReikalavimasNepalaikoma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Laukasuser | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukassession_id | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukastrace | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options atmetamas | Numatyta— |
Įvesties medžiagos deriniai
text_to_embedding
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, input |
Parametrasinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrasencoding_format | Specifikacijafloat |
Parametrasdimensions_override | Specifikacijafalse |
Parametrasmax_input_budget_units | Specifikacija512 |
Parametrasmultimodal_objects | Specifikacijafalse |
Parametrasmaterial_types | Specifikacijatext, token_ids |
Gyvavimo ciklas: synchronous_json
Išsaugokite kiekvieną vektoriaus indeksą ir matmenį.
Tai, kad modelio pavadinimas nurodo multimodalumą, nereiškia, jog šiuo konkrečiu keliu priimami vaizdų objektai.
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Nenurodyta Pasirinkus spartųjį režimą
- Flex režimas
- Nenurodyta Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Nenurodyta Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00001 / 1K tokenų Išvestis · Išvesties tokenai $0 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Įterpiniai
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/all-mpnet-base-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/all-mpnet-base-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Įterpiniai
json
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną vektorių su jo indeksu. Vektorių skaičius turi sutapti su įvesčių skaičiumi; jų matmenų skaičius turi būti vienodas.
Jei reikia patikrinti pradinį atsakymą
Vektorių generavimo užduotims atskiras API galinis taškas neįvedamas.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasobject | Tipasstring |
Laukasmodel | Tipasstring |
Laukasdata[].index | Tipasinteger |
Laukasdata[].embedding | Tipasfinite float[] |
Laukasusage | Tipasobject |
Klaidos ir tolesni veiksmai
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra sentence-transformers/all-mpnet-base-v2
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · Sentence Transformers: all-mpnet-base-v2
- Kokios įvestys ir rezultatai prieinami?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:text,token_ids→embedding- Kokius laukus naudoja užklausa?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:model,input,encoding_format,provider- Kokie apribojimai taikomi?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:input.budget.maximum:512(UTF8 baitai);input.min_items:1