Sentence Transformers: multi-qa-mpnet-base-dot-v1
Sentence Transformers multi-qa-mpnet-base-dot-v1 vprašanja in odlomke kodira v 768-razsežne vektorje za semantično iskanje. Uporablja CLS-pooling in nenormalizirane embeddinge, namenjene ocenjevanju s skalarnim produktom, z omejitvijo vhoda 512 podbesednih enot.
O modelu
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
multi-qa-mpnet-base-dot-v1 je model Sentence Transformers, zasnovan za pridobivanje besedilnih odlomkov glede na vprašanje ali poizvedbo. Pri učenju je uporabil približno 215 milijonov parov vprašanje–odgovor. Vsak vhod postane 768-razsežen gosti vektor, to konkretno izdajo pa določata CLS-pooling in ocenjevanje s skalarnim produktom.
Pripravite vprašanje in kandidatne odlomke
Poizvedbo zapišite kot informacijsko potrebo, vnose korpusa pa pripravite kot čitljive besedilne odlomke. Vprašanje o spremembi naslova dostave lahko na primer primerjate z ločenimi odstavki o spremembah naslova, preklicu naročila in spremljanju dostave. V odlomku o spremembi naslova ohranite relevantne pogoje, vključno s tem, ali je bilo naročilo že odposlano.
Poizvedbo in odlomke kodirajte z istim modelom. Objavljeni primer to naredi neposredno, brez predpone query/document, in odlomke razvrsti po ocenah skalarnega produkta. Vsak vektor ohranite povezan z izvirnim odlomkom in identifikatorjem dokumenta, da razvrščeni rezultat lahko pokaže dejansko indeksirano gradivo.
CLS-pooling in izdaja s skalarnim produktom
Referenčni postopek modela vzame predstavitev prvega žetona, kar se imenuje CLS-pooling. Njegova tehnična tabela izrecno navaja, da embeddingi niso normalizirani, in kot ustrezno funkcijo ocenjevanja navede skalarni produkt. Ta postopek ohranite pri nastavljanju zbirke in strani poizvedb.
Normalizacija L2 teh vektorjev spremeni geometrijo njihovega ocenjevanja. Normalizirani profil all-mpnet-base-v2 uporablja drugačen postopek in je ločena kontrolna točka, čeprav deli družino MPNet in izhod s 768 komponentami. Konkretno izdajo in primerjalno funkcijo ohranite s shranjeno zbirko, namesto da ju izberete samo po dolžini vektorja.
Omejitev dolžine in daljši odlomki
Navedena omejitev vhoda je 512 podbesednih enot; daljše besedilo se skrajša. Proizvajalec opozarja tudi, da so učni vhodi dosegali samo 250 podbesednih enot in da daljše besedilo lahko deluje slabše. Sprejeta dolžina tokenizatorja in opozorilo o dolžini pri učenju zato opisujeta različni praktični meji.
Pri obsežnem članku pomoči pripravite kratke dele, ki odgovarjajo na konkretna vprašanja. Naslov ohranite tam, kjer določa temo, pravilo pa skupaj z izjemo, potrebno za pravilno branje. En celostranski vhod lahko s skrajšanjem izgubi poznejše gradivo, premajhen fragment pa lahko izgubi pogoj, zaradi katerega je uporaben.
Razvrstitev uporabite pri iskanju in RAG
Gosti vektorji podpirajo prvo stopnjo pridobivanja informacij. Vrnite kandidatne odlomke z najvišjimi ocenami in sklici na vire, nato preglejte, ali obravnavajo dejansko vprašanje. Pri RAG te odlomke kot izvorno gradivo podajte stopnji pisanja odgovora; pridobivanje samo ne sestavi odgovora.
Za izbiro števila rezultatov in oceno razvrstitve uporabite reprezentativna vprašanja z znanimi relevantnimi odlomki. Vključite primere s podobnim besediščem, a drugačnim namenom, na primer spremembo naslova in ogled trenutnega naslova. Ocene interpretirajte relativno glede na kandidate pri istem modelu in nastavitvi ocenjevanja, ne kot umerjene verjetnosti pravilnosti.
Koristni izhod te kontrolne točke je prostor embeddingov vprašanj in odlomkov za semantično iskanje. Njeni nenormalizirani vektorji, CLS-pooling, ocena skalarnega produkta in objavljeno opozorilo za dolge vhode so podrobnosti, ki jih je treba ohraniti pri pripravi in uporabi rezultatov.
Ailoot Ultra · Vektorske predstavitve POST /v1/embeddings sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1Začetek
Sentence Transformers multi-qa-mpnet-base-dot-v1 vprašanja in odlomke kodira v 768-razsežne vektorje za semantično iskanje. Uporablja CLS-pooling in nenormalizirane embeddinge, namenjene ocenjevanju s skalarnim produktom, z omejitvijo vhoda 512 podbesednih enot.
- Dovoljeni vhodi
- Besedilo · token_ids
- Rezultati
- embedding
Na voljo v Ailoot · vhodi in metode
Ailoot Ultra · Vektorske predstavitve POST /v1/embeddings
- Vhod
text,token_ids- Izhod
embedding- Izhodni format
- json
| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve sentence-transformers/multi-qa-mpnet-base-dot-v1 | Privzeto— |
Poljeinput | Vrstastring|string[]|integer[]|integer[][] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 Pogoji: Neprazen paket istovrstnih vhodnih podatkov. Identifikatorji žetonov so nenegativna cela števila. Vhodni proračun: Največ: 512 · Besedilna enota: bajti UTF8 · Enota žetonov: elementi polja žetonov | Privzeto— |
Poljeencoding_format | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve float | Privzetofloat |
Poljedimensions | Vrstainteger | ZahtevaNi podprto | Vrednosti in omejitve Najmanj: 1 | Privzeto— |
Poljeuser | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljesession_id | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljetrace | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljeprovider | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je zavrnjen | Privzeto— |
Kombinacije vhodnih gradiv
text_to_embedding
Parametri in življenjski cikel metode
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, input |
Parameterinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Specifikacijafloat |
Parameterdimensions_override | Specifikacijafalse |
Parametermax_input_budget_units | Specifikacija512 |
Parametermultimodal_objects | Specifikacijafalse |
Parametermaterial_types | Specifikacijatext, token_ids |
Življenjski cikel: synchronous_json
Shranite indeks in dimenzijo vsakega vektorja.
Ime multimodalnega modela ne pomeni, da so na tej točno določeni poti dovoljeni slikovni objekti.
Cenik
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
- Hitri način
- Ni navedeno Ko je izbran hitri način
- Način flex
- Ni navedeno Ko je izbran način flex
- Najvišja raven razmišljanja
- Ni navedeno Ko najvišja raven razmišljanja uporablja privzeto prilagoditev (default)
Cene Ailoot
Cene po nastavitvah
| Nastavitev | Cenovna lestvica | Strošek |
|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Strošek Vhod · Vhodni žetoni $0.00001 / 1K žetonov Izhod · Izhodni žetoni $0 / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
Primeri zahtev
Ailoot Ultra · Vektorske predstavitve
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/multi-qa-mpnet-base-dot-v1", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/multi-qa-mpnet-base-dot-v1',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Prejmi in shrani rezultate
Ailoot Ultra · Vektorske predstavitve
json
Ohrani vse dokončane rezultate
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Shranite vsak vektor skupaj z njegovim indeksom. Število vektorjev mora biti enako številu vhodov; dimenzije morajo biti skladne.
Če je treba preveriti izvirni odgovor
Končna točka za opravila ustvarjanja vektorskih predstavitev se ne uvaja.
Polja odgovora
| Polje | Vrsta |
|---|---|
Poljeobject | Vrstastring |
Poljemodel | Vrstastring |
Poljedata[].index | Vrstainteger |
Poljedata[].embedding | Vrstafinite float[] |
Poljeusage | Vrstaobject |
Napake in naslednji koraki
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Druga imena
Druga imena modelov
Ailoot Ultra sentence-transformers/multi-qa-mpnet-base-dot-v1
Druga imena poti metod
Uporabite zgoraj navedene poti metod.
Povezani ID-ji za klic
FAQ · Sentence Transformers: multi-qa-mpnet-base-dot-v1
- Kateri vhodi in rezultati so na voljo?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:text,token_ids→embedding- Katera polja uporablja zahteva?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:model,input,encoding_format,provider- Katere omejitve veljajo?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:input.budget.maximum:512(bajti UTF8);input.min_items:1