Sentence Transformers: multi-qa-mpnet-base-dot-v1
Sentence Transformers multi-qa-mpnet-base-dot-v1 koodaa kysymykset ja katkelmat 768-ulotteisiksi vektoreiksi semanttista hakua varten. Se käyttää CLS-poolingia ja normalisoimattomia upotuksia pistetulopisteytykseen, ja syöteraja on 512 sananosaa.
- Ailoot Ultra · Vektoriesitykset
POST /v1/embeddingssentence-transformers/multi-qa-mpnet-base-dot-v1
Tietoa mallista
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
multi-qa-mpnet-base-dot-v1 on Sentence Transformersin malli tekstikatkelmien hakemiseen kysymystä tai kyselyä varten. Sen koulutuksessa käytettiin noin 215 miljoonaa kysymys–vastaus-paria. Jokainen syöte muuttuu 768-ulotteiseksi tiheäksi vektoriksi, ja CLS-pooling sekä pistetulopisteytys määrittävät tämän täsmällisen version.
Valmistele kysymys ja ehdokaskatkelmat
Kirjoita kysely tiedontarpeeksi ja valmistele korpusmerkinnät luettaviksi tekstikatkelmiksi. Esimerkiksi toimitusosoitteen muuttamista koskevaa kysymystä voidaan verrata erillisiin kappaleisiin osoitteenmuutoksista, tilauksen peruuttamisesta ja toimituksen seurannasta. Säilytä osoitteenmuutoskatkelmassa olennaiset ehdot, mukaan lukien tieto siitä, onko tilaus jo lähetetty.
Koodaa kysely ja katkelmat tällä samalla mallilla. Julkaistu esimerkki tekee tämän suoraan ilman query/document-etuliitettä ja järjestää katkelmat niiden pistetulopisteiden perusteella. Pidä kukin vektori liitettynä alkuperäiseen katkelmaansa ja asiakirjatunnisteeseensa, jotta järjestetty tulos voi näyttää todella indeksoidun materiaalin.
CLS-pooling ja pistetuloversio
Mallin viitemenetelmä ottaa ensimmäisen tokenin esityksen, mitä kutsutaan CLS-poolingiksi. Sen tekninen taulukko ilmoittaa nimenomaisesti, ettei upotuksia normalisoida, ja listaa pistetulon sopivaksi pisteytysfunktioksi. Säilytä tämä menetelmä kokoelmaa ja kyselypuolta määrittäessäsi.
Näiden vektorien L2-normalisointi muuttaa niiden pisteytysgeometriaa. Normalisoitu all-mpnet-base-v2-profiili käyttää eri menetelmää ja on erillinen checkpoint, vaikka se jakaa MPNet-perheen ja 768-komponenttisen tuloksen. Säilytä täsmällinen versio ja vertailufunktio tallennetun kokoelman yhteydessä sen sijaan, että valitsisit ne pelkän vektoripituuden perusteella.
Pituusraja ja pidemmät katkelmat
Ilmoitettu syöteraja on 512 sananosaa; pidempi teksti katkaistaan. Valmistaja huomauttaa myös koulutussyötteiden yltäneen vain 250 sananosaan ja pidemmän tekstin voivan toimia heikommin. Hyväksytty tokenisaattoripituus ja koulutuspituutta koskeva varaus kuvaavat siis eri käytännön rajoja.
Valmistele laaja ohjeartikkeli lyhyiksi osioiksi, jotka vastaavat tiettyihin kysymyksiin. Säilytä otsikko, kun se yksilöi aiheen, ja pidä sääntö sen oikeaan lukemiseen tarvittavan poikkeuksen yhteydessä. Yksi kokonaisen sivun syöte voi menettää myöhemmän materiaalin katkaisussa, ja liian pieni fragmentti voi menettää sen hyödylliseksi tekevän ehdon.
Käytä järjestystä tiedonhaussa ja RAGissa
Tiheät vektorit tukevat ensimmäistä hakuvaihetta. Palauta suurimmat pisteet saaneet ehdokaskatkelmat lähdeviitteineen ja tutki sitten, käsittelevätkö ne todellista kysymystä. Anna RAG-työnkulussa nämä katkelmat vastauksenkirjoitusvaiheelle lähdemateriaaliksi; itse haku ei kirjoita vastausta.
Valitse tulosmäärä ja arvioi järjestys edustavilla kysymyksillä, joille tunnetaan olennaiset katkelmat. Sisällytä esimerkkejä, joissa on samankaltainen sanasto mutta eri intentio, kuten osoitteen muokkaaminen ja nykyisen osoitteen katselu. Tulkitse pisteet suhteessa ehdokkaisiin samalla mallilla ja pisteytyskokoonpanolla, älä kalibroituina oikeellisuuden todennäköisyyksinä.
Tämän checkpointin hyödyllinen tulos on kysymysten ja katkelmien upotusavaruus semanttiseen hakuun. Sen normalisoimattomat vektorit, CLS-pooling, pistetulopisteytys ja julkaistu pitkien syötteiden varaus ovat yksityiskohtia, jotka on säilytettävä tuloksia valmisteltaessa ja käytettäessä.
Ailoot Ultra · Vektoriesitykset POST /v1/embeddings sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1Aloitus
Sentence Transformers multi-qa-mpnet-base-dot-v1 koodaa kysymykset ja katkelmat 768-ulotteisiksi vektoreiksi semanttista hakua varten. Se käyttää CLS-poolingia ja normalisoimattomia upotuksia pistetulopisteytykseen, ja syöteraja on 512 sananosaa.
- Hyväksytyt syötteet
- Teksti · token_ids
- Tulokset
- embedding
Saatavilla Ailootissa · syötteet & menetelmät
Ailoot Ultra · Vektoriesitykset POST /v1/embeddings
- Syötetyypit
text,token_ids- Tulostyypit
embedding- Tulosteen muoto
- json
| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat sentence-transformers/multi-qa-mpnet-base-dot-v1 | Oletus— |
Kenttäinput | Tyyppistring|string[]|integer[]|integer[][] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 Ehdot: Ei-tyhjä, yhdenmukaisista alkioista koostuva erä. Tokenien ID:t ovat ei-negatiivisia kokonaislukuja. Syötebudjetti: Enimmäismäärä: 512 · Tekstiyksikkö: UTF8-tavut · Tokenyksikkö: Token-taulukon alkiot | Oletus— |
Kenttäencoding_format | Tyyppistring | VaatimusValinnainen | Arvot & rajat float | Oletusfloat |
Kenttädimensions | Tyyppiinteger | VaatimusEi tuettu | Arvot & rajat Vähimmäismäärä: 1 | Oletus— |
Kenttäuser | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttäsession_id | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttätrace | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttäprovider | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Ehdot: provider.options hylätty | Oletus— |
Syöteaineistojen yhdistelmät
text_to_embedding
Menetelmän parametrit ja elinkaari
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, input |
Parametriinput_shapes | Sopimusstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametriencoding_format | Sopimusfloat |
Parametridimensions_override | Sopimusfalse |
Parametrimax_input_budget_units | Sopimus512 |
Parametrimultimodal_objects | Sopimusfalse |
Parametrimaterial_types | Sopimustext, token_ids |
Elinkaari: synchronous_json
Säilytä jokaisen vektorin indeksi ja ulottuvuus.
Mallin nimen multimodaalisuus ei tarkoita, että tämä nimenomainen reitti hyväksyisi kuvaolioita.
Hinnoittelu
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
- Nopea tila
- Ei määritetty Kun nopea tila on valittu
- Flex-tila
- Ei määritetty Kun flex-tila on valittu
- Päättelyn enimmäisteho
- Ei määritetty Kun päättelyn enimmäistehoon sovelletaan default-oletussäätöä
Ailoot-hinnat
Hinnat asetusten mukaan
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.00001 / 1K tokenia Tuloste · Tulostokenit $0 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
Esimerkkipyynnöt
Ailoot Ultra · Vektoriesitykset
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/multi-qa-mpnet-base-dot-v1", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/multi-qa-mpnet-base-dot-v1',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Vastaanota ja tallenna tulokset
Ailoot Ultra · Vektoriesitykset
json
Säilytä kaikki valmistuneet tulokset
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vektori indekseineen. Vektorien määrän on vastattava syötteiden määrää; ulottuvuuksien on oltava yhdenmukaiset.
Jos alkuperäinen vastaus on tarkistettava
Uutta upotustehtävien päätepistettä ei oteta käyttöön.
Vastauksen kentät
| Kenttä | Tyyppi |
|---|---|
Kenttäobject | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttädata[].index | Tyyppiinteger |
Kenttädata[].embedding | Tyyppifinite float[] |
Kenttäusage | Tyyppiobject |
Virheet ja seuraavat vaiheet
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Aliakset
Mallin aliakset
Ailoot Ultra sentence-transformers/multi-qa-mpnet-base-dot-v1
Menetelmäpolkujen aliakset
Käytä yllä näytettyjä menetelmäpolkuja.
Liittyvät kutsujan ID:t
FAQ · Sentence Transformers: multi-qa-mpnet-base-dot-v1
- Mitä syötteitä ja tuloksia on saatavilla?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:text,token_ids→embedding- Mitä kenttiä pyyntö käyttää?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:model,input,encoding_format,provider- Mitä rajoja sovelletaan?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:input.budget.maximum:512(UTF8-tavut);input.min_items:1