BAAI: bge-m3
BAAI BGE-M3 tukee tiheää, harvaa leksikaalista ja monivektorista tiedonhakua yli 100 kielellä. Sen tiheässä tulosteessa on 1024 ulottuvuutta. 8192 tokenin ikkuna kattaa niin lauseita kuin pidempiä asiakirjoja ilman pakollista kyselyohjetta.
Tietoa mallista
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
BGE-M3 on BAAI:n monikielinen tiedonhakumalli, joka on suunniteltu kolmen monipuolisuuden ulottuvuuden ympärille: useat hakutoiminnot, useat kielet ja erilaiset syötepituudet. Valmistaja dokumentoi tuen yli sadalle kielelle ja enintään 8192 tokenin syötteille. Sen yhtenäinen malli voi tuottaa tiheitä vektoreita, harvoja leksikaalisia painoja ja monivektoriesityksiä, joten tiedonhakuratkaisu voi valita tai yhdistää useampaa evidenssityyppiä.
Kolme esitystä tiedonhakuun
Tiheiden vektorien tila kuvaa tekstin yhdeksi 1024-ulotteiseksi vektoriksi. Se tukee kyselyn ja katkelman esittämän merkityksen vertailua. Harvan esityksen tila antaa tekstissä esiintyville tokeneille painot leksikaalista vastaavuutta varten. Monivektoritila esittää tekstin useilla vektoreilla ja käyttää ColBERT-tyyppistä vuorovaikutusta kyselyn ja asiakirjan vertailuun tarkemmalla tasolla.
Näillä tuloksilla on hakuindeksissä eri roolit. Tiheä vektori antaa katkelmalle yhden esityksen; harva tokenien ja painojen vastaavuusrakenne säilyttää leksikaaliset signaalit; useat vektorit antavat erilaisen vertailurakenteen. Valmistajan esimerkit näyttävät valittujen esitysten palauttamisen ja tekstiparien pisteiden laskemisen. Käsittele valittua esitystä ja pisteytysmenetelmää tiedonhakutehtävän harkittuna osana.
Monikielinen teksti ja syötteen valmistelu
BGE-M3 ei edellytä aiempien BGE-mallien käyttämän hakuohjeen lisäämistä. Valmistele kysely ja todelliset lähdekatkelmat suoraan. Monikielinen tietokokoelma voi säilyttää kunkin katkelman alkuperäisellä kielellä asiakirjatunnisteen ja kielialueen yhteydessä. Käytä tuloksia tarkistaessasi todellisia käyttäjäkysymyksiä tarkoitetusta kieliyhdistelmästä.
Käytännön tehtävänä voi olla sääntöselitysten, tuoteohjeiden tai teknisen dokumentaation haku useilla kielillä. Säilytä kysymykselle tärkeät nimet, mallinumerot ja termit. Leksikaalinen esitys voi auttaa säilyttämään vastaavuuden näihin termeihin, ja tiheä esitys antaa semanttista evidenssiä. Haetun katkelman tulisi sisältää teksti ja lähdesijainti, jotka lukija voi tarkastaa.
Pidemmät asiakirjat ja tarkkuustaso
8192 tokenin syöteikkuna antaa mallin esittää materiaalia lyhyistä virkkeistä pidempiin asiakirjoihin. Valitse tarkkuustaso sen vastauksen perusteella, joka haun pitäisi palauttaa. Kokonainen osio voi säilyttää määritelmän ja sen poikkeukset; pienempi katkelma voi helpottaa tietyn ohjeen löytämistä. Pitkä ikkuna mahdollistaa nämä valinnat, mutta vektori on edelleen sidoksissa todella koodattuun materiaaliin.
Pidä kukin katkelma liitettynä pääasiakirjaansa ja versioonsa. Säilytä pitkän raportin olennaisen luvun tai johtopäätöksen otsikko ja ympäröivä selitys. Älä luota pelkkään hakutuloksen otsikkoon, kun evidenssi on leipätekstissä. Jos lähde muuttuu, säilytä riittävästi metatietoa vastaavien hakuesitysten päivittämiseen.
Hybridipisteet ja myöhempi käyttö
Valmistaja suosittelee hybridihakua ja sitä seuraavaa erillistä uudelleenjärjestelyvaihetta. Sen esimerkit laskevat tiheän, harvan ja monivektoriesityksen pisteitä sekä muodostavat painotettuja yhdistelmiä. Valitse yhdistelmä kokoelman kysymysten ja sanaston perusteella; esimerkin paino ei ole yleispätevä asetus jokaiseen korpukseen.
Hyödyllinen tulos on ehdokasjoukko, jonka lähdekatkelmat pysyvät saatavilla ja jonka esitys- sekä järjestämismenetelmä on kirjattu. Erillinen uudelleenjärjestäjä voi tarkentaa joukkoa, ja erillinen tekstintuottovaihe voi käyttää katkelmien sisältöä. BGE-M3:n harvan esityksen ja monivektoriesityksen kyvyt ovat valmistajan mallin toimintatiloja; tiheä upotus, leksikaalinen tulos ja parikohtainen pistemäärä ovat erillisiä tuotoksia, eivät keskenään vaihdettavia taulukoita.
Ailoot Ultra · Vektoriesitykset POST /v1/embeddings baai/bge-m3
baai/bge-m3Aloitus
BAAI BGE-M3 tukee tiheää, harvaa leksikaalista ja monivektorista tiedonhakua yli 100 kielellä. Sen tiheässä tulosteessa on 1024 ulottuvuutta. 8192 tokenin ikkuna kattaa niin lauseita kuin pidempiä asiakirjoja ilman pakollista kyselyohjetta.
- Hyväksytyt syötteet
- Teksti · token_ids
- Tulokset
- embedding
Saatavilla Ailootissa · syötteet & menetelmät
Ailoot Ultra · Vektoriesitykset POST /v1/embeddings
- Syötetyypit
text,token_ids- Tulostyypit
embedding- Konteksti
- 8 194 tokens
- Tulosteen muoto
- json
| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat baai/bge-m3 | Oletus— |
Kenttäinput | Tyyppistring|string[]|integer[]|integer[][] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 Ehdot: Ei-tyhjä, yhdenmukaisista alkioista koostuva erä. Tokenien ID:t ovat ei-negatiivisia kokonaislukuja. Syötebudjetti: Enimmäismäärä: 8 194 · Tekstiyksikkö: UTF8-tavut · Tokenyksikkö: Token-taulukon alkiot | Oletus— |
Kenttäencoding_format | Tyyppistring | VaatimusValinnainen | Arvot & rajat float | Oletusfloat |
Kenttädimensions | Tyyppiinteger | VaatimusEi tuettu | Arvot & rajat Vähimmäismäärä: 1 | Oletus— |
Kenttäuser | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttäsession_id | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttätrace | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttäprovider | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Ehdot: provider.options hylätty | Oletus— |
Syöteaineistojen yhdistelmät
text_to_embedding
Menetelmän parametrit ja elinkaari
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, input |
Parametriinput_shapes | Sopimusstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametriencoding_format | Sopimusfloat |
Parametridimensions_override | Sopimusfalse |
Parametrimax_input_budget_units | Sopimus8194 |
Parametrimultimodal_objects | Sopimusfalse |
Parametrimaterial_types | Sopimustext, token_ids |
Elinkaari: synchronous_json
Säilytä jokaisen vektorin indeksi ja ulottuvuus.
Mallin nimen multimodaalisuus ei tarkoita, että tämä nimenomainen reitti hyväksyisi kuvaolioita.
Hinnoittelu
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
- Nopea tila
- Vakiohinta Kun nopea tila on valittu
- Flex-tila
- Vakiohinta Kun flex-tila on valittu
- Päättelyn enimmäisteho
- Vakiohinta Kun päättelyn enimmäistehoon sovelletaan default-oletussäätöä
Ailoot-hinnat
Hinnat asetusten mukaan
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.00004 / 1K tokenia Tuloste · Tulostokenit $0 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
Esimerkkipyynnöt
Ailoot Ultra · Vektoriesitykset
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-m3", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-m3',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Vastaanota ja tallenna tulokset
Ailoot Ultra · Vektoriesitykset
json
Säilytä kaikki valmistuneet tulokset
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vektori indekseineen. Vektorien määrän on vastattava syötteiden määrää; ulottuvuuksien on oltava yhdenmukaiset.
Jos alkuperäinen vastaus on tarkistettava
Uutta upotustehtävien päätepistettä ei oteta käyttöön.
Vastauksen kentät
| Kenttä | Tyyppi |
|---|---|
Kenttäobject | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttädata[].index | Tyyppiinteger |
Kenttädata[].embedding | Tyyppifinite float[] |
Kenttäusage | Tyyppiobject |
Virheet ja seuraavat vaiheet
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Aliakset
Mallin aliakset
Ailoot Ultra baai/bge-m3
Menetelmäpolkujen aliakset
Käytä yllä näytettyjä menetelmäpolkuja.
Liittyvät kutsujan ID:t
FAQ · BAAI: bge-m3
- Mitä syötteitä ja tuloksia on saatavilla?
POST /v1/embeddings·baai/bge-m3:text,token_ids→embedding- Mitä kenttiä pyyntö käyttää?
POST /v1/embeddings·baai/bge-m3:model,input,encoding_format,provider- Mitä rajoja sovelletaan?
POST /v1/embeddings·baai/bge-m3:ctx:8194;input.budget.maximum:8194(UTF8-tavut);input.min_items:1