BAAI: bge-m3
BAAI BGE-M3 podpira iskanje z gostimi vektorji, redko leksikalno iskanje in večvektorsko iskanje v več kot 100 jezikih. Njegov gosti izhod ima 1024 dimenzij, okno 8192 žetonov pa zajema stavke in daljše dokumente brez obveznega navodila za poizvedbo.
O modelu
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
BGE-M3 je večjezični model BAAI za pridobivanje informacij, zasnovan okrog treh vrst vsestranskosti: več funkcij pridobivanja, več jezikov in različnih dolžin vhoda. Proizvajalec dokumentira podporo več kot sto jezikom in vhodom do 8192 žetonov. Njegov enotni model lahko daje goste vektorje, redke leksikalne uteži in večvektorske predstavitve, zato zasnova iskanja lahko izbere ali združi več vrst dokazov.
Tri predstavitve za pridobivanje informacij
Gosti način besedilo preslika v en 1024-razsežen vektor. Podpira primerjavo pomena, ki ga predstavljata poizvedba in odlomek. Redki način dodeli uteži žetonom v besedilu za leksikalno ujemanje. Večvektorski način besedilo predstavi z več vektorji in uporablja interakcijo v slogu ColBERT za primerjavo poizvedbe in dokumenta na podrobnejši ravni.
Ti izhodi imajo v iskalnem indeksu različne vloge. Gosti vektor daje eno predstavitev odlomka; redka preslikava uteži žetonov ohrani leksikalne signale; več vektorjev daje drugačno strukturo primerjave. Proizvajalčevi primeri pokažejo vračanje izbranih predstavitev in računanje ocen za pare besedil. Izbrano predstavitev in metodo ocenjevanja obravnavajte kot premišljen del naloge pridobivanja informacij.
Večjezično besedilo in priprava vhoda
BGE-M3 ne zahteva dodajanja iskalnega navodila, ki so ga uporabljali starejši modeli BGE. Poizvedbo in dejanske izvorne odlomke pripravite neposredno. Večjezična zbirka znanja lahko vsak odlomek ohrani v izvirnem jeziku, z identifikatorjem dokumenta in oznako lokalizacije. Pri preverjanju rezultatov uporabite resnična uporabniška vprašanja iz predvidene mešanice jezikov.
Praktična naloga je iskanje razlag pravil, pomoči za izdelek ali tehnične dokumentacije v več jezikih. Ohranite imena, številke modelov in izraze, pomembne za vprašanje. Leksikalna predstavitev lahko ohrani ujemanje teh izrazov, gosta predstavitev pa prispeva semantične dokaze. Pridobljeni odlomek naj vključuje besedilo in mesto vira, ki ju lahko bralec pregleda.
Daljši dokumenti in velikost odlomkov
Vhodno okno 8192 žetonov omogoča predstavitev gradiva od kratkih stavkov do daljših dokumentov. Velikost odlomkov izberite glede na odgovor, ki naj ga iskanje vrne. Celoten del lahko ohrani opredelitev in njene izjeme; manjši odlomek lahko olajša iskanje konkretnega navodila. Dolgo okno omogoča te izbire, vendar vektor ostaja povezan z dejansko kodiranim gradivom.
Vsak odlomek ohranite povezan z nadrejenim dokumentom in različico. Pri obsežnem poročilu ohranite naslov in okoliško pojasnilo relevantnega podatka ali sklepa. Ne zanašajte se samo na naslov iskalnega zadetka, kadar so dokazi v glavnem besedilu. Če se vir spremeni, ohranite dovolj metapodatkov za posodobitev ustreznih predstavitev za pridobivanje informacij.
Hibridne ocene in nadaljnja uporaba
Proizvajalec priporoča hibridno pridobivanje informacij, ki mu sledi ločena stopnja ponovnega rangiranja. Njegovi primeri izračunajo goste, redke in večvektorske ocene ter tvorijo utežene kombinacije. Kombinacijo izberite glede na vprašanja in besedišče zbirke; utež iz primera ni univerzalna nastavitev za vsak korpus.
Koristni rezultat je nabor kandidatov z dostopnimi izvornimi odlomki ter zabeleženima predstavitvijo in metodo rangiranja. Ločen model za ponovno rangiranje lahko nabor izboljša, ločena stopnja ustvarjanja besedila pa uporabi vsebino odlomkov. Redke in večvektorske zmožnosti BGE-M3 so načini proizvajalčevega modela; gosti embedding, leksikalni izhod in ocena para so različni artefakti, ne zamenljiva polja.
Ailoot Ultra · Vektorske predstavitve POST /v1/embeddings baai/bge-m3
baai/bge-m3Začetek
BAAI BGE-M3 podpira iskanje z gostimi vektorji, redko leksikalno iskanje in večvektorsko iskanje v več kot 100 jezikih. Njegov gosti izhod ima 1024 dimenzij, okno 8192 žetonov pa zajema stavke in daljše dokumente brez obveznega navodila za poizvedbo.
- Dovoljeni vhodi
- Besedilo · token_ids
- Rezultati
- embedding
Na voljo v Ailoot · vhodi in metode
Ailoot Ultra · Vektorske predstavitve POST /v1/embeddings
- Vhod
text,token_ids- Izhod
embedding- Kontekst
- 8194 tokens
- Izhodni format
- json
| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve baai/bge-m3 | Privzeto— |
Poljeinput | Vrstastring|string[]|integer[]|integer[][] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 Pogoji: Neprazen paket istovrstnih vhodnih podatkov. Identifikatorji žetonov so nenegativna cela števila. Vhodni proračun: Največ: 8194 · Besedilna enota: bajti UTF8 · Enota žetonov: elementi polja žetonov | Privzeto— |
Poljeencoding_format | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve float | Privzetofloat |
Poljedimensions | Vrstainteger | ZahtevaNi podprto | Vrednosti in omejitve Najmanj: 1 | Privzeto— |
Poljeuser | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljesession_id | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljetrace | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljeprovider | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je zavrnjen | Privzeto— |
Kombinacije vhodnih gradiv
text_to_embedding
Parametri in življenjski cikel metode
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, input |
Parameterinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Specifikacijafloat |
Parameterdimensions_override | Specifikacijafalse |
Parametermax_input_budget_units | Specifikacija8194 |
Parametermultimodal_objects | Specifikacijafalse |
Parametermaterial_types | Specifikacijatext, token_ids |
Življenjski cikel: synchronous_json
Shranite indeks in dimenzijo vsakega vektorja.
Ime multimodalnega modela ne pomeni, da so na tej točno določeni poti dovoljeni slikovni objekti.
Cenik
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
- Hitri način
- Standardna tarifa Ko je izbran hitri način
- Način flex
- Standardna tarifa Ko je izbran način flex
- Najvišja raven razmišljanja
- Standardna tarifa Ko najvišja raven razmišljanja uporablja privzeto prilagoditev (default)
Cene Ailoot
Cene po nastavitvah
| Nastavitev | Cenovna lestvica | Strošek |
|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Strošek Vhod · Vhodni žetoni $0.00004 / 1K žetonov Izhod · Izhodni žetoni $0 / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
Primeri zahtev
Ailoot Ultra · Vektorske predstavitve
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-m3", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-m3',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Prejmi in shrani rezultate
Ailoot Ultra · Vektorske predstavitve
json
Ohrani vse dokončane rezultate
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Shranite vsak vektor skupaj z njegovim indeksom. Število vektorjev mora biti enako številu vhodov; dimenzije morajo biti skladne.
Če je treba preveriti izvirni odgovor
Končna točka za opravila ustvarjanja vektorskih predstavitev se ne uvaja.
Polja odgovora
| Polje | Vrsta |
|---|---|
Poljeobject | Vrstastring |
Poljemodel | Vrstastring |
Poljedata[].index | Vrstainteger |
Poljedata[].embedding | Vrstafinite float[] |
Poljeusage | Vrstaobject |
Napake in naslednji koraki
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Druga imena
Druga imena modelov
Ailoot Ultra baai/bge-m3
Druga imena poti metod
Uporabite zgoraj navedene poti metod.
Povezani ID-ji za klic
FAQ · BAAI: bge-m3
- Kateri vhodi in rezultati so na voljo?
POST /v1/embeddings·baai/bge-m3:text,token_ids→embedding- Katera polja uporablja zahteva?
POST /v1/embeddings·baai/bge-m3:model,input,encoding_format,provider- Katere omejitve veljajo?
POST /v1/embeddings·baai/bge-m3:ctx:8194;input.budget.maximum:8194(bajti UTF8);input.min_items:1