BAAI: bge-large-en-v1.5
BAAI bge-large-en-v1.5 ustvarja 1024-razsežne vektorje angleškega besedila za pridobivanje informacij in semantično primerjavo. Njegova priprava v1.5 podpira neobvezno navodilo za poizvedbo, z dokumentirano dolžino zaporedja 512 žetonov.
O modelu
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
bge-large-en-v1.5 je velika angleška izdaja gostih embeddingov BAAI. Besedilo preslika v 1024-razsežen vektor za pridobivanje odlomkov in semantično primerjavo. Različica 1.5 je proizvajalčeva posodobitev, namenjena uporabnejši porazdelitvi podobnosti in izboljšanemu pridobivanju informacij brez navodila. Large ostaja ločena kontrolna točka od Base, Small, kitajskih izdaj in večjezičnega modela BGE-M3.
Pripravite pridobivanje odlomkov
Za kratko iskalno poizvedbo po daljših dokumentih proizvajalec priporoča navodilo “Represent this sentence for searching relevant passages:”. Dodajte ga na stran poizvedbe; odlomki korpusa ohranijo svoje izvorno besedilo brez tega navodila. Pri drugih uporabah zadošča neposredno besedilo. BAAI za v1.5 dokumentira tudi pridobivanje brez predpone in priporoča pripravo, ki se najbolje obnese pri dejanski nalogi.
Praktična zbirka znanja lahko indeksira dele angleškega tehničnega priročnika. Vprašanje o nastavitvi, ki spremeni izhodni format, naj vrne del, ki pojasni to nastavitev in njene pogoje. Z vsakim odlomkom ohranite naslov, relevantno razlago in mesto vira. Model daje številčno predstavitev; vrnjeno izvorno besedilo je tisto, kar uporabi bralec ali poznejša stopnja RAG.
Predstavitev in ujemanje
Proizvajalčev primer neposrednega kodiranja za združeni embedding uporabi končno skrito stanje prvega žetona CLS in nato normalizira vektor. Primerjava normaliziranih vektorjev s skalarnim produktom daje kosinusno podobnost. Vsak odlomek je zato mogoče pripraviti enkrat in shraniti za primerjavo z novimi vektorji poizvedb, spremenjeno izvorno gradivo pa dobi posodobljeno predstavitev.
1024 razsežnosti določa dolžino izhodnega vektorja. Razlikujejo se od 768-razsežne predstavitve Base in ne dokazujejo združljivega skupnega prostora z drugo kontrolno točko. Model in konvencijo priprave ohranite povezana s shranjenim indeksom. Sprememba izdaje embeddingov zahteva skupno preverjanje predstavitev korpusa in poizvedb.
Vir prilagodite oknu
Dokumentirana dolžina zaporedja je 512 žetonov. Dolg priročnik pripravite kot povezane dele, ne kot en prevelik vhod. Pogoj ali izjemo ohranite ob pravilu, ki ga pojasnjuje, ter vključite dovolj konteksta, da je pridobljeni del razumljiv sam zase. Tudi dodano navodilo za poizvedbo zaseda vhodne žetone, zato se modelovo okno nanaša na celotni pripravljeni vhod.
Uporabna meja odlomka lahko zajame naslov in odstavke, ki odgovarjajo na eno uporabniško vprašanje. Identifikator nadrejenega dokumenta in različico ohranite zunaj vektorja, da je rezultat mogoče povezati s pravilnim virom. Pri primerjalni nalogi uporabite dejanska besedila za primerjavo, ne nadomestnih nepovezanih povzetkov, ki odstranijo iskano razliko.
Interpretirajte oceno
Proizvajalec opozarja, da absolutne podobnosti ne smemo obravnavati kot univerzalno pravilo za semantično enakovrednost. Relativni vrstni red ocen je osrednji za pridobivanje informacij, prag pa je treba umeriti na porazdelitvi besedil same naloge. Kandidatne odlomke preglejte za vprašanja z znanimi odgovori in za vprašanja, pri katerih odgovora ni. Tako se pokaže, ali vrnjeni del daje zahtevano informacijo ali samo spominja na temo.
bge-large-en-v1.5 daje angleške goste vektorje. Ločen model za ponovno rangiranje lahko izboljša vrstni red kandidatov, ločen jezikovni model pa sestavi odgovor iz izbranih odlomkov. Koristni izhod te izdaje je iskalna predstavitev, povezana z izvornim besedilom, z ohranjeno izbiro konkretnega modela Large v1.5 in pripravo vhoda.
Ailoot Ultra · Vektorske predstavitve POST /v1/embeddings baai/bge-large-en-v1.5
baai/bge-large-en-v1.5Začetek
BAAI bge-large-en-v1.5 ustvarja 1024-razsežne vektorje angleškega besedila za pridobivanje informacij in semantično primerjavo. Njegova priprava v1.5 podpira neobvezno navodilo za poizvedbo, z dokumentirano dolžino zaporedja 512 žetonov.
- Dovoljeni vhodi
- Besedilo · token_ids
- Rezultati
- embedding
Na voljo v Ailoot · vhodi in metode
Ailoot Ultra · Vektorske predstavitve POST /v1/embeddings
- Vhod
text,token_ids- Izhod
embedding- Izhodni format
- json
| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve baai/bge-large-en-v1.5 | Privzeto— |
Poljeinput | Vrstastring|string[]|integer[]|integer[][] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 Pogoji: Neprazen paket istovrstnih vhodnih podatkov. Identifikatorji žetonov so nenegativna cela števila. Vhodni proračun: Največ: 512 · Besedilna enota: bajti UTF8 · Enota žetonov: elementi polja žetonov | Privzeto— |
Poljeencoding_format | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve float | Privzetofloat |
Poljedimensions | Vrstainteger | ZahtevaNi podprto | Vrednosti in omejitve Najmanj: 1 | Privzeto— |
Poljeuser | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljesession_id | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljetrace | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljeprovider | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je zavrnjen | Privzeto— |
Kombinacije vhodnih gradiv
text_to_embedding
Parametri in življenjski cikel metode
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, input |
Parameterinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Specifikacijafloat |
Parameterdimensions_override | Specifikacijafalse |
Parametermax_input_budget_units | Specifikacija512 |
Parametermultimodal_objects | Specifikacijafalse |
Parametermaterial_types | Specifikacijatext, token_ids |
Življenjski cikel: synchronous_json
Shranite indeks in dimenzijo vsakega vektorja.
Ime multimodalnega modela ne pomeni, da so na tej točno določeni poti dovoljeni slikovni objekti.
Cenik
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
- Hitri način
- Ni navedeno Ko je izbran hitri način
- Način flex
- Ni navedeno Ko je izbran način flex
- Najvišja raven razmišljanja
- Ni navedeno Ko najvišja raven razmišljanja uporablja privzeto prilagoditev (default)
Cene Ailoot
Cene po nastavitvah
| Nastavitev | Cenovna lestvica | Strošek |
|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Strošek Vhod · Vhodni žetoni $0.00002 / 1K žetonov Izhod · Izhodni žetoni $0 / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
Primeri zahtev
Ailoot Ultra · Vektorske predstavitve
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-large-en-v1.5", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-large-en-v1.5',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Prejmi in shrani rezultate
Ailoot Ultra · Vektorske predstavitve
json
Ohrani vse dokončane rezultate
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Shranite vsak vektor skupaj z njegovim indeksom. Število vektorjev mora biti enako številu vhodov; dimenzije morajo biti skladne.
Če je treba preveriti izvirni odgovor
Končna točka za opravila ustvarjanja vektorskih predstavitev se ne uvaja.
Polja odgovora
| Polje | Vrsta |
|---|---|
Poljeobject | Vrstastring |
Poljemodel | Vrstastring |
Poljedata[].index | Vrstainteger |
Poljedata[].embedding | Vrstafinite float[] |
Poljeusage | Vrstaobject |
Napake in naslednji koraki
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Druga imena
Druga imena modelov
Ailoot Ultra baai/bge-large-en-v1.5
Druga imena poti metod
Uporabite zgoraj navedene poti metod.
Povezani ID-ji za klic
FAQ · BAAI: bge-large-en-v1.5
- Kateri vhodi in rezultati so na voljo?
POST /v1/embeddings·baai/bge-large-en-v1.5:text,token_ids→embedding- Katera polja uporablja zahteva?
POST /v1/embeddings·baai/bge-large-en-v1.5:model,input,encoding_format,provider- Katere omejitve veljajo?
POST /v1/embeddings·baai/bge-large-en-v1.5:input.budget.maximum:512(bajti UTF8);input.min_items:1