BAAI: bge-large-en-v1.5
BAAI bge-large-en-v1.5 vytvára 1024-rozmerné vektory anglického textu na vyhľadávanie a sémantické porovnávanie. Príprava v1.5 podporuje voliteľnú inštrukciu pre dopyt pri zdokumentovanej dĺžke sekvencie 512 tokenov.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
bge-large-en-v1.5 je veľká anglická edícia hustých embeddingov od BAAI. Mapuje text na 1024-rozmerný vektor na vyhľadávanie pasáží a sémantické porovnávanie. Verzia 1.5 je aktualizácia výrobcu zameraná na užitočnejšie rozdelenie podobnosti a lepšie vyhľadávanie bez pokynu. Large zostáva odlišným kontrolným bodom od Base, Small, čínskych edícií a viacjazyčného modelu BGE-M3.
Nastavte vyhľadávanie pasáží
Pri krátkom vyhľadávacom dopyte v dlhších dokumentoch výrobca odporúča pokyn pre dopyt „Represent this sentence for searching relevant passages:“. Pridajte ho na stranu dopytu; pasáže korpusu si ponechávajú vlastný zdrojový text bez tohto pokynu. Pri iných použitiach postačuje priamy text. BAAI dokumentuje vo v1.5 aj vyhľadávanie bez prefixu a odporúča vybrať prípravu, ktorá najlepšie funguje pri skutočnej úlohe.
Praktická zbierka znalostí môže indexovať časti anglického technického manuálu. Otázka, ktoré nastavenie mení formát výstupu, má vrátiť časť vysvetľujúcu toto nastavenie a jeho podmienky. Pri každej pasáži uchovajte nadpis, relevantné vysvetlenie a umiestnenie zdroja. Model poskytuje číselnú reprezentáciu; čitateľ alebo neskorší krok RAG používa vrátený zdrojový text.
Reprezentácia a porovnávanie
Priamy príklad kódovania výrobcu používa konečný skrytý stav prvého tokenu CLS ako agregovaný embedding a potom normalizuje vektor. Porovnanie normalizovaných vektorov pomocou skalárneho súčinu dáva kosínusovú podobnosť. Každú pasáž preto možno pripraviť raz a uložiť na porovnávanie s prichádzajúcimi vektormi dopytov, zatiaľ čo zmenený zdrojový materiál dostane aktualizovanú reprezentáciu.
1024 rozmerov určuje dĺžku výstupného vektora. Líšia sa od 768-rozmernej reprezentácie Base a nezakladajú kompatibilný spoločný priestor s iným kontrolným bodom. Model a konvenciu prípravy uchovajte spolu s uloženým indexom. Zmena edície embeddingov vyžaduje spoločnú kontrolu reprezentácií korpusu a dopytov.
Zmestite zdroj do okna
Zdokumentovaná dĺžka sekvencie je 512 tokenov. Dlhý manuál pripravte ako súdržné časti namiesto jedného nadmerného vstupu. Podmienku alebo výnimku ponechajte pri pravidle, ktoré spresňuje, a pridajte dosť kontextu, aby nájdená časť dávala zmysel aj samostatne. Pridaný pokyn pre dopyt tiež zaberá vstupné tokeny, preto sa okno modelu týka celého pripraveného vstupu.
Užitočná hranica pasáže môže zahŕňať nadpis a odseky odpovedajúce na jednu otázku používateľa. Identifikátor a verziu nadradeného dokumentu uchovajte mimo vektora, aby sa výsledok dal priradiť k správnemu zdroju. Pri porovnávaní používajte skutočné porovnávané texty namiesto ich nahradenia nesúvisiacimi zhrnutiami, ktoré odstránia rozdiel, ktorý potrebujete nájsť.
Interpretujte skóre
Výrobca upozorňuje, že absolútnu podobnosť nemožno považovať za všeobecné pravidlo sémantickej ekvivalencie. Pre vyhľadávanie je rozhodujúce relatívne poradie skóre a prah sa má kalibrovať podľa rozdelenia textov samotnej úlohy. Posúďte kandidátske pasáže pri otázkach so známou odpoveďou aj pri otázkach, ktorých odpoveď chýba. To odhalí, či vrátená časť poskytuje požadované informácie, namiesto samotnej podobnosti s témou.
bge-large-en-v1.5 poskytuje anglické husté vektory. Samostatný model na opätovné zoradenie môže spresniť poradie kandidátov a samostatný jazykový model môže zostaviť odpoveď z vybraných pasáží. Užitočným výstupom tejto edície je vyhľadateľná reprezentácia prepojená so zdrojovým textom, pri ktorej zostáva zachovaný presný výber modelu Large v1.5 a príprava vstupu.
Ailoot Ultra · Embeddingy POST /v1/embeddings baai/bge-large-en-v1.5
baai/bge-large-en-v1.5Úvod
BAAI bge-large-en-v1.5 vytvára 1024-rozmerné vektory anglického textu na vyhľadávanie a sémantické porovnávanie. Príprava v1.5 podporuje voliteľnú inštrukciu pre dopyt pri zdokumentovanej dĺžke sekvencie 512 tokenov.
- Povolené vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Embeddingy POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Výstupný formát
- json
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity baai/bge-large-en-v1.5 | Predvolené— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 Podmienky: Neprázdna homogénna dávka. ID tokenov sú nezáporné celé čísla. Vstupný rozpočet: Maximum: 512 · Textová jednotka: bajty UTF8 · Jednotka tokenov: prvky poľa tokenov | Predvolené— |
Poleencoding_format | Typstring | PožiadavkaVoliteľné | Hodnoty a limity float | Predvolenéfloat |
Poledimensions | Typinteger | PožiadavkaNepodporované | Hodnoty a limity Minimum: 1 | Predvolené— |
Poleuser | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Polesession_id | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poletrace | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poleprovider | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: provider.options sa odmieta | Predvolené— |
Kombinácie vstupných podkladov
text_to_embedding
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, input |
Parameterinput_shapes | Špecifikáciastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Špecifikáciafloat |
Parameterdimensions_override | Špecifikáciafalse |
Parametermax_input_budget_units | Špecifikácia512 |
Parametermultimodal_objects | Špecifikáciafalse |
Parametermaterial_types | Špecifikáciatext, token_ids |
Životný cyklus: synchronous_json
Uchovajte každý index a rozmer vektora.
Názov multimodálneho modelu neznamená, že na tejto konkrétnej trase možno použiť objekty obrázkov.
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Neuvedené Keď je zvolený rýchly režim
- Režim Flex
- Neuvedené Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0.00002 / 1K tokenov Výstup · Výstupné tokeny $0 / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Embeddingy
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-large-en-v1.5", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-large-en-v1.5',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Prijať a uložiť výsledky
Ailoot Ultra · Embeddingy
json
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Uchovajte každý vektor spolu s jeho indexom. Počet vektorov sa musí rovnať počtu vstupov; rozmery musia byť konzistentné.
Ak treba overiť pôvodnú odpoveď
Nezavádza sa žiadny koncový bod pre úlohy tvorby embeddingov.
Polia odpovede
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Aliasy
Aliasy modelov
Ailoot Ultra baai/bge-large-en-v1.5
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · BAAI: bge-large-en-v1.5
- Aké vstupy a výsledky sú dostupné?
POST /v1/embeddings·baai/bge-large-en-v1.5:text,token_ids→embedding- Aké polia používa požiadavka?
POST /v1/embeddings·baai/bge-large-en-v1.5:model,input,encoding_format,provider- Aké limity platia?
POST /v1/embeddings·baai/bge-large-en-v1.5:input.budget.maximum:512(bajty UTF8);input.min_items:1