BAAI: bge-base-en-v1.5
BAAI bge-base-en-v1.5 premieňa anglický text na 768-rozmerné vektory pre sémantické vyhľadávanie a úlohy podobnosti. Jeho vstupné okno 512 tokenov a vyhľadávacia inštrukcia iba pre dopyt vyhovujú tematicky sústredeným pasážam v indexe dokumentov alebo znalostí.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
bge-base-en-v1.5 je model hustých embeddingov od BAAI v základnej veľkosti určený pre angličtinu. Každý text premieňa na 768-rozmernú číselnú reprezentáciu na vyhľadávanie a sémantické porovnávanie. Model patrí do línie BGE v1.5, ktorá rieši rozdelenie skóre podobnosti staršej rodiny a zlepšuje vyhľadávanie bez zadanej inštrukcie. Jeho výstupom je vektor používaný na porovnávanie textov alebo hľadanie relevantných pasáží.
Pripravte dopyty a pasáže
Pri krátkom dopyte hľadajúcom dlhšie pasáže BAAI odporúča pridať na začiatok dopytu „Represent this sentence for searching relevant passages:“. Pasáže korpusu túto inštrukciu nedostávajú. Pri iných úlohách možno vytvoriť embedding priamo z pôvodného textu. Výrobca uvádza, že v1.5 funguje aj bez inštrukcie, preto treba prípravu voliť podľa úlohy a nepovažovať prefix za jediný platný vstup.
Praktická vyhľadávacia kolekcia môže obsahovať články pomoci, vysvetlenia produktov alebo technické pokyny. Dopyt, napríklad „How do I change the export format?“, má vyhľadať pasáž opisujúcu túto činnosť. Nadpis časti, príslušné podmienky a skutočný zdrojový text zachovajte spolu. Vedľa vektora uložte identifikátor a umiestnenie pasáže, aby výsledok vyhľadávania mohol vrátiť niečo, čo si používateľ môže prečítať alebo na čo sa neskoršia fáza odpovedania môže odvolať.
Formát vektora a porovnávanie
Zdokumentovaná reprezentácia používa ako embedding vety konečný skrytý stav prvého tokenu, teda CLS. Príklady výrobcu normalizujú vektor a porovnávajú normalizované embeddingy skalárnym súčinom, ktorý je ekvivalentom kosínusovej podobnosti. 768 rozmerov je veľkosť výstupnej reprezentácie tohto modelu; nejde o voliteľnú dĺžku kontextu ani limit generovaného textu.
Pre porovnávané vektory dopytu a korpusu používajte rovnaký model a konvenciu prípravy. Praktickou kontrolou je vyhľadať známe pasáže obsahujúce odpoveď pre malý súbor skutočných otázok používateľov a potom preskúmať vrátený text. Kompatibilný tvar vektora umožňuje indexu uložiť reprezentáciu, zatiaľ čo zdrojová pasáž určuje, čo výsledok skutočne hovorí.
Dĺžka vstupu a príprava dokumentu
Zdokumentovaná dĺžka sekvencie modelu je 512 tokenov. Dlhý zdroj preto treba pred vytvorením embeddingov rozdeliť na ucelené pasáže obsahujúce odpovede. Definície a výnimky zachovajte pri tvrdení, ktoré spresňujú, a uchovajte prepojenie pasáže s nadradeným dokumentom. Text pre embedding zahŕňa každú pridanú inštrukciu alebo nadpis, takže kompaktná príprava ponechá viac priestoru pre užitočný zdrojový obsah.
Pri reporte alebo príručke voľte hranice okolo časti alebo malej skupiny súvisiacich odsekov. Pasáž obsahujúca iba názov alebo fragment bez predmetu môže byť po vyhľadaní ťažko interpretovateľná. Uchovajte pôvodný text a verziu zdroja, aby aktualizácia indexu mohla pri zmene dokumentu nahradiť príslušný materiál.
Skóre a užitočný výstup
BAAI upozorňuje, že absolútne hodnoty podobnosti nie sú univerzálnymi prahmi na rozhodnutie, či dva texty znamenajú to isté. Dôležité je relatívne poradie a prah filtrovania treba vybrať podľa rozdelenia na vlastných dátach úlohy. Vysoká podobnosť vektorov je signálom pre vyhľadávanie, nie overením faktického obsahu pasáže.
Užitočným výstupom je index anglických pasáží, súbor vektorov dopytov alebo číselné príznaky na sémantické porovnávanie. Samostatný model na preusporiadanie môže spresniť vyhľadaných kandidátov a samostatná fáza generovania môže napísať odpoveď z ich textu. Tento konkrétny základný anglický model v1.5 zostáva odlišný od BGE Large, čínskych edícií a viacjazyčných i hybridných vyhľadávacích profilov BGE-M3.
Ailoot Ultra · Embeddingy POST /v1/embeddings baai/bge-base-en-v1.5
baai/bge-base-en-v1.5Úvod
BAAI bge-base-en-v1.5 premieňa anglický text na 768-rozmerné vektory pre sémantické vyhľadávanie a úlohy podobnosti. Jeho vstupné okno 512 tokenov a vyhľadávacia inštrukcia iba pre dopyt vyhovujú tematicky sústredeným pasážam v indexe dokumentov alebo znalostí.
- Povolené vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Embeddingy POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Výstupný formát
- json
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity baai/bge-base-en-v1.5 | Predvolené— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 Podmienky: Neprázdna homogénna dávka. ID tokenov sú nezáporné celé čísla. Vstupný rozpočet: Maximum: 512 · Textová jednotka: bajty UTF8 · Jednotka tokenov: prvky poľa tokenov | Predvolené— |
Poleencoding_format | Typstring | PožiadavkaVoliteľné | Hodnoty a limity float | Predvolenéfloat |
Poledimensions | Typinteger | PožiadavkaNepodporované | Hodnoty a limity Minimum: 1 | Predvolené— |
Poleuser | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Polesession_id | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poletrace | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poleprovider | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: provider.options sa odmieta | Predvolené— |
Kombinácie vstupných podkladov
text_to_embedding
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, input |
Parameterinput_shapes | Špecifikáciastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Špecifikáciafloat |
Parameterdimensions_override | Špecifikáciafalse |
Parametermax_input_budget_units | Špecifikácia512 |
Parametermultimodal_objects | Špecifikáciafalse |
Parametermaterial_types | Špecifikáciatext, token_ids |
Životný cyklus: synchronous_json
Uchovajte každý index a rozmer vektora.
Názov multimodálneho modelu neznamená, že na tejto konkrétnej trase možno použiť objekty obrázkov.
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Neuvedené Keď je zvolený rýchly režim
- Režim Flex
- Neuvedené Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0.00001 / 1K tokenov Výstup · Výstupné tokeny $0 / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Embeddingy
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-base-en-v1.5", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-base-en-v1.5',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Prijať a uložiť výsledky
Ailoot Ultra · Embeddingy
json
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Uchovajte každý vektor spolu s jeho indexom. Počet vektorov sa musí rovnať počtu vstupov; rozmery musia byť konzistentné.
Ak treba overiť pôvodnú odpoveď
Nezavádza sa žiadny koncový bod pre úlohy tvorby embeddingov.
Polia odpovede
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Aliasy
Aliasy modelov
Ailoot Ultra baai/bge-base-en-v1.5
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · BAAI: bge-base-en-v1.5
- Aké vstupy a výsledky sú dostupné?
POST /v1/embeddings·baai/bge-base-en-v1.5:text,token_ids→embedding- Aké polia používa požiadavka?
POST /v1/embeddings·baai/bge-base-en-v1.5:model,input,encoding_format,provider- Aké limity platia?
POST /v1/embeddings·baai/bge-base-en-v1.5:input.budget.maximum:512(bajty UTF8);input.min_items:1