BAAI: bge-m3
BAAI BGE-M3 podporuje vyhledávání pomocí hustých, řídkých lexikálních a vícevektorových reprezentací ve více než 100 jazycích. Hustý výstup má 1024 rozměrů a okno 8192 tokenů pojme věty i delší dokumenty bez povinné instrukce k dotazu.
O modelu
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
BGE-M3 je vícejazyčný vyhledávací model BAAI navržený kolem tří druhů všestrannosti: více vyhledávacích funkcí, více jazyků a různých délek vstupu. Výrobce dokumentuje podporu více než sta jazyků a vstupů až do 8192 tokenů. Jeho sjednocený model může poskytovat husté vektory, řídké lexikální váhy a vícevektorové reprezentace, takže návrh vyhledávání může vybrat nebo kombinovat více druhů podkladů.
Tři reprezentace pro vyhledávání
Hustý režim mapuje text na jediný vektor s 1024 rozměry. Podporuje porovnávání významu reprezentovaného dotazem a pasáží. Řídký režim přiřazuje váhy tokenům přítomným v textu pro lexikální shodu. Vícevektorový režim představuje text několika vektory a používá interakci ve stylu ColBERT k jemnějšímu porovnání dotazu a dokumentu.
Tyto výstupy mají různé role ve vyhledávacím indexu. Hustý vektor poskytuje jednu reprezentaci pasáže; řídká mapa vah tokenů zachovává lexikální signály; více vektorů poskytuje odlišnou porovnávací strukturu. Příklady výrobce ukazují vracení vybraných reprezentací a výpočet skóre textových párů. Zacházejte se zvolenou reprezentací a metodou skórování jako se záměrnou součástí vyhledávací úlohy.
Vícejazyčný text a příprava vstupu
BGE-M3 nevyžaduje přidání vyhledávací instrukce používané staršími modely BGE. Připravte přímo dotaz a skutečné zdrojové pasáže. Vícejazyčná znalostní kolekce může uchovat každou pasáž v původním jazyce s identifikátorem dokumentu a jazykovou variantou. Při kontrole výsledků používejte skutečné uživatelské otázky ze zamýšlené jazykové kombinace.
Praktickou úlohou je vyhledávat vysvětlení pravidel, produktovou nápovědu nebo technickou dokumentaci uložené v několika jazycích. Zachovejte názvy, čísla modelů a termíny důležité pro otázku. Lexikální reprezentace může pomoci zachovat shodu těchto termínů, zatímco hustá reprezentace poskytuje sémantické podklady. Vyhledaná pasáž má obsahovat text a umístění zdroje, které může čtenář zkontrolovat.
Delší dokumenty a podrobnost
Vstupní okno 8192 tokenů umožňuje modelu reprezentovat materiál od krátkých vět po delší dokumenty. Volte podrobnost podle odpovědi, kterou má vyhledávání vracet. Úplná sekce může zachovat definici a její výjimky; menší pasáž může usnadnit nalezení konkrétní instrukce. Dlouhé okno tyto volby umožňuje, ale vektor zůstává spojený se skutečně zakódovaným materiálem.
Udržujte každou pasáž spojenou s nadřazeným dokumentem a verzí. U dlouhé zprávy zachovejte nadpis a okolní vysvětlení příslušného obrázku nebo závěru. Nespoléhejte pouze na název vyhledaného výsledku, pokud jsou podklady v těle textu. Pokud se zdroj změní, uchovejte dostatek metadat pro aktualizaci odpovídajících vyhledávacích reprezentací.
Hybridní skóre a navazující použití
Výrobce doporučuje hybridní vyhledávání následované samostatnou fází přerankování. Jeho příklady počítají hustá, řídká a vícevektorová skóre a tvoří vážené kombinace. Volte kombinaci podle otázek a slovní zásoby kolekce; váha uvedená v příkladu není univerzální nastavení pro každý korpus.
Užitečným výsledkem je sada kandidátů, jejichž zdrojové pasáže zůstávají dostupné, se zaznamenanou reprezentací a metodou řazení. Samostatný přerankovací model může tuto sadu zpřesnit a samostatná fáze generování textu využít obsah pasáží. Řídké a vícevektorové schopnosti BGE-M3 jsou režimy modelu výrobce; hustá reprezentace, lexikální výstup a párové skóre jsou odlišné artefakty, nikoli zaměnitelná pole.
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings baai/bge-m3
baai/bge-m3Úvod
BAAI BGE-M3 podporuje vyhledávání pomocí hustých, řídkých lexikálních a vícevektorových reprezentací ve více než 100 jazycích. Hustý výstup má 1024 rozměrů a okno 8192 tokenů pojme věty i delší dokumenty bez povinné instrukce k dotazu.
- Přijímané vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metody
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Kontext
- 8 194 tokens
- Výstupní formát
- json
| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity baai/bge-m3 | Výchozí— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 Podmínky: Neprázdná homogenní dávka. ID tokenů jsou nezáporná celá čísla. Rozpočet vstupu: Maximum: 8 194 · Jednotka textu: bajty UTF8 · Jednotka tokenů: prvky pole tokenů | Výchozí— |
Poleencoding_format | Typstring | PožadavekVolitelné | Hodnoty a limity float | Výchozífloat |
Poledimensions | Typinteger | PožadavekNepodporováno | Hodnoty a limity Minimum: 1 | Výchozí— |
Poleuser | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Polesession_id | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poletrace | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: Parametr provider.options byl odmítnut | Výchozí— |
Kombinace vstupních materiálů
text_to_embedding
Parametry a životní cyklus metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, input |
Parametrinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Kontraktfloat |
Parametrdimensions_override | Kontraktfalse |
Parametrmax_input_budget_units | Kontrakt8194 |
Parametrmultimodal_objects | Kontraktfalse |
Parametrmaterial_types | Kontrakttext, token_ids |
Životní cyklus: synchronous_json
Uchovejte index i rozměr každého vektoru.
Multimodální název modelu neznamená, že tato konkrétní cesta přijímá obrazové objekty.
Tarify
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
- Rychlý režim
- Standardní sazba Při výběru rychlého režimu
- Režim flex
- Standardní sazba Při výběru režimu flex
- Maximální intenzita uvažování
- Standardní sazba Když se při maximální intenzitě uvažování použije výchozí úprava (default)
Sazby Ailoot
Ceny podle konfigurace
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.00004 / 1K tokenů Výstup · Výstupní tokeny $0 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
Příklady požadavků
Ailoot Ultra · Vektorové reprezentace
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-m3", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-m3',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Přijímání a ukládání výsledků
Ailoot Ultra · Vektorové reprezentace
json
Uchovejte všechny dokončené výsledky
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Uchovejte každý vektor spolu s jeho indexem. Počet vektorů musí odpovídat počtu vstupů; jejich rozměr musí být jednotný.
Pokud je nutné ověřit původní odpověď
Samostatný endpoint úloh pro embeddingy se nezavádí.
Pole odpovědi
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a další kroky
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Aliasy
Aliasy modelu
Ailoot Ultra baai/bge-m3
Aliasy cest metod
Použijte cesty metod uvedené výše.
Související ID modelů
FAQ · BAAI: bge-m3
- Jaké vstupy a výsledky jsou dostupné?
POST /v1/embeddings·baai/bge-m3:text,token_ids→embedding- Jaká pole požadavek používá?
POST /v1/embeddings·baai/bge-m3:model,input,encoding_format,provider- Jaké limity platí?
POST /v1/embeddings·baai/bge-m3:ctx:8194;input.budget.maximum:8194(bajty UTF8);input.min_items:1