bge-reranker-v2-m3
Viacjazyčný krížový enkodér BAAI na zoraďovanie kandidátskych pasáží podľa dopytu. Číta každú dvojicu dopyt–pasáž spoločne a vracia skóre relevantnosti, čím spresňuje užší výber výsledkov vyhľadávania bez generovania odpovede alebo vytvárania embeddingov dokumentov.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
BGE Reranker v2 M3 je viacjazyčný model relevantnosti postavený na BGE-M3. Prijíma dopyt spolu s kandidátskou pasážou a vracia skóre ich vzťahu. BAAI predstavuje túto edíciu ako efektívny viacjazyčný reranker, okrem iného na vyhľadávanie v čínštine a angličtine, keď vyhľadávacia aplikácia potrebuje spresniť existujúci zoznam kandidátov.
Relevantnosť dvojice dopyt–pasáž
Krížový enkodér spracúva oba texty spoločne, takže ich obsah môže vzájomne pôsobiť ešte pred vytvorením skóre relevantnosti. Tým sa líši od embeddingového modelu, ktorý kóduje texty nezávisle od seba, aby ich bolo možné opakovane porovnávať vo vektorovej podobe. Výstupom rerankera je skalárne skóre konkrétnej dvojice, nie vektor dokumentu ani písomná odpoveď.
Model používajte po úvodnom vyhľadávaní, ktoré vyberie možné relevantné pasáže. Spojte otázku s každým kandidátom a kandidátov zoraďte podľa výsledných skóre. Podrobnejšie porovnávanie sa tak sústredí na zvládnuteľný užší výber namiesto požiadavky, aby krížový enkodér preskúmal každú pasáž v rozsiahlej kolekcii.
Edícia v2 M3
Výrobca označuje BGE-M3 za základný model a viacjazyčnú podporu uvádza ako hlavnú vlastnosť. V rámci rodiny rerankerov v2 je M3 efektívnou viacjazyčnou možnosťou; varianty založené na Gemma a varianty s výberom vrstiev sú samostatné modely s odlišnými implementačnými voľbami. Názov M3 tu neznamená, že reranker vracia husté, riedke a viacvektorové embeddingy pôvodného embeddingového modelu.
Tento rozdiel je dôležitý pri výbere výsledku, ktorý aplikácia vyžaduje. Na reprezentáciu a vyhľadávanie v kolekcii dokumentov vyberte embeddingový model. Tento reranker vyberte, keď už máte kandidátsky text a potrebujete rozhodnúť, ktorá pasáž je pre aktuálny dopyt najrelevantnejšia.
Príprava kandidátov na užitočné zoraďovanie
Dodajte skutočnú otázku a úplný kandidátsky text potrebný na jej interpretáciu. Zachovajte nadpisy alebo blízke definície, ak určujú význam pasáže. V zverejnenom príklade Transformers sa dopyt a pasáž tokenizujú spoločne so skracovaním a max_length=512. Ide o nastavenie príkladu, nie o všeobecný limit modelu. Otázku a potrebné dôkazy udržte v zvolenom rozpočte dvojice a overte, čo skracovanie odstráni. Výsledok spomínajúci rovnaký produkt ako dopyt môže byť stále irelevantný, ak rieši nesprávnu operáciu alebo podmienku; pri hodnotení kvality vyhľadávania pripravte príklady, ktoré tieto prípady odlíšia.
Pri asistentovi na dokumenty uchovajte identifikátory kandidátov pri ich texte, ohodnoťte dvojice otázka–pasáž a vybrané pôvodné pasáže odovzdajte kroku odpovedania. Odpovedajúci model tak dostane dôkazy namiesto skóre relevantnosti bez zdroja. Ide o ilustračný postup vyhľadávania; samotný reranker neprehľadáva externú kolekciu ani nepíše odpoveď.
Čítanie a normalizácia skóre
Výrobca vracia surové skóre relevantnosti, pričom vyššia hodnota znamená bližšiu zhodu. Jeho dokumentovaná voliteľná normalizácia používa sigmoidálnu funkciu na umiestnenie skóre medzi 0 a 1. Normalizované skóre má praktický rozsah, no samotná transformácia nepreukazuje kalibrovanú pravdepodobnosť správnosti kandidáta.
Prahy zoraďovania alebo filtrovania vyberte pomocou reprezentatívnych dvojíc dopyt–pasáž z vašej práce. Zahrňte pasáže so spoločnými kľúčovými slovami, ktoré odpovedajú na inú otázku, aj relevantné pasáže s odlišným znením. Zvolený prah tak bude zmysluplný pre prehľadávanú kolekciu.
Pri projekte s Ailoot API definujte, čo má obsahovať konečný kontext a koľko kandidátov možno efektívne preskúmať. Užitočným výsledkom je lepšie usporiadaný súbor dôkazov pre ďalší krok aplikácie. Výstup relevantnosti tejto edície uchovajte oddelene od embeddingov dokumentov, generovaného textu a ovládania výberu vrstiev dokumentovaného pre iné rerankery.
Ailoot Ultra · Opätovné zoradenie výsledkov POST /v1/rerank bge-reranker-v2-m3
bge-reranker-v2-m3Úvod
Viacjazyčný krížový enkodér BAAI na zoraďovanie kandidátskych pasáží podľa dopytu. Číta každú dvojicu dopyt–pasáž spoločne a vracia skóre relevantnosti, čím spresňuje užší výber výsledkov vyhľadávania bez generovania odpovede alebo vytvárania embeddingov dokumentov.
- Povolené vstupy
- Text
- Výsledky
- Zoradené výsledky
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Opätovné zoradenie výsledkov POST /v1/rerank
- Vstup
text- Výstup
rerank
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity bge-reranker-v2-m3 | Predvolené— |
Polequery | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poledocuments | Typarray | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, documents |
Parametermaterial_types | Špecifikáciatext |
Parametermaterial_conditions | ŠpecifikáciaZadajte svoj skutočný dopyt a neprázdne pole pôvodných textových dokumentov. Indexy výsledkov odkazujú na toto pôvodné pole. |
Životný cyklus: synchronous_result_then_owned_library
GET /v1/media/assets/{asset_id}/content
GET /v1/media/assets
GET /v1/media/assets/{asset_id}
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Neuvedené Keď je zvolený rýchly režim
- Režim Flex
- Neuvedené Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
Každý poplatok priraďte k zobrazeným podmienkam. Pre každú skupinu alternatívnych konfigurácií použite jednu sadzbu.
| Konfigurácia | Sadzobník | Účtovacia jednotka | Poplatok |
|---|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Účtovacia jednotka— | Poplatok Vstup · Vstupné tokeny — / 1K tokenov Výstup · Výstupné tokeny — / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
| Konfiguráciacelkový počet tokenov | Sadzobník— | Účtovacia jednotka/ 1K tokenov | Poplatok Vstup · celkový počet tokenov $0.00004 / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Opätovné zoradenie výsledkov
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_QUERY:?Set the actual documented input value}"
export AILOOT_QUERY
: "${AILOOT_DOCUMENTS_JSON:?Set the actual documented input value}"
export AILOOT_DOCUMENTS_JSON
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
request={'model': 'bge-reranker-v2-m3', 'query': '${ACTUAL_QUERY}', 'documents': '${ACTUAL_DOCUMENTS}'}
request['query']=os.environ['AILOOT_QUERY']
request['documents']=json.loads(os.environ['AILOOT_DOCUMENTS_JSON'])
Path('request.json').write_text(json.dumps(request,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o response.bin
# Retain the complete response and headers, every actual output, original returned identifiers and all usage fields. Recover the original operation without submitting creation again.
Prijať a uložiť výsledky
Ailoot Ultra · Opätovné zoradenie výsledkov
Úplný pôvodný natívny výsledok JSON s nakonfigurovaným modelom odpovede, pôvodnými indexmi dokumentov, skóre relevantnosti, reťazcami dokumentov a natívnou spotrebou tokenov. Zachovajte každý skutočný výsledok a pole spotreby.
GET /v1/media/assets/{asset_id}/contentGET /v1/media/assetsGET /v1/media/assets/{asset_id}
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Uchovajte úplnú odpoveď a hlavičky, všetky skutočné výstupy, pôvodné vrátené identifikátory a všetky polia s údajmi o spotrebe. Obnovte pôvodnú operáciu bez opätovného odoslania požiadavky na vytvorenie.
Ak treba overiť pôvodnú odpoveď
Zachovajte skutočné X-Client-Request-ID a celú odpoveď. Načítajte pôvodné súbory vo vašom vlastníctve a ich presné podpísané URL obsahu; neisté vytvorenie nikdy znova neodosielajte.
Polia odpovede
| Pole | Typ | Význam |
|---|---|---|
Polemodel | Typstring | VýznamPresný model odpovede vyžadovaný nakonfigurovaným spracovateľom v zdrojovom kóde. |
Poleresults[].index | Typinteger | VýznamJedinečný index pôvodného vstupného dokumentu. |
Poleresults[].relevance_score | Typnumber | VýznamKonečná hodnota skóre relevantnosti. |
Poleresults[].document | Typstring | VýznamPôvodný textový dokument vyžadovaný týmto nakonfigurovaným spracovateľom odpovede. |
Poleusage.total_tokens | Typinteger | VýznamKonečný nezáporný natívny počet tokenov vyžadovaný aktuálnou prijatou tarifou. |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaTelo JSON alebo explicitné kanonické ID modelu sú neplatné. | Ďalší krokZachovajte odpoveď a opravte označené pole požiadavky. |
Odpoveď401 · authentication_error | PodmienkaKľúč API služby Ailoot je neplatný. | Ďalší krokPoužite svoj autorizovaný kľúč API služby Ailoot. |
Odpoveď403 · permission_error | PodmienkaSkupina kľúča nepovoľuje túto metódu. | Ďalší krokZachovajte vrátené podrobnosti chyby. |
Odpoveď404 · not_found_error | PodmienkaVybraná metóda nemá povolenú trasu. | Ďalší krokZachovajte vrátené podrobnosti chyby. |
Odpoveď422 · price_unavailable | PodmienkaPrijatá tarifa nedokáže získať požadované množstvo vstupu alebo jeho hranicu. | Ďalší krokZachovajte odpoveď; použite reprezentáciu vstupu vyžadovanú prijatou tarifou. |
Odpoveď503 · | PodmienkaPožadované úložisko, trasa, cena metódy alebo rezervácia nie sú dostupné. | Ďalší krokZachovajte celú pôvodnú odpoveď. Neistá rezervácia nie je povolením na opätovné odoslanie. |
Odpoveď502 · billing_requires_check | PodmienkaPôvodný výsledok, spotreba alebo zúčtovanie vyžadujú kontrolu. | Ďalší krokZachovajte skutočné ID požiadavky a pôvodnú odpoveď. Načítajte existujúci záznam vo vašom vlastníctve; vytvorenie znova neodosielajte. |
Aliasy
Aliasy modelov
Ailoot Ultra bge-reranker-v2-m3
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · bge-reranker-v2-m3
- Aké vstupy a výsledky sú dostupné?
POST /v1/rerank·bge-reranker-v2-m3:text→rerank- Aké polia používa požiadavka?
POST /v1/rerank·bge-reranker-v2-m3:model,query,documents