Sentence Transformers: all-mpnet-base-v2

Sentence Transformers all-mpnet-base-v2 premieňa vety a krátke odseky na 768-rozmerné vektory na vyhľadávanie, zhlukovanie a podobnosť. Zverejnený postup používa priemerovanie reprezentácií a normalizáciu L2 s predvoleným skracovaním na 384 podslovných jednotiek.

Ailoot Ultra · Embeddingy POST /v1/embeddings sentence-transformers/all-mpnet-base-v2

O modeli

Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.

all-mpnet-base-v2 je model Sentence Transformers na reprezentáciu viet a krátkych odsekov ako 768-rozmerných hustých vektorov. Bol doladený zo základného modelu MPNet pomocou kontrastívneho učenia na kolekcii miliardy dvojíc viet. Výrobca ako zamýšľané použitia uvádza vyhľadávanie informácií, zhlukovanie a podobnosť viet.

Zakódujte vetu alebo krátky odsek

Pripravte text, ktorý sa má porovnávať, a zachovajte hlavnú myšlienku aj rozlišujúce detaily. Pri internej kolekcii dokumentov môže krátka časť opisovať, ako požiadať o výmenu zariadenia alebo čo musí obsahovať správa o údržbe. Názov dokumentu a umiestnenie zdroja ponechajte dostupné vedľa vektora.

Dopyt s embeddingom vytvoreným tým istým modelom môže vyhľadať súvisiace časti aj pri odlišnom znení. Preskúmajte v týchto častiach skutočný pokyn potrebný pre čitateľa. Pri porovnávaní podobnosti po vyhľadaní porovnajte samotné kandidátske vety, najmä keď jedna obsahuje výnimku či podmienku, ktorá v druhej chýba.

Priemerovanie reprezentácií a normalizácia

Referenčný príklad kódovania priemeruje kontextové reprezentácie tokenov s maskou pozornosti a vylučuje výplň z priemeru. Výsledné embeddingy viet potom normalizuje pomocou L2. Oba kroky zachovajte pri vytváraní vektorov pre kolekciu aj pre neskoršie dopyty.

Každý vektor má 768 zložiek. Kosínusová podobnosť môže porovnávať tieto normalizované reprezentácie, zatiaľ čo zdrojový text poskytuje dôkazy za výsledkom. Spoločný počet zložiek nerobí tento model kompatibilným s multi-qa-mpnet-base-dot-v1: táto samostatná edícia uvádza CLS pooling a nenormalizované vektory na skórovanie skalárnym súčinom.

Predvolené skracovanie a príprava pasáží

Výrobca uvádza, že vstup nad 384 podslovných jednotiek sa predvolene skracuje. Relevantnú časť udržte v tejto hranici tokenizéra. Pri dlhom postupe rozdeľujte na významových hraniciach častí a zahrňte dostatok miestneho kontextu na vysvetlenie, na čo sa krok vzťahuje. Fragment ako „Odošlite do piatich dní“ potrebuje udalosť alebo proces, od ktorého sa lehota počíta.

Trénovací postup obmedzoval sekvencie na 128 tokenov, čo je odlišné od zverejneného predvoleného kódovania s 384 podslovnými jednotkami. Pri posudzovaní dlhších odsekov alebo slovníka špecifického pre kolekciu používajte reprezentatívny materiál. To, že sa do vstupu zmestí viac textu, nepreukazuje rovnaký vplyv každého detailu na výsledok vyhľadávania.

Vyhľadávanie, zoskupovanie a porovnávanie

Pri vyhľadávaní zachovajte prepojenie vektora na dokument, aby zoradení kandidáti mohli vrátiť pôvodné časti. V postupe RAG sa vybrané časti stávajú kontextom pre fázu písania odpovede. Model poskytuje číselné reprezentácie; negeneruje odpoveď s uvedenými zdrojmi ani nerozhoduje, ktorý dokument je autoritatívny.

Pri zhlukovaní porovnajte záznamy v každej navrhnutej skupine pred priradením štítkov. Súbor poznámok o údržbe môže obsahovať podobný jazyk, ale odkazovať na rôzne zariadenia alebo podmienky poruchy. Tieto rozlišujúce detaily zahrňte do kódovaného textu a preskúmajte ich vo vrátenom materiáli namiesto spoliehania sa iba na skóre.

Tento konkrétny kontrolný bod all-mpnet-base-v2 je anglický profil embeddingov viet s vlastnými nastaveniami priemerovania reprezentácií, normalizácie a predvoleného skracovania. Tieto nastavenia uchovajte s indexovanou kolekciou a vektory používajte ako pomôcku na hľadanie a porovnávanie zdrojových pasáží dôležitých pre úlohu.

Ailoot Ultra · Embeddingy POST /v1/embeddings sentence-transformers/all-mpnet-base-v2

sentence-transformers/all-mpnet-base-v2

Sentence Transformers /sentence-transformers/all-mpnet-base-v2

Úvod

Povolené vstupy: Text · token_ids
Výsledky: embedding

Dostupné v Ailoot · vstupy a metódy

Ailoot Ultra · Embeddingy POST /v1/embeddings

Vstup: text, token_ids
Výstup: embedding
Výstupný formát: json

Pole	Typ	Požiadavka	Hodnoty a limity	Predvolené
Pole`model`	Typ`string`	PožiadavkaPovinné	Hodnoty a limity sentence-transformers/all-mpnet-base-v2	Predvolené—
Pole`input`	Typ`string\|string[]\|integer[]\|integer[][]`	PožiadavkaPovinné	Hodnoty a limity Minimálny počet položiek: 1 Podmienky: Neprázdna homogénna dávka. ID tokenov sú nezáporné celé čísla. Vstupný rozpočet: Maximum: 512 · Textová jednotka: bajty UTF8 · Jednotka tokenov: prvky poľa tokenov	Predvolené—
Pole`encoding_format`	Typ`string`	PožiadavkaVoliteľné	Hodnoty a limity float	Predvolenéfloat
Pole`dimensions`	Typ`integer`	PožiadavkaNepodporované	Hodnoty a limity Minimum: 1	Predvolené—
Pole`user`	Typ`json_value`	PožiadavkaVoliteľné	Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu.	Predvolené—
Pole`session_id`	Typ`json_value`	PožiadavkaVoliteľné	Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu.	Predvolené—
Pole`trace`	Typ`json_value`	PožiadavkaVoliteľné	Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu.	Predvolené—
Pole`provider`	Typ`object`	PožiadavkaVoliteľné	Hodnoty a limity Podmienky: provider.options sa odmieta	Predvolené—

Kombinácie vstupných podkladov

text_to_embedding

Parametre a životný cyklus metódy

Parameter	Špecifikácia
Parameter`content_type`	Špecifikáciaapplication/json
Parameter`required`	Špecifikáciamodel, input
Parameter`input_shapes`	Špecifikáciastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[]
Parameter`encoding_format`	Špecifikáciafloat
Parameter`dimensions_override`	Špecifikáciafalse
Parameter`max_input_budget_units`	Špecifikácia512
Parameter`multimodal_objects`	Špecifikáciafalse
Parameter`material_types`	Špecifikáciatext, token_ids

Životný cyklus: synchronous_json

Uchovajte každý index a rozmer vektora.

Názov multimodálneho modelu neznamená, že na tejto konkrétnej trase možno použiť objekty obrázkov.

Cenník

Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.

Rýchly režim: Neuvedené Keď je zvolený rýchly režim
Režim Flex: Neuvedené Keď je zvolený režim flex
Maximálna úroveň uvažovania: Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)

Sadzby Ailoot

Ceny podľa konfigurácie

Konfigurácia	Sadzobník	Poplatok
KonfiguráciaZákladné sadzby za tokeny	SadzobníkZákladná sadzba	Poplatok Vstup · Vstupné tokeny $0.00001 / 1K tokenov Výstup · Výstupné tokeny $0 / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov

Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →

Príklady požiadaviek

Ailoot Ultra · Embeddingy

curlPython SDK

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/all-mpnet-base-v2", "input": ["First document", "Second document"]}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT

from openai import OpenAI
import os

client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/all-mpnet-base-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)

Prijať a uložiť výsledky

Ailoot Ultra · Embeddingy

json

Uchovať všetky dokončené výsledky

Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.

Uchovajte každý vektor spolu s jeho indexom. Počet vektorov sa musí rovnať počtu vstupov; rozmery musia byť konzistentné.

Ak treba overiť pôvodnú odpoveď

Nezavádza sa žiadny koncový bod pre úlohy tvorby embeddingov.

Polia odpovede

Pole	Typ
Pole`object`	Typstring
Pole`model`	Typstring
Pole`data[].index`	Typinteger
Pole`data[].embedding`	Typfinite float[]
Pole`usage`	Typobject

Chyby a ďalšie kroky

Odpoveď	Podmienka	Ďalší krok
Odpoveď400 · `invalid_request_error`	PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra	Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia.

Aliasy

Aliasy modelov

Ailoot Ultra sentence-transformers/all-mpnet-base-v2

Aliasy ciest metód

Použite cesty metód uvedené vyššie.

Súvisiace ID na volanie

sentence-transformers/all-mpnet-base-v2

FAQ · Sentence Transformers: all-mpnet-base-v2

Aké vstupy a výsledky sú dostupné?: POST /v1/embeddings · sentence-transformers/all-mpnet-base-v2: text, token_ids → embedding
Aké polia používa požiadavka?: POST /v1/embeddings · sentence-transformers/all-mpnet-base-v2: model, input, encoding_format, provider
Aké limity platia?: POST /v1/embeddings · sentence-transformers/all-mpnet-base-v2: input.budget.maximum: 512 (bajty UTF8); input.min_items: 1

Sentence Transformers: all-mpnet-base-v2