Sentence Transformers: all-mpnet-base-v2
Sentence Transformers all-mpnet-base-v2 omvandlar meningar och korta stycken till 768-dimensionella vektorer för sökning, klustring och likhet. Det publicerade receptet använder medelvärdespoolning och L2-normalisering, med standardkapning vid 384 orddelar.
Om modellen
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
all-mpnet-base-v2 är en Sentence Transformers-modell för att representera meningar och korta stycken som täta vektorer med 768 dimensioner. Den finjusterades från MPNet-basmodellen med kontrastiv inlärning på en samling med en miljard meningspar. Tillverkaren anger informationssökning, klustring och meningslikhet som avsedda användningar.
Koda en mening eller ett kort stycke
Förbered texten som ska jämföras och behåll huvudidén och dess särskiljande detaljer. I en intern dokumentsamling kan ett kort avsnitt beskriva hur man begär ersättningsutrustning eller vilken information en underhållsrapport måste innehålla. Håll dokumenttiteln och källplatsen tillgängliga bredvid vektorn.
En fråga med inbäddning från samma modell kan hämta relaterade avsnitt även när ordalydelsen skiljer sig åt. Granska avsnitten för den faktiska instruktion läsaren behöver. I ett likhetsarbetsflöde jämför du själva kandidatmeningarna efter sökning, särskilt när en innehåller ett undantag eller villkor som saknas i den andra.
Medelvärdespoolning och normalisering
Referensexemplet för kodning beräknar medelvärdet av kontextuella tokenrepresentationer med attention-masken och utesluter utfyllnad från medelvärdet. Därefter L2-normaliseras de resulterande meningsinbäddningarna. Behåll båda stegen när vektorer produceras för en samling och för senare frågor.
Varje vektor har 768 komponenter. Cosinuslikhet kan jämföra dessa normaliserade representationer, medan källtexten ger evidensen bakom resultatet. Det gemensamma komponentantalet gör inte modellen kompatibel med multi-qa-mpnet-base-dot-v1: Den separata utgåvan anger CLS-poolning och onormaliserade vektorer för skalärproduktspoängsättning.
Standardkapning och förberedelse av passager
Tillverkaren anger att indata utöver 384 orddelar kapas som standard. Håll det relevanta avsnittet inom denna tokeniserargräns. För en lång procedur delar du vid meningsfulla avsnittsgränser och tar med tillräckligt lokalt sammanhang för att förklara vad ett steg gäller. Ett fragment som ”Skicka in inom fem dagar” behöver händelsen eller processen som startar tidsfristen.
Träningsproceduren begränsade sekvenser till 128 token, vilket är separat från den publicerade kodningsstandarden på 384 orddelar. Använd representativt material när längre stycken eller ordförråd som är specifikt för samlingen bedöms. Att mer text ryms i indata fastställer inte att varje detalj påverkar ett sökresultat lika mycket.
Sökning, gruppering och jämförelse
För sökning behåller du vektor–dokument-kopplingen så att rangordnade kandidater kan returnera originalavsnitten. I ett RAG-arbetsflöde blir valda avsnitt kontext för svarsskrivningssteget. Modellen ger numeriska representationer; den genererar inte ett källbaserat svar eller avgör vilket dokument som är auktoritativt.
För klustring jämför du posterna i varje föreslagen grupp innan etiketter tilldelas. En uppsättning underhållsanteckningar kan ha liknande språk men avse olika enheter eller olika felbetingelser. Ta med dessa särskiljande detaljer i den kodade texten och granska dem i det returnerade materialet i stället för att förlita dig på en poäng ensam.
Denna exakta all-mpnet-base-v2-checkpoint är en engelsk meningsinbäddningsprofil med egna inställningar för medelvärdespoolning, normalisering och standardkapning. Behåll inställningarna tillsammans med den indexerade samlingen och använd vektorerna som hjälp för att hitta och jämföra källpassager som är viktiga för uppgiften.
Ailoot Ultra · Embeddings POST /v1/embeddings sentence-transformers/all-mpnet-base-v2
sentence-transformers/all-mpnet-base-v2
sentence-transformers/all-mpnet-base-v2Start
Sentence Transformers all-mpnet-base-v2 omvandlar meningar och korta stycken till 768-dimensionella vektorer för sökning, klustring och likhet. Det publicerade receptet använder medelvärdespoolning och L2-normalisering, med standardkapning vid 384 orddelar.
- Godkända indata
- Text · token_ids
- Resultat
- embedding
Tillgängligt i Ailoot · indata & metoder
Ailoot Ultra · Embeddings POST /v1/embeddings
- Indatatyper
text,token_ids- Utdatatyper
embedding- Utdataformat
- json
| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser sentence-transformers/all-mpnet-base-v2 | Standard— |
Fältinput | Typstring|string[]|integer[]|integer[][] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 Villkor: En homogen batch som inte är tom. Token-ID:n är heltal som är större än eller lika med noll. Indatabudget: Maximum: 512 · Textenhet: UTF8-byte · Tokenenhet: element i en tokenarray | Standard— |
Fältencoding_format | Typstring | KravValfritt | Värden & gränser float | Standardfloat |
Fältdimensions | Typinteger | KravStöds inte | Värden & gränser Minimum: 1 | Standard— |
Fältuser | Typjson_value | KravValfritt | Värden & gränser Villkor: Källan tillåter detta JSON-metadatafält; den exakta innebörden hos leverantören beror på modellen. | Standard— |
Fältsession_id | Typjson_value | KravValfritt | Värden & gränser Villkor: Källan tillåter detta JSON-metadatafält; den exakta innebörden hos leverantören beror på modellen. | Standard— |
Fälttrace | Typjson_value | KravValfritt | Värden & gränser Villkor: Källan tillåter detta JSON-metadatafält; den exakta innebörden hos leverantören beror på modellen. | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisades | Standard— |
Kombinationer av indatamaterial
text_to_embedding
Metodparametrar och livscykel
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, input |
Parameterinput_shapes | Avtalstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Avtalfloat |
Parameterdimensions_override | Avtalfalse |
Parametermax_input_budget_units | Avtal512 |
Parametermultimodal_objects | Avtalfalse |
Parametermaterial_types | Avtaltext, token_ids |
Livscykel: synchronous_json
Behåll varje vektorindex och dimension.
Att modellen har ett multimodalt namn innebär inte att bildobjekt tillåts på just denna anropsväg.
Priser
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
- Snabbt läge
- Ej angivet När snabbt läge är valt
- Flex-läge
- Ej angivet När läget flex är valt
- Högsta resonemangsnivå
- Ej angivet När den högsta resonemangsnivån använder standardjusteringen (default)
Ailoot-priser
Priser efter konfiguration
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.00001 / 1K token Utdata · Utdatatoken $0 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
Exempelbegäranden
Ailoot Ultra · Embeddings
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/all-mpnet-base-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/all-mpnet-base-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Ta emot och spara resultat
Ailoot Ultra · Embeddings
json
Behåll alla färdiga resultat
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje vektor tillsammans med dess index. Antalet vektorer måste vara lika med antalet indataobjekt; dimensionerna måste vara konsekventa.
Om det ursprungliga svaret behöver kontrolleras
Ingen endpoint för inbäddningsjobb införs.
Svarsfält
| Fält | Typ |
|---|---|
Fältobject | Typstring |
Fältmodel | Typstring |
Fältdata[].index | Typinteger |
Fältdata[].embedding | Typfinite float[] |
Fältusage | Typobject |
Fel och nästa steg
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Alias
Modellalias
Ailoot Ultra sentence-transformers/all-mpnet-base-v2
Alias för metodsökvägar
Använd metodsökvägarna som visas ovan.
Relaterade anropar-ID:n
FAQ · Sentence Transformers: all-mpnet-base-v2
- Vilka indata och resultat finns?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:text,token_ids→embedding- Vilka fält använder begäran?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:model,input,encoding_format,provider- Vilka gränser gäller?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:input.budget.maximum:512(UTF8-byte);input.min_items:1