Sentence Transformers: all-mpnet-base-v2
Sentence Transformers all-mpnet-base-v2 convierte frases y párrafos cortos en vectores de 768 dimensiones para recuperación, agrupación y similaridad. La receta publicada utiliza mean pooling y normalización L2, con truncamiento predeterminado a 384 fragmentos de palabra.
Sobre el modelo
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
all-mpnet-base-v2 es un modelo de Sentence Transformers para representar frases y párrafos cortos como vectores densos de 768 dimensiones. Se ajustó a partir del modelo base MPNet con aprendizaje contrastivo sobre una colección de mil millones de pares de frases. El fabricante identifica la recuperación de información, la agrupación y la similaridad entre frases como usos previstos.
Codifica una frase o un párrafo corto
Prepara el texto que se debe comparar, manteniendo la idea principal y sus detalles distintivos. Para una colección documental interna, una sección corta podría describir cómo solicitar la sustitución de un equipo o qué información debe contener un informe de mantenimiento. Mantén disponibles su título documental y ubicación de origen junto con el vector.
Una consulta con un embedding generado por el mismo modelo puede recuperar secciones relacionadas incluso cuando su formulación difiera. Examina esas secciones para encontrar la instrucción real que necesita el lector. Para un flujo de similaridad, compara las propias frases candidatas después de la recuperación, especialmente cuando una incluya una excepción o condición ausente de la otra.
Mean pooling y normalización
El ejemplo de codificación de referencia promedia representaciones contextuales de tokens con la máscara de atención, excluyendo el relleno de la media. Después normaliza con L2 los embeddings de frase resultantes. Conserva ambos pasos al producir vectores para una colección y para consultas posteriores.
Cada vector tiene 768 componentes. La similaridad del coseno puede comparar esas representaciones normalizadas, mientras que el texto de origen aporta la evidencia que respalda un resultado. La cantidad compartida de componentes no hace que este modelo sea compatible con multi-qa-mpnet-base-dot-v1: esa edición separada especifica CLS pooling y vectores sin normalizar para puntuación por producto escalar.
Truncamiento predeterminado y preparación de pasajes
El fabricante afirma que la entrada que supera 384 fragmentos de palabra, o word pieces, se trunca por defecto. Mantén la sección pertinente dentro de ese límite del tokenizador. Para un procedimiento largo, divide en límites de sección significativos e incluye suficiente contexto local para explicar a qué se aplica un paso. Un fragmento como «Enviar dentro de cinco días» necesita el evento o proceso que inicia el plazo.
El procedimiento de entrenamiento limitó las secuencias a 128 tokens, lo que es distinto del valor predeterminado publicado de 384 fragmentos de palabra para codificación. Utiliza material representativo al evaluar párrafos más largos o vocabulario específico de tu colección. Que quepa más texto en la entrada no establece que todos los detalles vayan a influir por igual en un resultado de recuperación.
Recuperación, agrupación y comparación
Para búsqueda, conserva la asociación entre vector y documento para que los candidatos ordenados puedan devolver las secciones originales. En un flujo RAG, las secciones seleccionadas se convierten en contexto para la etapa de redacción de la respuesta. El modelo aporta representaciones numéricas; no genera una respuesta fundamentada en fuentes ni decide qué documento debe considerarse la referencia autorizada.
Para agrupación, compara los registros de cada grupo propuesto antes de asignar etiquetas. Un conjunto de notas de mantenimiento puede contener lenguaje similar pero referirse a dispositivos o condiciones de fallo distintos. Incluye esos detalles distintivos en el texto codificado y examínalos en el material devuelto, en lugar de basarte únicamente en una puntuación.
Este checkpoint exacto all-mpnet-base-v2 es un perfil de embeddings de frases en inglés con sus propios ajustes de mean pooling, normalización y truncamiento predeterminado. Mantén esos ajustes junto con la colección indexada y utiliza los vectores como ayuda para encontrar y comparar los pasajes de origen que importan para la tarea.
Ailoot Ultra · Representaciones vectoriales POST /v1/embeddings sentence-transformers/all-mpnet-base-v2
sentence-transformers/all-mpnet-base-v2
sentence-transformers/all-mpnet-base-v2Primeros pasos
Sentence Transformers all-mpnet-base-v2 convierte frases y párrafos cortos en vectores de 768 dimensiones para recuperación, agrupación y similaridad. La receta publicada utiliza mean pooling y normalización L2, con truncamiento predeterminado a 384 fragmentos de palabra.
- Entradas aceptadas
- Texto · token_ids
- Resultados
- embedding
Disponible en Ailoot · entradas y métodos
Ailoot Ultra · Representaciones vectoriales POST /v1/embeddings
- Tipos de entrada
text,token_ids- Tipos de salida
embedding- Formato de salida
- json
| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites sentence-transformers/all-mpnet-base-v2 | Predeterminado— |
Campoinput | Tipostring|string[]|integer[]|integer[][] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 Condiciones: Lote homogéneo no vacío. Los ID de tokens son números enteros no negativos. Presupuesto de entrada: Máximo: 512 · Unidad de texto: bytes UTF8 · Unidad de tokens: elementos de un array de tokens | Predeterminado— |
Campoencoding_format | Tipostring | RequisitoOpcional | Valores y límites float | Predeterminadofloat |
Campodimensions | Tipointeger | RequisitoNo compatible | Valores y límites Mínimo: 1 | Predeterminado— |
Campouser | Tipojson_value | RequisitoOpcional | Valores y límites Condiciones: Source permite este campo de metadatos JSON; su semántica exacta en el proveedor depende de cada modelo. | Predeterminado— |
Camposession_id | Tipojson_value | RequisitoOpcional | Valores y límites Condiciones: Source permite este campo de metadatos JSON; su semántica exacta en el proveedor depende de cada modelo. | Predeterminado— |
Campotrace | Tipojson_value | RequisitoOpcional | Valores y límites Condiciones: Source permite este campo de metadatos JSON; su semántica exacta en el proveedor depende de cada modelo. | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza | Predeterminado— |
Combinaciones de materiales de entrada
text_to_embedding
Parámetros del método y ciclo de vida
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, input |
Parámetroinput_shapes | Contratostring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parámetroencoding_format | Contratofloat |
Parámetrodimensions_override | Contratofalse |
Parámetromax_input_budget_units | Contrato512 |
Parámetromultimodal_objects | Contratofalse |
Parámetromaterial_types | Contratotext, token_ids |
Ciclo de vida: synchronous_json
Conserva todos los índices y dimensiones de los vectores.
Que el modelo tenga un nombre multimodal no permite enviar objetos de imagen por esta ruta concreta.
Planes
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
- Modo rápido
- Sin especificar Cuando se selecciona el modo rápido
- Modo flex
- Sin especificar Cuando se selecciona el modo flex
- Esfuerzo máximo de razonamiento
- Sin especificar Cuando el esfuerzo máximo de razonamiento utiliza el ajuste predeterminado (default)
Tarifas de Ailoot
Precios por configuración
| Configuración | Tabla de tarifas | Cargo |
|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Cargo Entrada · Tokens de entrada $0.00001 / 1K tokens Salida · Tokens de salida $0 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
Solicitudes de ejemplo
Ailoot Ultra · Representaciones vectoriales
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/all-mpnet-base-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/all-mpnet-base-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Recibir y guardar resultados
Ailoot Ultra · Representaciones vectoriales
json
Conserva todos los resultados completados
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada vector con su índice. El número de vectores debe coincidir con el número de entradas; las dimensiones deben ser coherentes.
Si es necesario revisar la respuesta original
No se introduce ningún endpoint de trabajos de embeddings.
Campos de respuesta
| Campo | Tipo |
|---|---|
Campoobject | Tipostring |
Campomodel | Tipostring |
Campodata[].index | Tipointeger |
Campodata[].embedding | Tipofinite float[] |
Campousage | Tipoobject |
Errores y siguientes pasos
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Alias
Alias del modelo
Ailoot Ultra sentence-transformers/all-mpnet-base-v2
Alias de rutas de métodos
Usa las rutas de método indicadas arriba.
ID de modelo relacionados
FAQ · Sentence Transformers: all-mpnet-base-v2
- ¿Qué entradas y resultados están disponibles?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:text,token_ids→embedding- ¿Qué campos utiliza la solicitud?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:model,input,encoding_format,provider- ¿Qué límites se aplican?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:input.budget.maximum:512(bytes UTF8);input.min_items:1