Sentence Transformers: all-mpnet-base-v2
Sentence Transformers all-mpnet-base-v2 convierte frases y párrafos cortos en vectores de 768 dimensiones para recuperación, agrupación y similaridad. La receta publicada utiliza mean pooling y normalización L2, con truncamiento predeterminado a 384 fragmentos de palabra.
Sobre el modelo
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
all-mpnet-base-v2 es un modelo de Sentence Transformers para representar frases y párrafos cortos como vectores densos de 768 dimensiones. Se ajustó a partir del modelo base MPNet con aprendizaje contrastivo sobre una colección de mil millones de pares de frases. El fabricante identifica la recuperación de información, la agrupación y la similaridad entre frases como usos previstos.
Codifica una frase o un párrafo corto
Prepara el texto que se debe comparar, manteniendo la idea principal y sus detalles distintivos. Para una colección documental interna, una sección corta podría describir cómo solicitar la sustitución de un equipo o qué información debe contener un informe de mantenimiento. Mantén disponibles su título documental y ubicación de origen junto con el vector.
Una consulta con un embedding generado por el mismo modelo puede recuperar secciones relacionadas incluso cuando su formulación difiera. Examina esas secciones para encontrar la instrucción real que necesita el lector. Para un flujo de similaridad, compara las propias frases candidatas después de la recuperación, especialmente cuando una incluya una excepción o condición ausente de la otra.
Mean pooling y normalización
El ejemplo de codificación de referencia promedia representaciones contextuales de tokens con la máscara de atención, excluyendo el relleno de la media. Después normaliza con L2 los embeddings de frase resultantes. Conserva ambos pasos al producir vectores para una colección y para consultas posteriores.
Cada vector tiene 768 componentes. La similaridad del coseno puede comparar esas representaciones normalizadas, mientras que el texto de origen aporta la evidencia que respalda un resultado. La cantidad compartida de componentes no hace que este modelo sea compatible con multi-qa-mpnet-base-dot-v1: esa edición separada especifica CLS pooling y vectores sin normalizar para puntuación por producto escalar.
Truncamiento predeterminado y preparación de pasajes
El fabricante afirma que la entrada que supera 384 fragmentos de palabra, o word pieces, se trunca por defecto. Mantén la sección pertinente dentro de ese límite del tokenizador. Para un procedimiento largo, divide en límites de sección significativos e incluye suficiente contexto local para explicar a qué se aplica un paso. Un fragmento como «Enviar dentro de cinco días» necesita el evento o proceso que inicia el plazo.
El procedimiento de entrenamiento limitó las secuencias a 128 tokens, lo que es distinto del valor predeterminado publicado de 384 fragmentos de palabra para codificación. Utiliza material representativo al evaluar párrafos más largos o vocabulario específico de tu colección. Que quepa más texto en la entrada no establece que todos los detalles vayan a influir por igual en un resultado de recuperación.
Recuperación, agrupación y comparación
Para búsqueda, conserva la asociación entre vector y documento para que los candidatos ordenados puedan devolver las secciones originales. En un flujo RAG, las secciones seleccionadas se convierten en contexto para la etapa de redacción de la respuesta. El modelo aporta representaciones numéricas; no genera una respuesta fundamentada en fuentes ni decide qué documento debe considerarse la referencia autorizada.
Para agrupación, compara los registros de cada grupo propuesto antes de asignar etiquetas. Un conjunto de notas de mantenimiento puede contener lenguaje similar pero referirse a dispositivos diferentes o distintas condiciones de falla. Incluye esos detalles distintivos en el texto codificado y examínalos en el material devuelto, en lugar de basarte únicamente en una puntuación.
Este checkpoint exacto all-mpnet-base-v2 es un perfil de embeddings de frases en inglés con sus propios ajustes de mean pooling, normalización y truncamiento predeterminado. Mantén esos ajustes junto con la colección indexada y utiliza los vectores como ayuda para encontrar y comparar los pasajes de origen que importan para la tarea.
Ailoot Ultra · Representaciones vectoriales POST /v1/embeddings sentence-transformers/all-mpnet-base-v2
sentence-transformers/all-mpnet-base-v2
sentence-transformers/all-mpnet-base-v2Inicio
Sentence Transformers all-mpnet-base-v2 convierte frases y párrafos cortos en vectores de 768 dimensiones para recuperación, agrupación y similaridad. La receta publicada utiliza mean pooling y normalización L2, con truncamiento predeterminado a 384 fragmentos de palabra.
- Entradas aceptadas
- Texto · token_ids
- Resultados
- embedding
Disponible en Ailoot · entradas y métodos
Ailoot Ultra · Representaciones vectoriales POST /v1/embeddings
- Entrada
text,token_ids- Salida
embedding- Formato de salida
- json
| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites sentence-transformers/all-mpnet-base-v2 | Predeterminado— |
Campoinput | Tipostring|string[]|integer[]|integer[][] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 Condiciones: Lote homogéneo no vacío. Los ID de tokens son números enteros no negativos. Presupuesto de entrada: Máximo: 512 · Unidad de texto: bytes UTF8 · Unidad de tokens: elementos de un arreglo de tokens | Predeterminado— |
Campoencoding_format | Tipostring | RequisitoOpcional | Valores y límites float | Predeterminadofloat |
Campodimensions | Tipointeger | RequisitoNo compatible | Valores y límites Mínimo: 1 | Predeterminado— |
Campouser | Tipojson_value | RequisitoOpcional | Valores y límites Condiciones: La fuente permite este campo metadata de JSON; la semántica exacta en el sistema de origen depende del modelo. | Predeterminado— |
Camposession_id | Tipojson_value | RequisitoOpcional | Valores y límites Condiciones: La fuente permite este campo metadata de JSON; la semántica exacta en el sistema de origen depende del modelo. | Predeterminado— |
Campotrace | Tipojson_value | RequisitoOpcional | Valores y límites Condiciones: La fuente permite este campo metadata de JSON; la semántica exacta en el sistema de origen depende del modelo. | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options rechazado | Predeterminado— |
Combinaciones de materiales de entrada
text_to_embedding
Parámetros del método y ciclo de vida
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, input |
Parámetroinput_shapes | Contratostring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parámetroencoding_format | Contratofloat |
Parámetrodimensions_override | Contratofalse |
Parámetromax_input_budget_units | Contrato512 |
Parámetromultimodal_objects | Contratofalse |
Parámetromaterial_types | Contratotext, token_ids |
Ciclo de vida: synchronous_json
Conserva todos los índices y dimensiones de los vectores.
El nombre de un modelo multimodal no habilita objetos de imagen en esta ruta exacta.
Tarifas
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
- Modo fast
- Sin especificar Cuando se selecciona el modo fast
- Modo flex
- Sin especificar Cuando se selecciona el modo flex
- Esfuerzo máximo de razonamiento
- Sin especificar Cuando el esfuerzo máximo de razonamiento usa el ajuste default
Tarifas de Ailoot
Precios por configuración
| Configuración | Tabla de tarifas | Cargo |
|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Cargo Entrada · Tokens de entrada $0.00001 / 1K tokens Salida · Tokens de salida $0 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
Solicitudes de ejemplo
Ailoot Ultra · Representaciones vectoriales
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/all-mpnet-base-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/all-mpnet-base-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Recibir y guardar resultados
Ailoot Ultra · Representaciones vectoriales
json
Conserva todos los resultados completados
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada vector con su índice. La cantidad de vectores debe ser igual a la cantidad de entradas; las dimensiones deben ser consistentes.
Si es necesario revisar la respuesta original
No se incorpora ningún endpoint de tareas de embeddings.
Campos de respuesta
| Campo | Tipo |
|---|---|
Campoobject | Tipostring |
Campomodel | Tipostring |
Campodata[].index | Tipointeger |
Campodata[].embedding | Tipofinite float[] |
Campousage | Tipoobject |
Errores y siguientes pasos
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Alias
Alias del modelo
Ailoot Ultra sentence-transformers/all-mpnet-base-v2
Alias de rutas de métodos
Usa las rutas de método indicadas arriba.
ID de modelo relacionados
FAQ · Sentence Transformers: all-mpnet-base-v2
- ¿Qué entradas y resultados están disponibles?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:text,token_ids→embedding- ¿Qué campos utiliza la solicitud?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:model,input,encoding_format,provider- ¿Qué límites se aplican?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:input.budget.maximum:512(bytes UTF8);input.min_items:1