Sentence Transformers: multi-qa-mpnet-base-dot-v1

multi-qa-mpnet-base-dot-v1 es un modelo de Sentence Transformers diseñado para recuperar pasajes de texto para una pregunta o consulta. Su entrenamiento utilizó aproximadamente 215 millones de pares de pregunta y respuesta. Cada entrada se convierte en un vector denso de 768 dimensiones, con CLS pooling y puntuación por producto escalar como rasgos que definen esta edición exacta.

Prepara una pregunta y pasajes candidatos

Escribe la consulta como la necesidad de información y prepara las entradas del corpus como pasajes de texto legibles. Por ejemplo, una pregunta sobre cambiar una dirección de entrega puede compararse con párrafos separados que cubran cambios de dirección, cancelación de pedidos y seguimiento de entregas. Mantén las condiciones pertinentes en el pasaje de cambio de dirección, incluido si el pedido ya se ha enviado.

Codifica la consulta y los pasajes con este mismo modelo. El ejemplo publicado lo hace directamente, sin un prefijo de consulta/documento, y ordena los pasajes por sus puntuaciones de producto escalar. Mantén cada vector unido a su pasaje original y al identificador del documento, para que el resultado ordenado pueda mostrar el material que realmente se indexó.

CLS pooling y la edición de producto escalar

La receta de referencia del modelo toma la representación del primer token, conocida como CLS pooling. Su tabla técnica afirma expresamente que los embeddings no están normalizados y enumera el producto escalar como función de puntuación adecuada. Conserva esa receta al configurar la colección y el lado de la consulta.

Normalizar estos vectores con L2 cambia su geometría de puntuación. El perfil normalizado all-mpnet-base-v2 utiliza una receta diferente y es un checkpoint separado, aunque comparta la familia MPNet y una salida de 768 componentes. Mantén la edición exacta y la función de comparación junto con la colección almacenada, en lugar de elegirlas solo a partir de la longitud del vector.

Límite de longitud y pasajes más largos

El límite de entrada indicado es de 512 fragmentos de palabra, o word pieces; el texto más largo se trunca. El fabricante también señala que las entradas de entrenamiento solo alcanzaban 250 fragmentos de palabra y que el texto más largo puede funcionar peor. La longitud aceptada por el tokenizador y la advertencia sobre longitud de entrenamiento describen, por tanto, límites prácticos distintos.

Para un artículo de ayuda extenso, prepara secciones cortas que respondan a preguntas específicas. Conserva un encabezado cuando identifique el tema y mantén una regla junto con la excepción necesaria para leerla correctamente. Una sola entrada de página completa puede perder material posterior por truncamiento, mientras que un fragmento demasiado pequeño puede perder la condición que lo hace útil.

Utiliza la ordenación en recuperación y RAG

Los vectores densos permiten una primera etapa de recuperación. Devuelve los pasajes candidatos con mayor puntuación junto con sus referencias de origen y después examina si abordan la pregunta real. En un flujo RAG, proporciona esos pasajes a la etapa de redacción de respuestas como material de origen; la recuperación por sí misma no redacta la respuesta.

Utiliza preguntas representativas con pasajes pertinentes conocidos para elegir la cantidad de resultados y evaluar la ordenación. Incluye ejemplos con vocabulario similar pero intención distinta, como modificar una dirección frente a consultar la dirección actual. Interpreta las puntuaciones respecto a los candidatos bajo el mismo modelo y configuración de puntuación, en lugar de como probabilidades calibradas de corrección.

La salida útil de este checkpoint es un espacio de embeddings de preguntas y pasajes para búsqueda semántica. Sus vectores sin normalizar, CLS pooling, puntuación por producto escalar y advertencia publicada sobre entradas largas son los detalles que se deben conservar al preparar y utilizar resultados.