Sentence Transformers: multi-qa-mpnet-base-dot-v1

multi-qa-mpnet-base-dot-v1 é um modelo de Sentence Transformers concebido para recuperar passagens de texto para uma pergunta ou consulta. O seu treino utilizou cerca de 215 milhões de pares de pergunta e resposta. Cada entrada torna-se um vetor denso de 768 dimensões, sendo o CLS pooling e a pontuação por produto escalar características que definem esta edição exata.

Prepare uma pergunta e passagens candidatas

Escreva a consulta como a necessidade de informação e prepare as entradas do corpus como passagens de texto legíveis. Por exemplo, uma pergunta sobre a alteração de uma morada de entrega pode ser comparada com parágrafos separados sobre alterações de morada, cancelamento de encomendas e acompanhamento de entregas. Mantenha as condições relevantes na passagem sobre a alteração de morada, incluindo se a encomenda já foi expedida.

Codifique a consulta e as passagens com este mesmo modelo. O exemplo publicado faz isso diretamente, sem um prefixo de consulta/documento, e ordena as passagens pelas respetivas pontuações de produto escalar. Mantenha cada vetor ligado à sua passagem original e ao identificador do documento, para que o resultado ordenado possa mostrar o material efetivamente indexado.

CLS pooling e a edição de produto escalar

A receita de referência do modelo utiliza a representação do primeiro token, conhecida como CLS pooling. A sua tabela técnica indica explicitamente que os embeddings não são normalizados e apresenta o produto escalar como função de pontuação adequada. Preserve essa receita ao configurar a coleção e o lado da consulta.

Aplicar normalização L2 a estes vetores altera a geometria da sua pontuação. O perfil normalizado all-mpnet-base-v2 utiliza uma receita diferente e é um checkpoint separado, apesar de partilhar a família MPNet e uma saída de 768 componentes. Mantenha a edição exata e a função de comparação associadas à coleção armazenada, em vez de as escolher apenas a partir do comprimento do vetor.

Limite de comprimento e passagens mais longas

O limite de entrada indicado é de 512 segmentos de palavra, ou word pieces; texto mais longo é truncado. O fabricante também observa que as entradas de treino atingiam apenas 250 segmentos de palavra e que texto mais longo pode funcionar menos bem. O comprimento aceite pelo tokenizador e a ressalva sobre o comprimento de treino descrevem, por isso, limites práticos diferentes.

Para um artigo de ajuda extenso, prepare secções curtas que respondam a perguntas específicas. Conserve um título quando este identifica o tema e mantenha uma regra junto da exceção necessária para a interpretar corretamente. Uma entrada com uma página inteira pode perder o material posterior devido ao truncamento, enquanto um fragmento demasiado pequeno pode perder a condição que o torna útil.

Utilize a ordenação na recuperação e no RAG

Os vetores densos suportam uma primeira etapa de recuperação. Devolva as passagens candidatas com maior pontuação juntamente com as referências às suas fontes e, depois, examine se respondem à pergunta real. Num fluxo RAG, forneça essas passagens à etapa de redação da resposta como material de origem; a recuperação, por si só, não compõe a resposta.

Utilize perguntas representativas com passagens relevantes conhecidas para escolher o número de resultados e avaliar a ordenação. Inclua exemplos com vocabulário semelhante mas intenção diferente, como alterar uma morada em vez de consultar a morada atual. Interprete as pontuações relativamente aos candidatos sob o mesmo modelo e configuração de pontuação, em vez de as tratar como probabilidades calibradas de correção.

A saída útil deste checkpoint é um espaço de embeddings de perguntas e passagens para pesquisa semântica. Os seus vetores não normalizados, o CLS pooling, a pontuação por produto escalar e a ressalva publicada sobre entradas longas são os detalhes a preservar ao preparar e utilizar os resultados.