Sentence Transformers: all-MiniLM-L6-v2

all-MiniLM-L6-v2 é um codificador de frases e parágrafos curtos de Sentence Transformers. Converte cada texto num vetor denso de 384 dimensões para recuperação, agrupamento e similaridade entre frases. O modelo foi ajustado a partir da arquitetura de base MiniLM-L6-H384-uncased, utilizando aprendizagem contrastiva numa coleção de mil milhões de pares de frases.

Prepare registos concisos e significativos

Escolha a frase ou o parágrafo que deve aparecer num resultado de pesquisa. Numa coleção de perguntas frequentes, conserve a pergunta e a explicação curta que distingue o seu tema. Uma passagem sobre a reposição de uma palavra-passe esquecida deve manter o procedimento de reposição, em vez de ser reduzida a uma palavra isolada como «Conta».

Para um artigo longo, indexe secções curtas e coerentes e mantenha as respetivas localizações de origem. Recupere secções candidatas comparando o vetor da consulta com as representações armazenadas e, depois, apresente as passagens originais, para que o leitor possa examinar as instruções reais.

Obtenha a representação da frase

A receita de codificação direta do fabricante calcula a média das representações dos tokens com a máscara de atenção, excluindo as posições de preenchimento da média. Depois aplica normalização L2. Esses passos produzem o embedding de frase utilizado na comparação; as representações de tokens individuais do transformer subjacente têm um papel diferente.

Cada saída tem 384 componentes. Utilize o mesmo checkpoint, pooling e normalização ao construir a coleção e ao codificar consultas posteriores. A similaridade do cosseno pode comparar os vetores resultantes. Um valor de similaridade é útil para ordenar candidatos nessa configuração, enquanto o texto original determina se um candidato responde à pergunta.

Limites de comprimento e de edição

O valor predefinido publicado trunca entradas com mais de 256 segmentos de palavra, ou word pieces. Esta unidade do tokenizador não corresponde diretamente a uma palavra ou carácter normal. Mantenha as condições importantes dentro da unidade indexada e divida um procedimento extenso em limites significativos antes de o codificar.

As sequências de treino foram limitadas a 128 tokens. Essa definição de treino é distinta do valor predefinido de 256 segmentos de palavra utilizado na codificação. Para passagens invulgarmente longas ou especializadas, utilize exemplos representativos de consulta e passagem para avaliar o comportamento de recuperação, em vez de assumir que respeitar o limite de entrada garante igual tratamento de todos os detalhes.

A edição exata L6-v2 é um perfil de embeddings em inglês. As edições L12-v2 e paraphrase-MiniLM têm identidades e configurações de modelo separadas. O nome MiniLM em comum ou a saída de 384 dimensões não demonstram que os vetores sejam intercambiáveis.

Pesquisa, similaridade e agrupamento

Para rever perguntas duplicadas, recupere perguntas semelhantes e compare a formulação real antes de fundir registos. «Posso repor a minha palavra-passe?» e «Pode um administrador repor a palavra-passe de outro utilizador?» dizem respeito a assuntos relacionados, mas a permissões diferentes. Preserve essa distinção no texto codificado e na etapa de revisão.

Para agrupamento, utilize os embeddings como entradas numéricas de um processo de formação de grupos e, depois, examine registos representativos antes de dar um nome a um grupo. Este modelo fornece vetores, em vez de etiquetas de grupos escritas ou de uma resposta gerada a uma pergunta frequente. O seu resultado útil é uma representação compacta de uma passagem curta de origem que permanece ligada ao registo original.