VoyageAI by MongoDB: rerank-3

O Voyage rerank-3 é um reordenador de texto concebido para melhorar a qualidade dos elementos recuperados. Recebendo uma consulta e uma lista de documentos candidatos, examina em conjunto cada par e devolve os candidatos por ordem de relevância. Embeddings e pesquisa por palavras-chave podem primeiro reduzir uma coleção extensa a uma lista restrita gerível; o rerank-3 aplica depois uma avaliação de relevância mais pormenorizada a essa lista. A saída são elementos de pesquisa pontuados para uma aplicação apresentar ou encaminhar para uma etapa separada de geração de resposta.

Rerank 3 centrado na qualidade O fabricante posiciona o rerank-3 como a edição centrada na precisão e o rerank-3-lite como a edição para pesquisa sensível à latência. A terceira geração atualiza a estrutura e a mistura de treino, com melhorias particulares na recuperação de documentos longos e código-fonte face aos antecessores 2.5 correspondentes. O produtor avalia-o em documentação técnica, código, material multilingue e outros domínios documentais. Esses resultados sustentam a função de recuperação; selecione a edição usando as perguntas e os documentos candidatos relevantes para a sua própria coleção.

Documentos longos com contexto suficiente Um candidato longo pode conter contexto útil muito além do parágrafo inicial. Forneça uma secção ou documento coerente com o título e o material envolvente relevante, para que o modelo avalie a relação entre a pergunta real e o conteúdo. Para uma pesquisa de políticas de produto, preserve os cabeçalhos e as exceções em torno da passagem de interesse. Se várias secções recuperadas vierem da mesma fonte, conserve os identificadores do documento e das secções; a aplicação pode então mostrar a origem dos elementos selecionados.

A janela de contexto é partilhada pela consulta e por cada candidato. O guia atual do fabricante especifica 32 000 tokens para esse par, incluindo uma consulta de no máximo 8 000 tokens. Uma consulta de 3 000 tokens deixa, por isso, no máximo 29 000 tokens para cada documento. Prepare a entrada de forma a caber o conteúdo essencial, sobretudo quando um preâmbulo longo ou texto padronizado repetido ocuparia a janela. A opção documentada de truncagem está ativada por predefinição e pode encurtar texto excessivo da consulta ou do documento antes da pontuação. Inspecione o que se conserva quando a posição da passagem importa.

Recuperação de código e informação técnica Na etapa de recuperação de um assistente de programação, os candidatos podem conter implementações de funções, documentação de API ou explicações técnicas em texto. Inclua os símbolos, assinaturas e contexto necessários para distinguir candidatos semelhantes. Uma consulta como «Encontre a função que normaliza caminhos preservando um separador final» fornece um comportamento concreto para corresponder. Acrescente condições relevantes de linguagem, plataforma ou versão. Após a classificação, examine o código selecionado e as suas dependências antes de o utilizar como contexto; uma pontuação de relevância não prova que uma implementação satisfaz todos os requisitos indicados.

As instruções definem a relevância O modelo conserva a capacidade de reordenação com cumprimento de instruções introduzida no Rerank 2.5. Acrescente uma instrução concisa antes ou depois da consulta quando a intenção do utilizador precisar de esclarecimento. Para pesquisa de documentos de investigação, explique se o foco é o título, um método específico ou um domínio de aplicação. Para um catálogo interno, especifique se o pedido trata de instalação, resolução de problemas ou compatibilidade. Mantenha essa instrução alinhada com a pergunta; preferências adicionais em conflito com o pedido principal podem alterar o que a classificação procura otimizar.

Prepare documentos candidatos e orçamentos A entrada é uma lista de cadeias de texto. Extraia texto utilizável dos documentos de origem, preserve limites de secção significativos e mantenha um mapa ordenado de registos junto da lista. O fabricante permite até 1 000 documentos num pedido. Especifica também um teto agregado de entrada de 600 000 tokens: tokens da consulta multiplicados pelo número de documentos, mais a soma de todos os tokens dos documentos. Isto difere do limite de contexto por par. Reduzir texto redundante da consulta pode preservar tanto a capacidade do par como o orçamento global do pedido.

Conte tokens para o modelo relevante, em vez de assumir que uma contagem de palavras ou caracteres equivale a tokens. Para candidatos grandes, selecione passagens coerentes ou divida o material por cabeçalhos úteis, conservando a informação da fonte principal. A reordenação é mais útil depois de a primeira pesquisa já ter encontrado candidatos plausíveis: não pode classificar uma fonte em falta que nunca entrou na lista.

Resultados classificados e utilização posterior O resultado contém pontuações de relevância e índices referentes aos documentos de entrada originais, ordenados por relevância decrescente. A opção top_k limita o número de resultados classificados devolvidos; caso contrário, são devolvidos todos os candidatos de entrada. A interface REST do fabricante também permite incluir o texto do documento. Utilize cada índice original para recuperar o título, o identificador da fonte e os metadados necessários à aplicação e apresente os itens selecionados ou inclua o texto relevante no contexto de apoio de uma resposta.

Inspecione os primeiros resultados à luz da pergunta e mantenha visível a identidade das fontes. Uma classificação relativa elevada não verifica a precisão factual de um documento, e uma lista restrita só com maus candidatos continua a ter um primeiro item. Separe a seleção por relevância da decisão sobre se os elementos selecionados são suficientes para responder ao utilizador.

Migração de edição O fabricante descreve o rerank-3 como sucessor de substituição direta do rerank-2.5, com a mesma semântica de API e pontuações calibradas para a distribuição do antecessor correspondente. Essa compatibilidade permite manter uma etapa de recuperação e uma correspondência de registos existentes. Compare ordens de resultados significativas e qualquer limiar de pontuação no corpus atual antes de confiar na migração. Mantenha rerank-3 e rerank-3-lite como escolhas distintas: limites e cumprimento de instruções partilhados não tornam idênticas as suas prioridades de qualidade e latência.