Voyage AI: Voyage 3.5 Lite

Voyage 3.5 Lite converte texto em embeddings para recuperação semântica. A Voyage AI descreve esta edição como otimizada para latência e custo, tornando-a uma candidata para experiências de pesquisa que criam frequentemente embeddings de perguntas recebidas ou mantêm uma coleção extensa de passagens pesquisáveis. A saída é uma representação numérica do texto fornecido, que uma aplicação de recuperação compara com os vetores armazenados para os seus materiais de origem.

Comece por uma coleção cujos limites correspondam à tarefa do utilizador. Para um centro de ajuda, uma passagem pode explicar um procedimento e os seus pré-requisitos. Para um arquivo de discussões, mantenha parte suficiente da sequência de respostas para identificar o que a resposta aborda. Um resultado deve conduzir a um elemento de prova legível, pelo que deve guardar o texto original, uma ligação estável à fonte e os metadados do documento com cada embedding.

Escreva consultas de teste como os utilizadores as fariam. «Onde altero a morada numa fatura?» é uma verificação de pesquisa mais útil do que copiar o título do artigo relevante. Inclua perguntas curtas, paráfrases, abreviaturas de domínio e casos que mencionem vários conceitos. Examine as passagens devolvidas e identifique se um resultado em falta decorre de conteúdo de origem ausente, limites inadequados das passagens ou uma escolha de recuperação.

O fabricante documenta uma janela de contexto de 32 000 tokens. Esta capacidade permite entradas de texto extensas, enquanto o comprimento das passagens continua a ser uma escolha de conceção da experiência de pesquisa. Mantenha uma resposta compacta com as condições necessárias; evite separar uma definição do termo que explica. Extraia texto legível da fonte e remova a navegação repetida em todas as páginas quando esta oculta a informação procurada pelo utilizador.

Voyage 3.5 Lite suporta 2 048, 1 024, 512 e 256 dimensões. Representações em vírgula flutuante, inteiros de oito bits e binárias oferecem escolhas adicionais para o índice vetorial. Teste uma representação mais pequena ou quantizada com as mesmas perguntas e o mesmo corpus usados na referência de precisão total. Registe o modelo, a dimensão e o tipo de dados selecionados com o índice, para que os vetores de consulta usem as definições correspondentes.

No processo de recuperação do fabricante, identifique as passagens indexadas como documentos e as pesquisas recebidas como consultas. Preserve a associação de cada vetor devolvido ao seu texto de entrada ao processar várias passagens em conjunto. Uma operação de embeddings bem-sucedida fornece vetores; a aplicação continua a precisar de os colocar nos registos corretos e apresentar o excerto de origem quando um utilizador abre um resultado.

Utilize esta edição para uma coleção de assistência pesquisável, uma ferramenta de descoberta de documentos ou a etapa de recuperação de um assistente. Para materiais multilingues, avalie as combinações linguísticas presentes na sua coleção, em vez de depender de um único teste em inglês. Mantenha as permissões e os metadados de língua e região disponíveis para a aplicação, para que uma correspondência relevante possa ser filtrada e apresentada no contexto certo.

Para coleções em crescimento, atualize os vetores das passagens alteradas juntamente com as versões das suas fontes. Conserve um conjunto de perguntas reais que inclua correspondências fáceis, paráfrases difíceis e documentos semelhantes com respostas diferentes. Meça a qualidade da recuperação e o comportamento de todo o fluxo de pesquisa sob a carga de trabalho prevista. O posicionamento da edição Lite pelo fabricante ajuda a escolher uma candidata; a dimensão final, a estratégia de passagens e as definições do índice resultam dos testes com os seus materiais.