VoyageAI by MongoDB: voyage-4

voyage-4 é o modelo de embeddings de texto de dimensão intermédia da Voyage AI na família Voyage 4. Converte o texto de consultas e documentos em vetores numéricos para recuperação de uso geral e multilingue. A capacidade que define a família é um espaço de embeddings partilhado: voyage-4, voyage-4-large, voyage-4-lite e voyage-4-nano produzem representações compatíveis, permitindo que os lados da consulta e do documento de uma tarefa de pesquisa utilizem modelos diferentes dessa família.

Espaço partilhado e recuperação assimétrica

O fabricante chama recuperação assimétrica à utilização de modelos diferentes para consulta e corpus. Um padrão documentado é preparar o corpus com voyage-4-large e pesquisá-lo utilizando embeddings de consulta voyage-4. Os embeddings do corpus são gerados uma vez ou quando o seu material de origem muda, enquanto os vetores de consulta são criados à medida que chegam pesquisas. O espaço partilhado permite alterar a escolha de modelo do lado da consulta dentro da família sem exigir novos embeddings do corpus apenas por causa dessa troca.

Mantenha a dimensão de saída e a representação compatíveis entre os vetores comparados. A declaração de espaço partilhado diz respeito aos modelos textuais Voyage 4 com esses nomes; não fica estabelecida apenas por dois modelos sem relação devolverem arrays com o mesmo comprimento. Uma tarefa prática pode, por isso, utilizar voyage-4 nos dois lados da pesquisa ou utilizar os seus vetores de consulta com um índice documental voyage-4-large existente quando as respetivas definições de representação coincidem.

Papéis de consulta e documento

Para recuperação, a Voyage recomenda identificar o texto de entrada como consulta ou documento. A opção de papel de entrada fornece a instrução de recuperação correspondente antes da vetorização. Prepare as passagens do corpus como documentos e a formulação de pesquisa do utilizador como consulta, conservando o texto real de origem e os identificadores junto de cada vetor armazenado.

Por exemplo, uma coleção de pesquisa de conhecimento pode indexar instruções técnicas e explicações de produtos. Uma consulta sobre o que acontece após uma importação falhada deve devolver a passagem de origem que descreve esse comportamento. Preserve os títulos, as condições relevantes e a localização de origem com a passagem, para que o resultado de pesquisa possa ser examinado ou utilizado por uma etapa posterior de resposta RAG. O embedding é a representação numérica de recuperação; a passagem subjacente é a evidência utilizada nessa etapa posterior.

Dimensões e tipos de dados de saída

A janela de contexto documentada por texto é de 32 000 tokens. As dimensões selecionáveis são 256, 512, 1024 e 2048, com 1024 como predefinição. A aprendizagem Matryoshka fornece estes tamanhos de representação aninhados. A saída pode utilizar vírgula flutuante de 32 bits, inteiros de 8 bits com ou sem sinal ou valores binários compactados, possibilitados pela preparação da família com consideração da quantização.

Com saída binária compactada, cada byte devolvido armazena oito bits do embedding, pelo que o comprimento da lista de bytes é um oitavo da dimensão selecionada. A contagem de bytes e a dimensão do embedding têm significados diferentes. Escolha a representação que o seu índice de pesquisa consegue interpretar e examine a relevância dos candidatos para as perguntas e línguas realmente utilizadas pela coleção antes de selecionar uma configuração comprimida.

Comprimento de entrada, lotes e truncamento

O guia atual de embeddings de texto do fabricante permite até 1000 cadeias e 320 000 tokens totais num pedido voyage-4. O limite de lote é separado da janela de 32 000 tokens para cada entrada. O truncamento está ativado por predefinição: o texto demasiado longo é encurtado para caber. Se o truncamento estiver desativado, um elemento demasiado longo produz um erro.

Para um relatório ou transcrição longos, prepare deliberadamente passagens que contenham respostas, em vez de depender de um corte no limite de entrada. Mantenha cada passagem ligada ao seu documento principal e à versão de origem. As entradas comuns de embeddings voyage-4 são textos individuais; o processamento contextualizado de grupos de fragmentos pertence aos modelos de embeddings contextuais documentados separadamente.

Utilize o resultado da recuperação

Guarde os vetores com o texto das passagens e identificadores estáveis de origem, compare cada vetor de consulta com os vetores documentais compatíveis e devolva passagens candidatas. A publicação da família avalia recuperação em material que inclui documentos técnicos, conversas, documentos longos, código, direito, finanças e texto da Web. Um reranker separado pode refinar os candidatos e uma etapa posterior de resposta pode utilizar o seu texto. Avalie essas passagens devolvidas em relação à tarefa; a compatibilidade do espaço partilhado permite a combinação de modelos, enquanto a utilidade de um resultado continua a depender do material de origem e da pergunta.