VoyageAI by MongoDB: voyage-4-lite

voyage-4-lite é o modelo de embeddings de texto orientado à latência da família Voyage 4 da Voyage AI. Representa consultas e documentos como vetores numéricos para recuperação de uso geral. A sua característica distintiva de família é um espaço de embeddings partilhado com voyage-4, voyage-4-large e voyage-4-nano, permitindo escolher separadamente os modelos de consulta e de documento.

Comece pelos papéis de recuperação

Prepare a necessidade de informação do utilizador como consulta e o material pesquisável como documentos. A Voyage recomenda os tipos de entrada query/document para recuperação; a sua receita publicada acrescenta a instrução de recuperação correspondente ao vetorizar o texto.

Numa coleção de manuais de colaboradores, uma consulta sobre a transferência de férias não utilizadas para o período seguinte deve ser comparada com as secções específicas da política. Mantenha a regra, as suas condições e qualquer exceção relevante na passagem indexada. Conserve o documento original e o identificador da secção junto do vetor, para que a aplicação possa devolver o texto real da política.

Um tipo de entrada não especificado representa diretamente o texto, enquanto os papéis query/document o adaptam à recuperação. O fabricante declara que os embeddings produzidos com e sem essas definições de papel são compatíveis, mas manter uma política de preparação consistente torna a coleção mais fácil de avaliar.

Espaço partilhado na família textual Voyage 4

A Voyage documenta explicitamente um fluxo de recuperação assimétrica: os documentos podem ser codificados com voyage-4-large e pesquisados utilizando vetores de consulta de voyage-4-lite. Esta é uma declaração de compatibilidade ao nível da família, em vez de uma conclusão tirada de dois modelos devolverem vetores com o mesmo comprimento.

Mantenha a dimensão vetorial e a representação selecionadas alinhadas entre a coleção e o lado da consulta. O espaço partilhado também permite alterar o modelo de consulta dentro desta família textual Voyage 4 com nome definido sem voltar a vetorizar os documentos existentes. Avalie a ordenação resultante com perguntas representativas ao escolher a edição de consulta.

O papel da edição Lite é ser a opção menor de consulta e embeddings de texto focada na latência. O fabricante atribui a arquitetura de mistura de especialistas especificamente a voyage-4-large; o nome da família não demonstra essa arquitetura para Lite.

Contexto, dimensões e formato do resultado

O comprimento de contexto publicado é de 32 000 tokens por texto. O vetor predefinido tem 1024 dimensões, estando também disponíveis 256, 512 e 2048 através de aprendizagem Matryoshka. O fluxo de embeddings de texto do fabricante documenta representações de vírgula flutuante, de inteiros de 8 bits com e sem sinal e binárias com bits compactados para voyage-4-lite.

Para vetores comuns de vírgula flutuante, as orientações de similaridade da Voyage descrevem embeddings de comprimento unitário, tornando equivalentes a similaridade do cosseno e a do produto escalar. As formas quantizadas precisam do tratamento correspondente da sua representação. Por exemplo, uma lista binária de bits compactados armazena oito bits do embedding em cada byte; o comprimento da lista difere da dimensão do vetor semântico.

Na receita documentada de lotes da Voyage, uma lista contém no máximo 1000 textos e um milhão de tokens no total para esta edição Lite exata. O comportamento predefinido para comprimento excessivo trunca cada texto no limite do contexto; a definição alternativa rejeita entradas demasiado longas. Estes limites de lote e por texto são distintos.

Prepare e examine os resultados de recuperação

Divida material de origem longo em secções coerentes que possam ser devolvidas como evidência. Um contexto de 32 000 tokens permite uma entrada longa, mas uma unidade de recuperação útil deve continuar a conduzir à secção de origem relevante. Inclua o título ou o detalhe identificador necessário para interpretar uma regra.

Para RAG, recupere secções candidatas e passe o seu texto original à etapa de redação da resposta, com as associações às fontes. O modelo de embeddings produz vetores e não gera uma resposta sobre a política. A similaridade ordena candidatos segundo o modelo e a configuração de comparação escolhidos; reveja a passagem real quanto à condição precisa sobre a qual se perguntou.

A combinação útil específica da edição voyage-4-lite é um modelo textual focado na latência, representações flexíveis, um contexto de 32 000 tokens e compatibilidade documentada dentro da família textual Voyage 4. Mantenha essas propriedades associadas à coleção indexada e utilize resultados de recuperação fundamentados em fontes para apoiar a aplicação que o integra.