NVIDIA: Nemotron 3 Embed 1B (free)

Nemotron 3 Embed 1B é a família de embeddings de texto da NVIDIA para recuperação multilingue e entre línguas e similaridade semântica. Transforma uma pergunta ou passagem num vetor denso que um sistema de pesquisa pode comparar com outras representações textuais. O fabricante avalia as edições 1B documentadas em trinta e quatro configurações de línguas e variantes linguísticas, incluindo inglês, árabe, chinês, russo, japonês, coreano e Hinglish.

Codificador e representação

A ficha de modelo do fabricante descreve um transformer podado e bidirecional derivado de Ministral 3. Tem aproximadamente 1,14 mil milhões de parâmetros e calcula a média das representações ao nível dos tokens para obter um embedding por texto. A saída nativa é um vetor de vírgula flutuante de 2048 dimensões. Esta é uma representação de recuperação, em vez de uma resposta escrita à pergunta cujo embedding é gerado.

O fabricante também suporta conservar a primeira parte dessa representação, por exemplo 1024 ou 512 dimensões. O vetor encurtado tem de ser novamente normalizado em L2 após o corte. Mantenha o comprimento de representação selecionado e a normalização consistentes entre os lados da consulta e do corpus de uma tarefa de pesquisa. O comprimento de um vetor e o comprimento da sequência de entrada são propriedades separadas.

Preparação de consultas e passagens

A convenção de recuperação documentada utiliza «query:» para uma pergunta e «passage:» para texto documental. Os exemplos do produtor aplicam esses papéis antes da codificação e comparam vetores normalizados com um produto escalar, equivalente à similaridade do cosseno. Utilize a preparação esperada pelo fluxo selecionado, em vez de misturar uma representação bruta do corpus com uma consulta preparada de forma diferente.

Uma coleção prática pode conter explicações técnicas, políticas ou documentação relacionada com código. Uma pergunta sobre como uma função trata um caso específico deve recuperar a passagem de origem ou o excerto de código que descreve esse comportamento. Preserve identificadores, títulos e condições relevantes com o texto real da passagem. O vetor torna o candidato pesquisável; a fonte conservada é aquilo que um leitor ou uma etapa posterior de resposta RAG utiliza.

Material de origem mais longo

O comprimento máximo de sequência documentado é de 32 768 tokens. Escolha deliberadamente os limites das passagens, mesmo quando o modelo pode acomodar texto substancial. Uma secção completa pode preservar uma definição e as suas exceções; um excerto focado pode tornar uma resposta específica mais fácil de examinar. Entradas para além da janela do modelo precisam de divisão em fragmentos ou truncamento, pelo que a parte final omitida não deve ser tratada como conteúdo representado.

Mantenha cada elemento com embedding ligado ao seu documento principal e à versão. Para um relatório, conserve o título da secção e a explicação em torno da conclusão a que a pergunta diz respeito. Para uma pesquisa de código, mantenha o nome da função, a interface relevante e o comportamento junto do excerto. Isto fornece um artefacto concreto de origem quando a etapa de recuperação devolve um candidato.

Edições da família e utilização do resultado

A NVIDIA documenta versões BF16 e NVFP4 da família 1B. A ficha do modelo quantizado indica que essas duas edições partilham um espaço de embeddings e recomenda verificar a qualidade de recuperação com material representativo ao mudar de versão. A representação comum declarada é uma afirmação do fabricante sobre esse par com nome definido, não uma regra geral para todos os modelos com 2048 valores de saída.

O resultado útil é um vetor de consulta ou uma coleção de origem indexada com o modelo, a escolha de dimensão e a preparação registados. Devolva o texto candidato com o respetivo identificador e examine se fornece a informação necessária. O fabricante observa explicitamente que um modelo de recuperação não garante a passagem correta para todas as perguntas; uma etapa posterior de reordenação ou resposta trabalha com esses candidatos como tarefa própria.