NVIDIA: Nemotron 3.5 Lightning (free)

NVIDIA Nemotron 3.5 Lightning é um modelo de linguagem para raciocínio, conversação e fluxos de trabalho especializados com agentes. Tem 30B parâmetros no total, dos quais 3B ativos, utilizando uma arquitetura híbrida que intercala camadas Mamba-2, de mistura de especialistas e de atenção. As camadas Multi-Token Prediction acrescentam sinais de treino para tokens futuros e suportam as receitas de geração otimizadas do modelo. O modelo processa texto e produz texto, incluindo explicações, código e respostas fundamentadas no material fornecido.

O fabricante descreve aplicações em chatbots, geração aumentada por recuperação, seguimento de instruções e agentes. Para uma resposta baseada numa base de conhecimento, forneça a pergunta e as passagens relevantes com identificadores de fonte estáveis. Peça ao modelo que responda a partir dessas passagens, identifique qual sustenta cada afirmação importante e indique o que continua por saber. Por exemplo: «Utilizando estes artigos de suporte, explique a diferença entre os dois métodos de instalação e devolva os pré-requisitos, os passos e as verificações de cada um.» Mantenha visível qualquer pré-requisito em falta, em vez de convidar o modelo a inventá-lo.

Para trabalhos de programação, forneça o código relevante, o comportamento esperado e a falha observada. Um pedido prático solicita uma revisão focada e uma explicação dos casos afetados. Se um agente ligado a ferramentas executar uma verificação, devolva a saída real antes de pedir a alteração seguinte. O treino do modelo inclui código, utilização de ferramentas em várias etapas e tarefas de saída estruturada, mas o resultado concluído continua a ter de corresponder ao requisito original. Peça o código revisto, a razão de cada alteração relevante e as observações necessárias para estabelecer que o problema está resolvido.

O fabricante documenta o raciocínio ativado por predefinição e um modo de resposta direta com o raciocínio desativado através do modelo de mensagens de chat. O modo de raciocínio é útil para uma tarefa com várias condições dependentes; uma resposta direta pode ser adequada a uma transformação ou extração simples. O fabricante recomenda temperatura 1,0 e top-p 0,95 nos seus exemplos de cliente. Trate estes valores como definições da receita do fabricante e escolha explicitamente a estrutura da resposta final, como uma explicação concisa, uma tabela comparativa ou uma resposta seguida das evidências que a sustentam.

O modelo suporta um contexto de até 1 milhão de tokens. As receitas de implementação BF16 publicadas também distinguem essa capacidade do modelo das configurações que utilizam uma janela de 256K devido a limitações de memória. Prepare o material longo para a janela de trabalho aplicável, preservando a estrutura dos documentos e deixando espaço para a resposta. Um contexto longo é mais útil quando o pedido especifica a relação a encontrar: contradições entre documentos, dependências entre ficheiros de código-fonte ou as evidências que sustentam uma conclusão. Não é motivo para incluir histórico irrelevante nem para assumir que uma resposta final pode ocupar toda a janela.

O inglês e as linguagens de programação são o foco principal, estando também enumerados espanhol, francês, alemão, italiano e japonês. Indique o idioma de saída exigido e conserve nomes, identificadores e termos citados da fonte quando a sua grafia for importante. Para trabalhos com documentos multilingues, especifique se pretende traduzir, resumir ou comparar os materiais; estes pedidos produzem resultados diferentes. Peça que a terminologia incerta seja assinalada, para que uma tradução fluente não altere silenciosamente um significado técnico.

A NVIDIA publica uma versão de referência BF16 sobretudo para personalização e investigação em precisão completa, e uma versão NVFP4 separada com receitas de inferência otimizadas. Esta distinção é importante ao comparar orientações de implementação: uma configuração de hardware ou um resultado de débito de uma versão não descreve automaticamente outra. O nome do modelo identifica a família Lightning, enquanto o checkpoint exato e a configuração de disponibilização determinam a receita. Mantenha as capacidades ao nível do modelo separadas dos pressupostos de desempenho e memória específicos de cada receita.

Para trabalhos baseados em ferramentas, forneça descrições claras das funções e devolva o resultado real de cada etapa executada. Uma operação proposta só se torna evidência utilizável depois de a aplicação envolvente a executar e registar o que aconteceu. Peça que a resposta final distinga observações das fontes, conclusões derivadas e verificações por concluir. Quando um cálculo, comando ou passagem recuperada entrar em conflito com o resultado previsto, utilize esse conflito para rever a conclusão, em vez de produzir um resumo polido de um pressuposto não verificado.