NVIDIA: Nemotron 3 Super (free)

NVIDIA Nemotron 3 Super es un modelo de razonamiento y chat de propósito general diseñado para agentes colaborativos y flujos de trabajo de gran volumen, incluida la automatización de incidencias de TI. Tiene 120B parámetros totales y activa 12B. Su arquitectura híbrida combina capas Mamba-2, de atención y de mezcla latente de expertos. Las capas de predicción de múltiples tokens añaden un mecanismo para predecir tokens futuros y permiten los procedimientos nativos de decodificación especulativa de NVIDIA.

El modelo acepta texto y devuelve texto, incluidas explicaciones, borradores de respuestas, código y solicitudes de llamadas a herramientas en una aplicación adecuadamente conectada a herramientas. Sus usos previstos incluyen agentes, chatbots, generación aumentada por recuperación, seguimiento de instrucciones complejas y razonamiento con contextos largos. Una instrucción útil define el resultado deseado y las condiciones que lo rigen. Por ejemplo: «Clasifica esta incidencia utilizando la política proporcionada, explica la prioridad a partir de las pruebas, redacta una respuesta y enumera los datos que faltan antes de recomendar una solución».

Para gestionar incidencias de TI, proporciona el texto de la incidencia, el historial pertinente, los detalles del entorno y las reglas de asignación o escalado aplicables. Solicita campos separados para los síntomas observados, las causas probables, las comprobaciones propuestas y la respuesta al usuario. Esta distinción impide que una hipótesis se registre como un diagnóstico confirmado. Si se ejecuta una herramienta de diagnóstico, incorpora su resultado real a la conversación antes de pedir el siguiente paso. Un resumen de incidencia terminado debe indicar qué se observó y resolvió, y qué pregunta sigue abierta.

Para tareas de RAG y bases de conocimientos, etiqueta los pasajes recuperados e indica si el modelo debe responder únicamente a partir de ellos. Solicita la respuesta con referencias a las fuentes que la respaldan y cualquier conflicto entre los materiales. Un ejemplo práctico es: «Compara estas secciones del manual operativo, identifica los pasos que se aplican al entorno proporcionado y devuelve un procedimiento ordenado con una comprobación después de cada paso importante». Conserva las versiones y condiciones de la fuente; un procedimiento claro puede seguir siendo incorrecto si combina instrucciones para entornos incompatibles.

Para tareas con agentes colaborativos, asigna a cada etapa un objetivo claro y conserva los resultados intermedios útiles. Super está concebido para razonar sobre las observaciones de las herramientas y mantener una conversación de varios pasos. La aplicación que lo integra ejecuta las herramientas y conserva el estado de la tarea. Pide al modelo que explique qué cambia una nueva observación, conserve los hallazgos anteriores que sigan siendo válidos y distinga una acción propuesta de un resultado registrado. Para programar, proporciona los archivos pertinentes y el comportamiento esperado, y solicita después el código revisado, una explicación de los cambios y los casos necesarios para verificarlo.

NVIDIA documenta el razonamiento activado de forma predeterminada y un modo de respuesta directa con el razonamiento desactivado mediante la plantilla de chat. Super también dispone de una opción de razonamiento de esfuerzo bajo, que utiliza menos tokens de razonamiento que el razonamiento completo y se propone como punto de partida antes de ajustar explícitamente el presupuesto. Este es el ajuste de Super; no debe copiarse en él la opción diferenciada de esfuerzo medio de Ultra. Selecciona una forma de respuesta final y deja espacio para ella después del razonamiento, especialmente cuando el resultado de una herramienta o una comparación compleja de fuentes necesite una explicación.

El modelo admite un contexto de hasta 1M tokens, mientras que la configuración de Hugging Face del fabricante utiliza de forma predeterminada 256K porque un contexto más largo requiere más memoria. Para entradas largas, trabaja dentro de la configuración aplicable, conserva los límites de los documentos y las etiquetas de las fuentes y reserva espacio para la respuesta. Pide la relación que se debe rastrear entre los materiales en lugar de un resumen de todo sin un objetivo definido. El máximo del modelo no es una promesa de que todas las configuraciones de servicio utilicen la misma ventana.

El fabricante enumera inglés, francés, alemán, italiano, japonés, español y chino. Especifica el idioma final y conserva los identificadores de código y los términos de las fuentes que deban permanecer exactos. Para tareas de soporte multilingüe, pide al modelo que preserve el significado técnico y los criterios de escalado mientras adapta la redacción a quien la lee. Revisa la terminología desconocida o la entrada ambigua, en lugar de tratar la fluidez como prueba de que la interpretación es correcta.

Un resultado final útil es compacto y comprobable: la respuesta o el material revisado, las observaciones que lo respaldan, los supuestos y el trabajo pendiente. Para procedimientos generados, examina las comprobaciones frente al entorno real. Para código, compara los cambios propuestos con el comportamiento observado. Para una respuesta basada en fuentes, confirma que el pasaje citado respalda la afirmación. El razonamiento y el entrenamiento de Super para agentes ayudan a organizar este trabajo; el resultado real lo establecen el material y los registros de ejecución utilizados para examinarlo.