NVIDIA: Nemotron 3 Ultra (free)

NVIDIA Nemotron 3 Ultra는 Nemotron 3 제품군의 대규모 추론 및 오케스트레이션 모델입니다. 높은 수준의 다단계 에이전트 작업, 긴 컨텍스트 분석, 코드·수학·과학에 대한 추론을 위해 설계되었습니다. 모델의 총 매개변수는 550B이고 활성 매개변수는 55B입니다. Mamba-2, 어텐션과 Latent Mixture-of-Experts 레이어를 결합하며, Multi-Token Prediction 레이어가 생성 설계를 지원합니다.

LatentMoE는 전문가가 처리할 수 있도록 정보를 더 작은 잠재 표현으로 투영합니다. NVIDIA의 학습 방법은 사전 학습, 지도 미세 조정, 강화 학습과 여러 도메인에 걸친 온폴리시 증류를 결합합니다. 이러한 단계의 실용적인 목적은 여러 작업 유형에서 추론, 지시 따르기, 도구 사용과 에이전트 동작을 개선하는 것입니다. Ultra는 설명, 해법, 코드, 계획 또는 요청된 응답 구조와 같은 텍스트를 생성합니다. 답변에 사용해야 할 자료와 결과가 올바른지 판단하는 조건을 제공하세요.

수학 또는 과학 추론에서는 완전한 문제 서술, 알려진 값, 단위와 허용되는 가정을 포함하세요. 유용한 요청의 예는 다음과 같습니다. “이 조건으로부터 결과를 유도하고, 각 단계의 가정을 밝히고, 차원을 확인하며, 어떤 관찰 결과가 결론을 무효화하는지 설명하세요.” 풀이 설명 뒤에 간결한 최종 결과를 요청하세요. 실험 데이터가 포함되면 측정된 내용과 계산된 내용을 구분하고, 불확실성이나 누락 정보가 자신감 있는 답변 속에 묻히지 않고 드러나도록 요청하세요.

코드 및 에이전트 워크플로에서는 목표, 관련 파일의 텍스트와 이전 단계의 실제 출력을 제공하세요. Ultra는 서로 의존하는 여러 판단이 포함된 작업을 위한 모델이므로, 완료된 작업과 남은 질문을 명시적으로 기록하면 유용합니다. 예를 들면 다음과 같습니다. “이 마이그레이션 제안을 스키마 및 실패한 점검과 대조해 검토하세요. 완료를 막는 의존성을 찾고, 해당 부분에 집중한 수정안을 제시한 뒤, 다음 점검에서 예상되는 결과를 알려 주세요.” 도구와 연결된 애플리케이션은 이후 제안된 단계를 실행하고 다음 판단을 위한 근거를 반환할 수 있습니다.

제조사는 채팅 템플릿을 통해 추론을 켜거나 끄는 기능을 지원합니다. 기본적으로 추론이 켜져 있어 추론 과정을 생성한 다음 답변을 제공합니다. Ultra 카드에는 전체 사고보다 추론 토큰을 적게 사용하는 중간 강도 추론 모드도 문서화되어 있습니다. 이는 Ultra 전용 옵션이므로, Super에 문서화된 낮은 추론 강도 설정과 혼동해서는 안 됩니다. 원하는 최종 산출물을 정하고, 추론 뒤에 이를 담을 공간을 남기세요. 미완료된 추론 과정은 원래 질문에 대한 완성된 답변을 대신하지 못합니다.

Ultra는 최대 1M 토큰의 컨텍스트를 지원합니다. 대량의 문서나 소스 파일을 다룰 때는 섹션에 라벨을 붙이고 무엇을 비교하고, 추적하거나 대조해 일치시킬지 정확히 지시하세요. 시간 순서나 의존성이 중요하면 원자료 순서를 유지하세요. 유용한 긴 문서 작업 결과는 발견한 내용, 이를 뒷받침하는 대목과 질문에 대한 시사점을 포함합니다. 관련 자료를 선택하고 출력 공간을 확보하세요. 컨텍스트 창은 작업 시퀀스의 범위를 설명하며, 별도로 보장되는 최종 답변 길이를 뜻하지 않습니다.

제조사는 영어, 프랑스어, 스페인어, 이탈리아어, 독일어, 일본어, 힌디어, 한국어, 브라질 포르투갈어와 중국어를 명시합니다. 출력 언어를 지정하고, 정확한 표현이 중요한 기술 식별자나 원문 인용은 보존하세요. 다국어 분석에서는 각 문서에 동일한 기준을 적용하고 용어나 가정의 차이를 설명하도록 요청하세요. 유창함만으로 표현이 다른 두 요구 사항의 의미가 같다고 확정할 수는 없습니다.

NVIDIA는 추론을 사용하는 명시적인 도구 호출 예제를 제공합니다. 각 함수의 목적, 인수와 예상 결과를 정의한 다음, 실제 출력을 모델에 반환하세요. 애플리케이션이 작업을 수행하고, 모델은 반환된 관찰 결과를 바탕으로 추론합니다. 제안된 조치, 실행 결과와 미해결 점검을 명확하게 구분하면 긴 에이전트 워크플로를 살펴보기 쉬워집니다. 최종 보고서에는 답변, 이를 뒷받침하는 근거, 가정과 남은 작업 항목을 요청하세요. 계산은 원래 단위와, 코드 변경은 관찰된 점검 결과와, 사실 주장은 제공된 출처와 대조해 검증하세요.