NVIDIA: Nemotron 3 Ultra (free)

NVIDIA Nemotron 3 Ultra adalah model penalaran dan orkestrasi berskala besar dalam keluarga Nemotron 3. Model ini dirancang untuk agen dengan beberapa langkah yang menuntut, analisis berkonteks panjang, serta penalaran atas kode, matematika, dan sains. Model ini memiliki total 550B parameter dan 55B parameter aktif. Model ini menggabungkan lapisan Mamba-2, perhatian, dan Latent Mixture-of-Experts, dengan lapisan Multi-Token Prediction yang mendukung rancangan generasinya.

LatentMoE memproyeksikan informasi ke representasi laten yang lebih kecil untuk pemrosesan pakar. Resep pelatihan NVIDIA menggabungkan prapelatihan, penyetelan terawasi, pembelajaran penguatan, dan distilasi on-policy dalam beberapa domain. Tujuan praktis tahap ini adalah meningkatkan penalaran, kepatuhan pada instruksi, penggunaan alat, dan perilaku agen dalam beberapa jenis tugas. Ultra menghasilkan teks: penjelasan, solusi, kode, rencana, atau struktur respons yang diminta. Berikan bahan yang harus digunakan jawaban serta kondisi yang menentukan apakah hasilnya benar.

Untuk penalaran matematika atau sains, sertakan pernyataan lengkap, nilai yang diketahui, satuan, dan asumsi yang diizinkan. Permintaan yang berguna adalah: “Turunkan hasil dari kondisi ini, identifikasi asumsi pada setiap tahap, periksa dimensi, dan jelaskan pengamatan mana yang akan membatalkan kesimpulan.” Mintalah hasil akhir yang ringkas setelah penjelasan prosesnya. Jika melibatkan data eksperimen, bedakan apa yang diukur dari apa yang dihitung, serta mintalah ketidakpastian atau informasi yang tidak tersedia tetap terlihat, alih-alih diserap ke dalam jawaban yang terdengar yakin.

Untuk alur kerja kode dan agen, berikan tujuan, berkas yang relevan sebagai teks, dan keluaran nyata dari langkah sebelumnya. Ultra ditujukan untuk tugas yang melibatkan beberapa keputusan yang saling bergantung, sehingga catatan tegas mengenai pekerjaan yang sudah selesai serta pertanyaan yang tersisa akan berguna. Misalnya: “Tinjau usulan migrasi ini terhadap skema dan pemeriksaan yang gagal. Identifikasi dependensi yang menghambat penyelesaian, usulkan koreksi terfokus, dan berikan hasil yang diharapkan dari pemeriksaan berikutnya.” Aplikasi yang terhubung dengan alat kemudian dapat menjalankan langkah yang diusulkan dan mengembalikan bukti untuk keputusan berikutnya.

Produsennya mendukung penalaran aktif atau nonaktif melalui templat percakapan. Penalaran aktif secara bawaan, yang menghasilkan jejak penalaran diikuti jawaban. Kartu Ultra juga mendokumentasikan mode penalaran dengan upaya sedang yang menggunakan lebih sedikit token penalaran dibandingkan proses berpikir penuh. Ini adalah opsi khusus Ultra; opsi tersebut tidak boleh disamakan dengan pengaturan upaya rendah yang didokumentasikan untuk Super. Tetapkan keluaran akhir yang diinginkan dan sisakan ruang untuknya setelah penalaran. Jejak yang belum selesai tidak menggantikan jawaban lengkap atas pertanyaan asli.

Ultra mendukung konteks hingga 1M token. Untuk kumpulan dokumen atau berkas sumber yang besar, beri label bagian dan beri tahu model secara tepat apa yang perlu dibandingkan, ditelusuri, atau direkonsiliasi. Pertahankan urutan sumber ketika kronologi atau dependensi penting. Hasil dokumen panjang yang berguna memuat temuan, bagian pendukung, serta implikasinya bagi pertanyaan. Pilih bahan yang relevan dan sisakan ruang keluaran; jendela konteks menjelaskan urutan kerja, bukan panjang jawaban akhir terpisah yang dijamin.

Pembuatnya mencantumkan bahasa Inggris, Prancis, Spanyol, Italia, Jerman, Jepang, Hindi, Korea, Portugis Brasil, dan Tionghoa. Nyatakan bahasa keluaran serta pertahankan pengenal teknis atau kutipan sumber ketika kata-kata persisnya penting. Untuk analisis multibahasa, gunakan kriteria yang sama bagi setiap dokumen dan mintalah perbedaan istilah atau asumsi dijelaskan. Kelancaran bahasa saja tidak cukup untuk membuktikan bahwa dua persyaratan dengan kata-kata berbeda memiliki makna yang sama.

NVIDIA menyediakan contoh pemanggilan alat yang tegas dengan penalaran. Tentukan tujuan, argumen, dan hasil yang diharapkan dari setiap fungsi, lalu kembalikan keluaran aktualnya kepada model. Aplikasi melakukan operasi; model menalar pengamatan yang dikembalikan. Alur kerja agen yang panjang lebih mudah diperiksa ketika tindakan usulan, hasil eksekusi, dan pemeriksaan yang belum terselesaikan dibedakan dengan jelas. Untuk laporan akhir, mintalah jawaban, bukti pendukung, asumsi, dan setiap item tugas yang tersisa. Verifikasi perhitungan terhadap satuan asli, perubahan kode terhadap pemeriksaan yang diamati, dan klaim faktual terhadap sumber yang diberikan.