NVIDIA: Nemotron 3.5 Lightning (free)

NVIDIA Nemotron 3.5 Lightning — mulohaza yuritish, suhbat va ixtisoslashgan agent ish jarayonlari uchun mo‘ljallangan til modeli. Unda jami 30B parametr mavjud, shulardan 3B tasi faol; gibrid arxitekturasi Mamba-2, mixture-of-experts va attention qatlamlarini navbatma-navbat joylashtiradi. Multi-Token Prediction qatlamlari kelgusi tokenlar uchun o‘qitish signallarini qo‘shadi va modelning optimallashtirilgan generatsiya tartiblarini qo‘llab-quvvatlaydi. Model matnni qayta ishlaydi va matn, jumladan izohlar, kod hamda berilgan materialga tayangan javoblar yaratadi.

Ishlab chiqaruvchi chatbotlar, qidirib olingan ma’lumot bilan boyitilgan generatsiya, ko‘rsatmalarga rioya qilish va agentlardagi qo‘llanishlarni tasvirlaydi. Bilimlar bazasiga tayangan javob uchun savolni va manba yorliqlari barqaror bo‘lgan tegishli parchalarni bering. Modeldan shu parchalarga asoslanib javob berishni, har bir muhim fikrni qaysi parcha tasdiqlashini ko‘rsatishni va nimalar noma’lum qolayotganini aytishni so‘rang. Masalan: “Ushbu yordam maqolalaridan foydalanib, ikki o‘rnatish usuli o‘rtasidagi farqni tushuntiring va har biri uchun dastlabki talablar, qadamlar va tekshiruvlarni qaytaring.” Yetishmayotgan dastlabki talabni model o‘ylab topishiga undash o‘rniga, uning yetishmasligini ko‘rinadigan holda qoldiring.

Dasturlash uchun tegishli kod, kutilayotgan xatti-harakat va kuzatilgan xatoni bering. Amaliy so‘rov aniq tuzatishni hamda uning ta’sir qiladigan holatlari izohini so‘raydi. Agar vositaga ulangan agent tekshiruvni bajarsa, keyingi o‘zgarishni so‘rashdan oldin uning haqiqiy chiqishini qaytaring. Modelning o‘qitilishi kod, vositalardan ko‘p bosqichli foydalanish va tuzilmali chiqish vazifalarini qamrab oladi, lekin tugallangan material baribir dastlabki talabga mos kelishi kerak. Qayta ishlangan kodni, har bir muhim o‘zgarish sababini va muammo bartaraf etilganini aniqlash uchun zarur kuzatuvlarni so‘rang.

Ishlab chiqaruvchi fikrlash standart holatda yoqilganini va chat shabloni orqali fikrlash o‘chiriladigan bevosita javob rejimini hujjatlashtiradi. Bir nechta o‘zaro bog‘liq shartli vazifada mulohaza rejimi foydali; sodda o‘zgartirish yoki ma’lumot ajratish uchun bevosita javob mos kelishi mumkin. Ishlab chiqaruvchi mijoz misollarida temperature 1.0 va top-p 0.95 ni tavsiya qiladi. Bularni ishlab chiqaruvchining ishlash tartibi sozlamalari deb qabul qiling va yakuniy javob tuzilishini, masalan, qisqa izoh, taqqoslash jadvali yoki ortidan asoslovchi dalillar keltirilgan javobni aniq tanlang.

Model 1M tokengacha kontekstni qo‘llab-quvvatlaydi. E’lon qilingan BF16 joylashtirish tartiblari bu model imkoniyatini xotira cheklovlari sabab 256K oynadan foydalanadigan sozlamalardan ham ajratadi. Uzun materialni qo‘llanadigan ish oynasiga moslab tayyorlang, hujjat tuzilishini saqlang va javob uchun joy qoldiring. Topshiriqda topilishi kerak bo‘lgan bog‘liqlik — hujjatlar o‘rtasidagi ziddiyatlar, manba fayllari bo‘ylab bog‘liqliklar yoki xulosani tasdiqlovchi dalillar — ko‘rsatilganda uzun kontekst ayniqsa foydali. Bu aloqasiz tarixni qo‘shish yoki yakuniy javob butun oynani egallashi mumkin deb hisoblash uchun sabab emas.

Asosiy e’tibor ingliz tili va dasturlash tillariga qaratilgan; ispan, fransuz, nemis, italyan va yapon tillari ham sanab o‘tilgan. Kerakli chiqish tilini ko‘rsating va yozilishi muhim bo‘lgan ismlar, identifikatorlar hamda manbadan iqtibos qilingan atamalarni saqlang. Ko‘p tilli hujjatlar bilan ishlaganda materiallarni tarjima qilish, umumlashtirish yoki taqqoslash kerakligini ayting; bu so‘rovlar turli natijalar beradi. Ravon tarjima texnik ma’noni sezdirmasdan o‘zgartirmasligi uchun noaniq terminlarni belgilashni so‘rang.

NVIDIA asosan moslashtirish va to‘liq aniqlikdagi tadqiqot uchun BF16 namunaviy relizini, shuningdek, optimallashtirilgan inference tartiblari bilan alohida NVFP4 relizini e’lon qiladi. Joylashtirish yo‘riqnomalarini taqqoslaganda bu farq muhim: bir relizdagi apparat sozlamasi yoki o‘tkazuvchanlik natijasi boshqasini avtomatik tavsiflamaydi. Model nomi Lightning oilasini bildiradi, aniq nazorat nuqtasi va xizmat ko‘rsatish sozlamalari esa ishlash tartibini belgilaydi. Model darajasidagi imkoniyatlarni muayyan tartibga xos unumdorlik va xotira haqidagi taxminlardan ajrating.

Vositalarga tayangan ish uchun funksiyalarni aniq tavsiflang va har bir bajarilgan qadamning haqiqiy natijasini qaytaring. Taklif qilingan amal atrofdagi ilova uni bajarib, nima bo‘lganini qayd etgandan keyingina foydalanish mumkin bo‘lgan dalilga aylanadi. Yakuniy javobdan manbadagi kuzatuvlar, ulardan chiqarilgan xulosalar va tugallanmagan tekshiruvlarni ajratishni so‘rang. Hisob-kitob, buyruq yoki qidirib olingan parcha rejalashtirilgan natijaga zid kelsa, tekshirilmagan taxminni chiroyli umumlashtirish o‘rniga shu ziddiyat asosida xulosani qayta ko‘rib chiqing.