Thinking Machines: Inkling Small (free)

Inkling-Small — Thinking Machines Lab’ning mulohaza yuritish, dasturlash, suhbat va vositalardan foydalanadigan ilovalar uchun kichikroq ochiq vaznli multimodal modeli. U matn, tasvir va audioni qabul qilib, matn yaratadi. Uning Mixture-of-Experts arxitekturasi jami 276 milliard parametr va 12 milliard faol parametrga ega; Inkling’da esa jami 975 milliard va 41 milliard faol parametr bor. Small — Inkling’ning qisqaroq javob rejimi emas, samaradorlik va imkoniyatlar muvozanati boshqacha bo‘lgan alohida chiqarilgan model.

Kod tadqiqoti uchun ta’sirlangan fayllar, kuzatilgan xatti-harakat va kerakli o‘zgarishni bering, keyin mas’ul yo‘l va aniq tuzatishni so‘rang. Foydali yakuniy material taklif etilgan tahrirni va bog‘langan ilova haqiqatan bajargan tekshiruvlar dalillarini o‘z ichiga oladi. Yordam xizmati assistenti uchun tegishli siyosat va suhbat faktlarini bering, keyingi javob yoki yetishmayotgan savolni so‘rang. Modelning mo‘ljallangan ishlatilishlari dasturlash yordamchilari, chatbotlar, topilgan ma’lumot bilan boyitilgan javoblar va ilova vositalariga ega agent tizimlarini o‘z ichiga oladi.

Kontekst oynasi bir million tokengacha. Uzun repozitoriy yoki hujjatlar to‘plamini fayl nomlari, bo‘lim belgilari va aniq savol bilan tartiblang; keyingi bosqich ishlatishi kerak bo‘lgan faktlarni saqlang. Katta oyna bir-biridan uzoq ma’lumot qismlarini taqqoslash uchun foydali, ammo so‘ralgan natija aniq qolishi kerak: kod o‘zgarishi, manbaga asoslangan izoh yoki ajratilgan maydonlar. Yangi yoki maxfiy ma’lumotni o‘rganilgan bilimning bir qismi deb taxmin qilish o‘rniga, berilgan dalillar yoki qaytgan ma’lumot izlash natijalariga joylashtiring.

Fikrlash darajasini boshqarish mumkin. Ishlab chiqaruvchi oilasining qo‘llanmasi 0.0 ni o‘z ichiga oladigan, 1.0 dan kichik uzluksiz qiymatlardan foydalanadi; none, minimal, low, medium, high va xhigh boshlang‘ich sozlamalari mos ravishda 0.0, 0.1, 0.2, 0.7, 0.9 va 0.99 ga teng. Ishlab chiqaruvchi rendererining standarti high. Yuqori daraja ko‘proq mulohazaga undashi va kattaroq generatsiya byudjetini talab qilishi mumkin, ammo uzunroq yoki aniqroq javobni kafolatlamaydi. Nol sozlamasi mulohazaning qat’iy yo‘qligini majburlash o‘rniga modelni mulohazasiz javobga yo‘naltiradi. Darajani topshiriqqa qarab tanlang va yakuniy natija talabini aniq saqlang.

Tasvirlar vizual savollar, grafik yoki diagramma talqini va ko‘rinadigan ma’lumotdan matematik mulohazaga yordam beradi. Yaxshi ishlashi uchun o‘lchamlari 40 dan 4,096 pikselgacha bo‘lgan tasvirlardan foydalaning. O‘qiladigan yozuvlarni saqlang va muhim tafsilotni tushuntiring. Sozlangan Python vositasi bilan model vizual mulohazani hujjat yoki grafikni qirqish, kattalashtirish va dasturiy tekshirish bilan birlashtirishi mumkin. Bu amallar bog‘langan vosita muhitida bajarilishi kerak; yozma javob undan qaytgan kuzatuvlardan foydalanishi kerak.

Audio kirishi 16 kHz chastotali WAV bo‘ladi; optimal ishlash uchun yozuvlar ikki daqiqadan qisqa bo‘lgani ma’qul. Bu qat’iy davomiylik kafolati emas, tayyorlash tavsiyasi. Tegishli og‘zaki savol yoki qisqa klipdan foydalaning va yozma natija nutqni matnga ko‘chirishi, yozuv haqidagi savolga javob berishi yoki uning mazmunini boshqa berilgan materialga bog‘lashi kerakligini ayting. Modelning bevosita javobi generatsiya qilingan nutq emas, matndir. Inkling’ning uzunroq audio uchun alohida tavsiyasini Small nashriga ko‘chirmaslik kerak.

Vositalardan foydalanadigan jarayonlar mazmunli vosita tavsiflari, argument ta’riflari va ilova bajargan amallar natijalarini talab qiladi. Qidiruv natijasi, hisoblash yoki fayl kuzatuvini modelning taklif etgan harakatidan ajrating. Grafikdagi nomuvofiqlikda tegishli yozuvlarni belgilang, berilgan qiymatlarni hisoblash vositasi orqali tekshiring va shu qiymatlarga havola qiladigan izohni so‘rang. Model turli dasturlash va agent muhitlari uchun o‘qitilgan, shuning uchun atrofdagi topshiriq va vositalarni yashirin qoldirmay tasvirlash kerak.

Ochiq vaznlar model tadqiqoti, qo‘shimcha moslab o‘qitish va keyingi mahsulotlarga integratsiyani qo‘llab-quvvatlaydi. Inkling-Small relizi oldingi preview nazorat nuqtasidan keyin keladi va agentli dasturlash uchun qo‘shimcha o‘qitishni o‘z ichiga oladi; yakuniy model va o‘sha preview alohida identifikatorlarni saqlashi kerak. Ixtisoslashgan ma’lumot ajratish yoki javob uslubi uchun moslashtirish vakillik qiluvchi misollar va aniq maqsadli xatti-harakatdan foydalanadi. Oddiy prompt esa joriy so‘rov uchun kontekst beradi; u yangi o‘qitilgan modelni yaratmaydi yoki unga o‘tmaydi.

Foydali natija tekshiruvi taklif etilgan kod o‘zgarishi, transkripsiya, ajratilgan faktlar yoki yozma javob berilgan dalillarga mos kelishini tekshiradi. Noaniqlik va yetishmagan ma’lumot qanday ko‘rinishini belgilang, ayniqsa manbasi to‘liq bo‘lmagan prognoz yoki faktik javobda. Ishlab chiqaruvchi Inkling-Small’ni real hayotga oid savollarda to‘g‘ri baholash qoidalari asosidagi mustahkamlash orqali o‘qitish yordamida prognoz ishonch darajasini moslashga o‘rgatgan; maqsad mavjud dalilga mos ishonchni ifodalashdir. Keyingi savol asl topshiriqni yo‘qotmasdan bitta masalani qayta ko‘rishi uchun material va vosita kuzatuvlarini natija bilan saqlang. Inkling-Small’ning umumiy ko‘p tilli va multimodal imkoniyatlari maxsus nutq generatori yoki kafolatlangan tashqi harakat xizmatidan alohida qoladi.