Thinking Machines: Inkling (free)

Inkling — Thinking Machines Lab компаниясының пайымдау, код жазу, сөйлесу және агенттік қолданбаларға арналған ашық салмақты мультимодальды моделі. Ол мәтін, сурет және аудионы қабылдап, мәтін қайтарады. Сарапшылар қоспасы құрылымында барлығы 975 миллиард параметр және 41 миллиард белсенді параметр бар, сондықтан ол топтағы ірі модель. Inkling-Small — Inkling жауабының ұзындығын өзгертетін параметр емес, 12 миллиард белсенді параметрі бар бөлек 276 миллиард параметрлі модель.

Ауқымды код тапсырмасы үшін тиісті репозиторий материалын, байқалған мінез-құлықты және қажетті нәтижені беріңіз. Модельден жауапты жолды зерттеуді, өзгеріс ұсынуды және байланысқан ортада шынымен орындалған тексерулердің дәлелін хабарлауды сұраңыз. Құжаттарды салыстырғанда бастапқы бөлімдерді белгілеп, тиісті айырмашылықтарды, оларды негіздейтін дәлелдерді және жауапсыз сұрақтарды сұраңыз. Көзделген қолданбаларға код көмекшілері, чатботтар, іздеумен толықтырылған генерация және құрал қолданатын агенттер кіреді; соңғы нәтиже оны пайдаланатын қолданбаға сай пішімделеді.

Inkling бір миллионға дейін контекст токенін қолдайды. Осы орынды ауқымды бастапқы материал мен маңызды әңгіме фактілерін бірге сақтап, нақты сұрақ төңірегінде ұйымдастыруға пайдаланыңыз. Дереккөз фактілерін болжамдардан ажыратып, толық жазбаша материалға орын қалдырыңыз. Үлкен контекст кең жинақпен жұмыс істеуді қолдайды; ол ағымдағы ақпараты берілмеген жүйенің тірі көрінісіне жауапты айналдырмайды.

Ойлану күші 0.0 мәнін қоса алғанда 1.0-ден төмен аралықта үздіксіз басқарылады. Өндірушінің бастапқы дайын параметрлері — none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 және xhigh 0.99; рендерердің әдепкісі — high. Күш-жігер мен генерация токендерінің бюджеті тәуелсіз. Жоғары күш-жігер көбірек пайымдауға түрткі болып, соңғы жауапқа дейін көбірек орын қажет етуі мүмкін; none қатаң тыйым салмай, пайымдаусыз жауапқа бағыттайды. Тапсырмаға сай мәнді таңдап, күтілетін материал мен аяқталу шартын нақтылаңыз.

Көрнекі кіріс сурет сипаттамасын, көрінетін мазмұн туралы сұрақтарды, диаграммаларды, сызбаларды және математикалық көрнекі пайымдауды қолдайды. Жақсы нәтиже үшін өлшемдері 40 пен 4,096 пиксель арасында болатын суреттерді пайдаланыңыз. Тиісті белгілер мен сызба контексті анық оқылсын. Inkling бапталған Python құралымен суретті үлкейте, қия немесе бағдарламалық түрде тексере алады, сөйтіп көрнекі бақылауларды кодқа сүйенген пайымдаумен байланыстырады. Диаграмма туралы пайдалы жауап ұсынылғандықтан ғана қию не есептеу орындалды деп жорамалдамай, байқалған мәндерді сақтап, олардың қорытындыны қалай негіздейтінін көрсетеді.

Аудио кіріс 16 kHz жиіліктегі WAV қолданады, ал өндіруші оңтайлы өнімділік үшін 20 минут шегіндегі жазбаларды ұсынады. Бұл — дайындау ұсынысы. Inkling сөйлеуді мәтінге түсіре, ауызша нұсқауды орындай, жазбалар туралы сұрақтарға жауап бере және ұзақ аудио бойынша пайымдай алады. Тиісті жазбаны жазбаша сұрақпен және оны түсінуге қажет анықтамалық материалмен бірге беріңіз. Кездесуге қатысты материал айтылған фактілерді кейінгі түйіндемеден не түсіндірмеден ажырата алады. Модель мәтін шығарады, сондықтан аудионы түсінуі ауызша жауап синтездеуден бөлек.

Құралға негізделген тапсырма үшін қолжетімді операциялар мен олардың аргументтерін сипаттап, қолданба қайтарған нақты бақылауларды сақтаңыз. Іздеу нәтижесі ағымдағы дәлелді, есептеу сандық жұмысты, ал файл операциясы қаралатын мазмұнды бере алады. Модель ұсынған әрекет пен орындалған нәтиже — әңгіменің бөлек бөліктері. Соңғы жауапты, әсіресе ол код өзгерісін немесе қолданбаның келесі қадамын ұсынса, сол бақылаулармен байланыстырыңыз.

Inkling жауап анықталмаған кезде белгісіздікті білдіруді қоса алғанда, калибрлеуге және нұсқау орындауға жаттықтырылған. Дәлелге негізделген болжам не талдау үшін жазбаша нәтижеде болжамдарды, дәлелдерді және шешілмеген шарттарды сұраңыз. Ақпарат шығару үшін әр өріске ойдан факт енгізуді талап етпей, жоқ мәннің қалай көрсетілетінін анықтаңыз. Бұл нұсқаулар сенімділікті не ұзақ пайымдауды дұрыстық дәлелі деп қабылдамай, нәтижені тексеруге пайдалы етеді.

Ашық салмақтар қосымша бейімдеп жаттықтыруды және кейінгі интеграцияны қолдайды. Маманданған модель өкілдік мысалдар мен мақсатты мінез-құлық негізінде әзірленеді, ал қалыпты инференс сұрауы ағымдағы тапсырмаға контекст береді. Өндіруші бейімдеуді бөлек үдеріс ретінде көрсетеді; қалыпты жауап жасырын түрде жаңа салмақтарға ауыспайды. Кейінгі сұрауда бір фактіні түзетуге, сөздерді нақтылауға немесе басқа код жолын тексеруге, сол тапсырманың тұтастығын сақтауға мүмкіндік беру үшін бастапқы дәлелдер мен сұралған шарттарды соңғы материалмен бірге сақтаңыз.