Thinking Machines: Inkling Small (free)

Inkling-Small — Thinking Machines Lab компаниясының пайымдау, код жазу, сөйлесу және құрал қолданатын қолданбаларға арналған шағынырақ ашық салмақты мультимодальды моделі. Ол мәтін, сурет және аудионы қабылдап, мәтін шығарады. Сарапшылар қоспасы құрылымында барлығы 276 миллиард параметр және 12 миллиард белсенді параметр бар; Inkling-де барлығы 975 миллиард және 41 миллиард белсенді параметр бар. Small — Inkling шығысын қысқартатын режим емес, тиімділік пен мүмкіндік арақатынасы өзгеше бөлек шығарылған модель.

Кодты зерттеу үшін мәселеге қатысты файлдарды, байқалған мінез-құлықты және қажетті өзгерісті беріп, жауапты жолды және нақты түзетуді сұраңыз. Пайдалы соңғы материалға ұсынылған өңдеу мен байланысқан қолданба шынымен орындаған тексерулердің дәлелі кіреді. Қолдау көмекшісі үшін тиісті саясат пен әңгіме фактілерін беріп, келесі жауапты не жетіспейтін сұрақты сұраңыз. Модельдің көзделген қолданыстарына код көмекшілері, чатботтар, іздеумен толықтырылған жауаптар және қолданба құралдары бар агенттік жүйелер кіреді.

Контекст терезесі бір миллион токенге дейін. Ұзын репозиторийді не құжаттар жинағын файл атаулары, бөлім белгілері және анық сұрақ арқылы ұйымдастырып, кейінгі кезеңге қажет фактілерді сақтаңыз. Үлкен терезе бір-бірінен алыс ақпараттарды салыстыруға пайдалы, бірақ қажетті нәтиже нақты болуы тиіс: код өзгерісі, дереккөзге негізделген түсіндірме немесе шығарылған өрістер. Жаңа не жеке ақпаратты үйренілген білімнің бөлігі деп жорамалдамай, берілген дәлелде немесе қайтарылған іздеу нәтижелерінде ұсыну қажет.

Ойлану күшін басқаруға болады. Өндіруші тобының нұсқаулығы 0.0 мәнін қоса алғанда 1.0-ден төмен үздіксіз мәндерді қолданады; бастапқы none, minimal, low, medium, high және xhigh дайын параметрлері тиісінше 0.0, 0.1, 0.2, 0.7, 0.9 және 0.99 мәндеріне сәйкес. Өндіруші рендерерінің әдепкісі — high. Жоғары күш-жігер көбірек пайымдауға түрткі болып, үлкенірек генерация бюджетін қажет етуі мүмкін, бірақ ұзағырақ не дәлірек жауапқа кепіл емес. Нөлдік параметр пайымдаудың болмауын қатаң мәжбүрлемей, модельді пайымдаусыз жауапқа бағыттайды. Күш-жігерді тапсырмаға сай таңдап, соңғы нәтиже талабын анық ұстаңыз.

Суреттер көрнекі сұрақтарды, диаграмма не сызба түсіндіруді және көрінетін ақпарат бойынша математикалық пайымдауды қолдай алады. Жақсы нәтиже үшін өлшемдері 40 пен 4,096 пиксель арасында болатын суреттерді пайдаланыңыз. Оқылатын белгілерді сақтап, маңызды бөлшекті түсіндіріңіз. Бапталған Python құралымен модель көрнекі пайымдауды құжатты не диаграмманы қиюмен, үлкейтумен және бағдарламалық тексерумен біріктіре алады. Бұл операцияларды байланысқан құрал ортасы орындауы қажет; жазбаша жауап одан қайтарылған бақылауларды пайдалануы тиіс.

Аудио кіріс — 16 kHz жиіліктегі WAV; оңтайлы өнімділік үшін жазбалар екі минуттан қысқа болғаны дұрыс. Бұл — ұзақтыққа қатаң кепіл емес, дайындау ұсынысы. Тиісті ауызша сұрақты не қысқа роликті беріп, жазбаша нәтиже сөйлеуді мәтінге түсіруі, жазба туралы сұраққа жауап беруі немесе оның мазмұнын басқа берілген материалмен байланыстыруы керегін айтыңыз. Төл жауап — генерацияланған сөйлеу емес, мәтін. Inkling-дің ұзақ аудио жөніндегі бөлек ұсынысын Small шығарылымына көшіруге болмайды.

Құрал қолданатын үдерістерге мазмұнды құрал сипаттамалары, аргумент анықтамалары және қолданба орындайтын операциялар нәтижелері қажет. Іздеу нәтижесін, есептеуді немесе файл бақылауын модельдің ұсынылған әрекетінен бөлек сақтаңыз. Диаграммадағы сәйкессіздік үшін тиісті белгілерді анықтап, берілген мәндерді есептеу құралымен тексеріңіз және сол мәндерге сілтейтін түсіндірме сұраңыз. Модель әртүрлі код және агент орталарында жаттықтырылған, сондықтан қоршаған тапсырма мен құралдарды үнсіз қалдырмай, сипаттау қажет.

Ашық салмақтар модель зерттеуін, бейімдеп жаттықтыруды және кейінгі өнімдерге интеграцияны қолдайды. Inkling-Small шығарылымы бұрынғы алдын ала шығарылған жаттықтырылған салмақтар нұсқасынан кейін келеді және агенттік код жазуға қосымша жаттықтыруды қамтиды; соңғы модель мен сол алдын ала нұсқа бөлек сәйкестіктерін сақтауы тиіс. Маманданған ақпарат шығару не жауап стилі үшін бейімдеу өкілдік мысалдар мен анық мақсатты мінез-құлықты пайдаланады. Ал қалыпты промпт ағымдағы сұрауға контекст береді; ол жаңадан жаттықтырылған модель жасамайды және соған ауыспайды.

Нәтижені пайдалы тексеру қадамы ұсынылған код өзгерісінің, транскрипцияның, шығарылған фактілердің не жазбаша жауаптың берілген дәлелге сәйкестігін қарайды. Әсіресе дереккөзі толық емес болжамда не фактологиялық жауапта белгісіздік пен жетіспейтін ақпараттың қалай көрінуі керегін айтыңыз. Өндіруші қолжетімді дәлелге сай сенімділік білдіруді көздеп, Inkling-Small моделін нақты өмір сұрақтарындағы дұрыс бағалау ережелеріне негізделген нығайтпалы оқыту арқылы болжамдарды калибрлеуге жаттықтырған. Кейінгі сұрау бастапқы тапсырманы жоғалтпай бір мәселені түзете алуы үшін материал мен құрал бақылауларын нәтижемен бірге сақтаңыз. Inkling-Small-дың жалпы көптілді және мультимодальды мүмкіндіктері арнайы сөйлеу генераторынан немесе кепілді сыртқы әрекет қызметінен бөлек қалады.