Thinking Machines: Inkling (free)

Inkling – tai „Thinking Machines Lab“ atvirų svorių multimodalinis modelis samprotavimui, programavimui, pokalbiams ir agentinėms programoms. Jis priima tekstą, vaizdus bei garsą ir grąžina tekstą. Ekspertų mišinio architektūra turi iš viso 975 mlrd. parametrų ir 41 mlrd. aktyvių parametrų, todėl tai didesnis šeimos modelis. Inkling-Small yra atskiras 276 mlrd. parametrų modelis su 12 mlrd. aktyvių parametrų, o ne nustatymas, keičiantis Inkling atsakymo ilgį.

Didesnei programavimo užduočiai pateikite aktualią kodo saugyklos medžiagą, pastebėtą elgesį ir pageidaujamą rezultatą. Paprašykite modelio atsekti atsakingą vykdymo kelią, pasiūlyti pakeitimą ir pateikti įrodymus iš patikrinimų, kurie iš tikrųjų buvo vykdyti prijungtoje aplinkoje. Dokumentų palyginimui pažymėkite šaltinių dalis ir paprašykite aktualių skirtumų, juos pagrindžiančių įrodymų bei neatsakytų klausimų. Numatytos programos apima programavimo asistentus, pokalbių robotus, paieška papildytą generavimą ir įrankius naudojančius agentus; galutinis rezultatas pritaikomas jį naudojančiai programai.

Inkling palaiko iki vieno milijono konteksto žetonų. Šią erdvę naudokite gausiai šaltinio medžiagai ir svarbiems pokalbio faktams laikyti kartu, juos organizuodami pagal konkretų klausimą. Šaltinio faktus skirkite nuo prielaidų ir palikite vietos visam rašytiniam artefaktui. Didesnis kontekstas leidžia dirbti su plačiu rinkiniu; jis nepaverčia atsakymo tiesioginiu sistemos, kurios dabartinė informacija nepateikta, vaizdu.

Mąstymo pastangos valdomos tolydžiai nuo 0,0 imtinai iki mažiau nei 1,0. Pradiniai gamintojo nustatymai yra none 0,0, minimal 0,1, low 0,2, medium 0,7, high 0,9 ir xhigh 0,99, o numatytasis atvaizdavimo komponento nustatymas yra high. Pastangos ir generavimo žetonų biudžetas yra nepriklausomi. Didesnės pastangos gali paskatinti daugiau samprotavimo ir pareikalauti daugiau vietos prieš galutinį atsakymą, o none skatina nesamprotauti, tačiau nenustato griežto draudimo. Pasirinkite užduočiai tinkamą vertę ir aiškiai įvardykite laukiamą artefaktą bei užbaigimo sąlygą.

Vaizdinė įvestis palaiko vaizdų aprašymą, klausimus apie matomą turinį, grafikus, diagramas ir matematinį vaizdinį samprotavimą. Geram veikimui naudokite vaizdus, kurių matmenys yra nuo 40 iki 4 096 pikselių. Svarbios žymos ir diagramos kontekstas turi likti įskaitomi. Inkling gali naudoti sukonfigūruotą Python įrankį vaizdui priartinti, apkirpti ar programiškai patikrinti, susiedamas vaizdinius stebėjimus su kodu pagrįstu samprotavimu. Naudingas atsakymas apie diagramą išsaugo pastebėtas vertes ir parodo, kaip jos pagrindžia išvadą, o ne daro prielaidą, kad apkirpimas ar skaičiavimas įvyko vien todėl, kad buvo pasiūlytas.

Garso įvestis naudoja WAV su 16 kHz diskretizavimo dažniu, o optimaliam veikimui gamintojas rekomenduoja iki 20 minučių įrašus. Tai parengimo rekomendacija. Inkling gali transkribuoti kalbą, vykdyti žodinius nurodymus, atsakyti į klausimus apie įrašus ir samprotauti apie ilgesnį garsinį turinį. Pateikite aktualų įrašą kartu su rašytiniu klausimu ir jam suprasti reikalinga pagalbine medžiaga. Su susitikimu susijęs artefaktas gali atskirti išsakytus faktus nuo vėlesnės santraukos ar interpretacijos. Modelis kuria tekstą, todėl jo garso supratimas skiriasi nuo tariamo atsakymo sintezės.

Įrankiais grindžiamai užduočiai aprašykite galimas operacijas ir jų argumentus bei išsaugokite tikruosius programos grąžintus stebėjimus. Paieškos rezultatas gali pateikti dabartinius įrodymus; skaičiavimas – skaitinį darbą; failo operacija – peržiūrimą turinį. Modelio siūlomas veiksmas ir įvykdytas rezultatas yra atskiros pokalbio dalys. Galutinį atsakymą susiekite su šiais stebėjimais, ypač kai jame siūlomas kodo pakeitimas ar kitas programos žingsnis.

Inkling mokytas kalibravimo ir nurodymų vykdymo, įskaitant neapibrėžtumo išreiškimą, kai atsakymas nenustatytas. Įrodymais pagrįstai prognozei ar analizei paprašykite rašytiniame rezultate nurodyti prielaidas, įrodymus ir neišspręstas sąlygas. Išgaunant informaciją apibrėžkite, kaip žymėti trūkstamą vertę, užuot reikalavę kiekvieną lauką užpildyti išgalvotu faktu. Šie nurodymai daro rezultatą naudingą peržiūrai, nelaikant pasitikėjimo ar ilgo samprotavimo proceso teisingumo įrodymu.

Atviri svoriai leidžia papildomai derinti modelį ir integruoti jį į tolesnius produktus. Specializuotas modelis kuriamas iš reprezentatyvių pavyzdžių ir tikslinės elgsenos, o įprasta inferencijos užklausa pateikia dabartinės užduoties kontekstą. Gamintojas pritaikymą demonstruoja kaip atskirą darbo eigą; įprastas atsakymas tyliai nepersijungia į naujus svorius. Su galutiniu artefaktu išsaugokite pradinius įrodymus ir prašytus apribojimus, kad tęstinė užklausa galėtų pakeisti vieną faktą, patikslinti formuluotę ar patikrinti kitą kodo kelią, išlaikydama tą pačią užduotį nuoseklią.