Thinking Machines: Inkling Small (free)

Inkling-Small – tai mažesnis „Thinking Machines Lab“ atvirų svorių multimodalinis modelis samprotavimui, programavimui, pokalbiams ir įrankius naudojančioms programoms. Jis priima tekstą, vaizdus bei garsą ir kuria tekstą. Ekspertų mišinio architektūra turi iš viso 276 mlrd. parametrų, iš kurių aktyvūs 12 mlrd., palyginti su Inkling 975 mlrd. bendrų ir 41 mlrd. aktyvių parametrų. Small yra atskirai išleistas modelis su kitokiu efektyvumo ir galimybių santykiu, o ne trumpesnės Inkling išvesties režimas.

Kodo tyrimui pateikite susijusius failus, pastebėtą elgesį ir reikalingą pakeitimą, tada paprašykite atsakingo vykdymo kelio ir tikslinio pataisymo. Naudingame galutiniame artefakte yra siūlomas pakeitimas ir įrodymai iš patikrinimų, kuriuos prijungta programa iš tikrųjų vykdė. Pagalbos asistentui pateikite aktualią taisyklę ir pokalbio faktus bei paprašykite kito atsakymo ar trūkstamo klausimo. Numatyti modelio naudojimo atvejai apima programavimo asistentus, pokalbių robotus, paieška papildytus atsakymus ir agentines sistemas su programos įrankiais.

Konteksto langas siekia iki vieno milijono žetonų. Ilgą kodo saugyklą ar dokumentų rinkinį organizuokite su failų pavadinimais, dalių žymomis ir aiškiu klausimu, išsaugodami faktus, kurių reikės vėlesniame etape. Didelis langas naudingas lyginant tolimas informacijos dalis, tačiau prašomas rezultatas turi likti konkretus: kodo pakeitimas, šaltiniu pagrįstas paaiškinimas ar išgauti laukai. Nauja ar privati informacija turi būti pateiktuose įrodymuose arba grąžintuose paieškos rezultatuose, o ne numanomai laikoma išmoktų žinių dalimi.

Mąstymo pastangos valdomos. Gamintojo šeimos vadove naudojamos tolydžios vertės nuo 0,0 imtinai iki mažiau nei 1,0; pradiniai none, minimal, low, medium, high ir xhigh nustatymai atitinka 0,0, 0,1, 0,2, 0,7, 0,9 ir 0,99. Numatytasis gamintojo atvaizdavimo komponento nustatymas yra high. Didesnės pastangos gali paskatinti daugiau samprotavimo ir pareikalauti didesnio generavimo biudžeto, tačiau negarantuoja ilgesnio ar tikslesnio atsakymo. Nulinis nustatymas skatina modelį nesamprotauti, o ne griežtai uždraudžia samprotavimą. Pastangas rinkitės pagal užduotį ir aiškiai išlaikykite galutinės išvesties reikalavimą.

Vaizdai gali padėti atsakyti į vaizdinius klausimus, interpretuoti grafikus ar diagramas ir matematiškai samprotauti iš matomos informacijos. Geram veikimui naudokite vaizdus, kurių matmenys yra nuo 40 iki 4 096 pikselių. Išsaugokite įskaitomas žymas ir paaiškinkite svarbią detalę. Su sukonfigūruotu Python įrankiu modelis gali derinti vaizdinį samprotavimą su dokumento ar diagramos apkirpimu, priartinimu ir programiniu tikrinimu. Šias operacijas turi įvykdyti prijungta įrankių aplinka; rašytinis atsakymas turi naudoti iš jos grąžintus stebėjimus.

Garso įvestis yra WAV su 16 kHz diskretizavimo dažniu; optimaliam veikimui pageidaujami trumpesni nei dviejų minučių įrašai. Tai parengimo rekomendacija, o ne griežta trukmės garantija. Naudokite aktualų žodinį klausimą ar trumpą klipą ir nurodykite, ar rašytinis rezultatas turi transkribuoti kalbą, atsakyti į klausimą apie įrašą, ar susieti jo turinį su kita pateikta medžiaga. Savąją išvestį sudaro tekstas, o ne sugeneruota kalba. Atskiros Inkling rekomendacijos ilgesniam garsui nereikėtų perkelti Small leidimui.

Įrankius naudojančioms darbo eigoms reikia prasmingų įrankių aprašymų, argumentų apibrėžčių ir programos vykdomų operacijų rezultatų. Paieškos rezultatą, skaičiavimą ar failo stebėjimą skirkite nuo modelio siūlomo veiksmo. Diagramos neatitikimui įvardykite aktualias žymas, skaičiavimo įrankiu patikrinkite pateiktas vertes ir paprašykite paaiškinimo, kuris šiomis vertėmis remtųsi. Modelis mokytas įvairioms programavimo ir agentų vykdymo aplinkoms, todėl aplinkinė užduotis ir įrankiai turi būti aprašyti, o ne palikti numanomi.

Atviri svoriai leidžia tirti modelį, jį papildomai derinti ir integruoti į tolesnius produktus. Inkling-Small leidimas pasirodė po ankstesnio preview kontrolinio taško ir apima papildomą agentinio programavimo mokymą; galutinis modelis ir tas preview turi išlaikyti atskirus identifikatorius. Specializuotam išgavimui ar atsakymo stiliui pritaikymas naudoja reprezentatyvius pavyzdžius ir aiškią tikslinę elgseną. Įprasta užklausa tik pateikia dabartinio prašymo kontekstą; ji nesukuria naujai išmokyto modelio ir į jį nepersijungia.

Naudinga rezultato peržiūra patikrina, ar siūlomas kodo pakeitimas, transkripcija, išgauti faktai ar rašytinis atsakymas atitinka pateiktus įrodymus. Nurodykite, kaip turi atrodyti neapibrėžtumas ir trūkstama informacija, ypač prognozėje ar faktiniame atsakyme, kurio šaltinis nepilnas. Gamintojas mokė Inkling-Small prognozių kalibravimo, taikydamas mokymą su pastiprinimu pagal tinkamas vertinimo taisykles realaus pasaulio klausimams, siekdamas, kad išreikštas pasitikėjimas atitiktų turimus įrodymus. Su artefaktu išsaugokite medžiagą ir įrankių stebėjimus, kad tęstinė užklausa galėtų pataisyti vieną klausimą neprarasdama pradinės užduoties. Bendrosios daugiakalbės ir multimodalinės Inkling-Small galimybės skiriasi nuo specializuoto kalbos generatoriaus ar garantuotos išorinių veiksmų paslaugos.