Thinking Machines: Inkling Small (free)

Inkling-Small je manjši večmodalni model podjetja Thinking Machines Lab z odprtimi utežmi za sklepanje, programiranje, pogovor in aplikacije z orodji. Sprejema besedilo, slike in zvok ter ustvarja besedilo. Njegova zasnova z mešanico strokovnjakov ima skupno 276 milijard parametrov in 12 milijard aktivnih v primerjavi s skupno 975 milijardami in 41 milijardami aktivnih pri Inklingu. Small je ločeno izdani model z drugačnim ravnovesjem učinkovitosti in zmožnosti, ne način Inklinga s krajšim izhodom.

Pri preiskavi kode priložite prizadete datoteke, opaženo obnašanje in potrebno spremembo, nato zahtevajte odgovorno pot in usmerjen popravek. Uporaben končni izdelek vključuje predlagano spremembo in dokaze iz morebitnih preverjanj, ki jih je povezana aplikacija dejansko izvedla. Pri pomočniku za podporo priložite ustrezno politiko in dejstva iz pogovora ter zahtevajte naslednji odgovor ali manjkajoče vprašanje. Predvidene uporabe modela vključujejo programerske pomočnike, klepetalne robote, odgovore s podporo pridobivanja informacij in agentske sisteme z aplikacijskimi orodji.

Kontekstno okno obsega do milijon žetonov. Dolg repozitorij ali zbirko dokumentov organizirajte z imeni datotek, oznakami razdelkov in jasnim vprašanjem ter ohranite dejstva, ki jih mora uporabiti poznejša stopnja. Veliko okno je uporabno za primerjavo oddaljenih informacij, vendar naj želeni rezultat ostane konkreten: sprememba kode, pojasnilo na podlagi virov ali izluščena polja. Nove ali zasebne informacije sodijo v priložene dokaze ali vrnjene rezultate pridobivanja, ne v predpostavko, da so del naučenega znanja.

Napor razmišljanja je nastavljiv. Vodnik ponudnikove družine uporablja zvezne vrednosti od vključno 0.0 do vrednosti pod 1.0, z začetnimi prednastavitvami none, minimal, low, medium, high in xhigh, ki ustrezajo vrednostim 0.0, 0.1, 0.2, 0.7, 0.9 in 0.99. Ponudnikov upodabljalnik ima privzeto vrednost high. Večji napor lahko spodbuja več sklepanja in zahteva večji proračun ustvarjanja, vendar ne zagotavlja daljšega ali natančnejšega odgovora. Nastavitev nič model usmerja k odsotnosti sklepanja, ne uveljavlja pa njegove stroge prepovedi. Napor izberite glede na nalogo in jasno ohranite zahtevo za končni izhod.

Slike lahko podpirajo vizualna vprašanja, razlago grafikonov ali diagramov in matematično sklepanje iz vidnih informacij. Za dobro delovanje uporabite slike z dimenzijami med 40 in 4.096 slikovnimi pikami. Ohranite razločne oznake in pojasnite pomembno podrobnost. S konfiguriranim orodjem Python lahko model združi vizualno sklepanje z izrezovanjem, povečevanjem in programskim pregledom dokumenta ali grafikona. Te operacije mora izvesti povezano okolje orodij; pisni odgovor naj uporabi opažanja, ki jih to vrne.

Zvočni vhod je WAV z vzorčenjem 16 kHz, pri čemer so za najboljše delovanje idealni posnetki, krajši od dveh minut. To je priporočilo za pripravo, ne strogo jamstvo trajanja. Uporabite ustrezno govorjeno vprašanje ali kratek posnetek ter določite, ali naj pisni rezultat prepiše govor, odgovori na vprašanje o posnetku ali poveže njegovo vsebino z drugim priloženim gradivom. Izvorni odgovor je besedilo in ne ustvarjeni govor. Ločenega priporočila za daljši zvok pri Inklingu ne smemo prenesti na izdajo Small.

Delovni poteki z orodji potrebujejo smiselne opise orodij, definicije argumentov in rezultate operacij, ki jih izvede aplikacija. Rezultat poizvedbe, izračun ali opažanje iz datoteke ločite od predlaganega dejanja modela. Pri neskladju v grafikonu določite ustrezne oznake, priložene vrednosti preglejte z računskim orodjem in zahtevajte pojasnilo, ki te vrednosti navede. Model je učen za različna programerska in agentska izvajalna okolja, zato je treba okoliško nalogo in orodja opisati, ne prepustiti domnevam.

Odprte uteži podpirajo raziskovanje modelov, fino prilagajanje in integracijo v nadaljnje izdelke. Izdaja Inkling-Small sledi prejšnji predogledni kontrolni točki in vključuje dodatno učenje za agentsko programiranje; končni model in ta predogled naj ohranita ločeni identiteti. Za specializirano izluščenje ali slog odgovora prilagajanje uporablja reprezentativne primere in izrecno ciljno obnašanje. Običajen poziv pa priskrbi kontekst za trenutno zahtevo; ne ustvari na novo naučenega modela in ne preklopi nanj.

Uporaben korak pregleda rezultata preveri, ali se predlagana sprememba kode, prepis, izluščena dejstva ali pisni odgovor ujemajo s priloženimi dokazi. Določite, kako naj bosta prikazani negotovost in manjkajoče informacije, zlasti pri napovedi ali stvarnem odgovoru z nepopolnim virom. Proizvajalec je Inkling-Small učil kalibracije napovedi s spodbujevalnim učenjem po ustreznih pravilih točkovanja na vprašanjih iz resničnega sveta, da bi izražal zaupanje, skladno z razpoložljivimi dokazi. Gradivo in opažanja orodij hranite ob izdelku, da lahko nadaljnje vprašanje popravi eno težavo, ne da bi izgubilo prvotno nalogo. Splošne večjezične in večmodalne zmožnosti Inkling-Small ostajajo ločene od namenskega generatorja govora ali storitve z zajamčenimi zunanjimi dejanji.