Thinking Machines: Inkling (free)

Inkling je večmodalni model podjetja Thinking Machines Lab z odprtimi utežmi za sklepanje, programiranje, pogovor in agentske aplikacije. Sprejema besedilo, slike in zvok ter vrne besedilo. Njegova zasnova z mešanico strokovnjakov ima skupno 975 milijard parametrov in 41 milijard aktivnih, zato je večji model v družini. Inkling-Small je ločen model s 276 milijardami parametrov in 12 milijardami aktivnih, ne nastavitev, ki spreminja dolžino odgovora Inklinga.

Pri obsežni programerski nalogi priložite ustrezno gradivo repozitorija, opaženo obnašanje in želeni rezultat. Zahtevajte, da model sledi odgovorni poti, predlaga spremembo in poroča o dokazih iz preverjanj, ki so se dejansko izvedla v povezanem okolju. Pri primerjavi dokumentov označite izvorne razdelke ter zahtevajte ustrezne razlike, dokaze zanje in morebitno neodgovorjeno vprašanje. Predvidene uporabe vključujejo programerske pomočnike, klepetalne robote, ustvarjanje s podporo pridobivanja informacij in agente z orodji, pri čemer je končni rezultat prilagojen aplikaciji, ki ga uporablja.

Inkling podpira do milijon žetonov konteksta. Ta prostor uporabite, da obsežno izvorno gradivo in pomembna dejstva iz pogovora hranite skupaj, pri tem pa ga organizirajte okoli določenega vprašanja. Izvorna dejstva ločite od predpostavk in pustite prostor za celoten pisni izdelek. Večji kontekst podpira delo z obsežno zbirko; odgovora ne spremeni v sprotni pogled sistema, katerega trenutne informacije niso bile priložene.

Napor razmišljanja je zvezna nastavitev od vključno 0.0 do vrednosti pod 1.0. Ponudnikove začetne prednastavitve so none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 in xhigh 0.99, pri čemer je high privzeta vrednost upodabljalnika. Napor in proračun ustvarjenih žetonov sta neodvisna. Večji napor lahko spodbuja več sklepanja in zahteva več prostora pred končnim odgovorom, none pa usmerja k odsotnosti sklepanja brez stroge prepovedi. Izberite vrednost, primerno nalogi, in izrecno določite pričakovani izdelek ter pogoj dokončanja.

Slikovni vhod podpira opis slik, vprašanja o vidni vsebini, grafikone, diagrame in matematično vizualno sklepanje. Za dobro delovanje uporabite slike z dimenzijami med 40 in 4.096 slikovnimi pikami. Ustrezne oznake in kontekst diagrama naj ostanejo razločni. Inkling lahko s konfiguriranim orodjem Python programsko poveča, izreže ali pregleda sliko ter vizualna opažanja poveže s sklepanjem na podlagi kode. Uporaben odgovor o grafikonu ohrani opažene vrednosti in pokaže, kako podpirajo sklep, namesto da bi predpostavljal izvedbo izreza ali izračuna zgolj zato, ker je bil predlagan.

Zvočni vhod uporablja WAV z vzorčenjem 16 kHz, proizvajalec pa za najboljše delovanje priporoča posnetke do 20 minut. To je priporočilo za pripravo. Inkling lahko prepisuje govor, sledi govorjenim navodilom, odgovarja na vprašanja o posnetkih in sklepa na podlagi daljših zvočnih vsebin. Ustrezen posnetek priložite skupaj s pisnim vprašanjem in morebitnim referenčnim gradivom za njegovo razumevanje. Izdelek, povezan s sestankom, lahko loči izgovorjena dejstva od poznejšega povzetka ali razlage. Model ustvarja besedilo, zato se njegovo razumevanje zvoka razlikuje od sinteze govorjenega odgovora.

Pri nalogi z orodji opišite razpoložljive operacije in njihove argumente ter ohranite dejanska opažanja, ki jih vrne aplikacija. Rezultat iskanja lahko priskrbi aktualne dokaze; izračun lahko priskrbi številčne rezultate; datotečna operacija lahko potrdi pregledovano vsebino. Predlagano dejanje modela in izvedeni rezultat sta ločena dela pogovora. Končni odgovor naj ostane povezan s temi opažanji, zlasti kadar predlaga spremembo kode ali naslednji korak aplikacije.

Inkling je bil učen za kalibracijo in sledenje navodilom, vključno z izražanjem negotovosti, kadar odgovor ni ugotovljen. Pri napovedi ali analizi na podlagi dokazov zahtevajte predpostavke, dokaze in nerazrešene pogoje v pisnem rezultatu. Pri izluščenju določite predstavitev manjkajoče vrednosti, namesto da zahtevate izmišljeno dejstvo v vsakem polju. Ta navodila naredijo rezultat uporaben za pregled, ne da bi samozavest ali dolg postopek sklepanja obravnavali kot dokaz pravilnosti.

Odprte uteži podpirajo fino prilagajanje in nadaljnjo integracijo. Specializirani model se razvije iz reprezentativnih primerov in ciljnega obnašanja, običajna zahteva za sklepanje pa priloži kontekst za trenutno nalogo. Ponudnik prilagajanje prikazuje kot ločen delovni potek; običajen odgovor ne preklopi tiho na nove uteži. Izvirne dokaze in zahtevane omejitve hranite ob končnem izdelku, da lahko nadaljnje vprašanje popravi eno dejstvo, izboljša besedilo ali pregleda drugo pot kode, pri tem pa ohrani skladnost naloge.