Thinking Machines: Inkling (free)

Inkling är Thinking Machines Labs multimodala modell med öppna vikter för resonemang, kodning, konversation och agentapplikationer. Den accepterar text, bilder och ljud och returnerar text. Dess mixture-of-experts-arkitektur har totalt 975 miljarder parametrar, varav 41 miljarder är aktiva, vilket gör den till den större modellen i familjen. Inkling-Small är en separat modell med 276 miljarder parametrar, varav 12 miljarder är aktiva, och ingen inställning som ändrar Inklings svarslängd.

För en omfattande koduppgift tillhandahåller du relevant material från kodarkivet, observerat beteende och önskat resultat. Be modellen spåra den ansvariga kodvägen, föreslå en ändring och rapportera beläggen från kontroller som faktiskt kördes i den anslutna miljön. För en dokumentjämförelse märker du källavsnitten och ber om relevanta skillnader, stödjande belägg och eventuella obesvarade frågor. De avsedda tillämpningarna omfattar kodassistenter, chattbotar, hämtningsförstärkt generering och verktygsanvändande agenter, med slutresultatet format för applikationen som tar emot det.

Inkling stöder upp till en miljon kontexttoken. Använd utrymmet för att hålla omfattande källmaterial och viktiga konversationsfakta tillsammans och organisera dem kring en specifik fråga. Skilj källfakta från antaganden och lämna utrymme för hela den skriftliga artefakten. Den större kontexten stöder arbete över en omfattande samling; den gör inte svaret till en livevy av ett system vars aktuella information inte har tillhandahållits.

Tänkandeansträngningen är en kontinuerlig kontroll från och med 0.0 till under 1.0. Tillverkarens startförval är none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 och xhigh 0.99, med high som renderarens standard. Ansträngning och budget för genererade token är oberoende. Högre ansträngning kan uppmuntra mer resonemang och kräva mer utrymme före slutsvaret, medan none styr mot inget resonemang utan att införa en hård begränsning. Välj ett värde som passar uppgiften och gör den förväntade artefakten och färdigvillkoret uttryckliga.

Bildindata stöder bildbeskrivning, frågor om synligt innehåll, diagram, scheman och matematiskt visuellt resonemang. För god prestanda använder du bilddimensioner mellan 40 och 4 096 pixlar. Håll relevanta etiketter och diagramkontext läsbara. Inkling kan använda ett konfigurerat Python-verktyg för att zooma, beskära eller granska en bild programmatiskt och koppla visuella observationer till kodbaserat resonemang. Ett användbart diagramsvar bevarar de observerade värdena och visar hur de stöder slutsatsen i stället för att anta att en beskärning eller beräkning skedde bara för att den föreslogs.

Ljudindata använder WAV med en samplingsfrekvens på 16 kHz, och tillverkaren rekommenderar inspelningar som är högst 20 minuter långa för optimal prestanda. Detta är en förberedelserekommendation. Inkling kan transkribera tal, följa talade instruktioner, besvara frågor om inspelningar och resonera över längre ljudmaterial. Tillhandahåll den relevanta inspelningen tillsammans med den skriftliga frågan och eventuellt referensmaterial som behövs för tolkningen. En mötesrelaterad artefakt kan skilja talade fakta från en senare sammanfattning eller tolkning. Modellen producerar text, så dess ljudförståelse skiljer sig från att syntetisera ett talat svar.

För en verktygsbaserad uppgift beskriver du tillgängliga åtgärder och deras argument och bevarar de faktiska observationer som applikationen returnerar. Ett sökresultat kan tillföra aktuella belägg; en beräkning kan tillföra numeriskt arbete; en filåtgärd kan fastställa innehållet som granskas. Modellens föreslagna åtgärd och det körda resultatet är separata delar av konversationen. Håll slutsvaret kopplat till dessa observationer, särskilt när det föreslår en kodändring eller ett nästa applikationssteg.

Inkling tränades för kalibrering och instruktionsföljning, inklusive att uttrycka osäkerhet när ett svar inte är fastställt. För en beläggsbaserad prognos eller analys ber du om antagandena, beläggen och de olösta villkoren i det skriftliga resultatet. För extraktion definierar du hur ett saknat värde ska representeras i stället för att kräva att varje fält innehåller ett påhittat faktum. Dessa instruktioner gör resultatet användbart för granskning utan att behandla säkerhet eller en lång resonemangsprocess som bevis för korrekthet.

Öppna vikter stöder finjustering och integration i efterföljande tillämpningar. En specialiserad modell utvecklas från representativa exempel och ett målbeteende, medan en vanlig inferensförfrågan tillhandahåller kontext för den aktuella uppgiften. Tillverkaren visar anpassning som ett separat arbetsflöde; ett vanligt svar byter inte tyst till nya vikter. Bevara de ursprungliga beläggen och begärda begränsningarna tillsammans med slutartefakten så att en följdfråga kan revidera ett faktum, förfina formuleringen eller granska en annan kodväg samtidigt som samma uppgift hålls sammanhängande.