Thinking Machines: Inkling (free)

Inkling er Thinking Machines Labs multimodale model med åbne vægte til ræsonnement, kodning, samtale og agentapplikationer. Den accepterer tekst, billeder og lyd og returnerer tekst. Dens Mixture-of-Experts-design har i alt 975 milliarder parametre og 41 milliarder aktive, hvilket gør den til familiens større model. Inkling-Small er en særskilt model med 276 milliarder parametre og 12 milliarder aktive frem for en indstilling, der ændrer Inklings svarlængde.

Til en omfattende kodeopgave skal du levere det relevante repository-materiale, den observerede adfærd og det ønskede resultat. Bed modellen spore den ansvarlige kodevej, foreslå en ændring og rapportere belæg fra kontroller, der faktisk blev kørt i det forbundne miljø. Ved en dokumentsammenligning skal du mærke kildeafsnittene og bede om de relevante forskelle, deres understøttende belæg og eventuelle ubesvarede spørgsmål. De tilsigtede applikationer omfatter kodeassistenter, chatbots, retrieval-augmented generation og værktøjsbrugende agenter med slutresultatet udformet til den applikation, der anvender det.

Inkling understøtter op til én million konteksttokens. Brug pladsen til at holde omfattende kildemateriale og vigtige samtalefakta samlet, men organisér det omkring et bestemt spørgsmål. Skeln mellem kildefakta og antagelser, og efterlad plads til det komplette skriftlige produkt. Den større kontekst understøtter arbejde på tværs af en omfattende samling; den gør ikke svaret til et aktuelt indblik i et system, hvis nuværende oplysninger ikke er leveret.

Tænkeindsats er en kontinuerlig kontrol fra og med 0.0 til under 1.0. Producentens startforvalg er none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 og xhigh 0.99 med high som rendererens standard. Indsats og budgettet for genererede tokens er uafhængige. Højere indsats kan fremme mere ræsonnement og kræve mere plads før slutsvaret, mens none tilskynder til intet ræsonnement uden at håndhæve en hård begrænsning. Vælg en værdi, der passer til opgaven, og gør det forventede produkt og afslutningsbetingelsen eksplicit.

Visionsinput understøtter billedbeskrivelser, spørgsmål om synligt indhold, diagrammer, figurer og matematisk visuelt ræsonnement. Brug billeddimensioner mellem 40 og 4.096 pixels for god ydeevne. Hold relevante betegnelser og diagramkontekst læsbare. Inkling kan bruge et konfigureret Python-værktøj til at zoome, beskære eller undersøge et billede programmatisk og forbinde visuelle observationer med kodebaseret ræsonnement. Et nyttigt diagramsvar bevarer de observerede værdier og viser, hvordan de understøtter konklusionen, frem for at antage, at en beskæring eller beregning fandt sted, blot fordi den blev foreslået.

Lydinput bruger WAV samplet ved 16 kHz, og producenten anbefaler optagelser på højst 20 minutter for optimal ydeevne. Det er en anbefaling til forberedelsen. Inkling kan transskribere tale, følge talte instruktioner, besvare spørgsmål om optagelser og ræsonnere over længere lydmateriale. Lever den relevante optagelse sammen med det skriftlige spørgsmål og eventuelt referencemateriale, der er nødvendigt for at fortolke den. Et møderelateret produkt kan adskille udtalte fakta fra et senere resumé eller en fortolkning. Modellen producerer tekst, så dens lydforståelse er adskilt fra syntese af et talt svar.

Til en værktøjsbaseret opgave skal du beskrive de tilgængelige handlinger og deres argumenter og bevare de faktiske observationer, applikationen returnerer. Et søgeresultat kan levere aktuelt belæg; en beregning kan levere talarbejde; en filhandling kan fastslå det indhold, der gennemgås. Modellens foreslåede handling og det udførte resultat er særskilte dele af samtalen. Hold et endeligt svar knyttet til disse observationer, især når det foreslår en kodeændring eller et næste applikationstrin.

Inkling er trænet til kalibrering og instruktionsefterlevelse, herunder at udtrykke usikkerhed, når et svar ikke er fastslået. Ved en belægsbaseret prognose eller analyse skal du bede om antagelserne, belægget og de uafklarede betingelser i det skriftlige resultat. Ved udtræk skal du definere, hvordan en manglende værdi skal repræsenteres, frem for at kræve, at hvert felt indeholder en opdigtet oplysning. Disse instruktioner gør resultatet nyttigt til gennemgang uden at behandle selvsikkerhed eller en lang ræsonnementsproces som bevis for korrekthed.

Åbne vægte understøtter finjustering og efterfølgende integration. En specialiseret model udvikles fra repræsentative eksempler og en ønsket adfærd, mens en almindelig inferensanmodning leverer kontekst til den aktuelle opgave. Producenten demonstrerer tilpasning som en særskilt arbejdsgang; et normalt svar skifter ikke ubemærket til nye vægte. Bevar det oprindelige belæg og de ønskede begrænsninger sammen med slutproduktet, så en opfølgning kan rette én oplysning, præcisere ordlyden eller undersøge en anden kodevej, mens samme opgave forbliver sammenhængende.