Thinking Machines: Inkling Small (free)

Inkling-Small is het kleinere multimodale model met open gewichten van Thinking Machines Lab voor redeneren, programmeren, gesprekken en toepassingen die tools gebruiken. Het accepteert tekst, afbeeldingen en audio en produceert tekst. Het Mixture-of-Experts-ontwerp heeft 276 miljard parameters in totaal, waarvan 12 miljard actief zijn, tegenover de 975 miljard in totaal en 41 miljard actieve parameters van Inkling. Small is een afzonderlijk uitgebracht model met een andere balans tussen efficiëntie en mogelijkheden, geen modus voor kortere uitvoer van Inkling.

Lever voor een codeonderzoek de betrokken bestanden, het waargenomen gedrag en de benodigde wijziging aan en vraag vervolgens om het verantwoordelijke pad en een gerichte correctie. Een bruikbaar eindproduct bevat de voorgestelde wijziging en het bewijs van eventuele controles die de verbonden toepassing daadwerkelijk heeft uitgevoerd. Lever voor een ondersteuningsassistent het relevante beleid en de gespreksfeiten aan en vraag om het volgende antwoord of de ontbrekende vraag. De beoogde toepassingen van het model omvatten programmeerassistenten, chatbots, retrieval-augmented antwoorden en agentsystemen met toepassingstools.

Het contextvenster bedraagt maximaal één miljoen tokens. Organiseer een lange repository of documentcollectie met bestandsnamen, sectielabels en een duidelijke vraag en behoud de feiten die een latere fase moet gebruiken. Een groot venster is nuttig om ver uit elkaar liggende informatie te vergelijken, maar het gevraagde resultaat moet specifiek blijven: een codewijziging, brongebaseerde uitleg of geëxtraheerde velden. Nieuwe of privé-informatie hoort in het aangeleverde bewijs of teruggegeven retrievalresultaten, in plaats van te worden aangenomen als onderdeel van geleerde kennis.

De denkinspanning is instelbaar. De familiegids van de producent gebruikt continue waarden vanaf 0.0 inclusief tot onder 1.0, met de startpresets none, minimal, low, medium, high en xhigh die overeenkomen met 0.0, 0.1, 0.2, 0.7, 0.9 en 0.99. De renderer van de producent gebruikt standaard high. Een hogere inspanning kan meer redeneren stimuleren en kan een groter generatiebudget nodig hebben, maar garandeert geen langer of nauwkeuriger antwoord. Een nulinstelling stuurt het model richting niet-redeneren in plaats van een harde afwezigheid van redeneren af te dwingen. Kies de inspanning voor de taak en houd de vereiste einduitvoer duidelijk.

Afbeeldingen kunnen visuele vragen, grafiek- of diagraminterpretatie en wiskundig redeneren op basis van zichtbare informatie ondersteunen. Gebruik voor goede prestaties afbeeldingen met afmetingen tussen 40 en 4.096 pixels. Behoud leesbare labels en leg uit welk detail ertoe doet. Met een geconfigureerde Python-tool kan het model visueel redeneren combineren met bijsnijden, inzoomen en programmatisch onderzoek van een document of grafiek. Die bewerkingen moeten door de verbonden toolomgeving worden uitgevoerd; het schriftelijke antwoord moet de observaties gebruiken die daaruit terugkomen.

Audio-invoer is WAV met een samplefrequentie van 16 kHz, met opnamen idealiter korter dan twee minuten voor optimale prestaties. Dit is een voorbereidingsaanbeveling, geen harde duurgarantie. Gebruik een relevante gesproken vraag of korte clip en geef aan of het schriftelijke resultaat spraak moet transcriberen, een vraag over de opname moet beantwoorden of de inhoud met ander aangeleverd materiaal in verband moet brengen. Het native antwoord is tekst in plaats van gegenereerde spraak. De afzonderlijke aanbeveling van Inkling voor langere audio mag niet worden overgenomen voor de Small-editie.

Workflows met tools vereisen betekenisvolle toolbeschrijvingen, argumentdefinities en resultaten van de bewerkingen die de toepassing uitvoert. Houd een opzoekresultaat, berekening of bestandsobservatie apart van de voorgestelde actie van het model. Identificeer bij een afwijking in een grafiek de relevante labels, onderzoek de aangeleverde waarden met een rekentool en vraag om een uitleg die naar die waarden verwijst. Het model is getraind voor uiteenlopende programmeer- en agentomgevingen, dus de omringende taak en tools moeten worden beschreven in plaats van impliciet te blijven.

De open gewichten ondersteunen modelonderzoek, fine-tuning en integratie in vervolgproducten. De release van Inkling-Small volgt op een eerder previewcheckpoint en bevat verdere training voor agentgestuurd programmeren; het uiteindelijke model en die preview moeten een afzonderlijke identiteit behouden. Voor gespecialiseerde extractie of een antwoordstijl gebruikt aanpassing representatieve voorbeelden en expliciet doelgedrag. Een gewone prompt levert daarentegen context voor het huidige verzoek; die creëert geen nieuw getraind model en schakelt er ook niet naar over.

Een bruikbare resultaatbeoordeling controleert of de voorgestelde codewijziging, transcriptie, geëxtraheerde feiten of het schriftelijke antwoord overeenkomt met het aangeleverde bewijs. Specificeer hoe onzekerheid en ontbrekende informatie moeten verschijnen, vooral bij een voorspelling of feitelijk antwoord waarvan de bron onvolledig is. De maker trainde Inkling-Small voor voorspellingskalibratie met reinforcement learning op basis van proper scoring rules voor vragen uit de praktijk, met als doel een mate van zekerheid uit te drukken die past bij het beschikbare bewijs. Bewaar het materiaal en de toolobservaties bij het eindproduct, zodat een vervolgvraag één kwestie kan herzien zonder de oorspronkelijke taak te verliezen. De algemene meertalige en multimodale mogelijkheden van Inkling-Small blijven onderscheiden van een speciale spraakgenerator of een gegarandeerde dienst voor externe acties.