Thinking Machines: Inkling Small (free)

Inkling-Small is het kleinere multimodale model met open gewichten van Thinking Machines Lab voor redenering, programmeren, gesprekken en toepassingen die tools gebruiken. Het aanvaardt tekst, afbeeldingen en audio en produceert tekst. Het Mixture-of-Experts-ontwerp heeft in totaal 276 miljard parameters, waarvan 12 miljard actief, tegenover Inkling met in totaal 975 miljard en 41 miljard actieve parameters. Small is een afzonderlijk uitgebracht model met een ander evenwicht tussen efficiëntie en mogelijkheden, geen modus voor kortere uitvoer van Inkling.

Lever voor een codeonderzoek de betrokken bestanden, het waargenomen gedrag en de gewenste wijziging aan en vraag vervolgens om het verantwoordelijke pad en een gerichte correctie. Een bruikbaar eindresultaat omvat de voorgestelde bewerking en het bewijsmateriaal uit eventuele controles die de verbonden toepassing werkelijk heeft uitgevoerd. Geef voor een supportassistent het relevante beleid en de gespreksfeiten mee en vraag om het volgende antwoord of de ontbrekende vraag. Het model is onder meer bedoeld voor programmeerassistenten, chatbots, antwoorden aangevuld met opgehaalde informatie en agentsystemen met toepassingstools.

Het contextvenster bedraagt maximaal één miljoen tokens. Orden een lange repository- of documentenverzameling met bestandsnamen, sectielabels en een duidelijke vraag en behoud de feiten die een latere stap moet gebruiken. Een groot venster is nuttig om informatie uit ver uit elkaar liggende delen te vergelijken, maar het gewenste resultaat moet specifiek blijven: een codewijziging, een brongebaseerde uitleg of geëxtraheerde velden. Nieuwe of privé-informatie hoort in het aangeleverde bewijsmateriaal of in teruggegeven ophaalresultaten, in plaats van te veronderstellen dat ze deel uitmaakt van de geleerde kennis.

Denkinspanning is regelbaar. De gids van de modelfamilie gebruikt continue waarden van 0.0 inbegrepen tot minder dan 1.0, met de startinstellingen none, minimal, low, medium, high en xhigh die overeenkomen met 0.0, 0.1, 0.2, 0.7, 0.9 en 0.99. De renderer van de producent gebruikt standaard high. Hogere inspanning kan meer redenering stimuleren en een groter generatiebudget vereisen, maar garandeert geen langer of nauwkeuriger antwoord. Een nulinstelling stuurt het model op geen redenering aan in plaats van een harde afwezigheid van redenering af te dwingen. Kies de inspanning op basis van de taak en houd de eis voor het eindresultaat duidelijk.

Afbeeldingen kunnen visuele vragen, interpretatie van grafieken of diagrammen en wiskundige redenering op basis van zichtbare informatie ondersteunen. Gebruik voor goede prestaties afbeeldingen met afmetingen tussen 40 en 4.096 pixels. Behoud leesbare labels en leg uit welk detail ertoe doet. Met een geconfigureerde Python-tool kan het model visuele redenering combineren met bijsnijden, inzoomen en programmatisch onderzoek van een document of grafiek. Die bewerkingen vereisen uitvoering door de verbonden toolomgeving; het geschreven antwoord moet de waarnemingen gebruiken die daaruit terugkomen.

Audio-invoer is WAV met een samplefrequentie van 16 kHz, met voor optimale prestaties bij voorkeur opnamen korter dan twee minuten. Dit is een voorbereidingsaanbeveling, geen harde garantie voor de duur. Gebruik een relevante gesproken vraag of korte clip en vermeld of het geschreven resultaat spraak moet transcriberen, een vraag over de opname moet beantwoorden of de inhoud aan ander aangeleverd materiaal moet koppelen. Het native antwoord is tekst in plaats van gegenereerde spraak. De afzonderlijke aanbeveling van Inkling voor langere audio mag niet op de Small-editie worden overgedragen.

Workflows met tools vereisen betekenisvolle toolbeschrijvingen, argumentdefinities en resultaten van de bewerkingen die de toepassing uitvoert. Houd een opzoekresultaat, berekening of bestandswaarneming gescheiden van de voorgestelde actie van het model. Benoem bij een afwijking in een grafiek de relevante labels, onderzoek de aangeleverde waarden met een rekentool en vraag om een uitleg die naar die waarden verwijst. Het model is getraind voor uiteenlopende code- en agentomgevingen. De omringende taak en tools moeten daarom worden beschreven in plaats van impliciet te blijven.

De open gewichten ondersteunen modelonderzoek, fine-tuning en integratie in downstreamproducten. De release van Inkling-Small volgt op een eerder preview-checkpoint en omvat verdere training voor programmeren met agents; het uiteindelijke model en die preview moeten een afzonderlijke identiteit behouden. Voor een gespecialiseerde extractie of antwoordstijl gebruikt aanpassing representatieve voorbeelden en een expliciet doelgedrag. Een gewone prompt levert daarentegen context voor de huidige aanvraag; die maakt geen nieuw getraind model aan en schakelt er niet naar over.

Een bruikbare resultaatcontrole gaat na of de voorgestelde codewijziging, transcriptie, geëxtraheerde feiten of het geschreven antwoord overeenkomen met het aangeleverde bewijsmateriaal. Geef aan hoe onzekerheid en ontbrekende informatie weergegeven moeten worden, vooral bij een voorspelling of feitelijk antwoord met een onvolledige bron. De maker trainde Inkling-Small op voorspellingskalibratie met reinforcement learning op basis van proper scoring rules voor praktijkvragen, met als doel vertrouwen uit te drukken dat bij het beschikbare bewijsmateriaal past. Bewaar het materiaal en de toolwaarnemingen bij het eindresultaat, zodat een vervolgvraag één probleem kan herwerken zonder de oorspronkelijke taak te verliezen. De algemene meertalige en multimodale mogelijkheden van Inkling-Small blijven gescheiden van een specifieke spraakgenerator of een dienst die externe acties garandeert.