Thinking Machines: Inkling Small (free)

Inkling-Small ist das kleinere multimodale Modell mit offenen Gewichten von Thinking Machines Lab für Schlussfolgern, Programmierung, Gespräche und Anwendungen mit Tool-Nutzung. Es akzeptiert Text, Bilder und Audio und erzeugt Text. Seine Mixture-of-Experts-Architektur hat insgesamt 276 Milliarden Parameter mit 12 Milliarden aktiven Parametern, verglichen mit Inklings insgesamt 975 Milliarden und 41 Milliarden aktiven Parametern. Small ist ein separat veröffentlichtes Modell mit einer anderen Balance aus Effizienz und Fähigkeiten und kein Modus für kürzere Ausgaben von Inkling.

Bei einer Codeuntersuchung liefern Sie die betroffenen Dateien, beobachtetes Verhalten und die benötigte Änderung und verlangen dann den verantwortlichen Pfad und eine gezielte Korrektur. Ein hilfreiches Endartefakt umfasst die vorgeschlagene Bearbeitung und die Belege aus allen Prüfungen, die die verbundene Anwendung tatsächlich ausgeführt hat. Für einen Supportassistenten stellen Sie relevante Richtlinien und Gesprächsfakten bereit und verlangen die nächste Antwort oder eine noch fehlende Frage. Zu den vorgesehenen Einsätzen gehören Programmierassistenten, Chatbots, retrievalgestützte Antworten und agentenbasierte Systeme mit Anwendungstools.

Das Kontextfenster umfasst bis zu eine Million Token. Ordnen Sie ein langes Repository oder eine Dokumentsammlung mit Dateinamen, Abschnittsbezeichnungen und einer klaren Frage und bewahren Sie die Fakten, die ein späterer Schritt verwenden muss. Ein grosses Fenster hilft beim Vergleich weit auseinanderliegender Informationen, das gewünschte Ergebnis sollte aber konkret bleiben: eine Codeänderung, eine quellenbasierte Erklärung oder extrahierte Felder. Neue oder private Informationen gehören in die bereitgestellten Belege oder zurückgegebenen Abrufresultate und dürfen nicht als Teil des erlernten Wissens vorausgesetzt werden.

Der Denkaufwand ist steuerbar. Der Leitfaden der Herstellerfamilie verwendet stufenlose Werte von einschliesslich 0.0 bis unter 1.0, mit den Ausgangsvoreinstellungen none, minimal, low, medium, high und xhigh entsprechend 0.0, 0.1, 0.2, 0.7, 0.9 und 0.99. Der Hersteller-Renderer verwendet standardmässig high. Höherer Aufwand kann mehr Schlussfolgern fördern und ein grösseres Generierungsbudget benötigen, garantiert aber keine längere oder genauere Antwort. Der Wert null lenkt das Modell zu einer Antwort ohne Reasoning hin, statt dessen vollständiges Ausbleiben hart durchzusetzen. Wählen Sie den Aufwand für die Aufgabe und halten Sie die Anforderung an die Endausgabe klar.

Bilder unterstützen visuelle Fragen, Diagramm- oder Schaubildinterpretation und mathematische Schlussfolgerungen aus sichtbaren Informationen. Für gute Leistung verwenden Sie Bilder mit Abmessungen zwischen 40 und 4’096 Pixeln. Bewahren Sie lesbare Beschriftungen und erklären Sie das relevante Detail. Mit einem konfigurierten Python-Tool kann das Modell visuelles Schlussfolgern mit Zuschnitt, Vergrösserung und programmgesteuerter Untersuchung eines Dokuments oder Diagramms verbinden. Diese Vorgänge müssen von der verbundenen Tool-Umgebung ausgeführt werden; die schriftliche Antwort sollte deren zurückgegebene Beobachtungen nutzen.

Audioeingaben sind WAV mit 16 kHz Abtastrate; für optimale Leistung sollten Aufnahmen idealerweise kürzer als zwei Minuten sein. Das ist eine Vorbereitungsempfehlung und keine Garantie einer harten Dauergrenze. Verwenden Sie eine relevante gesprochene Frage oder einen kurzen Clip und legen Sie fest, ob das schriftliche Ergebnis Sprache transkribieren, eine Frage zur Aufnahme beantworten oder deren Inhalt mit anderem bereitgestelltem Material verknüpfen soll. Die native Antwort ist Text und keine erzeugte Sprache. Inklings separate Empfehlung für längeres Audio darf nicht auf die Small-Ausgabe übertragen werden.

Arbeitsabläufe mit Tool-Nutzung benötigen aussagekräftige Tool-Beschreibungen, Argumentdefinitionen und Ergebnisse der von der Anwendung ausgeführten Vorgänge. Halten Sie Abfrageresultate, Berechnungen oder Dateibeobachtungen vom Aktionsvorschlag des Modells getrennt. Bei einer Diagrammabweichung benennen Sie die relevanten Beschriftungen, untersuchen die bereitgestellten Werte über ein Berechnungstool und verlangen eine Erklärung, die diese Werte anführt. Das Modell wurde für unterschiedliche Programmier- und Agentenumgebungen trainiert; die umgebende Aufgabe und die Tools sollten deshalb beschrieben und nicht stillschweigend vorausgesetzt werden.

Die offenen Gewichte unterstützen Modellforschung, Fine-Tuning und Integration in nachgelagerte Produkte. Die Veröffentlichung von Inkling-Small folgt einem früheren Preview-Checkpoint und enthält weiteres Training für agentenbasierte Programmierung; das endgültige Modell und diese Preview sollten getrennte Identitäten behalten. Für spezialisierte Extraktion oder einen bestimmten Antwortstil verwendet eine Anpassung repräsentative Beispiele und ein ausdrückliches Zielverhalten. Ein gewöhnlicher Prompt liefert dagegen Kontext für die aktuelle Anfrage; er erstellt kein neu trainiertes Modell und wechselt nicht zu einem solchen.

Eine hilfreiche Ergebnisprüfung kontrolliert, ob die vorgeschlagene Codeänderung, Transkription, extrahierten Fakten oder schriftliche Antwort zu den bereitgestellten Belegen passen. Legen Sie fest, wie Unsicherheit und fehlende Informationen erscheinen sollen, besonders bei Prognosen oder faktischen Antworten mit unvollständiger Quelle. Der Hersteller trainierte Inkling-Small zur Prognosekalibrierung mittels Reinforcement Learning anhand von Proper Scoring Rules für reale Fragen, mit dem Ziel, eine zu den verfügbaren Belegen passende Sicherheit auszudrücken. Bewahren Sie Material und Tool-Beobachtungen mit dem Artefakt, damit eine Folgefrage ein einzelnes Problem überarbeiten kann, ohne die ursprüngliche Aufgabe zu verlieren. Inkling-Smalls allgemeine mehrsprachige und multimodale Fähigkeiten bleiben von einem speziellen Sprachgenerator oder einem Dienst mit garantierter externer Aktionsausführung getrennt.