Thinking Machines: Inkling Small (free)

Inkling-Small ist das kleinere multimodale Modell mit offenen Gewichten von Thinking Machines Lab für Reasoning, Programmierung, Gespräche und toolnutzende Anwendungen. Es nimmt Text, Bilder und Audio entgegen und erzeugt Text. Seine Mixture-of-Experts-Architektur hat insgesamt 276 Milliarden Parameter, davon 12 Milliarden aktiv, gegenüber insgesamt 975 Milliarden und 41 Milliarden aktiven Parametern bei Inkling. Small ist ein separat veröffentlichtes Modell mit einer anderen Balance aus Effizienz und Fähigkeiten, kein Modus für kürzere Inkling-Ausgaben.

Stellen Sie für eine Codeuntersuchung die betroffenen Dateien, das beobachtete Verhalten und die benötigte Änderung bereit und fragen Sie anschließend nach dem verantwortlichen Pfad und einer gezielten Korrektur. Ein hilfreiches Endartefakt enthält die vorgeschlagene Änderung und die Belege aus allen Prüfungen, die die verbundene Anwendung tatsächlich ausgeführt hat. Geben Sie für einen Supportassistenten die relevante Richtlinie und die Gesprächsfakten vor und fordern Sie die nächste Antwort oder die noch fehlende Frage an. Zu den vorgesehenen Einsätzen gehören Programmierassistenten, Chatbots, abrufgestützte Antworten und agentische Systeme mit Anwendungswerkzeugen.

Das Kontextfenster umfasst bis zu eine Million Token. Ordnen Sie ein langes Repository oder eine Dokumentensammlung anhand von Dateinamen, Abschnittskennzeichnungen und einer klaren Frage und erhalten Sie die Fakten, die ein späterer Schritt verwenden muss. Ein großes Fenster ist für den Vergleich weit auseinanderliegender Informationen nützlich; das gewünschte Ergebnis sollte dennoch konkret bleiben: eine Codeänderung, eine quellenbasierte Erklärung oder extrahierte Felder. Neue oder private Informationen gehören in die bereitgestellten Belege oder zurückgegebenen Abrufresultate, statt als Teil erlernten Wissens vorausgesetzt zu werden.

Der Thinking-Aufwand ist steuerbar. Der Familienleitfaden des Herstellers verwendet kontinuierliche Werte von einschließlich 0.0 bis unter 1.0 mit den Ausgangsvorgaben none, minimal, low, medium, high und xhigh entsprechend 0.0, 0.1, 0.2, 0.7, 0.9 und 0.99. Der Hersteller-Renderer verwendet standardmäßig high. Höherer Aufwand kann mehr Reasoning fördern und ein größeres Generierungsbudget erfordern, garantiert aber keine längere oder genauere Antwort. Eine Nulleinstellung begünstigt eine Antwort ohne Reasoning, statt dessen vollständige Abwesenheit hart zu erzwingen. Wählen Sie den Aufwand passend zur Aufgabe und halten Sie die Vorgabe für die endgültige Ausgabe klar.

Bilder können visuelle Fragen, Diagramm- oder Schaubildinterpretation und mathematisches Reasoning aus sichtbaren Informationen unterstützen. Verwenden Sie für gute Leistung Bilder mit Abmessungen zwischen 40 und 4.096 Pixeln. Erhalten Sie lesbare Beschriftungen und erklären Sie das wichtige Detail. Mit einem konfigurierten Python-Werkzeug kann das Modell visuelles Reasoning mit Zuschnitt, Vergrößerung und programmgesteuerter Untersuchung eines Dokuments oder Diagramms verbinden. Diese Vorgänge müssen in der verbundenen Tool-Umgebung ausgeführt werden; die schriftliche Antwort sollte deren zurückgegebene Beobachtungen verwenden.

Audioeingaben sind WAV mit 16 kHz Abtastrate, für optimale Leistung idealerweise mit Aufnahmen unter zwei Minuten. Dies ist eine Vorbereitungsempfehlung, keine harte Zusage zur Dauer. Verwenden Sie eine relevante gesprochene Frage oder einen kurzen Clip und geben Sie an, ob das schriftliche Ergebnis Sprache transkribieren, eine Frage zur Aufnahme beantworten oder deren Inhalt mit anderem bereitgestellten Material verknüpfen soll. Die native Antwort ist Text statt erzeugter Sprache. Inklings separate Empfehlung für längere Audios sollte nicht auf die Small-Ausgabe übertragen werden.

Toolnutzende Arbeitsabläufe brauchen aussagekräftige Tool-Beschreibungen, Argumentdefinitionen und Ergebnisse der von der Anwendung ausgeführten Vorgänge. Halten Sie ein Abfrageergebnis, eine Berechnung oder Dateibeobachtung von der vorgeschlagenen Modellaktion getrennt. Benennen Sie bei einer Diagrammabweichung die relevanten Beschriftungen, untersuchen Sie die bereitgestellten Werte mit einem Rechenwerkzeug und fordern Sie eine Erklärung an, die diese Werte nennt. Das Modell ist für verschiedene Programmier- und Agentenumgebungen trainiert; die umgebende Aufgabe und die Werkzeuge sollten daher beschrieben und nicht vorausgesetzt werden.

Die offenen Gewichte unterstützen Modellforschung, Fine-Tuning und Integration in nachgelagerte Produkte. Die Veröffentlichung von Inkling-Small folgt einem früheren Preview-Checkpoint und umfasst weiteres Training für agentisches Programmieren; das endgültige Modell und diese Preview sollten getrennte Identitäten behalten. Für einen spezialisierten Extraktions- oder Antwortstil verwendet die Anpassung repräsentative Beispiele und ein ausdrückliches Zielverhalten. Ein gewöhnlicher Prompt liefert dagegen Kontext für die aktuelle Anfrage; er erstellt kein neu trainiertes Modell und wechselt auch nicht zu einem solchen.

Eine hilfreiche Ergebnisprüfung kontrolliert, ob die vorgeschlagene Codeänderung, Transkription, extrahierten Fakten oder schriftliche Antwort mit den bereitgestellten Belegen übereinstimmen. Legen Sie die Darstellung von Unsicherheit und fehlenden Informationen fest, insbesondere bei Prognosen oder Faktenantworten mit unvollständiger Quelle. Der Hersteller trainierte Inkling-Small auf Prognosekalibrierung mithilfe von Reinforcement Learning anhand von Proper Scoring Rules für reale Fragen, mit dem Ziel, eine zu den verfügbaren Belegen passende Sicherheit auszudrücken. Bewahren Sie Material und Tool-Beobachtungen zusammen mit dem Artefakt auf, damit eine Folgefrage ein Problem ändern kann, ohne die ursprüngliche Aufgabe zu verlieren. Die allgemeinen mehrsprachigen und multimodalen Fähigkeiten von Inkling-Small bleiben von einem speziellen Sprachgenerator oder einem garantierten Dienst zur Ausführung externer Aktionen getrennt.