Thinking Machines: Inkling Small (free)

Inkling-Small ist das kleinere multimodale Modell mit offenen Gewichten von Thinking Machines Lab für Reasoning, Programmierung, Gespräche und werkzeugnutzende Anwendungen. Es akzeptiert Text, Bilder und Audio und erzeugt Text. Sein Mixture-of-Experts-Design besitzt insgesamt 276 Milliarden Parameter, davon 12 Milliarden aktiv, gegenüber insgesamt 975 Milliarden und 41 Milliarden aktiven Parametern bei Inkling. Small ist ein separat veröffentlichtes Modell mit einem anderen Verhältnis von Effizienz und Fähigkeiten, kein Modus von Inkling für kürzere Ausgaben.

Für eine Codeuntersuchung stellen Sie die betroffenen Dateien, das beobachtete Verhalten und die benötigte Änderung bereit und verlangen Sie anschließend den verantwortlichen Pfad und eine gezielte Korrektur. Ein hilfreiches Endergebnis enthält den vorgeschlagenen Eingriff und die Belege aus allen Prüfungen, die die verbundene Anwendung tatsächlich ausgeführt hat. Für einen Supportassistenten geben Sie die relevante Richtlinie und Gesprächsfakten an und verlangen Sie die nächste Antwort oder eine noch fehlende Frage. Die vorgesehenen Nutzungen umfassen Programmierassistenten, Chatbots, durch Informationsabruf ergänzte Antworten und agentische Systeme mit Anwendungswerkzeugen.

Das Kontextfenster umfasst bis zu eine Million Token. Ordnen Sie ein umfangreiches Repository oder eine Dokumentensammlung mit Dateinamen, Abschnittskennzeichnungen und einer klaren Frage und bewahren Sie die Fakten, die eine spätere Stufe verwenden muss. Ein großes Fenster ist hilfreich für den Vergleich weit auseinanderliegender Informationen, doch das angeforderte Ergebnis sollte konkret bleiben: eine Codeänderung, eine quellenbasierte Erklärung oder extrahierte Felder. Neue oder private Informationen gehören in die bereitgestellten Belege oder zurückgegebenen Abrufergebnisse, statt als Teil des erlernten Wissens vorausgesetzt zu werden.

Der Denkaufwand ist steuerbar. Der Familienleitfaden des Anbieters verwendet stufenlose Werte von einschließlich 0.0 bis unter 1.0, mit den Ausgangsvorgaben none, minimal, low, medium, high und xhigh entsprechend 0.0, 0.1, 0.2, 0.7, 0.9 und 0.99. Der Renderer des Anbieters verwendet standardmäßig high. Ein höherer Aufwand kann mehr Reasoning fördern und ein größeres Generierungsbudget benötigen, garantiert jedoch keine längere oder genauere Antwort. Eine Nulleinstellung lenkt das Modell in Richtung einer Antwort ohne Reasoning, statt dessen Abwesenheit strikt zu erzwingen. Wählen Sie den Aufwand passend zur Aufgabe und halten Sie die Anforderung an die endgültige Ausgabe klar.

Bilder können visuelle Fragen, Diagramm- oder Schaubildinterpretation und mathematisches Reasoning aus sichtbaren Informationen unterstützen. Für gute Leistung verwenden Sie Bilder mit Abmessungen zwischen 40 und 4.096 Pixeln. Bewahren Sie lesbare Beschriftungen und erklären Sie das wichtige Detail. Mit einem konfigurierten Python-Werkzeug kann das Modell visuelles Reasoning mit Zuschneiden, Vergrößern und programmatischer Prüfung eines Dokuments oder Diagramms verbinden. Diese Operationen müssen von der verbundenen Werkzeugumgebung ausgeführt werden; die schriftliche Antwort sollte die daraus zurückgegebenen Beobachtungen verwenden.

Die Audioeingabe ist WAV mit 16 kHz Abtastrate, idealerweise mit Aufnahmen unter zwei Minuten für optimale Leistung. Dies ist eine Vorbereitungsempfehlung, keine harte Dauergarantie. Verwenden Sie eine relevante gesprochene Frage oder einen kurzen Clip und legen Sie fest, ob das schriftliche Ergebnis Sprache transkribieren, eine Frage zur Aufnahme beantworten oder ihren Inhalt zu anderem bereitgestelltem Material in Beziehung setzen soll. Die native Antwort ist Text statt generierter Sprache. Die separate Empfehlung von Inkling für längere Audioinhalte darf nicht auf die Small-Ausgabe übertragen werden.

Arbeitsabläufe mit Werkzeugnutzung benötigen aussagekräftige Werkzeugbeschreibungen, Argumentdefinitionen und Ergebnisse der von der Anwendung ausgeführten Operationen. Halten Sie ein Abfrageergebnis, eine Berechnung oder eine Dateibeobachtung von der vorgeschlagenen Aktion des Modells getrennt. Bei einer Diagrammabweichung benennen Sie die relevanten Beschriftungen, prüfen Sie die bereitgestellten Werte mit einem Berechnungswerkzeug und verlangen Sie eine Erklärung, die diese Werte anführt. Das Modell ist auf unterschiedliche Programmier- und Agentenumgebungen trainiert; die umgebende Aufgabe und Werkzeuge sollten daher beschrieben und nicht stillschweigend vorausgesetzt werden.

Die offenen Gewichte unterstützen Modellforschung, Fine-Tuning und die Integration in nachgelagerte Produkte. Die Veröffentlichung von Inkling-Small folgt auf einen früheren Preview-Checkpoint und enthält weiteres Training für agentengestützte Programmierung; das endgültige Modell und diese Preview sollten getrennte Identitäten behalten. Für eine spezialisierte Extraktion oder einen Antwortstil nutzt die Anpassung repräsentative Beispiele und ein ausdrückliches Zielverhalten. Ein gewöhnlicher Prompt stellt dagegen Kontext für die aktuelle Anfrage bereit; er erstellt kein neu trainiertes Modell und wechselt nicht zu einem solchen.

Eine hilfreiche Ergebnisprüfung kontrolliert, ob die vorgeschlagene Codeänderung, Transkription, extrahierten Fakten oder schriftliche Antwort zu den bereitgestellten Belegen passen. Legen Sie fest, wie Unsicherheit und fehlende Informationen erscheinen sollen, besonders bei einer Prognose oder Faktenantwort mit unvollständiger Quelle. Der Hersteller trainierte Inkling-Small zur Prognosekalibrierung mit Reinforcement Learning anhand anreizkompatibler Bewertungsregeln für Fragen aus der realen Welt, mit dem Ziel, eine zu den verfügbaren Belegen passende Zuversicht auszudrücken. Bewahren Sie Material und Werkzeugbeobachtungen beim Arbeitsergebnis auf, damit eine Folgefrage ein Problem überarbeiten kann, ohne die ursprüngliche Aufgabe zu verlieren. Die allgemeinen mehrsprachigen und multimodalen Fähigkeiten von Inkling-Small bleiben von einem speziellen Sprachgenerator oder einem garantierten Dienst zur Ausführung externer Aktionen getrennt.