Thinking Machines: Inkling (free)

Inkling ist das multimodale Modell mit offenen Gewichten von Thinking Machines Lab für Schlussfolgern, Programmierung, Gespräche und agentenbasierte Anwendungen. Es akzeptiert Text, Bilder und Audio und gibt Text zurück. Seine Mixture-of-Experts-Architektur hat insgesamt 975 Milliarden Parameter und 41 Milliarden aktive Parameter. Damit ist es das grössere Modell der Familie. Inkling-Small ist ein separates Modell mit insgesamt 276 Milliarden und 12 Milliarden aktiven Parametern, keine Einstellung zur Änderung der Antwortlänge von Inkling.

Für eine umfangreiche Programmieraufgabe stellen Sie relevantes Repository-Material, beobachtetes Verhalten und das gewünschte Ergebnis bereit. Verlangen Sie, dass das Modell den verantwortlichen Pfad nachverfolgt, eine Änderung vorschlägt und Belege aus Prüfungen nennt, die in der verbundenen Umgebung tatsächlich ausgeführt wurden. Bei einem Dokumentvergleich kennzeichnen Sie die Quellabschnitte und verlangen die relevanten Unterschiede, ihre Belege und alle unbeantworteten Fragen. Zu den vorgesehenen Anwendungen gehören Programmierassistenten, Chatbots, Retrieval-Augmented Generation und Agenten mit Tool-Nutzung; das Endergebnis wird für die verarbeitende Anwendung gestaltet.

Inkling unterstützt bis zu eine Million Kontext-Token. Nutzen Sie diesen Platz, um umfangreiches Quellmaterial und wichtige Gesprächsfakten zusammenzuhalten, und ordnen Sie alles um eine konkrete Frage. Unterscheiden Sie Quellenfakten von Annahmen und lassen Sie Platz für das vollständige schriftliche Artefakt. Der grössere Kontext unterstützt die Arbeit über eine umfangreiche Sammlung hinweg; er macht die Antwort nicht zu einer Live-Ansicht eines Systems, dessen aktuelle Informationen nicht bereitgestellt wurden.

Der Denkaufwand ist stufenlos von einschliesslich 0.0 bis unter 1.0 steuerbar. Die Ausgangsvoreinstellungen des Herstellers sind none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 und xhigh 0.99; high ist der Standard des Renderers. Denkaufwand und Generierungs-Token-Budget sind unabhängig. Höherer Aufwand kann mehr Schlussfolgern fördern und vor der endgültigen Antwort mehr Platz erfordern, während none das Modell zu einer Antwort ohne Reasoning hinlenkt, ohne eine harte Einschränkung durchzusetzen. Wählen Sie einen zur Aufgabe passenden Wert und benennen Sie erwartetes Artefakt und Abschlussbedingung ausdrücklich.

Bildeingaben unterstützen Bildbeschreibungen, Fragen zu sichtbaren Inhalten, Diagramme, Schaubilder und mathematisches Schlussfolgern aus visuellen Informationen. Für gute Leistung verwenden Sie Bildabmessungen zwischen 40 und 4’096 Pixeln. Halten Sie relevante Beschriftungen und Diagrammkontext lesbar. Inkling kann mit einem konfigurierten Python-Tool ein Bild programmgesteuert vergrössern, zuschneiden oder untersuchen und visuelle Beobachtungen mit codebasierten Schlussfolgerungen verbinden. Eine hilfreiche Diagrammantwort bewahrt die beobachteten Werte und zeigt, wie sie die Schlussfolgerung stützen, statt allein aus einem Vorschlag anzunehmen, dass ein Zuschnitt oder eine Berechnung stattgefunden hat.

Audioeingaben verwenden WAV mit 16 kHz Abtastrate; für optimale Leistung empfiehlt der Hersteller Aufnahmen innerhalb von 20 Minuten. Das ist eine Vorbereitungsempfehlung. Inkling kann Sprache transkribieren, gesprochenen Anweisungen folgen, Fragen zu Aufnahmen beantworten und aus längeren Audioaufnahmen Schlussfolgerungen ziehen. Stellen Sie die relevante Aufnahme zusammen mit der schriftlichen Frage und dem für die Interpretation nötigen Referenzmaterial bereit. Ein Artefakt zu einer Besprechung kann gesprochene Fakten von einer späteren Zusammenfassung oder Interpretation trennen. Das Modell erzeugt Text; sein Audioverständnis unterscheidet sich deshalb von der Synthese einer gesprochenen Antwort.

Bei einer toolbasierten Aufgabe beschreiben Sie die verfügbaren Vorgänge und ihre Argumente und bewahren die tatsächlichen Beobachtungen, die die Anwendung zurückliefert. Ein Suchergebnis kann aktuelle Belege liefern, eine Berechnung numerische Arbeit und eine Dateioperation den Inhalt feststellen, der geprüft wird. Der Aktionsvorschlag des Modells und das ausgeführte Ergebnis sind separate Gesprächsteile. Verbinden Sie die abschliessende Antwort mit diesen Beobachtungen, besonders wenn sie eine Codeänderung oder einen nächsten Anwendungsschritt vorschlägt.

Inkling wurde auf Kalibrierung und Anweisungsbefolgung trainiert, einschliesslich des Ausdrucks von Unsicherheit, wenn eine Antwort nicht gesichert ist. Bei einer belegbasierten Prognose oder Analyse verlangen Sie Annahmen, Belege und ungeklärte Bedingungen im schriftlichen Ergebnis. Bei einer Extraktion definieren Sie die Darstellung eines fehlenden Werts, statt in jedem Feld eine erfundene Tatsache zu verlangen. Diese Anweisungen machen ein Ergebnis für die Prüfung brauchbar, ohne Zuversicht oder einen langen Denkprozess als Beweis für Richtigkeit zu behandeln.

Offene Gewichte unterstützen Fine-Tuning und nachgelagerte Integration. Ein spezialisiertes Modell wird aus repräsentativen Beispielen und einem Zielverhalten entwickelt, während eine gewöhnliche Inferenzanfrage Kontext für die aktuelle Aufgabe bereitstellt. Der Hersteller demonstriert Anpassung als separaten Arbeitsablauf; eine normale Antwort wechselt nicht stillschweigend zu neuen Gewichten. Bewahren Sie ursprüngliche Belege und verlangte Bedingungen mit dem Endartefakt, damit eine Folgefrage einen Fakt ändern, den Wortlaut verfeinern oder einen anderen Codepfad prüfen kann, während derselbe Auftrag stimmig bleibt.