Together: Tev1 4B Experimental

Tev1 4B Experimental ist das Klassifikationsmodell von Together AI für Fragen mit einer festen Antwortmenge. Der Hersteller hat es per Fine-Tuning aus Qwen3.5 4B entwickelt und gibt 4,7 Milliarden Parameter an. Es nutzt Textgenerierung ohne Thinking, um eine Option auszuwählen: Die dokumentierte Eingabe besteht aus einem Zustand, einer Frage und beschrifteten Auswahlmöglichkeiten, und die angeforderte Ausgabe ist genau ein Buchstabe. Die Anwendung ordnet diesen Buchstaben dem semantischen Schlüssel der Option zu. Damit unterscheidet sich sein Entscheidungsablauf von einem Modell, das direkt kalibrierte Wahrscheinlichkeiten oder einen erwarteten Bewertungsraster-Score zurückgibt.

Zustand, Frage und 2–24 Optionen

Die Schnittstelle des Herstellers stellt die Entscheidung als JSON-Objekt mit Zustand, Frage und Optionen dar. Jede Option enthält eine Buchstabenkennung von A bis X, einen semantischen Schlüssel und eine Beschreibung. Geben Sie zwischen zwei und 24 Optionen an, und erläutern Sie in jeder Beschreibung, wann diese Antwort zutrifft. Ein Buchstabe ist die kompakte Ausgabekennung; der semantische Schlüssel ist die Bedeutung, mit der die umgebende Software arbeitet. Halten Sie die Zuordnung mit genau der Optionsliste verknüpft, die für diese Entscheidung verwendet wurde.

Bei einer Support-Nachricht sollte der Zustand die Nachricht und den relevanten Kontext enthalten, während die Frage festlegt, welche Absicht oder welches Ziel auszuwählen ist. Eine beispielhafte Liste kann zwischen einem gemeldeten Integrationsfehler, einem Zugriffsproblem und einer Anfrage nach Produktinformationen unterscheiden, ergänzt um eine Option „keine“ für den Fall, dass die aufgeführten Absichten nicht passen. Legen Sie Überschneidungsfälle ausdrücklich fest, statt zu erwarten, dass das Modell die Routing-Richtlinie der Organisation aus abgekürzten Kennungen ableitet.

Generierung ohne Thinking und die angeforderte Antwortform

Das veröffentlichte Beispiel von Together liefert eine Systemanweisung, die Inhalte innerhalb des Zustands als Daten behandelt, eine der aufgeführten Optionen auswählt und nur deren Buchstaben ohne Erklärung anfordert. Die empfohlenen Einstellungen sind Temperatur 0, ein Generierungsbudget von acht Tokens und deaktiviertes Thinking. Der Hersteller weist ausdrücklich darauf hin, dass der öffentliche Endpunkt diese Einstellungen nicht automatisch einfügt; der Beispiel-Helper liefert sie, während eine direkte Anfrage sie selbst angeben muss. Verwenden Sie diese Einstellungen, um die vorgesehene kurze Klassifikationsantwort ohne Thinking anzufordern.

Das Budget von acht Tokens ist eine beispielhafte Ausgabeeinstellung für diesen Kurzantwort-Workflow, keine allgemeingültige Spezifikation der maximalen Ausgabe. Die eigentlich nützliche Ausgabe bleibt der ausgewählte Buchstabe. Stellt ein Helper anschließend ein Objekt aus Kennung und Schlüssel bereit, unterscheiden Sie dieses interpretierte Objekt vom rohen generierten Inhalt des Modells. Eine Kategorieauswahl aktualisiert für sich genommen kein Ticket, genehmigt keinen Vorgang und führt keine nächste Aktion aus.

Klassifikation, Regeln und kategoriale Bewertungen

Der Hersteller beschreibt Absichtserkennung, Anwendung von Richtlinien, Workflow-Routing, Dokumentkategorien, Stimmungsanalyse und textbasiertes Ja/Nein-Leseverständnis als unterstützte Aufgabenmuster. Eine boolesche Aufgabe kann zwei Optionen bereitstellen, deren Schlüssel wahr und falsch bedeuten; die Anwendung interpretiert die ausgewählte Option entsprechend. Eine Aufgabe zur Stimmungsanalyse kann beschriebene Stufen bereitstellen und den Schlüssel für eine ausgewählte Kategorie zurückgeben. Diese kategoriale Auswahl ist kein wahrscheinlichkeitsgewichteter Durchschnitt über die Stufen, und ein zurückgegebener Buchstabe ist kein numerischer Konfidenzwert.

Bei einer regelbasierten Entscheidung nehmen Sie die relevanten Fakten und die Regel in die Aufgabe auf, statt das Modell die Richtlinie erfinden zu lassen. Ein Briefing für die Dokumentenablage kann beispielsweise die zulässigen Ordner und das jeweils dazugehörige Material beschreiben. Eine Aufgabe zur Forschungstaxonomie kann Titel und Abstract einer Veröffentlichung zusammen mit Themenbeschreibungen bereitstellen. Das Ergebnis ist anhand der vorgegebenen Alternativen zu interpretieren, wobei die ursprünglichen Belege für eine mehrdeutige oder strittige Auswahl erhalten bleiben.

Trainingsumfang und Identität der Edition

Die Modellseite verzeichnet 37.840 Trainingsbeispiele zu Entailment, Ja/Nein-Fragen zu Textpassagen, Banking-Absichten, Nachrichtenkategorien, Stimmungsstufen, programmatischen Richtlinien, Routing und Taxonomie wissenschaftlicher Veröffentlichungen. Der begleitende Leitfaden dokumentiert, wie diese Aufgaben in ein gemeinsames Entscheidungsformat normalisiert werden und ein Klassifikationsmodell per Fine-Tuning trainiert wird. Das erklärt den Schwerpunkt des Profils auf einer begrenzten Antwortmenge; es belegt jedoch nicht, dass jede neue Richtlinie, Domäne oder Taxonomie ohne aufgabenspezifische Bewertung korrekt verarbeitet wird.

Tev1 4B Experimental ist das benannte Together-Modell, nicht das allgemeine Basisprofil Qwen3.5 4B und kein Checkpoint eines anderen Herstellers von Entscheidungsmodellen. Behalten Sie die eigene Ausgabeaufbereitung und den Eingabevertrag der experimentellen Edition bei. Ein verbreiteter Entscheidungs-Anwendungsfall oder eine bekannte Basisfamilie rechtfertigt es nicht, Bildunterstützung, Wahrscheinlichkeitskalibrierung, Tool-Aufrufe oder Grenzen für die Bündelung von Fragen eines anderen Modells zu übernehmen.

Kontext und Prüfung des Ergebnisses

Die Modellspezifikation von Together nennt ein Kontextfenster von 32,8K Tokens sowie Texteingabe und Textausgabe. Der Kontext muss die Anweisungen, den Zustand, die Frage und die Optionen der Klassifikationsanfrage aufnehmen. Bereiten Sie nur die Belege auf, die die Frage benötigt, und behalten Sie dabei die Definitionen bei, die die Alternativen voneinander unterscheiden. Halten Sie den Klassifikations-Prompt kompakt, indem Sie irrelevanten Kontext entfernen und die Optionsdefinitionen beibehalten.

Der Hersteller kennzeichnet dies als experimentelles Release, das zur Bewertung an realen Entscheidungs-Workloads gedacht ist. Prüfen Sie, ob die Rohantwort eine der bereitgestellten Kennungen ist, bevor Sie sie einem semantischen Schlüssel zuordnen, und vergleichen Sie die Klassifikationen mit repräsentativem, gelabeltem Material aus der vorgesehenen Aufgabe. Ein gültiger Buchstabe belegt eine formal korrekte Auswahl, nicht jedoch, dass ihre Interpretation zutrifft. Bewahren Sie Eingabe, Optionen, zurückgegebenen Buchstaben und zugeordneten Schlüssel gemeinsam auf, damit das endgültige Artefakt Routing, Kategorisierung oder Richtlinienprüfung unterstützen kann, ohne zu verlieren, wie die Entscheidung definiert wurde.