Mistral: Mistral Medium 3.5 (batch)

Mistral Medium 3.5 ist das dichte Modell von Mistral AI mit 128 Milliarden Parametern, das Anweisungsbefolgung, schlussfolgerndes Denken und Programmierung in einem einzigen Satz von Gewichten verbindet. Es erhält Text und Bilder und gibt Text zurück. Der Hersteller positioniert es für Agenten- und Programmieraufgaben, während derselbe Modellstand eine direkte Gesprächsantwort liefern oder für eine anspruchsvollere Aufgabe seinen dokumentierten Reasoning-Modus verwenden kann.

Einheitliches Modell und visuelle Fähigkeiten

Die veröffentlichte Modellkarte nennt 128 Milliarden dichte Parameter und ein Kontextfenster von 256k. Der Vision-Encoder ist für unterschiedliche Bildgrößen und Seitenverhältnisse trainiert. Bilder können Belege zu einer Programmier- oder Dokumentaufgabe beitragen: ein Screenshot einer Benutzeroberfläche, ein Diagramm zu einer Anforderung oder eine Seite mit Informationen, die das Modell auslegen muss. Das Ergebnis kann eine schriftliche Erklärung, Code oder strukturierte Felder statt eines erzeugten Bildes sein.

Der Hersteller beschreibt mehrsprachige Unterstützung für Dutzende Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Er hebt außerdem die Einhaltung von Systemprompts und native Funktionsaufrufe mit JSON-Ausgabe hervor. Legen Sie Zielgruppe, Sprache und Antwortregeln getrennt vom untersuchten Material fest, damit die Formulierungen eines Quelldokuments Belege für die Aufgabe bleiben.

Reasoning-Einstellungen

Die Modellkarte dokumentiert zwei Werte für den Reasoning-Aufwand pro Anfrage. Der Wert none liefert eine anweisungsbezogene Antwort ohne Reasoning-Modus; high aktiviert Reasoning und wird für komplexe Prompts und agentengestützte Programmierung empfohlen. Das ist eine Moduswahl innerhalb desselben Modellstands Medium 3.5 und keine andere Modellidentität.

Für hohen Reasoning-Aufwand empfiehlt der Hersteller temperature 0.7 und top-p 0.95. Für none dokumentiert er je nach Aufgabe Temperaturen zwischen 0.0 und 0.7 und lässt top-p ungesetzt oder bei 1.0. Das sind Empfehlungen für diese Veröffentlichung. Wählen Sie zuerst den Zweck der Ausgabe: eine knappe Feldextraktion, eine Codeänderung mit Erklärung oder einen Vergleich, der mehrere begründete Entscheidungen erfordert.

Eine praktische Reasoning-Aufgabe kann eine Anforderung, die Implementierung und die Eingabe liefern, die eine Abweichung offenlegt. Bitten Sie das Modell, den relevanten Pfad zu identifizieren, die Unstimmigkeit zu erklären und die kleinste Änderung vorzuschlagen, die die öffentliche Schnittstelle bewahrt. Verlangen Sie den überarbeiteten Code getrennt von Annahmen und Beispielen. Das Modell erzeugt einen Vorschlag; Kompilieren, Ausführen und Anwenden erfordern die mit dem Agenten verbundene Entwicklungsumgebung.

Werkzeuge, Dokumente und vorhersehbare Änderungen

Die Dienstbeschreibung des Herstellers nennt außerdem strukturierte Ausgaben, vorhergesagte Ausgaben, Dokumentfragen, Antwortpräfixe, Stapelverarbeitung und Agentengespräche. Definieren Sie für die Extraktion Feldnamen, Typen und den Umgang mit fehlenden Werten. Der JSON-Modus liefert eine strukturierte Darstellung, während ein benutzerdefiniertes Schema eine spezifischere Form in der verbundenen Schnittstelle definiert. Verlangen Sie nur den Datensatz, wenn ein Programm ihn parsen wird, und eine gesonderte Erklärung, wenn eine Person die Auslegung prüfen muss.

Die Beantwortung von Dokumentfragen verbindet per OCR aufbereiteten Text und dessen Struktur mit dem Verständnis des Sprachmodells. Benennen Sie für einen Vergleich die Dokumente und die zu bewertende Bedingung und verlangen Sie dann jede Feststellung mit ihrer Quellstelle. Eine nützliche Ausgabe kann gemeinsame Anforderungen, Widersprüche und offene Fragen trennen. Direkte Bildfragen können sich auf eine Diagrammbeschriftung oder ein Oberflächenelement konzentrieren; das Bewahren von Überschriften, Einheiten und Bildrollen hilft dabei, die Antwort mit dem bereitgestellten Material verbunden zu halten.

Vorhergesagte Ausgaben sind für Aufgaben dokumentiert, bei denen ein großer Teil der gewünschten Antwort bereits bekannt ist, etwa die erneute Erzeugung einer Codedatei oder eines Dokuments mit begrenzten Änderungen. Stellen Sie den vorhandenen Inhalt bereit und benennen Sie die konkrete Änderung, wobei die zu erhaltenden Teile bewahrt werden. Das unterscheidet sich von der Aufforderung, ein vollständig neues Artefakt zu erstellen oder von einem bekannten Antwortpräfix aus fortzusetzen. Die Dienstfunktionen beschreiben Optionen für Übermittlung und Formatierung; sie ändern weder die Text- und Bildeingabe noch die Textausgabe des Modells.

In einem werkzeuggestützten Ablauf stellt die Anwendung Funktionsbeschreibungen und Parameter bereit, das Modell wählt eine Funktion und bereitet Argumente vor, und die Anwendung führt sie aus und liefert das Ergebnis zurück. Ein Berechnungswerkzeug kann Werte erhalten, die aus einem bereitgestellten Bild gelesen wurden, während ein Abfragewerkzeug die fehlenden Informationen für die nächste Antwort liefern kann. Ordnen Sie das Werkzeugergebnis der Operation zu, die es erzeugt hat. Agentisches Reasoning stützt sich auf diese Umgebung; die Textgenerierung allein führt keine externen Aktionen aus.

Lange Sitzungen vorbereiten

Nutzen Sie den Kontext von 256k für zusammengehörigen Quellcode, Dokumente und Gesprächsverlauf und halten Sie das eigentliche Ziel ausdrücklich fest. Eine Programmiersitzung kann das Modul, seinen Aufrufer und die Anforderungen bewahren und dabei eine klar definierte Änderung verlangen. Eine Dokumentsitzung kann die relevanten Abschnitte zusammenhalten und zugleich eine kurze Tabelle oder einen überarbeiteten Abschnitt zurückgeben. Die Kontextkapazität legt keine gesonderte maximale Antwortlänge fest; das Generierungsbeispiel mit 1.024 Tokens in der Modellkarte dient der Veranschaulichung und ist nicht diese Grenze.

Der Hersteller weist darauf hin, dass eine ältere veröffentlichte Konfiguration einen Fehler für lange Kontexte enthielt und dieser behoben wurde, auch mit Bedeutung für abgeleitete Modellstände. Bewahren Sie die korrigierte Veröffentlichungskonfiguration, wenn Sie die Gewichte für lange Sitzungen verwenden. Die hybriden Modi und die Architektur mit 128 Milliarden Parametern von Medium 3.5 sollten nicht Medium 3.1 oder einem gesondert benannten Draft-Head-Modellstand zugeordnet werden, nur weil ihre Namen dieselbe Familie nennen.