OpenAI: GPT-4o-mini (batch)

GPT-4o Mini ist OpenAIs kleines Modell der GPT-4o-Familie für klar umrissene Aufgaben. Es nimmt Text und Bilder entgegen und erzeugt Text, einschliesslich Structured Outputs. Es eignet sich, wenn eine Anwendung eine knappe Antwort auf eine genau beschriebene Anfrage benötigt: Felder extrahieren, eine Antwort anhand bereitgestellten Referenzmaterials entwickeln oder einen begrenzten Schritt in einem grösseren Prozess ausführen.

Stellen Sie für eine Supportantwort die eingegangene Nachricht, relevante Richtlinienauszüge und die im Gespräch bereits festgestellten Fakten bereit. Verlangen Sie einen kurzen Antwortvorschlag und benennen Sie Informationen, die noch vom Absender benötigt werden. Definieren Sie für die Dokumentextraktion die Felder und den Umgang mit fehlenden Werten. Erhalten Sie eine Kennzeichnung, die jedes Ergebnis mit seiner Quelle verbindet. Auf dieselbe Weise können eine Klassifikation, eine überarbeitete Passage oder die Erklärung einer kleinen Codeänderung entstehen, ohne das Modell als Ersatz für die umgebende Anwendungslogik zu behandeln.

Der Hersteller nennt ein Kontextfenster von 128’000 Token, eine maximale Ausgabe von 16’384 Token und einen Wissensstand bis zum 1. Oktober 2023. Ausgangsmaterial, Gespräch und erzeugte Ausgabe belegen diesen Kontext gemeinsam. Halten Sie wichtige frühere Fakten sichtbar und nennen Sie das erforderliche fertige Ergebnis. GPT-4o Mini ist ein eigenständiges kleines Modell, kein Modus zur Ausgabelängensteuerung des vollständigen GPT-4o. Seine eigene Identität und seine Fähigkeiten sollten die Aufgabe bestimmen, auch wenn beide Modelle bestimmte Spezifikationen teilen.

Bilder können einen Screenshot, eine Dokumentseite, ein Foto oder ein Diagramm liefern. OpenAIs Ablauf zur Bildverarbeitung akzeptiert PNG, JPEG, WebP und nicht animierte GIF mit den Detailstufen low, high oder auto für diese Familie. Höhere Detailstufen verwenden die kachelbasierte Bildverarbeitung des Herstellers. Halten Sie wichtige Beschriftungen lesbar und aufrecht und erklären Sie, welcher Bildbereich in die Antwort einfliessen soll. Feine räumliche Beziehungen, exakte Objektzahlen, ungewöhnliche Bildprojektionen und einige nicht lateinische Texte sind dokumentierte Schwierigkeiten. Eine gezielte Frage erleichtert den Vergleich einer visuellen Antwort mit den ursprünglichen Belegen. In OpenAIs dokumentiertem Ablauf zur Bildverarbeitung ist die gesamte Anfragegrösse auf 512 MB begrenzt; eine Anfrage kann bis zu 1’500 Bilder enthalten. Bilder und Text müssen ausserdem in den Kontext des Modells passen.

Der Dateiablauf des Herstellers übergibt extrahierten Text und Seitenbilder aus PDFs an bildfähige Modelle. Andere Office- und Textdateien liefern extrahierten Text. Ihre eingebetteten Bilder und Diagramme benötigen daher eine PDF-Darstellung, wenn diese visuellen Inhalte wichtig sind. Bei Tabellen werden bis zu den ersten 1’000 Zeilen pro Blatt ergänzend aufbereitet. Jede Datei muss kleiner als 50 MB sein, zusammen dürfen die Dateien einer Anfrage 50 MB umfassen. Chat Completions akzeptiert PDF-Dateiteile; der dokumentierte Responses-Ablauf akzeptiert mehr Dateiformate. Erhalten Sie Seiten-, Zeilen- oder Abschnittskennungen im Material für die Extraktion.

Streaming gibt Text schrittweise zurück. Structured Outputs beschränkt eine fertige Antwort auf die unterstützte Teilmenge von JSON Schema, während eine Anfrage im JSON-Modus lediglich gültiges JSON sicherstellt. Benennen Sie die erforderlichen Felder und zulässigen Werte einschliesslich einer ausdrücklichen Darstellung fehlender Belege. Anwendungen müssen Ablehnungen und unvollständige Antworten separat behandeln. Ein Schema kann das Ergebnis für den nächsten Schritt nutzbar machen. Die Werte müssen dennoch die tatsächliche Quelle wiedergeben, statt ein leeres Feld durch erfundene Inhalte zu ergänzen.

GPT-4o Mini unterstützt Funktionsaufrufe und die werkzeugorientierten Abläufe des Herstellers mit Websuche, Dateisuche, Codeausführung und MCP-Verbindungen. Beschreiben Sie eine verfügbare Funktion, lassen Sie die Anwendung die angeforderte Operation ausführen und deren Beobachtung zurückgeben, bevor das Modell eine Folgeantwort entwickelt. OpenAI unterstützt im konfigurierten Responses-Ablauf ausserdem ein separates Werkzeug zur Bilderzeugung. Damit erzeugte Bilder sind eigene Artefakte; die dokumentierte native Ausgabe des Modells bleibt Text. Suche und Werkzeugnutzung sind konfigurierte Aktivitäten, kein Beleg dafür, dass jede Antwort aktuelle Informationen nachgeschlagen hat.

Predicted Outputs unterstützt die Neuerzeugung eines weitgehend bekannten Dokuments oder einer Codedatei mit einer kleinen Änderung. Stellen Sie den bisherigen Inhalt und die präzise Bearbeitung bereit und vergleichen Sie das Ergebnis mit dieser Anfrage. Der Vorhersagepfad unterstützt nur Text und lässt sich nicht mit Funktionsaufrufen kombinieren. logprobs, max_completion_tokens und mehrere weitere Steuerungen sind ebenfalls ausgeschlossen. Eine gewöhnliche Anfrage mit Werkzeugnutzung ist ein anderer Pfad, wenn die Antwort von einer neuen Abfrage oder Berechnung abhängt.

OpenAI dokumentiert Fine-Tuning für dieses Modell und beschreibt, wie Ausgaben eines grösseren Modells einem kleineren GPT-4o Mini-Modell eine spezielle Aufgabe vermitteln können. Dieser Destillationsablauf erzeugt ein angepasstes Modell; er ändert nicht die Identität einer gewöhnlichen Mini-Antwort. Definieren Sie für eine gewöhnliche Anfrage Aufgabe und Ausgabeformat anhand klarer Beispiele und überarbeiten Sie dasselbe Ergebnis anschliessend mit einer gezielten Folgeanfrage. Ein brauchbares fertiges Ergebnis bleibt mit den Quellenfakten, der vorgesehenen Leserschaft und dem Anwendungsschritt verbunden, der es verarbeitet.