OpenAI: GPT-4o-mini (batch)

GPT-4o Mini è il modello piccolo di OpenAI della famiglia GPT-4o per il lavoro mirato. Accetta testo e immagini e produce testo, compresi Structured Outputs. Il suo ruolo è utile quando un’applicazione richiede una risposta concisa a una richiesta ben specificata: estrarre campi, sviluppare una risposta dal materiale di riferimento fornito o svolgere un passaggio delimitato in un processo più ampio.

Per una risposta di assistenza, fornite il messaggio ricevuto, i passaggi pertinenti delle regole applicabili e i fatti già accertati nella conversazione. Chiedete una risposta proposta breve e individuate le informazioni ancora necessarie dal mittente. Per l’estrazione da documenti, definite i campi, spiegate come gestire i valori mancanti e conservate un’etichetta che colleghi ogni risultato alla fonte. Lo stesso approccio può produrre una classificazione, un passaggio modificato o una spiegazione di una piccola modifica al codice, senza trattare il modello come un sostituto della logica circostante dell’applicazione.

Il produttore indica una finestra di contesto di 128 000 token, un output massimo di 16 384 token e conoscenze aggiornate al 1 ottobre 2023. Materiale di origine, conversazione e output generato occupano insieme quel contesto. Mantenete visibili i fatti precedenti significativi e indicate il risultato finale richiesto. GPT-4o Mini è un modello piccolo distinto, non una modalità di lunghezza dell’output di GPT-4o completo; la sua identità e le sue capacità devono guidare l’attività anche dove i due modelli condividono specifiche.

Le immagini possono fornire una schermata, una pagina di documento, una fotografia o uno schema. Il processo di visione di OpenAI accetta PNG, JPEG, WebP e GIF non animate, con dettaglio low, high o auto per questa famiglia. Un dettaglio maggiore segue l’elaborazione per riquadri del produttore. Mantenete le etichette importanti leggibili e orientate correttamente e spiegate quale parte dell’immagine deve contribuire alla risposta. Relazioni spaziali fini, conteggi esatti degli oggetti, proiezioni insolite delle immagini e alcuni testi non latini sono difficoltà documentate. Una domanda mirata rende una risposta visiva più facile da confrontare con gli elementi originali. Nel processo di visione documentato di OpenAI, il contenuto complessivo della richiesta è limitato a 512 MB e una richiesta può includere fino a 1 500 immagini; anche immagini e testo devono rientrare nel contesto del modello.

Il processo del produttore per i file trasmette testo estratto e immagini delle pagine dei PDF ai modelli capaci di visione. Altri file da ufficio e di testo contribuiscono con testo estratto, per cui le loro immagini e i grafici incorporati richiedono una rappresentazione PDF quando quegli elementi visivi sono importanti. L’integrazione dei fogli di calcolo usa fino alle prime 1 000 righe per foglio. Ogni file deve essere inferiore a 50 MB, con un limite complessivo di 50 MB per richiesta. Chat Completions accetta parti di file PDF; il processo Responses documentato accetta un insieme più ampio di formati di file. Conservate gli identificatori di pagina, riga o sezione nel materiale usato per l’estrazione.

Lo streaming restituisce il testo in modo incrementale. Structured Outputs vincola una risposta completata al sottoinsieme supportato di JSON Schema, mentre una richiesta di modalità JSON garantisce soltanto JSON valido. Indicate i campi richiesti e i valori ammessi, compresa una rappresentazione esplicita degli elementi mancanti. Le applicazioni devono gestire separatamente rifiuti e risposte incomplete. Uno schema può rendere il risultato adatto alla fase successiva, ma i valori devono comunque riflettere la fonte effettiva, non un riempimento inventato di un campo vuoto.

GPT-4o Mini supporta chiamate di funzione e i processi del produttore orientati agli strumenti, con ricerca sul web, ricerca nei file, interpretazione del codice e connessioni MCP. Descrivete una funzione disponibile, lasciate che l’applicazione esegua l’operazione richiesta e restituisca la propria osservazione prima che il modello sviluppi una risposta successiva. OpenAI supporta anche uno strumento separato di generazione di immagini nel processo Responses configurato. Le immagini prodotte da quello strumento sono risultati distinti; l’output nativo documentato del modello resta testo. Ricerca e uso degli strumenti sono attività configurate, non la prova che ogni risposta abbia consultato informazioni attuali.

Predicted Outputs supporta la rigenerazione di un documento o file di codice in gran parte noto con una piccola modifica. Fornite il contenuto precedente e la modifica precisa, poi confrontate il risultato con quella richiesta. Il percorso di previsione supporta soltanto testo e non si combina con chiamate di funzione; sono esclusi anche logprobs, max_completion_tokens e diversi altri controlli. Una richiesta ordinaria che usa strumenti è un percorso diverso quando la risposta dipende da una ricerca o un calcolo recente.

OpenAI documenta il fine-tuning di questo modello e descrive l’uso degli output di un modello più grande per insegnare un’attività specializzata a un modello GPT-4o Mini più piccolo. Questo processo di distillazione produce un modello personalizzato; non cambia l’identità di una risposta Mini normale. Per una richiesta ordinaria, definite l’attività e il formato dell’output con esempi chiari, poi usate un messaggio successivo mirato per rivedere lo stesso risultato. Un risultato finale utile resta collegato ai fatti di origine, al lettore previsto e alla fase applicativa che lo utilizza.