OpenAI: GPT-4o-mini (batch)

GPT-4o Mini er OpenAIs lille model i GPT-4o-familien til afgrænsede opgaver. Den modtager tekst og billeder og producerer tekst, herunder Structured Outputs. Modellen er nyttig, når en applikation har brug for et kort svar på en veldefineret anmodning: udtræk af felter, udarbejdelse af et svar ud fra leveret referencemateriale eller udførelse af et afgrænset trin i en større proces.

Til et supportsvar skal du levere den indgående besked, relevante uddrag af retningslinjer og de fakta, der allerede er fastlagt i samtalen. Bed om et kort svarforslag, og angiv, hvilke oplysninger der stadig mangler fra afsenderen. Til dokumentudtræk skal du definere felterne, forklare håndteringen af manglende værdier og bevare en etiket, der forbinder hvert resultat med dets kilde. Samme fremgangsmåde kan give en klassifikation, en redigeret passage eller en forklaring af en lille kodeændring uden at behandle modellen som en erstatning for applikationens omgivende logik.

Leverandøren angiver et kontekstvindue på 128.000 tokens, et maksimalt output på 16.384 tokens og en vidensgrænse den 1. oktober 2023. Kildemateriale, samtale og genereret output optager tilsammen denne kontekst. Hold væsentlige tidligere fakta synlige, og angiv det ønskede endelige resultat. GPT-4o Mini er en separat lille model, ikke en tilstand til at regulere outputlængden i den fulde GPT-4o; dens egen identitet og funktioner skal styre opgaven, også hvor de to modeller deler specifikationer.

Billeder kan levere et skærmbillede, en dokumentside, et fotografi eller et diagram. OpenAIs arbejdsgang til billedforståelse accepterer PNG, JPEG, WebP og ikke-animerede GIF-filer med detaljeniveauet low, high eller auto for denne familie. Højere detaljeniveau følger leverandørens behandling baseret på billedfliser. Hold vigtige etiketter læsbare og oprette, og forklar, hvilken del af billedet der skal indgå i svaret. Fine rumlige relationer, præcise optællinger af genstande, usædvanlige billedprojektioner og visse ikke-latinske tekster er dokumenterede udfordringer. Et afgrænset spørgsmål gør et visuelt svar lettere at sammenholde med det oprindelige kildemateriale. I OpenAIs dokumenterede arbejdsgang til billedforståelse er den samlede anmodnings nyttelast begrænset til 512 MB, og en anmodning kan indeholde op til 1.500 billeder; billederne og teksten skal også passe ind i modellens kontekst.

Leverandørens filarbejdsgang sender udtrukket tekst og sidebilleder fra PDF-dokumenter til modeller med billedforståelse. Andre kontor- og tekstfiler bidrager med udtrukket tekst, så deres indlejrede billeder og diagrammer kræver en PDF-gengivelse, når det visuelle indhold er vigtigt. Berigelse af regneark bruger op til de første 1.000 rækker pr. ark. Hver fil skal være under 50 MB, og den samlede grænse for filerne i en anmodning er 50 MB. Chat Completions accepterer PDF-fildele; den dokumenterede Responses-arbejdsgang accepterer flere filformater. Bevar identifikatorer for sider, rækker eller afsnit i det materiale, du bruger til udtræk.

Streaming returnerer tekst gradvist. Structured Outputs begrænser et færdigt svar til den understøttede delmængde af JSON Schema, mens en anmodning om JSON-tilstand kun sikrer gyldig JSON. Navngiv de påkrævede felter og tilladte værdier, herunder en udtrykkelig repræsentation af manglende kildeoplysninger. Applikationer skal håndtere afvisninger og ufuldstændige svar separat. Et skema kan gøre resultatet egnet til næste trin, men værdierne skal stadig afspejle den faktiske kilde frem for at udfylde et tomt felt med opdigtet indhold.

GPT-4o Mini understøtter funktionskald og leverandørens værktøjsorienterede arbejdsgange med websøgning, filsøgning, kodefortolkning og MCP-forbindelser. Beskriv en tilgængelig funktion, lad applikationen udføre den ønskede handling og returnere sin observation, før modellen udarbejder et opfølgende svar. OpenAI understøtter også et separat billedgenereringsværktøj i den konfigurerede Responses-arbejdsgang. Billeder, der er produceret af dette værktøj, er separate resultater; modellens dokumenterede native output er fortsat tekst. Søgning og værktøjsbrug er konfigurerede aktiviteter og beviser ikke, at alle svar har anvendt aktuelle oplysninger.

Predicted Outputs understøtter gendannelse af et stort set kendt dokument eller en kodefil med en lille ændring. Lever det tidligere indhold og den præcise redigering, og sammenhold derefter resultatet med anmodningen. Denne fremgangsmåde med forudsagt output understøtter kun tekst og kan ikke kombineres med funktionskald; logprobs, max_completion_tokens og flere andre kontroller er også udelukket. En almindelig anmodning med værktøjsbrug er en anden fremgangsmåde, når svaret afhænger af et nyt opslag eller en ny beregning.

OpenAI dokumenterer finjustering af denne model og beskriver brug af en større models output til at lære en mindre GPT-4o Mini-model en specialiseret opgave. Denne destillationsarbejdsgang producerer en tilpasset model; den ændrer ikke identiteten af et almindeligt Mini-svar. Til en almindelig anmodning skal du fastlægge opgaven og outputformatet med tydelige eksempler og derefter bruge en afgrænset opfølgning til at revidere samme resultat. Et nyttigt endeligt resultat bevarer forbindelsen til kildefakta, den tilsigtede læser og det applikationstrin, der skal anvende det.