OpenAI: GPT-4o-mini (batch)

A GPT-4o Mini az OpenAI GPT-4o családjába tartozó kis modell célzott munkához. Szöveget és képeket fogad, és szöveget állít elő, beleértve a Structured Outputs szerinti kimenetet. Szerepe akkor hasznos, ha az alkalmazás tömör választ igényel egy pontosan meghatározott kérésre: mezők kinyerését, a megadott referenciaanyagból válasz kidolgozását vagy egy nagyobb folyamat körülhatárolt lépésének végrehajtását.

Támogatási válaszhoz adja meg a beérkező üzenetet, a releváns szabályzatrészleteket és a beszélgetésben már megállapított tényeket. Kérjen rövid válaszjavaslatot, és azonosítsa a feladótól még szükséges információt. Dokumentumokból történő adatkinyerésnél határozza meg a mezőket, írja le a hiányzó értékek kezelését, és őrizzen meg minden eredményt a forrásához kötő jelölést. Ugyanez a megközelítés osztályozást, szerkesztett szövegrészt vagy kis kódmódosítás magyarázatát is adhatja anélkül, hogy a modell az alkalmazás környező logikájának helyettesítőjévé válna.

A gyártó 128 000 tokenes kontextusablakot, legfeljebb 16 384 tokenes kimenetet és 2023. október 1-jei tudáshatárt sorol fel. A forrásanyag, a beszélgetés és a generált kimenet együtt foglalja el ezt a kontextust. A fontos korábbi tények maradjanak láthatók, és nevezze meg a szükséges végső eredményt. A GPT-4o Mini különálló kis modell, nem a teljes GPT-4o kimeneti hosszának beállítása; a feladatot saját identitása és képességei szerint kell meghatározni akkor is, ha a két modell egyes specifikációi megegyeznek.

A képek képernyőképet, dokumentumoldalt, fényképet vagy ábrát adhatnak. Az OpenAI képi munkafolyamata PNG, JPEG, WebP és nem animált GIF formátumot fogad, e családnál low, high vagy auto részletességgel. A nagyobb részletesség a gyártó képrészletekre bontott feldolgozását követi. A fontos feliratok maradjanak olvashatók és helyes tájolásúak, és magyarázza el, a kép mely része segítse a választ. A finom térbeli összefüggések, a pontos objektumszámlálás, a szokatlan képi vetületek és egyes nem latin szövegek dokumentált nehézségek. Egy célzott kérdés megkönnyíti a vizuális válasz összevetését az eredeti bizonyítékkal. Az OpenAI dokumentált képi munkafolyamatában a kérés teljes adatmennyiségének korlátja 512 MB, és egy kérés legfeljebb 1 500 képet tartalmazhat; a képeknek és a szövegnek a modell kontextusába is bele kell férniük.

A gyártó fájlmunkafolyamata a PDF-ekből kinyert szöveget és az oldalak képeit adja át a képeket is értelmező modelleknek. Más irodai és szövegfájlok kinyert szöveget adnak, ezért a beágyazott képeikhez és grafikonjaikhoz PDF-reprezentáció szükséges, ha fontosak ezek a vizuális elemek. A táblázatok kiegészítő feldolgozása munkalaponként legfeljebb az első 1 000 sort használja. Minden fájlnak 50 MB alatt kell lennie, egy kérésben összesen 50 MB-os kerettel. A Chat Completions PDF-fájlrészeket fogad; a dokumentált Responses munkafolyamat fájlformátumok szélesebb körét fogadja. Az adatkinyeréshez használt anyagban őrizze meg az oldal-, sor- vagy szakaszazonosítókat.

A streamelés növekményenként ad vissza szöveget. A Structured Outputs a befejezett választ a JSON Schema támogatott részhalmazára korlátozza, míg a JSON mód kérése csak érvényes JSON-t biztosít. Nevezze meg a szükséges mezőket és engedélyezett értékeket, beleértve a hiányzó bizonyíték kifejezett megjelenítését. Az alkalmazásoknak külön kell kezelniük a visszautasításokat és a hiányos válaszokat. Egy séma alkalmassá teheti az eredményt a következő szakaszra, de az értékeknek továbbra is a tényleges forrást kell tükrözniük, nem egy üres mező kitalált kitöltését.

A GPT-4o Mini függvényhívást és a gyártó webes keresést, fájlkeresést, kódértelmezést és MCP-kapcsolatokat használó eszközalapú munkafolyamatait támogatja. Írjon le egy elérhető függvényt, az alkalmazás hajtsa végre a kért műveletet, és adja vissza a megfigyelést, mielőtt a modell további választ dolgozna ki. Az OpenAI külön képgeneráló eszközt is támogat a konfigurált Responses munkafolyamatban. Az ilyen eszközzel létrehozott képek külön eredmények; a modell saját dokumentált kimenete továbbra is szöveg. A keresés és eszközhasználat konfigurált tevékenység, nem bizonyíték arra, hogy minden válasz aktuális információt keresett.

A Predicted Outputs nagyrészt ismert dokumentum vagy kódfájl kis változtatással történő újragenerálását támogatja. Adja meg a korábbi tartalmat és a pontos módosítást, majd az eredményt vesse össze ezzel a kéréssel. A predikciós út csak szöveget támogat, és nem kombinálható függvényhívással; a logprobs, max_completion_tokens és több más vezérlő szintén kizárt. A szokásos, eszközt használó kérés más út, ha a válasz friss lekérdezéstől vagy számítástól függ.

Az OpenAI finomhangolást dokumentál ehhez a modellhez, és leírja egy nagyobb modell kimeneteinek használatát egy kisebb GPT-4o Mini modell specializált feladatra tanításához. Ez a tudásdesztillációs munkafolyamat testreszabott modellt hoz létre; nem változtatja meg egy szokásos Mini válasz identitását. Szokásos kérésnél világos példákkal határozza meg a feladatot és a kimenet formátumát, majd célzott következő üzenettel dolgozza át ugyanazt az eredményt. A hasznos végső eredmény kapcsolatban marad a forrás tényeivel, a célzott olvasóval és az azt felhasználó alkalmazási lépéssel.