Mistral: Ministral 3 8B 2512 (batch)

A Ministral 3 8B Instruct 2512 a Mistral AI Ministral 3 családjának közepes méretű, utasításkövetésre finomhangolt modellje. A kiadott modellállapotot FP8 pontossággal utótanították társalgási és utasításos feladatokra. Nyelvi komponenst és képfeldolgozó kódolót egyesít, szöveget és képeket fogad, és képi vagy hanganyag helyett szöveget ad vissza.

Architektúra és fő funkciók

A gyártó 8,4 milliárd paraméteres nyelvi modellt és 0,4 milliárd paraméteres képfeldolgozó kódolót sorol fel. Kontextusablakát 256 ezer tokenesként írja le, a közzétett használati útmutató alapértelmezett beállított hosszúsága pedig 262 144. Ezek e 8B méretű kiadást írják le; a kisebb 3B és a nagyobb 14B családtag saját komponensméretekkel és konfigurációkkal rendelkezik.

A látás az írott beszélgetésen túlra bővíti a modell bemenetét. Dokumentumképhez kiválasztott mezőre, bekezdésre vagy látható kapcsolatra vonatkozó kérdés társítható. Képernyőképhez a felhasználó célja és a releváns vezérlő azonosítására irányuló kérés adható. Ha a válasz vizuális részlettől függ, minden következtetéshez kérd az alátámasztó megfigyelést, és őrizd meg a kivágás értelmezéséhez szükséges címsorokat, címkéket és mértékegységeket.

A kártya több tucat nyelven ír le többnyelvű munkát, köztük angolul, franciául, spanyolul, németül, olaszul, portugálul, hollandul, kínaiul, japánul, koreaiul és arabul. Rendszerutasítás-követést, natív függvényhívást és JSON-kimenetet is azonosít. A célnyelvet, szerepet és kimeneti követelményeket kifejezetten határozd meg, ahelyett, hogy a modellre bíznád a kívánt eredményanyag kikövetkeztetését egy nagy bemenetből.

Dokumentum-, társalgási és ügynökfeladatok

A gyártó felhasználási esetei között társalgási felületek, mindennapi asszisztensek, kép- és dokumentumleírás, fordítás, tartalomgenerálás és speciális ügynökök szerepelnek. Dokumentumasszisztenshez add meg az oldalt, és határozd meg a visszaadandó információt. Adatkinyerési kérésben megnevezheted a mezőcímkéket, elvárt típusokat és a hiányzó értékek kezelését. Hasznos válasz tartalmazhat dokumentumazonosítót, kinyert értéket és a látható forráshoz kapcsolódó rövid magyarázatot.

Folyamatban lévő beszélgetésnél tartsd meg a releváns korábbi választ, és tegyél fel célzott további kérdést. A felhasználó először dokumentumösszefoglalót kérhet, majd megkérdezheti, melyik állítás támaszt alá egy következtetést. Ez az általános áttekintésről forráshoz kötött magyarázatra változtatja a kívánt kimenetet, miközben megőrzi az eredeti anyagot és a párbeszéd célját.

Többnyelvű szerkesztéshez add meg az eredeti részletet, a célolvasót és a terminológiai listát. Kérj a neveket, feltételeket és mértékegységeket megőrző átdolgozott változatot, szükség esetén a módosítások rövid magyarázatával. Tartalomgeneráláshoz határozd meg a közönséget és a megjelenítendő tényeket, mielőtt rövid tervezetet vagy alternatív megfogalmazást kérnél.

Ügynökfeladatban az alkalmazás biztosítja az eszközöket és paramétereiket. A modell kiválaszthat egy függvényt és előkészítheti argumentumait, az alkalmazás pedig végrehajtja és visszaadja az eredményt. A kártya függvénypéldája képi kérdést kapcsol össze számítási eszközzel. Az eszközeredményt tartsd külön a javasolt hívástól, hogy a következő írott válasz a művelet által ténylegesen visszaadott információt használja.

Ajánlott előkészítés és beállítások

A gyártó a környezetet, a felhasználási esetet és az eszközök használatát leíró rendszerutasítást ajánl. Az eszközkészlet legyen jól meghatározott, és korlátozódjon a feladathoz szükséges minimumra. Egy kis lekérdezési munkafolyamat az aktuális kérdéshez releváns függvényeket kínálhat egyértelműen megnevezett kötelező argumentumokkal, sok, egymástól független művelet bemutatása helyett.

Mindennapi és éles jellegű használathoz a kártya 0.1 alatti temperature értéket ajánl, kreatív felfedezéshez pedig magasabb értékek is rendelkezésre állnak. Ezt az utasításos munkafolyamat ajánlásaként kezeld, nem külön következtetésimód-vezérlőként. A családnak külön Base, Instruct és Reasoning modellállapotai vannak; ez a bejegyzés az Instruct 2512 kiadás, nem az azonos méretű külön Reasoning-kiadás.

Képeknél a gyártó 1:1-hez közeli képarányokat, valamint a nagyon keskeny vagy nagyon széles bemenetek kerülését ajánlja. Szükség szerint vágd a képet, a kérdéshez szükséges címkéket és kontextust megtartva. Ha egy oldal több, egymástól független területet tartalmaz, azonosítsd a vizsgálandó részt és a visszaadandó eredményt. Egy olvasható, célzott kép hasznosabb, mint arra kérni a modellt, hogy találja ki, egy átfogó oldal mely apró részlete számít.

Kontextus és kiadási határok

A szöveget, képeket, beszélgetést és kívánt választ a beállított kontextushoz igazítva tervezd meg. A használati útmutató kifejezetten megengedi a beállított modellhossz csökkentését, ha kevesebb kontextusra van szükség, így a teljes ablak nem utasítás arra, hogy minden kérést minden elérhető anyaggal tölts meg. A kártya 512 tokenes generálási példája csak példabeállítás, és a feldolgozott források nem állapítanak meg külön, szigorú maximális válaszhosszt.

Az FP8 Instruct modellállapot, az előtanított Base-kiadás és a Reasoning-kiadás külön kiadások. A gyártó specializálást és finomhangolást is leír felhasználási esetként. A beszélgetés előkészítésekor őrizd meg a megnevezett modellállapotot és tokenizerét, és a szöveggenerálást tartsd külön a kódtárhoz való hozzáféréstől, a függvényvégrehajtástól vagy a környező alkalmazás által biztosított más műveletektől.