Mistral: Mistral Medium 3.5 (batch)

A Mistral Medium 3.5 a Mistral AI 128 milliárd paraméteres, sűrű modellje, amely egyetlen modellsúlykészletben egyesíti az utasításkövetést, a következtetést és a programozást. Szöveget és képeket fogad, és szöveget ad vissza. Gyártója ügynök- és programozási feladatokhoz ajánlja, miközben ugyanaz a modellállapot közvetlen társalgási választ is adhat, vagy összetettebb feladathoz használhatja dokumentált következtetési módját.

Egységes modell és vizuális képességek

A kiadott kártya 128 milliárd sűrű paramétert és 256 ezer tokenes kontextusablakot ad meg. Képfeldolgozó kódolóját különböző képméretek és képarányok kezelésére tanították. A képek programozási vagy dokumentumfeladathoz szolgáltathatnak bizonyítékot: egy felület képernyőképe, egy követelményt kísérő ábra vagy a modell által értelmezendő információt tartalmazó oldal. Az eredmény írott magyarázat, kód vagy strukturált mezők lehetnek, nem generált kép.

A gyártó több tucat nyelv támogatását írja le, köztük az angolét, franciáét, spanyolét, németét, olaszét, portugálét, hollandét, kínaiét, japánét, koreaiét és arabét. A rendszerprompt követését és a JSON-kimenettel járó natív függvényhívást is kiemeli. A közönséget, nyelvet és válaszadási szabályokat a vizsgált anyagtól külön add meg, hogy a forrásdokumentum megfogalmazása a feladat bizonyítéka maradjon.

Következtetési beállítások

A kártya kérésenként két következtetési erőfeszítési értéket dokumentál. A none következtetési mód nélküli, utasításos választ ad; a high bekapcsolja a következtetést, és összetett promptokhoz, valamint ügynökalapú programozáshoz ajánlott. Ez ugyanazon Medium 3.5 modellállapot módválasztása, nem másik modellazonosság.

Nagy következtetési erőfeszítéshez a gyártó 0.7 temperature és 0.95 top-p értéket ajánl. A none értékhez feladattól függően 0.0 és 0.7 közötti temperature értékeket dokumentál, a top-p értékét pedig megadás nélkül vagy 1.0 értéken hagyja. Ezek a kiadás ajánlásai. Először a kimenet célját válaszd ki: tömör mezőkinyerést, magyarázattal kísért kódmódosítást vagy több indokolt döntést igénylő összehasonlítást.

Gyakorlati következtetési feladatban megadhatsz egy követelményt, a megvalósítást és az eltérést előidéző bemenetet. Kérd a modelltől a releváns útvonal azonosítását, az eltérés magyarázatát és a nyilvános interfészt megőrző legkisebb módosítás javaslatát. Az átdolgozott kódot külön kérd a feltételezésektől és a példáktól. A modell javaslatot generál; annak fordításához, futtatásához és alkalmazásához az ügynökhöz kapcsolt fejlesztői környezet szükséges.

Eszközök, dokumentumok és kiszámítható módosítások

A gyártó szolgáltatási kártyája strukturált kimeneteket, előre megadott kimeneteket, dokumentumalapú kérdéseket, válaszprefixeket, kötegelt feldolgozást és ügynökbeszélgetéseket is felsorol. Adatkinyeréshez határozd meg a mezőneveket, típusokat és a hiányzó értékek kezelését. A JSON-mód strukturált megjelenítést ad, míg az egyéni séma konkrétabb formát határoz meg a csatlakoztatott felületen. Csak a rekordot kérd, ha program fogja feldolgozni, és külön magyarázatot, ha embernek kell ellenőriznie az értelmezést.

A dokumentumalapú kérdésmegválaszolás OCR-rel előkészített szöveget és szerkezetet kapcsol össze nyelvimodell-alapú értelmezéssel. Összehasonlításhoz azonosítsd a dokumentumokat és az értékelendő feltételt, majd minden megállapítást a forráshelyével együtt kérj. A hasznos kimenet különválaszthatja a közös követelményeket, az eltéréseket és a nyitott kérdéseket. Közvetlen képi kérdések diagramfeliratra vagy felületi elemre összpontosíthatnak; a címsorok, mértékegységek és képszerepek megőrzése segít a választ a megadott anyaghoz kapcsolni.

Az előre megadott kimeneteket olyan feladatokhoz dokumentálják, ahol a kívánt válasz nagy része már ismert, például kódfájl vagy dokumentum korlátozott módosításokkal történő újragenerálásához. Add meg a meglévő tartalmat és azonosítsd a konkrét változtatást, megőrizve a megtartandó részeket. Ez eltér egy teljesen új eredményanyag kérésétől vagy egy ismert válaszprefix folytatásától. A szolgáltatási funkciók beküldési és formázási lehetőségeket írnak le; nem változtatják meg a modell szöveges és képi bemenetét vagy szöveges kimenetét.

Eszközzel támogatott munkafolyamatban az alkalmazás biztosítja a függvényleírásokat és paramétereket, a modell kiválaszt egy függvényt és előkészíti az argumentumokat, az alkalmazás pedig végrehajtja és visszaadja az eredményt. Számítási eszköz kaphat a megadott képből kiolvasott értékeket, lekérdező eszköz pedig pótolhatja a következő válaszhoz hiányzó információt. Az eszközeredményt tartsd az azt előállító művelethez kapcsolva. Az ügynöki következtetés erre a környezetre támaszkodik; önmagában a szöveggenerálás nem hajt végre külső műveleteket.

Hosszú munkamenetek előkészítése

A 256 ezer tokenes kontextust kapcsolódó forráskódhoz, dokumentumokhoz és beszélgetési előzményekhez használd, és a tényleges cél maradjon egyértelmű. Programozási munkamenetben megtarthatod a modult, annak hívóját és a követelményeket, miközben egy meghatározott változtatást kérsz. Dokumentum-munkamenetben együtt tarthatod a releváns szakaszokat, és rövid táblázatot vagy átdolgozott részletet kérhetsz vissza. A kontextuskapacitás nem határoz meg külön maximális válaszhosszt; a kártya 1024 tokenes generálási példája szemléltetés, nem ez a korlát.

A gyártó jelzi, hogy egy korábban kiadott konfiguráció hosszú kontextust érintő hibát tartalmazott, amelyet kijavítottak, és ez a származtatott modellállapotoknál is releváns. Hosszú munkamenetekhez használt modellsúlyoknál őrizd meg a javított kiadási konfigurációt. A Medium 3.5 hibrid módjait és 128 milliárd paraméteres architektúráját nem szabad a Medium 3.1-hez vagy külön megnevezett draft-head modellállapothoz rendelni pusztán a közös családnév miatt.