Mistral: Mistral Small 4 (batch)

Mistral Small 4 yhdistää yleisen ohjeiden noudattamisen, päättelyn ja ohjelmoinnin yhteen multimodaaliseen malliin. Valmistaja kuvaa sen yhdistävän Instruct-, Magistral-päättely- ja Devstral-ohjelmointiperheet. Se vastaanottaa tekstiä ja kuvia sekä palauttaa tekstiä; funktiokutsut ja JSON-tuloste ovat käytettävissä työkaluavusteisiin sovelluksiin.

Arkkitehtuuri ja keskeiset ominaisuudet

Julkaisussa on yhteensä 119 miljardia parametria, ja se aktivoi 6,5 miljardia tokenia kohti. Sen mixture-of-experts-arkkitehtuurissa on 128 asiantuntijaa, joista 4 on aktiivisia, ja valmistaja dokumentoi 256 tuhannen tokenin konteksti-ikkunan. Aktiivisten parametrien ja asiantuntijoiden määrät kuvaavat mallin rakennetta; ne eroavat yhteen tehtävään sisältyvän teksti- tai kuvasisällön määrästä.

Malli tarjoaa ohje- ja päättelytoiminnallisuuden samoissa mallipainoissa. Valmistaja mainitsee myös näön, järjestelmäkehotteiden noudattamisen ja monikielisen tuen kymmenille kielille, kuten englannille, ranskalle, espanjalle, saksalle, italialle, portugalille, hollannille, kiinalle, japanille, korealle ja arabialle. Tekstiohje voi siten kysyä kuvasta tai yhdistää kirjallisen vaatimuksen näkyvään näyttöön, ja vastaus palautetaan tekstinä.

Visuaalinen tehtävä voi antaa asiakirjasivun ja pyytää nimettyyn ehtoon liittyvät arvot. Pidä tunnisteet ja yksiköt luettavina ja kerro, tuleeko tuloksen säilyttää alkuperäinen sanamuoto, tiivistää se vai verrata sitä toiseen lähteeseen. Käyttöliittymätehtävä voi yhdistää kuvakaappauksen käyttäjän tavoitteeseen ja pyytää olennaista näkyvää ohjainta sekä ehdotettua seuraavaa vaihetta tukevaa näyttöä.

Ohje- tai päättelytilan valinta

Julkaistu kortti dokumentoi reasoning effort -arvon none välittömään ohjetyyppiseen vastaukseen ja arvon high päättelyyn sekä suosittelee high-arvoa monimutkaisiin kehotteisiin. Valinta tehdään pyyntökohtaisesti saman Small 4 -mallin sisällä. Tavallisella luokittelulla tai lyhyellä uudelleenkirjoituksella voi olla erilainen vastaussopimus kuin matemaattisella, visuaalisella tai ohjelmointiongelmalla, joka tarvitsee perusteellisen selityksen.

Valmistaja suosittelee korkealle päättelypanokselle temperature-arvoa 0.7. Arvolle none se määrittää tehtävän mukaan temperature-arvot 0.0–0.7. Asetukset kuvaavat dokumentoituja tiloja eivätkä tee päättelypanoksesta oikean tuloksen takuuta. Määritä oletukset, tulosmuoto ja olennainen lähdeaineisto ennen tehtävän tarvitseman päättelyn määrän valintaa.

Anna ratkaistavaan ongelmaan koko ehto ja pyydä olennaiset perustellut vaiheet sekä lopullinen lauseke. Anna kooditehtävään vaatimus, kohdefunktio ja konkreettinen syöte; pyydä toteutusehdotus erillään selityksestä ja esimerkeistä. Valmistajan käyttöesittelyt sisältävät ohjeiden noudattamista, kuvaan sovellettua laskentatyökalua ja visuaalista päättelyä, ja ne havainnollistavat tekstin ja kuvanäytön käyttöä näissä erilaisissa tehtävissä.

Ohjelmointi, asiakirjat ja työkalut

Malli on suunnattu koodikannan tutkimiseen ja ohjelmistokehitysagenteille, yleisavustajille, asiakirjojen ymmärtämiseen ja tutkimukseen. Ohjelmointiagentin pyyntö voi nimetä muutettavan moduulin, säilytettävän rajapinnan ja tavoitellun toiminnan. Anna olennainen lähdekoodi ja virhenäyttö. Malli voi ehdottaa seuraavaa toimintoa tai koodimuutosta, kun taas sovellus tarjoaa koodivarastopääsyn, suorituksen ja palautteen.

Määritä asiakirjapoimintaan vaaditut kentät ja puuttuvien tietojen esitystapa. Hyödyllinen tietue voi erottaa asiakirjatunnisteen, lähteen lausuman, tulkitun vaatimuksen ja avoimen kysymyksen. Valmistajan palvelukortti mainitsee mukautetun rakenteisen tulosteen ja asiakirjakysymyksiin vastaamisen; jälkimmäinen käyttää asiakirjankäsittelyä ja OCR:ää tekstin ja rakenteen valmisteluun ennen kielimallin analyysia. Suoran kuvakysymyksen ja OCR-avusteisen asiakirjatyönkulun tulee säilyttää omat syötteen valmistelutapansa.

Funktiokutsut vaativat selkeästi kuvatut työkalut. Malli valitsee funktion ja luo argumentit; sovellus suorittaa toiminnon ja palauttaa tuloksen seuraavaa vastausta varten. Sama logiikka pätee hakuun, laskentaan ja ohjelmointitoimintoon. JSON-muotoilu jäsentää vastauksen, kun taas työkalukutsu pyytää ulkoista toimenpidettä; niitä ei pidä käsitellä keskenään vaihdettavina tuloksina.

Palvelukortissa mainitaan myös ennakoidut tulosteet, vastauksen alkukatkelmat, eräkäsittely ja agenttikeskustelut. Ennakoidut tulosteet auttavat, kun asiakirja tai kooditiedosto on tuotettava uudelleen rajatulla muutoksella ja muu sisältö tunnetaan. Määritä muokkaus ja säilytettävä aineisto. Annetusta alkukatkelmasta jatkaminen käyttää vastauksen tunnettua alkua, kun taas eräkäsittely koskee työn lähettämistä eikä uutta päättelytilaa.

Kontekstin ja version rajat

Suunnittele kirjallinen tehtävä, visuaalinen aineisto, keskustelu ja haluttu vastaus dokumentoidun 256 tuhannen tokenin kontekstin mukaan. Julkaistu käyttöesimerkki määrittää 262 144 tokenin kontekstin, kun taas sen 1 024 tokenin generointiesimerkki ei ole erillinen tulosteen enimmäiskapasiteetti. Luetut lähteet eivät anna erillistä ehdotonta vastauksen pituusrajaa valitun tehtäväpituuden tilalle.

Small 4:llä on oma 119 miljardin parametrin mixture-of-experts-arkkitehtuurinsa ja hybriditilansa. Sen ei tule periä Medium 3.5:n tiheää 128 miljardin parametrin arkkitehtuuria tai Ministral 3:n erillisiä Instruct- ja Reasoning-versioita. Valmistaja julkaisee myös erillisiä kvantisoituja ja spekulatiivisen dekoodauksen artefakteja; ne ovat erillisiä käyttöönottoartefakteja eivätkä erilaisia sisältömodaliteetteja. Säilytä nimetty Small 4 -julkaisu ja varsinaiseen selitykseen, rakenteiseen tietueeseen tai kooditulokseen pyydetty tila.