Mistral: Mistral Small 4 (batch)

Mistral Small 4 kombinerar allmän instruktionsföljning, resonemang och kodning i en enda multimodal modell. Tillverkaren beskriver den som en förening av familjerna Instruct, Magistral för resonemang och Devstral för kodning. Den tar emot text och bilder och returnerar text, med funktionsanrop och JSON-utdata för applikationer med verktygsstöd.

Arkitektur och nyckelfunktioner

Utgåvan har totalt 119 miljarder parametrar och aktiverar 6,5 miljarder per token. Dess mixture-of-experts-arkitektur innehåller 128 experter, varav 4 aktiva, och tillverkaren dokumenterar ett kontextfönster på 256k token. Antalet aktiva parametrar och antalet experter beskriver hur modellen är organiserad; de är skilda från mängden text- eller bildinnehåll som ingår i en uppgift.

Modellen erbjuder instruktions- och resonemangsfunktioner i samma modellversion. Tillverkaren anger också bildförståelse, följsamhet till systemprompten och stöd för tiotals språk, däribland engelska, franska, spanska, tyska, italienska, portugisiska, nederländska, kinesiska, japanska, koreanska och arabiska. En textinstruktion kan därför ställa en fråga om en bild eller kombinera ett skriftligt krav med synligt underlag, med svaret returnerat som text.

En bilduppgift kan innehålla en dokumentsida och efterfråga värden som är relevanta för ett namngivet villkor. Håll etiketter och enheter läsbara och ange om resultatet ska bevara originalets ordalydelse, sammanfatta den eller jämföra den med en annan källa. En gränssnittsuppgift kan kombinera en skärmbild med användarens mål och efterfråga den relevanta synliga kontrollen och underlaget som stöder ett föreslaget nästa steg.

Val av instruktions- eller resonemangsläge

Det publicerade modellkortet dokumenterar resonemangsinsatsen none för ett omedelbart instruktionsbaserat svar och high för resonemang, med high rekommenderat för komplexa prompter. Valet görs per begäran inom samma Small 4-modell. En vanlig klassificering eller kort omskrivning kan ha ett annat svarskontrakt än ett matematiskt problem, bildproblem eller kodproblem som behöver en utvecklad förklaring.

Tillverkaren rekommenderar temperatur 0.7 för hög resonemangsinsats. För none anges temperaturer mellan 0.0 och 0.7 beroende på uppgiften. Inställningarna beskriver de dokumenterade lägena och gör inte resonemangsinsats till en garanti för ett korrekt resultat. Definiera antaganden, utdataform och relevant källmaterial innan du väljer hur mycket resonemang uppgiften kräver.

För ett genomarbetat problem tillhandahåller du hela villkoret och begär de viktiga motiverade stegen följda av det slutliga uttrycket. För en koduppgift tillhandahåller du kravet, den berörda funktionen och konkreta indata; begär den föreslagna implementationen separat från förklaringen och exemplen. Tillverkarens användningsdemonstrationer omfattar instruktionsföljning, ett beräkningsverktyg tillämpat på en bild och visuellt resonemang, vilket illustrerar hur text- och bildunderlag kan ingå i dessa olika uppgifter.

Kodning, dokument och verktyg

Modellen positioneras för utforskning av kodbaser och mjukvaruutvecklingsagenter, allmänna assistenter, dokumentförståelse och forskning. En begäran till en kodagent kan ange modulen som ska ändras, gränssnittet som ska bevaras och beteendet som ska uppstå. Tillhandahåll relevant källkod och underlag för felet. Modellen kan föreslå nästa operation eller en kodändring, medan applikationen tillhandahåller åtkomst till kodarkivet, exekvering och återkoppling.

För dokumentextraktion identifierar du obligatoriska fält och hur saknad information ska representeras. En användbar post kan skilja dokumentidentifierare, källutsaga, tolkat krav och obesvarad fråga åt. Tillverkarens tjänstekort listar anpassade strukturerade utdata och frågor om dokument; det senare använder dokumentbearbetning och OCR för att förbereda text och struktur före språkmodellsanalysen. En direkt bildfråga och ett OCR-assisterat dokumentflöde bör behålla sina egna förberedelser av indata.

Funktionsanrop kräver tydligt beskrivna verktyg. Modellen väljer en funktion och skapar argument; applikationen kör operationen och returnerar resultatet för det efterföljande svaret. Samma logik gäller oavsett om uppgiften är en uppslagning, beräkning eller kodoperation. JSON-formatering organiserar ett svar, medan ett verktygsanrop begär en extern åtgärd; de två ska inte behandlas som utbytbara resultat.

Tjänstekortet listar också förutsagda utdata, svarsprefix, batchbearbetning och agentsamtal. Förutsagda utdata är användbara när ett dokument eller en kodfil måste återskapas med endast en begränsad ändring och resten av innehållet är känt. Ange ändringen och materialet som ska bevaras. Prefixfortsättning använder en känd början på svaret, medan batchbearbetning avser inskickning av arbete snarare än ett ytterligare resonemangsläge.

Kontextens och utgåvans gränser

Planera den skriftliga uppgiften, det visuella materialet, samtalet och önskat svar utifrån den dokumenterade kontexten på 256k token. Det publicerade användningsexemplet konfigurerar en kontext på 262 144 token, medan genereringsexemplet på 1 024 token inte är en separat maximal utmatningskapacitet. De lästa källorna anger ingen oberoende strikt svarslängdsgräns som kan ersätta den valda uppgiftslängden.

Small 4 har sin egen mixture-of-experts-arkitektur med 119 miljarder parametrar och egna hybridlägen. Den ska inte ärva den täta arkitekturen med 128 miljarder parametrar från Medium 3.5 eller de separata Instruct- och Reasoning-utgåvorna av Ministral 3. Tillverkaren publicerar också separata kvantiserade leveranser och leveranser för spekulativ avkodning; de är separata driftsättningsleveranser snarare än olika innehållsmodaliteter. Bevara den namngivna utgåvan Small 4 och det läge som begärts för den faktiska förklaringen, strukturerade posten eller kodresultatet.