Mistral: Ministral 3 8B 2512 (batch)
Ministral 3 8B Instruct 2512 is een meertalig tekst- en beeldinstructiemodel met een taalcomponent van 8,4 miljard parameters en een visuele encoder van 0,4 miljard parameters. Het ondersteunt een door de maker opgegeven context van 256k, systeeminstructies, JSON en native functieaanroepen voor assistenten en documentworkflows.
Over het model
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Ministral 3 8B Instruct 2512 is het middelgrote op instructies afgestemde model in de Ministral 3-familie van Mistral AI. Het uitgebrachte checkpoint is nagetraind voor chat- en instructietaken met FP8-precisie. Het combineert een taalcomponent met een visuele encoder, accepteert tekst en afbeeldingen en retourneert tekst in plaats van een beeld- of audioartefact.
Architectuur en belangrijkste functies
De maker vermeldt een taalmodel met 8,4 miljard parameters en een visuele encoder met 0,4 miljard parameters. Het contextvenster wordt beschreven als 256k, en de gepubliceerde gebruiksnotities hanteren een standaard ingestelde lengte van 262.144. Deze beschrijven deze 8B-editie; de kleinere 3B- en grotere 14B-modellen binnen de familie behouden hun eigen componentgroottes en configuraties.
Beeldbegrip breidt de modelinvoer uit tot meer dan een schriftelijk gesprek. Een documentafbeelding kan worden gecombineerd met een vraag over een geselecteerd veld, een alinea of een zichtbare relatie. Een schermafbeelding kan worden gecombineerd met het doel van de gebruiker en een verzoek om het relevante bedieningselement aan te wijzen. Vraag om de waarneming achter elke conclusie wanneer het antwoord afhangt van visuele details, en behoud koppen, labels en eenheden die nodig zijn om een uitsnede te interpreteren.
De modelkaart beschrijft meertalig werk in tientallen talen, waaronder Engels, Frans, Spaans, Duits, Italiaans, Portugees, Nederlands, Chinees, Japans, Koreaans en Arabisch. Ook noemt zij het volgen van systeeminstructies, native functieaanroepen en JSON-uitvoer. Definieer de doeltaal, rol en uitvoervereisten expliciet in plaats van het model het bedoelde artefact uit een grote invoer te laten afleiden.
Document-, gespreks- en agenttaken
De toepassingen van de maker omvatten chatinterfaces, dagelijkse assistenten, beeld- en documentbeschrijving, vertaling, contentgeneratie en gespecialiseerde agents. Lever voor een documentassistent de pagina aan en geef op welke informatie moet worden geretourneerd. Een extractieverzoek kan de veldlabels, verwachte typen en omgang met ontbrekende waarden benoemen. Een bruikbaar antwoord kan de documentidentificatie, de geëxtraheerde waarde en een korte uitleg op basis van de zichtbare bron bevatten.
Bewaar voor een doorlopend gesprek het relevante eerdere antwoord en stel een gerichte vervolgvraag. Een gebruiker kan eerst om een documentsamenvatting vragen en daarna welke uitspraak één conclusie ondersteunt. Dit verandert de vereiste uitvoer van een algemeen overzicht naar een brongebonden uitleg, met behoud van het oorspronkelijke materiaal en het doel van de dialoog.
Lever voor meertalige redactie de oorspronkelijke passage, de beoogde lezer en een terminologielijst aan. Vraag om een herziene versie die namen, voorwaarden en eenheden behoudt, zo nodig gevolgd door een korte uitleg van de wijzigingen. Geef voor contentgeneratie het publiek en de feiten die moeten voorkomen op voordat u om een kort concept of een alternatieve formulering vraagt.
Bij een agenttaak levert de toepassing de tools en hun parameters. Het model kan een functie kiezen en argumenten opstellen, terwijl de toepassing deze uitvoert en het resultaat retourneert. Het functievoorbeeld op de modelkaart combineert een beeldvraag met een rekentool. Houd het toolresultaat gescheiden van de voorgestelde aanroep, zodat het volgende schriftelijke antwoord de daadwerkelijk door de bewerking geretourneerde informatie gebruikt.
Aanbevolen voorbereiding en instellingen
De maker beveelt een systeeminstructie aan die de omgeving, het gebruiksdoel en het toolgebruik beschrijft. Houd de toolset goed gedefinieerd en beperkt tot het minimum dat voor de taak nodig is. Een kleine opzoekworkflow kan de voor de huidige vraag relevante functies aanbieden, met duidelijk benoemde vereiste argumenten, in plaats van een grote verzameling ongerelateerde bewerkingen te tonen.
Voor dagelijks gebruik en gebruik in productie beveelt de modelkaart een temperatuur lager dan 0.1 aan; hogere temperaturen zijn beschikbaar voor creatieve verkenning. Behandel dit als een aanbeveling voor de instructieworkflow, niet als een afzonderlijke instelling voor een redeneermodus. De familie heeft aparte Base-, Instruct- en Reasoning-checkpoints; deze vermelding betreft de Instruct 2512-editie en niet de afzonderlijke Reasoning-release van dezelfde grootte.
Voor afbeeldingen beveelt de maker verhoudingen dicht bij 1:1 aan en raadt hij zeer smalle of brede invoer af. Snijd zo nodig bij met behoud van labels en context die de vraag vereist. Als een pagina meerdere ongerelateerde gebieden bevat, benoem dan het te onderzoeken deel en het te retourneren resultaat. Een leesbare, gerichte afbeelding is nuttiger dan het model te laten raden welk klein detail op een brede pagina belangrijk is.
Context- en editiegrenzen
Plan tekst, afbeeldingen, gesprek en gewenst antwoord rond de ingestelde context. De gebruiksnotities staan expliciet toe de ingestelde modellengte te verkleinen wanneer minder context nodig is; het volledige venster is dus geen instructie om elk verzoek met al het beschikbare materiaal te vullen. Het generatievoorbeeld van 512 tokens op de kaart is slechts een voorbeeldinstelling, en de geraadpleegde bronnen stellen geen afzonderlijke harde maximale antwoordlengte vast.
Het FP8 Instruct-checkpoint, de vooraf getrainde Base-release en de Reasoning-release zijn afzonderlijke edities. De maker beschrijft ook specialisatie en verdere afstemming als toepassingen. Behoud het benoemde checkpoint en de tokenizer bij het voorbereiden van het gesprek en houd tekstgeneratie gescheiden van repositorytoegang, functie-uitvoering of andere acties die de omringende toepassing levert.
Ailoot Ultra · Batch POST /v1/batches mistralai/ministral-8b-2512:batch
mistralai/ministral-8b-2512:batch
mistralai/ministral-8b-2512:batchAan de slag
Ministral 3 8B Instruct 2512 is een meertalig tekst- en beeldinstructiemodel met een taalcomponent van 8,4 miljard parameters en een visuele encoder van 0,4 miljard parameters. Het ondersteunt een door de maker opgegeven context van 256k, systeeminstructies, JSON en native functieaanroepen voor assistenten en documentworkflows.
- Toegestane invoer
- Tekst
- Resultaten
- Tekst
Beschikbaar in Ailoot · invoer en methoden
Ailoot Ultra · Batch POST /v1/batches
- Invoertypen
text- Uitvoertypen
text- Uitvoerformaat
- inline results[].response.body JSON
| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldendpoint | Typestring | VereisteVereist | Waarden en limieten /v1/chat/completions | Standaard— |
Veldmodel | Typestring | VereisteVereist | Waarden en limieten mistralai/ministral-8b-2512:batch | Standaard— |
Veldrequests | Typebatch_item[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldrequests[].custom_id | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldrequests[].body.messages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldcompletion_window | Typestring | VereisteOptioneel | Waarden en limieten 24h | Standaard— |
Veldprovider | Typeobject|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldrequests[].body.model | Typestring | VereisteOptioneel | Waarden en limieten mistralai/ministral-8b-2512:batch, mistralai/ministral-8b-2512 | Standaard— |
Veldprovider.only | Typestring[] | VereisteOptioneel | Waarden en limieten mistral | Standaard— |
Veldprovider.allow_fallbacks | Typeboolean|null | VereisteOptioneel | Waarden en limieten false, null | Standaard— |
Methodeparameters en levenscyclus
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractendpoint, model, requests |
Parametermaterial_types | Contracttext |
Parameterrepresentation | Contractinline requests[]; elk item bevat custom_id en body |
Parameterrequest_endpoint_profile | Contract/v1/chat/completions |
Parameterfile_material | ContractDe aanroeper mag daadwerkelijke JSONL-inhoud in UTF-8 lokaal in requests[] inlezen. Er wordt geen uploaddoel (purpose), input_file_id of bestandsverwijzing gebruikt. Ontbrekend of leeg klantmateriaal stopt de voorbereiding vóór POST. |
Parameterserialization_order | Contractendpoint, model, provider (indien opgegeven), completion_window (indien opgegeven), requests als laatste |
Parameteroptional_controls | Contractprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | ContractBody’s voor tekstaanvragen via Chat Completions in de gedocumenteerde inline Batch-envelop. |
Levenscyclus: asynchronous
GET /v1/batches/{operation_id} · de daadwerkelijke response.id uit het oorspronkelijke aanmaakantwoord; dezelfde gebruiker/sleutel/groep
Tarieven
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
- Snelle modus
- Niet opgegeven Wanneer de snelle modus is geselecteerd
- Flexmodus
- Niet opgegeven Wanneer de modus flex is geselecteerd
- Maximale redeneerinspanning
- Niet opgegeven Wanneer bij maximale redeneerinspanning de default-aanpassing wordt gebruikt
- Tarieven voor expliciete caching
- Niet ingeschakeld Wanneer expliciete caching wordt aangevraagd
Ailoot-tarieven
Prijzen per configuratie
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.00015 / 1K tokens Uitvoer · Uitvoertokens $0.00015 / 1K tokens Invoer · Cache lezen $0.000015 / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieNiveau 1 voor aanvraaglengte | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.00015 / 1K tokens Uitvoer · Uitvoertokens $0.00015 / 1K tokens Invoer · Cache lezen $0.000015 / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
Voorbeeldverzoeken
Ailoot Ultra · Batch
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/ministral-8b-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/ministral-8b-2512:batch', 'mistralai/ministral-8b-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/ministral-8b-2512:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Resultaten ophalen en opslaan
Ailoot Ultra · Batch
inline results[].response.body JSON
GET /v1/batches/{operation_id}
Taakstatus controleren
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Alle voltooide resultaten bewaren
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar de volledige oorspronkelijke status-JSON, elk resultaat/custom_id en de volledige antwoord- of foutbody. Sla voltooide results[] zonder filtering op als JSONL.
Als het oorspronkelijke antwoord moet worden gecontroleerd
Bewaar de oorspronkelijke bewerkings-ID. Bij 503 result_pending_check hoort X-Should-Retry:false; dien een oorspronkelijke batch met onbekende uitkomst nooit opnieuw in.
Antwoordvelden
| Veld | Type |
|---|---|
Veldresults[].custom_id | Typestring |
Veldresults[].response.body.choices[].message.content | Typestring|null |
Veldresults[].error | Typeobject|null |
Veldusage | Typeobject|null |
Veldid | Typestring |
Veldmodel | Typestring |
Veldendpoint | Typestring |
Veldstatus | Typestring |
Veldrequest_counts | Typeobject |
Veldresults[].id | Typestring |
Veldresults[].response.status_code | Typeinteger |
Veldresults[].response.request_id | Typestring |
Fouten en vervolgstappen
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeOngeldige gedocumenteerde inline envelop, dubbele sleutels, ongeldige itemidentiteit of een conflict met de geconfigureerde modelmogelijkheden. | Volgende stapCorrigeer de aangegeven velden voordat u een nieuwe aanvraag indient. |
Antwoord401 · authentication_error | VoorwaardeOngeldige API-sleutel. | Volgende stapGebruik de geautoriseerde Ailoot-sleutel. |
Antwoord403 · permission_error | VoorwaardeBatch-groep niet beschikbaar. | Volgende stapControleer de toegangsrechten van de sleutel/groep. |
Antwoord422 · invalid_request_error | VoorwaardeBij Batch worden kosten van het saldo afgeschreven; aanmaken via een abonnement wordt geweigerd. | Volgende stapGebruik de geautoriseerde groep waarvoor kosten van het saldo worden afgeschreven. |
Antwoord422 · price_unavailable | VoorwaardeVoor de Batch-invoer kan geen prijsopgave worden berekend. | Volgende stapBewaar het antwoord; gebruik de gedocumenteerde invoer voor deze familie. |
Antwoord402 · billing_error | VoorwaardeBatch-reservering niet beschikbaar. | Volgende stapLos het toelatingsprobleem op voordat u een nieuwe aanvraag indient. |
Antwoord503 · price_unavailable | VoorwaardePrijs voor de Batch-methode/native tarieven niet beschikbaar. | Volgende stapBewaar het antwoord; vervang de prijzen niet. |
Antwoord503 · api_error | VoorwaardeDe exacte leveranciersroute is niet beschikbaar. | Volgende stapBewaar het antwoord voor herstel van de route. |
Antwoord503 · result_pending_check | VoorwaardeHet oorspronkelijke resultaat moet worden gecontroleerd; X-Should-Retry:false. | Volgende stapBewaar de oorspronkelijke operation_id/id en lees de status ervan uit; herhaal de oorspronkelijke POST nooit. |
Antwoord404 · not_found | VoorwaardeDe bewerking voor de Batch-status ontbreekt of is eigendom van een andere identiteit. | Volgende stapGebruik exact de oorspronkelijke id en dezelfde gebruiker/sleutel/groep. |
Aliasnamen
Modelaliasnamen
Ailoot Ultra mistralai/ministral-8b-2512:batch
Aliasnamen voor methodepaden
Gebruik de hierboven getoonde methodepaden.
Gerelateerde aanroeper-ID’s
FAQ · Mistral: Ministral 3 8B 2512 (batch)
- Welke invoer en resultaten zijn beschikbaar?
POST /v1/batches·mistralai/ministral-8b-2512:batch:text→text- Welke velden gebruikt het verzoek?
POST /v1/batches·mistralai/ministral-8b-2512:batch:endpoint,model,requests,completion_window,provider- Welke limieten gelden?
POST /v1/batches·mistralai/ministral-8b-2512:batch:requests.min_items:1