Mistral Small 4 combineert algemene instructieopvolging, redeneren en programmeren in één multimodaal model. De maker beschrijft het als een samenvoeging van de families Instruct, Magistral voor redeneren en Devstral voor programmeren. Het aanvaardt tekst en beelden en retourneert tekst, met functieaanroepen en JSON-uitvoer voor toepassingen met tools.
Architectuur en belangrijkste functies
De release heeft in totaal 119 miljard parameters en activeert er 6,5 miljard per token. De mixture-of-experts-architectuur bevat 128 experts, waarvan 4 actief, en de maker documenteert een contextvenster van 256k. Het aantal actieve parameters en experts beschrijft hoe het model is georganiseerd; dat verschilt van de hoeveelheid tekst of beeldinhoud in één taak.
Het model biedt instructie- en redeneerfunctionaliteit in hetzelfde checkpoint. De maker vermeldt ook beeldbegrip, het volgen van systeemprompts en meertalige ondersteuning voor tientallen talen, waaronder Engels, Frans, Spaans, Duits, Italiaans, Portugees, Nederlands, Chinees, Japans, Koreaans en Arabisch. Een tekstinstructie kan dus naar een afbeelding vragen of een schriftelijke vereiste met zichtbaar bewijsmateriaal combineren, waarbij het antwoord als tekst wordt teruggegeven.
Een visuele taak kan een documentpagina aanleveren en vragen naar de waarden die voor een genoemde voorwaarde relevant zijn. Houd labels en eenheden leesbaar en geef aan of het resultaat de oorspronkelijke formulering moet behouden, samenvatten of met een andere bron vergelijken. Een interfacetaak kan een screenshot aan het gebruikersdoel koppelen en vragen naar het relevante zichtbare bedieningselement en het bewijsmateriaal voor een voorgestelde volgende stap.
Instructie- of redeneermodus kiezen
De gepubliceerde kaart documenteert reasoning effort none voor een direct instructiegericht antwoord en high voor redeneren, met high aanbevolen voor complexe prompts. De keuze gebeurt per verzoek binnen hetzelfde Small 4-model. Een gewone classificatie of korte herschrijving kan een ander antwoordcontract hebben dan een wiskundig, visueel of programmeerprobleem dat uitgebreide uitleg nodig heeft.
De maker beveelt temperature 0.7 aan voor hoge redeneerinspanning. Voor none worden afhankelijk van de taak temperaturen tussen 0,0 en 0,7 opgegeven. Deze instellingen beschrijven de gedocumenteerde modi en maken redeneerinspanning niet tot een garantie op een correct resultaat. Bepaal aannames, uitvoervorm en relevant bronmateriaal voordat u kiest hoeveel redenering de taak vereist.
Geef voor een uitgewerkt probleem de volledige voorwaarde mee en vraag de belangrijkste onderbouwde stappen, gevolgd door de uiteindelijke uitdrukking. Geef voor een codetaak de vereiste, betrokken functie en concrete invoer mee; vraag de voorgestelde implementatie afzonderlijk van uitleg en voorbeelden. De gebruiksdemonstraties van de maker omvatten instructieopvolging, een rekentool toegepast op een afbeelding en visueel redeneren, en tonen hoe tekst en visueel bewijsmateriaal in deze verschillende taken kunnen worden gebruikt.
Programmeren, documenten en tools
Het model wordt gepositioneerd voor codebaseverkenning en software-engineeringagents, algemene assistenten, documentbegrip en onderzoek. Een verzoek aan een programmeeragent kan de te wijzigen module, de te behouden interface en het gewenste gedrag benoemen. Lever de relevante broncode en het foutbewijs aan. Het model kan de volgende bewerking of een codewijziging voorstellen, terwijl de toepassing repositorytoegang, uitvoering en feedback levert.
Bepaal voor documentextractie de vereiste velden en hoe ontbrekende informatie wordt weergegeven. Een nuttig record kan documentidentificatie, bronuitspraak, geïnterpreteerde vereiste en openstaande vraag scheiden. De servicekaart van de maker vermeldt aangepaste gestructureerde uitvoer en vragen beantwoorden over documenten; de laatste functie gebruikt documentverwerking en OCR om tekst en structuur voor taalmodelanalyse voor te bereiden. Een directe beeldvraag en een documentworkflow met OCR moeten hun eigen invoervoorbereiding behouden.
Functieaanroepen vereisen duidelijk beschreven tools. Het model selecteert een functie en maakt argumenten; de toepassing voert de bewerking uit en retourneert het resultaat voor het volgende antwoord. Dezelfde logica geldt voor een opzoeking, berekening of programmeerbewerking. JSON-opmaak ordent een antwoord, terwijl een toolaanroep om een externe actie vraagt; beide mogen niet als uitwisselbare resultaten worden behandeld.
De servicekaart vermeldt ook voorspelde uitvoer, antwoordprefixen, batchverwerking en agentconversaties. Voorspelde uitvoer is nuttig wanneer een document of codebestand met slechts een beperkte wijziging opnieuw moet worden gegenereerd en de rest van de inhoud bekend is. Geef de wijziging en het te behouden materiaal op. Prefixvoortzetting gebruikt een bekend begin van het antwoord, terwijl batchverwerking de indiening van werk betreft en geen extra redeneermodus is.
Grenzen van context en editie
Stem de schriftelijke taak, het visuele materiaal, de conversatie en het gewenste antwoord op de gedocumenteerde context van 256k af. Het gepubliceerde gebruiksvoorbeeld stelt een context van 262.144 tokens in, terwijl het generatievoorbeeld met 1.024 tokens geen afzonderlijke maximale uitvoercapaciteit is. De geraadpleegde bronnen bieden geen onafhankelijke harde antwoordlengtelimiet die de gekozen taaklengte kan vervangen.
Small 4 heeft een eigen mixture-of-experts-architectuur met 119 miljard parameters en hybride modi. Het mag niet de dense architectuur met 128 miljard parameters van Medium 3.5 of de aparte Instruct- en Reasoning-edities van Ministral 3 overnemen. De maker publiceert ook afzonderlijke gekwantiseerde artefacten en artefacten voor speculatieve decodering; dat zijn afzonderlijke implementatieartefacten en geen verschillende inhoudsmodaliteiten. Behoud de genoemde Small 4-release en de modus die voor de werkelijke uitleg, het gestructureerde record of coderesultaat is gevraagd.
", "aboutText": "Mistral Small 4 combineert algemene instructieopvolging, redeneren en programmeren in één multimodaal model. De maker beschrijft het als een samenvoeging van de families Instruct, Magistral voor redeneren en Devstral voor programmeren. Het aanvaardt tekst en beelden en retourneert tekst, met functieaanroepen en JSON-uitvoer voor toepassingen met tools.\n\nArchitectuur en belangrijkste functies\n\nDe release heeft in totaal 119 miljard parameters en activeert er 6,5 miljard per token. De mixture-of-experts-architectuur bevat 128 experts, waarvan 4 actief, en de maker documenteert een contextvenster van 256k. Het aantal actieve parameters en experts beschrijft hoe het model is georganiseerd; dat verschilt van de hoeveelheid tekst of beeldinhoud in één taak.\n\nHet model biedt instructie- en redeneerfunctionaliteit in hetzelfde checkpoint. De maker vermeldt ook beeldbegrip, het volgen van systeemprompts en meertalige ondersteuning voor tientallen talen, waaronder Engels, Frans, Spaans, Duits, Italiaans, Portugees, Nederlands, Chinees, Japans, Koreaans en Arabisch. Een tekstinstructie kan dus naar een afbeelding vragen of een schriftelijke vereiste met zichtbaar bewijsmateriaal combineren, waarbij het antwoord als tekst wordt teruggegeven.\n\nEen visuele taak kan een documentpagina aanleveren en vragen naar de waarden die voor een genoemde voorwaarde relevant zijn. Houd labels en eenheden leesbaar en geef aan of het resultaat de oorspronkelijke formulering moet behouden, samenvatten of met een andere bron vergelijken. Een interfacetaak kan een screenshot aan het gebruikersdoel koppelen en vragen naar het relevante zichtbare bedieningselement en het bewijsmateriaal voor een voorgestelde volgende stap.\n\nInstructie- of redeneermodus kiezen\n\nDe gepubliceerde kaart documenteert reasoning effort none voor een direct instructiegericht antwoord en high voor redeneren, met high aanbevolen voor complexe prompts. De keuze gebeurt per verzoek binnen hetzelfde Small 4-model. Een gewone classificatie of korte herschrijving kan een ander antwoordcontract hebben dan een wiskundig, visueel of programmeerprobleem dat uitgebreide uitleg nodig heeft.\n\nDe maker beveelt temperature 0.7 aan voor hoge redeneerinspanning. Voor none worden afhankelijk van de taak temperaturen tussen 0,0 en 0,7 opgegeven. Deze instellingen beschrijven de gedocumenteerde modi en maken redeneerinspanning niet tot een garantie op een correct resultaat. Bepaal aannames, uitvoervorm en relevant bronmateriaal voordat u kiest hoeveel redenering de taak vereist.\n\nGeef voor een uitgewerkt probleem de volledige voorwaarde mee en vraag de belangrijkste onderbouwde stappen, gevolgd door de uiteindelijke uitdrukking. Geef voor een codetaak de vereiste, betrokken functie en concrete invoer mee; vraag de voorgestelde implementatie afzonderlijk van uitleg en voorbeelden. De gebruiksdemonstraties van de maker omvatten instructieopvolging, een rekentool toegepast op een afbeelding en visueel redeneren, en tonen hoe tekst en visueel bewijsmateriaal in deze verschillende taken kunnen worden gebruikt.\n\nProgrammeren, documenten en tools\n\nHet model wordt gepositioneerd voor codebaseverkenning en software-engineeringagents, algemene assistenten, documentbegrip en onderzoek. Een verzoek aan een programmeeragent kan de te wijzigen module, de te behouden interface en het gewenste gedrag benoemen. Lever de relevante broncode en het foutbewijs aan. Het model kan de volgende bewerking of een codewijziging voorstellen, terwijl de toepassing repositorytoegang, uitvoering en feedback levert.\n\nBepaal voor documentextractie de vereiste velden en hoe ontbrekende informatie wordt weergegeven. Een nuttig record kan documentidentificatie, bronuitspraak, geïnterpreteerde vereiste en openstaande vraag scheiden. De servicekaart van de maker vermeldt aangepaste gestructureerde uitvoer en vragen beantwoorden over documenten; de laatste functie gebruikt documentverwerking en OCR om tekst en structuur voor taalmodelanalyse voor te bereiden. Een directe beeldvraag en een documentworkflow met OCR moeten hun eigen invoervoorbereiding behouden.\n\nFunctieaanroepen vereisen duidelijk beschreven tools. Het model selecteert een functie en maakt argumenten; de toepassing voert de bewerking uit en retourneert het resultaat voor het volgende antwoord. Dezelfde logica geldt voor een opzoeking, berekening of programmeerbewerking. JSON-opmaak ordent een antwoord, terwijl een toolaanroep om een externe actie vraagt; beide mogen niet als uitwisselbare resultaten worden behandeld.\n\nDe servicekaart vermeldt ook voorspelde uitvoer, antwoordprefixen, batchverwerking en agentconversaties. Voorspelde uitvoer is nuttig wanneer een document of codebestand met slechts een beperkte wijziging opnieuw moet worden gegenereerd en de rest van de inhoud bekend is. Geef de wijziging en het te behouden materiaal op. Prefixvoortzetting gebruikt een bekend begin van het antwoord, terwijl batchverwerking de indiening van werk betreft en geen extra redeneermodus is.\n\nGrenzen van context en editie\n\nStem de schriftelijke taak, het visuele materiaal, de conversatie en het gewenste antwoord op de gedocumenteerde context van 256k af. Het gepubliceerde gebruiksvoorbeeld stelt een context van 262.144 tokens in, terwijl het generatievoorbeeld met 1.024 tokens geen afzonderlijke maximale uitvoercapaciteit is. De geraadpleegde bronnen bieden geen onafhankelijke harde antwoordlengtelimiet die de gekozen taaklengte kan vervangen.\n\nSmall 4 heeft een eigen mixture-of-experts-architectuur met 119 miljard parameters en hybride modi. Het mag niet de dense architectuur met 128 miljard parameters van Medium 3.5 of de aparte Instruct- en Reasoning-edities van Ministral 3 overnemen. De maker publiceert ook afzonderlijke gekwantiseerde artefacten en artefacten voor speculatieve decodering; dat zijn afzonderlijke implementatieartefacten en geen verschillende inhoudsmodaliteiten. Behoud de genoemde Small 4-release en de modus die voor de werkelijke uitleg, het gestructureerde record of coderesultaat is gevraagd.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "0c49f4754c21d2d34ad9a85211ddfc1ff1b372107faee892d16801a85c92dc0f", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "nl-be", "methods": [ { "html": "mistralai/mistral-small-2603:batchMistral Small 4 is een hybride tekst-en-beeldmodel met instructie-, redeneer- en programmeermogelijkheden. De mixture-of-experts-release met 119 miljard parameters activeert er 6,5 miljard per token en ondersteunt een door de maker opgegeven context van 256k, selecteerbare redeneerinspanning, JSON en functieaanroepen.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Mistral Small 4 combineert algemene instructieopvolging, redeneren en programmeren in één multimodaal model. De maker beschrijft het als een samenvoeging van de families Instruct, Magistral voor redeneren en Devstral voor programmeren. Het aanvaardt tekst en beelden en retourneert tekst, met functieaanroepen en JSON-uitvoer voor toepassingen met tools.
Architectuur en belangrijkste functies
De release heeft in totaal 119 miljard parameters en activeert er 6,5 miljard per token. De mixture-of-experts-architectuur bevat 128 experts, waarvan 4 actief, en de maker documenteert een contextvenster van 256k. Het aantal actieve parameters en experts beschrijft hoe het model is georganiseerd; dat verschilt van de hoeveelheid tekst of beeldinhoud in één taak.
Het model biedt instructie- en redeneerfunctionaliteit in hetzelfde checkpoint. De maker vermeldt ook beeldbegrip, het volgen van systeemprompts en meertalige ondersteuning voor tientallen talen, waaronder Engels, Frans, Spaans, Duits, Italiaans, Portugees, Nederlands, Chinees, Japans, Koreaans en Arabisch. Een tekstinstructie kan dus naar een afbeelding vragen of een schriftelijke vereiste met zichtbaar bewijsmateriaal combineren, waarbij het antwoord als tekst wordt teruggegeven.
Een visuele taak kan een documentpagina aanleveren en vragen naar de waarden die voor een genoemde voorwaarde relevant zijn. Houd labels en eenheden leesbaar en geef aan of het resultaat de oorspronkelijke formulering moet behouden, samenvatten of met een andere bron vergelijken. Een interfacetaak kan een screenshot aan het gebruikersdoel koppelen en vragen naar het relevante zichtbare bedieningselement en het bewijsmateriaal voor een voorgestelde volgende stap.
Instructie- of redeneermodus kiezen
De gepubliceerde kaart documenteert reasoning effort none voor een direct instructiegericht antwoord en high voor redeneren, met high aanbevolen voor complexe prompts. De keuze gebeurt per verzoek binnen hetzelfde Small 4-model. Een gewone classificatie of korte herschrijving kan een ander antwoordcontract hebben dan een wiskundig, visueel of programmeerprobleem dat uitgebreide uitleg nodig heeft.
De maker beveelt temperature 0.7 aan voor hoge redeneerinspanning. Voor none worden afhankelijk van de taak temperaturen tussen 0,0 en 0,7 opgegeven. Deze instellingen beschrijven de gedocumenteerde modi en maken redeneerinspanning niet tot een garantie op een correct resultaat. Bepaal aannames, uitvoervorm en relevant bronmateriaal voordat u kiest hoeveel redenering de taak vereist.
Geef voor een uitgewerkt probleem de volledige voorwaarde mee en vraag de belangrijkste onderbouwde stappen, gevolgd door de uiteindelijke uitdrukking. Geef voor een codetaak de vereiste, betrokken functie en concrete invoer mee; vraag de voorgestelde implementatie afzonderlijk van uitleg en voorbeelden. De gebruiksdemonstraties van de maker omvatten instructieopvolging, een rekentool toegepast op een afbeelding en visueel redeneren, en tonen hoe tekst en visueel bewijsmateriaal in deze verschillende taken kunnen worden gebruikt.
Programmeren, documenten en tools
Het model wordt gepositioneerd voor codebaseverkenning en software-engineeringagents, algemene assistenten, documentbegrip en onderzoek. Een verzoek aan een programmeeragent kan de te wijzigen module, de te behouden interface en het gewenste gedrag benoemen. Lever de relevante broncode en het foutbewijs aan. Het model kan de volgende bewerking of een codewijziging voorstellen, terwijl de toepassing repositorytoegang, uitvoering en feedback levert.
Bepaal voor documentextractie de vereiste velden en hoe ontbrekende informatie wordt weergegeven. Een nuttig record kan documentidentificatie, bronuitspraak, geïnterpreteerde vereiste en openstaande vraag scheiden. De servicekaart van de maker vermeldt aangepaste gestructureerde uitvoer en vragen beantwoorden over documenten; de laatste functie gebruikt documentverwerking en OCR om tekst en structuur voor taalmodelanalyse voor te bereiden. Een directe beeldvraag en een documentworkflow met OCR moeten hun eigen invoervoorbereiding behouden.
Functieaanroepen vereisen duidelijk beschreven tools. Het model selecteert een functie en maakt argumenten; de toepassing voert de bewerking uit en retourneert het resultaat voor het volgende antwoord. Dezelfde logica geldt voor een opzoeking, berekening of programmeerbewerking. JSON-opmaak ordent een antwoord, terwijl een toolaanroep om een externe actie vraagt; beide mogen niet als uitwisselbare resultaten worden behandeld.
De servicekaart vermeldt ook voorspelde uitvoer, antwoordprefixen, batchverwerking en agentconversaties. Voorspelde uitvoer is nuttig wanneer een document of codebestand met slechts een beperkte wijziging opnieuw moet worden gegenereerd en de rest van de inhoud bekend is. Geef de wijziging en het te behouden materiaal op. Prefixvoortzetting gebruikt een bekend begin van het antwoord, terwijl batchverwerking de indiening van werk betreft en geen extra redeneermodus is.
Grenzen van context en editie
Stem de schriftelijke taak, het visuele materiaal, de conversatie en het gewenste antwoord op de gedocumenteerde context van 256k af. Het gepubliceerde gebruiksvoorbeeld stelt een context van 262.144 tokens in, terwijl het generatievoorbeeld met 1.024 tokens geen afzonderlijke maximale uitvoercapaciteit is. De geraadpleegde bronnen bieden geen onafhankelijke harde antwoordlengtelimiet die de gekozen taaklengte kan vervangen.
Small 4 heeft een eigen mixture-of-experts-architectuur met 119 miljard parameters en hybride modi. Het mag niet de dense architectuur met 128 miljard parameters van Medium 3.5 of de aparte Instruct- en Reasoning-edities van Ministral 3 overnemen. De maker publiceert ook afzonderlijke gekwantiseerde artefacten en artefacten voor speculatieve decodering; dat zijn afzonderlijke implementatieartefacten en geen verschillende inhoudsmodaliteiten. Behoud de genoemde Small 4-release en de modus die voor de werkelijke uitleg, het gestructureerde record of coderesultaat is gevraagd.
POST /v1/batchestexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldendpoint | Typestring | VereisteVereist | Waarden en limieten /v1/chat/completions | Standaard— |
Veldmodel | Typestring | VereisteVereist | Waarden en limieten mistralai/mistral-small-2603:batch | Standaard— |
Veldrequests | Typebatch_item[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldrequests[].custom_id | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldrequests[].body.messages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldcompletion_window | Typestring | VereisteOptioneel | Waarden en limieten 24h | Standaard— |
Veldprovider | Typeobject|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldrequests[].body.model | Typestring | VereisteOptioneel | Waarden en limieten mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603 | Standaard— |
Veldprovider.only | Typestring[] | VereisteOptioneel | Waarden en limieten mistral | Standaard— |
Veldprovider.allow_fallbacks | Typeboolean|null | VereisteOptioneel | Waarden en limieten false, null | Standaard— |
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractendpoint, model, requests |
Parametermaterial_types | Contracttext |
Parameterrepresentation | Contractinline requests[]; elk item bevat custom_id en body |
Parameterrequest_endpoint_profile | Contract/v1/chat/completions |
Parameterfile_material | ContractDe aanroeper kan de daadwerkelijke UTF-8 JSONL lokaal in requests[] inlezen. Er wordt geen uploaddoel, input_file_id of bestandsverwijzing gebruikt. Ontbrekend of leeg klantmateriaal stopt de voorbereiding vóór POST. |
Parameterserialization_order | Contractendpoint, model, provider (indien opgegeven), completion_window (indien opgegeven), requests als laatste |
Parameteroptional_controls | Contractprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | ContractAanvraagbodies voor tekst via Chat Completions in de gedocumenteerde inline Batch-structuur. |
Levenscyclus: asynchronous
GET /v1/batches/{operation_id} · daadwerkelijke response.id uit de oorspronkelijke aanmaakrespons; dezelfde gebruiker/sleutel/groep
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.00015 / 1K tokens Uitvoer · Uitvoertokens $0.0006 / 1K tokens Invoer · Cache lezen $0.000015 / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieAanvraaglengte · niveau 1 | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.00015 / 1K tokens Uitvoer · Uitvoertokens $0.0006 / 1K tokens Invoer · Cache lezen $0.000015 / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\ninline JSON uit results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nBewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar de volledige oorspronkelijke status-JSON, elk resultaat/custom_id en de volledige respons- of foutbody. Sla voltooide results[] op als JSONL, zonder te filteren.
Bewaar de oorspronkelijke bewerkings-ID. 503 result_pending_check bevat X-Should-Retry:false; dien een oorspronkelijke batch met onbekende status nooit opnieuw in.
| Veld | Type |
|---|---|
Veldresults[].custom_id | Typestring |
Veldresults[].response.body.choices[].message.content | Typestring|null |
Veldresults[].error | Typeobject|null |
Veldusage | Typeobject|null |
Veldid | Typestring |
Veldmodel | Typestring |
Veldendpoint | Typestring |
Veldstatus | Typestring |
Veldrequest_counts | Typeobject |
Veldresults[].id | Typestring |
Veldresults[].response.status_code | Typeinteger |
Veldresults[].response.request_id | Typestring |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeOngeldige gedocumenteerde inline structuur, dubbele sleutels, ongeldige itemidentiteit of conflict met de geconfigureerde modelmogelijkheden. | Volgende stapCorrigeer de aangegeven velden vóór elke nieuwe indiening. |
Antwoord401 · authentication_error | VoorwaardeOngeldige API-sleutel. | Volgende stapGebruik de geautoriseerde Ailoot-sleutel. |
Antwoord403 · permission_error | VoorwaardeBatch-groep niet beschikbaar. | Volgende stapControleer de toegangsrechten van de sleutel/groep. |
Antwoord422 · invalid_request_error | VoorwaardeBatch wordt via het saldo gefactureerd; aanmaken via een abonnement wordt geweigerd. | Volgende stapGebruik de geautoriseerde groep die via het saldo wordt gefactureerd. |
Antwoord422 · price_unavailable | VoorwaardeVoor de Batch-invoer kan geen prijsraming worden gemaakt. | Volgende stapBewaar de respons; gebruik de gedocumenteerde invoer voor deze familie. |
Antwoord402 · billing_error | VoorwaardeReservering voor Batch niet beschikbaar. | Volgende stapLos het toelatingsprobleem op vóór een nieuwe aanvraag. |
Antwoord503 · price_unavailable | VoorwaardePrijs voor de Batch-methode/native tarieven niet beschikbaar. | Volgende stapBewaar de respons; vervang de prijzen niet. |
Antwoord503 · api_error | VoorwaardeDe exacte leveranciersroute is niet beschikbaar. | Volgende stapBewaar de respons voor het herstel van de route. |
Antwoord503 · result_pending_check | VoorwaardeHet oorspronkelijke resultaat moet gecontroleerd worden; X-Should-Retry:false. | Volgende stapBewaar de oorspronkelijke operation_id/id en lees de status ervan uit; herhaal de oorspronkelijke POST nooit. |
Antwoord404 · not_found | VoorwaardeBewerking voor de Batch-status ontbreekt of behoort toe aan een andere identiteit. | Volgende stapGebruik de exacte oorspronkelijke id en dezelfde gebruiker/sleutel/groep. |
Ailoot Ultra mistralai/mistral-small-2603:batch
Gebruik de hierboven getoonde methodepaden.