Mistral Small 4 kombinerer generel instruktionsefterlevelse, ræsonnement og kodning i én multimodal model. Producenten beskriver den som en samling af Instruct-, Magistral-ræsonnements- og Devstral-kodefamilierne. Den tager imod tekst og billeder og returnerer tekst med funktionskald og JSON-output til værktøjsassisterede applikationer.
Arkitektur og centrale funktioner
Udgivelsen har i alt 119 milliarder parametre og aktiverer 6,5 milliarder pr. token. Dens mixture-of-experts-arkitektur indeholder 128 eksperter, hvoraf 4 er aktive, og producenten dokumenterer et kontekstvindue på 256k. Det aktive parameterantal og antallet af eksperter beskriver modellens organisering; de er forskellige fra den mængde tekst- eller billedindhold, der indgår i én opgave.
Modellen tilbyder instruktions- og ræsonnementsfunktioner i samme checkpoint. Producenten identificerer også syn, efterlevelse af systemprompter og flersproget understøttelse af snesevis af sprog, herunder engelsk, fransk, spansk, tysk, italiensk, portugisisk, nederlandsk, kinesisk, japansk, koreansk og arabisk. En tekstinstruktion kan derfor spørge til et billede eller kombinere et skriftligt krav med synligt bevismateriale, mens svaret returneres som tekst.
En visuel opgave kan give en dokumentside og bede om de værdier, der er relevante for en navngiven betingelse. Hold etiketter og enheder læsbare, og angiv, om resultatet skal bevare den oprindelige ordlyd, sammenfatte den eller sammenligne den med en anden kilde. En grænsefladeopgave kan kombinere et skærmbillede med brugerens mål og bede om det relevante synlige kontrolelement og bevismaterialet bag et foreslået næste skridt.
Valg af instruktions- eller ræsonnementstilstand
Det udgivne modelkort dokumenterer ræsonnementsindsatsen none til et øjeblikkeligt instruktionsbaseret svar og high til ræsonnement, hvor high anbefales til komplekse prompter. Valget foretages pr. anmodning inden for samme Small 4-model. En almindelig klassifikation eller kort omskrivning kan have en anden svarkontrakt end et matematisk, visuelt eller kodemæssigt problem, der kræver en udfoldet forklaring.
Producenten anbefaler temperature 0.7 ved høj ræsonnementsindsats. Til none angives temperaturer mellem 0,0 og 0,7 afhængigt af opgaven. Indstillingerne beskriver de dokumenterede tilstande og gør ikke ræsonnementsindsats til en garanti for et korrekt resultat. Definer antagelserne, outputformen og det relevante kildemateriale, før du vælger, hvor meget ræsonnement opgaven kræver.
Til et gennemregnet problem skal du give den fulde betingelse og bede om de vigtige, begrundede trin efterfulgt af slutudtrykket. Til en kodeopgave skal du give kravet, den berørte funktion og et konkret input; bed om den foreslåede implementering adskilt fra forklaringen og eksemplerne. Producentens brugsdemonstrationer omfatter instruktionsefterlevelse, et beregningsværktøj anvendt på et billede og visuelt ræsonnement og illustrerer dermed, hvordan tekst og visuelt bevismateriale kan indgå i disse forskellige opgaver.
Kodning, dokumenter og værktøjer
Modellen er rettet mod udforskning af kodebaser og softwareudviklingsagenter, generelle assistenter, dokumentforståelse og research. En kodeagentanmodning kan navngive modulet, der skal ændres, grænsefladen, der skal bevares, og den ønskede adfærd. Giv den relevante kildekode og dokumentation for fejlen. Modellen kan foreslå den næste operation eller en kodeændring, mens applikationen leverer adgang til kodebasen, eksekvering og feedback.
Til dokumentudtrækning skal du identificere de krævede felter og repræsentationen af manglende oplysninger. En nyttig post kan adskille dokumentidentifikatoren, kildeudsagnet, det fortolkede krav og det uafklarede spørgsmål. Producentens tjenestekort angiver brugerdefineret struktureret output og besvarelse af dokumentspørgsmål; sidstnævnte bruger dokumentbehandling og OCR til at klargøre tekst og struktur før sprogmodelanalysen. Et direkte billedspørgsmål og en OCR-assisteret dokumentarbejdsgang bør bevare deres egne inputforberedelser.
Funktionskald kræver tydeligt beskrevne værktøjer. Modellen vælger en funktion og opretter argumenter; applikationen udfører operationen og returnerer resultatet til det efterfølgende svar. Samme logik gælder, uanset om opgaven er et opslag, en beregning eller en kodeoperation. JSON-formatering organiserer et svar, mens et værktøjskald beder om en ekstern handling; de to bør ikke behandles som udskiftelige resultater.
Tjenestekortet angiver også forudsagte output, svarpræfikser, batchbehandling og agentsamtaler. Forudsagte output er nyttige, når et dokument eller en kodefil skal genskabes med kun en begrænset ændring, og resten af indholdet kendes. Angiv redigeringen og det materiale, der skal bevares. Præfiksfortsættelse bruger en kendt begyndelse på svaret, mens batchbehandling vedrører indsendelse af arbejde frem for en ekstra ræsonnementstilstand.
Kontekst og udgavegrænser
Planlæg den skriftlige opgave, det visuelle materiale, samtalen og det ønskede svar omkring den dokumenterede kontekst på 256k. Det udgivne brugseksempel konfigurerer en kontekst på 262.144 tokens, mens genereringseksemplet på 1.024 tokens ikke er en særskilt maksimal outputkapacitet. De læste kilder angiver ikke en selvstændig fast svarlængdegrænse, der kan erstatte den valgte opgavelængde.
Small 4 har sin egen mixture-of-experts-arkitektur med 119 milliarder parametre og hybride tilstande. Den bør ikke arve Medium 3.5's tætte arkitektur med 128 milliarder parametre eller Ministral 3's separate Instruct- og Reasoning-udgaver. Producenten udgiver også særskilte kvantiserede artefakter og artefakter til spekulativ afkodning; det er separate udrulningsartefakter frem for forskellige indholdsmodaliteter. Bevar den navngivne Small 4-udgivelse og den tilstand, der ønskes til den faktiske forklaring, strukturerede post eller det faktiske koderesultat.
", "aboutText": "Mistral Small 4 kombinerer generel instruktionsefterlevelse, ræsonnement og kodning i én multimodal model. Producenten beskriver den som en samling af Instruct-, Magistral-ræsonnements- og Devstral-kodefamilierne. Den tager imod tekst og billeder og returnerer tekst med funktionskald og JSON-output til værktøjsassisterede applikationer.\n\nArkitektur og centrale funktioner\n\nUdgivelsen har i alt 119 milliarder parametre og aktiverer 6,5 milliarder pr. token. Dens mixture-of-experts-arkitektur indeholder 128 eksperter, hvoraf 4 er aktive, og producenten dokumenterer et kontekstvindue på 256k. Det aktive parameterantal og antallet af eksperter beskriver modellens organisering; de er forskellige fra den mængde tekst- eller billedindhold, der indgår i én opgave.\n\nModellen tilbyder instruktions- og ræsonnementsfunktioner i samme checkpoint. Producenten identificerer også syn, efterlevelse af systemprompter og flersproget understøttelse af snesevis af sprog, herunder engelsk, fransk, spansk, tysk, italiensk, portugisisk, nederlandsk, kinesisk, japansk, koreansk og arabisk. En tekstinstruktion kan derfor spørge til et billede eller kombinere et skriftligt krav med synligt bevismateriale, mens svaret returneres som tekst.\n\nEn visuel opgave kan give en dokumentside og bede om de værdier, der er relevante for en navngiven betingelse. Hold etiketter og enheder læsbare, og angiv, om resultatet skal bevare den oprindelige ordlyd, sammenfatte den eller sammenligne den med en anden kilde. En grænsefladeopgave kan kombinere et skærmbillede med brugerens mål og bede om det relevante synlige kontrolelement og bevismaterialet bag et foreslået næste skridt.\n\nValg af instruktions- eller ræsonnementstilstand\n\nDet udgivne modelkort dokumenterer ræsonnementsindsatsen none til et øjeblikkeligt instruktionsbaseret svar og high til ræsonnement, hvor high anbefales til komplekse prompter. Valget foretages pr. anmodning inden for samme Small 4-model. En almindelig klassifikation eller kort omskrivning kan have en anden svarkontrakt end et matematisk, visuelt eller kodemæssigt problem, der kræver en udfoldet forklaring.\n\nProducenten anbefaler temperature 0.7 ved høj ræsonnementsindsats. Til none angives temperaturer mellem 0,0 og 0,7 afhængigt af opgaven. Indstillingerne beskriver de dokumenterede tilstande og gør ikke ræsonnementsindsats til en garanti for et korrekt resultat. Definer antagelserne, outputformen og det relevante kildemateriale, før du vælger, hvor meget ræsonnement opgaven kræver.\n\nTil et gennemregnet problem skal du give den fulde betingelse og bede om de vigtige, begrundede trin efterfulgt af slutudtrykket. Til en kodeopgave skal du give kravet, den berørte funktion og et konkret input; bed om den foreslåede implementering adskilt fra forklaringen og eksemplerne. Producentens brugsdemonstrationer omfatter instruktionsefterlevelse, et beregningsværktøj anvendt på et billede og visuelt ræsonnement og illustrerer dermed, hvordan tekst og visuelt bevismateriale kan indgå i disse forskellige opgaver.\n\nKodning, dokumenter og værktøjer\n\nModellen er rettet mod udforskning af kodebaser og softwareudviklingsagenter, generelle assistenter, dokumentforståelse og research. En kodeagentanmodning kan navngive modulet, der skal ændres, grænsefladen, der skal bevares, og den ønskede adfærd. Giv den relevante kildekode og dokumentation for fejlen. Modellen kan foreslå den næste operation eller en kodeændring, mens applikationen leverer adgang til kodebasen, eksekvering og feedback.\n\nTil dokumentudtrækning skal du identificere de krævede felter og repræsentationen af manglende oplysninger. En nyttig post kan adskille dokumentidentifikatoren, kildeudsagnet, det fortolkede krav og det uafklarede spørgsmål. Producentens tjenestekort angiver brugerdefineret struktureret output og besvarelse af dokumentspørgsmål; sidstnævnte bruger dokumentbehandling og OCR til at klargøre tekst og struktur før sprogmodelanalysen. Et direkte billedspørgsmål og en OCR-assisteret dokumentarbejdsgang bør bevare deres egne inputforberedelser.\n\nFunktionskald kræver tydeligt beskrevne værktøjer. Modellen vælger en funktion og opretter argumenter; applikationen udfører operationen og returnerer resultatet til det efterfølgende svar. Samme logik gælder, uanset om opgaven er et opslag, en beregning eller en kodeoperation. JSON-formatering organiserer et svar, mens et værktøjskald beder om en ekstern handling; de to bør ikke behandles som udskiftelige resultater.\n\nTjenestekortet angiver også forudsagte output, svarpræfikser, batchbehandling og agentsamtaler. Forudsagte output er nyttige, når et dokument eller en kodefil skal genskabes med kun en begrænset ændring, og resten af indholdet kendes. Angiv redigeringen og det materiale, der skal bevares. Præfiksfortsættelse bruger en kendt begyndelse på svaret, mens batchbehandling vedrører indsendelse af arbejde frem for en ekstra ræsonnementstilstand.\n\nKontekst og udgavegrænser\n\nPlanlæg den skriftlige opgave, det visuelle materiale, samtalen og det ønskede svar omkring den dokumenterede kontekst på 256k. Det udgivne brugseksempel konfigurerer en kontekst på 262.144 tokens, mens genereringseksemplet på 1.024 tokens ikke er en særskilt maksimal outputkapacitet. De læste kilder angiver ikke en selvstændig fast svarlængdegrænse, der kan erstatte den valgte opgavelængde.\n\nSmall 4 har sin egen mixture-of-experts-arkitektur med 119 milliarder parametre og hybride tilstande. Den bør ikke arve Medium 3.5's tætte arkitektur med 128 milliarder parametre eller Ministral 3's separate Instruct- og Reasoning-udgaver. Producenten udgiver også særskilte kvantiserede artefakter og artefakter til spekulativ afkodning; det er separate udrulningsartefakter frem for forskellige indholdsmodaliteter. Bevar den navngivne Small 4-udgivelse og den tilstand, der ønskes til den faktiske forklaring, strukturerede post eller det faktiske koderesultat.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "c41b56e2056ca87843d14fc9ab7b0c685ec2a0fd1ce7d9b9d6e20cdd45b3ce8d", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "da", "methods": [ { "html": "mistralai/mistral-small-2603:batchMistral Small 4 er en hybrid tekst- og billedmodel med instruktions-, ræsonnements- og kodefunktioner. Dens mixture-of-experts-udgivelse med 119 milliarder parametre aktiverer 6,5 milliarder parametre pr. token og understøtter en producentangivet kontekst på 256k, justerbar ræsonnementsindsats, JSON og funktionskald.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Mistral Small 4 kombinerer generel instruktionsefterlevelse, ræsonnement og kodning i én multimodal model. Producenten beskriver den som en samling af Instruct-, Magistral-ræsonnements- og Devstral-kodefamilierne. Den tager imod tekst og billeder og returnerer tekst med funktionskald og JSON-output til værktøjsassisterede applikationer.
Arkitektur og centrale funktioner
Udgivelsen har i alt 119 milliarder parametre og aktiverer 6,5 milliarder pr. token. Dens mixture-of-experts-arkitektur indeholder 128 eksperter, hvoraf 4 er aktive, og producenten dokumenterer et kontekstvindue på 256k. Det aktive parameterantal og antallet af eksperter beskriver modellens organisering; de er forskellige fra den mængde tekst- eller billedindhold, der indgår i én opgave.
Modellen tilbyder instruktions- og ræsonnementsfunktioner i samme checkpoint. Producenten identificerer også syn, efterlevelse af systemprompter og flersproget understøttelse af snesevis af sprog, herunder engelsk, fransk, spansk, tysk, italiensk, portugisisk, nederlandsk, kinesisk, japansk, koreansk og arabisk. En tekstinstruktion kan derfor spørge til et billede eller kombinere et skriftligt krav med synligt bevismateriale, mens svaret returneres som tekst.
En visuel opgave kan give en dokumentside og bede om de værdier, der er relevante for en navngiven betingelse. Hold etiketter og enheder læsbare, og angiv, om resultatet skal bevare den oprindelige ordlyd, sammenfatte den eller sammenligne den med en anden kilde. En grænsefladeopgave kan kombinere et skærmbillede med brugerens mål og bede om det relevante synlige kontrolelement og bevismaterialet bag et foreslået næste skridt.
Valg af instruktions- eller ræsonnementstilstand
Det udgivne modelkort dokumenterer ræsonnementsindsatsen none til et øjeblikkeligt instruktionsbaseret svar og high til ræsonnement, hvor high anbefales til komplekse prompter. Valget foretages pr. anmodning inden for samme Small 4-model. En almindelig klassifikation eller kort omskrivning kan have en anden svarkontrakt end et matematisk, visuelt eller kodemæssigt problem, der kræver en udfoldet forklaring.
Producenten anbefaler temperature 0.7 ved høj ræsonnementsindsats. Til none angives temperaturer mellem 0,0 og 0,7 afhængigt af opgaven. Indstillingerne beskriver de dokumenterede tilstande og gør ikke ræsonnementsindsats til en garanti for et korrekt resultat. Definer antagelserne, outputformen og det relevante kildemateriale, før du vælger, hvor meget ræsonnement opgaven kræver.
Til et gennemregnet problem skal du give den fulde betingelse og bede om de vigtige, begrundede trin efterfulgt af slutudtrykket. Til en kodeopgave skal du give kravet, den berørte funktion og et konkret input; bed om den foreslåede implementering adskilt fra forklaringen og eksemplerne. Producentens brugsdemonstrationer omfatter instruktionsefterlevelse, et beregningsværktøj anvendt på et billede og visuelt ræsonnement og illustrerer dermed, hvordan tekst og visuelt bevismateriale kan indgå i disse forskellige opgaver.
Kodning, dokumenter og værktøjer
Modellen er rettet mod udforskning af kodebaser og softwareudviklingsagenter, generelle assistenter, dokumentforståelse og research. En kodeagentanmodning kan navngive modulet, der skal ændres, grænsefladen, der skal bevares, og den ønskede adfærd. Giv den relevante kildekode og dokumentation for fejlen. Modellen kan foreslå den næste operation eller en kodeændring, mens applikationen leverer adgang til kodebasen, eksekvering og feedback.
Til dokumentudtrækning skal du identificere de krævede felter og repræsentationen af manglende oplysninger. En nyttig post kan adskille dokumentidentifikatoren, kildeudsagnet, det fortolkede krav og det uafklarede spørgsmål. Producentens tjenestekort angiver brugerdefineret struktureret output og besvarelse af dokumentspørgsmål; sidstnævnte bruger dokumentbehandling og OCR til at klargøre tekst og struktur før sprogmodelanalysen. Et direkte billedspørgsmål og en OCR-assisteret dokumentarbejdsgang bør bevare deres egne inputforberedelser.
Funktionskald kræver tydeligt beskrevne værktøjer. Modellen vælger en funktion og opretter argumenter; applikationen udfører operationen og returnerer resultatet til det efterfølgende svar. Samme logik gælder, uanset om opgaven er et opslag, en beregning eller en kodeoperation. JSON-formatering organiserer et svar, mens et værktøjskald beder om en ekstern handling; de to bør ikke behandles som udskiftelige resultater.
Tjenestekortet angiver også forudsagte output, svarpræfikser, batchbehandling og agentsamtaler. Forudsagte output er nyttige, når et dokument eller en kodefil skal genskabes med kun en begrænset ændring, og resten af indholdet kendes. Angiv redigeringen og det materiale, der skal bevares. Præfiksfortsættelse bruger en kendt begyndelse på svaret, mens batchbehandling vedrører indsendelse af arbejde frem for en ekstra ræsonnementstilstand.
Kontekst og udgavegrænser
Planlæg den skriftlige opgave, det visuelle materiale, samtalen og det ønskede svar omkring den dokumenterede kontekst på 256k. Det udgivne brugseksempel konfigurerer en kontekst på 262.144 tokens, mens genereringseksemplet på 1.024 tokens ikke er en særskilt maksimal outputkapacitet. De læste kilder angiver ikke en selvstændig fast svarlængdegrænse, der kan erstatte den valgte opgavelængde.
Small 4 har sin egen mixture-of-experts-arkitektur med 119 milliarder parametre og hybride tilstande. Den bør ikke arve Medium 3.5's tætte arkitektur med 128 milliarder parametre eller Ministral 3's separate Instruct- og Reasoning-udgaver. Producenten udgiver også særskilte kvantiserede artefakter og artefakter til spekulativ afkodning; det er separate udrulningsartefakter frem for forskellige indholdsmodaliteter. Bevar den navngivne Small 4-udgivelse og den tilstand, der ønskes til den faktiske forklaring, strukturerede post eller det faktiske koderesultat.
POST /v1/batchestexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltendpoint | Typestring | KravPåkrævet | Værdier og grænser /v1/chat/completions | Standard— |
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser mistralai/mistral-small-2603:batch | Standard— |
Feltrequests | Typebatch_item[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltrequests[].custom_id | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltrequests[].body.messages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltcompletion_window | Typestring | KravValgfrit | Værdier og grænser 24h | Standard— |
Feltprovider | Typeobject|null | KravValgfrit | Værdier og grænser | Standard— |
Feltrequests[].body.model | Typestring | KravValgfrit | Værdier og grænser mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603 | Standard— |
Feltprovider.only | Typestring[] | KravValgfrit | Værdier og grænser mistral | Standard— |
Feltprovider.allow_fallbacks | Typeboolean|null | KravValgfrit | Værdier og grænser false, null | Standard— |
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktendpoint, model, requests |
Parametermaterial_types | Kontrakttext |
Parameterrepresentation | Kontraktrequests[] direkte i anmodningen; hvert element har custom_id og body |
Parameterrequest_endpoint_profile | Kontrakt/v1/chat/completions |
Parameterfile_material | KontraktDen kaldende part kan læse det faktiske JSONL-indhold i UTF-8 lokalt ind i requests[]. Der angives hverken purpose til upload, input_file_id eller en filreference. Hvis kundematerialet mangler eller er tomt, stoppes forberedelsen før POST. |
Parameterserialization_order | Kontraktendpoint, model, provider (hvis angivet), completion_window (hvis angivet), requests til sidst |
Parameteroptional_controls | Kontraktprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | KontraktAnmodningsindhold for Chat Completions med tekst i den dokumenterede inline Batch-struktur. |
Livscyklus: asynchronous
GET /v1/batches/{operation_id} · det faktiske response.id fra den oprindelige oprettelse; samme bruger/nøgle/gruppe
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.00015 / 1K tokens Output · Outputtokens $0.0006 / 1K tokens Input · Cachelæsning $0.000015 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.00015 / 1K tokens Output · Outputtokens $0.0006 / 1K tokens Input · Cachelæsning $0.000015 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nJSON direkte i results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nGem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Gem hele den oprindelige status i JSON, hvert resultat/custom_id og det fulde svar- eller fejlindhold. Gem færdige results[] som JSONL uden filtrering.
Gem det oprindelige operations-ID. 503 result_pending_check har X-Should-Retry:false; send aldrig en oprindelig batch igen, hvis dens udfald er ukendt.
| Felt | Type |
|---|---|
Feltresults[].custom_id | Typestring |
Feltresults[].response.body.choices[].message.content | Typestring|null |
Feltresults[].error | Typeobject|null |
Feltusage | Typeobject|null |
Feltid | Typestring |
Feltmodel | Typestring |
Feltendpoint | Typestring |
Feltstatus | Typestring |
Feltrequest_counts | Typeobject |
Feltresults[].id | Typestring |
Feltresults[].response.status_code | Typeinteger |
Feltresults[].response.request_id | Typestring |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldig dokumenteret inline-struktur, dublerede nøgler, ugyldig elementidentitet eller konflikt med modellens konfigurerede funktioner. | Næste trinRet de angivne felter, før du sender en ny anmodning. |
Svar401 · authentication_error | BetingelseUgyldig API-nøgle. | Næste trinBrug den godkendte Ailoot-nøgle. |
Svar403 · permission_error | BetingelseBatch-gruppen er ikke tilgængelig. | Næste trinKontrollér nøglens/gruppens adgangsrettigheder. |
Svar422 · invalid_request_error | BetingelseBatch afregnes via saldoen; oprettelse via et abonnement afvises. | Næste trinBrug den godkendte gruppe med saldoafregning. |
Svar422 · price_unavailable | BetingelseDer kan ikke beregnes en pris for Batch-inputtet. | Næste trinGem svaret; brug det dokumenterede input for API-familien. |
Svar402 · billing_error | BetingelseReservationen til Batch er ikke tilgængelig. | Næste trinAfklar adgangen, før du sender en ny anmodning. |
Svar503 · price_unavailable | BetingelsePrisen for Batch-metoden eller de native satser er ikke tilgængelige. | Næste trinGem svaret; erstat ikke priserne med andre priser. |
Svar503 · api_error | BetingelseDen præcise leverandørrute er ikke tilgængelig. | Næste trinGem svaret, så ruten kan repareres. |
Svar503 · result_pending_check | BetingelseDet oprindelige resultat skal kontrolleres; X-Should-Retry:false. | Næste trinGem det oprindelige operation_id/id, og læs dets status; gentag aldrig den oprindelige POST. |
Svar404 · not_found | BetingelseOperationen til Batch-status findes ikke eller tilhører en anden identitet. | Næste trinBrug det nøjagtige oprindelige id og samme bruger/nøgle/gruppe. |
Ailoot Ultra mistralai/mistral-small-2603:batch
Brug metodestierne vist ovenfor.