Mistral Small 4 kombinerar allmän instruktionsföljning, resonemang och kodning i en enda multimodal modell. Tillverkaren beskriver den som en förening av familjerna Instruct, Magistral för resonemang och Devstral för kodning. Den tar emot text och bilder och returnerar text, med funktionsanrop och JSON-utdata för applikationer med verktygsstöd.
Arkitektur och nyckelfunktioner
Utgåvan har totalt 119 miljarder parametrar och aktiverar 6,5 miljarder per token. Dess mixture-of-experts-arkitektur innehåller 128 experter, varav 4 aktiva, och tillverkaren dokumenterar ett kontextfönster på 256k token. Antalet aktiva parametrar och antalet experter beskriver hur modellen är organiserad; de är skilda från mängden text- eller bildinnehåll som ingår i en uppgift.
Modellen erbjuder instruktions- och resonemangsfunktioner i samma modellversion. Tillverkaren anger också bildförståelse, följsamhet till systemprompten och stöd för tiotals språk, däribland engelska, franska, spanska, tyska, italienska, portugisiska, nederländska, kinesiska, japanska, koreanska och arabiska. En textinstruktion kan därför ställa en fråga om en bild eller kombinera ett skriftligt krav med synligt underlag, med svaret returnerat som text.
En bilduppgift kan innehålla en dokumentsida och efterfråga värden som är relevanta för ett namngivet villkor. Håll etiketter och enheter läsbara och ange om resultatet ska bevara originalets ordalydelse, sammanfatta den eller jämföra den med en annan källa. En gränssnittsuppgift kan kombinera en skärmbild med användarens mål och efterfråga den relevanta synliga kontrollen och underlaget som stöder ett föreslaget nästa steg.
Val av instruktions- eller resonemangsläge
Det publicerade modellkortet dokumenterar resonemangsinsatsen none för ett omedelbart instruktionsbaserat svar och high för resonemang, med high rekommenderat för komplexa prompter. Valet görs per begäran inom samma Small 4-modell. En vanlig klassificering eller kort omskrivning kan ha ett annat svarskontrakt än ett matematiskt problem, bildproblem eller kodproblem som behöver en utvecklad förklaring.
Tillverkaren rekommenderar temperatur 0.7 för hög resonemangsinsats. För none anges temperaturer mellan 0.0 och 0.7 beroende på uppgiften. Inställningarna beskriver de dokumenterade lägena och gör inte resonemangsinsats till en garanti för ett korrekt resultat. Definiera antaganden, utdataform och relevant källmaterial innan du väljer hur mycket resonemang uppgiften kräver.
För ett genomarbetat problem tillhandahåller du hela villkoret och begär de viktiga motiverade stegen följda av det slutliga uttrycket. För en koduppgift tillhandahåller du kravet, den berörda funktionen och konkreta indata; begär den föreslagna implementationen separat från förklaringen och exemplen. Tillverkarens användningsdemonstrationer omfattar instruktionsföljning, ett beräkningsverktyg tillämpat på en bild och visuellt resonemang, vilket illustrerar hur text- och bildunderlag kan ingå i dessa olika uppgifter.
Kodning, dokument och verktyg
Modellen positioneras för utforskning av kodbaser och mjukvaruutvecklingsagenter, allmänna assistenter, dokumentförståelse och forskning. En begäran till en kodagent kan ange modulen som ska ändras, gränssnittet som ska bevaras och beteendet som ska uppstå. Tillhandahåll relevant källkod och underlag för felet. Modellen kan föreslå nästa operation eller en kodändring, medan applikationen tillhandahåller åtkomst till kodarkivet, exekvering och återkoppling.
För dokumentextraktion identifierar du obligatoriska fält och hur saknad information ska representeras. En användbar post kan skilja dokumentidentifierare, källutsaga, tolkat krav och obesvarad fråga åt. Tillverkarens tjänstekort listar anpassade strukturerade utdata och frågor om dokument; det senare använder dokumentbearbetning och OCR för att förbereda text och struktur före språkmodellsanalysen. En direkt bildfråga och ett OCR-assisterat dokumentflöde bör behålla sina egna förberedelser av indata.
Funktionsanrop kräver tydligt beskrivna verktyg. Modellen väljer en funktion och skapar argument; applikationen kör operationen och returnerar resultatet för det efterföljande svaret. Samma logik gäller oavsett om uppgiften är en uppslagning, beräkning eller kodoperation. JSON-formatering organiserar ett svar, medan ett verktygsanrop begär en extern åtgärd; de två ska inte behandlas som utbytbara resultat.
Tjänstekortet listar också förutsagda utdata, svarsprefix, batchbearbetning och agentsamtal. Förutsagda utdata är användbara när ett dokument eller en kodfil måste återskapas med endast en begränsad ändring och resten av innehållet är känt. Ange ändringen och materialet som ska bevaras. Prefixfortsättning använder en känd början på svaret, medan batchbearbetning avser inskickning av arbete snarare än ett ytterligare resonemangsläge.
Kontextens och utgåvans gränser
Planera den skriftliga uppgiften, det visuella materialet, samtalet och önskat svar utifrån den dokumenterade kontexten på 256k token. Det publicerade användningsexemplet konfigurerar en kontext på 262 144 token, medan genereringsexemplet på 1 024 token inte är en separat maximal utmatningskapacitet. De lästa källorna anger ingen oberoende strikt svarslängdsgräns som kan ersätta den valda uppgiftslängden.
Small 4 har sin egen mixture-of-experts-arkitektur med 119 miljarder parametrar och egna hybridlägen. Den ska inte ärva den täta arkitekturen med 128 miljarder parametrar från Medium 3.5 eller de separata Instruct- och Reasoning-utgåvorna av Ministral 3. Tillverkaren publicerar också separata kvantiserade leveranser och leveranser för spekulativ avkodning; de är separata driftsättningsleveranser snarare än olika innehållsmodaliteter. Bevara den namngivna utgåvan Small 4 och det läge som begärts för den faktiska förklaringen, strukturerade posten eller kodresultatet.
", "aboutText": "Mistral Small 4 kombinerar allmän instruktionsföljning, resonemang och kodning i en enda multimodal modell. Tillverkaren beskriver den som en förening av familjerna Instruct, Magistral för resonemang och Devstral för kodning. Den tar emot text och bilder och returnerar text, med funktionsanrop och JSON-utdata för applikationer med verktygsstöd.\n\nArkitektur och nyckelfunktioner\n\nUtgåvan har totalt 119 miljarder parametrar och aktiverar 6,5 miljarder per token. Dess mixture-of-experts-arkitektur innehåller 128 experter, varav 4 aktiva, och tillverkaren dokumenterar ett kontextfönster på 256k token. Antalet aktiva parametrar och antalet experter beskriver hur modellen är organiserad; de är skilda från mängden text- eller bildinnehåll som ingår i en uppgift.\n\nModellen erbjuder instruktions- och resonemangsfunktioner i samma modellversion. Tillverkaren anger också bildförståelse, följsamhet till systemprompten och stöd för tiotals språk, däribland engelska, franska, spanska, tyska, italienska, portugisiska, nederländska, kinesiska, japanska, koreanska och arabiska. En textinstruktion kan därför ställa en fråga om en bild eller kombinera ett skriftligt krav med synligt underlag, med svaret returnerat som text.\n\nEn bilduppgift kan innehålla en dokumentsida och efterfråga värden som är relevanta för ett namngivet villkor. Håll etiketter och enheter läsbara och ange om resultatet ska bevara originalets ordalydelse, sammanfatta den eller jämföra den med en annan källa. En gränssnittsuppgift kan kombinera en skärmbild med användarens mål och efterfråga den relevanta synliga kontrollen och underlaget som stöder ett föreslaget nästa steg.\n\nVal av instruktions- eller resonemangsläge\n\nDet publicerade modellkortet dokumenterar resonemangsinsatsen none för ett omedelbart instruktionsbaserat svar och high för resonemang, med high rekommenderat för komplexa prompter. Valet görs per begäran inom samma Small 4-modell. En vanlig klassificering eller kort omskrivning kan ha ett annat svarskontrakt än ett matematiskt problem, bildproblem eller kodproblem som behöver en utvecklad förklaring.\n\nTillverkaren rekommenderar temperatur 0.7 för hög resonemangsinsats. För none anges temperaturer mellan 0.0 och 0.7 beroende på uppgiften. Inställningarna beskriver de dokumenterade lägena och gör inte resonemangsinsats till en garanti för ett korrekt resultat. Definiera antaganden, utdataform och relevant källmaterial innan du väljer hur mycket resonemang uppgiften kräver.\n\nFör ett genomarbetat problem tillhandahåller du hela villkoret och begär de viktiga motiverade stegen följda av det slutliga uttrycket. För en koduppgift tillhandahåller du kravet, den berörda funktionen och konkreta indata; begär den föreslagna implementationen separat från förklaringen och exemplen. Tillverkarens användningsdemonstrationer omfattar instruktionsföljning, ett beräkningsverktyg tillämpat på en bild och visuellt resonemang, vilket illustrerar hur text- och bildunderlag kan ingå i dessa olika uppgifter.\n\nKodning, dokument och verktyg\n\nModellen positioneras för utforskning av kodbaser och mjukvaruutvecklingsagenter, allmänna assistenter, dokumentförståelse och forskning. En begäran till en kodagent kan ange modulen som ska ändras, gränssnittet som ska bevaras och beteendet som ska uppstå. Tillhandahåll relevant källkod och underlag för felet. Modellen kan föreslå nästa operation eller en kodändring, medan applikationen tillhandahåller åtkomst till kodarkivet, exekvering och återkoppling.\n\nFör dokumentextraktion identifierar du obligatoriska fält och hur saknad information ska representeras. En användbar post kan skilja dokumentidentifierare, källutsaga, tolkat krav och obesvarad fråga åt. Tillverkarens tjänstekort listar anpassade strukturerade utdata och frågor om dokument; det senare använder dokumentbearbetning och OCR för att förbereda text och struktur före språkmodellsanalysen. En direkt bildfråga och ett OCR-assisterat dokumentflöde bör behålla sina egna förberedelser av indata.\n\nFunktionsanrop kräver tydligt beskrivna verktyg. Modellen väljer en funktion och skapar argument; applikationen kör operationen och returnerar resultatet för det efterföljande svaret. Samma logik gäller oavsett om uppgiften är en uppslagning, beräkning eller kodoperation. JSON-formatering organiserar ett svar, medan ett verktygsanrop begär en extern åtgärd; de två ska inte behandlas som utbytbara resultat.\n\nTjänstekortet listar också förutsagda utdata, svarsprefix, batchbearbetning och agentsamtal. Förutsagda utdata är användbara när ett dokument eller en kodfil måste återskapas med endast en begränsad ändring och resten av innehållet är känt. Ange ändringen och materialet som ska bevaras. Prefixfortsättning använder en känd början på svaret, medan batchbearbetning avser inskickning av arbete snarare än ett ytterligare resonemangsläge.\n\nKontextens och utgåvans gränser\n\nPlanera den skriftliga uppgiften, det visuella materialet, samtalet och önskat svar utifrån den dokumenterade kontexten på 256k token. Det publicerade användningsexemplet konfigurerar en kontext på 262 144 token, medan genereringsexemplet på 1 024 token inte är en separat maximal utmatningskapacitet. De lästa källorna anger ingen oberoende strikt svarslängdsgräns som kan ersätta den valda uppgiftslängden.\n\nSmall 4 har sin egen mixture-of-experts-arkitektur med 119 miljarder parametrar och egna hybridlägen. Den ska inte ärva den täta arkitekturen med 128 miljarder parametrar från Medium 3.5 eller de separata Instruct- och Reasoning-utgåvorna av Ministral 3. Tillverkaren publicerar också separata kvantiserade leveranser och leveranser för spekulativ avkodning; de är separata driftsättningsleveranser snarare än olika innehållsmodaliteter. Bevara den namngivna utgåvan Small 4 och det läge som begärts för den faktiska förklaringen, strukturerade posten eller kodresultatet.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "e268c5e402e8f801d3c368cb3b702d63623a4ed88b72bd4505322bc2376c76c6", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "sv", "methods": [ { "html": "mistralai/mistral-small-2603:batchMistral Small 4 är en hybridmodell för text och bilder med instruktions-, resonemangs- och kodningsfunktioner. Dess mixture-of-experts-utgåva med 119 miljarder parametrar aktiverar 6,5 miljarder parametrar per token och stöder en kontext på 256k token enligt tillverkaren, valbar resonemangsinsats, JSON och funktionsanrop.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Mistral Small 4 kombinerar allmän instruktionsföljning, resonemang och kodning i en enda multimodal modell. Tillverkaren beskriver den som en förening av familjerna Instruct, Magistral för resonemang och Devstral för kodning. Den tar emot text och bilder och returnerar text, med funktionsanrop och JSON-utdata för applikationer med verktygsstöd.
Arkitektur och nyckelfunktioner
Utgåvan har totalt 119 miljarder parametrar och aktiverar 6,5 miljarder per token. Dess mixture-of-experts-arkitektur innehåller 128 experter, varav 4 aktiva, och tillverkaren dokumenterar ett kontextfönster på 256k token. Antalet aktiva parametrar och antalet experter beskriver hur modellen är organiserad; de är skilda från mängden text- eller bildinnehåll som ingår i en uppgift.
Modellen erbjuder instruktions- och resonemangsfunktioner i samma modellversion. Tillverkaren anger också bildförståelse, följsamhet till systemprompten och stöd för tiotals språk, däribland engelska, franska, spanska, tyska, italienska, portugisiska, nederländska, kinesiska, japanska, koreanska och arabiska. En textinstruktion kan därför ställa en fråga om en bild eller kombinera ett skriftligt krav med synligt underlag, med svaret returnerat som text.
En bilduppgift kan innehålla en dokumentsida och efterfråga värden som är relevanta för ett namngivet villkor. Håll etiketter och enheter läsbara och ange om resultatet ska bevara originalets ordalydelse, sammanfatta den eller jämföra den med en annan källa. En gränssnittsuppgift kan kombinera en skärmbild med användarens mål och efterfråga den relevanta synliga kontrollen och underlaget som stöder ett föreslaget nästa steg.
Val av instruktions- eller resonemangsläge
Det publicerade modellkortet dokumenterar resonemangsinsatsen none för ett omedelbart instruktionsbaserat svar och high för resonemang, med high rekommenderat för komplexa prompter. Valet görs per begäran inom samma Small 4-modell. En vanlig klassificering eller kort omskrivning kan ha ett annat svarskontrakt än ett matematiskt problem, bildproblem eller kodproblem som behöver en utvecklad förklaring.
Tillverkaren rekommenderar temperatur 0.7 för hög resonemangsinsats. För none anges temperaturer mellan 0.0 och 0.7 beroende på uppgiften. Inställningarna beskriver de dokumenterade lägena och gör inte resonemangsinsats till en garanti för ett korrekt resultat. Definiera antaganden, utdataform och relevant källmaterial innan du väljer hur mycket resonemang uppgiften kräver.
För ett genomarbetat problem tillhandahåller du hela villkoret och begär de viktiga motiverade stegen följda av det slutliga uttrycket. För en koduppgift tillhandahåller du kravet, den berörda funktionen och konkreta indata; begär den föreslagna implementationen separat från förklaringen och exemplen. Tillverkarens användningsdemonstrationer omfattar instruktionsföljning, ett beräkningsverktyg tillämpat på en bild och visuellt resonemang, vilket illustrerar hur text- och bildunderlag kan ingå i dessa olika uppgifter.
Kodning, dokument och verktyg
Modellen positioneras för utforskning av kodbaser och mjukvaruutvecklingsagenter, allmänna assistenter, dokumentförståelse och forskning. En begäran till en kodagent kan ange modulen som ska ändras, gränssnittet som ska bevaras och beteendet som ska uppstå. Tillhandahåll relevant källkod och underlag för felet. Modellen kan föreslå nästa operation eller en kodändring, medan applikationen tillhandahåller åtkomst till kodarkivet, exekvering och återkoppling.
För dokumentextraktion identifierar du obligatoriska fält och hur saknad information ska representeras. En användbar post kan skilja dokumentidentifierare, källutsaga, tolkat krav och obesvarad fråga åt. Tillverkarens tjänstekort listar anpassade strukturerade utdata och frågor om dokument; det senare använder dokumentbearbetning och OCR för att förbereda text och struktur före språkmodellsanalysen. En direkt bildfråga och ett OCR-assisterat dokumentflöde bör behålla sina egna förberedelser av indata.
Funktionsanrop kräver tydligt beskrivna verktyg. Modellen väljer en funktion och skapar argument; applikationen kör operationen och returnerar resultatet för det efterföljande svaret. Samma logik gäller oavsett om uppgiften är en uppslagning, beräkning eller kodoperation. JSON-formatering organiserar ett svar, medan ett verktygsanrop begär en extern åtgärd; de två ska inte behandlas som utbytbara resultat.
Tjänstekortet listar också förutsagda utdata, svarsprefix, batchbearbetning och agentsamtal. Förutsagda utdata är användbara när ett dokument eller en kodfil måste återskapas med endast en begränsad ändring och resten av innehållet är känt. Ange ändringen och materialet som ska bevaras. Prefixfortsättning använder en känd början på svaret, medan batchbearbetning avser inskickning av arbete snarare än ett ytterligare resonemangsläge.
Kontextens och utgåvans gränser
Planera den skriftliga uppgiften, det visuella materialet, samtalet och önskat svar utifrån den dokumenterade kontexten på 256k token. Det publicerade användningsexemplet konfigurerar en kontext på 262 144 token, medan genereringsexemplet på 1 024 token inte är en separat maximal utmatningskapacitet. De lästa källorna anger ingen oberoende strikt svarslängdsgräns som kan ersätta den valda uppgiftslängden.
Small 4 har sin egen mixture-of-experts-arkitektur med 119 miljarder parametrar och egna hybridlägen. Den ska inte ärva den täta arkitekturen med 128 miljarder parametrar från Medium 3.5 eller de separata Instruct- och Reasoning-utgåvorna av Ministral 3. Tillverkaren publicerar också separata kvantiserade leveranser och leveranser för spekulativ avkodning; de är separata driftsättningsleveranser snarare än olika innehållsmodaliteter. Bevara den namngivna utgåvan Small 4 och det läge som begärts för den faktiska förklaringen, strukturerade posten eller kodresultatet.
POST /v1/batchestexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältendpoint | Typstring | KravObligatoriskt | Värden & gränser /v1/chat/completions | Standard— |
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser mistralai/mistral-small-2603:batch | Standard— |
Fältrequests | Typbatch_item[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältrequests[].custom_id | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältrequests[].body.messages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältcompletion_window | Typstring | KravValfritt | Värden & gränser 24h | Standard— |
Fältprovider | Typobject|null | KravValfritt | Värden & gränser | Standard— |
Fältrequests[].body.model | Typstring | KravValfritt | Värden & gränser mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603 | Standard— |
Fältprovider.only | Typstring[] | KravValfritt | Värden & gränser mistral | Standard— |
Fältprovider.allow_fallbacks | Typboolean|null | KravValfritt | Värden & gränser false, null | Standard— |
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalendpoint, model, requests |
Parametermaterial_types | Avtaltext |
Parameterrepresentation | AvtalInbäddade requests[]; varje objekt har custom_id och body |
Parameterrequest_endpoint_profile | Avtal/v1/chat/completions |
Parameterfile_material | AvtalDen anropande klienten kan läsa in faktiska UTF-8 JSONL-data lokalt i requests[]. Inget uppladdningssyfte, input_file_id eller någon filreferens används. Om kundmaterial saknas eller är tomt avbryts förberedelserna före POST. |
Parameterserialization_order | Avtalendpoint, model, provider (om angivet), completion_window (om angivet), requests sist |
Parameteroptional_controls | Avtalprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | AvtalFörfrågningskroppar för Text Chat Completions i det dokumenterade inbäddade Batch-formatet. |
Livscykel: asynchronous
GET /v1/batches/{operation_id} · Det faktiska response.id från det ursprungliga skapandesvaret; samma användare/nyckel/grupp
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.00015 / 1K token Utdata · Utdatatoken $0.0006 / 1K token Indata · Cacheläsning $0.000015 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.00015 / 1K token Utdata · Utdatatoken $0.0006 / 1K token Indata · Cacheläsning $0.000015 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nJSON i inbäddade results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nBehåll varje fullständigt returnerat svar, fil och innehållsdel.
Spara hela det ursprungliga statusobjektet i JSON, varje resultat/custom_id och hela svars- eller felkroppen. Spara slutförda results[] som JSONL utan filtrering.
Behåll det ursprungliga operations-ID:t. Vid 503 result_pending_check gäller X-Should-Retry:false; skicka aldrig om en ursprunglig batch med okänt utfall.
| Fält | Typ |
|---|---|
Fältresults[].custom_id | Typstring |
Fältresults[].response.body.choices[].message.content | Typstring|null |
Fältresults[].error | Typobject|null |
Fältusage | Typobject|null |
Fältid | Typstring |
Fältmodel | Typstring |
Fältendpoint | Typstring |
Fältstatus | Typstring |
Fältrequest_counts | Typobject |
Fältresults[].id | Typstring |
Fältresults[].response.status_code | Typinteger |
Fältresults[].response.request_id | Typstring |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorFörfrågan har ett ogiltigt inbäddat format enligt dokumentationen, duplicerade nycklar eller en felaktig objektidentitet, eller står i konflikt med modellens konfigurerade funktioner. | Nästa stegRätta de angivna fälten innan du skickar en ny förfrågan. |
Svar401 · authentication_error | VillkorOgiltig API-nyckel. | Nästa stegAnvänd den behöriga Ailoot-nyckeln. |
Svar403 · permission_error | VillkorGrupp för batchkörning är inte tillgänglig. | Nästa stegKontrollera nyckelns/gruppens behörighet. |
Svar422 · invalid_request_error | VillkorBatchkörning debiteras från saldot; skapande via abonnemang avvisas. | Nästa stegAnvänd den behöriga gruppen med saldodebitering. |
Svar422 · price_unavailable | VillkorKostnaden för batchindata kan inte beräknas i förväg. | Nästa stegSpara svaret; använd det dokumenterade indataformatet för API-familjen. |
Svar402 · billing_error | VillkorReservation för batchkörning är inte tillgänglig. | Nästa stegSe till att villkoren för att godta förfrågan är uppfyllda innan du skickar en ny. |
Svar503 · price_unavailable | VillkorPriset för batchmetoden eller de inbyggda priserna är inte tillgängliga. | Nästa stegSpara svaret; ersätt inte priserna med andra. |
Svar503 · api_error | VillkorDen exakta leverantörsrutten är inte tillgänglig. | Nästa stegSpara svaret för att kunna reparera routningen. |
Svar503 · result_pending_check | VillkorDet ursprungliga resultatet behöver kontrolleras; X-Should-Retry:false. | Nästa stegBehåll det ursprungliga värdet för operation_id/id och läs av operationens status; upprepa aldrig det ursprungliga POST-anropet. |
Svar404 · not_found | VillkorOperationen för batchstatus saknas eller tillhör en annan identitet. | Nästa stegAnvänd exakt det ursprungliga id-värdet och samma användare/nyckel/grupp. |
Ailoot Ultra mistralai/mistral-small-2603:batch
Använd metodsökvägarna som visas ovan.