Mistral Small 4 spojuje obecné plnění pokynů, uvažování a programování v jediném multimodálním modelu. Výrobce jej popisuje jako sjednocení rodin Instruct, Magistral pro uvažování a Devstral pro programování. Přijímá text a obrázky a vrací text, přičemž pro aplikace s podporou nástrojů jsou dostupná volání funkcí a výstup JSON.
Architektura a hlavní funkce
Vydání má celkem 119 miliard parametrů a aktivuje 6,5 miliardy na token. Jeho architektura mixture-of-experts obsahuje 128 expertů se 4 aktivními a výrobce dokumentuje kontextové okno 256 tisíc tokenů. Počet aktivních parametrů a expertů popisuje uspořádání modelu; liší se od množství textového nebo obrazového obsahu v jedné úloze.
Model poskytuje funkce plnění pokynů a uvažování ve stejném checkpointu. Výrobce uvádí také vizuální schopnosti, dodržování systémového promptu a vícejazyčnou podporu desítek jazyků, včetně angličtiny, francouzštiny, španělštiny, němčiny, italštiny, portugalštiny, nizozemštiny, čínštiny, japonštiny, korejštiny a arabštiny. Textový pokyn se tedy může ptát na obrázek nebo spojit písemný požadavek s viditelnými podklady a odpověď se vrátí jako text.
Vizuální úloha může dodat stránku dokumentu a požadovat hodnoty relevantní pro pojmenovanou podmínku. Označení a jednotky ponechte čitelné a uveďte, zda má výsledek zachovat původní znění, shrnout je nebo porovnat s jiným zdrojem. Úloha s rozhraním může spojit snímek obrazovky s cílem uživatele a požadovat příslušný viditelný ovládací prvek a podklady podporující navržený další krok.
Volba režimu plnění pokynů nebo uvažování
Vydaná karta dokumentuje intenzitu uvažování none pro okamžitou odpověď ve stylu plnění pokynů a high pro uvažování, přičemž high doporučuje pro složité prompty. Volba se provádí pro každý požadavek v rámci stejného modelu Small 4. Běžná klasifikace nebo krátký přepis mohou mít jiný kontrakt odpovědi než matematický, vizuální či programátorský problém vyžadující rozvinuté vysvětlení.
Výrobce doporučuje teplotu 0.7 pro vysokou intenzitu uvažování. Pro none specifikuje teploty mezi 0.0 a 0.7 podle úlohy. Tato nastavení popisují zdokumentované režimy a nemění intenzitu uvažování v záruku správného výsledku. Než zvolíte množství uvažování potřebné pro úlohu, definujte předpoklady, podobu výstupu a relevantní zdrojové materiály.
Pro řešený problém dodejte úplné zadání a požadujte důležité zdůvodněné kroky následované konečným výrazem. Pro úlohu s kódem dodejte požadavek, dotčenou funkci a konkrétní vstup; navrženou implementaci požadujte odděleně od vysvětlení a příkladů. Ukázky použití výrobce zahrnují plnění pokynů, výpočetní nástroj použitý na obrázek a vizuální uvažování a ilustrují, jak mohou do těchto různých úloh vstupovat textové a vizuální podklady.
Programování, dokumenty a nástroje
Model je určen pro průzkum kódové základny a softwarové inženýrské agenty, obecné asistenty, porozumění dokumentům a výzkum. Požadavek pro programátorského agenta může pojmenovat modul ke změně, rozhraní k zachování a výsledné chování. Dodejte relevantní zdroje a doklady o selhání. Model může navrhnout další operaci nebo změnu kódu, zatímco aplikace poskytuje přístup k repozitáři, provádění a zpětnou vazbu.
Pro extrakci dokumentů určete požadovaná pole a způsob vyjádření chybějících informací. Užitečný záznam může oddělit identifikátor dokumentu, zdrojové tvrzení, vyložený požadavek a nevyřešenou otázku. Karta služby výrobce uvádí vlastní strukturovaný výstup a odpovídání na otázky k dokumentům; druhá funkce používá zpracování dokumentu a OCR k přípravě textu a struktury před analýzou jazykovým modelem. Přímá otázka k obrázku a dokumentový postup s pomocí OCR si mají zachovat vlastní přípravu vstupu.
Volání funkcí vyžaduje jasně popsané nástroje. Model vybere funkci a vytvoří argumenty; aplikace operaci provede a vrátí její výsledek pro následnou odpověď. Stejná logika platí, ať je úlohou vyhledání, výpočet nebo programátorská operace. Formátování JSON uspořádává odpověď, zatímco volání nástroje žádá externí akci; oba výsledky nelze považovat za zaměnitelné.
Karta služby uvádí také předpovězené výstupy, prefixy odpovědí, dávkové zpracování a konverzace agentů. Předpovězené výstupy jsou užitečné, když se má dokument nebo soubor kódu znovu vygenerovat pouze s omezenou změnou a zbytek obsahu je známý. Určete úpravu a materiál k zachování. Pokračování od prefixu používá známý začátek odpovědi, zatímco dávkové zpracování se týká odesílání práce, nikoli dalšího režimu uvažování.
Vymezení kontextu a edice
Písemnou úlohu, vizuální materiály, konverzaci a požadovanou odpověď plánujte podle zdokumentovaného kontextu 256 tisíc tokenů. Vydaný příklad použití nastavuje kontext 262 144 tokenů, zatímco jeho příklad generování 1 024 tokenů není samostatnou maximální výstupní kapacitou. Přečtené zdroje neposkytují nezávislý pevný limit délky odpovědi, který by nahradil zvolenou délku úlohy.
Small 4 má vlastní architekturu mixture-of-experts se 119 miliardami parametrů a hybridní režimy. Nemá přebírat hustou architekturu se 128 miliardami parametrů Medium 3.5 ani samostatné edice Instruct a Reasoning Ministral 3. Výrobce vydává také odlišné kvantizované artefakty a artefakty pro spekulativní dekódování; jde o samostatné artefakty nasazení, nikoli různé obsahové modality. Zachovejte pojmenované vydání Small 4 a režim požadovaný pro skutečné vysvětlení, strukturovaný záznam nebo výsledek kódu.
", "aboutText": "Mistral Small 4 spojuje obecné plnění pokynů, uvažování a programování v jediném multimodálním modelu. Výrobce jej popisuje jako sjednocení rodin Instruct, Magistral pro uvažování a Devstral pro programování. Přijímá text a obrázky a vrací text, přičemž pro aplikace s podporou nástrojů jsou dostupná volání funkcí a výstup JSON.\n\nArchitektura a hlavní funkce\n\nVydání má celkem 119 miliard parametrů a aktivuje 6,5 miliardy na token. Jeho architektura mixture-of-experts obsahuje 128 expertů se 4 aktivními a výrobce dokumentuje kontextové okno 256 tisíc tokenů. Počet aktivních parametrů a expertů popisuje uspořádání modelu; liší se od množství textového nebo obrazového obsahu v jedné úloze.\n\nModel poskytuje funkce plnění pokynů a uvažování ve stejném checkpointu. Výrobce uvádí také vizuální schopnosti, dodržování systémového promptu a vícejazyčnou podporu desítek jazyků, včetně angličtiny, francouzštiny, španělštiny, němčiny, italštiny, portugalštiny, nizozemštiny, čínštiny, japonštiny, korejštiny a arabštiny. Textový pokyn se tedy může ptát na obrázek nebo spojit písemný požadavek s viditelnými podklady a odpověď se vrátí jako text.\n\nVizuální úloha může dodat stránku dokumentu a požadovat hodnoty relevantní pro pojmenovanou podmínku. Označení a jednotky ponechte čitelné a uveďte, zda má výsledek zachovat původní znění, shrnout je nebo porovnat s jiným zdrojem. Úloha s rozhraním může spojit snímek obrazovky s cílem uživatele a požadovat příslušný viditelný ovládací prvek a podklady podporující navržený další krok.\n\nVolba režimu plnění pokynů nebo uvažování\n\nVydaná karta dokumentuje intenzitu uvažování none pro okamžitou odpověď ve stylu plnění pokynů a high pro uvažování, přičemž high doporučuje pro složité prompty. Volba se provádí pro každý požadavek v rámci stejného modelu Small 4. Běžná klasifikace nebo krátký přepis mohou mít jiný kontrakt odpovědi než matematický, vizuální či programátorský problém vyžadující rozvinuté vysvětlení.\n\nVýrobce doporučuje teplotu 0.7 pro vysokou intenzitu uvažování. Pro none specifikuje teploty mezi 0.0 a 0.7 podle úlohy. Tato nastavení popisují zdokumentované režimy a nemění intenzitu uvažování v záruku správného výsledku. Než zvolíte množství uvažování potřebné pro úlohu, definujte předpoklady, podobu výstupu a relevantní zdrojové materiály.\n\nPro řešený problém dodejte úplné zadání a požadujte důležité zdůvodněné kroky následované konečným výrazem. Pro úlohu s kódem dodejte požadavek, dotčenou funkci a konkrétní vstup; navrženou implementaci požadujte odděleně od vysvětlení a příkladů. Ukázky použití výrobce zahrnují plnění pokynů, výpočetní nástroj použitý na obrázek a vizuální uvažování a ilustrují, jak mohou do těchto různých úloh vstupovat textové a vizuální podklady.\n\nProgramování, dokumenty a nástroje\n\nModel je určen pro průzkum kódové základny a softwarové inženýrské agenty, obecné asistenty, porozumění dokumentům a výzkum. Požadavek pro programátorského agenta může pojmenovat modul ke změně, rozhraní k zachování a výsledné chování. Dodejte relevantní zdroje a doklady o selhání. Model může navrhnout další operaci nebo změnu kódu, zatímco aplikace poskytuje přístup k repozitáři, provádění a zpětnou vazbu.\n\nPro extrakci dokumentů určete požadovaná pole a způsob vyjádření chybějících informací. Užitečný záznam může oddělit identifikátor dokumentu, zdrojové tvrzení, vyložený požadavek a nevyřešenou otázku. Karta služby výrobce uvádí vlastní strukturovaný výstup a odpovídání na otázky k dokumentům; druhá funkce používá zpracování dokumentu a OCR k přípravě textu a struktury před analýzou jazykovým modelem. Přímá otázka k obrázku a dokumentový postup s pomocí OCR si mají zachovat vlastní přípravu vstupu.\n\nVolání funkcí vyžaduje jasně popsané nástroje. Model vybere funkci a vytvoří argumenty; aplikace operaci provede a vrátí její výsledek pro následnou odpověď. Stejná logika platí, ať je úlohou vyhledání, výpočet nebo programátorská operace. Formátování JSON uspořádává odpověď, zatímco volání nástroje žádá externí akci; oba výsledky nelze považovat za zaměnitelné.\n\nKarta služby uvádí také předpovězené výstupy, prefixy odpovědí, dávkové zpracování a konverzace agentů. Předpovězené výstupy jsou užitečné, když se má dokument nebo soubor kódu znovu vygenerovat pouze s omezenou změnou a zbytek obsahu je známý. Určete úpravu a materiál k zachování. Pokračování od prefixu používá známý začátek odpovědi, zatímco dávkové zpracování se týká odesílání práce, nikoli dalšího režimu uvažování.\n\nVymezení kontextu a edice\n\nPísemnou úlohu, vizuální materiály, konverzaci a požadovanou odpověď plánujte podle zdokumentovaného kontextu 256 tisíc tokenů. Vydaný příklad použití nastavuje kontext 262 144 tokenů, zatímco jeho příklad generování 1 024 tokenů není samostatnou maximální výstupní kapacitou. Přečtené zdroje neposkytují nezávislý pevný limit délky odpovědi, který by nahradil zvolenou délku úlohy.\n\nSmall 4 má vlastní architekturu mixture-of-experts se 119 miliardami parametrů a hybridní režimy. Nemá přebírat hustou architekturu se 128 miliardami parametrů Medium 3.5 ani samostatné edice Instruct a Reasoning Ministral 3. Výrobce vydává také odlišné kvantizované artefakty a artefakty pro spekulativní dekódování; jde o samostatné artefakty nasazení, nikoli různé obsahové modality. Zachovejte pojmenované vydání Small 4 a režim požadovaný pro skutečné vysvětlení, strukturovaný záznam nebo výsledek kódu.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "9f47804039fd16ba67be1742cee3cf24958c0deb5e8d8b1dec25ee8d388dae66", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "cs", "methods": [ { "html": "mistralai/mistral-small-2603:batchMistral Small 4 je hybridní model pro textový a obrazový vstup se schopnostmi plnění pokynů, uvažování a programování. Jeho vydání mixture-of-experts se 119 miliardami parametrů aktivuje 6,5 miliardy parametrů na token a podporuje kontext 256 tisíc tokenů uváděný výrobcem, volitelnou intenzitu uvažování, JSON a volání funkcí.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Mistral Small 4 spojuje obecné plnění pokynů, uvažování a programování v jediném multimodálním modelu. Výrobce jej popisuje jako sjednocení rodin Instruct, Magistral pro uvažování a Devstral pro programování. Přijímá text a obrázky a vrací text, přičemž pro aplikace s podporou nástrojů jsou dostupná volání funkcí a výstup JSON.
Architektura a hlavní funkce
Vydání má celkem 119 miliard parametrů a aktivuje 6,5 miliardy na token. Jeho architektura mixture-of-experts obsahuje 128 expertů se 4 aktivními a výrobce dokumentuje kontextové okno 256 tisíc tokenů. Počet aktivních parametrů a expertů popisuje uspořádání modelu; liší se od množství textového nebo obrazového obsahu v jedné úloze.
Model poskytuje funkce plnění pokynů a uvažování ve stejném checkpointu. Výrobce uvádí také vizuální schopnosti, dodržování systémového promptu a vícejazyčnou podporu desítek jazyků, včetně angličtiny, francouzštiny, španělštiny, němčiny, italštiny, portugalštiny, nizozemštiny, čínštiny, japonštiny, korejštiny a arabštiny. Textový pokyn se tedy může ptát na obrázek nebo spojit písemný požadavek s viditelnými podklady a odpověď se vrátí jako text.
Vizuální úloha může dodat stránku dokumentu a požadovat hodnoty relevantní pro pojmenovanou podmínku. Označení a jednotky ponechte čitelné a uveďte, zda má výsledek zachovat původní znění, shrnout je nebo porovnat s jiným zdrojem. Úloha s rozhraním může spojit snímek obrazovky s cílem uživatele a požadovat příslušný viditelný ovládací prvek a podklady podporující navržený další krok.
Volba režimu plnění pokynů nebo uvažování
Vydaná karta dokumentuje intenzitu uvažování none pro okamžitou odpověď ve stylu plnění pokynů a high pro uvažování, přičemž high doporučuje pro složité prompty. Volba se provádí pro každý požadavek v rámci stejného modelu Small 4. Běžná klasifikace nebo krátký přepis mohou mít jiný kontrakt odpovědi než matematický, vizuální či programátorský problém vyžadující rozvinuté vysvětlení.
Výrobce doporučuje teplotu 0.7 pro vysokou intenzitu uvažování. Pro none specifikuje teploty mezi 0.0 a 0.7 podle úlohy. Tato nastavení popisují zdokumentované režimy a nemění intenzitu uvažování v záruku správného výsledku. Než zvolíte množství uvažování potřebné pro úlohu, definujte předpoklady, podobu výstupu a relevantní zdrojové materiály.
Pro řešený problém dodejte úplné zadání a požadujte důležité zdůvodněné kroky následované konečným výrazem. Pro úlohu s kódem dodejte požadavek, dotčenou funkci a konkrétní vstup; navrženou implementaci požadujte odděleně od vysvětlení a příkladů. Ukázky použití výrobce zahrnují plnění pokynů, výpočetní nástroj použitý na obrázek a vizuální uvažování a ilustrují, jak mohou do těchto různých úloh vstupovat textové a vizuální podklady.
Programování, dokumenty a nástroje
Model je určen pro průzkum kódové základny a softwarové inženýrské agenty, obecné asistenty, porozumění dokumentům a výzkum. Požadavek pro programátorského agenta může pojmenovat modul ke změně, rozhraní k zachování a výsledné chování. Dodejte relevantní zdroje a doklady o selhání. Model může navrhnout další operaci nebo změnu kódu, zatímco aplikace poskytuje přístup k repozitáři, provádění a zpětnou vazbu.
Pro extrakci dokumentů určete požadovaná pole a způsob vyjádření chybějících informací. Užitečný záznam může oddělit identifikátor dokumentu, zdrojové tvrzení, vyložený požadavek a nevyřešenou otázku. Karta služby výrobce uvádí vlastní strukturovaný výstup a odpovídání na otázky k dokumentům; druhá funkce používá zpracování dokumentu a OCR k přípravě textu a struktury před analýzou jazykovým modelem. Přímá otázka k obrázku a dokumentový postup s pomocí OCR si mají zachovat vlastní přípravu vstupu.
Volání funkcí vyžaduje jasně popsané nástroje. Model vybere funkci a vytvoří argumenty; aplikace operaci provede a vrátí její výsledek pro následnou odpověď. Stejná logika platí, ať je úlohou vyhledání, výpočet nebo programátorská operace. Formátování JSON uspořádává odpověď, zatímco volání nástroje žádá externí akci; oba výsledky nelze považovat za zaměnitelné.
Karta služby uvádí také předpovězené výstupy, prefixy odpovědí, dávkové zpracování a konverzace agentů. Předpovězené výstupy jsou užitečné, když se má dokument nebo soubor kódu znovu vygenerovat pouze s omezenou změnou a zbytek obsahu je známý. Určete úpravu a materiál k zachování. Pokračování od prefixu používá známý začátek odpovědi, zatímco dávkové zpracování se týká odesílání práce, nikoli dalšího režimu uvažování.
Vymezení kontextu a edice
Písemnou úlohu, vizuální materiály, konverzaci a požadovanou odpověď plánujte podle zdokumentovaného kontextu 256 tisíc tokenů. Vydaný příklad použití nastavuje kontext 262 144 tokenů, zatímco jeho příklad generování 1 024 tokenů není samostatnou maximální výstupní kapacitou. Přečtené zdroje neposkytují nezávislý pevný limit délky odpovědi, který by nahradil zvolenou délku úlohy.
Small 4 má vlastní architekturu mixture-of-experts se 119 miliardami parametrů a hybridní režimy. Nemá přebírat hustou architekturu se 128 miliardami parametrů Medium 3.5 ani samostatné edice Instruct a Reasoning Ministral 3. Výrobce vydává také odlišné kvantizované artefakty a artefakty pro spekulativní dekódování; jde o samostatné artefakty nasazení, nikoli různé obsahové modality. Zachovejte pojmenované vydání Small 4 a režim požadovaný pro skutečné vysvětlení, strukturovaný záznam nebo výsledek kódu.
POST /v1/batchestexttext| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Poleendpoint | Typstring | PožadavekPovinné | Hodnoty a limity /v1/chat/completions | Výchozí— |
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity mistralai/mistral-small-2603:batch | Výchozí— |
Polerequests | Typbatch_item[] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 | Výchozí— |
Polerequests[].custom_id | Typstring | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polerequests[].body.messages | Typmessage[] | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polecompletion_window | Typstring | PožadavekVolitelné | Hodnoty a limity 24h | Výchozí— |
Poleprovider | Typobject|null | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polerequests[].body.model | Typstring | PožadavekVolitelné | Hodnoty a limity mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603 | Výchozí— |
Poleprovider.only | Typstring[] | PožadavekVolitelné | Hodnoty a limity mistral | Výchozí— |
Poleprovider.allow_fallbacks | Typboolean|null | PožadavekVolitelné | Hodnoty a limity false, null | Výchozí— |
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktendpoint, model, requests |
Parametrmaterial_types | Kontrakttext |
Parametrrepresentation | Kontraktvložené requests[]; každá položka obsahuje custom_id a body |
Parametrrequest_endpoint_profile | Kontrakt/v1/chat/completions |
Parametrfile_material | KontraktVolající může lokálně načíst skutečný soubor JSONL v kódování UTF-8 do requests[]. Nepoužívá se účel nahrání, input_file_id ani odkaz na soubor. Chybějící nebo prázdné podklady zákazníka zastaví přípravu před POST. |
Parametrserialization_order | Kontraktendpoint, model, provider (je-li uveden), completion_window (je-li uvedeno), requests nakonec |
Parametroptional_controls | Kontraktprovider.only, provider.allow_fallbacks, completion_window |
Parametrschema_scope | KontraktTěla požadavků Text Chat Completions v dokumentované obálce pro vložené dávkové požadavky Batch. |
Životní cyklus: asynchronous
GET /v1/batches/{operation_id} · skutečné response.id z původní odpovědi na vytvoření; stejný uživatel, klíč a skupina
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
Přiřaďte každý poplatek k uvedeným podmínkám. Pro každou sadu alternativních konfigurací použijte jednu sazbu.
| Konfigurace | Tabulka sazeb | Tokeny kontextu, více než | Tokeny kontextu, do uvedené hodnoty včetně | Poplatek |
|---|---|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Tokeny kontextu, více než— | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.00015 / 1K tokenů Výstup · Výstupní tokeny $0.0006 / 1K tokenů Vstup · Čtení z mezipaměti $0.000015 / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
| KonfiguracePásmo délky požadavku 1 | Tabulka sazeb— | Tokeny kontextu, více než0 | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.00015 / 1K tokenů Výstup · Výstupní tokeny $0.0006 / 1K tokenů Vstup · Čtení z mezipaměti $0.000015 / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nvložený JSON v results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nUchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Uchovejte úplný původní JSON se stavem, každý výsledek a custom_id a úplné tělo odpovědi nebo chyby. Dokončené results[] uložte jako JSONL bez filtrování.
Uchovejte původní ID operace. Odpověď 503 result_pending_check obsahuje X-Should-Retry:false; původní dávku s neznámým výsledkem nikdy znovu neodesílejte.
| Pole | Typ |
|---|---|
Poleresults[].custom_id | Typstring |
Poleresults[].response.body.choices[].message.content | Typstring|null |
Poleresults[].error | Typobject|null |
Poleusage | Typobject|null |
Poleid | Typstring |
Polemodel | Typstring |
Poleendpoint | Typstring |
Polestatus | Typstring |
Polerequest_counts | Typobject |
Poleresults[].id | Typstring |
Poleresults[].response.status_code | Typinteger |
Poleresults[].response.request_id | Typstring |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná dokumentovaná obálka vložených požadavků, duplicitní klíče, nesprávná identita položky nebo rozpor s nastavenými schopnostmi modelu. | Další krokPřed jakýmkoli novým odesláním opravte označená pole. |
Odpověď401 · authentication_error | PodmínkaNeplatný klíč API. | Další krokPoužijte autorizovaný klíč Ailoot. |
Odpověď403 · permission_error | PodmínkaSkupina pro dávkové požadavky není dostupná. | Další krokZkontrolujte oprávnění klíče a skupiny. |
Odpověď422 · invalid_request_error | PodmínkaDávkové požadavky se účtují ze zůstatku; vytvoření v rámci předplatného se odmítá. | Další krokPoužijte autorizovanou skupinu s účtováním ze zůstatku. |
Odpověď422 · price_unavailable | PodmínkaPro vstup dávky nelze vypočítat cenovou nabídku. | Další krokUchovejte odpověď; použijte dokumentovaný vstup pro danou rodinu API. |
Odpověď402 · billing_error | PodmínkaRezerva pro dávku není dostupná. | Další krokPřed novým požadavkem vyřešte podmínky přijetí. |
Odpověď503 · price_unavailable | PodmínkaCena dávkové metody nebo nativní sazby nejsou dostupné. | Další krokUchovejte odpověď; nenahrazujte ceny jinými. |
Odpověď503 · api_error | PodmínkaPřesná trasa dodavatele není dostupná. | Další krokUchovejte odpověď pro opravu směrování. |
Odpověď503 · result_pending_check | PodmínkaPůvodní výsledek vyžaduje kontrolu; X-Should-Retry:false. | Další krokUchovejte původní operation_id/id a načítejte jeho stav; původní POST nikdy neopakujte. |
Odpověď404 · not_found | PodmínkaOperace pro kontrolu stavu dávky neexistuje nebo patří jiné identitě. | Další krokPoužijte přesné původní id a stejného uživatele, klíč a skupinu. |
Ailoot Ultra mistralai/mistral-small-2603:batch
Použijte cesty metod uvedené výše.