Mistral Small 4 spája všeobecné dodržiavanie pokynov, uvažovanie a programovanie v jedinom multimodálnom modeli. Výrobca ho opisuje ako zjednotenie rodín Instruct, Magistral na uvažovanie a Devstral na programovanie. Prijíma text a obrázky a vracia text, pričom pre aplikácie s nástrojmi sú dostupné volania funkcií a výstup JSON.
Architektúra a hlavné funkcie
Vydanie má celkovo 119 miliárd parametrov a aktivuje 6,5 miliardy na token. Jeho architektúra zmesi expertov obsahuje 128 expertov, z toho 4 aktívnych, a výrobca dokumentuje kontextové okno 256k. Počet aktívnych parametrov a počet expertov opisujú organizáciu modelu; odlišujú sa od množstva textového alebo obrazového obsahu zahrnutého v jednej úlohe.
Model poskytuje plnenie pokynov a uvažovanie v tom istom kontrolnom bode. Výrobca identifikuje aj vizuálne schopnosti, dodržiavanie systémového promptu a viacjazyčnú podporu desiatok jazykov vrátane angličtiny, francúzštiny, španielčiny, nemčiny, taliančiny, portugalčiny, holandčiny, čínštiny, japončiny, kórejčiny a arabčiny. Textový pokyn sa preto môže pýtať na obrázok alebo spájať písomnú požiadavku s viditeľnými dôkazmi, pričom odpoveď sa vráti ako text.
Vizuálna úloha môže dodať stránku dokumentu a žiadať hodnoty relevantné pre pomenovanú podmienku. Označenia a jednotky ponechajte čitateľné a uveďte, či má výsledok zachovať pôvodné znenie, zhrnúť ho alebo porovnať s iným zdrojom. Úloha s rozhraním môže spojiť snímku obrazovky s cieľom používateľa a žiadať relevantný viditeľný ovládací prvok a dôkazy podporujúce navrhovaný ďalší krok.
Výber režimu pokynov alebo uvažovania
Vydaná karta dokumentuje intenzitu uvažovania none pre okamžitú odpoveď v štýle plnenia pokynov a high pre uvažovanie, pričom high odporúča pre zložité prompty. Výber sa vykonáva pre každú požiadavku v rámci toho istého modelu Small 4. Bežná klasifikácia alebo krátke preformulovanie môže mať iné požiadavky na odpoveď než matematický, vizuálny alebo programovací problém, ktorý potrebuje rozvinuté vysvetlenie.
Výrobca odporúča temperature 0.7 pri vysokej intenzite uvažovania. Pri none určuje teploty od 0.0 do 0.7 podľa úlohy. Tieto nastavenia opisujú zdokumentované režimy a nemenia intenzitu uvažovania na záruku správneho výsledku. Pred výberom potrebnej miery uvažovania definujte predpoklady, podobu výstupu a relevantné zdrojové materiály.
Pri riešenom probléme dodajte úplné zadanie a žiadajte dôležité odôvodnené kroky nasledované konečným výrazom. Pri úlohe s kódom dodajte požiadavku, dotknutú funkciu a konkrétny vstup; navrhovanú implementáciu žiadajte oddelene od vysvetlenia a príkladov. Ukážky použitia výrobcu zahŕňajú dodržiavanie pokynov, výpočtový nástroj použitý na obrázok a vizuálne uvažovanie, čím ilustrujú, ako môžu textové a vizuálne dôkazy vstupovať do týchto rôznych úloh.
Programovanie, dokumenty a nástroje
Model je určený na skúmanie kódovej základne a agentov softvérového inžinierstva, všeobecných asistentov, porozumenie dokumentom a výskum. Požiadavka pre programovacieho agenta môže pomenovať modul na zmenu, rozhranie na zachovanie a správanie, ktoré má nastať. Dodajte relevantné zdroje a dôkazy zlyhania. Model môže navrhnúť ďalšiu operáciu alebo zmenu kódu, zatiaľ čo aplikácia poskytuje prístup k repozitáru, vykonávanie a spätnú väzbu.
Pri extrakcii z dokumentu identifikujte povinné polia a spôsob zápisu chýbajúcich informácií. Užitočný záznam môže oddeliť identifikátor dokumentu, zdrojové tvrdenie, interpretovanú požiadavku a nevyriešenú otázku. Karta služby výrobcu uvádza vlastný štruktúrovaný výstup a odpovedanie na otázky o dokumentoch; druhá funkcia používa spracovanie dokumentu a OCR na prípravu textu a štruktúry pred analýzou jazykovým modelom. Priama otázka k obrázku a dokumentový postup s pomocou OCR by si mali zachovať vlastnú prípravu vstupu.
Volanie funkcií vyžaduje jasne opísané nástroje. Model vyberie funkciu a vytvorí argumenty; aplikácia vykoná operáciu a vráti jej výsledok pre nasledujúcu odpoveď. Rovnaká logika platí pri vyhľadávaní, výpočte aj programovacej operácii. Formátovanie JSON usporadúva odpoveď, zatiaľ čo volanie nástroja žiada externú akciu; tieto dva výsledky nemožno považovať za zameniteľné.
Karta služby uvádza aj predikované výstupy, prefixy odpovedí, dávkovanie a agentové konverzácie. Predikované výstupy sú užitočné, keď treba dokument alebo súbor kódu znovu vygenerovať iba s obmedzenou zmenou a zvyšok obsahu je známy. Určite úpravu a materiál na zachovanie. Pokračovanie prefixu používa známy začiatok odpovede, zatiaľ čo dávkovanie sa týka odosielania práce, nie ďalšieho režimu uvažovania.
Hranice kontextu a edície
Písomnú úlohu, vizuálne materiály, konverzáciu a požadovanú odpoveď plánujte podľa zdokumentovaného kontextu 256k. Vydaný príklad použitia nastavuje kontext 262 144 tokenov, zatiaľ čo jeho príklad generovania s 1 024 tokenmi nie je samostatnou maximálnou kapacitou výstupu. Prečítané zdroje neposkytujú nezávislý pevný limit dĺžky odpovede, ktorým by sa nahradila zvolená dĺžka úlohy.
Small 4 má vlastnú architektúru zmesi expertov so 119 miliardami parametrov a hybridné režimy. Nemal by preberať hustú architektúru 128B modelu Medium 3.5 ani samostatné edície Instruct a Reasoning modelu Ministral 3. Výrobca vydáva aj samostatné kvantizované artefakty a artefakty špekulatívneho dekódovania; ide o samostatné artefakty nasadenia, nie odlišné modality obsahu. Zachovajte pomenované vydanie Small 4 a režim požadovaný pre skutočné vysvetlenie, štruktúrovaný záznam alebo výsledný kód.
", "aboutText": "Mistral Small 4 spája všeobecné dodržiavanie pokynov, uvažovanie a programovanie v jedinom multimodálnom modeli. Výrobca ho opisuje ako zjednotenie rodín Instruct, Magistral na uvažovanie a Devstral na programovanie. Prijíma text a obrázky a vracia text, pričom pre aplikácie s nástrojmi sú dostupné volania funkcií a výstup JSON.\n\nArchitektúra a hlavné funkcie\n\nVydanie má celkovo 119 miliárd parametrov a aktivuje 6,5 miliardy na token. Jeho architektúra zmesi expertov obsahuje 128 expertov, z toho 4 aktívnych, a výrobca dokumentuje kontextové okno 256k. Počet aktívnych parametrov a počet expertov opisujú organizáciu modelu; odlišujú sa od množstva textového alebo obrazového obsahu zahrnutého v jednej úlohe.\n\nModel poskytuje plnenie pokynov a uvažovanie v tom istom kontrolnom bode. Výrobca identifikuje aj vizuálne schopnosti, dodržiavanie systémového promptu a viacjazyčnú podporu desiatok jazykov vrátane angličtiny, francúzštiny, španielčiny, nemčiny, taliančiny, portugalčiny, holandčiny, čínštiny, japončiny, kórejčiny a arabčiny. Textový pokyn sa preto môže pýtať na obrázok alebo spájať písomnú požiadavku s viditeľnými dôkazmi, pričom odpoveď sa vráti ako text.\n\nVizuálna úloha môže dodať stránku dokumentu a žiadať hodnoty relevantné pre pomenovanú podmienku. Označenia a jednotky ponechajte čitateľné a uveďte, či má výsledok zachovať pôvodné znenie, zhrnúť ho alebo porovnať s iným zdrojom. Úloha s rozhraním môže spojiť snímku obrazovky s cieľom používateľa a žiadať relevantný viditeľný ovládací prvok a dôkazy podporujúce navrhovaný ďalší krok.\n\nVýber režimu pokynov alebo uvažovania\n\nVydaná karta dokumentuje intenzitu uvažovania none pre okamžitú odpoveď v štýle plnenia pokynov a high pre uvažovanie, pričom high odporúča pre zložité prompty. Výber sa vykonáva pre každú požiadavku v rámci toho istého modelu Small 4. Bežná klasifikácia alebo krátke preformulovanie môže mať iné požiadavky na odpoveď než matematický, vizuálny alebo programovací problém, ktorý potrebuje rozvinuté vysvetlenie.\n\nVýrobca odporúča temperature 0.7 pri vysokej intenzite uvažovania. Pri none určuje teploty od 0.0 do 0.7 podľa úlohy. Tieto nastavenia opisujú zdokumentované režimy a nemenia intenzitu uvažovania na záruku správneho výsledku. Pred výberom potrebnej miery uvažovania definujte predpoklady, podobu výstupu a relevantné zdrojové materiály.\n\nPri riešenom probléme dodajte úplné zadanie a žiadajte dôležité odôvodnené kroky nasledované konečným výrazom. Pri úlohe s kódom dodajte požiadavku, dotknutú funkciu a konkrétny vstup; navrhovanú implementáciu žiadajte oddelene od vysvetlenia a príkladov. Ukážky použitia výrobcu zahŕňajú dodržiavanie pokynov, výpočtový nástroj použitý na obrázok a vizuálne uvažovanie, čím ilustrujú, ako môžu textové a vizuálne dôkazy vstupovať do týchto rôznych úloh.\n\nProgramovanie, dokumenty a nástroje\n\nModel je určený na skúmanie kódovej základne a agentov softvérového inžinierstva, všeobecných asistentov, porozumenie dokumentom a výskum. Požiadavka pre programovacieho agenta môže pomenovať modul na zmenu, rozhranie na zachovanie a správanie, ktoré má nastať. Dodajte relevantné zdroje a dôkazy zlyhania. Model môže navrhnúť ďalšiu operáciu alebo zmenu kódu, zatiaľ čo aplikácia poskytuje prístup k repozitáru, vykonávanie a spätnú väzbu.\n\nPri extrakcii z dokumentu identifikujte povinné polia a spôsob zápisu chýbajúcich informácií. Užitočný záznam môže oddeliť identifikátor dokumentu, zdrojové tvrdenie, interpretovanú požiadavku a nevyriešenú otázku. Karta služby výrobcu uvádza vlastný štruktúrovaný výstup a odpovedanie na otázky o dokumentoch; druhá funkcia používa spracovanie dokumentu a OCR na prípravu textu a štruktúry pred analýzou jazykovým modelom. Priama otázka k obrázku a dokumentový postup s pomocou OCR by si mali zachovať vlastnú prípravu vstupu.\n\nVolanie funkcií vyžaduje jasne opísané nástroje. Model vyberie funkciu a vytvorí argumenty; aplikácia vykoná operáciu a vráti jej výsledok pre nasledujúcu odpoveď. Rovnaká logika platí pri vyhľadávaní, výpočte aj programovacej operácii. Formátovanie JSON usporadúva odpoveď, zatiaľ čo volanie nástroja žiada externú akciu; tieto dva výsledky nemožno považovať za zameniteľné.\n\nKarta služby uvádza aj predikované výstupy, prefixy odpovedí, dávkovanie a agentové konverzácie. Predikované výstupy sú užitočné, keď treba dokument alebo súbor kódu znovu vygenerovať iba s obmedzenou zmenou a zvyšok obsahu je známy. Určite úpravu a materiál na zachovanie. Pokračovanie prefixu používa známy začiatok odpovede, zatiaľ čo dávkovanie sa týka odosielania práce, nie ďalšieho režimu uvažovania.\n\nHranice kontextu a edície\n\nPísomnú úlohu, vizuálne materiály, konverzáciu a požadovanú odpoveď plánujte podľa zdokumentovaného kontextu 256k. Vydaný príklad použitia nastavuje kontext 262 144 tokenov, zatiaľ čo jeho príklad generovania s 1 024 tokenmi nie je samostatnou maximálnou kapacitou výstupu. Prečítané zdroje neposkytujú nezávislý pevný limit dĺžky odpovede, ktorým by sa nahradila zvolená dĺžka úlohy.\n\nSmall 4 má vlastnú architektúru zmesi expertov so 119 miliardami parametrov a hybridné režimy. Nemal by preberať hustú architektúru 128B modelu Medium 3.5 ani samostatné edície Instruct a Reasoning modelu Ministral 3. Výrobca vydáva aj samostatné kvantizované artefakty a artefakty špekulatívneho dekódovania; ide o samostatné artefakty nasadenia, nie odlišné modality obsahu. Zachovajte pomenované vydanie Small 4 a režim požadovaný pre skutočné vysvetlenie, štruktúrovaný záznam alebo výsledný kód.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "744445cab3a8e0255ca1609b39585dcb6d54e50da54836959194ae6202dfe194", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "sk", "methods": [ { "html": "mistralai/mistral-small-2603:batchMistral Small 4 je hybridný model na prácu s textom a obrázkami so schopnosťami plnenia pokynov, uvažovania a programovania. Jeho vydanie zmesi expertov so 119 miliardami parametrov aktivuje 6,5 miliardy parametrov na token a podporuje kontext 256k uvádzaný výrobcom, voliteľnú intenzitu uvažovania, JSON a volania funkcií.
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Mistral Small 4 spája všeobecné dodržiavanie pokynov, uvažovanie a programovanie v jedinom multimodálnom modeli. Výrobca ho opisuje ako zjednotenie rodín Instruct, Magistral na uvažovanie a Devstral na programovanie. Prijíma text a obrázky a vracia text, pričom pre aplikácie s nástrojmi sú dostupné volania funkcií a výstup JSON.
Architektúra a hlavné funkcie
Vydanie má celkovo 119 miliárd parametrov a aktivuje 6,5 miliardy na token. Jeho architektúra zmesi expertov obsahuje 128 expertov, z toho 4 aktívnych, a výrobca dokumentuje kontextové okno 256k. Počet aktívnych parametrov a počet expertov opisujú organizáciu modelu; odlišujú sa od množstva textového alebo obrazového obsahu zahrnutého v jednej úlohe.
Model poskytuje plnenie pokynov a uvažovanie v tom istom kontrolnom bode. Výrobca identifikuje aj vizuálne schopnosti, dodržiavanie systémového promptu a viacjazyčnú podporu desiatok jazykov vrátane angličtiny, francúzštiny, španielčiny, nemčiny, taliančiny, portugalčiny, holandčiny, čínštiny, japončiny, kórejčiny a arabčiny. Textový pokyn sa preto môže pýtať na obrázok alebo spájať písomnú požiadavku s viditeľnými dôkazmi, pričom odpoveď sa vráti ako text.
Vizuálna úloha môže dodať stránku dokumentu a žiadať hodnoty relevantné pre pomenovanú podmienku. Označenia a jednotky ponechajte čitateľné a uveďte, či má výsledok zachovať pôvodné znenie, zhrnúť ho alebo porovnať s iným zdrojom. Úloha s rozhraním môže spojiť snímku obrazovky s cieľom používateľa a žiadať relevantný viditeľný ovládací prvok a dôkazy podporujúce navrhovaný ďalší krok.
Výber režimu pokynov alebo uvažovania
Vydaná karta dokumentuje intenzitu uvažovania none pre okamžitú odpoveď v štýle plnenia pokynov a high pre uvažovanie, pričom high odporúča pre zložité prompty. Výber sa vykonáva pre každú požiadavku v rámci toho istého modelu Small 4. Bežná klasifikácia alebo krátke preformulovanie môže mať iné požiadavky na odpoveď než matematický, vizuálny alebo programovací problém, ktorý potrebuje rozvinuté vysvetlenie.
Výrobca odporúča temperature 0.7 pri vysokej intenzite uvažovania. Pri none určuje teploty od 0.0 do 0.7 podľa úlohy. Tieto nastavenia opisujú zdokumentované režimy a nemenia intenzitu uvažovania na záruku správneho výsledku. Pred výberom potrebnej miery uvažovania definujte predpoklady, podobu výstupu a relevantné zdrojové materiály.
Pri riešenom probléme dodajte úplné zadanie a žiadajte dôležité odôvodnené kroky nasledované konečným výrazom. Pri úlohe s kódom dodajte požiadavku, dotknutú funkciu a konkrétny vstup; navrhovanú implementáciu žiadajte oddelene od vysvetlenia a príkladov. Ukážky použitia výrobcu zahŕňajú dodržiavanie pokynov, výpočtový nástroj použitý na obrázok a vizuálne uvažovanie, čím ilustrujú, ako môžu textové a vizuálne dôkazy vstupovať do týchto rôznych úloh.
Programovanie, dokumenty a nástroje
Model je určený na skúmanie kódovej základne a agentov softvérového inžinierstva, všeobecných asistentov, porozumenie dokumentom a výskum. Požiadavka pre programovacieho agenta môže pomenovať modul na zmenu, rozhranie na zachovanie a správanie, ktoré má nastať. Dodajte relevantné zdroje a dôkazy zlyhania. Model môže navrhnúť ďalšiu operáciu alebo zmenu kódu, zatiaľ čo aplikácia poskytuje prístup k repozitáru, vykonávanie a spätnú väzbu.
Pri extrakcii z dokumentu identifikujte povinné polia a spôsob zápisu chýbajúcich informácií. Užitočný záznam môže oddeliť identifikátor dokumentu, zdrojové tvrdenie, interpretovanú požiadavku a nevyriešenú otázku. Karta služby výrobcu uvádza vlastný štruktúrovaný výstup a odpovedanie na otázky o dokumentoch; druhá funkcia používa spracovanie dokumentu a OCR na prípravu textu a štruktúry pred analýzou jazykovým modelom. Priama otázka k obrázku a dokumentový postup s pomocou OCR by si mali zachovať vlastnú prípravu vstupu.
Volanie funkcií vyžaduje jasne opísané nástroje. Model vyberie funkciu a vytvorí argumenty; aplikácia vykoná operáciu a vráti jej výsledok pre nasledujúcu odpoveď. Rovnaká logika platí pri vyhľadávaní, výpočte aj programovacej operácii. Formátovanie JSON usporadúva odpoveď, zatiaľ čo volanie nástroja žiada externú akciu; tieto dva výsledky nemožno považovať za zameniteľné.
Karta služby uvádza aj predikované výstupy, prefixy odpovedí, dávkovanie a agentové konverzácie. Predikované výstupy sú užitočné, keď treba dokument alebo súbor kódu znovu vygenerovať iba s obmedzenou zmenou a zvyšok obsahu je známy. Určite úpravu a materiál na zachovanie. Pokračovanie prefixu používa známy začiatok odpovede, zatiaľ čo dávkovanie sa týka odosielania práce, nie ďalšieho režimu uvažovania.
Hranice kontextu a edície
Písomnú úlohu, vizuálne materiály, konverzáciu a požadovanú odpoveď plánujte podľa zdokumentovaného kontextu 256k. Vydaný príklad použitia nastavuje kontext 262 144 tokenov, zatiaľ čo jeho príklad generovania s 1 024 tokenmi nie je samostatnou maximálnou kapacitou výstupu. Prečítané zdroje neposkytujú nezávislý pevný limit dĺžky odpovede, ktorým by sa nahradila zvolená dĺžka úlohy.
Small 4 má vlastnú architektúru zmesi expertov so 119 miliardami parametrov a hybridné režimy. Nemal by preberať hustú architektúru 128B modelu Medium 3.5 ani samostatné edície Instruct a Reasoning modelu Ministral 3. Výrobca vydáva aj samostatné kvantizované artefakty a artefakty špekulatívneho dekódovania; ide o samostatné artefakty nasadenia, nie odlišné modality obsahu. Zachovajte pomenované vydanie Small 4 a režim požadovaný pre skutočné vysvetlenie, štruktúrovaný záznam alebo výsledný kód.
POST /v1/batchestexttext| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Poleendpoint | Typstring | PožiadavkaPovinné | Hodnoty a limity /v1/chat/completions | Predvolené— |
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity mistralai/mistral-small-2603:batch | Predvolené— |
Polerequests | Typbatch_item[] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 | Predvolené— |
Polerequests[].custom_id | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polerequests[].body.messages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polecompletion_window | Typstring | PožiadavkaVoliteľné | Hodnoty a limity 24h | Predvolené— |
Poleprovider | Typobject|null | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polerequests[].body.model | Typstring | PožiadavkaVoliteľné | Hodnoty a limity mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603 | Predvolené— |
Poleprovider.only | Typstring[] | PožiadavkaVoliteľné | Hodnoty a limity mistral | Predvolené— |
Poleprovider.allow_fallbacks | Typboolean|null | PožiadavkaVoliteľné | Hodnoty a limity false, null | Predvolené— |
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciaendpoint, model, requests |
Parametermaterial_types | Špecifikáciatext |
Parameterrepresentation | Špecifikáciapriamo vložené requests[]; každá položka obsahuje custom_id a body |
Parameterrequest_endpoint_profile | Špecifikácia/v1/chat/completions |
Parameterfile_material | ŠpecifikáciaVolajúci môže lokálne načítať skutočný súbor UTF-8 JSONL do requests[]. Nepoužíva sa účel nahrávania, input_file_id ani odkaz na súbor. Chýbajúce alebo prázdne podklady zákazníka zastavia prípravu pred POST. |
Parameterserialization_order | Špecifikáciaendpoint, model, provider (ak je zadaný), completion_window (ak je zadaný), requests na konci |
Parameteroptional_controls | Špecifikáciaprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | ŠpecifikáciaTelá textových požiadaviek Chat Completions v zdokumentovanom obale dávky s priamo vloženými požiadavkami. |
Životný cyklus: asynchronous
GET /v1/batches/{operation_id} · skutočná hodnota response.id z pôvodnej odpovede na vytvorenie; rovnaký používateľ/kľúč/skupina
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
Každý poplatok priraďte k zobrazeným podmienkam. Pre každú skupinu alternatívnych konfigurácií použite jednu sadzbu.
| Konfigurácia | Sadzobník | Počet tokenov kontextu väčší než | Tokeny kontextu, najviac (vrátane hranice) | Poplatok |
|---|---|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Počet tokenov kontextu väčší než— | Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice | Poplatok Vstup · Vstupné tokeny $0.00015 / 1K tokenov Výstup · Výstupné tokeny $0.0006 / 1K tokenov Vstup · Čítanie cache $0.000015 / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
| KonfiguráciaPásmo dĺžky požiadavky 1 | Sadzobník— | Počet tokenov kontextu väčší než0 | Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice | Poplatok Vstup · Vstupné tokeny $0.00015 / 1K tokenov Výstup · Výstupné tokeny $0.0006 / 1K tokenov Vstup · Čítanie cache $0.000015 / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nJSON priamo vložený v results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nUložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Uchovajte úplný pôvodný stav vo formáte JSON, každý výsledok/custom_id a úplné telo odpovede alebo chyby. Dokončené results[] uložte ako JSONL bez filtrovania.
Uchovajte pôvodné ID operácie. Odpoveď 503 result_pending_check obsahuje X-Should-Retry:false; pôvodnú dávku s neznámym výsledkom nikdy znova neodosielajte.
| Pole | Typ |
|---|---|
Poleresults[].custom_id | Typstring |
Poleresults[].response.body.choices[].message.content | Typstring|null |
Poleresults[].error | Typobject|null |
Poleusage | Typobject|null |
Poleid | Typstring |
Polemodel | Typstring |
Poleendpoint | Typstring |
Polestatus | Typstring |
Polerequest_counts | Typobject |
Poleresults[].id | Typstring |
Poleresults[].response.status_code | Typinteger |
Poleresults[].response.request_id | Typstring |
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatný zdokumentovaný obal s priamo vloženými požiadavkami, duplicitné kľúče alebo konflikt identity položky či nastavených schopností modelu. | Ďalší krokPred akýmkoľvek novým odoslaním opravte označené polia. |
Odpoveď401 · authentication_error | PodmienkaNeplatný kľúč API. | Ďalší krokPoužite kľúč Ailoot, ktorý ste oprávnení používať. |
Odpoveď403 · permission_error | PodmienkaSkupina pre dávkové spracovanie nie je dostupná. | Ďalší krokSkontrolujte oprávnenie kľúča/skupiny. |
Odpoveď422 · invalid_request_error | PodmienkaDávkové spracovanie sa účtuje zo zostatku; vytvorenie cez predplatné sa odmieta. | Ďalší krokPoužite skupinu s účtovaním zo zostatku, ktorú ste oprávnení používať. |
Odpoveď422 · price_unavailable | PodmienkaPre vstup dávky nemožno vypočítať cenovú ponuku. | Ďalší krokUchovajte odpoveď; použite zdokumentovaný vstup pre danú rodinu metód. |
Odpoveď402 · billing_error | PodmienkaRezerva pre dávkové spracovanie nie je dostupná. | Ďalší krokPred novou požiadavkou vyriešte podmienky prijatia. |
Odpoveď503 · price_unavailable | PodmienkaCena metódy dávkového spracovania alebo natívne sadzby nie sú dostupné. | Ďalší krokUchovajte odpoveď; nenahrádzajte ceny inými. |
Odpoveď503 · api_error | PodmienkaPresná trasa k dodávateľovi nie je dostupná. | Ďalší krokUchovajte odpoveď na účely opravy smerovania. |
Odpoveď503 · result_pending_check | PodmienkaPôvodný výsledok je potrebné skontrolovať; X-Should-Retry:false. | Ďalší krokUchovajte pôvodné operation_id/id a čítajte jeho stav; pôvodný POST nikdy neopakujte. |
Odpoveď404 · not_found | PodmienkaOperácia na zisťovanie stavu dávky neexistuje alebo patrí inej identite. | Ďalší krokPoužite presné pôvodné id a rovnakého používateľa/kľúč/skupinu. |
Ailoot Ultra mistralai/mistral-small-2603:batch
Použite cesty metód uvedené vyššie.