A Mistral Small 4 egyetlen multimodális modellben egyesíti az általános utasításkövetést, a következtetést és a programozást. A gyártó az Instruct, a következtető Magistral és a programozó Devstral családok egyesítéseként írja le. Szöveget és képeket fogad, és szöveget ad vissza, az eszközzel támogatott alkalmazásokhoz pedig függvényhívások és JSON-kimenet érhető el.
Architektúra és fő funkciók
A kiadás összesen 119 milliárd paraméterrel rendelkezik, és tokenenként 6,5 milliárdot aktivál. Szakértőkeverék-architektúrája 128 szakértőt tartalmaz, amelyekből 4 aktív, a gyártó pedig 256 ezer tokenes kontextusablakot dokumentál. Az aktív paraméterszám és a szakértők száma a modell felépítését írja le; eltérnek az egy feladatban szereplő szöveges vagy képi tartalom mennyiségétől.
A modell ugyanabban a modellállapotban biztosít utasításos és következtetési funkciót. A gyártó látást, rendszerprompt-követést és több tucat nyelv támogatását is azonosítja, köztük az angolét, franciáét, spanyolét, németét, olaszét, portugálét, hollandét, kínaiét, japánét, koreaiét és arabét. Szöveges utasítás így kérdezhet képről, vagy írott követelményt látható bizonyítékkal egyesíthet, a válasz pedig szövegként tér vissza.
Vizuális feladathoz megadhatsz dokumentumoldalt, és kérheted egy megnevezett feltételhez releváns értékeket. A címkék és mértékegységek maradjanak olvashatók, és add meg, hogy az eredmény az eredeti megfogalmazást őrizze meg, összefoglalja azt, vagy másik forrással hasonlítsa össze. Felületi feladat a képernyőképet a felhasználó céljával párosíthatja, és kérheti a releváns látható vezérlőt és a javasolt következő lépést alátámasztó bizonyítékot.
Utasításos vagy következtetési mód választása
A kiadott kártya azonnali, utasításos válaszhoz none következtetési erőfeszítést, következtetéshez pedig high értéket dokumentál; a high összetett promptokhoz ajánlott. A választás kérésenként történik ugyanazon Small 4 modellen belül. Egyszerű osztályozás vagy rövid átírás más válaszszerződést igényelhet, mint egy kidolgozott magyarázatot kívánó matematikai, vizuális vagy programozási probléma.
A gyártó nagy következtetési erőfeszítéshez 0.7 temperature értéket ajánl. A none esetén a feladattól függően 0.0 és 0.7 közötti temperature értékeket ad meg. E beállítások a dokumentált módokat írják le, és nem teszik a következtetési erőfeszítést a helyes eredmény garanciájává. Határozd meg a feltételezéseket, kimeneti formát és releváns forrásanyagot, mielőtt eldöntenéd, mennyi következtetést igényel a feladat.
Kidolgozandó problémához add meg a teljes feltételt, és kérd a fontos indokolt lépéseket, majd a végső kifejezést. Kódfeladathoz add meg a követelményt, az érintett függvényt és egy konkrét bemenetet; a javasolt megvalósítást külön kérd a magyarázattól és a példáktól. A gyártó használati bemutatói utasításkövetést, képre alkalmazott számítási eszközt és vizuális következtetést tartalmaznak, szemléltetve, hogyan kerülhet szöveges és vizuális bizonyíték e különböző feladatokba.
Programozás, dokumentumok és eszközök
A modellt kódbázis-feltáráshoz és szoftverfejlesztő ügynökökhöz, általános asszisztensekhez, dokumentumértelmezéshez és kutatáshoz ajánlják. Programozóügynök-kérés megnevezheti a módosítandó modult, a megőrzendő interfészt és az elvárt működést. Mellékeld a releváns forrást és a hiba bizonyítékát. A modell javasolhat következő műveletet vagy kódmódosítást, míg az alkalmazás biztosítja a kódtárhozzáférést, a végrehajtást és a visszajelzést.
Dokumentumkinyeréshez azonosítsd a kötelező mezőket és a hiányzó információ jelölését. Egy hasznos rekord elkülönítheti a dokumentumazonosítót, a forrás állítását, az értelmezett követelményt és a nyitott kérdést. A gyártó szolgáltatási kártyája egyéni strukturált kimenetet és dokumentumalapú kérdésmegválaszolást sorol fel; utóbbi dokumentumfeldolgozással és OCR-rel készít elő szöveget és szerkezetet a nyelvimodell-elemzés előtt. A közvetlen képi kérdés és az OCR-rel támogatott dokumentum-munkafolyamat őrizze meg saját bemenet-előkészítését.
Függvényhíváshoz világosan leírt eszközök szükségesek. A modell kiválaszt egy függvényt és argumentumokat készít; az alkalmazás végrehajtja a műveletet és visszaadja eredményét a következő válaszhoz. Ugyanez a logika érvényes lekérdezésre, számításra vagy programozási műveletre. A JSON-formázás választ rendez, míg az eszközhívás külső műveletet kér; a kettőt nem szabad felcserélhető eredményként kezelni.
A szolgáltatási kártya előre megadott kimeneteket, válaszprefixeket, kötegelt feldolgozást és ügynökbeszélgetéseket is felsorol. Az előre megadott kimenetek akkor hasznosak, ha dokumentumot vagy kódfájlt csak korlátozott változtatással kell újragenerálni, és a többi tartalom ismert. Add meg a módosítást és a megőrzendő anyagot. A prefixfolytatás a válasz ismert kezdetét használja, míg a kötegelt feldolgozás a munka beküldésére vonatkozik, nem további következtetési mód.
Kontextus és kiadási határok
Az írott feladatot, vizuális anyagot, beszélgetést és kívánt választ a dokumentált 256 ezer tokenes kontextushoz igazítva tervezd meg. A kiadott használati példa 262 144 tokenes kontextust állít be, míg az 1024 tokenes generálási példája nem külön maximális kimeneti kapacitás. A feldolgozott források nem adnak meg a kiválasztott feladathossz helyére állítható önálló, szigorú válaszhosszkorlátot.
A Small 4 saját, 119 milliárd paraméteres szakértőkeverék-architektúrával és hibrid módokkal rendelkezik. Nem örökölheti a Medium 3.5 sűrű, 128 milliárd paraméteres architektúráját vagy a Ministral 3 külön Instruct és Reasoning kiadásait. A gyártó külön kvantált és spekulatív dekódolási anyagokat is kiad; ezek külön telepítési anyagok, nem eltérő tartalmi modalitások. Őrizd meg a megnevezett Small 4 kiadást és a tényleges magyarázathoz, strukturált rekordhoz vagy kóderedményhez kért módot.
", "aboutText": "A Mistral Small 4 egyetlen multimodális modellben egyesíti az általános utasításkövetést, a következtetést és a programozást. A gyártó az Instruct, a következtető Magistral és a programozó Devstral családok egyesítéseként írja le. Szöveget és képeket fogad, és szöveget ad vissza, az eszközzel támogatott alkalmazásokhoz pedig függvényhívások és JSON-kimenet érhető el.\n\nArchitektúra és fő funkciók\n\nA kiadás összesen 119 milliárd paraméterrel rendelkezik, és tokenenként 6,5 milliárdot aktivál. Szakértőkeverék-architektúrája 128 szakértőt tartalmaz, amelyekből 4 aktív, a gyártó pedig 256 ezer tokenes kontextusablakot dokumentál. Az aktív paraméterszám és a szakértők száma a modell felépítését írja le; eltérnek az egy feladatban szereplő szöveges vagy képi tartalom mennyiségétől.\n\nA modell ugyanabban a modellállapotban biztosít utasításos és következtetési funkciót. A gyártó látást, rendszerprompt-követést és több tucat nyelv támogatását is azonosítja, köztük az angolét, franciáét, spanyolét, németét, olaszét, portugálét, hollandét, kínaiét, japánét, koreaiét és arabét. Szöveges utasítás így kérdezhet képről, vagy írott követelményt látható bizonyítékkal egyesíthet, a válasz pedig szövegként tér vissza.\n\nVizuális feladathoz megadhatsz dokumentumoldalt, és kérheted egy megnevezett feltételhez releváns értékeket. A címkék és mértékegységek maradjanak olvashatók, és add meg, hogy az eredmény az eredeti megfogalmazást őrizze meg, összefoglalja azt, vagy másik forrással hasonlítsa össze. Felületi feladat a képernyőképet a felhasználó céljával párosíthatja, és kérheti a releváns látható vezérlőt és a javasolt következő lépést alátámasztó bizonyítékot.\n\nUtasításos vagy következtetési mód választása\n\nA kiadott kártya azonnali, utasításos válaszhoz none következtetési erőfeszítést, következtetéshez pedig high értéket dokumentál; a high összetett promptokhoz ajánlott. A választás kérésenként történik ugyanazon Small 4 modellen belül. Egyszerű osztályozás vagy rövid átírás más válaszszerződést igényelhet, mint egy kidolgozott magyarázatot kívánó matematikai, vizuális vagy programozási probléma.\n\nA gyártó nagy következtetési erőfeszítéshez 0.7 temperature értéket ajánl. A none esetén a feladattól függően 0.0 és 0.7 közötti temperature értékeket ad meg. E beállítások a dokumentált módokat írják le, és nem teszik a következtetési erőfeszítést a helyes eredmény garanciájává. Határozd meg a feltételezéseket, kimeneti formát és releváns forrásanyagot, mielőtt eldöntenéd, mennyi következtetést igényel a feladat.\n\nKidolgozandó problémához add meg a teljes feltételt, és kérd a fontos indokolt lépéseket, majd a végső kifejezést. Kódfeladathoz add meg a követelményt, az érintett függvényt és egy konkrét bemenetet; a javasolt megvalósítást külön kérd a magyarázattól és a példáktól. A gyártó használati bemutatói utasításkövetést, képre alkalmazott számítási eszközt és vizuális következtetést tartalmaznak, szemléltetve, hogyan kerülhet szöveges és vizuális bizonyíték e különböző feladatokba.\n\nProgramozás, dokumentumok és eszközök\n\nA modellt kódbázis-feltáráshoz és szoftverfejlesztő ügynökökhöz, általános asszisztensekhez, dokumentumértelmezéshez és kutatáshoz ajánlják. Programozóügynök-kérés megnevezheti a módosítandó modult, a megőrzendő interfészt és az elvárt működést. Mellékeld a releváns forrást és a hiba bizonyítékát. A modell javasolhat következő műveletet vagy kódmódosítást, míg az alkalmazás biztosítja a kódtárhozzáférést, a végrehajtást és a visszajelzést.\n\nDokumentumkinyeréshez azonosítsd a kötelező mezőket és a hiányzó információ jelölését. Egy hasznos rekord elkülönítheti a dokumentumazonosítót, a forrás állítását, az értelmezett követelményt és a nyitott kérdést. A gyártó szolgáltatási kártyája egyéni strukturált kimenetet és dokumentumalapú kérdésmegválaszolást sorol fel; utóbbi dokumentumfeldolgozással és OCR-rel készít elő szöveget és szerkezetet a nyelvimodell-elemzés előtt. A közvetlen képi kérdés és az OCR-rel támogatott dokumentum-munkafolyamat őrizze meg saját bemenet-előkészítését.\n\nFüggvényhíváshoz világosan leírt eszközök szükségesek. A modell kiválaszt egy függvényt és argumentumokat készít; az alkalmazás végrehajtja a műveletet és visszaadja eredményét a következő válaszhoz. Ugyanez a logika érvényes lekérdezésre, számításra vagy programozási műveletre. A JSON-formázás választ rendez, míg az eszközhívás külső műveletet kér; a kettőt nem szabad felcserélhető eredményként kezelni.\n\nA szolgáltatási kártya előre megadott kimeneteket, válaszprefixeket, kötegelt feldolgozást és ügynökbeszélgetéseket is felsorol. Az előre megadott kimenetek akkor hasznosak, ha dokumentumot vagy kódfájlt csak korlátozott változtatással kell újragenerálni, és a többi tartalom ismert. Add meg a módosítást és a megőrzendő anyagot. A prefixfolytatás a válasz ismert kezdetét használja, míg a kötegelt feldolgozás a munka beküldésére vonatkozik, nem további következtetési mód.\n\nKontextus és kiadási határok\n\nAz írott feladatot, vizuális anyagot, beszélgetést és kívánt választ a dokumentált 256 ezer tokenes kontextushoz igazítva tervezd meg. A kiadott használati példa 262 144 tokenes kontextust állít be, míg az 1024 tokenes generálási példája nem külön maximális kimeneti kapacitás. A feldolgozott források nem adnak meg a kiválasztott feladathossz helyére állítható önálló, szigorú válaszhosszkorlátot.\n\nA Small 4 saját, 119 milliárd paraméteres szakértőkeverék-architektúrával és hibrid módokkal rendelkezik. Nem örökölheti a Medium 3.5 sűrű, 128 milliárd paraméteres architektúráját vagy a Ministral 3 külön Instruct és Reasoning kiadásait. A gyártó külön kvantált és spekulatív dekódolási anyagokat is kiad; ezek külön telepítési anyagok, nem eltérő tartalmi modalitások. Őrizd meg a megnevezett Small 4 kiadást és a tényleges magyarázathoz, strukturált rekordhoz vagy kóderedményhez kért módot.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "2d28ae601e0d46d5cb902d39ad160b90cb68688359a335a3574f7e6136c17a0a", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "hu", "methods": [ { "html": "mistralai/mistral-small-2603:batchA Mistral Small 4 hibrid, szöveget és képet fogadó modell utasításkövetési, következtetési és programozási képességekkel. A 119 milliárd paraméteres szakértőkeverék-kiadás tokenenként 6,5 milliárd paramétert aktivál, és a gyártó szerint 256 ezer tokenes kontextust, választható következtetési erőfeszítést, JSON-t és függvényhívásokat támogat.
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A Mistral Small 4 egyetlen multimodális modellben egyesíti az általános utasításkövetést, a következtetést és a programozást. A gyártó az Instruct, a következtető Magistral és a programozó Devstral családok egyesítéseként írja le. Szöveget és képeket fogad, és szöveget ad vissza, az eszközzel támogatott alkalmazásokhoz pedig függvényhívások és JSON-kimenet érhető el.
Architektúra és fő funkciók
A kiadás összesen 119 milliárd paraméterrel rendelkezik, és tokenenként 6,5 milliárdot aktivál. Szakértőkeverék-architektúrája 128 szakértőt tartalmaz, amelyekből 4 aktív, a gyártó pedig 256 ezer tokenes kontextusablakot dokumentál. Az aktív paraméterszám és a szakértők száma a modell felépítését írja le; eltérnek az egy feladatban szereplő szöveges vagy képi tartalom mennyiségétől.
A modell ugyanabban a modellállapotban biztosít utasításos és következtetési funkciót. A gyártó látást, rendszerprompt-követést és több tucat nyelv támogatását is azonosítja, köztük az angolét, franciáét, spanyolét, németét, olaszét, portugálét, hollandét, kínaiét, japánét, koreaiét és arabét. Szöveges utasítás így kérdezhet képről, vagy írott követelményt látható bizonyítékkal egyesíthet, a válasz pedig szövegként tér vissza.
Vizuális feladathoz megadhatsz dokumentumoldalt, és kérheted egy megnevezett feltételhez releváns értékeket. A címkék és mértékegységek maradjanak olvashatók, és add meg, hogy az eredmény az eredeti megfogalmazást őrizze meg, összefoglalja azt, vagy másik forrással hasonlítsa össze. Felületi feladat a képernyőképet a felhasználó céljával párosíthatja, és kérheti a releváns látható vezérlőt és a javasolt következő lépést alátámasztó bizonyítékot.
Utasításos vagy következtetési mód választása
A kiadott kártya azonnali, utasításos válaszhoz none következtetési erőfeszítést, következtetéshez pedig high értéket dokumentál; a high összetett promptokhoz ajánlott. A választás kérésenként történik ugyanazon Small 4 modellen belül. Egyszerű osztályozás vagy rövid átírás más válaszszerződést igényelhet, mint egy kidolgozott magyarázatot kívánó matematikai, vizuális vagy programozási probléma.
A gyártó nagy következtetési erőfeszítéshez 0.7 temperature értéket ajánl. A none esetén a feladattól függően 0.0 és 0.7 közötti temperature értékeket ad meg. E beállítások a dokumentált módokat írják le, és nem teszik a következtetési erőfeszítést a helyes eredmény garanciájává. Határozd meg a feltételezéseket, kimeneti formát és releváns forrásanyagot, mielőtt eldöntenéd, mennyi következtetést igényel a feladat.
Kidolgozandó problémához add meg a teljes feltételt, és kérd a fontos indokolt lépéseket, majd a végső kifejezést. Kódfeladathoz add meg a követelményt, az érintett függvényt és egy konkrét bemenetet; a javasolt megvalósítást külön kérd a magyarázattól és a példáktól. A gyártó használati bemutatói utasításkövetést, képre alkalmazott számítási eszközt és vizuális következtetést tartalmaznak, szemléltetve, hogyan kerülhet szöveges és vizuális bizonyíték e különböző feladatokba.
Programozás, dokumentumok és eszközök
A modellt kódbázis-feltáráshoz és szoftverfejlesztő ügynökökhöz, általános asszisztensekhez, dokumentumértelmezéshez és kutatáshoz ajánlják. Programozóügynök-kérés megnevezheti a módosítandó modult, a megőrzendő interfészt és az elvárt működést. Mellékeld a releváns forrást és a hiba bizonyítékát. A modell javasolhat következő műveletet vagy kódmódosítást, míg az alkalmazás biztosítja a kódtárhozzáférést, a végrehajtást és a visszajelzést.
Dokumentumkinyeréshez azonosítsd a kötelező mezőket és a hiányzó információ jelölését. Egy hasznos rekord elkülönítheti a dokumentumazonosítót, a forrás állítását, az értelmezett követelményt és a nyitott kérdést. A gyártó szolgáltatási kártyája egyéni strukturált kimenetet és dokumentumalapú kérdésmegválaszolást sorol fel; utóbbi dokumentumfeldolgozással és OCR-rel készít elő szöveget és szerkezetet a nyelvimodell-elemzés előtt. A közvetlen képi kérdés és az OCR-rel támogatott dokumentum-munkafolyamat őrizze meg saját bemenet-előkészítését.
Függvényhíváshoz világosan leírt eszközök szükségesek. A modell kiválaszt egy függvényt és argumentumokat készít; az alkalmazás végrehajtja a műveletet és visszaadja eredményét a következő válaszhoz. Ugyanez a logika érvényes lekérdezésre, számításra vagy programozási műveletre. A JSON-formázás választ rendez, míg az eszközhívás külső műveletet kér; a kettőt nem szabad felcserélhető eredményként kezelni.
A szolgáltatási kártya előre megadott kimeneteket, válaszprefixeket, kötegelt feldolgozást és ügynökbeszélgetéseket is felsorol. Az előre megadott kimenetek akkor hasznosak, ha dokumentumot vagy kódfájlt csak korlátozott változtatással kell újragenerálni, és a többi tartalom ismert. Add meg a módosítást és a megőrzendő anyagot. A prefixfolytatás a válasz ismert kezdetét használja, míg a kötegelt feldolgozás a munka beküldésére vonatkozik, nem további következtetési mód.
Kontextus és kiadási határok
Az írott feladatot, vizuális anyagot, beszélgetést és kívánt választ a dokumentált 256 ezer tokenes kontextushoz igazítva tervezd meg. A kiadott használati példa 262 144 tokenes kontextust állít be, míg az 1024 tokenes generálási példája nem külön maximális kimeneti kapacitás. A feldolgozott források nem adnak meg a kiválasztott feladathossz helyére állítható önálló, szigorú válaszhosszkorlátot.
A Small 4 saját, 119 milliárd paraméteres szakértőkeverék-architektúrával és hibrid módokkal rendelkezik. Nem örökölheti a Medium 3.5 sűrű, 128 milliárd paraméteres architektúráját vagy a Ministral 3 külön Instruct és Reasoning kiadásait. A gyártó külön kvantált és spekulatív dekódolási anyagokat is kiad; ezek külön telepítési anyagok, nem eltérő tartalmi modalitások. Őrizd meg a megnevezett Small 4 kiadást és a tényleges magyarázathoz, strukturált rekordhoz vagy kóderedményhez kért módot.
POST /v1/batchestexttext| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőendpoint | Típusstring | KövetelményKötelező | Értékek és korlátok /v1/chat/completions | Alapértelmezett— |
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok mistralai/mistral-small-2603:batch | Alapértelmezett— |
Mezőrequests | Típusbatch_item[] | KövetelményKötelező | Értékek és korlátok Minimális elemszám: 1 | Alapértelmezett— |
Mezőrequests[].custom_id | Típusstring | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőrequests[].body.messages | Típusmessage[] | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőcompletion_window | Típusstring | KövetelményOpcionális | Értékek és korlátok 24h | Alapértelmezett— |
Mezőprovider | Típusobject|null | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőrequests[].body.model | Típusstring | KövetelményOpcionális | Értékek és korlátok mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603 | Alapértelmezett— |
Mezőprovider.only | Típusstring[] | KövetelményOpcionális | Értékek és korlátok mistral | Alapértelmezett— |
Mezőprovider.allow_fallbacks | Típusboolean|null | KövetelményOpcionális | Értékek és korlátok false, null | Alapértelmezett— |
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésendpoint, model, requests |
Paramétermaterial_types | Szerződéstext |
Paraméterrepresentation | SzerződésA kérésbe ágyazott requests[]; minden elemhez custom_id és body tartozik |
Paraméterrequest_endpoint_profile | Szerződés/v1/chat/completions |
Paraméterfile_material | SzerződésA hívó helyben beolvashatja a tényleges UTF-8 JSONL-adatokat a requests[] tömbbe. A kérés nem használ feltöltési célt, input_file_id mezőt vagy fájlhivatkozást. Hiányzó vagy üres ügyfélanyag esetén az előkészítés még a POST előtt leáll. |
Paraméterserialization_order | Szerződésendpoint, model, provider (ha meg van adva), completion_window (ha meg van adva), requests utoljára |
Paraméteroptional_controls | Szerződésprovider.only, provider.allow_fallbacks, completion_window |
Paraméterschema_scope | SzerződésText Chat Completions-kéréstörzsek a dokumentált, kérésbe ágyazott Batch-borítékban. |
Életciklus: asynchronous
GET /v1/batches/{operation_id} · Az eredeti létrehozási válasz tényleges response.id értéke; ugyanaz a felhasználó/kulcs/csoport
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
Minden díjat a megjelenített feltételekhez rendeljen. Az alternatív beállítások minden csoportjához egy díjtételt használjon.
| Beállítás | Díjtáblázat | Kontextustokenek, több mint | Kontextustokenek, legfeljebb | Díj |
|---|---|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Kontextustokenek, több mint— | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.00015 / 1K token Kimenet · Kimeneti tokenek $0.0006 / 1K token Bemenet · Gyorsítótár olvasása $0.000015 / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
| BeállításA kéréshossz szerinti 1. ársáv | Díjtáblázat— | Kontextustokenek, több mint0 | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.00015 / 1K token Kimenet · Kimeneti tokenek $0.0006 / 1K token Bemenet · Gyorsítótár olvasása $0.000015 / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nBeágyazott results[].response.body JSON-adatok
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nŐrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizze meg a teljes eredeti állapot-JSON-t, minden eredményt/custom_id értéket, valamint a teljes válasz- vagy hibatörzset. A befejezett results[] elemeket szűrés nélkül mentse JSONL-ként.
Őrizze meg az eredeti műveletazonosítót. A 503 result_pending_check válasz X-Should-Retry:false fejlécet tartalmaz; soha ne küldje be újra az ismeretlen kimenetelű eredeti köteget.
| Mező | Típus |
|---|---|
Mezőresults[].custom_id | Típusstring |
Mezőresults[].response.body.choices[].message.content | Típusstring|null |
Mezőresults[].error | Típusobject|null |
Mezőusage | Típusobject|null |
Mezőid | Típusstring |
Mezőmodel | Típusstring |
Mezőendpoint | Típusstring |
Mezőstatus | Típusstring |
Mezőrequest_counts | Típusobject |
Mezőresults[].id | Típusstring |
Mezőresults[].response.status_code | Típusinteger |
Mezőresults[].response.request_id | Típusstring |
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen a dokumentált, kérésbe ágyazott boríték, ismétlődő kulcsok vagy az elemek azonosságával kapcsolatos hiba található benne, vagy ütközés van a beállított modellképességekkel. | Következő lépésBármilyen új beküldés előtt javítsa ki a megjelölt mezőket. |
Válasz401 · authentication_error | FeltételÉrvénytelen API-kulcs. | Következő lépésHasználja az engedélyezett Ailoot-kulcsot. |
Válasz403 · permission_error | FeltételA Batch-csoport nem érhető el. | Következő lépésEllenőrizze a kulcs/csoport jogosultságát. |
Válasz422 · invalid_request_error | FeltételA Batch az egyenlegből számol el; az előfizetés terhére indított létrehozási kérés elutasításra kerül. | Következő lépésHasználja az engedélyezett, egyenlegből elszámoló csoportot. |
Válasz422 · price_unavailable | FeltételA Batch-bemenethez nem készíthető árajánlat. | Következő lépésŐrizze meg a választ; használja az API-család dokumentált bemenetét. |
Válasz402 · billing_error | FeltételA Batch költségfedezeti foglalása nem érhető el. | Következő lépésAz új kérés előtt rendezze a befogadási feltételeket. |
Válasz503 · price_unavailable | FeltételA Batch-módszer ára vagy natív díjtételei nem érhetők el. | Következő lépésŐrizze meg a választ; ne helyettesítse az árakat más árakkal. |
Válasz503 · api_error | FeltételA pontos szolgáltatói útvonal nem érhető el. | Következő lépésŐrizze meg a választ az útvonal javításához. |
Válasz503 · result_pending_check | FeltételAz eredeti eredmény ellenőrzést igényel; X-Should-Retry:false. | Következő lépésŐrizze meg az eredeti operation_id/id értéket, és kérdezze le az állapotát; soha ne ismételje meg az eredeti POST kérést. |
Válasz404 · not_found | FeltételA Batch állapotlekérdezési művelete nem létezik, vagy más identitáshoz tartozik. | Következő lépésHasználja az eredeti id pontos értékét és ugyanazt a felhasználót/kulcsot/csoportot. |
Ailoot Ultra mistralai/mistral-small-2603:batch
Használja a fent látható metódusútvonalakat.