Mistral Small 4 жалпы нұсқауларды орындауды, пайымдауды және кодтауды бір мультимодалды модельде біріктіреді. Өндіруші оны Instruct, Magistral пайымдау және Devstral кодтау топтарын біріктіретін модель деп сипаттайды. Ол мәтін мен суреттерді қабылдап, мәтін қайтарады; құралдар көмегімен жұмыс істейтін қолданбалар үшін функция шақырулары мен JSON шығысы қолжетімді.
Архитектура және негізгі мүмкіндіктер
Шығарылымда барлығы 119 млрд параметр бар және әр токен үшін 6,5 млрд параметр белсендіріледі. Оның сарапшылар қоспасы архитектурасында 128 сарапшы бар, олардың 4-еуі белсенді; өндіруші 256 мың токендік контекст терезесін құжаттайды. Белсенді параметрлер саны мен сарапшылар саны модельдің ұйымдастырылуын сипаттайды; олар бір тапсырмаға қосылған мәтін немесе сурет мазмұнының мөлшерінен бөлек.
Модель бір нұсқада нұсқаулық және пайымдау қызметін ұсынады. Өндіруші көруді, жүйелік промптты ұстануды және ондаған тілдің, соның ішінде ағылшын, француз, испан, неміс, итальян, португал, нидерланд, қытай, жапон, корей және араб тілдерінің қолдауын да атайды. Сондықтан мәтіндік нұсқау сурет туралы сұрай алады немесе жазбаша талапты көрінетін дәлелмен біріктіре алады; жауап мәтін түрінде қайтарылады.
Визуалды тапсырма құжат бетін беріп, аталған шартқа қатысты мәндерді сұрай алады. Белгілер мен өлшем бірліктерін оқылатын күйде сақтап, нәтиже түпнұсқа тұжырымды сақтау, оны қорытындылау немесе басқа дереккөзбен салыстыру керегін айтыңыз. Интерфейс тапсырмасы скриншотты пайдаланушы мақсатымен біріктіріп, қатысты көрінетін басқару элементін және ұсынылған келесі қадамды растайтын дәлелді сұрай алады.
Нұсқаулық немесе пайымдау режимін таңдау
Жарияланған карточка дереу нұсқаулық сипаттағы жауап үшін reasoning effort none және пайымдау үшін high мәндерін құжаттайды; күрделі промпттар үшін high ұсынылады. Таңдау сол Small 4 моделі ішінде әр сұрау үшін жасалады. Қалыпты жіктеу немесе қысқа қайта жазу жауабының шарты кең түсіндірме қажет ететін математикалық, визуалды немесе кодтау мәселесінен өзгеше болуы мүмкін.
Өндіруші жоғары пайымдау күші үшін temperature 0.7 ұсынады. none үшін тапсырмаға қарай temperature мәндерін 0.0 мен 0.7 аралығында көрсетеді. Бұл баптаулар құжатталған режимдерді сипаттайды және пайымдау күшін дұрыс нәтижеге кепілдікке айналдырмайды. Тапсырмаға қанша пайымдау қажет екенін таңдаудан бұрын жорамалдарды, шығыс пішімін және қатысты бастапқы материалды анықтаңыз.
Шешімі көрсетілетін мәселе үшін толық шартты беріп, маңызды негізделген қадамдарды, одан кейін соңғы өрнекті сұраңыз. Код тапсырмасы үшін талапты, қатысты функцияны және нақты кірісті беріңіз; ұсынылған іске асыруды түсіндірме мен мысалдардан бөлек сұраңыз. Өндірушінің пайдалану көрсетілімдері нұсқауларды орындауды, суретке қолданылған есептеу құралын және визуалды пайымдауды қамтып, мәтіндік және визуалды дәлелдің осы әртүрлі тапсырмаларға қалай кіретінін көрсетеді.
Кодтау, құжаттар және құралдар
Модель код базасын зерттеуге және бағдарламалық инженерия агенттеріне, жалпы көмекшілерге, құжат түсінуге және зерттеуге арналған. Кодтау агентіне сұрау өзгертілетін модульді, сақталатын интерфейсті және алынуға тиіс әрекетті атай алады. Қатысты бастапқы код пен қате дәлелін беріңіз. Модель келесі операцияны немесе код өзгерісін ұсына алады, ал қолданба репозиторийге қолжетімділікті, орындауды және кері байланысты береді.
Құжаттан дерек алу үшін қажетті өрістерді және жетіспейтін ақпаратты қалай көрсету керегін анықтаңыз. Пайдалы жазба құжат идентификаторын, дереккөз тұжырымын, түсіндірілген талапты және шешілмеген сұрақты бөле алады. Өндірушінің қызмет карточкасында арнайы құрылымдалған шығыс және құжат бойынша сұраққа жауап беру көрсетілген; соңғысы тіл моделі талдауына дейін мәтін мен құрылымды дайындау үшін құжат өңдеуді және OCR пайдаланады. Тікелей сурет сұрағы мен OCR көмегімен құжат үдерісі өз кіріс дайындығын сақтауы керек.
Функция шақыруы анық сипатталған құралдарды қажет етеді. Модель функцияны таңдап, аргументтерін жасайды; қолданба операцияны орындап, нәтижесін кейінгі жауап үшін қайтарады. Тапсырма іздеу, есептеу немесе кодтау операциясы болса да, осы логика қолданылады. JSON пішімдеуі жауапты реттейді, ал құрал шақыруы сыртқы әрекетті сұрайды; екеуін өзара алмастырылатын нәтижелер деп қарастыруға болмайды.
Қызмет карточкасында болжамды шығыс, жауап префикстері, пакеттік өңдеу және агент әңгімелері де көрсетілген. Болжамды шығыс құжатты немесе код файлын тек шектеулі өзгеріспен қайта жасау керек болып, қалған мазмұны белгілі кезде пайдалы. Өңдеуді және сақталатын материалды көрсетіңіз. Префикстен жалғастыру жауаптың белгілі бастауын пайдаланады, ал пакеттік өңдеу қосымша пайымдау режиміне емес, жұмысты жіберуге қатысты.
Контекст және шығарылым шекаралары
Жазбаша тапсырманы, визуалды материалды, әңгімені және қалаған жауапты құжатталған 256 мың токендік контекстке сай жоспарлаңыз. Жарияланған пайдалану мысалы 262 144 токендік контексті баптайды, ал ондағы 1 024 токендік генерация мысалы бөлек ең жоғары шығыс сыйымдылығы емес. Оқылған дереккөздер таңдалған тапсырма ұзындығын алмастыратын тәуелсіз қатаң жауап ұзындығы шегін бермейді.
Small 4 моделінің өз 119B сарапшылар қоспасы архитектурасы және гибридті режимдері бар. Оған Medium 3.5 моделінің тығыз 128B архитектурасын немесе Ministral 3 моделінің бөлек Instruct және Reasoning шығарылымдарын телуге болмайды. Өндіруші бөлек квантталған және болжамды декодтау артефактілерін де шығарады; бұлар — әртүрлі мазмұн модальдықтары емес, бөлек орналастыру артефактілері. Аталған Small 4 шығарылымын және нақты түсіндірме, құрылымдалған жазба немесе код нәтижесі үшін сұралған режимді сақтаңыз.
", "aboutText": "Mistral Small 4 жалпы нұсқауларды орындауды, пайымдауды және кодтауды бір мультимодалды модельде біріктіреді. Өндіруші оны Instruct, Magistral пайымдау және Devstral кодтау топтарын біріктіретін модель деп сипаттайды. Ол мәтін мен суреттерді қабылдап, мәтін қайтарады; құралдар көмегімен жұмыс істейтін қолданбалар үшін функция шақырулары мен JSON шығысы қолжетімді.\n\nАрхитектура және негізгі мүмкіндіктер\n\nШығарылымда барлығы 119 млрд параметр бар және әр токен үшін 6,5 млрд параметр белсендіріледі. Оның сарапшылар қоспасы архитектурасында 128 сарапшы бар, олардың 4-еуі белсенді; өндіруші 256 мың токендік контекст терезесін құжаттайды. Белсенді параметрлер саны мен сарапшылар саны модельдің ұйымдастырылуын сипаттайды; олар бір тапсырмаға қосылған мәтін немесе сурет мазмұнының мөлшерінен бөлек.\n\nМодель бір нұсқада нұсқаулық және пайымдау қызметін ұсынады. Өндіруші көруді, жүйелік промптты ұстануды және ондаған тілдің, соның ішінде ағылшын, француз, испан, неміс, итальян, португал, нидерланд, қытай, жапон, корей және араб тілдерінің қолдауын да атайды. Сондықтан мәтіндік нұсқау сурет туралы сұрай алады немесе жазбаша талапты көрінетін дәлелмен біріктіре алады; жауап мәтін түрінде қайтарылады.\n\nВизуалды тапсырма құжат бетін беріп, аталған шартқа қатысты мәндерді сұрай алады. Белгілер мен өлшем бірліктерін оқылатын күйде сақтап, нәтиже түпнұсқа тұжырымды сақтау, оны қорытындылау немесе басқа дереккөзбен салыстыру керегін айтыңыз. Интерфейс тапсырмасы скриншотты пайдаланушы мақсатымен біріктіріп, қатысты көрінетін басқару элементін және ұсынылған келесі қадамды растайтын дәлелді сұрай алады.\n\nНұсқаулық немесе пайымдау режимін таңдау\n\nЖарияланған карточка дереу нұсқаулық сипаттағы жауап үшін reasoning effort none және пайымдау үшін high мәндерін құжаттайды; күрделі промпттар үшін high ұсынылады. Таңдау сол Small 4 моделі ішінде әр сұрау үшін жасалады. Қалыпты жіктеу немесе қысқа қайта жазу жауабының шарты кең түсіндірме қажет ететін математикалық, визуалды немесе кодтау мәселесінен өзгеше болуы мүмкін.\n\nӨндіруші жоғары пайымдау күші үшін temperature 0.7 ұсынады. none үшін тапсырмаға қарай temperature мәндерін 0.0 мен 0.7 аралығында көрсетеді. Бұл баптаулар құжатталған режимдерді сипаттайды және пайымдау күшін дұрыс нәтижеге кепілдікке айналдырмайды. Тапсырмаға қанша пайымдау қажет екенін таңдаудан бұрын жорамалдарды, шығыс пішімін және қатысты бастапқы материалды анықтаңыз.\n\nШешімі көрсетілетін мәселе үшін толық шартты беріп, маңызды негізделген қадамдарды, одан кейін соңғы өрнекті сұраңыз. Код тапсырмасы үшін талапты, қатысты функцияны және нақты кірісті беріңіз; ұсынылған іске асыруды түсіндірме мен мысалдардан бөлек сұраңыз. Өндірушінің пайдалану көрсетілімдері нұсқауларды орындауды, суретке қолданылған есептеу құралын және визуалды пайымдауды қамтып, мәтіндік және визуалды дәлелдің осы әртүрлі тапсырмаларға қалай кіретінін көрсетеді.\n\nКодтау, құжаттар және құралдар\n\nМодель код базасын зерттеуге және бағдарламалық инженерия агенттеріне, жалпы көмекшілерге, құжат түсінуге және зерттеуге арналған. Кодтау агентіне сұрау өзгертілетін модульді, сақталатын интерфейсті және алынуға тиіс әрекетті атай алады. Қатысты бастапқы код пен қате дәлелін беріңіз. Модель келесі операцияны немесе код өзгерісін ұсына алады, ал қолданба репозиторийге қолжетімділікті, орындауды және кері байланысты береді.\n\nҚұжаттан дерек алу үшін қажетті өрістерді және жетіспейтін ақпаратты қалай көрсету керегін анықтаңыз. Пайдалы жазба құжат идентификаторын, дереккөз тұжырымын, түсіндірілген талапты және шешілмеген сұрақты бөле алады. Өндірушінің қызмет карточкасында арнайы құрылымдалған шығыс және құжат бойынша сұраққа жауап беру көрсетілген; соңғысы тіл моделі талдауына дейін мәтін мен құрылымды дайындау үшін құжат өңдеуді және OCR пайдаланады. Тікелей сурет сұрағы мен OCR көмегімен құжат үдерісі өз кіріс дайындығын сақтауы керек.\n\nФункция шақыруы анық сипатталған құралдарды қажет етеді. Модель функцияны таңдап, аргументтерін жасайды; қолданба операцияны орындап, нәтижесін кейінгі жауап үшін қайтарады. Тапсырма іздеу, есептеу немесе кодтау операциясы болса да, осы логика қолданылады. JSON пішімдеуі жауапты реттейді, ал құрал шақыруы сыртқы әрекетті сұрайды; екеуін өзара алмастырылатын нәтижелер деп қарастыруға болмайды.\n\nҚызмет карточкасында болжамды шығыс, жауап префикстері, пакеттік өңдеу және агент әңгімелері де көрсетілген. Болжамды шығыс құжатты немесе код файлын тек шектеулі өзгеріспен қайта жасау керек болып, қалған мазмұны белгілі кезде пайдалы. Өңдеуді және сақталатын материалды көрсетіңіз. Префикстен жалғастыру жауаптың белгілі бастауын пайдаланады, ал пакеттік өңдеу қосымша пайымдау режиміне емес, жұмысты жіберуге қатысты.\n\nКонтекст және шығарылым шекаралары\n\nЖазбаша тапсырманы, визуалды материалды, әңгімені және қалаған жауапты құжатталған 256 мың токендік контекстке сай жоспарлаңыз. Жарияланған пайдалану мысалы 262 144 токендік контексті баптайды, ал ондағы 1 024 токендік генерация мысалы бөлек ең жоғары шығыс сыйымдылығы емес. Оқылған дереккөздер таңдалған тапсырма ұзындығын алмастыратын тәуелсіз қатаң жауап ұзындығы шегін бермейді.\n\nSmall 4 моделінің өз 119B сарапшылар қоспасы архитектурасы және гибридті режимдері бар. Оған Medium 3.5 моделінің тығыз 128B архитектурасын немесе Ministral 3 моделінің бөлек Instruct және Reasoning шығарылымдарын телуге болмайды. Өндіруші бөлек квантталған және болжамды декодтау артефактілерін де шығарады; бұлар — әртүрлі мазмұн модальдықтары емес, бөлек орналастыру артефактілері. Аталған Small 4 шығарылымын және нақты түсіндірме, құрылымдалған жазба немесе код нәтижесі үшін сұралған режимді сақтаңыз.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "b109f771cb03e5ef89b3d4faf97941c908b317d8951c8b066d969232c9bc080b", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "kk", "methods": [ { "html": "mistralai/mistral-small-2603:batchMistral Small 4 — нұсқаулық, пайымдау және кодтау мүмкіндіктері бар гибридті мәтін мен сурет моделі. Оның 119B сарапшылар қоспасы шығарылымы әр токенге 6,5 млрд параметрді белсендіреді және өндіруші көрсеткен 256 мың токендік контексті, таңдалатын пайымдау күшін, JSON пішімін және функция шақыруларын қолдайды.
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
Mistral Small 4 жалпы нұсқауларды орындауды, пайымдауды және кодтауды бір мультимодалды модельде біріктіреді. Өндіруші оны Instruct, Magistral пайымдау және Devstral кодтау топтарын біріктіретін модель деп сипаттайды. Ол мәтін мен суреттерді қабылдап, мәтін қайтарады; құралдар көмегімен жұмыс істейтін қолданбалар үшін функция шақырулары мен JSON шығысы қолжетімді.
Архитектура және негізгі мүмкіндіктер
Шығарылымда барлығы 119 млрд параметр бар және әр токен үшін 6,5 млрд параметр белсендіріледі. Оның сарапшылар қоспасы архитектурасында 128 сарапшы бар, олардың 4-еуі белсенді; өндіруші 256 мың токендік контекст терезесін құжаттайды. Белсенді параметрлер саны мен сарапшылар саны модельдің ұйымдастырылуын сипаттайды; олар бір тапсырмаға қосылған мәтін немесе сурет мазмұнының мөлшерінен бөлек.
Модель бір нұсқада нұсқаулық және пайымдау қызметін ұсынады. Өндіруші көруді, жүйелік промптты ұстануды және ондаған тілдің, соның ішінде ағылшын, француз, испан, неміс, итальян, португал, нидерланд, қытай, жапон, корей және араб тілдерінің қолдауын да атайды. Сондықтан мәтіндік нұсқау сурет туралы сұрай алады немесе жазбаша талапты көрінетін дәлелмен біріктіре алады; жауап мәтін түрінде қайтарылады.
Визуалды тапсырма құжат бетін беріп, аталған шартқа қатысты мәндерді сұрай алады. Белгілер мен өлшем бірліктерін оқылатын күйде сақтап, нәтиже түпнұсқа тұжырымды сақтау, оны қорытындылау немесе басқа дереккөзбен салыстыру керегін айтыңыз. Интерфейс тапсырмасы скриншотты пайдаланушы мақсатымен біріктіріп, қатысты көрінетін басқару элементін және ұсынылған келесі қадамды растайтын дәлелді сұрай алады.
Нұсқаулық немесе пайымдау режимін таңдау
Жарияланған карточка дереу нұсқаулық сипаттағы жауап үшін reasoning effort none және пайымдау үшін high мәндерін құжаттайды; күрделі промпттар үшін high ұсынылады. Таңдау сол Small 4 моделі ішінде әр сұрау үшін жасалады. Қалыпты жіктеу немесе қысқа қайта жазу жауабының шарты кең түсіндірме қажет ететін математикалық, визуалды немесе кодтау мәселесінен өзгеше болуы мүмкін.
Өндіруші жоғары пайымдау күші үшін temperature 0.7 ұсынады. none үшін тапсырмаға қарай temperature мәндерін 0.0 мен 0.7 аралығында көрсетеді. Бұл баптаулар құжатталған режимдерді сипаттайды және пайымдау күшін дұрыс нәтижеге кепілдікке айналдырмайды. Тапсырмаға қанша пайымдау қажет екенін таңдаудан бұрын жорамалдарды, шығыс пішімін және қатысты бастапқы материалды анықтаңыз.
Шешімі көрсетілетін мәселе үшін толық шартты беріп, маңызды негізделген қадамдарды, одан кейін соңғы өрнекті сұраңыз. Код тапсырмасы үшін талапты, қатысты функцияны және нақты кірісті беріңіз; ұсынылған іске асыруды түсіндірме мен мысалдардан бөлек сұраңыз. Өндірушінің пайдалану көрсетілімдері нұсқауларды орындауды, суретке қолданылған есептеу құралын және визуалды пайымдауды қамтып, мәтіндік және визуалды дәлелдің осы әртүрлі тапсырмаларға қалай кіретінін көрсетеді.
Кодтау, құжаттар және құралдар
Модель код базасын зерттеуге және бағдарламалық инженерия агенттеріне, жалпы көмекшілерге, құжат түсінуге және зерттеуге арналған. Кодтау агентіне сұрау өзгертілетін модульді, сақталатын интерфейсті және алынуға тиіс әрекетті атай алады. Қатысты бастапқы код пен қате дәлелін беріңіз. Модель келесі операцияны немесе код өзгерісін ұсына алады, ал қолданба репозиторийге қолжетімділікті, орындауды және кері байланысты береді.
Құжаттан дерек алу үшін қажетті өрістерді және жетіспейтін ақпаратты қалай көрсету керегін анықтаңыз. Пайдалы жазба құжат идентификаторын, дереккөз тұжырымын, түсіндірілген талапты және шешілмеген сұрақты бөле алады. Өндірушінің қызмет карточкасында арнайы құрылымдалған шығыс және құжат бойынша сұраққа жауап беру көрсетілген; соңғысы тіл моделі талдауына дейін мәтін мен құрылымды дайындау үшін құжат өңдеуді және OCR пайдаланады. Тікелей сурет сұрағы мен OCR көмегімен құжат үдерісі өз кіріс дайындығын сақтауы керек.
Функция шақыруы анық сипатталған құралдарды қажет етеді. Модель функцияны таңдап, аргументтерін жасайды; қолданба операцияны орындап, нәтижесін кейінгі жауап үшін қайтарады. Тапсырма іздеу, есептеу немесе кодтау операциясы болса да, осы логика қолданылады. JSON пішімдеуі жауапты реттейді, ал құрал шақыруы сыртқы әрекетті сұрайды; екеуін өзара алмастырылатын нәтижелер деп қарастыруға болмайды.
Қызмет карточкасында болжамды шығыс, жауап префикстері, пакеттік өңдеу және агент әңгімелері де көрсетілген. Болжамды шығыс құжатты немесе код файлын тек шектеулі өзгеріспен қайта жасау керек болып, қалған мазмұны белгілі кезде пайдалы. Өңдеуді және сақталатын материалды көрсетіңіз. Префикстен жалғастыру жауаптың белгілі бастауын пайдаланады, ал пакеттік өңдеу қосымша пайымдау режиміне емес, жұмысты жіберуге қатысты.
Контекст және шығарылым шекаралары
Жазбаша тапсырманы, визуалды материалды, әңгімені және қалаған жауапты құжатталған 256 мың токендік контекстке сай жоспарлаңыз. Жарияланған пайдалану мысалы 262 144 токендік контексті баптайды, ал ондағы 1 024 токендік генерация мысалы бөлек ең жоғары шығыс сыйымдылығы емес. Оқылған дереккөздер таңдалған тапсырма ұзындығын алмастыратын тәуелсіз қатаң жауап ұзындығы шегін бермейді.
Small 4 моделінің өз 119B сарапшылар қоспасы архитектурасы және гибридті режимдері бар. Оған Medium 3.5 моделінің тығыз 128B архитектурасын немесе Ministral 3 моделінің бөлек Instruct және Reasoning шығарылымдарын телуге болмайды. Өндіруші бөлек квантталған және болжамды декодтау артефактілерін де шығарады; бұлар — әртүрлі мазмұн модальдықтары емес, бөлек орналастыру артефактілері. Аталған Small 4 шығарылымын және нақты түсіндірме, құрылымдалған жазба немесе код нәтижесі үшін сұралған режимді сақтаңыз.
POST /v1/batchestexttext| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісendpoint | Түріstring | ТалапМіндетті | Мәндер мен шектеулер /v1/chat/completions | Әдепкі— |
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер mistralai/mistral-small-2603:batch | Әдепкі— |
Өрісrequests | Түріbatch_item[] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 | Әдепкі— |
Өрісrequests[].custom_id | Түріstring | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісrequests[].body.messages | Түріmessage[] | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісcompletion_window | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер 24h | Әдепкі— |
Өрісprovider | Түріobject|null | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісrequests[].body.model | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603 | Әдепкі— |
Өрісprovider.only | Түріstring[] | ТалапМіндетті емес | Мәндер мен шектеулер mistral | Әдепкі— |
Өрісprovider.allow_fallbacks | Түріboolean|null | ТалапМіндетті емес | Мәндер мен шектеулер false, null | Әдепкі— |
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыendpoint, model, requests |
Параметрmaterial_types | Параметр талаптарыtext |
Параметрrepresentation | Параметр талаптарыСұрау ішіне енгізілген requests[]; әр элементте custom_id және body бар |
Параметрrequest_endpoint_profile | Параметр талаптары/v1/chat/completions |
Параметрfile_material | Параметр талаптарыСұрауды жіберуші нақты UTF-8 JSONL деректерін жергілікті ортада оқып, requests[] ішіне енгізе алады. Жүктеу мақсаты, input_file_id немесе файлға сілтеме қолданылмайды. Клиент материалы жоқ немесе бос болса, дайындық POST жіберілгенге дейін тоқтатылады. |
Параметрserialization_order | Параметр талаптарыendpoint, model, provider (берілген болса), completion_window (берілген болса), requests өрісін соңында орналастырыңыз |
Параметрoptional_controls | Параметр талаптарыprovider.only, provider.allow_fallbacks, completion_window |
Параметрschema_scope | Параметр талаптарыҚұжаттамада сипатталған, сұраудың ішіне енгізілетін Batch құрылымындағы мәтіндік Chat Completions сұрауларының денелері. |
Өмірлік цикл: asynchronous
GET /v1/batches/{operation_id} · Бастапқы жасау жауабындағы нақты response.id; сол пайдаланушы/кілт/топ
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
Әр төлемді көрсетілген шарттармен салыстырыңыз. Балама баптаулардың әр жиыны үшін бір мөлшерлемені қолданыңыз.
| Баптау | Мөлшерлемелер кестесі | Контекст токендерінің саны мынадан көп | Контекст токендерінің саны мынадан аспайды, шегі кіреді | Төлем |
|---|---|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Контекст токендерінің саны мынадан көп— | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.00015 / 1K токен Шығыс · Шығыс токендері $0.0006 / 1K токен Кіріс · Кэшті оқу $0.000015 / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
| БаптауСұрау ұзындығының 1-деңгейі | Мөлшерлемелер кестесі— | Контекст токендерінің саны мынадан көп0 | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.00015 / 1K токен Шығыс · Шығыс токендері $0.0006 / 1K токен Кіріс · Кэшті оқу $0.000015 / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nЖауаптың ішіндегі results[].response.body JSON деректері
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nҚайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Бастапқы күй туралы толық JSON деректерін, әрбір нәтижені/custom_id мәнін және жауаптың немесе қатенің толық денесін сақтаңыз. Аяқталған results[] деректерін сүзгілемей JSONL түрінде сақтаңыз.
Бастапқы операцияның ID мәнін сақтаңыз. 503 result_pending_check жауабында X-Should-Retry:false көрсетіледі; нәтижесі белгісіз бастапқы пакетті ешқашан қайта жібермеңіз.
| Өріс | Түрі |
|---|---|
Өрісresults[].custom_id | Түріstring |
Өрісresults[].response.body.choices[].message.content | Түріstring|null |
Өрісresults[].error | Түріobject|null |
Өрісusage | Түріobject|null |
Өрісid | Түріstring |
Өрісmodel | Түріstring |
Өрісendpoint | Түріstring |
Өрісstatus | Түріstring |
Өрісrequest_counts | Түріobject |
Өрісresults[].id | Түріstring |
Өрісresults[].response.status_code | Түріinteger |
Өрісresults[].response.request_id | Түріstring |
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартҚұжаттамада сипатталған сұрау ішіндегі құрылым жарамсыз, кілттер қайталанады, элементтің сәйкестігі бұзылған немесе бапталған модель мүмкіндіктері арасында қайшылық бар. | Келесі қадамЖаңадан жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Жауап401 · authentication_error | ШартЖарамсыз API кілті. | Келесі қадамПайдалануға рұқсат берілген Ailoot кілтін қолданыңыз. |
Жауап403 · permission_error | ШартПакеттік өңдеу тобы қолжетімсіз. | Келесі қадамКілттің/топтың қол жеткізу құқығын тексеріңіз. |
Жауап422 · invalid_request_error | ШартBatch төлемді баланстан алады; жазылыммен төленетін жасау сұрауы қабылданбайды. | Келесі қадамБаланстан төлем алынатын, пайдалануға рұқсат берілген топты қолданыңыз. |
Жауап422 · price_unavailable | ШартBatch кіріс деректерінің құнын алдын ала есептеу мүмкін емес. | Келесі қадамЖауапты сақтаңыз; осы әдістер тобы үшін құжаттамада сипатталған кіріс деректерін қолданыңыз. |
Жауап402 · billing_error | ШартПакеттік өңдеу үшін қаражатты резервтеу қолжетімсіз. | Келесі қадамЖаңа сұрау жібермес бұрын сұрауды қабылдау мәселесін шешіңіз. |
Жауап503 · price_unavailable | ШартBatch әдісінің бағасы/жүйенің төл тарифтері қолжетімсіз. | Келесі қадамЖауапты сақтаңыз; бағаларды басқа мәндермен алмастырмаңыз. |
Жауап503 · api_error | ШартПровайдердің осы нақты маршруты қолжетімсіз. | Келесі қадамМаршрутты түзету үшін жауапты сақтаңыз. |
Жауап503 · result_pending_check | ШартБастапқы нәтижені тексеру қажет; X-Should-Retry:false. | Келесі қадамБастапқы operation_id/id мәнін сақтап, оның күйін оқыңыз; бастапқы POST сұрауын ешқашан қайталамаңыз. |
Жауап404 · not_found | ШартBatch күйін тексеретін операция жоқ немесе басқа субъектіге тиесілі. | Келесі қадамБастапқы id мәнін дәл қолданыңыз және сол пайдаланушыны/кілтті/топты пайдаланыңыз. |
Ailoot Ultra mistralai/mistral-small-2603:batch
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.