Mistral Large 3 2512 — Mistral AI компаниясының жалпы әңгімеге, визуалды түсінуге және кәсіпорын жұмысына арналған, нұсқаулармен бапталған шығарылымы. Оның сирек белсенетін сарапшылар қоспасы архитектурасында барлығы 675 млрд параметр, соның ішінде 41 млрд белсенді параметр және 256 мың токендік контекст терезесі бар. Мәтін мен суреттер бір тапсырмаға үлес қоса алады, ал жауап мәтін, код немесе құрылымдалған нәтиже түрінде болады.
Мүмкіндіктер және кірісті дайындау
Модель тілдік компонентті көру кодтаушысымен біріктіреді. Суретке анық рөл беріңіз: оқылатын бет, түсіндірілетін сызба немесе баяндалатын экран. Элементі көп экран үшін қатысты басқару элементтері бар қиындыны беріп, оларды түсінуге қажет айналасындағы белгілерді сақтаңыз. Mistral шаршыға жақын суреттерді ұсынады; ерекше жіңішке немесе кең дереккөздегі маңызды бөлшектерді оқылмайтын жолаққа дейін кішірейтпей, оны пайдалы аймақтарға бөліңіз.
Өндіруші ондаған тілде, соның ішінде ағылшын, француз, испан, неміс, итальян, португал, нидерланд, қытай, жапон, корей және араб тілдерінде көптілді әңгімелесуді көрсетеді. Шығыс тілін, көзделген оқырманды және сақталатын терминологияны айтыңыз. Қолдау мақаласы үшін өнім атаулары өзгермеген жергіліктендірілген түсіндірмені және жариялау алдында шешілетін күмәнді аудармалардың қысқа тізімін сұраңыз.
Ұзақ құжаттар және кәсіпорын білімі
Контексті байланысты материалды біріктіруге пайдаланыңыз: саясат мәтіні, спецификация, қолданыстағы шешімдер және жауап қажет сұрақ. Әр дереккөзге және оның нұсқасына белгі қойыңыз. Пайдалы сұрау: «Қызметке бейімдеудің осы үш саясатын салыстыр. Ортақ талаптар, қайшылықтар және жауапсыз сұрақтар кестесін, әр қорытынды үшін дереккөз бөлімімен бірге қайтар». Алынған артефакт тақырыптың жалпы түйіндемесі емес, берілген үзінділерге негізделген салыстыру болады.
Құжат сұрағы үшін қажетті егжей-тегжей деңгейін анықтап, қорытындының жанында растайтын үзіндіні сұраңыз. Mistral компаниясының Document QnA үдерісі алдымен OCR арқылы мәтін мен құжат құрылымын алады, содан кейін сол материалды түсіндіру үшін тіл моделін пайдаланады. Алынған мәтінді дайындағанда жауап түпнұсқаға сілтей алуы үшін бет нөмірлері мен тақырыптарды сақтаңыз. Құжат URL-і, алынған мәтін және сурет дәлелі әртүрлі дайындықты қажет етеді; пайдаланып отырған қолданба қолдайтын кіріс пішінін таңдаңыз.
Кодтау және күнделікті көмек
Mistral Large 3 моделін күнделікті әңгімемен қатар кодтау көмегіне де арнайды. Қатысты функцияларды, күтілетін әрекетті және байқалған қатені беріңіз. Мысалы: «Кіріс жаңа жолсыз аяқталса, бұл талдағыш соңғы өрісті түсіріп қалдырады. Қате тармақты түсіндір, ең шағын өзгерісті ұсын және түзетілген функцияны үш өкілдік кіріс/шығыс мысалымен қайтар». Пайдалы нәтиже — нақты кодқа байланыстырылған ұсынылған өзгеріс және әзірлеуші іске қоса алатын жағдайлар жиыны.
Іскерлік нобай үшін фактілер мен қажетті артефактіні бірге беріңіз. Кездесу жазбаларын шешім жазбасына айналдыру сұрауы шешімді, баламаларды, шешілмеген жорамалдарды және келесі әрекетті атауы керек. Модельден дереккөз фактілерін ұсыныстардан бөлек ұстауды және жетіспейтін ақпаратты тиісті бөлімде белгілеуді сұраңыз. Бұл шығысты біртұтас ажыратылмаған баяндауға қарағанда өңдеуге ыңғайлы етеді.
Құралдар және құрылымдалған нәтижелер
Төл функция шақыруы модельге берілген функцияны таңдап, аргументтерін дайындауға мүмкіндік береді. Қолданба сол функцияны орындап, нәтижесін қайтарады; содан кейін модель қайтарылған ақпаратты жауапта қолданады. Құралдарды нақты етіп, тек тапсырмаға қажеттерін ұсыныңыз. Қор тексеру көмекшісі өнім сілтемесін қабылдап, қорды іздеуді сұрап, қайтарылған сан мен қойманы түсіндіре алады. Сұрауды орындамас бұрын таңдалған функция мен аргументтерді тексеріп, құрал жауабын соңғы жауаппен бірге сақтаңыз.
Дерек алу үшін өрістерді, түрлерді және жетіспейтін мәндердің берілуін көрсетіңіз. Mistral JSON режимін және арнайы құрылымдалған шығысты құжаттайды; оның JSON режимі JSON қайтару туралы нақты нұсқауды талап етеді, ал арнайы схема пішімді қатаңырақ басқарады. Шот түйіндемесі жеткізушіні, шот нөмірін, төлеу мерзімін, валютаны және жол элементтерін сұрай алады; жетіспейтін мәндер бірізді берілуі керек. Жауап сұралған құрылымға сай болса да, алынған мәндерді құжатпен салыстырып тексеріңіз.
Баптаулар және шығарылым айырмашылықтары
Жүйелік нұсқауларда рөлді, тапсырманы және құрал ережелерін анықтаңыз. Mistral осы модель нұсқасын өндірістік және күнделікті қолдану үшін 0.1-ден төмен temperature ұсынады, ал шығармашылық тапсырмалар үшін жоғарырақ мәндерді зерттеуге болады. Әртүрлі идеялар сұрауын қайталанатын дерек алу сұрауынан бөліңіз: біріншісінде баламаларға орын беріп, екіншісінде нақты өрістер мен дереккөз шектеулерін көрсетіңіз.
Бұл нұсқаулық шығарылым Large 3 базалық нұсқасынан және арнайы пайымдау модельдерінен бөлек. Өндіруші қатаң пайымдау мен маманданған визуалды жұмысты дәл сол тапсырмалар үшін жасалған модель артық болуы мүмкін салалар ретінде анықтайды. Қиын есептеу үшін жорамалдар мен өлшем бірліктерін беріп, аралық тексерулерді сұраңыз және нәтижені тексеру үшін қолжетімді есептеу құралын пайдаланыңыз. Тығыз визуалды дәлел үшін оқылатын аймақтарды дайындап, жауапты есепте пайдаланбас бұрын дереккөзбен салыстырыңыз.
", "aboutText": "Mistral Large 3 2512 — Mistral AI компаниясының жалпы әңгімеге, визуалды түсінуге және кәсіпорын жұмысына арналған, нұсқаулармен бапталған шығарылымы. Оның сирек белсенетін сарапшылар қоспасы архитектурасында барлығы 675 млрд параметр, соның ішінде 41 млрд белсенді параметр және 256 мың токендік контекст терезесі бар. Мәтін мен суреттер бір тапсырмаға үлес қоса алады, ал жауап мәтін, код немесе құрылымдалған нәтиже түрінде болады.\n\nМүмкіндіктер және кірісті дайындау\n\nМодель тілдік компонентті көру кодтаушысымен біріктіреді. Суретке анық рөл беріңіз: оқылатын бет, түсіндірілетін сызба немесе баяндалатын экран. Элементі көп экран үшін қатысты басқару элементтері бар қиындыны беріп, оларды түсінуге қажет айналасындағы белгілерді сақтаңыз. Mistral шаршыға жақын суреттерді ұсынады; ерекше жіңішке немесе кең дереккөздегі маңызды бөлшектерді оқылмайтын жолаққа дейін кішірейтпей, оны пайдалы аймақтарға бөліңіз.\n\nӨндіруші ондаған тілде, соның ішінде ағылшын, француз, испан, неміс, итальян, португал, нидерланд, қытай, жапон, корей және араб тілдерінде көптілді әңгімелесуді көрсетеді. Шығыс тілін, көзделген оқырманды және сақталатын терминологияны айтыңыз. Қолдау мақаласы үшін өнім атаулары өзгермеген жергіліктендірілген түсіндірмені және жариялау алдында шешілетін күмәнді аудармалардың қысқа тізімін сұраңыз.\n\nҰзақ құжаттар және кәсіпорын білімі\n\nКонтексті байланысты материалды біріктіруге пайдаланыңыз: саясат мәтіні, спецификация, қолданыстағы шешімдер және жауап қажет сұрақ. Әр дереккөзге және оның нұсқасына белгі қойыңыз. Пайдалы сұрау: «Қызметке бейімдеудің осы үш саясатын салыстыр. Ортақ талаптар, қайшылықтар және жауапсыз сұрақтар кестесін, әр қорытынды үшін дереккөз бөлімімен бірге қайтар». Алынған артефакт тақырыптың жалпы түйіндемесі емес, берілген үзінділерге негізделген салыстыру болады.\n\nҚұжат сұрағы үшін қажетті егжей-тегжей деңгейін анықтап, қорытындының жанында растайтын үзіндіні сұраңыз. Mistral компаниясының Document QnA үдерісі алдымен OCR арқылы мәтін мен құжат құрылымын алады, содан кейін сол материалды түсіндіру үшін тіл моделін пайдаланады. Алынған мәтінді дайындағанда жауап түпнұсқаға сілтей алуы үшін бет нөмірлері мен тақырыптарды сақтаңыз. Құжат URL-і, алынған мәтін және сурет дәлелі әртүрлі дайындықты қажет етеді; пайдаланып отырған қолданба қолдайтын кіріс пішінін таңдаңыз.\n\nКодтау және күнделікті көмек\n\nMistral Large 3 моделін күнделікті әңгімемен қатар кодтау көмегіне де арнайды. Қатысты функцияларды, күтілетін әрекетті және байқалған қатені беріңіз. Мысалы: «Кіріс жаңа жолсыз аяқталса, бұл талдағыш соңғы өрісті түсіріп қалдырады. Қате тармақты түсіндір, ең шағын өзгерісті ұсын және түзетілген функцияны үш өкілдік кіріс/шығыс мысалымен қайтар». Пайдалы нәтиже — нақты кодқа байланыстырылған ұсынылған өзгеріс және әзірлеуші іске қоса алатын жағдайлар жиыны.\n\nІскерлік нобай үшін фактілер мен қажетті артефактіні бірге беріңіз. Кездесу жазбаларын шешім жазбасына айналдыру сұрауы шешімді, баламаларды, шешілмеген жорамалдарды және келесі әрекетті атауы керек. Модельден дереккөз фактілерін ұсыныстардан бөлек ұстауды және жетіспейтін ақпаратты тиісті бөлімде белгілеуді сұраңыз. Бұл шығысты біртұтас ажыратылмаған баяндауға қарағанда өңдеуге ыңғайлы етеді.\n\nҚұралдар және құрылымдалған нәтижелер\n\nТөл функция шақыруы модельге берілген функцияны таңдап, аргументтерін дайындауға мүмкіндік береді. Қолданба сол функцияны орындап, нәтижесін қайтарады; содан кейін модель қайтарылған ақпаратты жауапта қолданады. Құралдарды нақты етіп, тек тапсырмаға қажеттерін ұсыныңыз. Қор тексеру көмекшісі өнім сілтемесін қабылдап, қорды іздеуді сұрап, қайтарылған сан мен қойманы түсіндіре алады. Сұрауды орындамас бұрын таңдалған функция мен аргументтерді тексеріп, құрал жауабын соңғы жауаппен бірге сақтаңыз.\n\nДерек алу үшін өрістерді, түрлерді және жетіспейтін мәндердің берілуін көрсетіңіз. Mistral JSON режимін және арнайы құрылымдалған шығысты құжаттайды; оның JSON режимі JSON қайтару туралы нақты нұсқауды талап етеді, ал арнайы схема пішімді қатаңырақ басқарады. Шот түйіндемесі жеткізушіні, шот нөмірін, төлеу мерзімін, валютаны және жол элементтерін сұрай алады; жетіспейтін мәндер бірізді берілуі керек. Жауап сұралған құрылымға сай болса да, алынған мәндерді құжатпен салыстырып тексеріңіз.\n\nБаптаулар және шығарылым айырмашылықтары\n\nЖүйелік нұсқауларда рөлді, тапсырманы және құрал ережелерін анықтаңыз. Mistral осы модель нұсқасын өндірістік және күнделікті қолдану үшін 0.1-ден төмен temperature ұсынады, ал шығармашылық тапсырмалар үшін жоғарырақ мәндерді зерттеуге болады. Әртүрлі идеялар сұрауын қайталанатын дерек алу сұрауынан бөліңіз: біріншісінде баламаларға орын беріп, екіншісінде нақты өрістер мен дереккөз шектеулерін көрсетіңіз.\n\nБұл нұсқаулық шығарылым Large 3 базалық нұсқасынан және арнайы пайымдау модельдерінен бөлек. Өндіруші қатаң пайымдау мен маманданған визуалды жұмысты дәл сол тапсырмалар үшін жасалған модель артық болуы мүмкін салалар ретінде анықтайды. Қиын есептеу үшін жорамалдар мен өлшем бірліктерін беріп, аралық тексерулерді сұраңыз және нәтижені тексеру үшін қолжетімді есептеу құралын пайдаланыңыз. Тығыз визуалды дәлел үшін оқылатын аймақтарды дайындап, жауапты есепте пайдаланбас бұрын дереккөзбен салыстырыңыз.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "b98bdc42e335b08990b2262e5c63a1f6d51184a32a647e037cec17bb13424c65", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "kk", "methods": [ { "html": "mistralai/mistral-large-2512:batchMistral Large 3 2512 — ұзақ құжаттарға, кәсіпорын біліміне, кодтауға және құралдар көмегімен жұмыс істеуге арналған көптілді мәтін мен сурет моделі. Оның 256 мың токендік контексті, төл функция шақыруы және құрылымдалған шығысы берілген дәлелдерді жауаптарға, жазбаларға және ұсынылған әрекеттерге айналдыруға көмектеседі.
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
Mistral Large 3 2512 — Mistral AI компаниясының жалпы әңгімеге, визуалды түсінуге және кәсіпорын жұмысына арналған, нұсқаулармен бапталған шығарылымы. Оның сирек белсенетін сарапшылар қоспасы архитектурасында барлығы 675 млрд параметр, соның ішінде 41 млрд белсенді параметр және 256 мың токендік контекст терезесі бар. Мәтін мен суреттер бір тапсырмаға үлес қоса алады, ал жауап мәтін, код немесе құрылымдалған нәтиже түрінде болады.
Мүмкіндіктер және кірісті дайындау
Модель тілдік компонентті көру кодтаушысымен біріктіреді. Суретке анық рөл беріңіз: оқылатын бет, түсіндірілетін сызба немесе баяндалатын экран. Элементі көп экран үшін қатысты басқару элементтері бар қиындыны беріп, оларды түсінуге қажет айналасындағы белгілерді сақтаңыз. Mistral шаршыға жақын суреттерді ұсынады; ерекше жіңішке немесе кең дереккөздегі маңызды бөлшектерді оқылмайтын жолаққа дейін кішірейтпей, оны пайдалы аймақтарға бөліңіз.
Өндіруші ондаған тілде, соның ішінде ағылшын, француз, испан, неміс, итальян, португал, нидерланд, қытай, жапон, корей және араб тілдерінде көптілді әңгімелесуді көрсетеді. Шығыс тілін, көзделген оқырманды және сақталатын терминологияны айтыңыз. Қолдау мақаласы үшін өнім атаулары өзгермеген жергіліктендірілген түсіндірмені және жариялау алдында шешілетін күмәнді аудармалардың қысқа тізімін сұраңыз.
Ұзақ құжаттар және кәсіпорын білімі
Контексті байланысты материалды біріктіруге пайдаланыңыз: саясат мәтіні, спецификация, қолданыстағы шешімдер және жауап қажет сұрақ. Әр дереккөзге және оның нұсқасына белгі қойыңыз. Пайдалы сұрау: «Қызметке бейімдеудің осы үш саясатын салыстыр. Ортақ талаптар, қайшылықтар және жауапсыз сұрақтар кестесін, әр қорытынды үшін дереккөз бөлімімен бірге қайтар». Алынған артефакт тақырыптың жалпы түйіндемесі емес, берілген үзінділерге негізделген салыстыру болады.
Құжат сұрағы үшін қажетті егжей-тегжей деңгейін анықтап, қорытындының жанында растайтын үзіндіні сұраңыз. Mistral компаниясының Document QnA үдерісі алдымен OCR арқылы мәтін мен құжат құрылымын алады, содан кейін сол материалды түсіндіру үшін тіл моделін пайдаланады. Алынған мәтінді дайындағанда жауап түпнұсқаға сілтей алуы үшін бет нөмірлері мен тақырыптарды сақтаңыз. Құжат URL-і, алынған мәтін және сурет дәлелі әртүрлі дайындықты қажет етеді; пайдаланып отырған қолданба қолдайтын кіріс пішінін таңдаңыз.
Кодтау және күнделікті көмек
Mistral Large 3 моделін күнделікті әңгімемен қатар кодтау көмегіне де арнайды. Қатысты функцияларды, күтілетін әрекетті және байқалған қатені беріңіз. Мысалы: «Кіріс жаңа жолсыз аяқталса, бұл талдағыш соңғы өрісті түсіріп қалдырады. Қате тармақты түсіндір, ең шағын өзгерісті ұсын және түзетілген функцияны үш өкілдік кіріс/шығыс мысалымен қайтар». Пайдалы нәтиже — нақты кодқа байланыстырылған ұсынылған өзгеріс және әзірлеуші іске қоса алатын жағдайлар жиыны.
Іскерлік нобай үшін фактілер мен қажетті артефактіні бірге беріңіз. Кездесу жазбаларын шешім жазбасына айналдыру сұрауы шешімді, баламаларды, шешілмеген жорамалдарды және келесі әрекетті атауы керек. Модельден дереккөз фактілерін ұсыныстардан бөлек ұстауды және жетіспейтін ақпаратты тиісті бөлімде белгілеуді сұраңыз. Бұл шығысты біртұтас ажыратылмаған баяндауға қарағанда өңдеуге ыңғайлы етеді.
Құралдар және құрылымдалған нәтижелер
Төл функция шақыруы модельге берілген функцияны таңдап, аргументтерін дайындауға мүмкіндік береді. Қолданба сол функцияны орындап, нәтижесін қайтарады; содан кейін модель қайтарылған ақпаратты жауапта қолданады. Құралдарды нақты етіп, тек тапсырмаға қажеттерін ұсыныңыз. Қор тексеру көмекшісі өнім сілтемесін қабылдап, қорды іздеуді сұрап, қайтарылған сан мен қойманы түсіндіре алады. Сұрауды орындамас бұрын таңдалған функция мен аргументтерді тексеріп, құрал жауабын соңғы жауаппен бірге сақтаңыз.
Дерек алу үшін өрістерді, түрлерді және жетіспейтін мәндердің берілуін көрсетіңіз. Mistral JSON режимін және арнайы құрылымдалған шығысты құжаттайды; оның JSON режимі JSON қайтару туралы нақты нұсқауды талап етеді, ал арнайы схема пішімді қатаңырақ басқарады. Шот түйіндемесі жеткізушіні, шот нөмірін, төлеу мерзімін, валютаны және жол элементтерін сұрай алады; жетіспейтін мәндер бірізді берілуі керек. Жауап сұралған құрылымға сай болса да, алынған мәндерді құжатпен салыстырып тексеріңіз.
Баптаулар және шығарылым айырмашылықтары
Жүйелік нұсқауларда рөлді, тапсырманы және құрал ережелерін анықтаңыз. Mistral осы модель нұсқасын өндірістік және күнделікті қолдану үшін 0.1-ден төмен temperature ұсынады, ал шығармашылық тапсырмалар үшін жоғарырақ мәндерді зерттеуге болады. Әртүрлі идеялар сұрауын қайталанатын дерек алу сұрауынан бөліңіз: біріншісінде баламаларға орын беріп, екіншісінде нақты өрістер мен дереккөз шектеулерін көрсетіңіз.
Бұл нұсқаулық шығарылым Large 3 базалық нұсқасынан және арнайы пайымдау модельдерінен бөлек. Өндіруші қатаң пайымдау мен маманданған визуалды жұмысты дәл сол тапсырмалар үшін жасалған модель артық болуы мүмкін салалар ретінде анықтайды. Қиын есептеу үшін жорамалдар мен өлшем бірліктерін беріп, аралық тексерулерді сұраңыз және нәтижені тексеру үшін қолжетімді есептеу құралын пайдаланыңыз. Тығыз визуалды дәлел үшін оқылатын аймақтарды дайындап, жауапты есепте пайдаланбас бұрын дереккөзбен салыстырыңыз.
POST /v1/batchestexttext| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісendpoint | Түріstring | ТалапМіндетті | Мәндер мен шектеулер /v1/chat/completions | Әдепкі— |
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер mistralai/mistral-large-2512:batch | Әдепкі— |
Өрісrequests | Түріbatch_item[] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 | Әдепкі— |
Өрісrequests[].custom_id | Түріstring | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісrequests[].body.messages | Түріmessage[] | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісcompletion_window | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер 24h | Әдепкі— |
Өрісprovider | Түріobject|null | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісrequests[].body.model | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер mistralai/mistral-large-2512:batch, mistralai/mistral-large-2512 | Әдепкі— |
Өрісprovider.only | Түріstring[] | ТалапМіндетті емес | Мәндер мен шектеулер mistral | Әдепкі— |
Өрісprovider.allow_fallbacks | Түріboolean|null | ТалапМіндетті емес | Мәндер мен шектеулер false, null | Әдепкі— |
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыendpoint, model, requests |
Параметрmaterial_types | Параметр талаптарыtext |
Параметрrepresentation | Параметр талаптарыСұрау ішіне енгізілген requests[]; әр элементте custom_id және body бар |
Параметрrequest_endpoint_profile | Параметр талаптары/v1/chat/completions |
Параметрfile_material | Параметр талаптарыСұрауды жіберуші нақты UTF-8 JSONL деректерін жергілікті ортада оқып, requests[] ішіне енгізе алады. Жүктеу мақсаты, input_file_id немесе файлға сілтеме қолданылмайды. Клиент материалы жоқ немесе бос болса, дайындық POST жіберілгенге дейін тоқтатылады. |
Параметрserialization_order | Параметр талаптарыendpoint, model, provider (берілген болса), completion_window (берілген болса), requests өрісін соңында орналастырыңыз |
Параметрoptional_controls | Параметр талаптарыprovider.only, provider.allow_fallbacks, completion_window |
Параметрschema_scope | Параметр талаптарыҚұжаттамада сипатталған, сұраудың ішіне енгізілетін Batch құрылымындағы мәтіндік Chat Completions сұрауларының денелері. |
Өмірлік цикл: asynchronous
GET /v1/batches/{operation_id} · Бастапқы жасау жауабындағы нақты response.id; сол пайдаланушы/кілт/топ
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
Әр төлемді көрсетілген шарттармен салыстырыңыз. Балама баптаулардың әр жиыны үшін бір мөлшерлемені қолданыңыз.
| Баптау | Мөлшерлемелер кестесі | Контекст токендерінің саны мынадан көп | Контекст токендерінің саны мынадан аспайды, шегі кіреді | Төлем |
|---|---|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Контекст токендерінің саны мынадан көп— | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.0005 / 1K токен Шығыс · Шығыс токендері $0.0015 / 1K токен Кіріс · Кэшті оқу $0.00005 / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
| БаптауСұрау ұзындығының 1-деңгейі | Мөлшерлемелер кестесі— | Контекст токендерінің саны мынадан көп0 | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.0005 / 1K токен Шығыс · Шығыс токендері $0.0015 / 1K токен Кіріс · Кэшті оқу $0.00005 / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-large-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-large-2512:batch', 'mistralai/mistral-large-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-large-2512:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nЖауаптың ішіндегі results[].response.body JSON деректері
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nҚайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Бастапқы күй туралы толық JSON деректерін, әрбір нәтижені/custom_id мәнін және жауаптың немесе қатенің толық денесін сақтаңыз. Аяқталған results[] деректерін сүзгілемей JSONL түрінде сақтаңыз.
Бастапқы операцияның ID мәнін сақтаңыз. 503 result_pending_check жауабында X-Should-Retry:false көрсетіледі; нәтижесі белгісіз бастапқы пакетті ешқашан қайта жібермеңіз.
| Өріс | Түрі |
|---|---|
Өрісresults[].custom_id | Түріstring |
Өрісresults[].response.body.choices[].message.content | Түріstring|null |
Өрісresults[].error | Түріobject|null |
Өрісusage | Түріobject|null |
Өрісid | Түріstring |
Өрісmodel | Түріstring |
Өрісendpoint | Түріstring |
Өрісstatus | Түріstring |
Өрісrequest_counts | Түріobject |
Өрісresults[].id | Түріstring |
Өрісresults[].response.status_code | Түріinteger |
Өрісresults[].response.request_id | Түріstring |
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартҚұжаттамада сипатталған сұрау ішіндегі құрылым жарамсыз, кілттер қайталанады, элементтің сәйкестігі бұзылған немесе бапталған модель мүмкіндіктері арасында қайшылық бар. | Келесі қадамЖаңадан жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Жауап401 · authentication_error | ШартЖарамсыз API кілті. | Келесі қадамПайдалануға рұқсат берілген Ailoot кілтін қолданыңыз. |
Жауап403 · permission_error | ШартПакеттік өңдеу тобы қолжетімсіз. | Келесі қадамКілттің/топтың қол жеткізу құқығын тексеріңіз. |
Жауап422 · invalid_request_error | ШартBatch төлемді баланстан алады; жазылыммен төленетін жасау сұрауы қабылданбайды. | Келесі қадамБаланстан төлем алынатын, пайдалануға рұқсат берілген топты қолданыңыз. |
Жауап422 · price_unavailable | ШартBatch кіріс деректерінің құнын алдын ала есептеу мүмкін емес. | Келесі қадамЖауапты сақтаңыз; осы әдістер тобы үшін құжаттамада сипатталған кіріс деректерін қолданыңыз. |
Жауап402 · billing_error | ШартПакеттік өңдеу үшін қаражатты резервтеу қолжетімсіз. | Келесі қадамЖаңа сұрау жібермес бұрын сұрауды қабылдау мәселесін шешіңіз. |
Жауап503 · price_unavailable | ШартBatch әдісінің бағасы/жүйенің төл тарифтері қолжетімсіз. | Келесі қадамЖауапты сақтаңыз; бағаларды басқа мәндермен алмастырмаңыз. |
Жауап503 · api_error | ШартПровайдердің осы нақты маршруты қолжетімсіз. | Келесі қадамМаршрутты түзету үшін жауапты сақтаңыз. |
Жауап503 · result_pending_check | ШартБастапқы нәтижені тексеру қажет; X-Should-Retry:false. | Келесі қадамБастапқы operation_id/id мәнін сақтап, оның күйін оқыңыз; бастапқы POST сұрауын ешқашан қайталамаңыз. |
Жауап404 · not_found | ШартBatch күйін тексеретін операция жоқ немесе басқа субъектіге тиесілі. | Келесі қадамБастапқы id мәнін дәл қолданыңыз және сол пайдаланушыны/кілтті/топты пайдаланыңыз. |
Ailoot Ultra mistralai/mistral-large-2512:batch
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.