Kimi K3 — Moonshot AI компаниясының ұзақ мерзімді кодтауға, біліммен жұмысқа және пайымдауға арналған ашық салмақты мультимодалды агенттік моделі. Ол мәтінді суреттер мен видеоны төл визуалды түсінумен біріктіріп, мәтіндік жауап немесе құрал сұрауын шығарады. Өндіруші ұзақ инженерлік сессияларды, ірі репозиторийлерді және кодпен қатар скриншоттарды немесе визуалды кері байланысты қолданатын тапсырмаларды атап көрсетеді. Пайдалы тапсырма қалаған артефактіні, пайдаланылатын дәлелді және жұмыстың аяқталғанын білдіретін шартты анықтайды.
Модель карточкасы барлығы 2,8 триллион параметрі және 104 млрд белсендірілетін параметрі бар сирек сарапшылар қоспасын сипаттайды. Оның Stable LatentMoE құрылымы әр токен үшін 896 сарапшының 16-сын таңдап, Kimi Delta Attention және Attention Residuals тәсілдерін қақпалы назармен бірге пайдаланады. Дәл контекст ұзындығы — 1 048 576 токен. Бұл — көлемді тапсырма контекстіне арналған орын, дереккөз шекараларын немесе нәтижеге қажет орынды елемеу себебі емес.
Жарияланған төл артефакт MXFP4 салмақтары мен MXFP8 белсендірулері бар, кванттауды ескеретін үйретуді пайдаланады. Бұл — бөлек берілген квантталған шығарылымнан немесе нақты бағыт модельді қалай ұсынатыны туралы тұжырымнан бөлек, өндірушінің шығарылым пішімі. Ашық салмақтар мен үлкен параметр саны белсенді параметр көрсеткішін жалпы сақтау көлеміне немесе аппараттық талапқа айналдырмайды.
Қатысты репозиторий материалын, қолданыстағы әрекетті, сұралған өзгерісті және үйлесімділік шектеулерін беріңіз. Нәтиже әсер етуге тиіс файлдарды немесе интерфейсті, сәттілікті анықтайтын тексерулерді және мәселені көрсететін берілген қатені немесе кірісті анықтаңыз. Пайдалы нәтиже ешқашан орындалмаған әрекеттер сипаттамасы емес, түсіндірмесі және нақты іске қосылған тексерулердің дәлелі бар нақты код өзгерісі болуы мүмкін.
Визуалды әзірлеу тапсырмасы үшін қатысты кодпен және нақты айырмамен бірге скриншотты немесе көзделген нәтиженің анық көрінісін қосыңыз. Өндіруші визуалды кері байланысты қолданатын фронтенд, ойын және CAD үдерістерін сипаттайды. Кодты байқалған нәтижемен байланыстыратын өзгерісті сұрап, тапсырылған артефактіні салыстырып тексеруге болатындай анықтаманы сақтаңыз.
Өндірушінің жылдам бастау нұсқаулығы визуалды хабарламалар үшін түрі көрсетілген мазмұн нысандарын қолданады; content — сол массивтің сериалданған көрінісі емес, массив. Оның сурет үдерісі ашық сурет мекенжайының орнына кодталған сурет деректерін немесе қолдау табатын файл сілтемесін пайдаланады. Видео мысалы видео файлды жүктеп, мазмұны туралы сұрақпен бірге алынған сілтемені береді. Оқылатын дереккөз беріп, маңызды бақылауды, аралықты немесе байланысты көрсетіңіз. Өндірушінің көру үдерісі JPEG, PNG, GIF, WebP, BMP, HEIC және HEIF суреттерін, сондай-ақ MP4, MPEG, MOV, AVI, FLV, MPG, WebM, WMV және 3GPP видеосын қабылдайды. Анимациялық GIF немесе WebP видео ретінде декодталуы мүмкін. SVG бастапқы кодын мәтін түрінде беріңіз. Өндіруші суреттерді 4096 × 2160 өлшеміне дейін және видеоны 1920 × 1080 өлшеміне дейін ұсынады; бұлар — қабылдамау шектері емес, ажыратымдылық ұсыныстары. Сұрау денесін құжатталған 100M өлшем шегінде ұстап, үлкен немесе қайта-қайта қолданылатын медианы файл ретінде жүктеңіз.
Құжаты көп зерттеу үшін дереккөздерді белгілеп, соңғы есеп жауап беруге тиіс сұрақтарды айтыңыз. Видео түсіндірмесі үшін шектеусіз пікір сұрамай, талданатын оқиғаларды немесе ретті анықтаңыз. K3 визуалды мазмұнды пайымдау дәлелі ретінде пайдаланып, мәтін немесе құрал сұрауларын қайтарады. Қолданба сол сұрауларды бөлек сурет немесе видео артефактілерін жасау үшін медиа құралдарына бере алады.
K3 өндірушісінің интерфейсінде ойлану әрдайым қосулы. Жоғарғы деңгейдегі reasoning_effort баптауы low, high және max мәндерін қабылдайды; әдепкісі — max. Бұл таңдаулар модельге тән; ойланусыз баптауды немесе басқа топтың күш мәнін жорамалдауға болмайды. Өндірушінің көшіру нұсқаулығы бұрынғы thinking конфигурациясын алып өтудің орнына reasoning_effort қолдану арқылы K3 моделін K2.x моделінен ажыратады.
Өндіруші ағындық нәтижелерде reasoning_content пен соңғы жауап мазмұнын бөлек құжаттайды. Көпкезекті әңгіме немесе құрал үдерісі үшін ол толық қайтарылған көмекші хабарламасын, соның ішінде reasoning_content пен tool_calls өрістерін, өзгеріссіз қайта беруді талап етеді. Тек көрінетін соңғы жауапты сақтау модельдің сақталған ойлану үдерісі келесі қадамда күтетін ақпаратты жоғалтады.
Жылдам бастау нұсқаулығы соңғы хабарлама мазмұны үшін қатаң JSON-схема шығысын құжаттайды. Өрістерді және олардың мағыналарын қолданбаға қажет артефакт төңірегінде анықтап, сол соңғы мазмұнды пайымдау өрісімен біріктірмей талдаңыз. Құрылымдалған нәтиже берілген материалдан алынған ақпаратты немесе анықталған есеп пішімін көрсете алады; схема пішінін шектейді, ал дереккөз дәлелі мәндердің дұрыс екенін анықтайды.
Partial режимі берілген мәтін префиксін жалғастыра алады. Өндіруші мысалы тарихтың соңына ішінара көмекші хабарламасын қойып, көрсету үшін сол префиксті қайтарылған жалғастырумен біріктіреді. Қажетті артефактінің мағыналы бекітілген бастауы болса, префиксті жасалған қалған бөліктен бөлек ұстай отырып, осыны пайдаланыңыз.
K3 арнайы функция құралдарын қолдайды. Өндірушінің мысалы бірінші кезекте құралды талап етеді, толық көмекші хабарламасын сақтайды, әр қайтарылған шақыруды орындайды және соңғы жауапты сұрамас бұрын сәйкес құрал нәтижесін қосады. Ұсынылған шақыру операция сәтті болғанының дәлелі емес; нақты қайтарылған нәтиже келесі қадамға дәлел болады.
Оның динамикалық жүктеу үдерісі хабарлама тарихының нақты нүктесінде толық құрал анықтамасын енгізеді. Анықтамаға атауы, мақсаты және параметрлері қажет және ол кейінгі тарихта қалуы керек, өйткені сервер сол жарияланымды өздігінен сақтамайды. Ұзақ тапсырма бұрын аяқталған жұмыстан жалғаса алуы үшін құрал мүмкіндіктерін, берілген аргументтерді және нақты бақылауларды байланыстырып сақтаңыз.
Өндіруші 131 072 токендік әдепкі толықтыру лимитін құжаттайды; оны модельдің жалпы контекст шектеулерінде 1 048 576 токенге дейін баптауға болады. Оның ағымдағы K3 API нұсқасы temperature мәнін 1.0, top_p мәнін 0.95, нәтиже санын бір, ал presence және frequency айыптарын нөл етіп бекітеді және шақырушыларға сол іріктеу тетіктерін бермеуді нұсқайды. Бұлар — реттелетін басқару тетіктерінің көшірілетін тізімі емес, дәл өндіруші нұсқасының баптаулары.
Контекст кэштеуі жарамды қайталанатын префикстер үшін автоматты; құжатталған TTL таңдаулары — 5 минут және 1 сағат, әдепкісі — 5 минут. Ішінара кэш блоктары кэшке тимеу болып қалады. Қайта пайдаланылатын контексті тұрақты ұстап, тек қайталанған мәтінге қарап кэшке тиді деп мәлімдемей, нақты қолдануды тексеріңіз. Соңғы артефакт үшін берілген дереккөздерді, нақты құрал дәлелін және қажетті шығыс құрылымын сақтап, ұзақ жауап немесе инженерлік нәтиже мәлімделген аяқталу өлшемшарттарына сай екенін тексеріңіз.
", "aboutText": "Kimi K3 — Moonshot AI компаниясының ұзақ мерзімді кодтауға, біліммен жұмысқа және пайымдауға арналған ашық салмақты мультимодалды агенттік моделі. Ол мәтінді суреттер мен видеоны төл визуалды түсінумен біріктіріп, мәтіндік жауап немесе құрал сұрауын шығарады. Өндіруші ұзақ инженерлік сессияларды, ірі репозиторийлерді және кодпен қатар скриншоттарды немесе визуалды кері байланысты қолданатын тапсырмаларды атап көрсетеді. Пайдалы тапсырма қалаған артефактіні, пайдаланылатын дәлелді және жұмыстың аяқталғанын білдіретін шартты анықтайды.\n\n### Архитектура және ұзақ контекст\n\nМодель карточкасы барлығы 2,8 триллион параметрі және 104 млрд белсендірілетін параметрі бар сирек сарапшылар қоспасын сипаттайды. Оның Stable LatentMoE құрылымы әр токен үшін 896 сарапшының 16-сын таңдап, Kimi Delta Attention және Attention Residuals тәсілдерін қақпалы назармен бірге пайдаланады. Дәл контекст ұзындығы — 1 048 576 токен. Бұл — көлемді тапсырма контекстіне арналған орын, дереккөз шекараларын немесе нәтижеге қажет орынды елемеу себебі емес.\n\nЖарияланған төл артефакт MXFP4 салмақтары мен MXFP8 белсендірулері бар, кванттауды ескеретін үйретуді пайдаланады. Бұл — бөлек берілген квантталған шығарылымнан немесе нақты бағыт модельді қалай ұсынатыны туралы тұжырымнан бөлек, өндірушінің шығарылым пішімі. Ашық салмақтар мен үлкен параметр саны белсенді параметр көрсеткішін жалпы сақтау көлеміне немесе аппараттық талапқа айналдырмайды.\n\n### Көлемді кодтау тапсырмасын дайындаңыз\n\nҚатысты репозиторий материалын, қолданыстағы әрекетті, сұралған өзгерісті және үйлесімділік шектеулерін беріңіз. Нәтиже әсер етуге тиіс файлдарды немесе интерфейсті, сәттілікті анықтайтын тексерулерді және мәселені көрсететін берілген қатені немесе кірісті анықтаңыз. Пайдалы нәтиже ешқашан орындалмаған әрекеттер сипаттамасы емес, түсіндірмесі және нақты іске қосылған тексерулердің дәлелі бар нақты код өзгерісі болуы мүмкін.\n\nВизуалды әзірлеу тапсырмасы үшін қатысты кодпен және нақты айырмамен бірге скриншотты немесе көзделген нәтиженің анық көрінісін қосыңыз. Өндіруші визуалды кері байланысты қолданатын фронтенд, ойын және CAD үдерістерін сипаттайды. Кодты байқалған нәтижемен байланыстыратын өзгерісті сұрап, тапсырылған артефактіні салыстырып тексеруге болатындай анықтаманы сақтаңыз.\n\n### Суреттер, видео және біліммен жұмысқа дайындық\n\nӨндірушінің жылдам бастау нұсқаулығы визуалды хабарламалар үшін түрі көрсетілген мазмұн нысандарын қолданады; content — сол массивтің сериалданған көрінісі емес, массив. Оның сурет үдерісі ашық сурет мекенжайының орнына кодталған сурет деректерін немесе қолдау табатын файл сілтемесін пайдаланады. Видео мысалы видео файлды жүктеп, мазмұны туралы сұрақпен бірге алынған сілтемені береді. Оқылатын дереккөз беріп, маңызды бақылауды, аралықты немесе байланысты көрсетіңіз. Өндірушінің көру үдерісі JPEG, PNG, GIF, WebP, BMP, HEIC және HEIF суреттерін, сондай-ақ MP4, MPEG, MOV, AVI, FLV, MPG, WebM, WMV және 3GPP видеосын қабылдайды. Анимациялық GIF немесе WebP видео ретінде декодталуы мүмкін. SVG бастапқы кодын мәтін түрінде беріңіз. Өндіруші суреттерді 4096 × 2160 өлшеміне дейін және видеоны 1920 × 1080 өлшеміне дейін ұсынады; бұлар — қабылдамау шектері емес, ажыратымдылық ұсыныстары. Сұрау денесін құжатталған 100M өлшем шегінде ұстап, үлкен немесе қайта-қайта қолданылатын медианы файл ретінде жүктеңіз.\n\nҚұжаты көп зерттеу үшін дереккөздерді белгілеп, соңғы есеп жауап беруге тиіс сұрақтарды айтыңыз. Видео түсіндірмесі үшін шектеусіз пікір сұрамай, талданатын оқиғаларды немесе ретті анықтаңыз. K3 визуалды мазмұнды пайымдау дәлелі ретінде пайдаланып, мәтін немесе құрал сұрауларын қайтарады. Қолданба сол сұрауларды бөлек сурет немесе видео артефактілерін жасау үшін медиа құралдарына бере алады.\n\n### Ойлану әрдайым қосулы\n\nK3 өндірушісінің интерфейсінде ойлану әрдайым қосулы. Жоғарғы деңгейдегі reasoning_effort баптауы low, high және max мәндерін қабылдайды; әдепкісі — max. Бұл таңдаулар модельге тән; ойланусыз баптауды немесе басқа топтың күш мәнін жорамалдауға болмайды. Өндірушінің көшіру нұсқаулығы бұрынғы thinking конфигурациясын алып өтудің орнына reasoning_effort қолдану арқылы K3 моделін K2.x моделінен ажыратады.\n\nӨндіруші ағындық нәтижелерде reasoning_content пен соңғы жауап мазмұнын бөлек құжаттайды. Көпкезекті әңгіме немесе құрал үдерісі үшін ол толық қайтарылған көмекші хабарламасын, соның ішінде reasoning_content пен tool_calls өрістерін, өзгеріссіз қайта беруді талап етеді. Тек көрінетін соңғы жауапты сақтау модельдің сақталған ойлану үдерісі келесі қадамда күтетін ақпаратты жоғалтады.\n\n### Құрылымдалған соңғы жауаптар және ішінара жалғастыру\n\nЖылдам бастау нұсқаулығы соңғы хабарлама мазмұны үшін қатаң JSON-схема шығысын құжаттайды. Өрістерді және олардың мағыналарын қолданбаға қажет артефакт төңірегінде анықтап, сол соңғы мазмұнды пайымдау өрісімен біріктірмей талдаңыз. Құрылымдалған нәтиже берілген материалдан алынған ақпаратты немесе анықталған есеп пішімін көрсете алады; схема пішінін шектейді, ал дереккөз дәлелі мәндердің дұрыс екенін анықтайды.\n\nPartial режимі берілген мәтін префиксін жалғастыра алады. Өндіруші мысалы тарихтың соңына ішінара көмекші хабарламасын қойып, көрсету үшін сол префиксті қайтарылған жалғастырумен біріктіреді. Қажетті артефактінің мағыналы бекітілген бастауы болса, префиксті жасалған қалған бөліктен бөлек ұстай отырып, осыны пайдаланыңыз.\n\n### Құралдар және нәтижелерінің сабақтастығы\n\nK3 арнайы функция құралдарын қолдайды. Өндірушінің мысалы бірінші кезекте құралды талап етеді, толық көмекші хабарламасын сақтайды, әр қайтарылған шақыруды орындайды және соңғы жауапты сұрамас бұрын сәйкес құрал нәтижесін қосады. Ұсынылған шақыру операция сәтті болғанының дәлелі емес; нақты қайтарылған нәтиже келесі қадамға дәлел болады.\n\nОның динамикалық жүктеу үдерісі хабарлама тарихының нақты нүктесінде толық құрал анықтамасын енгізеді. Анықтамаға атауы, мақсаты және параметрлері қажет және ол кейінгі тарихта қалуы керек, өйткені сервер сол жарияланымды өздігінен сақтамайды. Ұзақ тапсырма бұрын аяқталған жұмыстан жалғаса алуы үшін құрал мүмкіндіктерін, берілген аргументтерді және нақты бақылауларды байланыстырып сақтаңыз.\n\n### Шығысты басқару және қайталанатын контекст\n\nӨндіруші 131 072 токендік әдепкі толықтыру лимитін құжаттайды; оны модельдің жалпы контекст шектеулерінде 1 048 576 токенге дейін баптауға болады. Оның ағымдағы K3 API нұсқасы temperature мәнін 1.0, top_p мәнін 0.95, нәтиже санын бір, ал presence және frequency айыптарын нөл етіп бекітеді және шақырушыларға сол іріктеу тетіктерін бермеуді нұсқайды. Бұлар — реттелетін басқару тетіктерінің көшірілетін тізімі емес, дәл өндіруші нұсқасының баптаулары.\n\nКонтекст кэштеуі жарамды қайталанатын префикстер үшін автоматты; құжатталған TTL таңдаулары — 5 минут және 1 сағат, әдепкісі — 5 минут. Ішінара кэш блоктары кэшке тимеу болып қалады. Қайта пайдаланылатын контексті тұрақты ұстап, тек қайталанған мәтінге қарап кэшке тиді деп мәлімдемей, нақты қолдануды тексеріңіз. Соңғы артефакт үшін берілген дереккөздерді, нақты құрал дәлелін және қажетті шығыс құрылымын сақтап, ұзақ жауап немесе инженерлік нәтиже мәлімделген аяқталу өлшемшарттарына сай екенін тексеріңіз.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "7e6dce138f0eda77467a3220f2a76a399689dabc212536adaffdf1ab6db40ee0", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "kk", "methods": [ { "html": "moonshotai/kimi-k3:batchKimi K3 — Moonshot AI компаниясының ұзақ кодтау тапсырмаларына және біліммен жұмысқа арналған төл мультимодалды пайымдау моделі. Ол мәтін, сурет және видео оқып, мәтін шығарады және 1 048 576 токендік контекстімен әрі қадамдар арасында сақталған ойлану тарихымен құралдарға сүйенетін үдерістерді қолдайды.
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
Kimi K3 — Moonshot AI компаниясының ұзақ мерзімді кодтауға, біліммен жұмысқа және пайымдауға арналған ашық салмақты мультимодалды агенттік моделі. Ол мәтінді суреттер мен видеоны төл визуалды түсінумен біріктіріп, мәтіндік жауап немесе құрал сұрауын шығарады. Өндіруші ұзақ инженерлік сессияларды, ірі репозиторийлерді және кодпен қатар скриншоттарды немесе визуалды кері байланысты қолданатын тапсырмаларды атап көрсетеді. Пайдалы тапсырма қалаған артефактіні, пайдаланылатын дәлелді және жұмыстың аяқталғанын білдіретін шартты анықтайды.
Модель карточкасы барлығы 2,8 триллион параметрі және 104 млрд белсендірілетін параметрі бар сирек сарапшылар қоспасын сипаттайды. Оның Stable LatentMoE құрылымы әр токен үшін 896 сарапшының 16-сын таңдап, Kimi Delta Attention және Attention Residuals тәсілдерін қақпалы назармен бірге пайдаланады. Дәл контекст ұзындығы — 1 048 576 токен. Бұл — көлемді тапсырма контекстіне арналған орын, дереккөз шекараларын немесе нәтижеге қажет орынды елемеу себебі емес.
Жарияланған төл артефакт MXFP4 салмақтары мен MXFP8 белсендірулері бар, кванттауды ескеретін үйретуді пайдаланады. Бұл — бөлек берілген квантталған шығарылымнан немесе нақты бағыт модельді қалай ұсынатыны туралы тұжырымнан бөлек, өндірушінің шығарылым пішімі. Ашық салмақтар мен үлкен параметр саны белсенді параметр көрсеткішін жалпы сақтау көлеміне немесе аппараттық талапқа айналдырмайды.
Қатысты репозиторий материалын, қолданыстағы әрекетті, сұралған өзгерісті және үйлесімділік шектеулерін беріңіз. Нәтиже әсер етуге тиіс файлдарды немесе интерфейсті, сәттілікті анықтайтын тексерулерді және мәселені көрсететін берілген қатені немесе кірісті анықтаңыз. Пайдалы нәтиже ешқашан орындалмаған әрекеттер сипаттамасы емес, түсіндірмесі және нақты іске қосылған тексерулердің дәлелі бар нақты код өзгерісі болуы мүмкін.
Визуалды әзірлеу тапсырмасы үшін қатысты кодпен және нақты айырмамен бірге скриншотты немесе көзделген нәтиженің анық көрінісін қосыңыз. Өндіруші визуалды кері байланысты қолданатын фронтенд, ойын және CAD үдерістерін сипаттайды. Кодты байқалған нәтижемен байланыстыратын өзгерісті сұрап, тапсырылған артефактіні салыстырып тексеруге болатындай анықтаманы сақтаңыз.
Өндірушінің жылдам бастау нұсқаулығы визуалды хабарламалар үшін түрі көрсетілген мазмұн нысандарын қолданады; content — сол массивтің сериалданған көрінісі емес, массив. Оның сурет үдерісі ашық сурет мекенжайының орнына кодталған сурет деректерін немесе қолдау табатын файл сілтемесін пайдаланады. Видео мысалы видео файлды жүктеп, мазмұны туралы сұрақпен бірге алынған сілтемені береді. Оқылатын дереккөз беріп, маңызды бақылауды, аралықты немесе байланысты көрсетіңіз. Өндірушінің көру үдерісі JPEG, PNG, GIF, WebP, BMP, HEIC және HEIF суреттерін, сондай-ақ MP4, MPEG, MOV, AVI, FLV, MPG, WebM, WMV және 3GPP видеосын қабылдайды. Анимациялық GIF немесе WebP видео ретінде декодталуы мүмкін. SVG бастапқы кодын мәтін түрінде беріңіз. Өндіруші суреттерді 4096 × 2160 өлшеміне дейін және видеоны 1920 × 1080 өлшеміне дейін ұсынады; бұлар — қабылдамау шектері емес, ажыратымдылық ұсыныстары. Сұрау денесін құжатталған 100M өлшем шегінде ұстап, үлкен немесе қайта-қайта қолданылатын медианы файл ретінде жүктеңіз.
Құжаты көп зерттеу үшін дереккөздерді белгілеп, соңғы есеп жауап беруге тиіс сұрақтарды айтыңыз. Видео түсіндірмесі үшін шектеусіз пікір сұрамай, талданатын оқиғаларды немесе ретті анықтаңыз. K3 визуалды мазмұнды пайымдау дәлелі ретінде пайдаланып, мәтін немесе құрал сұрауларын қайтарады. Қолданба сол сұрауларды бөлек сурет немесе видео артефактілерін жасау үшін медиа құралдарына бере алады.
K3 өндірушісінің интерфейсінде ойлану әрдайым қосулы. Жоғарғы деңгейдегі reasoning_effort баптауы low, high және max мәндерін қабылдайды; әдепкісі — max. Бұл таңдаулар модельге тән; ойланусыз баптауды немесе басқа топтың күш мәнін жорамалдауға болмайды. Өндірушінің көшіру нұсқаулығы бұрынғы thinking конфигурациясын алып өтудің орнына reasoning_effort қолдану арқылы K3 моделін K2.x моделінен ажыратады.
Өндіруші ағындық нәтижелерде reasoning_content пен соңғы жауап мазмұнын бөлек құжаттайды. Көпкезекті әңгіме немесе құрал үдерісі үшін ол толық қайтарылған көмекші хабарламасын, соның ішінде reasoning_content пен tool_calls өрістерін, өзгеріссіз қайта беруді талап етеді. Тек көрінетін соңғы жауапты сақтау модельдің сақталған ойлану үдерісі келесі қадамда күтетін ақпаратты жоғалтады.
Жылдам бастау нұсқаулығы соңғы хабарлама мазмұны үшін қатаң JSON-схема шығысын құжаттайды. Өрістерді және олардың мағыналарын қолданбаға қажет артефакт төңірегінде анықтап, сол соңғы мазмұнды пайымдау өрісімен біріктірмей талдаңыз. Құрылымдалған нәтиже берілген материалдан алынған ақпаратты немесе анықталған есеп пішімін көрсете алады; схема пішінін шектейді, ал дереккөз дәлелі мәндердің дұрыс екенін анықтайды.
Partial режимі берілген мәтін префиксін жалғастыра алады. Өндіруші мысалы тарихтың соңына ішінара көмекші хабарламасын қойып, көрсету үшін сол префиксті қайтарылған жалғастырумен біріктіреді. Қажетті артефактінің мағыналы бекітілген бастауы болса, префиксті жасалған қалған бөліктен бөлек ұстай отырып, осыны пайдаланыңыз.
K3 арнайы функция құралдарын қолдайды. Өндірушінің мысалы бірінші кезекте құралды талап етеді, толық көмекші хабарламасын сақтайды, әр қайтарылған шақыруды орындайды және соңғы жауапты сұрамас бұрын сәйкес құрал нәтижесін қосады. Ұсынылған шақыру операция сәтті болғанының дәлелі емес; нақты қайтарылған нәтиже келесі қадамға дәлел болады.
Оның динамикалық жүктеу үдерісі хабарлама тарихының нақты нүктесінде толық құрал анықтамасын енгізеді. Анықтамаға атауы, мақсаты және параметрлері қажет және ол кейінгі тарихта қалуы керек, өйткені сервер сол жарияланымды өздігінен сақтамайды. Ұзақ тапсырма бұрын аяқталған жұмыстан жалғаса алуы үшін құрал мүмкіндіктерін, берілген аргументтерді және нақты бақылауларды байланыстырып сақтаңыз.
Өндіруші 131 072 токендік әдепкі толықтыру лимитін құжаттайды; оны модельдің жалпы контекст шектеулерінде 1 048 576 токенге дейін баптауға болады. Оның ағымдағы K3 API нұсқасы temperature мәнін 1.0, top_p мәнін 0.95, нәтиже санын бір, ал presence және frequency айыптарын нөл етіп бекітеді және шақырушыларға сол іріктеу тетіктерін бермеуді нұсқайды. Бұлар — реттелетін басқару тетіктерінің көшірілетін тізімі емес, дәл өндіруші нұсқасының баптаулары.
Контекст кэштеуі жарамды қайталанатын префикстер үшін автоматты; құжатталған TTL таңдаулары — 5 минут және 1 сағат, әдепкісі — 5 минут. Ішінара кэш блоктары кэшке тимеу болып қалады. Қайта пайдаланылатын контексті тұрақты ұстап, тек қайталанған мәтінге қарап кэшке тиді деп мәлімдемей, нақты қолдануды тексеріңіз. Соңғы артефакт үшін берілген дереккөздерді, нақты құрал дәлелін және қажетті шығыс құрылымын сақтап, ұзақ жауап немесе инженерлік нәтиже мәлімделген аяқталу өлшемшарттарына сай екенін тексеріңіз.
POST /v1/batchestexttext| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісendpoint | Түріstring | ТалапМіндетті | Мәндер мен шектеулер /v1/chat/completions | Әдепкі— |
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер moonshotai/kimi-k3:batch | Әдепкі— |
Өрісrequests | Түріbatch_item[] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 | Әдепкі— |
Өрісrequests[].custom_id | Түріstring | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісrequests[].body.messages | Түріmessage[] | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісcompletion_window | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер 24h | Әдепкі— |
Өрісprovider | Түріobject|null | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісrequests[].body.model | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер moonshotai/kimi-k3:batch, moonshotai/kimi-k3 | Әдепкі— |
Өрісprovider.only | Түріstring[] | ТалапМіндетті емес | Мәндер мен шектеулер deepinfra/bf16 | Әдепкі— |
Өрісprovider.allow_fallbacks | Түріboolean|null | ТалапМіндетті емес | Мәндер мен шектеулер false, null | Әдепкі— |
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыendpoint, model, requests |
Параметрmaterial_types | Параметр талаптарыtext |
Параметрrepresentation | Параметр талаптарыСұрау ішіне енгізілген requests[]; әр элементте custom_id және body бар |
Параметрrequest_endpoint_profile | Параметр талаптары/v1/chat/completions |
Параметрfile_material | Параметр талаптарыСұрауды жіберуші нақты UTF-8 JSONL деректерін жергілікті ортада оқып, requests[] ішіне енгізе алады. Жүктеу мақсаты, input_file_id немесе файлға сілтеме қолданылмайды. Клиент материалы жоқ немесе бос болса, дайындық POST жіберілгенге дейін тоқтатылады. |
Параметрserialization_order | Параметр талаптарыendpoint, model, provider (берілген болса), completion_window (берілген болса), requests өрісін соңында орналастырыңыз |
Параметрoptional_controls | Параметр талаптарыprovider.only, provider.allow_fallbacks, completion_window |
Параметрschema_scope | Параметр талаптарыҚұжаттамада сипатталған, сұраудың ішіне енгізілетін Batch құрылымындағы мәтіндік Chat Completions сұрауларының денелері. |
Өмірлік цикл: asynchronous
GET /v1/batches/{operation_id} · Бастапқы жасау жауабындағы нақты response.id; сол пайдаланушы/кілт/топ
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
Әр төлемді көрсетілген шарттармен салыстырыңыз. Балама баптаулардың әр жиыны үшін бір мөлшерлемені қолданыңыз.
| Баптау | Мөлшерлемелер кестесі | Контекст токендерінің саны мынадан көп | Контекст токендерінің саны мынадан аспайды, шегі кіреді | Төлем |
|---|---|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Контекст токендерінің саны мынадан көп— | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.00456 / 1K токен Шығыс · Шығыс токендері $0.0228 / 1K токен Кіріс · Кэшті оқу $0.000456 / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
| БаптауСұрау ұзындығының 1-деңгейі | Мөлшерлемелер кестесі— | Контекст токендерінің саны мынадан көп0 | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.00456 / 1K токен Шығыс · Шығыс токендері $0.0228 / 1K токен Кіріс · Кэшті оқу $0.000456 / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"moonshotai/kimi-k3:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['moonshotai/kimi-k3:batch', 'moonshotai/kimi-k3']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"moonshotai/kimi-k3:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nЖауаптың ішіндегі results[].response.body JSON деректері
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nҚайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Бастапқы күй туралы толық JSON деректерін, әрбір нәтижені/custom_id мәнін және жауаптың немесе қатенің толық денесін сақтаңыз. Аяқталған results[] деректерін сүзгілемей JSONL түрінде сақтаңыз.
Бастапқы операцияның ID мәнін сақтаңыз. 503 result_pending_check жауабында X-Should-Retry:false көрсетіледі; нәтижесі белгісіз бастапқы пакетті ешқашан қайта жібермеңіз.
| Өріс | Түрі |
|---|---|
Өрісresults[].custom_id | Түріstring |
Өрісresults[].response.body.choices[].message.content | Түріstring|null |
Өрісresults[].error | Түріobject|null |
Өрісusage | Түріobject|null |
Өрісid | Түріstring |
Өрісmodel | Түріstring |
Өрісendpoint | Түріstring |
Өрісstatus | Түріstring |
Өрісrequest_counts | Түріobject |
Өрісresults[].id | Түріstring |
Өрісresults[].response.status_code | Түріinteger |
Өрісresults[].response.request_id | Түріstring |
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартҚұжаттамада сипатталған сұрау ішіндегі құрылым жарамсыз, кілттер қайталанады, элементтің сәйкестігі бұзылған немесе бапталған модель мүмкіндіктері арасында қайшылық бар. | Келесі қадамЖаңадан жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Жауап401 · authentication_error | ШартЖарамсыз API кілті. | Келесі қадамПайдалануға рұқсат берілген Ailoot кілтін қолданыңыз. |
Жауап403 · permission_error | ШартПакеттік өңдеу тобы қолжетімсіз. | Келесі қадамКілттің/топтың қол жеткізу құқығын тексеріңіз. |
Жауап422 · invalid_request_error | ШартBatch төлемді баланстан алады; жазылыммен төленетін жасау сұрауы қабылданбайды. | Келесі қадамБаланстан төлем алынатын, пайдалануға рұқсат берілген топты қолданыңыз. |
Жауап422 · price_unavailable | ШартBatch кіріс деректерінің құнын алдын ала есептеу мүмкін емес. | Келесі қадамЖауапты сақтаңыз; осы әдістер тобы үшін құжаттамада сипатталған кіріс деректерін қолданыңыз. |
Жауап402 · billing_error | ШартПакеттік өңдеу үшін қаражатты резервтеу қолжетімсіз. | Келесі қадамЖаңа сұрау жібермес бұрын сұрауды қабылдау мәселесін шешіңіз. |
Жауап503 · price_unavailable | ШартBatch әдісінің бағасы/жүйенің төл тарифтері қолжетімсіз. | Келесі қадамЖауапты сақтаңыз; бағаларды басқа мәндермен алмастырмаңыз. |
Жауап503 · api_error | ШартПровайдердің осы нақты маршруты қолжетімсіз. | Келесі қадамМаршрутты түзету үшін жауапты сақтаңыз. |
Жауап503 · result_pending_check | ШартБастапқы нәтижені тексеру қажет; X-Should-Retry:false. | Келесі қадамБастапқы operation_id/id мәнін сақтап, оның күйін оқыңыз; бастапқы POST сұрауын ешқашан қайталамаңыз. |
Жауап404 · not_found | ШартBatch күйін тексеретін операция жоқ немесе басқа субъектіге тиесілі. | Келесі қадамБастапқы id мәнін дәл қолданыңыз және сол пайдаланушыны/кілтті/топты пайдаланыңыз. |
Ailoot Ultra moonshotai/kimi-k3:batch
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.