Qwen2.5 72B Instruct — Qwen жалпы мақсаттағы Qwen2.5 сериясындағы үлкен, нұсқауларға бейімделген мәтіндік модель. Ол нұсқаулар мен әңгімеден жазбаша жауаптар, код және құрылымдалған мәтін шығарады. Оның мүмкіндіктері жалпы білімді, бағдарламалауды, математиканы, егжей-тегжейлі нұсқауларды орындауды және кестелермен жұмыс істеуді қамтиды. Ол Qwen2.5 базалық бекітілген нұсқасынан және бөлек Coder, Math, көру-тіл нұсқаларынан ерекшеленеді.
Модель — тек декодерден тұратын тығыз Transformer; жалпы параметр саны 72,7 миллиард, оның ішінде эмбеддингке жатпайтын 70 миллиард параметр бар. Жарияланған архитектурасында 80 қабат және 64 сұрау басы мен сегіз кілт/мән басы бар топталған сұрау назары, сондай-ақ айналмалы позициялық эмбеддингтер, SwiGLU және RMSNorm қолданылады. Серияның алдын ала оқыту деректері 18 триллион токенге дейін жетеді, содан кейін нұсқауларға негізделген пайдалану үшін қосымша оқыту жүргізіледі.
Модельдің дәл карточкасы толық контекстті 131 072 токен және генерацияны 8 192 токенге дейін деп көрсетеді. Жарияланған конфигурация 32 768 позициядан басталады; кеңейтілген контекстті пайдалану үшін өндірушінің ұзындықты масштабтау баптауы қажет. Карточка тұрақты масштабтау қысқа мәтінмен жұмысты әлсіретуі мүмкін екенін ескертіп, ұзақ кіріс қажет болғанда қосуды ұсынады. Бұл мәндер модельдің толық мүмкіндігін белгілі бір орналастыруда қолданылатын әдепкі бекітілген нұсқа конфигурациясынан ажыратады.
Ұзақ құжатпен жұмыс үшін тексерілетін бөлімдер мен қайтарылатын нәтижені көрсетіңіз: салыстыру, жоспар, мазмұндама немесе шығарылып алынған деректер жиынтығы. Нұсқауларды, бастапқы мәтінді және сұралған жауапты қолжетімді контекстке сыйдырыңыз. Көлемді есепке бөлімдер жоспары мен нақты басымдықтар көмектеседі: сонда нәтиже генерация көлемін қатысы жоқ кіріспеге жұмсаудың орнына тапсырманы орындайды.
Құрылымдалған деректерді түсіну және JSON жасау — шығарылымның маңызды мүмкіндіктері. Түрлендіруді сұрамас бұрын кесте тақырыптарын, өлшем бірліктерін және жоқ мәндерді белгілеу ережелерін беріңіз. Ақпарат шығарып алу тапсырмасында шығыс өрістерін анықтап, модельден бастапқы материалда берілген мәндерді жоқ ақпараттан ажыратуды сұраңыз. Қолданба содан кейін нәтижені талдап, күтілетін құрылыммен салыстырып тексере алады. JSON шығару өздігінен белгілі бір схеманы кепілді нәтиже шартына айналдырмайды.
Qwen құрал шақыруды әңгіме үлгілері және үйлесімді қолданба интеграциялары арқылы қолдайтынын құжаттайды. Функция сипаттамаларын және әр функцияға қажет ақпаратты беріңіз. Модель ұсынылған шақыруды дайындайды; қолданба оны орындап, келесі қадамға нәтижесін береді. Пайдалы деректер тапсырмасы жазбаны алып, оны пайдаланушы сұрағымен салыстырып, алынған өрістерге байланысты қысқаша түсіндірме бере алады. Орындауды және сыртқы жүйелерге қолжетімділікті модельді пайдаланатын қолданба қамтамасыз етеді.
Өндіруші 29-дан астам тілді, соның ішінде қытай, ағылшын, француз, испан, португал, неміс, итальян, орыс, жапон, корей, вьетнам, тай және араб тілдерін қолдайтынын сипаттайды. Жүйелік промпттың икемділігі чатботтың рөлі мен шарттарын белгілеуге де көмектеседі. Код немесе математика үшін тиісті іске асыруды не алғышарттарды беріп, жауапты бағалауға қажет тексерулермен немесе аралық қадамдармен бірге сұраңыз. Көптілді нәтиже үшін қажетті тіл мен сақталатын терминологияны көрсетіңіз, сонда нәтиже көзделген аудиторияға сай болады.
", "aboutText": "Qwen2.5 72B Instruct — Qwen жалпы мақсаттағы Qwen2.5 сериясындағы үлкен, нұсқауларға бейімделген мәтіндік модель. Ол нұсқаулар мен әңгімеден жазбаша жауаптар, код және құрылымдалған мәтін шығарады. Оның мүмкіндіктері жалпы білімді, бағдарламалауды, математиканы, егжей-тегжейлі нұсқауларды орындауды және кестелермен жұмыс істеуді қамтиды. Ол Qwen2.5 базалық бекітілген нұсқасынан және бөлек Coder, Math, көру-тіл нұсқаларынан ерекшеленеді.\n\nМодель — тек декодерден тұратын тығыз Transformer; жалпы параметр саны 72,7 миллиард, оның ішінде эмбеддингке жатпайтын 70 миллиард параметр бар. Жарияланған архитектурасында 80 қабат және 64 сұрау басы мен сегіз кілт/мән басы бар топталған сұрау назары, сондай-ақ айналмалы позициялық эмбеддингтер, SwiGLU және RMSNorm қолданылады. Серияның алдын ала оқыту деректері 18 триллион токенге дейін жетеді, содан кейін нұсқауларға негізделген пайдалану үшін қосымша оқыту жүргізіледі.\n\nМодельдің дәл карточкасы толық контекстті 131 072 токен және генерацияны 8 192 токенге дейін деп көрсетеді. Жарияланған конфигурация 32 768 позициядан басталады; кеңейтілген контекстті пайдалану үшін өндірушінің ұзындықты масштабтау баптауы қажет. Карточка тұрақты масштабтау қысқа мәтінмен жұмысты әлсіретуі мүмкін екенін ескертіп, ұзақ кіріс қажет болғанда қосуды ұсынады. Бұл мәндер модельдің толық мүмкіндігін белгілі бір орналастыруда қолданылатын әдепкі бекітілген нұсқа конфигурациясынан ажыратады.\n\nҰзақ құжатпен жұмыс үшін тексерілетін бөлімдер мен қайтарылатын нәтижені көрсетіңіз: салыстыру, жоспар, мазмұндама немесе шығарылып алынған деректер жиынтығы. Нұсқауларды, бастапқы мәтінді және сұралған жауапты қолжетімді контекстке сыйдырыңыз. Көлемді есепке бөлімдер жоспары мен нақты басымдықтар көмектеседі: сонда нәтиже генерация көлемін қатысы жоқ кіріспеге жұмсаудың орнына тапсырманы орындайды.\n\nҚұрылымдалған деректерді түсіну және JSON жасау — шығарылымның маңызды мүмкіндіктері. Түрлендіруді сұрамас бұрын кесте тақырыптарын, өлшем бірліктерін және жоқ мәндерді белгілеу ережелерін беріңіз. Ақпарат шығарып алу тапсырмасында шығыс өрістерін анықтап, модельден бастапқы материалда берілген мәндерді жоқ ақпараттан ажыратуды сұраңыз. Қолданба содан кейін нәтижені талдап, күтілетін құрылыммен салыстырып тексере алады. JSON шығару өздігінен белгілі бір схеманы кепілді нәтиже шартына айналдырмайды.\n\nQwen құрал шақыруды әңгіме үлгілері және үйлесімді қолданба интеграциялары арқылы қолдайтынын құжаттайды. Функция сипаттамаларын және әр функцияға қажет ақпаратты беріңіз. Модель ұсынылған шақыруды дайындайды; қолданба оны орындап, келесі қадамға нәтижесін береді. Пайдалы деректер тапсырмасы жазбаны алып, оны пайдаланушы сұрағымен салыстырып, алынған өрістерге байланысты қысқаша түсіндірме бере алады. Орындауды және сыртқы жүйелерге қолжетімділікті модельді пайдаланатын қолданба қамтамасыз етеді.\n\nӨндіруші 29-дан астам тілді, соның ішінде қытай, ағылшын, француз, испан, португал, неміс, итальян, орыс, жапон, корей, вьетнам, тай және араб тілдерін қолдайтынын сипаттайды. Жүйелік промпттың икемділігі чатботтың рөлі мен шарттарын белгілеуге де көмектеседі. Код немесе математика үшін тиісті іске асыруды не алғышарттарды беріп, жауапты бағалауға қажет тексерулермен немесе аралық қадамдармен бірге сұраңыз. Көптілді нәтиже үшін қажетті тіл мен сақталатын терминологияны көрсетіңіз, сонда нәтиже көзделген аудиторияға сай болады.", "editorialOverlay": { "copy_fields": { "practical_html": "Ағылшын тіліндегі техникалық мысал
Transform a small stock table\n\nTransform this table into a compact requested JSON array. Columns: sku, units, unit. Rows: A7 | 12 | boxes; B3 | blank | pieces; C9 | 0 | boxes. Preserve SKU spelling and units, convert stated counts to integers, and use null for a blank count. Return the array only; do not calculate totals across different units.A three-object JSON-shaped array retaining sku, units and unit with numeric counts or null.The blank count remains null, zero remains 0, and boxes are not added to pieces.qwen/qwen-2.5-72b-instructQwen2.5 72B Instruct — көптілді әңгімеге, кодқа, математикаға және құрылымдалған деректерге арналған, нұсқауларға бейімделген Qwen тығыз мәтіндік моделі. Өндіруші 131 072 токенге дейін кеңейтілген контексті, 8 192 токендік генерацияны және құрал шақыру үлгілерін құжаттайды.
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
Qwen2.5 72B Instruct — Qwen жалпы мақсаттағы Qwen2.5 сериясындағы үлкен, нұсқауларға бейімделген мәтіндік модель. Ол нұсқаулар мен әңгімеден жазбаша жауаптар, код және құрылымдалған мәтін шығарады. Оның мүмкіндіктері жалпы білімді, бағдарламалауды, математиканы, егжей-тегжейлі нұсқауларды орындауды және кестелермен жұмыс істеуді қамтиды. Ол Qwen2.5 базалық бекітілген нұсқасынан және бөлек Coder, Math, көру-тіл нұсқаларынан ерекшеленеді.
Модель — тек декодерден тұратын тығыз Transformer; жалпы параметр саны 72,7 миллиард, оның ішінде эмбеддингке жатпайтын 70 миллиард параметр бар. Жарияланған архитектурасында 80 қабат және 64 сұрау басы мен сегіз кілт/мән басы бар топталған сұрау назары, сондай-ақ айналмалы позициялық эмбеддингтер, SwiGLU және RMSNorm қолданылады. Серияның алдын ала оқыту деректері 18 триллион токенге дейін жетеді, содан кейін нұсқауларға негізделген пайдалану үшін қосымша оқыту жүргізіледі.
Модельдің дәл карточкасы толық контекстті 131 072 токен және генерацияны 8 192 токенге дейін деп көрсетеді. Жарияланған конфигурация 32 768 позициядан басталады; кеңейтілген контекстті пайдалану үшін өндірушінің ұзындықты масштабтау баптауы қажет. Карточка тұрақты масштабтау қысқа мәтінмен жұмысты әлсіретуі мүмкін екенін ескертіп, ұзақ кіріс қажет болғанда қосуды ұсынады. Бұл мәндер модельдің толық мүмкіндігін белгілі бір орналастыруда қолданылатын әдепкі бекітілген нұсқа конфигурациясынан ажыратады.
Ұзақ құжатпен жұмыс үшін тексерілетін бөлімдер мен қайтарылатын нәтижені көрсетіңіз: салыстыру, жоспар, мазмұндама немесе шығарылып алынған деректер жиынтығы. Нұсқауларды, бастапқы мәтінді және сұралған жауапты қолжетімді контекстке сыйдырыңыз. Көлемді есепке бөлімдер жоспары мен нақты басымдықтар көмектеседі: сонда нәтиже генерация көлемін қатысы жоқ кіріспеге жұмсаудың орнына тапсырманы орындайды.
Құрылымдалған деректерді түсіну және JSON жасау — шығарылымның маңызды мүмкіндіктері. Түрлендіруді сұрамас бұрын кесте тақырыптарын, өлшем бірліктерін және жоқ мәндерді белгілеу ережелерін беріңіз. Ақпарат шығарып алу тапсырмасында шығыс өрістерін анықтап, модельден бастапқы материалда берілген мәндерді жоқ ақпараттан ажыратуды сұраңыз. Қолданба содан кейін нәтижені талдап, күтілетін құрылыммен салыстырып тексере алады. JSON шығару өздігінен белгілі бір схеманы кепілді нәтиже шартына айналдырмайды.
Qwen құрал шақыруды әңгіме үлгілері және үйлесімді қолданба интеграциялары арқылы қолдайтынын құжаттайды. Функция сипаттамаларын және әр функцияға қажет ақпаратты беріңіз. Модель ұсынылған шақыруды дайындайды; қолданба оны орындап, келесі қадамға нәтижесін береді. Пайдалы деректер тапсырмасы жазбаны алып, оны пайдаланушы сұрағымен салыстырып, алынған өрістерге байланысты қысқаша түсіндірме бере алады. Орындауды және сыртқы жүйелерге қолжетімділікті модельді пайдаланатын қолданба қамтамасыз етеді.
Өндіруші 29-дан астам тілді, соның ішінде қытай, ағылшын, француз, испан, португал, неміс, итальян, орыс, жапон, корей, вьетнам, тай және араб тілдерін қолдайтынын сипаттайды. Жүйелік промпттың икемділігі чатботтың рөлі мен шарттарын белгілеуге де көмектеседі. Код немесе математика үшін тиісті іске асыруды не алғышарттарды беріп, жауапты бағалауға қажет тексерулермен немесе аралық қадамдармен бірге сұраңыз. Көптілді нәтиже үшін қажетті тіл мен сақталатын терминологияны көрсетіңіз, сонда нәтиже көзделген аудиторияға сай болады.
POST /v1/chat/completionstexttext| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер qwen/qwen-2.5-72b-instruct | Әдепкі— |
Өрісmessages | Түріmessage[] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 | Әдепкі— |
Өрісmessages[].role | Түріstring | ТалапМіндетті | Мәндер мен шектеулер Мысалдар: system, user, assistant, tool, function Шарттар: Бұл рөлдер бастапқы кодтағы үйлесімділік түрлерінде айқын көрсетілген; рөлдердің нақты жиыны әр модельге байланысты. Модельге байланысты | Әдепкі— |
Өрісmessages[].content | Түріstring|content_part[]|null | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісmessages[].tool_calls | Түріtool_call[] | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісmessages[].tool_call_id | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Мына жағдайда қолданылады: role=tool; нақты қайтарылған ID мәнін пайдаланыңыз | Әдепкі— |
Өрісmessages[].name | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісmessages[].reasoning_content | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Мына жағдайда қолданылады: Модель пайымдауды пайдаланса, нақты қайтарылған пайымдауды қайта жіберіңіз | Әдепкі— |
Өрісmessages[].reasoning_details | Түріobject|array | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісmax_tokens | Түріinteger | ТалапМіндетті емес | Мәндер мен шектеулер Ең азы: 1 Модельге байланысты | Әдепкі— |
Өрісmax_completion_tokens | Түріinteger | ТалапМіндетті емес | Мәндер мен шектеулер Ең азы: 1 Модельге байланысты | Әдепкі— |
Өрісstream | Түріboolean | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкіfalse |
Өрісstream_options.include_usage | Түріboolean | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісtemperature | Түріnumber | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісtop_p | Түріnumber | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісstop | Түріstring|string[] | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісtools | Түріfunction_tool[] | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісtools[].type | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер function Модельге байланысты | Әдепкі— |
Өрісtools[].function.name | Түріstring | ТалапМіндетті | Мәндер мен шектеулер Мына жағдайда қолданылады: функция құралы берілген | Әдепкі— |
Өрісtools[].function.description | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісtools[].function.parameters | ТүріJSON_schema | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісtool_choice | Түріstring|object | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісparallel_tool_calls | Түріboolean | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісresponse_format | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісreasoning_effort | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісreasoning | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісservice_tier | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісinstructions | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Үйлесімділік өрісі | Әдепкі— |
Өрісfunctions | Түріfunction[] | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісfunction_call | Түріstring|object | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісprompt_cache_options | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісmodalities | Түріstring[] | ТалапМіндетті емес | Мәндер мен шектеулер text | Әдепкі— |
Өрісprovider | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Осы Ultra мәтіндік бағытында provider.options қабылданбайды | Әдепкі— |
Өрісcache_control.ttl | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Сұрау кэшінің нақты орындарында 1h қабылданбайды | Әдепкі— |
Мәтін · UTF8 мәтіні
messages[].content
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыmodel, messages |
Параметрmaterial_types | Параметр талаптарыtext |
Параметрmessages | Параметр талаптарыrole/content құрылымы бар хабарламалар жиымы |
Параметрfile_material | Параметр талаптарынақты UTF-8 құжаты сөзбе-сөз мәтін ретінде енгізіледі; файл ID-і болжанбайды |
Параметрoptional_controls | Параметр талаптарыstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Параметрcontrol_scope | Параметр талаптарымодельге байланысты; пайдаланушының функция құралдары қызмет жағында орындалатын құралдардан өзгеше |
Параметрoutput_modalities | Параметр талаптарыtext |
Параметрhosted_operations | Параметр талаптарыfalse |
Параметрmultimodal_input_binding | Параметр талаптарыnull |
Өмірлік цикл: synchronous_or_streamed
Модельдің дәл ID мәнін messages деректерімен бірге жіберіңіз.
Контекст ұзындығы шығыстың жоғарғы шегі емес.
Мәтіндік файл сөзбе-сөз мәтінді бере алады; кіріс суреттері, аудио және файл нысандары дәл байланыстыруды қажет етеді.
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
Әр төлемді көрсетілген шарттармен салыстырыңыз. Балама баптаулардың әр жиыны үшін бір мөлшерлемені қолданыңыз.
| Баптау | Мөлшерлемелер кестесі | Контекст токендерінің саны мынадан көп | Контекст токендерінің саны мынадан аспайды, шегі кіреді | Төлем |
|---|---|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Контекст токендерінің саны мынадан көп— | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.00118 / 1K токен Шығыс · Шығыс токендері $0.00118 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
| БаптауСұрау ұзындығының 1-деңгейі | Мөлшерлемелер кестесі— | Контекст токендерінің саны мынадан көп0 | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.00118 / 1K токен Шығыс · Шығыс токендері $0.00118 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen-2.5-72b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen-2.5-72b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen-2.5-72b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson немесе SSE
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Әр жауап нұсқасын оның мазмұнымен, құрал шақыруларымен және пайымдауымен бірге сақтаңыз. SSE өзгерістерін жауап нұсқасы мен құрал индексі бойынша жинап, соңғы аяқталу себебі мен пайдалану деректерін сақтаңыз.
Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген.
| Өріс | Түрі |
|---|---|
Өрісchoices[].index | Түріinteger |
Өрісchoices[].message.content | Түріstring|null |
Өрісchoices[].message.tool_calls | Түріtool_call[] |
Өрісchoices[].message.reasoning_content | Түріstring |
Өрісchoices[].message.reasoning_details | Түріobject|array |
Өрісchoices[].finish_reason | Түріstring|null |
Өрісusage | Түріobject |
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Ailoot Ultra qwen/qwen-2.5-72b-instruct
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
qwen/qwen-2.5-72b-instructQwen2.5 72B Instruct — көптілді әңгімеге, кодқа, математикаға және құрылымдалған деректерге арналған, нұсқауларға бейімделген Qwen тығыз мәтіндік моделі. Өндіруші 131 072 токенге дейін кеңейтілген контексті, 8 192 токендік генерацияны және құрал шақыру үлгілерін құжаттайды.
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
Qwen2.5 72B Instruct — Qwen жалпы мақсаттағы Qwen2.5 сериясындағы үлкен, нұсқауларға бейімделген мәтіндік модель. Ол нұсқаулар мен әңгімеден жазбаша жауаптар, код және құрылымдалған мәтін шығарады. Оның мүмкіндіктері жалпы білімді, бағдарламалауды, математиканы, егжей-тегжейлі нұсқауларды орындауды және кестелермен жұмыс істеуді қамтиды. Ол Qwen2.5 базалық бекітілген нұсқасынан және бөлек Coder, Math, көру-тіл нұсқаларынан ерекшеленеді.
Модель — тек декодерден тұратын тығыз Transformer; жалпы параметр саны 72,7 миллиард, оның ішінде эмбеддингке жатпайтын 70 миллиард параметр бар. Жарияланған архитектурасында 80 қабат және 64 сұрау басы мен сегіз кілт/мән басы бар топталған сұрау назары, сондай-ақ айналмалы позициялық эмбеддингтер, SwiGLU және RMSNorm қолданылады. Серияның алдын ала оқыту деректері 18 триллион токенге дейін жетеді, содан кейін нұсқауларға негізделген пайдалану үшін қосымша оқыту жүргізіледі.
Модельдің дәл карточкасы толық контекстті 131 072 токен және генерацияны 8 192 токенге дейін деп көрсетеді. Жарияланған конфигурация 32 768 позициядан басталады; кеңейтілген контекстті пайдалану үшін өндірушінің ұзындықты масштабтау баптауы қажет. Карточка тұрақты масштабтау қысқа мәтінмен жұмысты әлсіретуі мүмкін екенін ескертіп, ұзақ кіріс қажет болғанда қосуды ұсынады. Бұл мәндер модельдің толық мүмкіндігін белгілі бір орналастыруда қолданылатын әдепкі бекітілген нұсқа конфигурациясынан ажыратады.
Ұзақ құжатпен жұмыс үшін тексерілетін бөлімдер мен қайтарылатын нәтижені көрсетіңіз: салыстыру, жоспар, мазмұндама немесе шығарылып алынған деректер жиынтығы. Нұсқауларды, бастапқы мәтінді және сұралған жауапты қолжетімді контекстке сыйдырыңыз. Көлемді есепке бөлімдер жоспары мен нақты басымдықтар көмектеседі: сонда нәтиже генерация көлемін қатысы жоқ кіріспеге жұмсаудың орнына тапсырманы орындайды.
Құрылымдалған деректерді түсіну және JSON жасау — шығарылымның маңызды мүмкіндіктері. Түрлендіруді сұрамас бұрын кесте тақырыптарын, өлшем бірліктерін және жоқ мәндерді белгілеу ережелерін беріңіз. Ақпарат шығарып алу тапсырмасында шығыс өрістерін анықтап, модельден бастапқы материалда берілген мәндерді жоқ ақпараттан ажыратуды сұраңыз. Қолданба содан кейін нәтижені талдап, күтілетін құрылыммен салыстырып тексере алады. JSON шығару өздігінен белгілі бір схеманы кепілді нәтиже шартына айналдырмайды.
Qwen құрал шақыруды әңгіме үлгілері және үйлесімді қолданба интеграциялары арқылы қолдайтынын құжаттайды. Функция сипаттамаларын және әр функцияға қажет ақпаратты беріңіз. Модель ұсынылған шақыруды дайындайды; қолданба оны орындап, келесі қадамға нәтижесін береді. Пайдалы деректер тапсырмасы жазбаны алып, оны пайдаланушы сұрағымен салыстырып, алынған өрістерге байланысты қысқаша түсіндірме бере алады. Орындауды және сыртқы жүйелерге қолжетімділікті модельді пайдаланатын қолданба қамтамасыз етеді.
Өндіруші 29-дан астам тілді, соның ішінде қытай, ағылшын, француз, испан, португал, неміс, итальян, орыс, жапон, корей, вьетнам, тай және араб тілдерін қолдайтынын сипаттайды. Жүйелік промпттың икемділігі чатботтың рөлі мен шарттарын белгілеуге де көмектеседі. Код немесе математика үшін тиісті іске асыруды не алғышарттарды беріп, жауапты бағалауға қажет тексерулермен немесе аралық қадамдармен бірге сұраңыз. Көптілді нәтиже үшін қажетті тіл мен сақталатын терминологияны көрсетіңіз, сонда нәтиже көзделген аудиторияға сай болады.
POST /v1/messagestextjson, sse| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер qwen/qwen-2.5-72b-instruct | Әдепкі— |
Өрісmessages | Түріmessage[] | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісmessages[].role | Түріstring | ТалапМіндетті | Мәндер мен шектеулер user, assistant | Әдепкі— |
Өрісmessages[].content | Түріstring | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісmax_tokens | Түріinteger | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісstream | Түріboolean | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкіfalse |
Мәтін · UTF-8 мәтіні
messages[].content жолы
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыmodel, messages, max_tokens |
Параметрoptional_controls | Параметр талаптарыstream |
Параметрmaterial_types | Параметр талаптарыtext |
Параметрtext_file_material | Параметр талаптарыНақты UTF-8 құжатын оқып, оның мәтінін көрсетілген кіріс жолына немесе хабарлама мазмұнының жолына қойыңыз. |
Өмірлік цикл: synchronous_or_streamed
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
Әр төлемді көрсетілген шарттармен салыстырыңыз. Балама баптаулардың әр жиыны үшін бір мөлшерлемені қолданыңыз.
| Баптау | Мөлшерлемелер кестесі | Контекст токендерінің саны мынадан көп | Контекст токендерінің саны мынадан аспайды, шегі кіреді | Төлем |
|---|---|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Контекст токендерінің саны мынадан көп— | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.00118 / 1K токен Шығыс · Шығыс токендері $0.00118 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
| БаптауСұрау ұзындығының 1-деңгейі | Мөлшерлемелер кестесі— | Контекст токендерінің саны мынадан көп0 | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.00118 / 1K токен Шығыс · Шығыс токендері $0.00118 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
{\n "model": "qwen/qwen-2.5-72b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen-2.5-72b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen-2.5-72b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON немесе SSE
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Барлық мазмұн блоктарын, пайымдау қолтаңбаларын және құрал қолданудың нақты ID мәндерін сақтаңыз. SSE блоктарының барлық өзгерістерін жинаңыз; алғашқы мәтіндік блок толық шығыс емес.
Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген.
| Өріс | Түрі |
|---|---|
Өрісid | Түріstring |
Өрісmodel | Түріstring |
Өрісcontent[] | Түріtext|thinking|tool_use|other content block |
Өрісstop_reason | Түріstring|null |
Өрісusage | Түріobject |
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Ailoot Ultra qwen/qwen-2.5-72b-instruct
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
Ағылшын тіліндегі техникалық мысал
Transform a small stock table\n\nTransform this table into a compact requested JSON array. Columns: sku, units, unit. Rows: A7 | 12 | boxes; B3 | blank | pieces; C9 | 0 | boxes. Preserve SKU spelling and units, convert stated counts to integers, and use null for a blank count. Return the array only; do not calculate totals across different units.A three-object JSON-shaped array retaining sku, units and unit with numeric counts or null.The blank count remains null, zero remains 0, and boxes are not added to pieces.