ERNIE 4.5 300B-A47B — Baidu компаниясының ERNIE 4.5 тобындағы үлкен мәтіндік моделі. Оның сарапшылар қоспасы құрылымында жалпы 300 миллиард параметр бар және әр токен үшін 47 миллиарды белсендіріледі. Жарияланған модель конфигурациясы 131 072 токендік контекст ұзындығын береді. Ол мәтінді қабылдап, мәтін жасайды, берілген сұрақ пен материал негізіндегі диалогты, түсіндірмені немесе жаңа құжатты қолдайды.
ERNIE 4.5 негізгі ерекшеліктері. Baidu бұл топта тілдік және визуалды ақпаратты бірлесіп оқытуды сипаттайды; бағыттау әртүрлі модальдықтардың арнайы өңдеуін сақтай отырып, кейбір параметрлерді ортақ пайдалануға мүмкіндік береді. Мәтіндік нұсқа жалпы тілді түсіну мен мәтін жасауға бағытталған. Бұл топты дамытуға тиімді оқыту және инференс инфрақұрылымы, сондай-ақ бақыланатын мысалдармен және артықшылықтарға негізделген оңтайландырумен кейінгі оқыту да кіреді. Осы құрылымдық шешімдер модельдің негізін түсіндіреді; олар мәтіндік сұрауды кескін кірісіне айналдырмайды.
Модель конфигурациясы. Жарияланған мәтіндік модельде 54 қабат, 64 сұрау зейін басы және 8 кілт/мән басы бар. Оның мәтіндік сарапшылар конфигурациясында 64 сарапшы көрсетілген, бір уақытта сегізі белсендіріледі. Кірісті іс жүзінде дайындағанда контексті тапсырмаға қажет үзінділерді тақырыптарымен және байланыстарымен бірге сақтау үшін пайдаланыңыз. Диалог пен жасалған жауап қолжетімді контекст көлемін ортақ пайдаланады, сондықтан бүкіл терезені жауап орны деп қабылдамай, қажетті материалды таңдап, нәтиже ұзындығын көрсетіңіз.
Сұрау сұрақтан немесе нұсқаудан басталады. Құжат талдауында белгіленген бөлімдерді беріп, әр тармақты растайтын бөлімі бар қорытынды сұраңыз. Мәтін дайындау үшін аудиторияны, бастапқы фактілерді және қажетті құрылымды беріңіз. Қызмет түсіндірмесін, талаптар түйіндемесін немесе екі ішкі рәсімді салыстыруды сұрауға болады. Екіұшты жағдайларды реттейтін ережелерді қосып, дереккөз нақты жауапты негіздемесе, ақпарат жетіспейтінін белгілеуді сұраңыз.
Дереккөзге негізделген жауап. Өндіруші ағымдағы уақытты, анықтамалық мақалаларды және сұрақты беретін үдеріске арналған қытай және ағылшын тілдеріндегі нұсқау мысалдарын жариялайды. Модельге дереккөздердің қатыстылығы мен өзектілігін бағалау, беделді материалға басымдық беру және дәлел жеткіліксіз болғанда соны айту тапсырылған. Осы үлгіні қолдану үшін әр берілген дереккөзді белгілеңіз, бар болса жарияланған уақытын сақтаңыз және анықтамалық мазмұнды сұрақтан бөліңіз. Күтілетін нәтиже — іздеу қадамы әлдеқашан орындалды деген жорамал емес, сол үзінділерге негізделген жауап.
Генерация жөніндегі нұсқау. Baidu карточкасы жарияланған модель мысалдары үшін temperature 0,8 және top-p 0,8 мәндерін ұсынады. Үйлесімді генерацияны баптағанда оларды өндіруші нұсқауы ретінде қолданып, кейін нәтижені тапсырма талаптарымен салыстырып бағалаңыз. Модельдің PT және Paddle шығарылымдары әртүрлі салмақ пішімдерін білдіреді; аталған мәтіндік нұсқа VL көру-тілдік моделінен және Base оқыту бақылау нүктесінен бөлек қалады. Практикалық тексеруде маңызды фактілік тұжырымдарды, сандық мәліметтерді және сұралған бөлімдердің толықтығын берілген материалмен салыстыру қажет.
", "aboutText": "ERNIE 4.5 300B-A47B — Baidu компаниясының ERNIE 4.5 тобындағы үлкен мәтіндік моделі. Оның сарапшылар қоспасы құрылымында жалпы 300 миллиард параметр бар және әр токен үшін 47 миллиарды белсендіріледі. Жарияланған модель конфигурациясы 131 072 токендік контекст ұзындығын береді. Ол мәтінді қабылдап, мәтін жасайды, берілген сұрақ пен материал негізіндегі диалогты, түсіндірмені немесе жаңа құжатты қолдайды.\n\nERNIE 4.5 негізгі ерекшеліктері. Baidu бұл топта тілдік және визуалды ақпаратты бірлесіп оқытуды сипаттайды; бағыттау әртүрлі модальдықтардың арнайы өңдеуін сақтай отырып, кейбір параметрлерді ортақ пайдалануға мүмкіндік береді. Мәтіндік нұсқа жалпы тілді түсіну мен мәтін жасауға бағытталған. Бұл топты дамытуға тиімді оқыту және инференс инфрақұрылымы, сондай-ақ бақыланатын мысалдармен және артықшылықтарға негізделген оңтайландырумен кейінгі оқыту да кіреді. Осы құрылымдық шешімдер модельдің негізін түсіндіреді; олар мәтіндік сұрауды кескін кірісіне айналдырмайды.\n\nМодель конфигурациясы. Жарияланған мәтіндік модельде 54 қабат, 64 сұрау зейін басы және 8 кілт/мән басы бар. Оның мәтіндік сарапшылар конфигурациясында 64 сарапшы көрсетілген, бір уақытта сегізі белсендіріледі. Кірісті іс жүзінде дайындағанда контексті тапсырмаға қажет үзінділерді тақырыптарымен және байланыстарымен бірге сақтау үшін пайдаланыңыз. Диалог пен жасалған жауап қолжетімді контекст көлемін ортақ пайдаланады, сондықтан бүкіл терезені жауап орны деп қабылдамай, қажетті материалды таңдап, нәтиже ұзындығын көрсетіңіз.\n\nСұрау сұрақтан немесе нұсқаудан басталады. Құжат талдауында белгіленген бөлімдерді беріп, әр тармақты растайтын бөлімі бар қорытынды сұраңыз. Мәтін дайындау үшін аудиторияны, бастапқы фактілерді және қажетті құрылымды беріңіз. Қызмет түсіндірмесін, талаптар түйіндемесін немесе екі ішкі рәсімді салыстыруды сұрауға болады. Екіұшты жағдайларды реттейтін ережелерді қосып, дереккөз нақты жауапты негіздемесе, ақпарат жетіспейтінін белгілеуді сұраңыз.\n\nДереккөзге негізделген жауап. Өндіруші ағымдағы уақытты, анықтамалық мақалаларды және сұрақты беретін үдеріске арналған қытай және ағылшын тілдеріндегі нұсқау мысалдарын жариялайды. Модельге дереккөздердің қатыстылығы мен өзектілігін бағалау, беделді материалға басымдық беру және дәлел жеткіліксіз болғанда соны айту тапсырылған. Осы үлгіні қолдану үшін әр берілген дереккөзді белгілеңіз, бар болса жарияланған уақытын сақтаңыз және анықтамалық мазмұнды сұрақтан бөліңіз. Күтілетін нәтиже — іздеу қадамы әлдеқашан орындалды деген жорамал емес, сол үзінділерге негізделген жауап.\n\nГенерация жөніндегі нұсқау. Baidu карточкасы жарияланған модель мысалдары үшін temperature 0,8 және top-p 0,8 мәндерін ұсынады. Үйлесімді генерацияны баптағанда оларды өндіруші нұсқауы ретінде қолданып, кейін нәтижені тапсырма талаптарымен салыстырып бағалаңыз. Модельдің PT және Paddle шығарылымдары әртүрлі салмақ пішімдерін білдіреді; аталған мәтіндік нұсқа VL көру-тілдік моделінен және Base оқыту бақылау нүктесінен бөлек қалады. Практикалық тексеруде маңызды фактілік тұжырымдарды, сандық мәліметтерді және сұралған бөлімдердің толықтығын берілген материалмен салыстыру қажет.", "editorialOverlay": { "copy_fields": { "practical_html": "Ағылшын тіліндегі техникалық мысал
Resolve conflicting reference passages\n\nAnswer the question using these references only. R1, old handbook: Trial accounts retain exports for 7 days. R2, current handbook: Trial exports are retained for 14 days; paid-account exports for 90 days. Question: How long can a trial customer retrieve an export? Cite the relevant reference and explain why the other passage differs.A short answer with the retention period, reference identifier and a sentence describing the documented version conflict.Check that the answer uses the current trial rule and does not substitute the paid-account period.baidu/ERNIE-4.5-300B-A47BERNIE 4.5 300B-A47B — жалпы 300 миллиард параметрі, әр токенге 47 миллиард белсенді параметрі және жарияланған 131 072 токендік контексті бар Baidu мәтіндік сарапшылар қоспасы моделі. Ол тілді түсінуді және мәтін жасауды, соның ішінде өзіңіз берген анықтамалық үзінділерге сүйенген жауаптарды қолдайды.
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
ERNIE 4.5 300B-A47B — Baidu компаниясының ERNIE 4.5 тобындағы үлкен мәтіндік моделі. Оның сарапшылар қоспасы құрылымында жалпы 300 миллиард параметр бар және әр токен үшін 47 миллиарды белсендіріледі. Жарияланған модель конфигурациясы 131 072 токендік контекст ұзындығын береді. Ол мәтінді қабылдап, мәтін жасайды, берілген сұрақ пен материал негізіндегі диалогты, түсіндірмені немесе жаңа құжатты қолдайды.
ERNIE 4.5 негізгі ерекшеліктері. Baidu бұл топта тілдік және визуалды ақпаратты бірлесіп оқытуды сипаттайды; бағыттау әртүрлі модальдықтардың арнайы өңдеуін сақтай отырып, кейбір параметрлерді ортақ пайдалануға мүмкіндік береді. Мәтіндік нұсқа жалпы тілді түсіну мен мәтін жасауға бағытталған. Бұл топты дамытуға тиімді оқыту және инференс инфрақұрылымы, сондай-ақ бақыланатын мысалдармен және артықшылықтарға негізделген оңтайландырумен кейінгі оқыту да кіреді. Осы құрылымдық шешімдер модельдің негізін түсіндіреді; олар мәтіндік сұрауды кескін кірісіне айналдырмайды.
Модель конфигурациясы. Жарияланған мәтіндік модельде 54 қабат, 64 сұрау зейін басы және 8 кілт/мән басы бар. Оның мәтіндік сарапшылар конфигурациясында 64 сарапшы көрсетілген, бір уақытта сегізі белсендіріледі. Кірісті іс жүзінде дайындағанда контексті тапсырмаға қажет үзінділерді тақырыптарымен және байланыстарымен бірге сақтау үшін пайдаланыңыз. Диалог пен жасалған жауап қолжетімді контекст көлемін ортақ пайдаланады, сондықтан бүкіл терезені жауап орны деп қабылдамай, қажетті материалды таңдап, нәтиже ұзындығын көрсетіңіз.
Сұрау сұрақтан немесе нұсқаудан басталады. Құжат талдауында белгіленген бөлімдерді беріп, әр тармақты растайтын бөлімі бар қорытынды сұраңыз. Мәтін дайындау үшін аудиторияны, бастапқы фактілерді және қажетті құрылымды беріңіз. Қызмет түсіндірмесін, талаптар түйіндемесін немесе екі ішкі рәсімді салыстыруды сұрауға болады. Екіұшты жағдайларды реттейтін ережелерді қосып, дереккөз нақты жауапты негіздемесе, ақпарат жетіспейтінін белгілеуді сұраңыз.
Дереккөзге негізделген жауап. Өндіруші ағымдағы уақытты, анықтамалық мақалаларды және сұрақты беретін үдеріске арналған қытай және ағылшын тілдеріндегі нұсқау мысалдарын жариялайды. Модельге дереккөздердің қатыстылығы мен өзектілігін бағалау, беделді материалға басымдық беру және дәлел жеткіліксіз болғанда соны айту тапсырылған. Осы үлгіні қолдану үшін әр берілген дереккөзді белгілеңіз, бар болса жарияланған уақытын сақтаңыз және анықтамалық мазмұнды сұрақтан бөліңіз. Күтілетін нәтиже — іздеу қадамы әлдеқашан орындалды деген жорамал емес, сол үзінділерге негізделген жауап.
Генерация жөніндегі нұсқау. Baidu карточкасы жарияланған модель мысалдары үшін temperature 0,8 және top-p 0,8 мәндерін ұсынады. Үйлесімді генерацияны баптағанда оларды өндіруші нұсқауы ретінде қолданып, кейін нәтижені тапсырма талаптарымен салыстырып бағалаңыз. Модельдің PT және Paddle шығарылымдары әртүрлі салмақ пішімдерін білдіреді; аталған мәтіндік нұсқа VL көру-тілдік моделінен және Base оқыту бақылау нүктесінен бөлек қалады. Практикалық тексеруде маңызды фактілік тұжырымдарды, сандық мәліметтерді және сұралған бөлімдердің толықтығын берілген материалмен салыстыру қажет.
POST /v1/chat/completionstexttext| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер baidu/ERNIE-4.5-300B-A47B | Әдепкі— |
Өрісmessages | Түріmessage[] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 | Әдепкі— |
Өрісmessages[].role | Түріstring | ТалапМіндетті | Мәндер мен шектеулер Мысалдар: system, user, assistant, tool, function Шарттар: Бұл рөлдер бастапқы кодтағы үйлесімділік түрлерінде айқын көрсетілген; рөлдердің нақты жиыны әр модельге байланысты. Модельге байланысты | Әдепкі— |
Өрісmessages[].content | Түріstring|content_part[]|null | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісmessages[].tool_calls | Түріtool_call[] | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісmessages[].tool_call_id | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Мына жағдайда қолданылады: role=tool; нақты қайтарылған ID мәнін пайдаланыңыз | Әдепкі— |
Өрісmessages[].name | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісmessages[].reasoning_content | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Мына жағдайда қолданылады: Модель пайымдауды пайдаланса, нақты қайтарылған пайымдауды қайта жіберіңіз | Әдепкі— |
Өрісmessages[].reasoning_details | Түріobject|array | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісmax_tokens | Түріinteger | ТалапМіндетті емес | Мәндер мен шектеулер Ең азы: 1 Модельге байланысты | Әдепкі— |
Өрісmax_completion_tokens | Түріinteger | ТалапМіндетті емес | Мәндер мен шектеулер Ең азы: 1 Модельге байланысты | Әдепкі— |
Өрісstream | Түріboolean | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкіfalse |
Өрісstream_options.include_usage | Түріboolean | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісtemperature | Түріnumber | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісtop_p | Түріnumber | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісstop | Түріstring|string[] | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісtools | Түріfunction_tool[] | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісtools[].type | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер function Модельге байланысты | Әдепкі— |
Өрісtools[].function.name | Түріstring | ТалапМіндетті | Мәндер мен шектеулер Мына жағдайда қолданылады: функция құралы берілген | Әдепкі— |
Өрісtools[].function.description | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісtools[].function.parameters | ТүріJSON_schema | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісtool_choice | Түріstring|object | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісparallel_tool_calls | Түріboolean | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісresponse_format | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісreasoning_effort | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісreasoning | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісservice_tier | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісinstructions | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Үйлесімділік өрісі | Әдепкі— |
Өрісfunctions | Түріfunction[] | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісfunction_call | Түріstring|object | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісprompt_cache_options | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісmodalities | Түріstring[] | ТалапМіндетті емес | Мәндер мен шектеулер text | Әдепкі— |
Өрісprovider | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Осы Ultra мәтіндік бағытында provider.options қабылданбайды | Әдепкі— |
Өрісcache_control.ttl | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Сұрау кэшінің нақты орындарында 1h қабылданбайды | Әдепкі— |
Мәтін · UTF8 мәтіні
messages[].content
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыmodel, messages |
Параметрmaterial_types | Параметр талаптарыtext |
Параметрmessages | Параметр талаптарыrole/content құрылымы бар хабарламалар жиымы |
Параметрfile_material | Параметр талаптарынақты UTF-8 құжаты сөзбе-сөз мәтін ретінде енгізіледі; файл ID-і болжанбайды |
Параметрoptional_controls | Параметр талаптарыstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Параметрcontrol_scope | Параметр талаптарымодельге байланысты; пайдаланушының функция құралдары қызмет жағында орындалатын құралдардан өзгеше |
Параметрoutput_modalities | Параметр талаптарыtext |
Параметрhosted_operations | Параметр талаптарыfalse |
Параметрmultimodal_input_binding | Параметр талаптарыnull |
Өмірлік цикл: synchronous_or_streamed
Модельдің дәл ID мәнін messages деректерімен бірге жіберіңіз.
Контекст ұзындығы шығыстың жоғарғы шегі емес.
Мәтіндік файл сөзбе-сөз мәтінді бере алады; кіріс суреттері, аудио және файл нысандары дәл байланыстыруды қажет етеді.
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
| Баптау | Мөлшерлемелер кестесі | Төлем |
|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Төлем Кіріс · Кіріс токендері $0.0006 / 1K токен Шығыс · Шығыс токендері $0.00228 / 1K токен Кіріс · Кэшті оқу $0 / 1K токен Кіріс · Кэшке жазу $0 / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "baidu/ERNIE-4.5-300B-A47B", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='baidu/ERNIE-4.5-300B-A47B',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='baidu/ERNIE-4.5-300B-A47B',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson немесе SSE
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Әр жауап нұсқасын оның мазмұнымен, құрал шақыруларымен және пайымдауымен бірге сақтаңыз. SSE өзгерістерін жауап нұсқасы мен құрал индексі бойынша жинап, соңғы аяқталу себебі мен пайдалану деректерін сақтаңыз.
Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген.
| Өріс | Түрі |
|---|---|
Өрісchoices[].index | Түріinteger |
Өрісchoices[].message.content | Түріstring|null |
Өрісchoices[].message.tool_calls | Түріtool_call[] |
Өрісchoices[].message.reasoning_content | Түріstring |
Өрісchoices[].message.reasoning_details | Түріobject|array |
Өрісchoices[].finish_reason | Түріstring|null |
Өрісusage | Түріobject |
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Ailoot Ultra baidu/ERNIE-4.5-300B-A47B
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
baidu/ERNIE-4.5-300B-A47BERNIE 4.5 300B-A47B — жалпы 300 миллиард параметрі, әр токенге 47 миллиард белсенді параметрі және жарияланған 131 072 токендік контексті бар Baidu мәтіндік сарапшылар қоспасы моделі. Ол тілді түсінуді және мәтін жасауды, соның ішінде өзіңіз берген анықтамалық үзінділерге сүйенген жауаптарды қолдайды.
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
ERNIE 4.5 300B-A47B — Baidu компаниясының ERNIE 4.5 тобындағы үлкен мәтіндік моделі. Оның сарапшылар қоспасы құрылымында жалпы 300 миллиард параметр бар және әр токен үшін 47 миллиарды белсендіріледі. Жарияланған модель конфигурациясы 131 072 токендік контекст ұзындығын береді. Ол мәтінді қабылдап, мәтін жасайды, берілген сұрақ пен материал негізіндегі диалогты, түсіндірмені немесе жаңа құжатты қолдайды.
ERNIE 4.5 негізгі ерекшеліктері. Baidu бұл топта тілдік және визуалды ақпаратты бірлесіп оқытуды сипаттайды; бағыттау әртүрлі модальдықтардың арнайы өңдеуін сақтай отырып, кейбір параметрлерді ортақ пайдалануға мүмкіндік береді. Мәтіндік нұсқа жалпы тілді түсіну мен мәтін жасауға бағытталған. Бұл топты дамытуға тиімді оқыту және инференс инфрақұрылымы, сондай-ақ бақыланатын мысалдармен және артықшылықтарға негізделген оңтайландырумен кейінгі оқыту да кіреді. Осы құрылымдық шешімдер модельдің негізін түсіндіреді; олар мәтіндік сұрауды кескін кірісіне айналдырмайды.
Модель конфигурациясы. Жарияланған мәтіндік модельде 54 қабат, 64 сұрау зейін басы және 8 кілт/мән басы бар. Оның мәтіндік сарапшылар конфигурациясында 64 сарапшы көрсетілген, бір уақытта сегізі белсендіріледі. Кірісті іс жүзінде дайындағанда контексті тапсырмаға қажет үзінділерді тақырыптарымен және байланыстарымен бірге сақтау үшін пайдаланыңыз. Диалог пен жасалған жауап қолжетімді контекст көлемін ортақ пайдаланады, сондықтан бүкіл терезені жауап орны деп қабылдамай, қажетті материалды таңдап, нәтиже ұзындығын көрсетіңіз.
Сұрау сұрақтан немесе нұсқаудан басталады. Құжат талдауында белгіленген бөлімдерді беріп, әр тармақты растайтын бөлімі бар қорытынды сұраңыз. Мәтін дайындау үшін аудиторияны, бастапқы фактілерді және қажетті құрылымды беріңіз. Қызмет түсіндірмесін, талаптар түйіндемесін немесе екі ішкі рәсімді салыстыруды сұрауға болады. Екіұшты жағдайларды реттейтін ережелерді қосып, дереккөз нақты жауапты негіздемесе, ақпарат жетіспейтінін белгілеуді сұраңыз.
Дереккөзге негізделген жауап. Өндіруші ағымдағы уақытты, анықтамалық мақалаларды және сұрақты беретін үдеріске арналған қытай және ағылшын тілдеріндегі нұсқау мысалдарын жариялайды. Модельге дереккөздердің қатыстылығы мен өзектілігін бағалау, беделді материалға басымдық беру және дәлел жеткіліксіз болғанда соны айту тапсырылған. Осы үлгіні қолдану үшін әр берілген дереккөзді белгілеңіз, бар болса жарияланған уақытын сақтаңыз және анықтамалық мазмұнды сұрақтан бөліңіз. Күтілетін нәтиже — іздеу қадамы әлдеқашан орындалды деген жорамал емес, сол үзінділерге негізделген жауап.
Генерация жөніндегі нұсқау. Baidu карточкасы жарияланған модель мысалдары үшін temperature 0,8 және top-p 0,8 мәндерін ұсынады. Үйлесімді генерацияны баптағанда оларды өндіруші нұсқауы ретінде қолданып, кейін нәтижені тапсырма талаптарымен салыстырып бағалаңыз. Модельдің PT және Paddle шығарылымдары әртүрлі салмақ пішімдерін білдіреді; аталған мәтіндік нұсқа VL көру-тілдік моделінен және Base оқыту бақылау нүктесінен бөлек қалады. Практикалық тексеруде маңызды фактілік тұжырымдарды, сандық мәліметтерді және сұралған бөлімдердің толықтығын берілген материалмен салыстыру қажет.
POST /v1/messagestextjson, sse| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер baidu/ERNIE-4.5-300B-A47B | Әдепкі— |
Өрісmessages | Түріmessage[] | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісmessages[].role | Түріstring | ТалапМіндетті | Мәндер мен шектеулер user, assistant | Әдепкі— |
Өрісmessages[].content | Түріstring | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісmax_tokens | Түріinteger | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісstream | Түріboolean | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкіfalse |
Мәтін · UTF-8 мәтіні
messages[].content жолы
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыmodel, messages, max_tokens |
Параметрoptional_controls | Параметр талаптарыstream |
Параметрmaterial_types | Параметр талаптарыtext |
Параметрtext_file_material | Параметр талаптарыНақты UTF-8 құжатын оқып, оның мәтінін көрсетілген кіріс жолына немесе хабарлама мазмұнының жолына қойыңыз. |
Өмірлік цикл: synchronous_or_streamed
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
| Баптау | Мөлшерлемелер кестесі | Төлем |
|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Төлем Кіріс · Кіріс токендері $0.0006 / 1K токен Шығыс · Шығыс токендері $0.00228 / 1K токен Кіріс · Кэшті оқу $0 / 1K токен Кіріс · Кэшке жазу $0 / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
{\n "model": "baidu/ERNIE-4.5-300B-A47B",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'baidu/ERNIE-4.5-300B-A47B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'baidu/ERNIE-4.5-300B-A47B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON немесе SSE
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Барлық мазмұн блоктарын, пайымдау қолтаңбаларын және құрал қолданудың нақты ID мәндерін сақтаңыз. SSE блоктарының барлық өзгерістерін жинаңыз; алғашқы мәтіндік блок толық шығыс емес.
Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген.
| Өріс | Түрі |
|---|---|
Өрісid | Түріstring |
Өрісmodel | Түріstring |
Өрісcontent[] | Түріtext|thinking|tool_use|other content block |
Өрісstop_reason | Түріstring|null |
Өрісusage | Түріobject |
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Ailoot Ultra baidu/ERNIE-4.5-300B-A47B
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
Ағылшын тіліндегі техникалық мысал
Resolve conflicting reference passages\n\nAnswer the question using these references only. R1, old handbook: Trial accounts retain exports for 7 days. R2, current handbook: Trial exports are retained for 14 days; paid-account exports for 90 days. Question: How long can a trial customer retrieve an export? Cite the relevant reference and explain why the other passage differs.A short answer with the retention period, reference identifier and a sentence describing the documented version conflict.Check that the answer uses the current trial rule and does not substitute the paid-account period.