Hermes 3 Llama 3.1 405B — Llama 3.1 405B моделінің барлық параметрін баптап үйрету арқылы дамытылған, Nous Research компаниясының ірі әмбебап мәтін моделі. Өндіруші пайдаланушы нұсқауларына сәйкестікті, бағыттауды, рөлдік ойынды, пайымдауды, көпкезекті әңгімені және ұзақ контекст тұтастығын атап көрсетеді. Шығысы — жауаптарды, жазбаша мазмұнды, кодты, құрылымдалған жазбаларды және функция шақыруы ақпаратын қамтитын мәтін.
Бұл — 70B серіктес моделінен және кейінгі Hermes 4 пайымдау шығарылымынан бөлек ірі Hermes 3 каталог нұсқасы. Өндіруші бұрынғы Hermes мүмкіндіктерін жақсартылған функция шақыруымен, құрылымдалған шығыспен және код жасаумен кеңейтеді. Модель ауқымы жетіспейтін дереккөздерді немесе аяқталу өлшемшартын береді деп жорамалдаудың орнына, тапсырмаға нақты дәлелін және қажетті соңғы пішінін беріңіз.
Құжат талдауы үшін үзінділерді белгілеп, салыстыру өлшемшарттарын анықтаңыз. Әр қорытындының жанында қатысты дереккөзді сұрап, жоқ ақпараттың берілуін көрсетіңіз. Жазу тапсырмасы үшін аудиторияны, үнді және түзетуде сақталуға тиіс фактілерді беріңіз. Практикалық промпт: «Осы түсіндірмені көрсетілген оқырманға арнап қайта жаз, анықталған терминдерді сақта және нақтылауды қажет ететін негізделмеген тұжырымдарды анықта».
Hermes 3 жүйелік нұсқауларды, пайдаланушы хабарламаларын және көмекші жауаптарын бөлу үшін ChatML қолданады. Оның өз үлгісі әңгімені құрып, көмекші генерациясының префиксін қоса алады. Жүйелік нұсқаулар рөлді, ережелерді және стильді бағыттайды; тапсырма арнайы кіріспені қажет етпесе, олар міндетті емес.
Жалғасатын әңгіме бастапқы мәтінді нұсқаулардан бөлек ұстап, қабылданған фактілерді қатысты контексте сақтауы керек. Рөлдік ойын үшін әр кейіпкерді кім басқаратынын және қай оқиғалар бекітілгенін анықтаңыз. Код үшін өзгеретін әрекетті және сақталатын келісімшарттарды айтыңыз. Қалаған артефакт диалог бойы көрінетін болып қалуы керек.
Дәл модель карточкасы құрал анықтамасы көрінісіндегі функция сигнатураларын және функция атауы мен аргументтеріне арналған міндетті жауап схемасын құжаттайды. Модель тегтелген JSON шақыру нысандарын жасайды. Қолданба таңдалған операцияны талдап, орындайды, содан кейін нәтижесін атаулы құрал жауабымен қайтарады. Көмекшінің келесі жауабы нақты деректерді түсіндіре алады.
Әр функцияға анық мақсат пен дәл параметр сипаттамаларын беріңіз. Ұсынылған іздеуді қайтарылған дереккөздің орнына қоймаңыз. Соңғы қорытынды өз негізін анықтай алуы үшін бақылауды таңдалған операциямен байланыстырып сақтаңыз. Жасалған код та көзделген ортада тексеріліп, іске қосылғанға дейін ұсыныс болып қалады.
Hermes 3 JSON режимі қажетті схемасы бар жүйелік нұсқаумен үйретілген және жауап ретінде JSON нысанын сұрайды. Өрістерді және жетіспейтін немесе қайшы бастапқы мәндерді қалай көрсету керегін анықтаңыз. Нысан схемаға сай болса да, құрылымды тексеріп, фактілерді қарап шығыңыз.
Жарияланған конфигурация max_position_embeddings мәнін 131 072 етіп орнатады. Нұсқауларды, құжаттарды, тарихты, құрал нәтижелерін және жауапты бірге жоспарлаңыз; бұл өріс бөлек әмбебап шығыс шегін белгілемейді. Өндірушінің толық моделі мен бөлек жарияланған квантталған нұсқаларының өзіндік дәлдік сәйкестіктері бар, сондықтан сол нұсқаларды аталған 405B каталог нұсқасының орнына үнсіз қоюға болмайды.
Пайдалы нәтиже — жорамалдары мен дереккөз байланыстары анық мәтін немесе код артефактісі. Оны берілген талаптармен және нақты бақылаулармен салыстырып тексеріңіз. Hermes 3 ChatML, функция шақыруы және JSON үдерістері Hermes 4 моделінің кейінгі гибридті ойлану және кезектескен пайымдау тетіктерінен бөлек болып қалады.
", "aboutText": "Hermes 3 Llama 3.1 405B — Llama 3.1 405B моделінің барлық параметрін баптап үйрету арқылы дамытылған, Nous Research компаниясының ірі әмбебап мәтін моделі. Өндіруші пайдаланушы нұсқауларына сәйкестікті, бағыттауды, рөлдік ойынды, пайымдауды, көпкезекті әңгімені және ұзақ контекст тұтастығын атап көрсетеді. Шығысы — жауаптарды, жазбаша мазмұнды, кодты, құрылымдалған жазбаларды және функция шақыруы ақпаратын қамтитын мәтін.\n\n### 405B шығарылымы\n\nБұл — 70B серіктес моделінен және кейінгі Hermes 4 пайымдау шығарылымынан бөлек ірі Hermes 3 каталог нұсқасы. Өндіруші бұрынғы Hermes мүмкіндіктерін жақсартылған функция шақыруымен, құрылымдалған шығыспен және код жасаумен кеңейтеді. Модель ауқымы жетіспейтін дереккөздерді немесе аяқталу өлшемшартын береді деп жорамалдаудың орнына, тапсырмаға нақты дәлелін және қажетті соңғы пішінін беріңіз.\n\nҚұжат талдауы үшін үзінділерді белгілеп, салыстыру өлшемшарттарын анықтаңыз. Әр қорытындының жанында қатысты дереккөзді сұрап, жоқ ақпараттың берілуін көрсетіңіз. Жазу тапсырмасы үшін аудиторияны, үнді және түзетуде сақталуға тиіс фактілерді беріңіз. Практикалық промпт: «Осы түсіндірмені көрсетілген оқырманға арнап қайта жаз, анықталған терминдерді сақта және нақтылауды қажет ететін негізделмеген тұжырымдарды анықта».\n\n### Промпт пішімі және диалог\n\nHermes 3 жүйелік нұсқауларды, пайдаланушы хабарламаларын және көмекші жауаптарын бөлу үшін ChatML қолданады. Оның өз үлгісі әңгімені құрып, көмекші генерациясының префиксін қоса алады. Жүйелік нұсқаулар рөлді, ережелерді және стильді бағыттайды; тапсырма арнайы кіріспені қажет етпесе, олар міндетті емес.\n\nЖалғасатын әңгіме бастапқы мәтінді нұсқаулардан бөлек ұстап, қабылданған фактілерді қатысты контексте сақтауы керек. Рөлдік ойын үшін әр кейіпкерді кім басқаратынын және қай оқиғалар бекітілгенін анықтаңыз. Код үшін өзгеретін әрекетті және сақталатын келісімшарттарды айтыңыз. Қалаған артефакт диалог бойы көрінетін болып қалуы керек.\n\n### Функциялар және дереккөз бақылаулары\n\nДәл модель карточкасы құрал анықтамасы көрінісіндегі функция сигнатураларын және функция атауы мен аргументтеріне арналған міндетті жауап схемасын құжаттайды. Модель тегтелген JSON шақыру нысандарын жасайды. Қолданба таңдалған операцияны талдап, орындайды, содан кейін нәтижесін атаулы құрал жауабымен қайтарады. Көмекшінің келесі жауабы нақты деректерді түсіндіре алады.\n\nӘр функцияға анық мақсат пен дәл параметр сипаттамаларын беріңіз. Ұсынылған іздеуді қайтарылған дереккөздің орнына қоймаңыз. Соңғы қорытынды өз негізін анықтай алуы үшін бақылауды таңдалған операциямен байланыстырып сақтаңыз. Жасалған код та көзделген ортада тексеріліп, іске қосылғанға дейін ұсыныс болып қалады.\n\n### JSON нәтижелері, контекст және дәлдік\n\nHermes 3 JSON режимі қажетті схемасы бар жүйелік нұсқаумен үйретілген және жауап ретінде JSON нысанын сұрайды. Өрістерді және жетіспейтін немесе қайшы бастапқы мәндерді қалай көрсету керегін анықтаңыз. Нысан схемаға сай болса да, құрылымды тексеріп, фактілерді қарап шығыңыз.\n\nЖарияланған конфигурация max_position_embeddings мәнін 131 072 етіп орнатады. Нұсқауларды, құжаттарды, тарихты, құрал нәтижелерін және жауапты бірге жоспарлаңыз; бұл өріс бөлек әмбебап шығыс шегін белгілемейді. Өндірушінің толық моделі мен бөлек жарияланған квантталған нұсқаларының өзіндік дәлдік сәйкестіктері бар, сондықтан сол нұсқаларды аталған 405B каталог нұсқасының орнына үнсіз қоюға болмайды.\n\nПайдалы нәтиже — жорамалдары мен дереккөз байланыстары анық мәтін немесе код артефактісі. Оны берілген талаптармен және нақты бақылаулармен салыстырып тексеріңіз. Hermes 3 ChatML, функция шақыруы және JSON үдерістері Hermes 4 моделінің кейінгі гибридті ойлану және кезектескен пайымдау тетіктерінен бөлек болып қалады.", "editorialOverlay": { "copy_fields": { "practical_html": "Ағылшын тіліндегі техникалық мысал
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B — Nous Research компаниясының барлық параметрі баптап үйретілген 405B әмбебап мәтін моделі. Оның бағыттауға болатын ChatML диалогы, схемаға негізделген JSON пішімі және функция шақыру пішімі қолданба құралдары қайтарған бақылаулармен дереккөз талдауын, жазуды, кодты және көпқадамды жұмысты қолдайды.
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
Hermes 3 Llama 3.1 405B — Llama 3.1 405B моделінің барлық параметрін баптап үйрету арқылы дамытылған, Nous Research компаниясының ірі әмбебап мәтін моделі. Өндіруші пайдаланушы нұсқауларына сәйкестікті, бағыттауды, рөлдік ойынды, пайымдауды, көпкезекті әңгімені және ұзақ контекст тұтастығын атап көрсетеді. Шығысы — жауаптарды, жазбаша мазмұнды, кодты, құрылымдалған жазбаларды және функция шақыруы ақпаратын қамтитын мәтін.
Бұл — 70B серіктес моделінен және кейінгі Hermes 4 пайымдау шығарылымынан бөлек ірі Hermes 3 каталог нұсқасы. Өндіруші бұрынғы Hermes мүмкіндіктерін жақсартылған функция шақыруымен, құрылымдалған шығыспен және код жасаумен кеңейтеді. Модель ауқымы жетіспейтін дереккөздерді немесе аяқталу өлшемшартын береді деп жорамалдаудың орнына, тапсырмаға нақты дәлелін және қажетті соңғы пішінін беріңіз.
Құжат талдауы үшін үзінділерді белгілеп, салыстыру өлшемшарттарын анықтаңыз. Әр қорытындының жанында қатысты дереккөзді сұрап, жоқ ақпараттың берілуін көрсетіңіз. Жазу тапсырмасы үшін аудиторияны, үнді және түзетуде сақталуға тиіс фактілерді беріңіз. Практикалық промпт: «Осы түсіндірмені көрсетілген оқырманға арнап қайта жаз, анықталған терминдерді сақта және нақтылауды қажет ететін негізделмеген тұжырымдарды анықта».
Hermes 3 жүйелік нұсқауларды, пайдаланушы хабарламаларын және көмекші жауаптарын бөлу үшін ChatML қолданады. Оның өз үлгісі әңгімені құрып, көмекші генерациясының префиксін қоса алады. Жүйелік нұсқаулар рөлді, ережелерді және стильді бағыттайды; тапсырма арнайы кіріспені қажет етпесе, олар міндетті емес.
Жалғасатын әңгіме бастапқы мәтінді нұсқаулардан бөлек ұстап, қабылданған фактілерді қатысты контексте сақтауы керек. Рөлдік ойын үшін әр кейіпкерді кім басқаратынын және қай оқиғалар бекітілгенін анықтаңыз. Код үшін өзгеретін әрекетті және сақталатын келісімшарттарды айтыңыз. Қалаған артефакт диалог бойы көрінетін болып қалуы керек.
Дәл модель карточкасы құрал анықтамасы көрінісіндегі функция сигнатураларын және функция атауы мен аргументтеріне арналған міндетті жауап схемасын құжаттайды. Модель тегтелген JSON шақыру нысандарын жасайды. Қолданба таңдалған операцияны талдап, орындайды, содан кейін нәтижесін атаулы құрал жауабымен қайтарады. Көмекшінің келесі жауабы нақты деректерді түсіндіре алады.
Әр функцияға анық мақсат пен дәл параметр сипаттамаларын беріңіз. Ұсынылған іздеуді қайтарылған дереккөздің орнына қоймаңыз. Соңғы қорытынды өз негізін анықтай алуы үшін бақылауды таңдалған операциямен байланыстырып сақтаңыз. Жасалған код та көзделген ортада тексеріліп, іске қосылғанға дейін ұсыныс болып қалады.
Hermes 3 JSON режимі қажетті схемасы бар жүйелік нұсқаумен үйретілген және жауап ретінде JSON нысанын сұрайды. Өрістерді және жетіспейтін немесе қайшы бастапқы мәндерді қалай көрсету керегін анықтаңыз. Нысан схемаға сай болса да, құрылымды тексеріп, фактілерді қарап шығыңыз.
Жарияланған конфигурация max_position_embeddings мәнін 131 072 етіп орнатады. Нұсқауларды, құжаттарды, тарихты, құрал нәтижелерін және жауапты бірге жоспарлаңыз; бұл өріс бөлек әмбебап шығыс шегін белгілемейді. Өндірушінің толық моделі мен бөлек жарияланған квантталған нұсқаларының өзіндік дәлдік сәйкестіктері бар, сондықтан сол нұсқаларды аталған 405B каталог нұсқасының орнына үнсіз қоюға болмайды.
Пайдалы нәтиже — жорамалдары мен дереккөз байланыстары анық мәтін немесе код артефактісі. Оны берілген талаптармен және нақты бақылаулармен салыстырып тексеріңіз. Hermes 3 ChatML, функция шақыруы және JSON үдерістері Hermes 4 моделінің кейінгі гибридті ойлану және кезектескен пайымдау тетіктерінен бөлек болып қалады.
POST /v1/chat/completionstexttext| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер nousresearch/hermes-3-llama-3.1-405b | Әдепкі— |
Өрісmessages | Түріmessage[] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 | Әдепкі— |
Өрісmessages[].role | Түріstring | ТалапМіндетті | Мәндер мен шектеулер Мысалдар: system, user, assistant, tool, function Шарттар: Бұл рөлдер бастапқы кодтағы үйлесімділік түрлерінде айқын көрсетілген; рөлдердің нақты жиыны әр модельге байланысты. Модельге байланысты | Әдепкі— |
Өрісmessages[].content | Түріstring|content_part[]|null | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісmessages[].tool_calls | Түріtool_call[] | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісmessages[].tool_call_id | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Мына жағдайда қолданылады: role=tool; нақты қайтарылған ID мәнін пайдаланыңыз | Әдепкі— |
Өрісmessages[].name | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісmessages[].reasoning_content | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Мына жағдайда қолданылады: Модель пайымдауды пайдаланса, нақты қайтарылған пайымдауды қайта жіберіңіз | Әдепкі— |
Өрісmessages[].reasoning_details | Түріobject|array | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісmax_tokens | Түріinteger | ТалапМіндетті емес | Мәндер мен шектеулер Ең азы: 1 Модельге байланысты | Әдепкі— |
Өрісmax_completion_tokens | Түріinteger | ТалапМіндетті емес | Мәндер мен шектеулер Ең азы: 1 Модельге байланысты | Әдепкі— |
Өрісstream | Түріboolean | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкіfalse |
Өрісstream_options.include_usage | Түріboolean | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісtemperature | Түріnumber | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісtop_p | Түріnumber | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісstop | Түріstring|string[] | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісtools | Түріfunction_tool[] | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісtools[].type | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер function Модельге байланысты | Әдепкі— |
Өрісtools[].function.name | Түріstring | ТалапМіндетті | Мәндер мен шектеулер Мына жағдайда қолданылады: функция құралы берілген | Әдепкі— |
Өрісtools[].function.description | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісtools[].function.parameters | ТүріJSON_schema | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісtool_choice | Түріstring|object | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісparallel_tool_calls | Түріboolean | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісresponse_format | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісreasoning_effort | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісreasoning | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісservice_tier | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісinstructions | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Үйлесімділік өрісі | Әдепкі— |
Өрісfunctions | Түріfunction[] | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісfunction_call | Түріstring|object | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісprompt_cache_options | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— |
Өрісmodalities | Түріstring[] | ТалапМіндетті емес | Мәндер мен шектеулер text | Әдепкі— |
Өрісprovider | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Осы Ultra мәтіндік бағытында provider.options қабылданбайды | Әдепкі— |
Өрісcache_control.ttl | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Сұрау кэшінің нақты орындарында 1h қабылданбайды | Әдепкі— |
Мәтін · UTF8 мәтіні
messages[].content
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыmodel, messages |
Параметрmaterial_types | Параметр талаптарыtext |
Параметрmessages | Параметр талаптарыrole/content құрылымы бар хабарламалар жиымы |
Параметрfile_material | Параметр талаптарынақты UTF-8 құжаты сөзбе-сөз мәтін ретінде енгізіледі; файл ID-і болжанбайды |
Параметрoptional_controls | Параметр талаптарыstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Параметрcontrol_scope | Параметр талаптарымодельге байланысты; пайдаланушының функция құралдары қызмет жағында орындалатын құралдардан өзгеше |
Параметрoutput_modalities | Параметр талаптарыtext |
Параметрhosted_operations | Параметр талаптарыfalse |
Параметрmultimodal_input_binding | Параметр талаптарыnull |
Өмірлік цикл: synchronous_or_streamed
Модельдің дәл ID мәнін messages деректерімен бірге жіберіңіз.
Контекст ұзындығы шығыстың жоғарғы шегі емес.
Мәтіндік файл сөзбе-сөз мәтінді бере алады; кіріс суреттері, аудио және файл нысандары дәл байланыстыруды қажет етеді.
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
Әр төлемді көрсетілген шарттармен салыстырыңыз. Балама баптаулардың әр жиыны үшін бір мөлшерлемені қолданыңыз.
| Баптау | Мөлшерлемелер кестесі | Контекст токендерінің саны мынадан көп | Контекст токендерінің саны мынадан аспайды, шегі кіреді | Төлем |
|---|---|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Контекст токендерінің саны мынадан көп— | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.002 / 1K токен Шығыс · Шығыс токендері $0.002 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
| БаптауСұрау ұзындығының 1-деңгейі | Мөлшерлемелер кестесі— | Контекст токендерінің саны мынадан көп0 | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.002 / 1K токен Шығыс · Шығыс токендері $0.002 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson немесе SSE
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Әр жауап нұсқасын оның мазмұнымен, құрал шақыруларымен және пайымдауымен бірге сақтаңыз. SSE өзгерістерін жауап нұсқасы мен құрал индексі бойынша жинап, соңғы аяқталу себебі мен пайдалану деректерін сақтаңыз.
Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген.
| Өріс | Түрі |
|---|---|
Өрісchoices[].index | Түріinteger |
Өрісchoices[].message.content | Түріstring|null |
Өрісchoices[].message.tool_calls | Түріtool_call[] |
Өрісchoices[].message.reasoning_content | Түріstring |
Өрісchoices[].message.reasoning_details | Түріobject|array |
Өрісchoices[].finish_reason | Түріstring|null |
Өрісusage | Түріobject |
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B — Nous Research компаниясының барлық параметрі баптап үйретілген 405B әмбебап мәтін моделі. Оның бағыттауға болатын ChatML диалогы, схемаға негізделген JSON пішімі және функция шақыру пішімі қолданба құралдары қайтарған бақылаулармен дереккөз талдауын, жазуды, кодты және көпқадамды жұмысты қолдайды.
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
Hermes 3 Llama 3.1 405B — Llama 3.1 405B моделінің барлық параметрін баптап үйрету арқылы дамытылған, Nous Research компаниясының ірі әмбебап мәтін моделі. Өндіруші пайдаланушы нұсқауларына сәйкестікті, бағыттауды, рөлдік ойынды, пайымдауды, көпкезекті әңгімені және ұзақ контекст тұтастығын атап көрсетеді. Шығысы — жауаптарды, жазбаша мазмұнды, кодты, құрылымдалған жазбаларды және функция шақыруы ақпаратын қамтитын мәтін.
Бұл — 70B серіктес моделінен және кейінгі Hermes 4 пайымдау шығарылымынан бөлек ірі Hermes 3 каталог нұсқасы. Өндіруші бұрынғы Hermes мүмкіндіктерін жақсартылған функция шақыруымен, құрылымдалған шығыспен және код жасаумен кеңейтеді. Модель ауқымы жетіспейтін дереккөздерді немесе аяқталу өлшемшартын береді деп жорамалдаудың орнына, тапсырмаға нақты дәлелін және қажетті соңғы пішінін беріңіз.
Құжат талдауы үшін үзінділерді белгілеп, салыстыру өлшемшарттарын анықтаңыз. Әр қорытындының жанында қатысты дереккөзді сұрап, жоқ ақпараттың берілуін көрсетіңіз. Жазу тапсырмасы үшін аудиторияны, үнді және түзетуде сақталуға тиіс фактілерді беріңіз. Практикалық промпт: «Осы түсіндірмені көрсетілген оқырманға арнап қайта жаз, анықталған терминдерді сақта және нақтылауды қажет ететін негізделмеген тұжырымдарды анықта».
Hermes 3 жүйелік нұсқауларды, пайдаланушы хабарламаларын және көмекші жауаптарын бөлу үшін ChatML қолданады. Оның өз үлгісі әңгімені құрып, көмекші генерациясының префиксін қоса алады. Жүйелік нұсқаулар рөлді, ережелерді және стильді бағыттайды; тапсырма арнайы кіріспені қажет етпесе, олар міндетті емес.
Жалғасатын әңгіме бастапқы мәтінді нұсқаулардан бөлек ұстап, қабылданған фактілерді қатысты контексте сақтауы керек. Рөлдік ойын үшін әр кейіпкерді кім басқаратынын және қай оқиғалар бекітілгенін анықтаңыз. Код үшін өзгеретін әрекетті және сақталатын келісімшарттарды айтыңыз. Қалаған артефакт диалог бойы көрінетін болып қалуы керек.
Дәл модель карточкасы құрал анықтамасы көрінісіндегі функция сигнатураларын және функция атауы мен аргументтеріне арналған міндетті жауап схемасын құжаттайды. Модель тегтелген JSON шақыру нысандарын жасайды. Қолданба таңдалған операцияны талдап, орындайды, содан кейін нәтижесін атаулы құрал жауабымен қайтарады. Көмекшінің келесі жауабы нақты деректерді түсіндіре алады.
Әр функцияға анық мақсат пен дәл параметр сипаттамаларын беріңіз. Ұсынылған іздеуді қайтарылған дереккөздің орнына қоймаңыз. Соңғы қорытынды өз негізін анықтай алуы үшін бақылауды таңдалған операциямен байланыстырып сақтаңыз. Жасалған код та көзделген ортада тексеріліп, іске қосылғанға дейін ұсыныс болып қалады.
Hermes 3 JSON режимі қажетті схемасы бар жүйелік нұсқаумен үйретілген және жауап ретінде JSON нысанын сұрайды. Өрістерді және жетіспейтін немесе қайшы бастапқы мәндерді қалай көрсету керегін анықтаңыз. Нысан схемаға сай болса да, құрылымды тексеріп, фактілерді қарап шығыңыз.
Жарияланған конфигурация max_position_embeddings мәнін 131 072 етіп орнатады. Нұсқауларды, құжаттарды, тарихты, құрал нәтижелерін және жауапты бірге жоспарлаңыз; бұл өріс бөлек әмбебап шығыс шегін белгілемейді. Өндірушінің толық моделі мен бөлек жарияланған квантталған нұсқаларының өзіндік дәлдік сәйкестіктері бар, сондықтан сол нұсқаларды аталған 405B каталог нұсқасының орнына үнсіз қоюға болмайды.
Пайдалы нәтиже — жорамалдары мен дереккөз байланыстары анық мәтін немесе код артефактісі. Оны берілген талаптармен және нақты бақылаулармен салыстырып тексеріңіз. Hermes 3 ChatML, функция шақыруы және JSON үдерістері Hermes 4 моделінің кейінгі гибридті ойлану және кезектескен пайымдау тетіктерінен бөлек болып қалады.
POST /v1/messagestextjson, sse| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер nousresearch/hermes-3-llama-3.1-405b | Әдепкі— |
Өрісmessages | Түріmessage[] | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісmessages[].role | Түріstring | ТалапМіндетті | Мәндер мен шектеулер user, assistant | Әдепкі— |
Өрісmessages[].content | Түріstring | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісmax_tokens | Түріinteger | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісstream | Түріboolean | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкіfalse |
Мәтін · UTF-8 мәтіні
messages[].content жолы
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыmodel, messages, max_tokens |
Параметрoptional_controls | Параметр талаптарыstream |
Параметрmaterial_types | Параметр талаптарыtext |
Параметрtext_file_material | Параметр талаптарыНақты UTF-8 құжатын оқып, оның мәтінін көрсетілген кіріс жолына немесе хабарлама мазмұнының жолына қойыңыз. |
Өмірлік цикл: synchronous_or_streamed
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
Әр төлемді көрсетілген шарттармен салыстырыңыз. Балама баптаулардың әр жиыны үшін бір мөлшерлемені қолданыңыз.
| Баптау | Мөлшерлемелер кестесі | Контекст токендерінің саны мынадан көп | Контекст токендерінің саны мынадан аспайды, шегі кіреді | Төлем |
|---|---|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Контекст токендерінің саны мынадан көп— | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.002 / 1K токен Шығыс · Шығыс токендері $0.002 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
| БаптауСұрау ұзындығының 1-деңгейі | Мөлшерлемелер кестесі— | Контекст токендерінің саны мынадан көп0 | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.002 / 1K токен Шығыс · Шығыс токендері $0.002 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
{\n "model": "nousresearch/hermes-3-llama-3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON немесе SSE
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Барлық мазмұн блоктарын, пайымдау қолтаңбаларын және құрал қолданудың нақты ID мәндерін сақтаңыз. SSE блоктарының барлық өзгерістерін жинаңыз; алғашқы мәтіндік блок толық шығыс емес.
Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген.
| Өріс | Түрі |
|---|---|
Өрісid | Түріstring |
Өрісmodel | Түріstring |
Өрісcontent[] | Түріtext|thinking|tool_use|other content block |
Өрісstop_reason | Түріstring|null |
Өрісusage | Түріobject |
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
Ағылшын тіліндегі техникалық мысал
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.