Hermes 3 Llama 3.1 405B — крупная универсальная текстовая модель Nous Research, созданная полнопараметрическим дообучением Llama 3.1 405B. Разработчик подчёркивает согласование с инструкциями пользователя, управляемость, ролевые сценарии, рассуждение, многошаговый диалог и связность длинного контекста. Вывод — текст, включая ответы, письменные материалы, код, структурированные записи и информацию вызовов функций.
Это крупный вариант Hermes 3, отдельный от модели 70B и более позднего выпуска рассуждения Hermes 4. Разработчик расширяет прежние возможности Hermes улучшенными вызовами функций, структурированным выводом и генерацией кода. Предоставляйте задаче фактические свидетельства и обязательную итоговую форму, не предполагая, что масштаб модели восполняет недостающие источники или критерий завершения.
Для анализа документов подпишите фрагменты и определите критерии сравнения. Запрашивайте соответствующий источник рядом с каждым заключением и задавайте обработку отсутствующей информации. Для письменного задания передайте аудиторию, тон и факты, которые должны сохраниться при правке. Практический промпт: «Перепиши это объяснение для указанного читателя, сохрани определённые термины и укажи любое неподтверждённое утверждение, требующее уточнения».
Hermes 3 использует ChatML для разделения системных инструкций, сообщений пользователя и ответов ассистента. Собственный шаблон может построить диалог и добавить префикс генерации ассистента. Системные инструкции направляют роль, правила и стиль; они необязательны, если задаче не нужна специальная преамбула.
Продолжающийся диалог должен отделять исходный текст от инструкций и сохранять принятые факты в соответствующем контексте. Для ролевого сценария определите, кто управляет каждым персонажем и какие события установлены. Для кода укажите меняющееся поведение и сохраняемые контракты. Желаемый материал должен оставаться видимым на протяжении диалога.
Карточка именно этой модели документирует сигнатуры функций внутри представления определений инструментов и обязательную схему ответа для имени функции и аргументов. Модель генерирует объекты вызовов JSON в тегах. Приложение разбирает и выполняет выбранную операцию, затем возвращает её результат в именованном ответе инструмента. Следующий ответ ассистента может объяснить фактические данные.
Дайте каждой функции ясное назначение и точные описания параметров. Не позволяйте предлагаемому поиску заменять возвращённый источник. Сохраняйте связь наблюдения с выбранной операцией, чтобы итоговое заключение могло указать свои подтверждения. Сгенерированный код также остаётся предложением до проверки и запуска в предназначенной среде.
Режим JSON Hermes 3 обучен с системной инструкцией, содержащей нужную схему, и запрашивает объект JSON как ответ. Определяйте поля и представление отсутствующих или противоречащих значений источников. Проверяйте структуру и факты, даже если объект следует схеме.
Опубликованная конфигурация задаёт max_position_embeddings равным 131 072. Учитывайте инструкции, документы, историю, результаты инструментов и ответ вместе; это поле не устанавливает отдельного универсального потолка вывода. Полная модель разработчика и отдельно опубликованные квантованные варианты имеют собственные характеристики точности, поэтому такие варианты нельзя незаметно подставлять вместо именованного варианта 405B.
Полезный результат — текст или код с ясными допущениями и связями с источниками. Проверяйте его по переданным требованиям и фактическим наблюдениям. Процессы ChatML, вызова функций и JSON в Hermes 3 остаются отличными от более поздних элементов гибридного размышления и чередующегося рассуждения Hermes 4.
", "aboutText": "Hermes 3 Llama 3.1 405B — крупная универсальная текстовая модель Nous Research, созданная полнопараметрическим дообучением Llama 3.1 405B. Разработчик подчёркивает согласование с инструкциями пользователя, управляемость, ролевые сценарии, рассуждение, многошаговый диалог и связность длинного контекста. Вывод — текст, включая ответы, письменные материалы, код, структурированные записи и информацию вызовов функций.\n\n### Редакция 405B\n\nЭто крупный вариант Hermes 3, отдельный от модели 70B и более позднего выпуска рассуждения Hermes 4. Разработчик расширяет прежние возможности Hermes улучшенными вызовами функций, структурированным выводом и генерацией кода. Предоставляйте задаче фактические свидетельства и обязательную итоговую форму, не предполагая, что масштаб модели восполняет недостающие источники или критерий завершения.\n\nДля анализа документов подпишите фрагменты и определите критерии сравнения. Запрашивайте соответствующий источник рядом с каждым заключением и задавайте обработку отсутствующей информации. Для письменного задания передайте аудиторию, тон и факты, которые должны сохраниться при правке. Практический промпт: «Перепиши это объяснение для указанного читателя, сохрани определённые термины и укажи любое неподтверждённое утверждение, требующее уточнения».\n\n### Формат промпта и диалог\n\nHermes 3 использует ChatML для разделения системных инструкций, сообщений пользователя и ответов ассистента. Собственный шаблон может построить диалог и добавить префикс генерации ассистента. Системные инструкции направляют роль, правила и стиль; они необязательны, если задаче не нужна специальная преамбула.\n\nПродолжающийся диалог должен отделять исходный текст от инструкций и сохранять принятые факты в соответствующем контексте. Для ролевого сценария определите, кто управляет каждым персонажем и какие события установлены. Для кода укажите меняющееся поведение и сохраняемые контракты. Желаемый материал должен оставаться видимым на протяжении диалога.\n\n### Функции и наблюдения источников\n\nКарточка именно этой модели документирует сигнатуры функций внутри представления определений инструментов и обязательную схему ответа для имени функции и аргументов. Модель генерирует объекты вызовов JSON в тегах. Приложение разбирает и выполняет выбранную операцию, затем возвращает её результат в именованном ответе инструмента. Следующий ответ ассистента может объяснить фактические данные.\n\nДайте каждой функции ясное назначение и точные описания параметров. Не позволяйте предлагаемому поиску заменять возвращённый источник. Сохраняйте связь наблюдения с выбранной операцией, чтобы итоговое заключение могло указать свои подтверждения. Сгенерированный код также остаётся предложением до проверки и запуска в предназначенной среде.\n\n### Результаты JSON, контекст и точность\n\nРежим JSON Hermes 3 обучен с системной инструкцией, содержащей нужную схему, и запрашивает объект JSON как ответ. Определяйте поля и представление отсутствующих или противоречащих значений источников. Проверяйте структуру и факты, даже если объект следует схеме.\n\nОпубликованная конфигурация задаёт max_position_embeddings равным 131 072. Учитывайте инструкции, документы, историю, результаты инструментов и ответ вместе; это поле не устанавливает отдельного универсального потолка вывода. Полная модель разработчика и отдельно опубликованные квантованные варианты имеют собственные характеристики точности, поэтому такие варианты нельзя незаметно подставлять вместо именованного варианта 405B.\n\nПолезный результат — текст или код с ясными допущениями и связями с источниками. Проверяйте его по переданным требованиям и фактическим наблюдениям. Процессы ChatML, вызова функций и JSON в Hermes 3 остаются отличными от более поздних элементов гибридного размышления и чередующегося рассуждения Hermes 4.", "editorialOverlay": { "copy_fields": { "practical_html": "Технический пример на английском
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B — универсальная текстовая модель Nous Research, полученная полнопараметрическим дообучением модели размера 405B. Её управляемый диалог ChatML, JSON по схемам и формат вызова функций поддерживают анализ источников, письмо, код и многошаговую работу с наблюдениями инструментов приложения.
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
Hermes 3 Llama 3.1 405B — крупная универсальная текстовая модель Nous Research, созданная полнопараметрическим дообучением Llama 3.1 405B. Разработчик подчёркивает согласование с инструкциями пользователя, управляемость, ролевые сценарии, рассуждение, многошаговый диалог и связность длинного контекста. Вывод — текст, включая ответы, письменные материалы, код, структурированные записи и информацию вызовов функций.
Это крупный вариант Hermes 3, отдельный от модели 70B и более позднего выпуска рассуждения Hermes 4. Разработчик расширяет прежние возможности Hermes улучшенными вызовами функций, структурированным выводом и генерацией кода. Предоставляйте задаче фактические свидетельства и обязательную итоговую форму, не предполагая, что масштаб модели восполняет недостающие источники или критерий завершения.
Для анализа документов подпишите фрагменты и определите критерии сравнения. Запрашивайте соответствующий источник рядом с каждым заключением и задавайте обработку отсутствующей информации. Для письменного задания передайте аудиторию, тон и факты, которые должны сохраниться при правке. Практический промпт: «Перепиши это объяснение для указанного читателя, сохрани определённые термины и укажи любое неподтверждённое утверждение, требующее уточнения».
Hermes 3 использует ChatML для разделения системных инструкций, сообщений пользователя и ответов ассистента. Собственный шаблон может построить диалог и добавить префикс генерации ассистента. Системные инструкции направляют роль, правила и стиль; они необязательны, если задаче не нужна специальная преамбула.
Продолжающийся диалог должен отделять исходный текст от инструкций и сохранять принятые факты в соответствующем контексте. Для ролевого сценария определите, кто управляет каждым персонажем и какие события установлены. Для кода укажите меняющееся поведение и сохраняемые контракты. Желаемый материал должен оставаться видимым на протяжении диалога.
Карточка именно этой модели документирует сигнатуры функций внутри представления определений инструментов и обязательную схему ответа для имени функции и аргументов. Модель генерирует объекты вызовов JSON в тегах. Приложение разбирает и выполняет выбранную операцию, затем возвращает её результат в именованном ответе инструмента. Следующий ответ ассистента может объяснить фактические данные.
Дайте каждой функции ясное назначение и точные описания параметров. Не позволяйте предлагаемому поиску заменять возвращённый источник. Сохраняйте связь наблюдения с выбранной операцией, чтобы итоговое заключение могло указать свои подтверждения. Сгенерированный код также остаётся предложением до проверки и запуска в предназначенной среде.
Режим JSON Hermes 3 обучен с системной инструкцией, содержащей нужную схему, и запрашивает объект JSON как ответ. Определяйте поля и представление отсутствующих или противоречащих значений источников. Проверяйте структуру и факты, даже если объект следует схеме.
Опубликованная конфигурация задаёт max_position_embeddings равным 131 072. Учитывайте инструкции, документы, историю, результаты инструментов и ответ вместе; это поле не устанавливает отдельного универсального потолка вывода. Полная модель разработчика и отдельно опубликованные квантованные варианты имеют собственные характеристики точности, поэтому такие варианты нельзя незаметно подставлять вместо именованного варианта 405B.
Полезный результат — текст или код с ясными допущениями и связями с источниками. Проверяйте его по переданным требованиям и фактическим наблюдениям. Процессы ChatML, вызова функций и JSON в Hermes 3 остаются отличными от более поздних элементов гибридного размышления и чередующегося рассуждения Hermes 4.
POST /v1/chat/completionstexttext| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения nousresearch/hermes-3-llama-3.1-405b | По умолчанию— |
Полеmessages | Типmessage[] | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 | По умолчанию— |
Полеmessages[].role | Типstring | ТребованиеОбязательно | Значения и ограничения Примеры: system, user, assistant, tool, function Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели. Зависит от модели | По умолчанию— |
Полеmessages[].content | Типstring|content_part[]|null | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеmessages[].tool_calls | Типtool_call[] | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеmessages[].tool_call_id | Типstring | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: role=tool; используйте фактически возвращённый ID | По умолчанию— |
Полеmessages[].name | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеmessages[].reasoning_content | Типstring | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует | По умолчанию— |
Полеmessages[].reasoning_details | Типobject|array | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеmax_tokens | Типinteger | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— |
Полеmax_completion_tokens | Типinteger | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— |
Полеstream | Типboolean | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse |
Полеstream_options.include_usage | Типboolean | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеtemperature | Типnumber | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеtop_p | Типnumber | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеstop | Типstring|string[] | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеtools | Типfunction_tool[] | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеtools[].type | Типstring | ТребованиеНеобязательно | Значения и ограничения function Зависит от модели | По умолчанию— |
Полеtools[].function.name | Типstring | ТребованиеОбязательно | Значения и ограничения Применяется, когда: передан инструмент-функция | По умолчанию— |
Полеtools[].function.description | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеtools[].function.parameters | ТипJSON_schema | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеtool_choice | Типstring|object | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеparallel_tool_calls | Типboolean | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеresponse_format | Типobject | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеreasoning_effort | Типstring | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеreasoning | Типobject | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеservice_tier | Типstring | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеinstructions | Типstring | ТребованиеНеобязательно | Значения и ограничения Поле совместимости | По умолчанию— |
Полеfunctions | Типfunction[] | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеfunction_call | Типstring|object | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеprompt_cache_options | Типobject | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— |
Полеmodalities | Типstring[] | ТребованиеНеобязательно | Значения и ограничения text | По умолчанию— |
Полеprovider | Типobject | ТребованиеНеобязательно | Значения и ограничения Условия: provider.options отклоняется на этом текстовом маршруте Ultra | По умолчанию— |
Полеcache_control.ttl | Типstring | ТребованиеНеобязательно | Значения и ограничения Условия: 1h отклоняется в фактических местах настройки кэша запросов | По умолчанию— |
Текст · Текст UTF8
messages[].content
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактmodel, messages |
Параметрmaterial_types | Контрактtext |
Параметрmessages | Контрактмассив сообщений со структурой role/content |
Параметрfile_material | Контрактфактический документ UTF-8 вставляется как буквальный текст; ID файла не выводится из него |
Параметрoptional_controls | Контрактstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Параметрcontrol_scope | Контрактзависит от модели; пользовательские инструменты-функции отличаются от инструментов, выполняемых на стороне сервиса |
Параметрoutput_modalities | Контрактtext |
Параметрhosted_operations | Контрактfalse |
Параметрmultimodal_input_binding | Контрактnull |
Жизненный цикл: synchronous_or_streamed
Отправляйте точный ID модели вместе с messages.
Длина контекста не является пределом выхода.
Текстовый файл может передавать буквальный текст; входные изображения, аудио и файловые объекты требуют точной привязки.
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.
| Конфигурация | Шкала ставок | Токенов контекста больше | Токенов контекста не более, включительно | Плата |
|---|---|---|---|---|
| КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Токенов контекста больше— | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.002 / 1K токенов Выход · Выходные токены $0.002 / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
| КонфигурацияУровень 1 по длине запроса | Шкала ставок— | Токенов контекста больше0 | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.002 / 1K токенов Выход · Выходные токены $0.002 / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson или SSE
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования.
Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен.
| Поле | Тип |
|---|---|
Полеchoices[].index | Типinteger |
Полеchoices[].message.content | Типstring|null |
Полеchoices[].message.tool_calls | Типtool_call[] |
Полеchoices[].message.reasoning_content | Типstring |
Полеchoices[].message.reasoning_details | Типobject|array |
Полеchoices[].finish_reason | Типstring|null |
Полеusage | Типobject |
| Ответ | Условие | Следующий шаг |
|---|---|---|
Ответ400 · invalid_request_error | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Используйте пути методов, указанные выше.
nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B — универсальная текстовая модель Nous Research, полученная полнопараметрическим дообучением модели размера 405B. Её управляемый диалог ChatML, JSON по схемам и формат вызова функций поддерживают анализ источников, письмо, код и многошаговую работу с наблюдениями инструментов приложения.
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
Hermes 3 Llama 3.1 405B — крупная универсальная текстовая модель Nous Research, созданная полнопараметрическим дообучением Llama 3.1 405B. Разработчик подчёркивает согласование с инструкциями пользователя, управляемость, ролевые сценарии, рассуждение, многошаговый диалог и связность длинного контекста. Вывод — текст, включая ответы, письменные материалы, код, структурированные записи и информацию вызовов функций.
Это крупный вариант Hermes 3, отдельный от модели 70B и более позднего выпуска рассуждения Hermes 4. Разработчик расширяет прежние возможности Hermes улучшенными вызовами функций, структурированным выводом и генерацией кода. Предоставляйте задаче фактические свидетельства и обязательную итоговую форму, не предполагая, что масштаб модели восполняет недостающие источники или критерий завершения.
Для анализа документов подпишите фрагменты и определите критерии сравнения. Запрашивайте соответствующий источник рядом с каждым заключением и задавайте обработку отсутствующей информации. Для письменного задания передайте аудиторию, тон и факты, которые должны сохраниться при правке. Практический промпт: «Перепиши это объяснение для указанного читателя, сохрани определённые термины и укажи любое неподтверждённое утверждение, требующее уточнения».
Hermes 3 использует ChatML для разделения системных инструкций, сообщений пользователя и ответов ассистента. Собственный шаблон может построить диалог и добавить префикс генерации ассистента. Системные инструкции направляют роль, правила и стиль; они необязательны, если задаче не нужна специальная преамбула.
Продолжающийся диалог должен отделять исходный текст от инструкций и сохранять принятые факты в соответствующем контексте. Для ролевого сценария определите, кто управляет каждым персонажем и какие события установлены. Для кода укажите меняющееся поведение и сохраняемые контракты. Желаемый материал должен оставаться видимым на протяжении диалога.
Карточка именно этой модели документирует сигнатуры функций внутри представления определений инструментов и обязательную схему ответа для имени функции и аргументов. Модель генерирует объекты вызовов JSON в тегах. Приложение разбирает и выполняет выбранную операцию, затем возвращает её результат в именованном ответе инструмента. Следующий ответ ассистента может объяснить фактические данные.
Дайте каждой функции ясное назначение и точные описания параметров. Не позволяйте предлагаемому поиску заменять возвращённый источник. Сохраняйте связь наблюдения с выбранной операцией, чтобы итоговое заключение могло указать свои подтверждения. Сгенерированный код также остаётся предложением до проверки и запуска в предназначенной среде.
Режим JSON Hermes 3 обучен с системной инструкцией, содержащей нужную схему, и запрашивает объект JSON как ответ. Определяйте поля и представление отсутствующих или противоречащих значений источников. Проверяйте структуру и факты, даже если объект следует схеме.
Опубликованная конфигурация задаёт max_position_embeddings равным 131 072. Учитывайте инструкции, документы, историю, результаты инструментов и ответ вместе; это поле не устанавливает отдельного универсального потолка вывода. Полная модель разработчика и отдельно опубликованные квантованные варианты имеют собственные характеристики точности, поэтому такие варианты нельзя незаметно подставлять вместо именованного варианта 405B.
Полезный результат — текст или код с ясными допущениями и связями с источниками. Проверяйте его по переданным требованиям и фактическим наблюдениям. Процессы ChatML, вызова функций и JSON в Hermes 3 остаются отличными от более поздних элементов гибридного размышления и чередующегося рассуждения Hermes 4.
POST /v1/messagestextjson, sse| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения nousresearch/hermes-3-llama-3.1-405b | По умолчанию— |
Полеmessages | Типmessage[] | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеmessages[].role | Типstring | ТребованиеОбязательно | Значения и ограничения user, assistant | По умолчанию— |
Полеmessages[].content | Типstring | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеmax_tokens | Типinteger | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеstream | Типboolean | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse |
Текст · Текст UTF-8
строка messages[].content
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактmodel, messages, max_tokens |
Параметрoptional_controls | Контрактstream |
Параметрmaterial_types | Контрактtext |
Параметрtext_file_material | КонтрактПрочитайте фактический документ UTF-8 и поместите его текст в указанную строку входа или содержимого сообщения. |
Жизненный цикл: synchronous_or_streamed
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.
| Конфигурация | Шкала ставок | Токенов контекста больше | Токенов контекста не более, включительно | Плата |
|---|---|---|---|---|
| КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Токенов контекста больше— | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.002 / 1K токенов Выход · Выходные токены $0.002 / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
| КонфигурацияУровень 1 по длине запроса | Шкала ставок— | Токенов контекста больше0 | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.002 / 1K токенов Выход · Выходные токены $0.002 / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
{\n "model": "nousresearch/hermes-3-llama-3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON или SSE
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Сохраняйте все блоки содержимого, подписи рассуждений и фактические ID обращений к инструментам. Собирайте все изменения блоков SSE; первый текстовый блок не является полным выходом.
Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен.
| Поле | Тип |
|---|---|
Полеid | Типstring |
Полеmodel | Типstring |
Полеcontent[] | Типtext|thinking|tool_use|other content block |
Полеstop_reason | Типstring|null |
Полеusage | Типobject |
| Ответ | Условие | Следующий шаг |
|---|---|---|
Ответ400 · invalid_request_error | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Используйте пути методов, указанные выше.
Технический пример на английском
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.