Hermes 3 Llama 3.1 70B est l’édition généraliste de 70B de la série Hermes 3 de Nous Research. Elle accepte du texte et génère une réponse, un passage rédigé, du code, un enregistrement structuré ou une proposition d’appel d’outil. Le fabricant met l’accent sur l’orientation par l’utilisateur, le raisonnement, les jeux de rôle, le dialogue à plusieurs tours et la cohérence en contexte long, avec des améliorations des appels de fonctions et de la génération de code.
Une instruction système peut définir le rôle, les règles, le style et les exigences de sortie. Pour un jeu de rôle, fournissez le cadre, le point de vue et les limites des personnages; pour une analyse, fournissez les passages sources et les critères de conclusion. Voici une consigne utile : « Expliquez les différences entre ces exigences, conservez les noms techniques et indiquez le passage qui étaye chaque constat. »
Pour la programmation, fournissez l’implémentation pertinente, l’échec observé, le comportement attendu et les interfaces à préserver. Demandez le livrable de code proposé et son explication, puis utilisez les observations réelles de validation si une révision s’impose. L’orientation du modèle aide à façonner la réponse, mais la consigne doit toujours définir le résultat utile.
Hermes 3 utilise ChatML avec des tours distincts pour le système, l’utilisateur et l’assistant, délimités explicitement. Le producteur recommande de mettre la conversation en forme au moyen du gabarit propre au modèle et d’ajouter l’invite de génération de l’assistant. Un message système est facultatif; s’il est présent, il doit décrire le contexte de la tâche et le comportement souhaité plutôt que remplacer la demande réelle de l’utilisateur.
Conservez l’historique du dialogue sous les bons rôles. Pour poursuivre une tâche de rédaction, préservez les faits établis et indiquez au modèle le passage qui peut changer. Pour un travail sur sources, identifiez les éléments comme preuves et séparez-les des instructions. Cela aide une réponse ultérieure à conserver les contraintes de la tâche sans confondre une citation avec une nouvelle commande.
La fiche exacte du modèle décrit un entraînement à l’utilisation des fonctions avec une représentation système spécifique, des signatures de fonctions et des schémas de paramètres. Le modèle renvoie des objets JSON contenant le nom de la fonction sélectionnée et ses arguments à l’intérieur de balises d’appel d’outil. L’application environnante analyse cette proposition, exécute la fonction et renvoie une réponse d’outil nommée. Le modèle utilise ensuite les données retournées pour produire la réponse.
Définissez les fonctions précisément et exigez des valeurs réelles pour leurs arguments plutôt que des suppositions sur un système externe. Une fonction de recherche peut fournir un champ de produit manquant ou un calcul, tandis que la réponse explique ce que signifient les informations retournées. Un appel généré se distingue d’un résultat exécuté; conservez l’observation avec la tâche.
Hermes 3 documente aussi une instruction système conditionnée par un schéma pour les réponses uniquement en JSON. Définissez les champs et leurs types, et expliquez comment représenter les informations absentes des sources. Vérifiez à la fois la structure de l’objet généré et son accord avec l’entrée. Une réponse compatible avec un schéma ne doit pas être considérée comme une preuve qu’une valeur a été récupérée ou vérifiée.
La configuration publiée du modèle 70B comporte 131 072 positions. Texte source, conversation et contenu généré partagent le contexte du processus choisi; la taille de génération d’un exemple n’est pas une limite ferme universelle de réponse. Réservez de la place pour le résultat et gardez les longues entrées pertinentes pour la question.
Le livrable utile est un texte, une proposition de code ou un enregistrement structuré que l’on peut examiner à partir du contexte fourni et des observations réelles des outils. Cette édition exacte Hermes 3 70B reste distincte du modèle 405B plus grand ainsi que du format et des contrôles de raisonnement hybride de Hermes 4.
", "aboutText": "Hermes 3 Llama 3.1 70B est l’édition généraliste de 70B de la série Hermes 3 de Nous Research. Elle accepte du texte et génère une réponse, un passage rédigé, du code, un enregistrement structuré ou une proposition d’appel d’outil. Le fabricant met l’accent sur l’orientation par l’utilisateur, le raisonnement, les jeux de rôle, le dialogue à plusieurs tours et la cohérence en contexte long, avec des améliorations des appels de fonctions et de la génération de code.\n\n### Orienter la tâche et la réponse\n\nUne instruction système peut définir le rôle, les règles, le style et les exigences de sortie. Pour un jeu de rôle, fournissez le cadre, le point de vue et les limites des personnages; pour une analyse, fournissez les passages sources et les critères de conclusion. Voici une consigne utile : « Expliquez les différences entre ces exigences, conservez les noms techniques et indiquez le passage qui étaye chaque constat. »\n\nPour la programmation, fournissez l’implémentation pertinente, l’échec observé, le comportement attendu et les interfaces à préserver. Demandez le livrable de code proposé et son explication, puis utilisez les observations réelles de validation si une révision s’impose. L’orientation du modèle aide à façonner la réponse, mais la consigne doit toujours définir le résultat utile.\n\n### Conversation ChatML\n\nHermes 3 utilise ChatML avec des tours distincts pour le système, l’utilisateur et l’assistant, délimités explicitement. Le producteur recommande de mettre la conversation en forme au moyen du gabarit propre au modèle et d’ajouter l’invite de génération de l’assistant. Un message système est facultatif; s’il est présent, il doit décrire le contexte de la tâche et le comportement souhaité plutôt que remplacer la demande réelle de l’utilisateur.\n\nConservez l’historique du dialogue sous les bons rôles. Pour poursuivre une tâche de rédaction, préservez les faits établis et indiquez au modèle le passage qui peut changer. Pour un travail sur sources, identifiez les éléments comme preuves et séparez-les des instructions. Cela aide une réponse ultérieure à conserver les contraintes de la tâche sans confondre une citation avec une nouvelle commande.\n\n### Appels de fonctions\n\nLa fiche exacte du modèle décrit un entraînement à l’utilisation des fonctions avec une représentation système spécifique, des signatures de fonctions et des schémas de paramètres. Le modèle renvoie des objets JSON contenant le nom de la fonction sélectionnée et ses arguments à l’intérieur de balises d’appel d’outil. L’application environnante analyse cette proposition, exécute la fonction et renvoie une réponse d’outil nommée. Le modèle utilise ensuite les données retournées pour produire la réponse.\n\nDéfinissez les fonctions précisément et exigez des valeurs réelles pour leurs arguments plutôt que des suppositions sur un système externe. Une fonction de recherche peut fournir un champ de produit manquant ou un calcul, tandis que la réponse explique ce que signifient les informations retournées. Un appel généré se distingue d’un résultat exécuté; conservez l’observation avec la tâche.\n\n### Mode JSON et limites\n\nHermes 3 documente aussi une instruction système conditionnée par un schéma pour les réponses uniquement en JSON. Définissez les champs et leurs types, et expliquez comment représenter les informations absentes des sources. Vérifiez à la fois la structure de l’objet généré et son accord avec l’entrée. Une réponse compatible avec un schéma ne doit pas être considérée comme une preuve qu’une valeur a été récupérée ou vérifiée.\n\nLa configuration publiée du modèle 70B comporte 131 072 positions. Texte source, conversation et contenu généré partagent le contexte du processus choisi; la taille de génération d’un exemple n’est pas une limite ferme universelle de réponse. Réservez de la place pour le résultat et gardez les longues entrées pertinentes pour la question.\n\nLe livrable utile est un texte, une proposition de code ou un enregistrement structuré que l’on peut examiner à partir du contexte fourni et des observations réelles des outils. Cette édition exacte Hermes 3 70B reste distincte du modèle 405B plus grand ainsi que du format et des contrôles de raisonnement hybride de Hermes 4.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B est le modèle textuel généraliste et orientable de Nous Research pour le dialogue à plusieurs tours, les jeux de rôle, la programmation et les tâches d’agents. Son profil ChatML comprend du JSON guidé par schéma et des appels de fonctions balisés, avec une configuration publiée de 131 072 positions.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Hermes 3 Llama 3.1 70B est l’édition généraliste de 70B de la série Hermes 3 de Nous Research. Elle accepte du texte et génère une réponse, un passage rédigé, du code, un enregistrement structuré ou une proposition d’appel d’outil. Le fabricant met l’accent sur l’orientation par l’utilisateur, le raisonnement, les jeux de rôle, le dialogue à plusieurs tours et la cohérence en contexte long, avec des améliorations des appels de fonctions et de la génération de code.
Une instruction système peut définir le rôle, les règles, le style et les exigences de sortie. Pour un jeu de rôle, fournissez le cadre, le point de vue et les limites des personnages; pour une analyse, fournissez les passages sources et les critères de conclusion. Voici une consigne utile : « Expliquez les différences entre ces exigences, conservez les noms techniques et indiquez le passage qui étaye chaque constat. »
Pour la programmation, fournissez l’implémentation pertinente, l’échec observé, le comportement attendu et les interfaces à préserver. Demandez le livrable de code proposé et son explication, puis utilisez les observations réelles de validation si une révision s’impose. L’orientation du modèle aide à façonner la réponse, mais la consigne doit toujours définir le résultat utile.
Hermes 3 utilise ChatML avec des tours distincts pour le système, l’utilisateur et l’assistant, délimités explicitement. Le producteur recommande de mettre la conversation en forme au moyen du gabarit propre au modèle et d’ajouter l’invite de génération de l’assistant. Un message système est facultatif; s’il est présent, il doit décrire le contexte de la tâche et le comportement souhaité plutôt que remplacer la demande réelle de l’utilisateur.
Conservez l’historique du dialogue sous les bons rôles. Pour poursuivre une tâche de rédaction, préservez les faits établis et indiquez au modèle le passage qui peut changer. Pour un travail sur sources, identifiez les éléments comme preuves et séparez-les des instructions. Cela aide une réponse ultérieure à conserver les contraintes de la tâche sans confondre une citation avec une nouvelle commande.
La fiche exacte du modèle décrit un entraînement à l’utilisation des fonctions avec une représentation système spécifique, des signatures de fonctions et des schémas de paramètres. Le modèle renvoie des objets JSON contenant le nom de la fonction sélectionnée et ses arguments à l’intérieur de balises d’appel d’outil. L’application environnante analyse cette proposition, exécute la fonction et renvoie une réponse d’outil nommée. Le modèle utilise ensuite les données retournées pour produire la réponse.
Définissez les fonctions précisément et exigez des valeurs réelles pour leurs arguments plutôt que des suppositions sur un système externe. Une fonction de recherche peut fournir un champ de produit manquant ou un calcul, tandis que la réponse explique ce que signifient les informations retournées. Un appel généré se distingue d’un résultat exécuté; conservez l’observation avec la tâche.
Hermes 3 documente aussi une instruction système conditionnée par un schéma pour les réponses uniquement en JSON. Définissez les champs et leurs types, et expliquez comment représenter les informations absentes des sources. Vérifiez à la fois la structure de l’objet généré et son accord avec l’entrée. Une réponse compatible avec un schéma ne doit pas être considérée comme une preuve qu’une valeur a été récupérée ou vérifiée.
La configuration publiée du modèle 70B comporte 131 072 positions. Texte source, conversation et contenu généré partagent le contexte du processus choisi; la taille de génération d’un exemple n’est pas une limite ferme universelle de réponse. Réservez de la place pour le résultat et gardez les longues entrées pertinentes pour la question.
Le livrable utile est un texte, une proposition de code ou un enregistrement structuré que l’on peut examiner à partir du contexte fourni et des observations réelles des outils. Cette édition exacte Hermes 3 70B reste distincte du modèle 405B plus grand ainsi que du format et des contrôles de raisonnement hybride de Hermes 4.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites nousresearch/hermes-3-llama-3.1-70b | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’ID réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: Fonction fournie comme outil | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est refusé sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: La valeur 1h est refusée là où le cache des prompts est configuré | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | ContratTableau de messages avec une structure role/content |
Paramètrefile_material | ContratDocument UTF-8 réel inséré comme texte littéral ; aucun ID de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | ContratPropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’ID exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objet fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Jetons de contexte, plus de | Jetons de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des jetons | Barème tarifaireTarif de base | Jetons de contexte, plus de— | Jetons de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Jetons en entrée $0.0014 / 1K jetons Sortie · Jetons en sortie $0.0014 / 1K jetons Entrée · Lecture du cache — / 1K jetons Entrée · Écriture dans le cache — / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Jetons de contexte, plus de0 | Jetons de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Jetons en entrée $0.0014 / 1K jetons Sortie · Jetons en sortie $0.0014 / 1K jetons Entrée · Lecture du cache — / 1K jetons Entrée · Écriture dans le cache — / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-70b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, et conservez le motif final d’arrêt et les données d’utilisation.
Conservez les ID et les en-têtes de requête/réponse. Aucune URL générique de récupération de tâche textuelle n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des éléments fournis ou valeur de paramètre invalides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Utilisez les chemins de méthode indiqués ci-dessus.
nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B est le modèle textuel généraliste et orientable de Nous Research pour le dialogue à plusieurs tours, les jeux de rôle, la programmation et les tâches d’agents. Son profil ChatML comprend du JSON guidé par schéma et des appels de fonctions balisés, avec une configuration publiée de 131 072 positions.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Hermes 3 Llama 3.1 70B est l’édition généraliste de 70B de la série Hermes 3 de Nous Research. Elle accepte du texte et génère une réponse, un passage rédigé, du code, un enregistrement structuré ou une proposition d’appel d’outil. Le fabricant met l’accent sur l’orientation par l’utilisateur, le raisonnement, les jeux de rôle, le dialogue à plusieurs tours et la cohérence en contexte long, avec des améliorations des appels de fonctions et de la génération de code.
Une instruction système peut définir le rôle, les règles, le style et les exigences de sortie. Pour un jeu de rôle, fournissez le cadre, le point de vue et les limites des personnages; pour une analyse, fournissez les passages sources et les critères de conclusion. Voici une consigne utile : « Expliquez les différences entre ces exigences, conservez les noms techniques et indiquez le passage qui étaye chaque constat. »
Pour la programmation, fournissez l’implémentation pertinente, l’échec observé, le comportement attendu et les interfaces à préserver. Demandez le livrable de code proposé et son explication, puis utilisez les observations réelles de validation si une révision s’impose. L’orientation du modèle aide à façonner la réponse, mais la consigne doit toujours définir le résultat utile.
Hermes 3 utilise ChatML avec des tours distincts pour le système, l’utilisateur et l’assistant, délimités explicitement. Le producteur recommande de mettre la conversation en forme au moyen du gabarit propre au modèle et d’ajouter l’invite de génération de l’assistant. Un message système est facultatif; s’il est présent, il doit décrire le contexte de la tâche et le comportement souhaité plutôt que remplacer la demande réelle de l’utilisateur.
Conservez l’historique du dialogue sous les bons rôles. Pour poursuivre une tâche de rédaction, préservez les faits établis et indiquez au modèle le passage qui peut changer. Pour un travail sur sources, identifiez les éléments comme preuves et séparez-les des instructions. Cela aide une réponse ultérieure à conserver les contraintes de la tâche sans confondre une citation avec une nouvelle commande.
La fiche exacte du modèle décrit un entraînement à l’utilisation des fonctions avec une représentation système spécifique, des signatures de fonctions et des schémas de paramètres. Le modèle renvoie des objets JSON contenant le nom de la fonction sélectionnée et ses arguments à l’intérieur de balises d’appel d’outil. L’application environnante analyse cette proposition, exécute la fonction et renvoie une réponse d’outil nommée. Le modèle utilise ensuite les données retournées pour produire la réponse.
Définissez les fonctions précisément et exigez des valeurs réelles pour leurs arguments plutôt que des suppositions sur un système externe. Une fonction de recherche peut fournir un champ de produit manquant ou un calcul, tandis que la réponse explique ce que signifient les informations retournées. Un appel généré se distingue d’un résultat exécuté; conservez l’observation avec la tâche.
Hermes 3 documente aussi une instruction système conditionnée par un schéma pour les réponses uniquement en JSON. Définissez les champs et leurs types, et expliquez comment représenter les informations absentes des sources. Vérifiez à la fois la structure de l’objet généré et son accord avec l’entrée. Une réponse compatible avec un schéma ne doit pas être considérée comme une preuve qu’une valeur a été récupérée ou vérifiée.
La configuration publiée du modèle 70B comporte 131 072 positions. Texte source, conversation et contenu généré partagent le contexte du processus choisi; la taille de génération d’un exemple n’est pas une limite ferme universelle de réponse. Réservez de la place pour le résultat et gardez les longues entrées pertinentes pour la question.
Le livrable utile est un texte, une proposition de code ou un enregistrement structuré que l’on peut examiner à partir du contexte fourni et des observations réelles des outils. Cette édition exacte Hermes 3 70B reste distincte du modèle 405B plus grand ainsi que du format et des contrôles de raisonnement hybride de Hermes 4.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites nousresearch/hermes-3-llama-3.1-70b | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
Chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Jetons de contexte, plus de | Jetons de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des jetons | Barème tarifaireTarif de base | Jetons de contexte, plus de— | Jetons de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Jetons en entrée $0.0014 / 1K jetons Sortie · Jetons en sortie $0.0014 / 1K jetons Entrée · Lecture du cache — / 1K jetons Entrée · Écriture dans le cache — / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Jetons de contexte, plus de0 | Jetons de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Jetons en entrée $0.0014 / 1K jetons Sortie · Jetons en sortie $0.0014 / 1K jetons Entrée · Lecture du cache — / 1K jetons Entrée · Écriture dans le cache — / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "nousresearch/hermes-3-llama-3.1-70b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les ID réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les ID et les en-têtes de requête/réponse. Aucune URL générique de récupération de tâche textuelle n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des éléments fournis ou valeur de paramètre invalides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.