Hermes 3 Llama 3.1 70B est l’édition linguistique généraliste de 70 milliards de paramètres de Nous Research dans la série Hermes 3. Elle accepte du texte et génère une réponse, un passage écrit, du code, un enregistrement structuré ou un appel d’outil proposé. Le concepteur met en avant le contrôle par l’utilisateur, le raisonnement, le jeu de rôle, le dialogue à plusieurs tours et la cohérence en contexte long, ainsi que l’amélioration des appels de fonctions et de la génération de code.
Une instruction système peut définir rôle, règles, style et exigences de sortie. Pour le jeu de rôle, donnez cadre, point de vue et limites des personnages ; pour une analyse, fournissez les passages sources et critères de conclusion. Une consigne utile serait : « Explique les différences entre ces exigences, préserve les noms techniques et identifie le passage soutenant chaque constat. »
Pour programmer, fournissez implémentation pertinente, échec observé, comportement attendu et interfaces à maintenir stables. Demandez le code proposé et son explication, puis utilisez les observations réelles de validation pour toute révision. L’orientation du modèle aide à façonner la réponse, mais la consigne doit toujours définir le résultat utile.
Hermes 3 utilise ChatML avec des tours distincts système, utilisateur et assistant et des frontières explicites. Le producteur recommande le formatage via le modèle de dialogue propre au modèle et l’ajout du prompt de génération de l’assistant. Un message système est facultatif ; lorsqu’il est utilisé, il doit décrire contexte et comportement souhaité plutôt que remplacer la demande réelle de l’utilisateur.
Gardez l’historique dans les bons rôles. Pour une rédaction continue, préservez les faits établis et précisez quel passage peut changer. Pour des sources, identifiez les éléments comme preuves et séparez-les des instructions. Cela aide la réponse suivante à conserver les contraintes sans confondre un texte cité avec une nouvelle commande.
La fiche exacte entraîne l’usage des fonctions avec une représentation système, des signatures et des schémas de paramètres spécifiques. Le modèle renvoie des objets JSON contenant nom de fonction et arguments dans des balises d’appel d’outil. L’application analyse cette proposition, exécute la fonction et renvoie une réponse d’outil nommée. Le modèle utilise ensuite ces données pour produire la réponse.
Définissez les fonctions précisément et exigez des valeurs réelles pour les arguments plutôt que des suppositions sur un système externe. Une recherche peut fournir un champ produit manquant ou un calcul, tandis que la réponse explique la signification des informations renvoyées. Un appel généré diffère d’un résultat exécuté ; conservez l’observation avec la tâche.
Hermes 3 documente aussi une instruction système conditionnée par un schéma pour des réponses exclusivement JSON. Définissez champs et types et expliquez la représentation des informations sources absentes. Vérifiez l’objet généré à la fois pour sa structure et son accord avec les entrées. Une réponse conforme au schéma ne prouve pas qu’une valeur a été récupérée ou vérifiée.
La configuration publiée du modèle 70B possède 131 072 positions. Texte source, conversation et contenu généré partagent le contexte du processus choisi ; la taille de génération de l’exemple n’est pas une limite stricte universelle de réponse. Réservez de la place au résultat et gardez les longues entrées pertinentes.
Le livrable utile est un texte examinable, une proposition de code ou un enregistrement structuré fondé sur le contexte fourni et les observations réelles d’outils. Cette édition exacte Hermes 3 70B reste distincte du modèle 405B plus grand et du format et des contrôles de raisonnement hybride d’Hermes 4.
", "aboutText": "Hermes 3 Llama 3.1 70B est l’édition linguistique généraliste de 70 milliards de paramètres de Nous Research dans la série Hermes 3. Elle accepte du texte et génère une réponse, un passage écrit, du code, un enregistrement structuré ou un appel d’outil proposé. Le concepteur met en avant le contrôle par l’utilisateur, le raisonnement, le jeu de rôle, le dialogue à plusieurs tours et la cohérence en contexte long, ainsi que l’amélioration des appels de fonctions et de la génération de code.\n\n### Orienter la tâche et la réponse\n\nUne instruction système peut définir rôle, règles, style et exigences de sortie. Pour le jeu de rôle, donnez cadre, point de vue et limites des personnages ; pour une analyse, fournissez les passages sources et critères de conclusion. Une consigne utile serait : « Explique les différences entre ces exigences, préserve les noms techniques et identifie le passage soutenant chaque constat. »\n\nPour programmer, fournissez implémentation pertinente, échec observé, comportement attendu et interfaces à maintenir stables. Demandez le code proposé et son explication, puis utilisez les observations réelles de validation pour toute révision. L’orientation du modèle aide à façonner la réponse, mais la consigne doit toujours définir le résultat utile.\n\n### Conversation ChatML\n\nHermes 3 utilise ChatML avec des tours distincts système, utilisateur et assistant et des frontières explicites. Le producteur recommande le formatage via le modèle de dialogue propre au modèle et l’ajout du prompt de génération de l’assistant. Un message système est facultatif ; lorsqu’il est utilisé, il doit décrire contexte et comportement souhaité plutôt que remplacer la demande réelle de l’utilisateur.\n\nGardez l’historique dans les bons rôles. Pour une rédaction continue, préservez les faits établis et précisez quel passage peut changer. Pour des sources, identifiez les éléments comme preuves et séparez-les des instructions. Cela aide la réponse suivante à conserver les contraintes sans confondre un texte cité avec une nouvelle commande.\n\n### Appels de fonctions\n\nLa fiche exacte entraîne l’usage des fonctions avec une représentation système, des signatures et des schémas de paramètres spécifiques. Le modèle renvoie des objets JSON contenant nom de fonction et arguments dans des balises d’appel d’outil. L’application analyse cette proposition, exécute la fonction et renvoie une réponse d’outil nommée. Le modèle utilise ensuite ces données pour produire la réponse.\n\nDéfinissez les fonctions précisément et exigez des valeurs réelles pour les arguments plutôt que des suppositions sur un système externe. Une recherche peut fournir un champ produit manquant ou un calcul, tandis que la réponse explique la signification des informations renvoyées. Un appel généré diffère d’un résultat exécuté ; conservez l’observation avec la tâche.\n\n### Mode JSON et limites\n\nHermes 3 documente aussi une instruction système conditionnée par un schéma pour des réponses exclusivement JSON. Définissez champs et types et expliquez la représentation des informations sources absentes. Vérifiez l’objet généré à la fois pour sa structure et son accord avec les entrées. Une réponse conforme au schéma ne prouve pas qu’une valeur a été récupérée ou vérifiée.\n\nLa configuration publiée du modèle 70B possède 131 072 positions. Texte source, conversation et contenu généré partagent le contexte du processus choisi ; la taille de génération de l’exemple n’est pas une limite stricte universelle de réponse. Réservez de la place au résultat et gardez les longues entrées pertinentes.\n\nLe livrable utile est un texte examinable, une proposition de code ou un enregistrement structuré fondé sur le contexte fourni et les observations réelles d’outils. Cette édition exacte Hermes 3 70B reste distincte du modèle 405B plus grand et du format et des contrôles de raisonnement hybride d’Hermes 4.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B est le modèle de texte généraliste orientable de Nous Research pour le dialogue à plusieurs tours, le jeu de rôle, le code et les agents. Son profil ChatML comprend JSON guidé par schéma et appels de fonctions balisés, avec une configuration publiée de 131 072 positions.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Hermes 3 Llama 3.1 70B est l’édition linguistique généraliste de 70 milliards de paramètres de Nous Research dans la série Hermes 3. Elle accepte du texte et génère une réponse, un passage écrit, du code, un enregistrement structuré ou un appel d’outil proposé. Le concepteur met en avant le contrôle par l’utilisateur, le raisonnement, le jeu de rôle, le dialogue à plusieurs tours et la cohérence en contexte long, ainsi que l’amélioration des appels de fonctions et de la génération de code.
Une instruction système peut définir rôle, règles, style et exigences de sortie. Pour le jeu de rôle, donnez cadre, point de vue et limites des personnages ; pour une analyse, fournissez les passages sources et critères de conclusion. Une consigne utile serait : « Explique les différences entre ces exigences, préserve les noms techniques et identifie le passage soutenant chaque constat. »
Pour programmer, fournissez implémentation pertinente, échec observé, comportement attendu et interfaces à maintenir stables. Demandez le code proposé et son explication, puis utilisez les observations réelles de validation pour toute révision. L’orientation du modèle aide à façonner la réponse, mais la consigne doit toujours définir le résultat utile.
Hermes 3 utilise ChatML avec des tours distincts système, utilisateur et assistant et des frontières explicites. Le producteur recommande le formatage via le modèle de dialogue propre au modèle et l’ajout du prompt de génération de l’assistant. Un message système est facultatif ; lorsqu’il est utilisé, il doit décrire contexte et comportement souhaité plutôt que remplacer la demande réelle de l’utilisateur.
Gardez l’historique dans les bons rôles. Pour une rédaction continue, préservez les faits établis et précisez quel passage peut changer. Pour des sources, identifiez les éléments comme preuves et séparez-les des instructions. Cela aide la réponse suivante à conserver les contraintes sans confondre un texte cité avec une nouvelle commande.
La fiche exacte entraîne l’usage des fonctions avec une représentation système, des signatures et des schémas de paramètres spécifiques. Le modèle renvoie des objets JSON contenant nom de fonction et arguments dans des balises d’appel d’outil. L’application analyse cette proposition, exécute la fonction et renvoie une réponse d’outil nommée. Le modèle utilise ensuite ces données pour produire la réponse.
Définissez les fonctions précisément et exigez des valeurs réelles pour les arguments plutôt que des suppositions sur un système externe. Une recherche peut fournir un champ produit manquant ou un calcul, tandis que la réponse explique la signification des informations renvoyées. Un appel généré diffère d’un résultat exécuté ; conservez l’observation avec la tâche.
Hermes 3 documente aussi une instruction système conditionnée par un schéma pour des réponses exclusivement JSON. Définissez champs et types et expliquez la représentation des informations sources absentes. Vérifiez l’objet généré à la fois pour sa structure et son accord avec les entrées. Une réponse conforme au schéma ne prouve pas qu’une valeur a été récupérée ou vérifiée.
La configuration publiée du modèle 70B possède 131 072 positions. Texte source, conversation et contenu généré partagent le contexte du processus choisi ; la taille de génération de l’exemple n’est pas une limite stricte universelle de réponse. Réservez de la place au résultat et gardez les longues entrées pertinentes.
Le livrable utile est un texte examinable, une proposition de code ou un enregistrement structuré fondé sur le contexte fourni et les observations réelles d’outils. Cette édition exacte Hermes 3 70B reste distincte du modèle 405B plus grand et du format et des contrôles de raisonnement hybride d’Hermes 4.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites nousresearch/hermes-3-llama-3.1-70b | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: outil de fonction fourni | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est rejeté sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: 1h est rejeté dans les emplacements réels du cache de prompt | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | Contrattableau de messages avec une structure role/content |
Paramètrefile_material | Contratdocument UTF-8 réel inséré sous forme de texte littéral ; aucun identifiant de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | Contratpropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’identifiant exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objets fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0014 / 1K tokens Sortie · Tokens en sortie $0.0014 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0014 / 1K tokens Sortie · Tokens en sortie $0.0014 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-70b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Utilisez les chemins de méthode indiqués ci-dessus.
nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B est le modèle de texte généraliste orientable de Nous Research pour le dialogue à plusieurs tours, le jeu de rôle, le code et les agents. Son profil ChatML comprend JSON guidé par schéma et appels de fonctions balisés, avec une configuration publiée de 131 072 positions.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Hermes 3 Llama 3.1 70B est l’édition linguistique généraliste de 70 milliards de paramètres de Nous Research dans la série Hermes 3. Elle accepte du texte et génère une réponse, un passage écrit, du code, un enregistrement structuré ou un appel d’outil proposé. Le concepteur met en avant le contrôle par l’utilisateur, le raisonnement, le jeu de rôle, le dialogue à plusieurs tours et la cohérence en contexte long, ainsi que l’amélioration des appels de fonctions et de la génération de code.
Une instruction système peut définir rôle, règles, style et exigences de sortie. Pour le jeu de rôle, donnez cadre, point de vue et limites des personnages ; pour une analyse, fournissez les passages sources et critères de conclusion. Une consigne utile serait : « Explique les différences entre ces exigences, préserve les noms techniques et identifie le passage soutenant chaque constat. »
Pour programmer, fournissez implémentation pertinente, échec observé, comportement attendu et interfaces à maintenir stables. Demandez le code proposé et son explication, puis utilisez les observations réelles de validation pour toute révision. L’orientation du modèle aide à façonner la réponse, mais la consigne doit toujours définir le résultat utile.
Hermes 3 utilise ChatML avec des tours distincts système, utilisateur et assistant et des frontières explicites. Le producteur recommande le formatage via le modèle de dialogue propre au modèle et l’ajout du prompt de génération de l’assistant. Un message système est facultatif ; lorsqu’il est utilisé, il doit décrire contexte et comportement souhaité plutôt que remplacer la demande réelle de l’utilisateur.
Gardez l’historique dans les bons rôles. Pour une rédaction continue, préservez les faits établis et précisez quel passage peut changer. Pour des sources, identifiez les éléments comme preuves et séparez-les des instructions. Cela aide la réponse suivante à conserver les contraintes sans confondre un texte cité avec une nouvelle commande.
La fiche exacte entraîne l’usage des fonctions avec une représentation système, des signatures et des schémas de paramètres spécifiques. Le modèle renvoie des objets JSON contenant nom de fonction et arguments dans des balises d’appel d’outil. L’application analyse cette proposition, exécute la fonction et renvoie une réponse d’outil nommée. Le modèle utilise ensuite ces données pour produire la réponse.
Définissez les fonctions précisément et exigez des valeurs réelles pour les arguments plutôt que des suppositions sur un système externe. Une recherche peut fournir un champ produit manquant ou un calcul, tandis que la réponse explique la signification des informations renvoyées. Un appel généré diffère d’un résultat exécuté ; conservez l’observation avec la tâche.
Hermes 3 documente aussi une instruction système conditionnée par un schéma pour des réponses exclusivement JSON. Définissez champs et types et expliquez la représentation des informations sources absentes. Vérifiez l’objet généré à la fois pour sa structure et son accord avec les entrées. Une réponse conforme au schéma ne prouve pas qu’une valeur a été récupérée ou vérifiée.
La configuration publiée du modèle 70B possède 131 072 positions. Texte source, conversation et contenu généré partagent le contexte du processus choisi ; la taille de génération de l’exemple n’est pas une limite stricte universelle de réponse. Réservez de la place au résultat et gardez les longues entrées pertinentes.
Le livrable utile est un texte examinable, une proposition de code ou un enregistrement structuré fondé sur le contexte fourni et les observations réelles d’outils. Cette édition exacte Hermes 3 70B reste distincte du modèle 405B plus grand et du format et des contrôles de raisonnement hybride d’Hermes 4.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites nousresearch/hermes-3-llama-3.1-70b | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0014 / 1K tokens Sortie · Tokens en sortie $0.0014 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0014 / 1K tokens Sortie · Tokens en sortie $0.0014 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "nousresearch/hermes-3-llama-3.1-70b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les identifiants réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.