Hermes 3 Llama 3.1 405B ist das große allgemeine Textmodell von Nous Research, entwickelt durch ein Fine-Tuning sämtlicher Parameter von Llama 3.1 405B. Der Hersteller betont die Ausrichtung auf Nutzeranweisungen, Steuerbarkeit, Rollenspiel, Schlussfolgern, Dialoge mit mehreren Gesprächsschritten und Kohärenz bei langem Kontext. Die Ausgabe ist Text, darunter Antworten, schriftliche Inhalte, Code, strukturierte Datensätze und Informationen zu Funktionsaufrufen.
Dies ist die große Modellvariante von Hermes 3, getrennt vom 70B-Begleitmodell und der späteren Reasoning-Veröffentlichung Hermes 4. Der Hersteller erweitert die früheren Hermes-Fähigkeiten um verbesserte Funktionsaufrufe, strukturierte Ausgaben und Codegenerierung. Gib einer Aufgabe ihre tatsächlichen Belege und erforderliche Endform, statt anzunehmen, dass die Modellgröße fehlende Quellen oder ein Abschlusskriterium liefert.
Kennzeichne für eine Dokumentanalyse die Passagen und benenne die Vergleichskriterien. Fordere die relevante Quelle neben jeder Schlussfolgerung an und lege den Umgang mit fehlenden Informationen fest. Gib für einen Schreibauftrag Zielgruppe, Ton und die Fakten vor, die eine Überarbeitung überstehen müssen. Ein praktischer Prompt lautet: „Schreibe diese Erklärung für die benannten Leser um, bewahre die definierten Begriffe und benenne jede unbelegte Behauptung, die Klärung benötigt.“
Hermes 3 verwendet ChatML zur Trennung von Systemanweisungen, Nutzernachrichten und Assistentenantworten. Seine eigene Vorlage kann den Dialog aufbauen und das Assistenten-Generierungspräfix anhängen. Systemanweisungen steuern Rolle, Regeln und Stil; sie sind optional, wenn die Aufgabe keine besondere Einleitung benötigt.
Ein fortlaufender Dialog sollte Quelltext von Anweisungen getrennt halten und akzeptierte Fakten im relevanten Kontext bewahren. Benenne bei Rollenspiel, wer jede Figur steuert und welche Ereignisse feststehen. Gib bei Code das sich ändernde Verhalten und die unverändert bleibenden Verträge vor. Das gewünschte Artefakt sollte über den Dialog hinweg sichtbar bleiben.
Die genaue Modellkarte dokumentiert Funktionssignaturen innerhalb ihrer Werkzeugdefinitionsdarstellung und ein erforderliches Antwortschema für Funktionsname und Argumente. Das Modell erzeugt mit Tags markierte JSON-Aufrufobjekte. Die Anwendung liest die gewählte Operation ein und führt sie aus und gibt dann ihr Ergebnis in einer benannten Werkzeugantwort zurück. Die nächste Assistentenantwort kann die tatsächlichen Daten erklären.
Gib jeder Funktion einen klaren Zweck und präzise Parameterbeschreibungen. Lass eine vorgeschlagene Abfrage nicht an die Stelle einer zurückgegebenen Quelle treten. Bewahre die Beobachtung zusammen mit der gewählten Operation, damit eine endgültige Schlussfolgerung benennen kann, was sie stützt. Generierter Code bleibt ebenso ein Vorschlag, bis er in der vorgesehenen Umgebung geprüft und ausgeführt wurde.
Der JSON-Modus von Hermes 3 ist mit einer Systemanweisung trainiert, die das gewünschte Schema enthält, und verlangt ein JSON-Objekt als Antwort. Definiere Felder und die Darstellung fehlender oder widersprüchlicher Quellenwerte. Validiere die Struktur und prüfe die Fakten auch dann, wenn das Objekt dem Schema folgt.
Die veröffentlichte Konfiguration setzt max_position_embeddings auf 131.072. Plane Anweisungen, Dokumente, Verlauf, Werkzeugergebnisse und Antwort gemeinsam; dieses Feld belegt keine separate universelle Ausgabeobergrenze. Das vollständige Modell des Herstellers und separat veröffentlichte quantisierte Varianten haben eigene Präzisionsidentitäten, weshalb diese Varianten nicht stillschweigend an die Stelle der benannten Modellvariante mit 405 Milliarden Parametern treten sollten.
Ein nützliches Arbeitsergebnis ist ein Text- oder Codeartefakt, dessen Annahmen und Quellenbezüge klar sind. Prüfe es anhand der bereitgestellten Anforderungen und tatsächlichen Beobachtungen. ChatML-, Funktionsaufruf- und JSON-Abläufe von Hermes 3 bleiben von den späteren hybriden Thinking- und verschränkten Reasoning-Steuerungen von Hermes 4 getrennt.
", "aboutText": "Hermes 3 Llama 3.1 405B ist das große allgemeine Textmodell von Nous Research, entwickelt durch ein Fine-Tuning sämtlicher Parameter von Llama 3.1 405B. Der Hersteller betont die Ausrichtung auf Nutzeranweisungen, Steuerbarkeit, Rollenspiel, Schlussfolgern, Dialoge mit mehreren Gesprächsschritten und Kohärenz bei langem Kontext. Die Ausgabe ist Text, darunter Antworten, schriftliche Inhalte, Code, strukturierte Datensätze und Informationen zu Funktionsaufrufen.\n\n### Die Ausgabe mit 405 Milliarden Parametern\n\nDies ist die große Modellvariante von Hermes 3, getrennt vom 70B-Begleitmodell und der späteren Reasoning-Veröffentlichung Hermes 4. Der Hersteller erweitert die früheren Hermes-Fähigkeiten um verbesserte Funktionsaufrufe, strukturierte Ausgaben und Codegenerierung. Gib einer Aufgabe ihre tatsächlichen Belege und erforderliche Endform, statt anzunehmen, dass die Modellgröße fehlende Quellen oder ein Abschlusskriterium liefert.\n\nKennzeichne für eine Dokumentanalyse die Passagen und benenne die Vergleichskriterien. Fordere die relevante Quelle neben jeder Schlussfolgerung an und lege den Umgang mit fehlenden Informationen fest. Gib für einen Schreibauftrag Zielgruppe, Ton und die Fakten vor, die eine Überarbeitung überstehen müssen. Ein praktischer Prompt lautet: „Schreibe diese Erklärung für die benannten Leser um, bewahre die definierten Begriffe und benenne jede unbelegte Behauptung, die Klärung benötigt.“\n\n### Promptformat und Dialog\n\nHermes 3 verwendet ChatML zur Trennung von Systemanweisungen, Nutzernachrichten und Assistentenantworten. Seine eigene Vorlage kann den Dialog aufbauen und das Assistenten-Generierungspräfix anhängen. Systemanweisungen steuern Rolle, Regeln und Stil; sie sind optional, wenn die Aufgabe keine besondere Einleitung benötigt.\n\nEin fortlaufender Dialog sollte Quelltext von Anweisungen getrennt halten und akzeptierte Fakten im relevanten Kontext bewahren. Benenne bei Rollenspiel, wer jede Figur steuert und welche Ereignisse feststehen. Gib bei Code das sich ändernde Verhalten und die unverändert bleibenden Verträge vor. Das gewünschte Artefakt sollte über den Dialog hinweg sichtbar bleiben.\n\n### Funktionen und Quellenbeobachtungen\n\nDie genaue Modellkarte dokumentiert Funktionssignaturen innerhalb ihrer Werkzeugdefinitionsdarstellung und ein erforderliches Antwortschema für Funktionsname und Argumente. Das Modell erzeugt mit Tags markierte JSON-Aufrufobjekte. Die Anwendung liest die gewählte Operation ein und führt sie aus und gibt dann ihr Ergebnis in einer benannten Werkzeugantwort zurück. Die nächste Assistentenantwort kann die tatsächlichen Daten erklären.\n\nGib jeder Funktion einen klaren Zweck und präzise Parameterbeschreibungen. Lass eine vorgeschlagene Abfrage nicht an die Stelle einer zurückgegebenen Quelle treten. Bewahre die Beobachtung zusammen mit der gewählten Operation, damit eine endgültige Schlussfolgerung benennen kann, was sie stützt. Generierter Code bleibt ebenso ein Vorschlag, bis er in der vorgesehenen Umgebung geprüft und ausgeführt wurde.\n\n### JSON-Ergebnisse, Kontext und Präzision\n\nDer JSON-Modus von Hermes 3 ist mit einer Systemanweisung trainiert, die das gewünschte Schema enthält, und verlangt ein JSON-Objekt als Antwort. Definiere Felder und die Darstellung fehlender oder widersprüchlicher Quellenwerte. Validiere die Struktur und prüfe die Fakten auch dann, wenn das Objekt dem Schema folgt.\n\nDie veröffentlichte Konfiguration setzt max_position_embeddings auf 131.072. Plane Anweisungen, Dokumente, Verlauf, Werkzeugergebnisse und Antwort gemeinsam; dieses Feld belegt keine separate universelle Ausgabeobergrenze. Das vollständige Modell des Herstellers und separat veröffentlichte quantisierte Varianten haben eigene Präzisionsidentitäten, weshalb diese Varianten nicht stillschweigend an die Stelle der benannten Modellvariante mit 405 Milliarden Parametern treten sollten.\n\nEin nützliches Arbeitsergebnis ist ein Text- oder Codeartefakt, dessen Annahmen und Quellenbezüge klar sind. Prüfe es anhand der bereitgestellten Anforderungen und tatsächlichen Beobachtungen. ChatML-, Funktionsaufruf- und JSON-Abläufe von Hermes 3 bleiben von den späteren hybriden Thinking- und verschränkten Reasoning-Steuerungen von Hermes 4 getrennt.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B ist das allgemeine Text-Fine-Tuning-Modell von Nous Research mit 405 Milliarden Parametern, bei dem sämtliche Parameter angepasst wurden. Sein steuerbarer ChatML-Dialog, schemagesteuertes JSON und Funktionsaufrufformat unterstützen Quellenanalyse, Schreiben, Code und mehrstufige Arbeit mit Beobachtungen, die Anwendungswerkzeuge zurückgeben.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Hermes 3 Llama 3.1 405B ist das große allgemeine Textmodell von Nous Research, entwickelt durch ein Fine-Tuning sämtlicher Parameter von Llama 3.1 405B. Der Hersteller betont die Ausrichtung auf Nutzeranweisungen, Steuerbarkeit, Rollenspiel, Schlussfolgern, Dialoge mit mehreren Gesprächsschritten und Kohärenz bei langem Kontext. Die Ausgabe ist Text, darunter Antworten, schriftliche Inhalte, Code, strukturierte Datensätze und Informationen zu Funktionsaufrufen.
Dies ist die große Modellvariante von Hermes 3, getrennt vom 70B-Begleitmodell und der späteren Reasoning-Veröffentlichung Hermes 4. Der Hersteller erweitert die früheren Hermes-Fähigkeiten um verbesserte Funktionsaufrufe, strukturierte Ausgaben und Codegenerierung. Gib einer Aufgabe ihre tatsächlichen Belege und erforderliche Endform, statt anzunehmen, dass die Modellgröße fehlende Quellen oder ein Abschlusskriterium liefert.
Kennzeichne für eine Dokumentanalyse die Passagen und benenne die Vergleichskriterien. Fordere die relevante Quelle neben jeder Schlussfolgerung an und lege den Umgang mit fehlenden Informationen fest. Gib für einen Schreibauftrag Zielgruppe, Ton und die Fakten vor, die eine Überarbeitung überstehen müssen. Ein praktischer Prompt lautet: „Schreibe diese Erklärung für die benannten Leser um, bewahre die definierten Begriffe und benenne jede unbelegte Behauptung, die Klärung benötigt.“
Hermes 3 verwendet ChatML zur Trennung von Systemanweisungen, Nutzernachrichten und Assistentenantworten. Seine eigene Vorlage kann den Dialog aufbauen und das Assistenten-Generierungspräfix anhängen. Systemanweisungen steuern Rolle, Regeln und Stil; sie sind optional, wenn die Aufgabe keine besondere Einleitung benötigt.
Ein fortlaufender Dialog sollte Quelltext von Anweisungen getrennt halten und akzeptierte Fakten im relevanten Kontext bewahren. Benenne bei Rollenspiel, wer jede Figur steuert und welche Ereignisse feststehen. Gib bei Code das sich ändernde Verhalten und die unverändert bleibenden Verträge vor. Das gewünschte Artefakt sollte über den Dialog hinweg sichtbar bleiben.
Die genaue Modellkarte dokumentiert Funktionssignaturen innerhalb ihrer Werkzeugdefinitionsdarstellung und ein erforderliches Antwortschema für Funktionsname und Argumente. Das Modell erzeugt mit Tags markierte JSON-Aufrufobjekte. Die Anwendung liest die gewählte Operation ein und führt sie aus und gibt dann ihr Ergebnis in einer benannten Werkzeugantwort zurück. Die nächste Assistentenantwort kann die tatsächlichen Daten erklären.
Gib jeder Funktion einen klaren Zweck und präzise Parameterbeschreibungen. Lass eine vorgeschlagene Abfrage nicht an die Stelle einer zurückgegebenen Quelle treten. Bewahre die Beobachtung zusammen mit der gewählten Operation, damit eine endgültige Schlussfolgerung benennen kann, was sie stützt. Generierter Code bleibt ebenso ein Vorschlag, bis er in der vorgesehenen Umgebung geprüft und ausgeführt wurde.
Der JSON-Modus von Hermes 3 ist mit einer Systemanweisung trainiert, die das gewünschte Schema enthält, und verlangt ein JSON-Objekt als Antwort. Definiere Felder und die Darstellung fehlender oder widersprüchlicher Quellenwerte. Validiere die Struktur und prüfe die Fakten auch dann, wenn das Objekt dem Schema folgt.
Die veröffentlichte Konfiguration setzt max_position_embeddings auf 131.072. Plane Anweisungen, Dokumente, Verlauf, Werkzeugergebnisse und Antwort gemeinsam; dieses Feld belegt keine separate universelle Ausgabeobergrenze. Das vollständige Modell des Herstellers und separat veröffentlichte quantisierte Varianten haben eigene Präzisionsidentitäten, weshalb diese Varianten nicht stillschweigend an die Stelle der benannten Modellvariante mit 405 Milliarden Parametern treten sollten.
Ein nützliches Arbeitsergebnis ist ein Text- oder Codeartefakt, dessen Annahmen und Quellenbezüge klar sind. Prüfe es anhand der bereitgestellten Anforderungen und tatsächlichen Beobachtungen. ChatML-, Funktionsaufruf- und JSON-Abläufe von Hermes 3 bleiben von den späteren hybriden Thinking- und verschränkten Reasoning-Steuerungen von Hermes 4 getrennt.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nousresearch/hermes-3-llama-3.1-405b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.002 / 1K Token Ausgabe · Ausgabetoken $0.002 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.002 / 1K Token Ausgabe · Ausgabetoken $0.002 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Verwenden Sie die oben angezeigten Methodenpfade.
nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B ist das allgemeine Text-Fine-Tuning-Modell von Nous Research mit 405 Milliarden Parametern, bei dem sämtliche Parameter angepasst wurden. Sein steuerbarer ChatML-Dialog, schemagesteuertes JSON und Funktionsaufrufformat unterstützen Quellenanalyse, Schreiben, Code und mehrstufige Arbeit mit Beobachtungen, die Anwendungswerkzeuge zurückgeben.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Hermes 3 Llama 3.1 405B ist das große allgemeine Textmodell von Nous Research, entwickelt durch ein Fine-Tuning sämtlicher Parameter von Llama 3.1 405B. Der Hersteller betont die Ausrichtung auf Nutzeranweisungen, Steuerbarkeit, Rollenspiel, Schlussfolgern, Dialoge mit mehreren Gesprächsschritten und Kohärenz bei langem Kontext. Die Ausgabe ist Text, darunter Antworten, schriftliche Inhalte, Code, strukturierte Datensätze und Informationen zu Funktionsaufrufen.
Dies ist die große Modellvariante von Hermes 3, getrennt vom 70B-Begleitmodell und der späteren Reasoning-Veröffentlichung Hermes 4. Der Hersteller erweitert die früheren Hermes-Fähigkeiten um verbesserte Funktionsaufrufe, strukturierte Ausgaben und Codegenerierung. Gib einer Aufgabe ihre tatsächlichen Belege und erforderliche Endform, statt anzunehmen, dass die Modellgröße fehlende Quellen oder ein Abschlusskriterium liefert.
Kennzeichne für eine Dokumentanalyse die Passagen und benenne die Vergleichskriterien. Fordere die relevante Quelle neben jeder Schlussfolgerung an und lege den Umgang mit fehlenden Informationen fest. Gib für einen Schreibauftrag Zielgruppe, Ton und die Fakten vor, die eine Überarbeitung überstehen müssen. Ein praktischer Prompt lautet: „Schreibe diese Erklärung für die benannten Leser um, bewahre die definierten Begriffe und benenne jede unbelegte Behauptung, die Klärung benötigt.“
Hermes 3 verwendet ChatML zur Trennung von Systemanweisungen, Nutzernachrichten und Assistentenantworten. Seine eigene Vorlage kann den Dialog aufbauen und das Assistenten-Generierungspräfix anhängen. Systemanweisungen steuern Rolle, Regeln und Stil; sie sind optional, wenn die Aufgabe keine besondere Einleitung benötigt.
Ein fortlaufender Dialog sollte Quelltext von Anweisungen getrennt halten und akzeptierte Fakten im relevanten Kontext bewahren. Benenne bei Rollenspiel, wer jede Figur steuert und welche Ereignisse feststehen. Gib bei Code das sich ändernde Verhalten und die unverändert bleibenden Verträge vor. Das gewünschte Artefakt sollte über den Dialog hinweg sichtbar bleiben.
Die genaue Modellkarte dokumentiert Funktionssignaturen innerhalb ihrer Werkzeugdefinitionsdarstellung und ein erforderliches Antwortschema für Funktionsname und Argumente. Das Modell erzeugt mit Tags markierte JSON-Aufrufobjekte. Die Anwendung liest die gewählte Operation ein und führt sie aus und gibt dann ihr Ergebnis in einer benannten Werkzeugantwort zurück. Die nächste Assistentenantwort kann die tatsächlichen Daten erklären.
Gib jeder Funktion einen klaren Zweck und präzise Parameterbeschreibungen. Lass eine vorgeschlagene Abfrage nicht an die Stelle einer zurückgegebenen Quelle treten. Bewahre die Beobachtung zusammen mit der gewählten Operation, damit eine endgültige Schlussfolgerung benennen kann, was sie stützt. Generierter Code bleibt ebenso ein Vorschlag, bis er in der vorgesehenen Umgebung geprüft und ausgeführt wurde.
Der JSON-Modus von Hermes 3 ist mit einer Systemanweisung trainiert, die das gewünschte Schema enthält, und verlangt ein JSON-Objekt als Antwort. Definiere Felder und die Darstellung fehlender oder widersprüchlicher Quellenwerte. Validiere die Struktur und prüfe die Fakten auch dann, wenn das Objekt dem Schema folgt.
Die veröffentlichte Konfiguration setzt max_position_embeddings auf 131.072. Plane Anweisungen, Dokumente, Verlauf, Werkzeugergebnisse und Antwort gemeinsam; dieses Feld belegt keine separate universelle Ausgabeobergrenze. Das vollständige Modell des Herstellers und separat veröffentlichte quantisierte Varianten haben eigene Präzisionsidentitäten, weshalb diese Varianten nicht stillschweigend an die Stelle der benannten Modellvariante mit 405 Milliarden Parametern treten sollten.
Ein nützliches Arbeitsergebnis ist ein Text- oder Codeartefakt, dessen Annahmen und Quellenbezüge klar sind. Prüfe es anhand der bereitgestellten Anforderungen und tatsächlichen Beobachtungen. ChatML-, Funktionsaufruf- und JSON-Abläufe von Hermes 3 bleiben von den späteren hybriden Thinking- und verschränkten Reasoning-Steuerungen von Hermes 4 getrennt.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nousresearch/hermes-3-llama-3.1-405b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.002 / 1K Token Ausgabe · Ausgabetoken $0.002 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.002 / 1K Token Ausgabe · Ausgabetoken $0.002 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "nousresearch/hermes-3-llama-3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.