Hermes 3 Llama 3.1 405B ist das grosse vielseitige Textmodell von Nous Research, entwickelt durch Feinabstimmung aller Parameter von Llama 3.1 405B. Der Hersteller betont Ausrichtung auf Nutzeranweisungen, Steuerbarkeit, Rollenspiel, Schlussfolgern, Gespräche über mehrere Runden und Kohärenz bei langem Kontext. Die Ausgabe ist Text, darunter Antworten, schriftliche Inhalte, Code, strukturierte Datensätze und Funktionsaufrufinformationen.
Dies ist das grosse Hermes-3-Profil, getrennt vom Begleitmodell 70B und der späteren Denkveröffentlichung Hermes 4. Der Hersteller erweitert frühere Hermes-Fähigkeiten um verbesserte Funktionsaufrufe, strukturierte Ausgaben und Codegenerierung. Geben Sie einer Aufgabe ihre tatsächlichen Belege und die erforderliche Endform, statt anzunehmen, die Modellgrösse liefere fehlende Quellen oder ein Abschlusskriterium.
Kennzeichnen Sie für eine Dokumentanalyse die Passagen und benennen Sie die Vergleichskriterien. Fordern Sie die relevante Quelle neben jeder Schlussfolgerung an und legen Sie den Umgang mit fehlenden Informationen fest. Geben Sie für einen Schreibauftrag Zielgruppe, Ton und die Fakten an, die eine Überarbeitung überstehen müssen. Ein praktischer Prompt lautet: «Formulieren Sie diese Erklärung für die genannte Leserschaft um, bewahren Sie die definierten Begriffe und benennen Sie jede unbelegte Behauptung mit Klärungsbedarf.»
Hermes 3 verwendet ChatML zur Trennung von Systemanweisungen, Nutzernachrichten und Assistentenantworten. Seine eigene Vorlage kann das Gespräch aufbauen und das Präfix für die Assistentengenerierung anhängen. Systemanweisungen steuern Rolle, Regeln und Stil; sie sind optional, wenn die Aufgabe keine besondere Einleitung erfordert.
Ein fortgesetztes Gespräch sollte Quelltext von Anweisungen unterscheiden und akzeptierte Fakten im relevanten Kontext bewahren. Benennen Sie bei Rollenspiel, wer jede Figur steuert und welche Ereignisse feststehen. Geben Sie bei Code an, welches Verhalten sich ändert und welche Verträge erhalten bleiben. Das gewünschte Artefakt sollte während des Dialogs sichtbar bleiben.
Die konkrete Modellkarte dokumentiert Funktionssignaturen innerhalb ihrer Werkzeugdefinitionsdarstellung und ein erforderliches Antwortschema für Funktionsnamen und Argumente. Das Modell erzeugt mit Tags markierte JSON-Aufrufobjekte. Die Anwendung parst den ausgewählten Vorgang und führt ihn aus und gibt sein Ergebnis anschliessend in einer benannten Werkzeugantwort zurück. Die nächste Assistentenantwort kann die tatsächlichen Daten erklären.
Geben Sie jeder Funktion einen klaren Zweck und präzise Parameterbeschreibungen. Lassen Sie eine vorgeschlagene Abfrage nicht an die Stelle einer zurückgegebenen Quelle treten. Halten Sie die Beobachtung mit dem ausgewählten Vorgang verbunden, damit eine abschliessende Schlussfolgerung ihre Grundlage benennen kann. Ebenso bleibt generierter Code ein Vorschlag, bis er in der vorgesehenen Umgebung geprüft und ausgeführt wird.
Der JSON-Modus von Hermes 3 wird mit einer Systemanweisung trainiert, die das gewünschte Schema enthält und ein JSON-Objekt als Antwort verlangt. Definieren Sie die Felder und die Darstellung fehlender oder widersprüchlicher Quellwerte. Validieren Sie die Struktur und prüfen Sie die Fakten, selbst wenn das Objekt dem Schema folgt.
Die veröffentlichte Konfiguration setzt max_position_embeddings auf 131’072. Planen Sie Anweisungen, Dokumente, Verlauf, Werkzeugergebnisse und Antwort gemeinsam; dieses Feld legt keine separate universelle Ausgabeobergrenze fest. Das vollständige Herstellermodell und separat veröffentlichte quantisierte Varianten haben eigene Präzisionsidentitäten, weshalb diese Varianten nicht stillschweigend an die Stelle des benannten 405B-Profils treten sollten.
Ein nützliches Arbeitsergebnis ist ein Text- oder Codeartefakt mit klaren Annahmen und Quellenverbindungen. Prüfen Sie es anhand der vorgegebenen Anforderungen und tatsächlichen Beobachtungen. Die ChatML-, Funktionsaufruf- und JSON-Abläufe von Hermes 3 bleiben von den späteren Steuerungen für hybrides Nachdenken und verschränktes Schlussfolgern von Hermes 4 getrennt.
", "aboutText": "Hermes 3 Llama 3.1 405B ist das grosse vielseitige Textmodell von Nous Research, entwickelt durch Feinabstimmung aller Parameter von Llama 3.1 405B. Der Hersteller betont Ausrichtung auf Nutzeranweisungen, Steuerbarkeit, Rollenspiel, Schlussfolgern, Gespräche über mehrere Runden und Kohärenz bei langem Kontext. Die Ausgabe ist Text, darunter Antworten, schriftliche Inhalte, Code, strukturierte Datensätze und Funktionsaufrufinformationen.\n\n### Die Ausgabe 405B\n\nDies ist das grosse Hermes-3-Profil, getrennt vom Begleitmodell 70B und der späteren Denkveröffentlichung Hermes 4. Der Hersteller erweitert frühere Hermes-Fähigkeiten um verbesserte Funktionsaufrufe, strukturierte Ausgaben und Codegenerierung. Geben Sie einer Aufgabe ihre tatsächlichen Belege und die erforderliche Endform, statt anzunehmen, die Modellgrösse liefere fehlende Quellen oder ein Abschlusskriterium.\n\nKennzeichnen Sie für eine Dokumentanalyse die Passagen und benennen Sie die Vergleichskriterien. Fordern Sie die relevante Quelle neben jeder Schlussfolgerung an und legen Sie den Umgang mit fehlenden Informationen fest. Geben Sie für einen Schreibauftrag Zielgruppe, Ton und die Fakten an, die eine Überarbeitung überstehen müssen. Ein praktischer Prompt lautet: «Formulieren Sie diese Erklärung für die genannte Leserschaft um, bewahren Sie die definierten Begriffe und benennen Sie jede unbelegte Behauptung mit Klärungsbedarf.»\n\n### Promptformat und Dialog\n\nHermes 3 verwendet ChatML zur Trennung von Systemanweisungen, Nutzernachrichten und Assistentenantworten. Seine eigene Vorlage kann das Gespräch aufbauen und das Präfix für die Assistentengenerierung anhängen. Systemanweisungen steuern Rolle, Regeln und Stil; sie sind optional, wenn die Aufgabe keine besondere Einleitung erfordert.\n\nEin fortgesetztes Gespräch sollte Quelltext von Anweisungen unterscheiden und akzeptierte Fakten im relevanten Kontext bewahren. Benennen Sie bei Rollenspiel, wer jede Figur steuert und welche Ereignisse feststehen. Geben Sie bei Code an, welches Verhalten sich ändert und welche Verträge erhalten bleiben. Das gewünschte Artefakt sollte während des Dialogs sichtbar bleiben.\n\n### Funktionen und Quellenbeobachtungen\n\nDie konkrete Modellkarte dokumentiert Funktionssignaturen innerhalb ihrer Werkzeugdefinitionsdarstellung und ein erforderliches Antwortschema für Funktionsnamen und Argumente. Das Modell erzeugt mit Tags markierte JSON-Aufrufobjekte. Die Anwendung parst den ausgewählten Vorgang und führt ihn aus und gibt sein Ergebnis anschliessend in einer benannten Werkzeugantwort zurück. Die nächste Assistentenantwort kann die tatsächlichen Daten erklären.\n\nGeben Sie jeder Funktion einen klaren Zweck und präzise Parameterbeschreibungen. Lassen Sie eine vorgeschlagene Abfrage nicht an die Stelle einer zurückgegebenen Quelle treten. Halten Sie die Beobachtung mit dem ausgewählten Vorgang verbunden, damit eine abschliessende Schlussfolgerung ihre Grundlage benennen kann. Ebenso bleibt generierter Code ein Vorschlag, bis er in der vorgesehenen Umgebung geprüft und ausgeführt wird.\n\n### JSON-Ergebnisse, Kontext und Präzision\n\nDer JSON-Modus von Hermes 3 wird mit einer Systemanweisung trainiert, die das gewünschte Schema enthält und ein JSON-Objekt als Antwort verlangt. Definieren Sie die Felder und die Darstellung fehlender oder widersprüchlicher Quellwerte. Validieren Sie die Struktur und prüfen Sie die Fakten, selbst wenn das Objekt dem Schema folgt.\n\nDie veröffentlichte Konfiguration setzt max_position_embeddings auf 131’072. Planen Sie Anweisungen, Dokumente, Verlauf, Werkzeugergebnisse und Antwort gemeinsam; dieses Feld legt keine separate universelle Ausgabeobergrenze fest. Das vollständige Herstellermodell und separat veröffentlichte quantisierte Varianten haben eigene Präzisionsidentitäten, weshalb diese Varianten nicht stillschweigend an die Stelle des benannten 405B-Profils treten sollten.\n\nEin nützliches Arbeitsergebnis ist ein Text- oder Codeartefakt mit klaren Annahmen und Quellenverbindungen. Prüfen Sie es anhand der vorgegebenen Anforderungen und tatsächlichen Beobachtungen. Die ChatML-, Funktionsaufruf- und JSON-Abläufe von Hermes 3 bleiben von den späteren Steuerungen für hybrides Nachdenken und verschränktes Schlussfolgern von Hermes 4 getrennt.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B ist die vielseitige Text-Feinabstimmung von Nous Research über alle 405 Milliarden Parameter. Sein steuerbarer ChatML-Dialog, schemageführtes JSON und Funktionsaufrufformat unterstützen Quellenanalyse, Schreiben, Code und mehrstufige Arbeit mit Beobachtungen aus Anwendungswerkzeugen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Hermes 3 Llama 3.1 405B ist das grosse vielseitige Textmodell von Nous Research, entwickelt durch Feinabstimmung aller Parameter von Llama 3.1 405B. Der Hersteller betont Ausrichtung auf Nutzeranweisungen, Steuerbarkeit, Rollenspiel, Schlussfolgern, Gespräche über mehrere Runden und Kohärenz bei langem Kontext. Die Ausgabe ist Text, darunter Antworten, schriftliche Inhalte, Code, strukturierte Datensätze und Funktionsaufrufinformationen.
Dies ist das grosse Hermes-3-Profil, getrennt vom Begleitmodell 70B und der späteren Denkveröffentlichung Hermes 4. Der Hersteller erweitert frühere Hermes-Fähigkeiten um verbesserte Funktionsaufrufe, strukturierte Ausgaben und Codegenerierung. Geben Sie einer Aufgabe ihre tatsächlichen Belege und die erforderliche Endform, statt anzunehmen, die Modellgrösse liefere fehlende Quellen oder ein Abschlusskriterium.
Kennzeichnen Sie für eine Dokumentanalyse die Passagen und benennen Sie die Vergleichskriterien. Fordern Sie die relevante Quelle neben jeder Schlussfolgerung an und legen Sie den Umgang mit fehlenden Informationen fest. Geben Sie für einen Schreibauftrag Zielgruppe, Ton und die Fakten an, die eine Überarbeitung überstehen müssen. Ein praktischer Prompt lautet: «Formulieren Sie diese Erklärung für die genannte Leserschaft um, bewahren Sie die definierten Begriffe und benennen Sie jede unbelegte Behauptung mit Klärungsbedarf.»
Hermes 3 verwendet ChatML zur Trennung von Systemanweisungen, Nutzernachrichten und Assistentenantworten. Seine eigene Vorlage kann das Gespräch aufbauen und das Präfix für die Assistentengenerierung anhängen. Systemanweisungen steuern Rolle, Regeln und Stil; sie sind optional, wenn die Aufgabe keine besondere Einleitung erfordert.
Ein fortgesetztes Gespräch sollte Quelltext von Anweisungen unterscheiden und akzeptierte Fakten im relevanten Kontext bewahren. Benennen Sie bei Rollenspiel, wer jede Figur steuert und welche Ereignisse feststehen. Geben Sie bei Code an, welches Verhalten sich ändert und welche Verträge erhalten bleiben. Das gewünschte Artefakt sollte während des Dialogs sichtbar bleiben.
Die konkrete Modellkarte dokumentiert Funktionssignaturen innerhalb ihrer Werkzeugdefinitionsdarstellung und ein erforderliches Antwortschema für Funktionsnamen und Argumente. Das Modell erzeugt mit Tags markierte JSON-Aufrufobjekte. Die Anwendung parst den ausgewählten Vorgang und führt ihn aus und gibt sein Ergebnis anschliessend in einer benannten Werkzeugantwort zurück. Die nächste Assistentenantwort kann die tatsächlichen Daten erklären.
Geben Sie jeder Funktion einen klaren Zweck und präzise Parameterbeschreibungen. Lassen Sie eine vorgeschlagene Abfrage nicht an die Stelle einer zurückgegebenen Quelle treten. Halten Sie die Beobachtung mit dem ausgewählten Vorgang verbunden, damit eine abschliessende Schlussfolgerung ihre Grundlage benennen kann. Ebenso bleibt generierter Code ein Vorschlag, bis er in der vorgesehenen Umgebung geprüft und ausgeführt wird.
Der JSON-Modus von Hermes 3 wird mit einer Systemanweisung trainiert, die das gewünschte Schema enthält und ein JSON-Objekt als Antwort verlangt. Definieren Sie die Felder und die Darstellung fehlender oder widersprüchlicher Quellwerte. Validieren Sie die Struktur und prüfen Sie die Fakten, selbst wenn das Objekt dem Schema folgt.
Die veröffentlichte Konfiguration setzt max_position_embeddings auf 131’072. Planen Sie Anweisungen, Dokumente, Verlauf, Werkzeugergebnisse und Antwort gemeinsam; dieses Feld legt keine separate universelle Ausgabeobergrenze fest. Das vollständige Herstellermodell und separat veröffentlichte quantisierte Varianten haben eigene Präzisionsidentitäten, weshalb diese Varianten nicht stillschweigend an die Stelle des benannten 405B-Profils treten sollten.
Ein nützliches Arbeitsergebnis ist ein Text- oder Codeartefakt mit klaren Annahmen und Quellenverbindungen. Prüfen Sie es anhand der vorgegebenen Anforderungen und tatsächlichen Beobachtungen. Die ChatML-, Funktionsaufruf- und JSON-Abläufe von Hermes 3 bleiben von den späteren Steuerungen für hybrides Nachdenken und verschränktes Schlussfolgern von Hermes 4 getrennt.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nousresearch/hermes-3-llama-3.1-405b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.002 / 1K Tokens Ausgabe · Ausgabetoken $0.002 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.002 / 1K Tokens Ausgabe · Ausgabetoken $0.002 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Verwenden Sie die oben angezeigten Methodenpfade.
nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B ist die vielseitige Text-Feinabstimmung von Nous Research über alle 405 Milliarden Parameter. Sein steuerbarer ChatML-Dialog, schemageführtes JSON und Funktionsaufrufformat unterstützen Quellenanalyse, Schreiben, Code und mehrstufige Arbeit mit Beobachtungen aus Anwendungswerkzeugen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Hermes 3 Llama 3.1 405B ist das grosse vielseitige Textmodell von Nous Research, entwickelt durch Feinabstimmung aller Parameter von Llama 3.1 405B. Der Hersteller betont Ausrichtung auf Nutzeranweisungen, Steuerbarkeit, Rollenspiel, Schlussfolgern, Gespräche über mehrere Runden und Kohärenz bei langem Kontext. Die Ausgabe ist Text, darunter Antworten, schriftliche Inhalte, Code, strukturierte Datensätze und Funktionsaufrufinformationen.
Dies ist das grosse Hermes-3-Profil, getrennt vom Begleitmodell 70B und der späteren Denkveröffentlichung Hermes 4. Der Hersteller erweitert frühere Hermes-Fähigkeiten um verbesserte Funktionsaufrufe, strukturierte Ausgaben und Codegenerierung. Geben Sie einer Aufgabe ihre tatsächlichen Belege und die erforderliche Endform, statt anzunehmen, die Modellgrösse liefere fehlende Quellen oder ein Abschlusskriterium.
Kennzeichnen Sie für eine Dokumentanalyse die Passagen und benennen Sie die Vergleichskriterien. Fordern Sie die relevante Quelle neben jeder Schlussfolgerung an und legen Sie den Umgang mit fehlenden Informationen fest. Geben Sie für einen Schreibauftrag Zielgruppe, Ton und die Fakten an, die eine Überarbeitung überstehen müssen. Ein praktischer Prompt lautet: «Formulieren Sie diese Erklärung für die genannte Leserschaft um, bewahren Sie die definierten Begriffe und benennen Sie jede unbelegte Behauptung mit Klärungsbedarf.»
Hermes 3 verwendet ChatML zur Trennung von Systemanweisungen, Nutzernachrichten und Assistentenantworten. Seine eigene Vorlage kann das Gespräch aufbauen und das Präfix für die Assistentengenerierung anhängen. Systemanweisungen steuern Rolle, Regeln und Stil; sie sind optional, wenn die Aufgabe keine besondere Einleitung erfordert.
Ein fortgesetztes Gespräch sollte Quelltext von Anweisungen unterscheiden und akzeptierte Fakten im relevanten Kontext bewahren. Benennen Sie bei Rollenspiel, wer jede Figur steuert und welche Ereignisse feststehen. Geben Sie bei Code an, welches Verhalten sich ändert und welche Verträge erhalten bleiben. Das gewünschte Artefakt sollte während des Dialogs sichtbar bleiben.
Die konkrete Modellkarte dokumentiert Funktionssignaturen innerhalb ihrer Werkzeugdefinitionsdarstellung und ein erforderliches Antwortschema für Funktionsnamen und Argumente. Das Modell erzeugt mit Tags markierte JSON-Aufrufobjekte. Die Anwendung parst den ausgewählten Vorgang und führt ihn aus und gibt sein Ergebnis anschliessend in einer benannten Werkzeugantwort zurück. Die nächste Assistentenantwort kann die tatsächlichen Daten erklären.
Geben Sie jeder Funktion einen klaren Zweck und präzise Parameterbeschreibungen. Lassen Sie eine vorgeschlagene Abfrage nicht an die Stelle einer zurückgegebenen Quelle treten. Halten Sie die Beobachtung mit dem ausgewählten Vorgang verbunden, damit eine abschliessende Schlussfolgerung ihre Grundlage benennen kann. Ebenso bleibt generierter Code ein Vorschlag, bis er in der vorgesehenen Umgebung geprüft und ausgeführt wird.
Der JSON-Modus von Hermes 3 wird mit einer Systemanweisung trainiert, die das gewünschte Schema enthält und ein JSON-Objekt als Antwort verlangt. Definieren Sie die Felder und die Darstellung fehlender oder widersprüchlicher Quellwerte. Validieren Sie die Struktur und prüfen Sie die Fakten, selbst wenn das Objekt dem Schema folgt.
Die veröffentlichte Konfiguration setzt max_position_embeddings auf 131’072. Planen Sie Anweisungen, Dokumente, Verlauf, Werkzeugergebnisse und Antwort gemeinsam; dieses Feld legt keine separate universelle Ausgabeobergrenze fest. Das vollständige Herstellermodell und separat veröffentlichte quantisierte Varianten haben eigene Präzisionsidentitäten, weshalb diese Varianten nicht stillschweigend an die Stelle des benannten 405B-Profils treten sollten.
Ein nützliches Arbeitsergebnis ist ein Text- oder Codeartefakt mit klaren Annahmen und Quellenverbindungen. Prüfen Sie es anhand der vorgegebenen Anforderungen und tatsächlichen Beobachtungen. Die ChatML-, Funktionsaufruf- und JSON-Abläufe von Hermes 3 bleiben von den späteren Steuerungen für hybrides Nachdenken und verschränktes Schlussfolgern von Hermes 4 getrennt.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nousresearch/hermes-3-llama-3.1-405b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.002 / 1K Tokens Ausgabe · Ausgabetoken $0.002 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.002 / 1K Tokens Ausgabe · Ausgabetoken $0.002 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "nousresearch/hermes-3-llama-3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.