Hermes 3 Llama 3.1 70B ist die vielseitige Sprachmodellausgabe mit 70 Milliarden Parametern von Nous Research in der Hermes-3-Reihe. Es nimmt Text entgegen und erzeugt eine Antwort, schriftliche Passage, Code, einen strukturierten Datensatz oder vorgeschlagenen Werkzeugaufruf. Der Hersteller betont Nutzersteuerbarkeit, Schlussfolgern, Rollenspiel, Dialoge über mehrere Runden und Kohärenz bei langem Kontext sowie verbesserte Funktionsaufrufe und Codegenerierung.
Eine Systemanweisung kann Rolle, Regeln, Stil und Ausgabeanforderungen definieren. Geben Sie für Rollenspiel Schauplatz, Perspektive und Figurengrenzen an; stellen Sie für einen analytischen Auftrag Quellpassagen und Kriterien für die Schlussfolgerung bereit. Ein nützliches Briefing lautet: «Erklären Sie die Unterschiede zwischen diesen Anforderungen, bewahren Sie die technischen Namen und benennen Sie die Passage, die jede Erkenntnis stützt.»
Stellen Sie für Programmierung relevante Implementierung, beobachteten Fehler, erwartetes Verhalten und die stabil zu haltenden Schnittstellen bereit. Fordern Sie das vorgeschlagene Codeartefakt und seine Erklärung an und verwenden Sie dann tatsächliche Validierungsbeobachtungen, wenn eine Überarbeitung nötig ist. Die Steuerbarkeit des Modells hilft, die Antwort zu formen; das Briefing muss das nützliche Ergebnis dennoch definieren.
Hermes 3 verwendet ChatML mit getrennten System-, Nutzer- und Assistentenrunden sowie ausdrücklichen Grenzen. Der Hersteller empfiehlt, das Gespräch mit der eigenen Modellvorlage zu formatieren und den Prompt für die Assistentengenerierung hinzuzufügen. Eine Systemnachricht ist optional; wird sie verwendet, sollte sie Aufgabenkontext und gewünschtes Verhalten beschreiben, statt die eigentliche Nutzeranfrage zu ersetzen.
Bewahren Sie den Dialogverlauf in den richtigen Rollen. Erhalten Sie bei einer fortgesetzten Schreibaufgabe festgelegte Fakten und sagen Sie dem Modell, welche Passage geändert werden darf. Kennzeichnen Sie bei Quellenarbeit Material als Beleg und trennen Sie es von Anweisungen. Dies hilft einer späteren Antwort, die Aufgabenbedingungen zu bewahren, ohne zitierten Text mit einem neuen Befehl zu verwechseln.
Die konkrete Modellkarte trainiert Funktionsnutzung mit einer bestimmten Systemdarstellung, Funktionssignaturen und Parameterschemas. Das Modell gibt JSON-Objekte mit dem ausgewählten Funktionsnamen und Argumenten innerhalb von Werkzeugaufruf-Tags zurück. Die umgebende Anwendung parst diesen Vorschlag, führt die Funktion aus und gibt eine benannte Werkzeugantwort zurück. Anschliessend verwendet das Modell die zurückgegebenen Daten für die Antwort.
Definieren Sie Funktionen präzise und verlangen Sie echte Argumentwerte statt Annahmen über ein externes System. Eine Abfragefunktion kann ein fehlendes Produktfeld oder eine Berechnung liefern, während die Antwort die Bedeutung der zurückgegebenen Informationen erklärt. Ein erzeugter Aufruf ist von einem ausgeführten Ergebnis zu unterscheiden; bewahren Sie die Beobachtung zusammen mit der Aufgabe.
Hermes 3 dokumentiert auch eine schemaabhängige Systemanweisung für reine JSON-Antworten. Definieren Sie Felder und Typen und erklären Sie die Darstellung fehlender Quellinformationen. Prüfen Sie das erzeugte Objekt sowohl auf seine Struktur als auch auf Übereinstimmung mit der Eingabe. Eine schemakompatible Antwort darf nicht als Beweis behandelt werden, dass ein Wert abgerufen oder verifiziert wurde.
Die veröffentlichte Modellkonfiguration für 70B hat 131’072 Positionen. Quelltext, Gespräch und erzeugter Inhalt teilen den Kontext des ausgewählten Ablaufs, und die Beispielgrösse der Generierung ist keine universelle feste Antwortgrenze. Reservieren Sie Platz für das Ergebnis und halten Sie lange Eingaben auf die Frage bezogen.
Das nützliche Arbeitsergebnis ist ein prüfbarer Text, Codevorschlag oder strukturierter Datensatz auf Grundlage des bereitgestellten Kontexts und tatsächlicher Werkzeugbeobachtungen. Diese konkrete Hermes-3-Ausgabe 70B bleibt vom grösseren Modell 405B und vom hybriden Denkformat samt Steuerungen von Hermes 4 getrennt.
", "aboutText": "Hermes 3 Llama 3.1 70B ist die vielseitige Sprachmodellausgabe mit 70 Milliarden Parametern von Nous Research in der Hermes-3-Reihe. Es nimmt Text entgegen und erzeugt eine Antwort, schriftliche Passage, Code, einen strukturierten Datensatz oder vorgeschlagenen Werkzeugaufruf. Der Hersteller betont Nutzersteuerbarkeit, Schlussfolgern, Rollenspiel, Dialoge über mehrere Runden und Kohärenz bei langem Kontext sowie verbesserte Funktionsaufrufe und Codegenerierung.\n\n### Aufgabe und Antwort steuern\n\nEine Systemanweisung kann Rolle, Regeln, Stil und Ausgabeanforderungen definieren. Geben Sie für Rollenspiel Schauplatz, Perspektive und Figurengrenzen an; stellen Sie für einen analytischen Auftrag Quellpassagen und Kriterien für die Schlussfolgerung bereit. Ein nützliches Briefing lautet: «Erklären Sie die Unterschiede zwischen diesen Anforderungen, bewahren Sie die technischen Namen und benennen Sie die Passage, die jede Erkenntnis stützt.»\n\nStellen Sie für Programmierung relevante Implementierung, beobachteten Fehler, erwartetes Verhalten und die stabil zu haltenden Schnittstellen bereit. Fordern Sie das vorgeschlagene Codeartefakt und seine Erklärung an und verwenden Sie dann tatsächliche Validierungsbeobachtungen, wenn eine Überarbeitung nötig ist. Die Steuerbarkeit des Modells hilft, die Antwort zu formen; das Briefing muss das nützliche Ergebnis dennoch definieren.\n\n### ChatML-Gespräch\n\nHermes 3 verwendet ChatML mit getrennten System-, Nutzer- und Assistentenrunden sowie ausdrücklichen Grenzen. Der Hersteller empfiehlt, das Gespräch mit der eigenen Modellvorlage zu formatieren und den Prompt für die Assistentengenerierung hinzuzufügen. Eine Systemnachricht ist optional; wird sie verwendet, sollte sie Aufgabenkontext und gewünschtes Verhalten beschreiben, statt die eigentliche Nutzeranfrage zu ersetzen.\n\nBewahren Sie den Dialogverlauf in den richtigen Rollen. Erhalten Sie bei einer fortgesetzten Schreibaufgabe festgelegte Fakten und sagen Sie dem Modell, welche Passage geändert werden darf. Kennzeichnen Sie bei Quellenarbeit Material als Beleg und trennen Sie es von Anweisungen. Dies hilft einer späteren Antwort, die Aufgabenbedingungen zu bewahren, ohne zitierten Text mit einem neuen Befehl zu verwechseln.\n\n### Funktionsaufrufe\n\nDie konkrete Modellkarte trainiert Funktionsnutzung mit einer bestimmten Systemdarstellung, Funktionssignaturen und Parameterschemas. Das Modell gibt JSON-Objekte mit dem ausgewählten Funktionsnamen und Argumenten innerhalb von Werkzeugaufruf-Tags zurück. Die umgebende Anwendung parst diesen Vorschlag, führt die Funktion aus und gibt eine benannte Werkzeugantwort zurück. Anschliessend verwendet das Modell die zurückgegebenen Daten für die Antwort.\n\nDefinieren Sie Funktionen präzise und verlangen Sie echte Argumentwerte statt Annahmen über ein externes System. Eine Abfragefunktion kann ein fehlendes Produktfeld oder eine Berechnung liefern, während die Antwort die Bedeutung der zurückgegebenen Informationen erklärt. Ein erzeugter Aufruf ist von einem ausgeführten Ergebnis zu unterscheiden; bewahren Sie die Beobachtung zusammen mit der Aufgabe.\n\n### JSON-Modus und Grenzen\n\nHermes 3 dokumentiert auch eine schemaabhängige Systemanweisung für reine JSON-Antworten. Definieren Sie Felder und Typen und erklären Sie die Darstellung fehlender Quellinformationen. Prüfen Sie das erzeugte Objekt sowohl auf seine Struktur als auch auf Übereinstimmung mit der Eingabe. Eine schemakompatible Antwort darf nicht als Beweis behandelt werden, dass ein Wert abgerufen oder verifiziert wurde.\n\nDie veröffentlichte Modellkonfiguration für 70B hat 131’072 Positionen. Quelltext, Gespräch und erzeugter Inhalt teilen den Kontext des ausgewählten Ablaufs, und die Beispielgrösse der Generierung ist keine universelle feste Antwortgrenze. Reservieren Sie Platz für das Ergebnis und halten Sie lange Eingaben auf die Frage bezogen.\n\nDas nützliche Arbeitsergebnis ist ein prüfbarer Text, Codevorschlag oder strukturierter Datensatz auf Grundlage des bereitgestellten Kontexts und tatsächlicher Werkzeugbeobachtungen. Diese konkrete Hermes-3-Ausgabe 70B bleibt vom grösseren Modell 405B und vom hybriden Denkformat samt Steuerungen von Hermes 4 getrennt.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B ist das steuerbare vielseitige Textmodell von Nous Research für Dialoge über mehrere Runden, Rollenspiel, Code und Agentenaufgaben. Sein ChatML-Profil umfasst schemageführtes JSON und mit Tags markierte Funktionsaufrufe, mit einer veröffentlichten Konfiguration von 131’072 Positionen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Hermes 3 Llama 3.1 70B ist die vielseitige Sprachmodellausgabe mit 70 Milliarden Parametern von Nous Research in der Hermes-3-Reihe. Es nimmt Text entgegen und erzeugt eine Antwort, schriftliche Passage, Code, einen strukturierten Datensatz oder vorgeschlagenen Werkzeugaufruf. Der Hersteller betont Nutzersteuerbarkeit, Schlussfolgern, Rollenspiel, Dialoge über mehrere Runden und Kohärenz bei langem Kontext sowie verbesserte Funktionsaufrufe und Codegenerierung.
Eine Systemanweisung kann Rolle, Regeln, Stil und Ausgabeanforderungen definieren. Geben Sie für Rollenspiel Schauplatz, Perspektive und Figurengrenzen an; stellen Sie für einen analytischen Auftrag Quellpassagen und Kriterien für die Schlussfolgerung bereit. Ein nützliches Briefing lautet: «Erklären Sie die Unterschiede zwischen diesen Anforderungen, bewahren Sie die technischen Namen und benennen Sie die Passage, die jede Erkenntnis stützt.»
Stellen Sie für Programmierung relevante Implementierung, beobachteten Fehler, erwartetes Verhalten und die stabil zu haltenden Schnittstellen bereit. Fordern Sie das vorgeschlagene Codeartefakt und seine Erklärung an und verwenden Sie dann tatsächliche Validierungsbeobachtungen, wenn eine Überarbeitung nötig ist. Die Steuerbarkeit des Modells hilft, die Antwort zu formen; das Briefing muss das nützliche Ergebnis dennoch definieren.
Hermes 3 verwendet ChatML mit getrennten System-, Nutzer- und Assistentenrunden sowie ausdrücklichen Grenzen. Der Hersteller empfiehlt, das Gespräch mit der eigenen Modellvorlage zu formatieren und den Prompt für die Assistentengenerierung hinzuzufügen. Eine Systemnachricht ist optional; wird sie verwendet, sollte sie Aufgabenkontext und gewünschtes Verhalten beschreiben, statt die eigentliche Nutzeranfrage zu ersetzen.
Bewahren Sie den Dialogverlauf in den richtigen Rollen. Erhalten Sie bei einer fortgesetzten Schreibaufgabe festgelegte Fakten und sagen Sie dem Modell, welche Passage geändert werden darf. Kennzeichnen Sie bei Quellenarbeit Material als Beleg und trennen Sie es von Anweisungen. Dies hilft einer späteren Antwort, die Aufgabenbedingungen zu bewahren, ohne zitierten Text mit einem neuen Befehl zu verwechseln.
Die konkrete Modellkarte trainiert Funktionsnutzung mit einer bestimmten Systemdarstellung, Funktionssignaturen und Parameterschemas. Das Modell gibt JSON-Objekte mit dem ausgewählten Funktionsnamen und Argumenten innerhalb von Werkzeugaufruf-Tags zurück. Die umgebende Anwendung parst diesen Vorschlag, führt die Funktion aus und gibt eine benannte Werkzeugantwort zurück. Anschliessend verwendet das Modell die zurückgegebenen Daten für die Antwort.
Definieren Sie Funktionen präzise und verlangen Sie echte Argumentwerte statt Annahmen über ein externes System. Eine Abfragefunktion kann ein fehlendes Produktfeld oder eine Berechnung liefern, während die Antwort die Bedeutung der zurückgegebenen Informationen erklärt. Ein erzeugter Aufruf ist von einem ausgeführten Ergebnis zu unterscheiden; bewahren Sie die Beobachtung zusammen mit der Aufgabe.
Hermes 3 dokumentiert auch eine schemaabhängige Systemanweisung für reine JSON-Antworten. Definieren Sie Felder und Typen und erklären Sie die Darstellung fehlender Quellinformationen. Prüfen Sie das erzeugte Objekt sowohl auf seine Struktur als auch auf Übereinstimmung mit der Eingabe. Eine schemakompatible Antwort darf nicht als Beweis behandelt werden, dass ein Wert abgerufen oder verifiziert wurde.
Die veröffentlichte Modellkonfiguration für 70B hat 131’072 Positionen. Quelltext, Gespräch und erzeugter Inhalt teilen den Kontext des ausgewählten Ablaufs, und die Beispielgrösse der Generierung ist keine universelle feste Antwortgrenze. Reservieren Sie Platz für das Ergebnis und halten Sie lange Eingaben auf die Frage bezogen.
Das nützliche Arbeitsergebnis ist ein prüfbarer Text, Codevorschlag oder strukturierter Datensatz auf Grundlage des bereitgestellten Kontexts und tatsächlicher Werkzeugbeobachtungen. Diese konkrete Hermes-3-Ausgabe 70B bleibt vom grösseren Modell 405B und vom hybriden Denkformat samt Steuerungen von Hermes 4 getrennt.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nousresearch/hermes-3-llama-3.1-70b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0014 / 1K Tokens Ausgabe · Ausgabetoken $0.0014 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0014 / 1K Tokens Ausgabe · Ausgabetoken $0.0014 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-70b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Verwenden Sie die oben angezeigten Methodenpfade.
nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B ist das steuerbare vielseitige Textmodell von Nous Research für Dialoge über mehrere Runden, Rollenspiel, Code und Agentenaufgaben. Sein ChatML-Profil umfasst schemageführtes JSON und mit Tags markierte Funktionsaufrufe, mit einer veröffentlichten Konfiguration von 131’072 Positionen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Hermes 3 Llama 3.1 70B ist die vielseitige Sprachmodellausgabe mit 70 Milliarden Parametern von Nous Research in der Hermes-3-Reihe. Es nimmt Text entgegen und erzeugt eine Antwort, schriftliche Passage, Code, einen strukturierten Datensatz oder vorgeschlagenen Werkzeugaufruf. Der Hersteller betont Nutzersteuerbarkeit, Schlussfolgern, Rollenspiel, Dialoge über mehrere Runden und Kohärenz bei langem Kontext sowie verbesserte Funktionsaufrufe und Codegenerierung.
Eine Systemanweisung kann Rolle, Regeln, Stil und Ausgabeanforderungen definieren. Geben Sie für Rollenspiel Schauplatz, Perspektive und Figurengrenzen an; stellen Sie für einen analytischen Auftrag Quellpassagen und Kriterien für die Schlussfolgerung bereit. Ein nützliches Briefing lautet: «Erklären Sie die Unterschiede zwischen diesen Anforderungen, bewahren Sie die technischen Namen und benennen Sie die Passage, die jede Erkenntnis stützt.»
Stellen Sie für Programmierung relevante Implementierung, beobachteten Fehler, erwartetes Verhalten und die stabil zu haltenden Schnittstellen bereit. Fordern Sie das vorgeschlagene Codeartefakt und seine Erklärung an und verwenden Sie dann tatsächliche Validierungsbeobachtungen, wenn eine Überarbeitung nötig ist. Die Steuerbarkeit des Modells hilft, die Antwort zu formen; das Briefing muss das nützliche Ergebnis dennoch definieren.
Hermes 3 verwendet ChatML mit getrennten System-, Nutzer- und Assistentenrunden sowie ausdrücklichen Grenzen. Der Hersteller empfiehlt, das Gespräch mit der eigenen Modellvorlage zu formatieren und den Prompt für die Assistentengenerierung hinzuzufügen. Eine Systemnachricht ist optional; wird sie verwendet, sollte sie Aufgabenkontext und gewünschtes Verhalten beschreiben, statt die eigentliche Nutzeranfrage zu ersetzen.
Bewahren Sie den Dialogverlauf in den richtigen Rollen. Erhalten Sie bei einer fortgesetzten Schreibaufgabe festgelegte Fakten und sagen Sie dem Modell, welche Passage geändert werden darf. Kennzeichnen Sie bei Quellenarbeit Material als Beleg und trennen Sie es von Anweisungen. Dies hilft einer späteren Antwort, die Aufgabenbedingungen zu bewahren, ohne zitierten Text mit einem neuen Befehl zu verwechseln.
Die konkrete Modellkarte trainiert Funktionsnutzung mit einer bestimmten Systemdarstellung, Funktionssignaturen und Parameterschemas. Das Modell gibt JSON-Objekte mit dem ausgewählten Funktionsnamen und Argumenten innerhalb von Werkzeugaufruf-Tags zurück. Die umgebende Anwendung parst diesen Vorschlag, führt die Funktion aus und gibt eine benannte Werkzeugantwort zurück. Anschliessend verwendet das Modell die zurückgegebenen Daten für die Antwort.
Definieren Sie Funktionen präzise und verlangen Sie echte Argumentwerte statt Annahmen über ein externes System. Eine Abfragefunktion kann ein fehlendes Produktfeld oder eine Berechnung liefern, während die Antwort die Bedeutung der zurückgegebenen Informationen erklärt. Ein erzeugter Aufruf ist von einem ausgeführten Ergebnis zu unterscheiden; bewahren Sie die Beobachtung zusammen mit der Aufgabe.
Hermes 3 dokumentiert auch eine schemaabhängige Systemanweisung für reine JSON-Antworten. Definieren Sie Felder und Typen und erklären Sie die Darstellung fehlender Quellinformationen. Prüfen Sie das erzeugte Objekt sowohl auf seine Struktur als auch auf Übereinstimmung mit der Eingabe. Eine schemakompatible Antwort darf nicht als Beweis behandelt werden, dass ein Wert abgerufen oder verifiziert wurde.
Die veröffentlichte Modellkonfiguration für 70B hat 131’072 Positionen. Quelltext, Gespräch und erzeugter Inhalt teilen den Kontext des ausgewählten Ablaufs, und die Beispielgrösse der Generierung ist keine universelle feste Antwortgrenze. Reservieren Sie Platz für das Ergebnis und halten Sie lange Eingaben auf die Frage bezogen.
Das nützliche Arbeitsergebnis ist ein prüfbarer Text, Codevorschlag oder strukturierter Datensatz auf Grundlage des bereitgestellten Kontexts und tatsächlicher Werkzeugbeobachtungen. Diese konkrete Hermes-3-Ausgabe 70B bleibt vom grösseren Modell 405B und vom hybriden Denkformat samt Steuerungen von Hermes 4 getrennt.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nousresearch/hermes-3-llama-3.1-70b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0014 / 1K Tokens Ausgabe · Ausgabetoken $0.0014 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0014 / 1K Tokens Ausgabe · Ausgabetoken $0.0014 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "nousresearch/hermes-3-llama-3.1-70b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.