Hermes 3 Llama 3.1 405B is het grote generalistische tekstmodel van Nous Research, ontwikkeld door alle parameters van Llama 3.1 405B te verfijnen. De maker benadrukt afstemming op gebruikersinstructies, stuurbaarheid, rollenspel, redeneren, conversatie over meerdere beurten en samenhang bij lange contexten. De uitvoer is tekst, waaronder antwoorden, geschreven inhoud, code, gestructureerde records en informatie voor functieaanroepen.
Dit is de grote Hermes 3-modelvariant, onderscheiden van de 70B-tegenhanger en de latere Hermes 4-redeneerrelease. De fabrikant breidt eerdere Hermes-mogelijkheden uit met verbeterde functieaanroepen, gestructureerde uitvoer en codegeneratie. Geef een taak haar werkelijke bewijsmateriaal en vereiste eindvorm mee in plaats van aan te nemen dat modelschaal ontbrekende bronnen of een voltooiingscriterium levert.
Label voor documentanalyse de passages en benoem de vergelijkingscriteria. Vraag de relevante bron naast elke conclusie en specificeer de behandeling van afwezige informatie. Geef voor een schrijfopdracht publiek, toon en de feiten mee die een herziening moet behouden. Een praktische prompt is: “Herschrijf deze uitleg voor de genoemde lezer, behoud de gedefinieerde termen en benoem elke niet-onderbouwde claim die verduidelijking nodig heeft.”
Hermes 3 gebruikt ChatML om systeeminstructies, gebruikersberichten en assistentantwoorden te scheiden. Het eigen sjabloon kan de conversatie opbouwen en het assistentgeneratieprefix toevoegen. Systeeminstructies sturen rol, regels en stijl; ze zijn optioneel wanneer de taak geen speciale inleiding vereist.
Een doorlopende conversatie moet brontekst van instructies onderscheiden en aanvaarde feiten in de relevante context behouden. Benoem voor rollenspel wie elk personage beheert en welke gebeurtenissen vaststaan. Vermeld voor code welk gedrag verandert en welke contracten intact blijven. Het gewenste artefact moet gedurende de dialoog zichtbaar blijven.
De specifieke modelkaart documenteert functiesignaturen binnen de representatie van tooldefinities en een vereist antwoordschema voor functienaam en argumenten. Het model genereert JSON-aanroepobjecten met tags. De toepassing parseert en voert de geselecteerde bewerking uit en geeft vervolgens het resultaat in een benoemd toolantwoord terug. Het volgende assistentantwoord kan de werkelijke gegevens uitleggen.
Geef elke functie een duidelijk doel en nauwkeurige parameterbeschrijvingen. Laat een voorgestelde opzoeking niet doorgaan voor een teruggegeven bron. Houd de waarneming verbonden met de geselecteerde bewerking, zodat een uiteindelijke conclusie kan aangeven waarop ze steunt. Gegenereerde code blijft eveneens een voorstel totdat ze in de bedoelde omgeving is gecontroleerd en uitgevoerd.
De JSON-modus van Hermes 3 is getraind met een systeeminstructie die het gewenste schema bevat en vraagt een JSON-object als antwoord. Definieer de velden en hoe ontbrekende of tegenstrijdige bronwaarden moeten worden weergegeven. Valideer de structuur en controleer de feiten, ook wanneer het object het schema volgt.
De gepubliceerde configuratie stelt max_position_embeddings in op 131.072. Plan instructies, documenten, geschiedenis, toolresultaten en antwoord samen; dit veld stelt geen afzonderlijke universele uitvoerlimiet vast. Het volledige model van de producent en afzonderlijk gepubliceerde gekwantiseerde varianten hebben elk hun eigen precisie-identiteit; die varianten mogen daarom niet stilzwijgend de genoemde 405B-modelvariant vervangen.
Een nuttig eindproduct is een tekst- of codeartefact met duidelijke aannames en bronverbindingen. Controleer het tegen de aangeleverde vereisten en werkelijke waarnemingen. De ChatML-, functieaanroep- en JSON-workflows van Hermes 3 blijven onderscheiden van de latere instellingen van Hermes 4 voor hybride denken en afwisselende redenering.
", "aboutText": "Hermes 3 Llama 3.1 405B is het grote generalistische tekstmodel van Nous Research, ontwikkeld door alle parameters van Llama 3.1 405B te verfijnen. De maker benadrukt afstemming op gebruikersinstructies, stuurbaarheid, rollenspel, redeneren, conversatie over meerdere beurten en samenhang bij lange contexten. De uitvoer is tekst, waaronder antwoorden, geschreven inhoud, code, gestructureerde records en informatie voor functieaanroepen.\n\n### De 405B-editie\n\nDit is de grote Hermes 3-modelvariant, onderscheiden van de 70B-tegenhanger en de latere Hermes 4-redeneerrelease. De fabrikant breidt eerdere Hermes-mogelijkheden uit met verbeterde functieaanroepen, gestructureerde uitvoer en codegeneratie. Geef een taak haar werkelijke bewijsmateriaal en vereiste eindvorm mee in plaats van aan te nemen dat modelschaal ontbrekende bronnen of een voltooiingscriterium levert.\n\nLabel voor documentanalyse de passages en benoem de vergelijkingscriteria. Vraag de relevante bron naast elke conclusie en specificeer de behandeling van afwezige informatie. Geef voor een schrijfopdracht publiek, toon en de feiten mee die een herziening moet behouden. Een praktische prompt is: “Herschrijf deze uitleg voor de genoemde lezer, behoud de gedefinieerde termen en benoem elke niet-onderbouwde claim die verduidelijking nodig heeft.”\n\n### Promptformaat en dialoog\n\nHermes 3 gebruikt ChatML om systeeminstructies, gebruikersberichten en assistentantwoorden te scheiden. Het eigen sjabloon kan de conversatie opbouwen en het assistentgeneratieprefix toevoegen. Systeeminstructies sturen rol, regels en stijl; ze zijn optioneel wanneer de taak geen speciale inleiding vereist.\n\nEen doorlopende conversatie moet brontekst van instructies onderscheiden en aanvaarde feiten in de relevante context behouden. Benoem voor rollenspel wie elk personage beheert en welke gebeurtenissen vaststaan. Vermeld voor code welk gedrag verandert en welke contracten intact blijven. Het gewenste artefact moet gedurende de dialoog zichtbaar blijven.\n\n### Functies en bronwaarnemingen\n\nDe specifieke modelkaart documenteert functiesignaturen binnen de representatie van tooldefinities en een vereist antwoordschema voor functienaam en argumenten. Het model genereert JSON-aanroepobjecten met tags. De toepassing parseert en voert de geselecteerde bewerking uit en geeft vervolgens het resultaat in een benoemd toolantwoord terug. Het volgende assistentantwoord kan de werkelijke gegevens uitleggen.\n\nGeef elke functie een duidelijk doel en nauwkeurige parameterbeschrijvingen. Laat een voorgestelde opzoeking niet doorgaan voor een teruggegeven bron. Houd de waarneming verbonden met de geselecteerde bewerking, zodat een uiteindelijke conclusie kan aangeven waarop ze steunt. Gegenereerde code blijft eveneens een voorstel totdat ze in de bedoelde omgeving is gecontroleerd en uitgevoerd.\n\n### JSON-resultaten, context en precisie\n\nDe JSON-modus van Hermes 3 is getraind met een systeeminstructie die het gewenste schema bevat en vraagt een JSON-object als antwoord. Definieer de velden en hoe ontbrekende of tegenstrijdige bronwaarden moeten worden weergegeven. Valideer de structuur en controleer de feiten, ook wanneer het object het schema volgt.\n\nDe gepubliceerde configuratie stelt max_position_embeddings in op 131.072. Plan instructies, documenten, geschiedenis, toolresultaten en antwoord samen; dit veld stelt geen afzonderlijke universele uitvoerlimiet vast. Het volledige model van de producent en afzonderlijk gepubliceerde gekwantiseerde varianten hebben elk hun eigen precisie-identiteit; die varianten mogen daarom niet stilzwijgend de genoemde 405B-modelvariant vervangen.\n\nEen nuttig eindproduct is een tekst- of codeartefact met duidelijke aannames en bronverbindingen. Controleer het tegen de aangeleverde vereisten en werkelijke waarnemingen. De ChatML-, functieaanroep- en JSON-workflows van Hermes 3 blijven onderscheiden van de latere instellingen van Hermes 4 voor hybride denken en afwisselende redenering.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B is de generalistische tekst-fine-tune van Nous Research waarbij alle 405 miljard parameters zijn verfijnd. De stuurbare ChatML-dialoog, schemagestuurde JSON en het functieaanroepformaat ondersteunen bronanalyse, schrijven, code en werk over meerdere stappen met waarnemingen uit toepassingstools.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Hermes 3 Llama 3.1 405B is het grote generalistische tekstmodel van Nous Research, ontwikkeld door alle parameters van Llama 3.1 405B te verfijnen. De maker benadrukt afstemming op gebruikersinstructies, stuurbaarheid, rollenspel, redeneren, conversatie over meerdere beurten en samenhang bij lange contexten. De uitvoer is tekst, waaronder antwoorden, geschreven inhoud, code, gestructureerde records en informatie voor functieaanroepen.
Dit is de grote Hermes 3-modelvariant, onderscheiden van de 70B-tegenhanger en de latere Hermes 4-redeneerrelease. De fabrikant breidt eerdere Hermes-mogelijkheden uit met verbeterde functieaanroepen, gestructureerde uitvoer en codegeneratie. Geef een taak haar werkelijke bewijsmateriaal en vereiste eindvorm mee in plaats van aan te nemen dat modelschaal ontbrekende bronnen of een voltooiingscriterium levert.
Label voor documentanalyse de passages en benoem de vergelijkingscriteria. Vraag de relevante bron naast elke conclusie en specificeer de behandeling van afwezige informatie. Geef voor een schrijfopdracht publiek, toon en de feiten mee die een herziening moet behouden. Een praktische prompt is: “Herschrijf deze uitleg voor de genoemde lezer, behoud de gedefinieerde termen en benoem elke niet-onderbouwde claim die verduidelijking nodig heeft.”
Hermes 3 gebruikt ChatML om systeeminstructies, gebruikersberichten en assistentantwoorden te scheiden. Het eigen sjabloon kan de conversatie opbouwen en het assistentgeneratieprefix toevoegen. Systeeminstructies sturen rol, regels en stijl; ze zijn optioneel wanneer de taak geen speciale inleiding vereist.
Een doorlopende conversatie moet brontekst van instructies onderscheiden en aanvaarde feiten in de relevante context behouden. Benoem voor rollenspel wie elk personage beheert en welke gebeurtenissen vaststaan. Vermeld voor code welk gedrag verandert en welke contracten intact blijven. Het gewenste artefact moet gedurende de dialoog zichtbaar blijven.
De specifieke modelkaart documenteert functiesignaturen binnen de representatie van tooldefinities en een vereist antwoordschema voor functienaam en argumenten. Het model genereert JSON-aanroepobjecten met tags. De toepassing parseert en voert de geselecteerde bewerking uit en geeft vervolgens het resultaat in een benoemd toolantwoord terug. Het volgende assistentantwoord kan de werkelijke gegevens uitleggen.
Geef elke functie een duidelijk doel en nauwkeurige parameterbeschrijvingen. Laat een voorgestelde opzoeking niet doorgaan voor een teruggegeven bron. Houd de waarneming verbonden met de geselecteerde bewerking, zodat een uiteindelijke conclusie kan aangeven waarop ze steunt. Gegenereerde code blijft eveneens een voorstel totdat ze in de bedoelde omgeving is gecontroleerd en uitgevoerd.
De JSON-modus van Hermes 3 is getraind met een systeeminstructie die het gewenste schema bevat en vraagt een JSON-object als antwoord. Definieer de velden en hoe ontbrekende of tegenstrijdige bronwaarden moeten worden weergegeven. Valideer de structuur en controleer de feiten, ook wanneer het object het schema volgt.
De gepubliceerde configuratie stelt max_position_embeddings in op 131.072. Plan instructies, documenten, geschiedenis, toolresultaten en antwoord samen; dit veld stelt geen afzonderlijke universele uitvoerlimiet vast. Het volledige model van de producent en afzonderlijk gepubliceerde gekwantiseerde varianten hebben elk hun eigen precisie-identiteit; die varianten mogen daarom niet stilzwijgend de genoemde 405B-modelvariant vervangen.
Een nuttig eindproduct is een tekst- of codeartefact met duidelijke aannames en bronverbindingen. Controleer het tegen de aangeleverde vereisten en werkelijke waarnemingen. De ChatML-, functieaanroep- en JSON-workflows van Hermes 3 blijven onderscheiden van de latere instellingen van Hermes 4 voor hybride denken en afwisselende redenering.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten nousresearch/hermes-3-llama-3.1-405b | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.002 / 1K tokens Uitvoer · Uitvoertokens $0.002 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieAanvraaglengte · niveau 1 | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.002 / 1K tokens Uitvoer · Uitvoertokens $0.002 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Gebruik de hierboven getoonde methodepaden.
nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B is de generalistische tekst-fine-tune van Nous Research waarbij alle 405 miljard parameters zijn verfijnd. De stuurbare ChatML-dialoog, schemagestuurde JSON en het functieaanroepformaat ondersteunen bronanalyse, schrijven, code en werk over meerdere stappen met waarnemingen uit toepassingstools.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Hermes 3 Llama 3.1 405B is het grote generalistische tekstmodel van Nous Research, ontwikkeld door alle parameters van Llama 3.1 405B te verfijnen. De maker benadrukt afstemming op gebruikersinstructies, stuurbaarheid, rollenspel, redeneren, conversatie over meerdere beurten en samenhang bij lange contexten. De uitvoer is tekst, waaronder antwoorden, geschreven inhoud, code, gestructureerde records en informatie voor functieaanroepen.
Dit is de grote Hermes 3-modelvariant, onderscheiden van de 70B-tegenhanger en de latere Hermes 4-redeneerrelease. De fabrikant breidt eerdere Hermes-mogelijkheden uit met verbeterde functieaanroepen, gestructureerde uitvoer en codegeneratie. Geef een taak haar werkelijke bewijsmateriaal en vereiste eindvorm mee in plaats van aan te nemen dat modelschaal ontbrekende bronnen of een voltooiingscriterium levert.
Label voor documentanalyse de passages en benoem de vergelijkingscriteria. Vraag de relevante bron naast elke conclusie en specificeer de behandeling van afwezige informatie. Geef voor een schrijfopdracht publiek, toon en de feiten mee die een herziening moet behouden. Een praktische prompt is: “Herschrijf deze uitleg voor de genoemde lezer, behoud de gedefinieerde termen en benoem elke niet-onderbouwde claim die verduidelijking nodig heeft.”
Hermes 3 gebruikt ChatML om systeeminstructies, gebruikersberichten en assistentantwoorden te scheiden. Het eigen sjabloon kan de conversatie opbouwen en het assistentgeneratieprefix toevoegen. Systeeminstructies sturen rol, regels en stijl; ze zijn optioneel wanneer de taak geen speciale inleiding vereist.
Een doorlopende conversatie moet brontekst van instructies onderscheiden en aanvaarde feiten in de relevante context behouden. Benoem voor rollenspel wie elk personage beheert en welke gebeurtenissen vaststaan. Vermeld voor code welk gedrag verandert en welke contracten intact blijven. Het gewenste artefact moet gedurende de dialoog zichtbaar blijven.
De specifieke modelkaart documenteert functiesignaturen binnen de representatie van tooldefinities en een vereist antwoordschema voor functienaam en argumenten. Het model genereert JSON-aanroepobjecten met tags. De toepassing parseert en voert de geselecteerde bewerking uit en geeft vervolgens het resultaat in een benoemd toolantwoord terug. Het volgende assistentantwoord kan de werkelijke gegevens uitleggen.
Geef elke functie een duidelijk doel en nauwkeurige parameterbeschrijvingen. Laat een voorgestelde opzoeking niet doorgaan voor een teruggegeven bron. Houd de waarneming verbonden met de geselecteerde bewerking, zodat een uiteindelijke conclusie kan aangeven waarop ze steunt. Gegenereerde code blijft eveneens een voorstel totdat ze in de bedoelde omgeving is gecontroleerd en uitgevoerd.
De JSON-modus van Hermes 3 is getraind met een systeeminstructie die het gewenste schema bevat en vraagt een JSON-object als antwoord. Definieer de velden en hoe ontbrekende of tegenstrijdige bronwaarden moeten worden weergegeven. Valideer de structuur en controleer de feiten, ook wanneer het object het schema volgt.
De gepubliceerde configuratie stelt max_position_embeddings in op 131.072. Plan instructies, documenten, geschiedenis, toolresultaten en antwoord samen; dit veld stelt geen afzonderlijke universele uitvoerlimiet vast. Het volledige model van de producent en afzonderlijk gepubliceerde gekwantiseerde varianten hebben elk hun eigen precisie-identiteit; die varianten mogen daarom niet stilzwijgend de genoemde 405B-modelvariant vervangen.
Een nuttig eindproduct is een tekst- of codeartefact met duidelijke aannames en bronverbindingen. Controleer het tegen de aangeleverde vereisten en werkelijke waarnemingen. De ChatML-, functieaanroep- en JSON-workflows van Hermes 3 blijven onderscheiden van de latere instellingen van Hermes 4 voor hybride denken en afwisselende redenering.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten nousresearch/hermes-3-llama-3.1-405b | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.002 / 1K tokens Uitvoer · Uitvoertokens $0.002 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieAanvraaglengte · niveau 1 | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.002 / 1K tokens Uitvoer · Uitvoertokens $0.002 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "nousresearch/hermes-3-llama-3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Gebruik de hierboven getoonde methodepaden.
Technisch voorbeeld in het Engels
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.