Hermes 3 Llama 3.1 405B è il grande modello testuale generalista di Nous Research, sviluppato mediante fine-tuning di tutti i parametri di Llama 3.1 405B. Il produttore evidenzia allineamento alle istruzioni dell’utente, controllabilità, gioco di ruolo, ragionamento, conversazione a più turni e coerenza su contesti lunghi. L’output è testo, inclusi risposte, contenuti scritti, codice, record strutturati e informazioni di chiamata di funzione.
Questo è il profilo grande di Hermes 3, separato dal modello complementare 70B e dal successivo rilascio Hermes 4 per il ragionamento. Il produttore amplia le capacità precedenti di Hermes con chiamate di funzione, output strutturati e generazione di codice migliorati. Fornisci a un compito le sue evidenze effettive e la forma finale richiesta, anziché presumere che la scala del modello fornisca fonti mancanti o un criterio di completamento.
Per un’analisi documentale, etichetta i brani e identifica i criteri di confronto. Chiedi la fonte pertinente accanto a ogni conclusione e specifica il trattamento delle informazioni assenti. Per un incarico di scrittura, fornisci pubblico, tono e fatti che devono sopravvivere a una revisione. Un prompt pratico è: «Riscrivi questa spiegazione per il lettore indicato, preserva i termini definiti e identifica ogni affermazione non supportata che richiede un chiarimento».
Hermes 3 usa ChatML per separare istruzioni di sistema, messaggi dell’utente e risposte dell’assistente. Il suo template può costruire la conversazione e aggiungere il prefisso di generazione dell’assistente. Le istruzioni di sistema orientano ruolo, regole e stile; sono facoltative quando il compito non richiede un preambolo speciale.
Una conversazione continuativa deve mantenere il testo sorgente distinto dalle istruzioni e preservare i fatti accettati nel contesto pertinente. Per il gioco di ruolo, identifica chi controlla ogni personaggio e quali eventi sono stabiliti. Per il codice, indica il comportamento che cambia e i contratti che restano intatti. L’elaborato desiderato deve restare visibile durante il dialogo.
La scheda esatta del modello documenta firme delle funzioni nella propria rappresentazione delle definizioni di strumenti e uno schema di risposta obbligatorio per nome e argomenti della funzione. Il modello genera oggetti JSON di chiamata contrassegnati da tag. L’applicazione analizza ed esegue l’operazione selezionata, poi restituisce il risultato in una risposta dello strumento con nome. La risposta successiva dell’assistente può spiegare i dati effettivi.
Assegna a ogni funzione uno scopo chiaro e descrizioni precise dei parametri. Non lasciare che una ricerca proposta sostituisca una fonte restituita. Mantieni l’osservazione associata all’operazione selezionata, affinché una conclusione finale possa identificare ciò che la supporta. Analogamente, il codice generato resta una proposta finché non viene esaminato ed eseguito nell’ambiente previsto.
La modalità JSON di Hermes 3 è addestrata con un’istruzione di sistema contenente lo schema desiderato e richiede un oggetto JSON come risposta. Definisci i campi e come rappresentare valori sorgente mancanti o contrastanti. Convalida la struttura e rivedi i fatti anche quando l’oggetto segue lo schema.
La configurazione pubblicata imposta max_position_embeddings a 131.072. Prevedi spazio per istruzioni, documenti, cronologia, risultati degli strumenti e risposta insieme; questo campo non stabilisce un limite universale separato di output. Il modello completo del produttore e le varianti quantizzate pubblicate separatamente hanno proprie identità di precisione, quindi tali varianti non devono sostituire silenziosamente il profilo denominato 405B.
Un risultato utile è un elaborato di testo o codice con ipotesi e collegamenti alle fonti chiari. Rivedilo rispetto a requisiti forniti e osservazioni effettive. I flussi ChatML, di chiamata di funzione e JSON di Hermes 3 restano distinti dai successivi controlli di ragionamento ibrido e alternato di Hermes 4.
", "aboutText": "Hermes 3 Llama 3.1 405B è il grande modello testuale generalista di Nous Research, sviluppato mediante fine-tuning di tutti i parametri di Llama 3.1 405B. Il produttore evidenzia allineamento alle istruzioni dell’utente, controllabilità, gioco di ruolo, ragionamento, conversazione a più turni e coerenza su contesti lunghi. L’output è testo, inclusi risposte, contenuti scritti, codice, record strutturati e informazioni di chiamata di funzione.\n\n### L’edizione 405B\n\nQuesto è il profilo grande di Hermes 3, separato dal modello complementare 70B e dal successivo rilascio Hermes 4 per il ragionamento. Il produttore amplia le capacità precedenti di Hermes con chiamate di funzione, output strutturati e generazione di codice migliorati. Fornisci a un compito le sue evidenze effettive e la forma finale richiesta, anziché presumere che la scala del modello fornisca fonti mancanti o un criterio di completamento.\n\nPer un’analisi documentale, etichetta i brani e identifica i criteri di confronto. Chiedi la fonte pertinente accanto a ogni conclusione e specifica il trattamento delle informazioni assenti. Per un incarico di scrittura, fornisci pubblico, tono e fatti che devono sopravvivere a una revisione. Un prompt pratico è: «Riscrivi questa spiegazione per il lettore indicato, preserva i termini definiti e identifica ogni affermazione non supportata che richiede un chiarimento».\n\n### Formato del prompt e dialogo\n\nHermes 3 usa ChatML per separare istruzioni di sistema, messaggi dell’utente e risposte dell’assistente. Il suo template può costruire la conversazione e aggiungere il prefisso di generazione dell’assistente. Le istruzioni di sistema orientano ruolo, regole e stile; sono facoltative quando il compito non richiede un preambolo speciale.\n\nUna conversazione continuativa deve mantenere il testo sorgente distinto dalle istruzioni e preservare i fatti accettati nel contesto pertinente. Per il gioco di ruolo, identifica chi controlla ogni personaggio e quali eventi sono stabiliti. Per il codice, indica il comportamento che cambia e i contratti che restano intatti. L’elaborato desiderato deve restare visibile durante il dialogo.\n\n### Funzioni e osservazioni delle fonti\n\nLa scheda esatta del modello documenta firme delle funzioni nella propria rappresentazione delle definizioni di strumenti e uno schema di risposta obbligatorio per nome e argomenti della funzione. Il modello genera oggetti JSON di chiamata contrassegnati da tag. L’applicazione analizza ed esegue l’operazione selezionata, poi restituisce il risultato in una risposta dello strumento con nome. La risposta successiva dell’assistente può spiegare i dati effettivi.\n\nAssegna a ogni funzione uno scopo chiaro e descrizioni precise dei parametri. Non lasciare che una ricerca proposta sostituisca una fonte restituita. Mantieni l’osservazione associata all’operazione selezionata, affinché una conclusione finale possa identificare ciò che la supporta. Analogamente, il codice generato resta una proposta finché non viene esaminato ed eseguito nell’ambiente previsto.\n\n### Risultati JSON, contesto e precisione\n\nLa modalità JSON di Hermes 3 è addestrata con un’istruzione di sistema contenente lo schema desiderato e richiede un oggetto JSON come risposta. Definisci i campi e come rappresentare valori sorgente mancanti o contrastanti. Convalida la struttura e rivedi i fatti anche quando l’oggetto segue lo schema.\n\nLa configurazione pubblicata imposta max_position_embeddings a 131.072. Prevedi spazio per istruzioni, documenti, cronologia, risultati degli strumenti e risposta insieme; questo campo non stabilisce un limite universale separato di output. Il modello completo del produttore e le varianti quantizzate pubblicate separatamente hanno proprie identità di precisione, quindi tali varianti non devono sostituire silenziosamente il profilo denominato 405B.\n\nUn risultato utile è un elaborato di testo o codice con ipotesi e collegamenti alle fonti chiari. Rivedilo rispetto a requisiti forniti e osservazioni effettive. I flussi ChatML, di chiamata di funzione e JSON di Hermes 3 restano distinti dai successivi controlli di ragionamento ibrido e alternato di Hermes 4.", "editorialOverlay": { "copy_fields": { "practical_html": "Esempio tecnico in inglese
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B è il modello testuale generalista di Nous Research affinato su tutti i 405 miliardi di parametri. Il dialogo ChatML controllabile, il JSON guidato da schema e il formato delle chiamate di funzione supportano analisi delle fonti, scrittura, codice e lavoro in più passaggi con osservazioni restituite dagli strumenti applicativi.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Hermes 3 Llama 3.1 405B è il grande modello testuale generalista di Nous Research, sviluppato mediante fine-tuning di tutti i parametri di Llama 3.1 405B. Il produttore evidenzia allineamento alle istruzioni dell’utente, controllabilità, gioco di ruolo, ragionamento, conversazione a più turni e coerenza su contesti lunghi. L’output è testo, inclusi risposte, contenuti scritti, codice, record strutturati e informazioni di chiamata di funzione.
Questo è il profilo grande di Hermes 3, separato dal modello complementare 70B e dal successivo rilascio Hermes 4 per il ragionamento. Il produttore amplia le capacità precedenti di Hermes con chiamate di funzione, output strutturati e generazione di codice migliorati. Fornisci a un compito le sue evidenze effettive e la forma finale richiesta, anziché presumere che la scala del modello fornisca fonti mancanti o un criterio di completamento.
Per un’analisi documentale, etichetta i brani e identifica i criteri di confronto. Chiedi la fonte pertinente accanto a ogni conclusione e specifica il trattamento delle informazioni assenti. Per un incarico di scrittura, fornisci pubblico, tono e fatti che devono sopravvivere a una revisione. Un prompt pratico è: «Riscrivi questa spiegazione per il lettore indicato, preserva i termini definiti e identifica ogni affermazione non supportata che richiede un chiarimento».
Hermes 3 usa ChatML per separare istruzioni di sistema, messaggi dell’utente e risposte dell’assistente. Il suo template può costruire la conversazione e aggiungere il prefisso di generazione dell’assistente. Le istruzioni di sistema orientano ruolo, regole e stile; sono facoltative quando il compito non richiede un preambolo speciale.
Una conversazione continuativa deve mantenere il testo sorgente distinto dalle istruzioni e preservare i fatti accettati nel contesto pertinente. Per il gioco di ruolo, identifica chi controlla ogni personaggio e quali eventi sono stabiliti. Per il codice, indica il comportamento che cambia e i contratti che restano intatti. L’elaborato desiderato deve restare visibile durante il dialogo.
La scheda esatta del modello documenta firme delle funzioni nella propria rappresentazione delle definizioni di strumenti e uno schema di risposta obbligatorio per nome e argomenti della funzione. Il modello genera oggetti JSON di chiamata contrassegnati da tag. L’applicazione analizza ed esegue l’operazione selezionata, poi restituisce il risultato in una risposta dello strumento con nome. La risposta successiva dell’assistente può spiegare i dati effettivi.
Assegna a ogni funzione uno scopo chiaro e descrizioni precise dei parametri. Non lasciare che una ricerca proposta sostituisca una fonte restituita. Mantieni l’osservazione associata all’operazione selezionata, affinché una conclusione finale possa identificare ciò che la supporta. Analogamente, il codice generato resta una proposta finché non viene esaminato ed eseguito nell’ambiente previsto.
La modalità JSON di Hermes 3 è addestrata con un’istruzione di sistema contenente lo schema desiderato e richiede un oggetto JSON come risposta. Definisci i campi e come rappresentare valori sorgente mancanti o contrastanti. Convalida la struttura e rivedi i fatti anche quando l’oggetto segue lo schema.
La configurazione pubblicata imposta max_position_embeddings a 131.072. Prevedi spazio per istruzioni, documenti, cronologia, risultati degli strumenti e risposta insieme; questo campo non stabilisce un limite universale separato di output. Il modello completo del produttore e le varianti quantizzate pubblicate separatamente hanno proprie identità di precisione, quindi tali varianti non devono sostituire silenziosamente il profilo denominato 405B.
Un risultato utile è un elaborato di testo o codice con ipotesi e collegamenti alle fonti chiari. Rivedilo rispetto a requisiti forniti e osservazioni effettive. I flussi ChatML, di chiamata di funzione e JSON di Hermes 3 restano distinti dai successivi controlli di ragionamento ibrido e alternato di Hermes 4.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti nousresearch/hermes-3-llama-3.1-405b | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti Esempi: system, user, assistant, tool, function Condizioni: Questi ruoli sono rappresentati esplicitamente dai tipi di compatibilità del codice sorgente; l’insieme esatto dei ruoli rimane specifico del modello. Dipende dal modello | Predefinito— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_call_id | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: role=tool; usa l’ID effettivamente restituito | Predefinito— |
Campomessages[].name | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].reasoning_content | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: Reinserisci il ragionamento effettivamente restituito quando il modello lo utilizza | Predefinito— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campomax_completion_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotemperature | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotop_p | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campostop | Tipostring|string[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools | Tipofunction_tool[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools[].type | Tipostring | RequisitoFacoltativo | Valori e limiti function Dipende dal modello | Predefinito— |
Campotools[].function.name | Tipostring | RequisitoObbligatorio | Valori e limiti Si applica quando: Funzione fornita come strumento | Predefinito— |
Campotools[].function.description | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotool_choice | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoparallel_tool_calls | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporesponse_format | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning_effort | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camposervice_tier | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoinstructions | Tipostring | RequisitoFacoltativo | Valori e limiti Campo di compatibilità | Predefinito— |
Campofunctions | Tipofunction[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campofunction_call | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoprompt_cache_options | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomodalities | Tipostring[] | RequisitoFacoltativo | Valori e limiti text | Predefinito— |
Campoprovider | Tipoobject | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options viene rifiutato su questa rotta testuale Ultra | Predefinito— |
Campocache_control.ttl | Tipostring | RequisitoFacoltativo | Valori e limiti Condizioni: 1h viene rifiutato nelle posizioni effettive della cache dei prompt | Predefinito— |
Testo · Testo UTF8
messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages |
Parametromaterial_types | Contrattotext |
Parametromessages | ContrattoArray di messaggi con struttura role/content |
Parametrofile_material | ContrattoDocumento UTF-8 effettivo inserito come testo letterale; nessun ID di file dedotto |
Parametrooptional_controls | Contrattostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrocontrol_scope | ContrattoSpecifico del modello; gli strumenti di funzione dell’utente differiscono dagli strumenti ospitati |
Parametrooutput_modalities | Contrattotext |
Parametrohosted_operations | Contrattofalse |
Parametromultimodal_input_binding | Contrattonull |
Ciclo di vita: synchronous_or_streamed
Invia l’ID esatto del modello con messages.
La lunghezza del contesto non è un limite di uscita.
Un file di testo può fornire testo letterale; gli ingressi immagine/audio/oggetto file richiedono un’associazione esatta.
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.002 / 1K token Output · Token in output $0.002 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.002 / 1K token Output · Token in output $0.002 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva ogni scelta con contenuto, chiamate agli strumenti e ragionamento. In SSE assembla i delta per indice di scelta e strumento e conserva il motivo finale di completamento e i dati di utilizzo.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Usa i percorsi dei metodi indicati sopra.
nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B è il modello testuale generalista di Nous Research affinato su tutti i 405 miliardi di parametri. Il dialogo ChatML controllabile, il JSON guidato da schema e il formato delle chiamate di funzione supportano analisi delle fonti, scrittura, codice e lavoro in più passaggi con osservazioni restituite dagli strumenti applicativi.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Hermes 3 Llama 3.1 405B è il grande modello testuale generalista di Nous Research, sviluppato mediante fine-tuning di tutti i parametri di Llama 3.1 405B. Il produttore evidenzia allineamento alle istruzioni dell’utente, controllabilità, gioco di ruolo, ragionamento, conversazione a più turni e coerenza su contesti lunghi. L’output è testo, inclusi risposte, contenuti scritti, codice, record strutturati e informazioni di chiamata di funzione.
Questo è il profilo grande di Hermes 3, separato dal modello complementare 70B e dal successivo rilascio Hermes 4 per il ragionamento. Il produttore amplia le capacità precedenti di Hermes con chiamate di funzione, output strutturati e generazione di codice migliorati. Fornisci a un compito le sue evidenze effettive e la forma finale richiesta, anziché presumere che la scala del modello fornisca fonti mancanti o un criterio di completamento.
Per un’analisi documentale, etichetta i brani e identifica i criteri di confronto. Chiedi la fonte pertinente accanto a ogni conclusione e specifica il trattamento delle informazioni assenti. Per un incarico di scrittura, fornisci pubblico, tono e fatti che devono sopravvivere a una revisione. Un prompt pratico è: «Riscrivi questa spiegazione per il lettore indicato, preserva i termini definiti e identifica ogni affermazione non supportata che richiede un chiarimento».
Hermes 3 usa ChatML per separare istruzioni di sistema, messaggi dell’utente e risposte dell’assistente. Il suo template può costruire la conversazione e aggiungere il prefisso di generazione dell’assistente. Le istruzioni di sistema orientano ruolo, regole e stile; sono facoltative quando il compito non richiede un preambolo speciale.
Una conversazione continuativa deve mantenere il testo sorgente distinto dalle istruzioni e preservare i fatti accettati nel contesto pertinente. Per il gioco di ruolo, identifica chi controlla ogni personaggio e quali eventi sono stabiliti. Per il codice, indica il comportamento che cambia e i contratti che restano intatti. L’elaborato desiderato deve restare visibile durante il dialogo.
La scheda esatta del modello documenta firme delle funzioni nella propria rappresentazione delle definizioni di strumenti e uno schema di risposta obbligatorio per nome e argomenti della funzione. Il modello genera oggetti JSON di chiamata contrassegnati da tag. L’applicazione analizza ed esegue l’operazione selezionata, poi restituisce il risultato in una risposta dello strumento con nome. La risposta successiva dell’assistente può spiegare i dati effettivi.
Assegna a ogni funzione uno scopo chiaro e descrizioni precise dei parametri. Non lasciare che una ricerca proposta sostituisca una fonte restituita. Mantieni l’osservazione associata all’operazione selezionata, affinché una conclusione finale possa identificare ciò che la supporta. Analogamente, il codice generato resta una proposta finché non viene esaminato ed eseguito nell’ambiente previsto.
La modalità JSON di Hermes 3 è addestrata con un’istruzione di sistema contenente lo schema desiderato e richiede un oggetto JSON come risposta. Definisci i campi e come rappresentare valori sorgente mancanti o contrastanti. Convalida la struttura e rivedi i fatti anche quando l’oggetto segue lo schema.
La configurazione pubblicata imposta max_position_embeddings a 131.072. Prevedi spazio per istruzioni, documenti, cronologia, risultati degli strumenti e risposta insieme; questo campo non stabilisce un limite universale separato di output. Il modello completo del produttore e le varianti quantizzate pubblicate separatamente hanno proprie identità di precisione, quindi tali varianti non devono sostituire silenziosamente il profilo denominato 405B.
Un risultato utile è un elaborato di testo o codice con ipotesi e collegamenti alle fonti chiari. Rivedilo rispetto a requisiti forniti e osservazioni effettive. I flussi ChatML, di chiamata di funzione e JSON di Hermes 3 restano distinti dai successivi controlli di ragionamento ibrido e alternato di Hermes 4.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti nousresearch/hermes-3-llama-3.1-405b | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti user, assistant | Predefinito— |
Campomessages[].content | Tipostring | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Testo · Testo UTF-8
Stringa messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages, max_tokens |
Parametrooptional_controls | Contrattostream |
Parametromaterial_types | Contrattotext |
Parametrotext_file_material | ContrattoLeggi il documento UTF-8 effettivo e inserisci il testo nell’ingresso indicato o nella stringa del contenuto del messaggio. |
Ciclo di vita: synchronous_or_streamed
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.002 / 1K token Output · Token in output $0.002 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.002 / 1K token Output · Token in output $0.002 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
{\n "model": "nousresearch/hermes-3-llama-3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva tutti i blocchi di contenuto, le firme di ragionamento e gli ID effettivi di utilizzo degli strumenti. Assembla tutti i delta dei blocchi SSE; il primo blocco di testo non è l’uscita completa.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Usa i percorsi dei metodi indicati sopra.
Esempio tecnico in inglese
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.