Hermes 3 Llama 3.1 405B es el modelo de texto generalista grande de Nous Research, desarrollado mediante ajuste fino de todos los parámetros de Llama 3.1 405B. El fabricante destaca la alineación con las instrucciones del usuario, la capacidad de orientación, la interpretación de roles, el razonamiento, la conversación de varios turnos y la coherencia en contextos largos. La salida es texto, incluidas respuestas, contenido escrito, código, registros estructurados e información de llamadas a funciones.
Este es el perfil grande de Hermes 3, separado de su compañero de 70 mil millones de parámetros y de la versión posterior de razonamiento Hermes 4. El fabricante amplía las capacidades anteriores de Hermes con mejoras en llamadas a funciones, salidas estructuradas y generación de código. Proporciona a una tarea sus pruebas reales y la forma final requerida, en lugar de suponer que la escala del modelo aporta las fuentes ausentes o un criterio de finalización.
Para analizar documentos, etiqueta los pasajes e identifica los criterios de comparación. Pide la fuente pertinente junto a cada conclusión y especifica el tratamiento de la información ausente. Para un encargo de redacción, indica el público, el tono y los hechos que deben sobrevivir a una revisión. Un prompt práctico es: «Reescribe esta explicación para el lector indicado, conserva los términos definidos e identifica cualquier afirmación sin respaldo que necesite aclaración».
Hermes 3 utiliza ChatML para separar instrucciones del sistema, mensajes del usuario y respuestas del asistente. Su propia plantilla puede construir la conversación y añadir el prefijo de generación del asistente. Las instrucciones del sistema orientan el papel, las reglas y el estilo; son opcionales cuando la tarea no requiere un preámbulo especial.
Una conversación en curso debe mantener el texto de origen separado de las instrucciones y conservar los hechos aceptados en el contexto pertinente. Para interpretar roles, identifica quién controla cada personaje y qué eventos están establecidos. Para código, indica el comportamiento que cambia y los contratos que permanecen intactos. El entregable deseado debe seguir visible durante el diálogo.
La ficha específica del modelo documenta firmas de funciones dentro de su representación de definición de herramientas y un esquema de respuesta requerido para el nombre de la función y los argumentos. El modelo genera objetos JSON de llamada etiquetados. La aplicación analiza y ejecuta la operación seleccionada y después devuelve su resultado en una respuesta de herramienta identificada por su nombre. La siguiente respuesta del asistente puede explicar los datos reales.
Asigna a cada función una finalidad clara y descripciones precisas de parámetros. No dejes que una consulta propuesta sustituya a una fuente devuelta. Mantén la observación asociada a la operación seleccionada para que una conclusión final pueda identificar qué la respalda. Del mismo modo, el código generado sigue siendo una propuesta hasta que se inspecciona y ejecuta en el entorno previsto.
El modo JSON de Hermes 3 se entrena con una instrucción del sistema que contiene el esquema deseado y solicita un objeto JSON como respuesta. Define los campos y cómo representar valores de origen ausentes o contradictorios. Valida la estructura y revisa los hechos incluso cuando el objeto siga el esquema.
La configuración publicada establece max_position_embeddings en 131.072. Distribuye conjuntamente instrucciones, documentos, historial, resultados de herramientas y respuesta; este campo no establece un límite máximo universal e independiente de salida. El modelo completo del productor y las variantes cuantizadas publicadas por separado tienen sus propias identidades de precisión, por lo que esas variantes no deben sustituir silenciosamente al perfil nombrado de 405 mil millones de parámetros.
Un entregable útil es un resultado de texto o código con sus suposiciones y conexiones con las fuentes claras. Revísalo frente a los requisitos proporcionados y las observaciones reales. Los flujos ChatML, de llamadas a funciones y de JSON de Hermes 3 siguen siendo distintos de los controles posteriores de pensamiento híbrido y razonamiento intercalado de Hermes 4.
", "aboutText": "Hermes 3 Llama 3.1 405B es el modelo de texto generalista grande de Nous Research, desarrollado mediante ajuste fino de todos los parámetros de Llama 3.1 405B. El fabricante destaca la alineación con las instrucciones del usuario, la capacidad de orientación, la interpretación de roles, el razonamiento, la conversación de varios turnos y la coherencia en contextos largos. La salida es texto, incluidas respuestas, contenido escrito, código, registros estructurados e información de llamadas a funciones.\n\n### La edición de 405 mil millones de parámetros\n\nEste es el perfil grande de Hermes 3, separado de su compañero de 70 mil millones de parámetros y de la versión posterior de razonamiento Hermes 4. El fabricante amplía las capacidades anteriores de Hermes con mejoras en llamadas a funciones, salidas estructuradas y generación de código. Proporciona a una tarea sus pruebas reales y la forma final requerida, en lugar de suponer que la escala del modelo aporta las fuentes ausentes o un criterio de finalización.\n\nPara analizar documentos, etiqueta los pasajes e identifica los criterios de comparación. Pide la fuente pertinente junto a cada conclusión y especifica el tratamiento de la información ausente. Para un encargo de redacción, indica el público, el tono y los hechos que deben sobrevivir a una revisión. Un prompt práctico es: «Reescribe esta explicación para el lector indicado, conserva los términos definidos e identifica cualquier afirmación sin respaldo que necesite aclaración».\n\n### Formato del prompt y diálogo\n\nHermes 3 utiliza ChatML para separar instrucciones del sistema, mensajes del usuario y respuestas del asistente. Su propia plantilla puede construir la conversación y añadir el prefijo de generación del asistente. Las instrucciones del sistema orientan el papel, las reglas y el estilo; son opcionales cuando la tarea no requiere un preámbulo especial.\n\nUna conversación en curso debe mantener el texto de origen separado de las instrucciones y conservar los hechos aceptados en el contexto pertinente. Para interpretar roles, identifica quién controla cada personaje y qué eventos están establecidos. Para código, indica el comportamiento que cambia y los contratos que permanecen intactos. El entregable deseado debe seguir visible durante el diálogo.\n\n### Funciones y observaciones de fuentes\n\nLa ficha específica del modelo documenta firmas de funciones dentro de su representación de definición de herramientas y un esquema de respuesta requerido para el nombre de la función y los argumentos. El modelo genera objetos JSON de llamada etiquetados. La aplicación analiza y ejecuta la operación seleccionada y después devuelve su resultado en una respuesta de herramienta identificada por su nombre. La siguiente respuesta del asistente puede explicar los datos reales.\n\nAsigna a cada función una finalidad clara y descripciones precisas de parámetros. No dejes que una consulta propuesta sustituya a una fuente devuelta. Mantén la observación asociada a la operación seleccionada para que una conclusión final pueda identificar qué la respalda. Del mismo modo, el código generado sigue siendo una propuesta hasta que se inspecciona y ejecuta en el entorno previsto.\n\n### Resultados JSON, contexto y precisión\n\nEl modo JSON de Hermes 3 se entrena con una instrucción del sistema que contiene el esquema deseado y solicita un objeto JSON como respuesta. Define los campos y cómo representar valores de origen ausentes o contradictorios. Valida la estructura y revisa los hechos incluso cuando el objeto siga el esquema.\n\nLa configuración publicada establece max_position_embeddings en 131.072. Distribuye conjuntamente instrucciones, documentos, historial, resultados de herramientas y respuesta; este campo no establece un límite máximo universal e independiente de salida. El modelo completo del productor y las variantes cuantizadas publicadas por separado tienen sus propias identidades de precisión, por lo que esas variantes no deben sustituir silenciosamente al perfil nombrado de 405 mil millones de parámetros.\n\nUn entregable útil es un resultado de texto o código con sus suposiciones y conexiones con las fuentes claras. Revísalo frente a los requisitos proporcionados y las observaciones reales. Los flujos ChatML, de llamadas a funciones y de JSON de Hermes 3 siguen siendo distintos de los controles posteriores de pensamiento híbrido y razonamiento intercalado de Hermes 4.", "editorialOverlay": { "copy_fields": { "practical_html": "Ejemplo técnico en inglés
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B es el ajuste fino generalista de texto de Nous Research que abarca todos los parámetros del modelo de 405 mil millones. Su diálogo ChatML orientable, JSON guiado por esquema y formato de llamadas a funciones permiten análisis de fuentes, redacción, código y trabajo de varios pasos con observaciones devueltas por herramientas de la aplicación.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Hermes 3 Llama 3.1 405B es el modelo de texto generalista grande de Nous Research, desarrollado mediante ajuste fino de todos los parámetros de Llama 3.1 405B. El fabricante destaca la alineación con las instrucciones del usuario, la capacidad de orientación, la interpretación de roles, el razonamiento, la conversación de varios turnos y la coherencia en contextos largos. La salida es texto, incluidas respuestas, contenido escrito, código, registros estructurados e información de llamadas a funciones.
Este es el perfil grande de Hermes 3, separado de su compañero de 70 mil millones de parámetros y de la versión posterior de razonamiento Hermes 4. El fabricante amplía las capacidades anteriores de Hermes con mejoras en llamadas a funciones, salidas estructuradas y generación de código. Proporciona a una tarea sus pruebas reales y la forma final requerida, en lugar de suponer que la escala del modelo aporta las fuentes ausentes o un criterio de finalización.
Para analizar documentos, etiqueta los pasajes e identifica los criterios de comparación. Pide la fuente pertinente junto a cada conclusión y especifica el tratamiento de la información ausente. Para un encargo de redacción, indica el público, el tono y los hechos que deben sobrevivir a una revisión. Un prompt práctico es: «Reescribe esta explicación para el lector indicado, conserva los términos definidos e identifica cualquier afirmación sin respaldo que necesite aclaración».
Hermes 3 utiliza ChatML para separar instrucciones del sistema, mensajes del usuario y respuestas del asistente. Su propia plantilla puede construir la conversación y añadir el prefijo de generación del asistente. Las instrucciones del sistema orientan el papel, las reglas y el estilo; son opcionales cuando la tarea no requiere un preámbulo especial.
Una conversación en curso debe mantener el texto de origen separado de las instrucciones y conservar los hechos aceptados en el contexto pertinente. Para interpretar roles, identifica quién controla cada personaje y qué eventos están establecidos. Para código, indica el comportamiento que cambia y los contratos que permanecen intactos. El entregable deseado debe seguir visible durante el diálogo.
La ficha específica del modelo documenta firmas de funciones dentro de su representación de definición de herramientas y un esquema de respuesta requerido para el nombre de la función y los argumentos. El modelo genera objetos JSON de llamada etiquetados. La aplicación analiza y ejecuta la operación seleccionada y después devuelve su resultado en una respuesta de herramienta identificada por su nombre. La siguiente respuesta del asistente puede explicar los datos reales.
Asigna a cada función una finalidad clara y descripciones precisas de parámetros. No dejes que una consulta propuesta sustituya a una fuente devuelta. Mantén la observación asociada a la operación seleccionada para que una conclusión final pueda identificar qué la respalda. Del mismo modo, el código generado sigue siendo una propuesta hasta que se inspecciona y ejecuta en el entorno previsto.
El modo JSON de Hermes 3 se entrena con una instrucción del sistema que contiene el esquema deseado y solicita un objeto JSON como respuesta. Define los campos y cómo representar valores de origen ausentes o contradictorios. Valida la estructura y revisa los hechos incluso cuando el objeto siga el esquema.
La configuración publicada establece max_position_embeddings en 131.072. Distribuye conjuntamente instrucciones, documentos, historial, resultados de herramientas y respuesta; este campo no establece un límite máximo universal e independiente de salida. El modelo completo del productor y las variantes cuantizadas publicadas por separado tienen sus propias identidades de precisión, por lo que esas variantes no deben sustituir silenciosamente al perfil nombrado de 405 mil millones de parámetros.
Un entregable útil es un resultado de texto o código con sus suposiciones y conexiones con las fuentes claras. Revísalo frente a los requisitos proporcionados y las observaciones reales. Los flujos ChatML, de llamadas a funciones y de JSON de Hermes 3 siguen siendo distintos de los controles posteriores de pensamiento híbrido y razonamiento intercalado de Hermes 4.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites nousresearch/hermes-3-llama-3.1-405b | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites Ejemplos: system, user, assistant, tool, function Condiciones: Estos roles están representados explícitamente por los tipos de compatibilidad del código fuente; el conjunto exacto de roles depende del modelo. Depende del modelo | Predeterminado— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: role=tool; utiliza el ID real devuelto | Predeterminado— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: Devuelve en los turnos siguientes el razonamiento realmente recibido cuando este modelo lo utilice | Predeterminado— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores y límites function Depende del modelo | Predeterminado— |
Campotools[].function.name | Tipostring | RequisitoObligatorio | Valores y límites Se aplica cuando: herramienta de función proporcionada | Predeterminado— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores y límites Campo de compatibilidad | Predeterminado— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores y límites text | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza en esta ruta de texto Ultra | Predeterminado— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores y límites Condiciones: 1h se rechaza en los campos reales de caché de instrucciones | Predeterminado— |
Texto · Texto UTF8
messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages |
Parámetromaterial_types | Contratotext |
Parámetromessages | Contratomatriz de mensajes con estructura role/content |
Parámetrofile_material | Contratodocumento real en UTF-8 insertado como texto literal; no se deduce ningún ID de archivo |
Parámetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parámetrocontrol_scope | Contratodepende del modelo; las herramientas de funciones del usuario difieren de las herramientas alojadas |
Parámetrooutput_modalities | Contratotext |
Parámetrohosted_operations | Contratofalse |
Parámetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envía el ID exacto del modelo junto con messages.
La longitud del contexto no es un límite máximo de salida.
Un archivo de texto puede aportar texto literal; las entradas de imagen, audio u objetos de archivo requieren una vinculación exacta.
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.002 / 1K tokens Salida · Tokens de salida $0.002 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.002 / 1K tokens Salida · Tokens de salida $0.002 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada alternativa y su contenido, llamadas de herramientas y razonamiento. En SSE, ensambla los fragmentos incrementales por índice de alternativa/herramienta y conserva el motivo final de terminación y el uso.
Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Usa las rutas de método indicadas arriba.
nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B es el ajuste fino generalista de texto de Nous Research que abarca todos los parámetros del modelo de 405 mil millones. Su diálogo ChatML orientable, JSON guiado por esquema y formato de llamadas a funciones permiten análisis de fuentes, redacción, código y trabajo de varios pasos con observaciones devueltas por herramientas de la aplicación.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Hermes 3 Llama 3.1 405B es el modelo de texto generalista grande de Nous Research, desarrollado mediante ajuste fino de todos los parámetros de Llama 3.1 405B. El fabricante destaca la alineación con las instrucciones del usuario, la capacidad de orientación, la interpretación de roles, el razonamiento, la conversación de varios turnos y la coherencia en contextos largos. La salida es texto, incluidas respuestas, contenido escrito, código, registros estructurados e información de llamadas a funciones.
Este es el perfil grande de Hermes 3, separado de su compañero de 70 mil millones de parámetros y de la versión posterior de razonamiento Hermes 4. El fabricante amplía las capacidades anteriores de Hermes con mejoras en llamadas a funciones, salidas estructuradas y generación de código. Proporciona a una tarea sus pruebas reales y la forma final requerida, en lugar de suponer que la escala del modelo aporta las fuentes ausentes o un criterio de finalización.
Para analizar documentos, etiqueta los pasajes e identifica los criterios de comparación. Pide la fuente pertinente junto a cada conclusión y especifica el tratamiento de la información ausente. Para un encargo de redacción, indica el público, el tono y los hechos que deben sobrevivir a una revisión. Un prompt práctico es: «Reescribe esta explicación para el lector indicado, conserva los términos definidos e identifica cualquier afirmación sin respaldo que necesite aclaración».
Hermes 3 utiliza ChatML para separar instrucciones del sistema, mensajes del usuario y respuestas del asistente. Su propia plantilla puede construir la conversación y añadir el prefijo de generación del asistente. Las instrucciones del sistema orientan el papel, las reglas y el estilo; son opcionales cuando la tarea no requiere un preámbulo especial.
Una conversación en curso debe mantener el texto de origen separado de las instrucciones y conservar los hechos aceptados en el contexto pertinente. Para interpretar roles, identifica quién controla cada personaje y qué eventos están establecidos. Para código, indica el comportamiento que cambia y los contratos que permanecen intactos. El entregable deseado debe seguir visible durante el diálogo.
La ficha específica del modelo documenta firmas de funciones dentro de su representación de definición de herramientas y un esquema de respuesta requerido para el nombre de la función y los argumentos. El modelo genera objetos JSON de llamada etiquetados. La aplicación analiza y ejecuta la operación seleccionada y después devuelve su resultado en una respuesta de herramienta identificada por su nombre. La siguiente respuesta del asistente puede explicar los datos reales.
Asigna a cada función una finalidad clara y descripciones precisas de parámetros. No dejes que una consulta propuesta sustituya a una fuente devuelta. Mantén la observación asociada a la operación seleccionada para que una conclusión final pueda identificar qué la respalda. Del mismo modo, el código generado sigue siendo una propuesta hasta que se inspecciona y ejecuta en el entorno previsto.
El modo JSON de Hermes 3 se entrena con una instrucción del sistema que contiene el esquema deseado y solicita un objeto JSON como respuesta. Define los campos y cómo representar valores de origen ausentes o contradictorios. Valida la estructura y revisa los hechos incluso cuando el objeto siga el esquema.
La configuración publicada establece max_position_embeddings en 131.072. Distribuye conjuntamente instrucciones, documentos, historial, resultados de herramientas y respuesta; este campo no establece un límite máximo universal e independiente de salida. El modelo completo del productor y las variantes cuantizadas publicadas por separado tienen sus propias identidades de precisión, por lo que esas variantes no deben sustituir silenciosamente al perfil nombrado de 405 mil millones de parámetros.
Un entregable útil es un resultado de texto o código con sus suposiciones y conexiones con las fuentes claras. Revísalo frente a los requisitos proporcionados y las observaciones reales. Los flujos ChatML, de llamadas a funciones y de JSON de Hermes 3 siguen siendo distintos de los controles posteriores de pensamiento híbrido y razonamiento intercalado de Hermes 4.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites nousresearch/hermes-3-llama-3.1-405b | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites user, assistant | Predeterminado— |
Campomessages[].content | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Texto · Texto UTF-8
cadena messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages, max_tokens |
Parámetrooptional_controls | Contratostream |
Parámetromaterial_types | Contratotext |
Parámetrotext_file_material | ContratoLee el documento real en UTF-8 y coloca su texto en el campo input indicado o en la cadena de contenido del mensaje. |
Ciclo de vida: synchronous_or_streamed
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.002 / 1K tokens Salida · Tokens de salida $0.002 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.002 / 1K tokens Salida · Tokens de salida $0.002 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
{\n "model": "nousresearch/hermes-3-llama-3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva todos los bloques de contenido, las firmas de razonamiento y los ID reales de uso de herramientas. Ensambla todos los fragmentos incrementales de los bloques SSE; el primer bloque de texto no constituye la salida completa.
Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Usa las rutas de método indicadas arriba.
Ejemplo técnico en inglés
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.