Hermes 3 Llama 3.1 70B é a edição generalista de modelo de linguagem com 70 mil milhões de parâmetros da Nous Research na série Hermes 3. Aceita texto e gera uma resposta, trecho escrito, código, registo estruturado ou chamada de ferramenta proposta. O fabricante destaca a orientação pelo utilizador, o raciocínio, a interpretação de personagens, o diálogo em vários turnos e a coerência em contexto longo, juntamente com melhorias em chamadas de funções e geração de código.
Uma instrução de sistema pode definir papel, regras, estilo e requisitos de saída. Para interpretação de personagens, forneça o cenário, o ponto de vista e os limites de cada personagem; para uma tarefa analítica, forneça os trechos de origem e os critérios da conclusão. Um enunciado útil é: «Explique as diferenças entre estes requisitos, preserve os nomes técnicos e identifique o trecho que sustenta cada conclusão.»
Para programação, forneça a implementação relevante, a falha observada, o comportamento esperado e as interfaces que devem permanecer estáveis. Peça o artefacto de código proposto e a explicação e use depois observações efetivas de validação quando for necessária uma revisão. A capacidade de orientar o modelo ajuda a moldar a resposta, mas o enunciado continua a precisar de definir o resultado útil.
Hermes 3 usa ChatML com turnos separados de sistema, utilizador e assistente e limites explícitos. O produtor recomenda formatar a conversa com o modelo de formatação próprio do modelo e acrescentar o prompt de geração do assistente. A mensagem de sistema é opcional; quando usada, deve descrever o contexto da tarefa e o comportamento pretendido, sem substituir o pedido efetivo do utilizador.
Mantenha o histórico do diálogo nos papéis corretos. Numa tarefa contínua de escrita, preserve os factos estabelecidos e diga ao modelo que trecho pode mudar. Para trabalho com fontes, identifique o material como elemento de prova e separe-o das instruções. Isto ajuda uma resposta posterior a reter as restrições da tarefa sem confundir texto citado com um novo comando.
A ficha específica descreve treino da utilização de funções com uma representação de sistema própria, assinaturas de funções e esquemas de parâmetros. O modelo devolve objetos JSON com o nome da função selecionada e os argumentos dentro de etiquetas de chamada de ferramenta. A aplicação envolvente analisa essa proposta, executa a função e devolve uma resposta de ferramenta identificada pelo nome. O modelo usa depois os dados devolvidos para produzir a resposta.
Defina funções com precisão e exija valores reais para os argumentos, em vez de suposições sobre um sistema externo. Uma função de consulta pode fornecer um campo de produto em falta ou um cálculo, enquanto a resposta explica o significado da informação devolvida. Uma chamada gerada é distinta de um resultado executado; preserve a observação com a tarefa.
Hermes 3 documenta também uma instrução de sistema condicionada por um esquema para respostas exclusivamente JSON. Defina campos e tipos e explique como representar informação ausente da fonte. Verifique o objeto gerado tanto na estrutura como na correspondência com a entrada. Uma resposta compatível com um esquema não deve ser tratada como prova de que um valor foi recuperado ou verificado.
A configuração publicada do modelo 70B tem 131 072 posições. Texto de origem, conversa e conteúdo gerado partilham o contexto do fluxo selecionado, e a dimensão de geração exemplificada não é um limite rígido universal de resposta. Reserve espaço para o resultado e mantenha as entradas longas relevantes para a pergunta.
O resultado útil é um texto, proposta de código ou registo estruturado passível de revisão, fundamentado no contexto fornecido e em observações efetivas de ferramentas. Esta edição exata Hermes 3 70B mantém-se distinta do modelo maior de 405 mil milhões de parâmetros e do formato e controlos de raciocínio híbrido do Hermes 4.
", "aboutText": "Hermes 3 Llama 3.1 70B é a edição generalista de modelo de linguagem com 70 mil milhões de parâmetros da Nous Research na série Hermes 3. Aceita texto e gera uma resposta, trecho escrito, código, registo estruturado ou chamada de ferramenta proposta. O fabricante destaca a orientação pelo utilizador, o raciocínio, a interpretação de personagens, o diálogo em vários turnos e a coerência em contexto longo, juntamente com melhorias em chamadas de funções e geração de código.\n\n### Oriente a tarefa e a resposta\n\nUma instrução de sistema pode definir papel, regras, estilo e requisitos de saída. Para interpretação de personagens, forneça o cenário, o ponto de vista e os limites de cada personagem; para uma tarefa analítica, forneça os trechos de origem e os critérios da conclusão. Um enunciado útil é: «Explique as diferenças entre estes requisitos, preserve os nomes técnicos e identifique o trecho que sustenta cada conclusão.»\n\nPara programação, forneça a implementação relevante, a falha observada, o comportamento esperado e as interfaces que devem permanecer estáveis. Peça o artefacto de código proposto e a explicação e use depois observações efetivas de validação quando for necessária uma revisão. A capacidade de orientar o modelo ajuda a moldar a resposta, mas o enunciado continua a precisar de definir o resultado útil.\n\n### Conversa ChatML\n\nHermes 3 usa ChatML com turnos separados de sistema, utilizador e assistente e limites explícitos. O produtor recomenda formatar a conversa com o modelo de formatação próprio do modelo e acrescentar o prompt de geração do assistente. A mensagem de sistema é opcional; quando usada, deve descrever o contexto da tarefa e o comportamento pretendido, sem substituir o pedido efetivo do utilizador.\n\nMantenha o histórico do diálogo nos papéis corretos. Numa tarefa contínua de escrita, preserve os factos estabelecidos e diga ao modelo que trecho pode mudar. Para trabalho com fontes, identifique o material como elemento de prova e separe-o das instruções. Isto ajuda uma resposta posterior a reter as restrições da tarefa sem confundir texto citado com um novo comando.\n\n### Chamadas de funções\n\nA ficha específica descreve treino da utilização de funções com uma representação de sistema própria, assinaturas de funções e esquemas de parâmetros. O modelo devolve objetos JSON com o nome da função selecionada e os argumentos dentro de etiquetas de chamada de ferramenta. A aplicação envolvente analisa essa proposta, executa a função e devolve uma resposta de ferramenta identificada pelo nome. O modelo usa depois os dados devolvidos para produzir a resposta.\n\nDefina funções com precisão e exija valores reais para os argumentos, em vez de suposições sobre um sistema externo. Uma função de consulta pode fornecer um campo de produto em falta ou um cálculo, enquanto a resposta explica o significado da informação devolvida. Uma chamada gerada é distinta de um resultado executado; preserve a observação com a tarefa.\n\n### Modo JSON e limites\n\nHermes 3 documenta também uma instrução de sistema condicionada por um esquema para respostas exclusivamente JSON. Defina campos e tipos e explique como representar informação ausente da fonte. Verifique o objeto gerado tanto na estrutura como na correspondência com a entrada. Uma resposta compatível com um esquema não deve ser tratada como prova de que um valor foi recuperado ou verificado.\n\nA configuração publicada do modelo 70B tem 131 072 posições. Texto de origem, conversa e conteúdo gerado partilham o contexto do fluxo selecionado, e a dimensão de geração exemplificada não é um limite rígido universal de resposta. Reserve espaço para o resultado e mantenha as entradas longas relevantes para a pergunta.\n\nO resultado útil é um texto, proposta de código ou registo estruturado passível de revisão, fundamentado no contexto fornecido e em observações efetivas de ferramentas. Esta edição exata Hermes 3 70B mantém-se distinta do modelo maior de 405 mil milhões de parâmetros e do formato e controlos de raciocínio híbrido do Hermes 4.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemplo técnico em inglês
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B é o modelo de texto generalista e orientável da Nous Research para diálogo em vários turnos, interpretação de personagens, código e tarefas com agentes. O perfil ChatML inclui JSON guiado por esquemas e chamadas de funções etiquetadas, com uma configuração publicada de 131 072 posições.
Esta descrição apresenta as capacidades do modelo. As entradas, saídas e opções disponíveis no Ailoot para o método selecionado estão indicadas abaixo.
Hermes 3 Llama 3.1 70B é a edição generalista de modelo de linguagem com 70 mil milhões de parâmetros da Nous Research na série Hermes 3. Aceita texto e gera uma resposta, trecho escrito, código, registo estruturado ou chamada de ferramenta proposta. O fabricante destaca a orientação pelo utilizador, o raciocínio, a interpretação de personagens, o diálogo em vários turnos e a coerência em contexto longo, juntamente com melhorias em chamadas de funções e geração de código.
Uma instrução de sistema pode definir papel, regras, estilo e requisitos de saída. Para interpretação de personagens, forneça o cenário, o ponto de vista e os limites de cada personagem; para uma tarefa analítica, forneça os trechos de origem e os critérios da conclusão. Um enunciado útil é: «Explique as diferenças entre estes requisitos, preserve os nomes técnicos e identifique o trecho que sustenta cada conclusão.»
Para programação, forneça a implementação relevante, a falha observada, o comportamento esperado e as interfaces que devem permanecer estáveis. Peça o artefacto de código proposto e a explicação e use depois observações efetivas de validação quando for necessária uma revisão. A capacidade de orientar o modelo ajuda a moldar a resposta, mas o enunciado continua a precisar de definir o resultado útil.
Hermes 3 usa ChatML com turnos separados de sistema, utilizador e assistente e limites explícitos. O produtor recomenda formatar a conversa com o modelo de formatação próprio do modelo e acrescentar o prompt de geração do assistente. A mensagem de sistema é opcional; quando usada, deve descrever o contexto da tarefa e o comportamento pretendido, sem substituir o pedido efetivo do utilizador.
Mantenha o histórico do diálogo nos papéis corretos. Numa tarefa contínua de escrita, preserve os factos estabelecidos e diga ao modelo que trecho pode mudar. Para trabalho com fontes, identifique o material como elemento de prova e separe-o das instruções. Isto ajuda uma resposta posterior a reter as restrições da tarefa sem confundir texto citado com um novo comando.
A ficha específica descreve treino da utilização de funções com uma representação de sistema própria, assinaturas de funções e esquemas de parâmetros. O modelo devolve objetos JSON com o nome da função selecionada e os argumentos dentro de etiquetas de chamada de ferramenta. A aplicação envolvente analisa essa proposta, executa a função e devolve uma resposta de ferramenta identificada pelo nome. O modelo usa depois os dados devolvidos para produzir a resposta.
Defina funções com precisão e exija valores reais para os argumentos, em vez de suposições sobre um sistema externo. Uma função de consulta pode fornecer um campo de produto em falta ou um cálculo, enquanto a resposta explica o significado da informação devolvida. Uma chamada gerada é distinta de um resultado executado; preserve a observação com a tarefa.
Hermes 3 documenta também uma instrução de sistema condicionada por um esquema para respostas exclusivamente JSON. Defina campos e tipos e explique como representar informação ausente da fonte. Verifique o objeto gerado tanto na estrutura como na correspondência com a entrada. Uma resposta compatível com um esquema não deve ser tratada como prova de que um valor foi recuperado ou verificado.
A configuração publicada do modelo 70B tem 131 072 posições. Texto de origem, conversa e conteúdo gerado partilham o contexto do fluxo selecionado, e a dimensão de geração exemplificada não é um limite rígido universal de resposta. Reserve espaço para o resultado e mantenha as entradas longas relevantes para a pergunta.
O resultado útil é um texto, proposta de código ou registo estruturado passível de revisão, fundamentado no contexto fornecido e em observações efetivas de ferramentas. Esta edição exata Hermes 3 70B mantém-se distinta do modelo maior de 405 mil milhões de parâmetros e do formato e controlos de raciocínio híbrido do Hermes 4.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores e limites | Predefinição |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObrigatório | Valores e limites nousresearch/hermes-3-llama-3.1-70b | Predefinição— |
Campomessages | Tipomessage[] | RequisitoObrigatório | Valores e limites Número mínimo de elementos: 1 | Predefinição— |
Campomessages[].role | Tipostring | RequisitoObrigatório | Valores e limites Exemplos: system, user, assistant, tool, function Condições: Estes papéis são representados explicitamente pelos tipos de compatibilidade do código-fonte; o conjunto exato de papéis continua específico do modelo. Depende do modelo | Predefinição— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores e limites | Predefinição— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores e limites | Predefinição— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores e limites Aplica-se quando: role=tool; use o ID realmente devolvido | Predefinição— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores e limites Aplica-se quando: Reintroduza o raciocínio realmente devolvido quando este modelo o utiliza | Predefinição— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores e limites Mínimo: 1 Depende do modelo | Predefinição— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores e limites Mínimo: 1 Depende do modelo | Predefinição— |
Campostream | Tipoboolean | RequisitoOpcional | Valores e limites | Predefiniçãofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores e limites function Depende do modelo | Predefinição— |
Campotools[].function.name | Tipostring | RequisitoObrigatório | Valores e limites Aplica-se quando: Função fornecida como ferramenta | Predefinição— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores e limites | Predefinição— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores e limites Campo de compatibilidade | Predefinição— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores e limites text | Predefinição— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores e limites Condições: provider.options é rejeitado nesta rota textual Ultra | Predefinição— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores e limites Condições: 1h é rejeitado nos locais efetivos da cache de prompts | Predefinição— |
Texto · Texto UTF8
messages[].content
| Parâmetro | Contrato |
|---|---|
Parâmetrocontent_type | Contratoapplication/json |
Parâmetrorequired | Contratomodel, messages |
Parâmetromaterial_types | Contratotext |
Parâmetromessages | ContratoLista de mensagens com estrutura role/content |
Parâmetrofile_material | ContratoDocumento UTF-8 real inserido como texto literal; nenhum ID de ficheiro inferido |
Parâmetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parâmetrocontrol_scope | ContratoEspecífico do modelo; as ferramentas de funções do utilizador diferem das ferramentas alojadas |
Parâmetrooutput_modalities | Contratotext |
Parâmetrohosted_operations | Contratofalse |
Parâmetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envie o ID exato do modelo com messages.
O comprimento do contexto não é um limite de saída.
Um ficheiro de texto pode fornecer texto literal; as entradas de imagem/áudio/objeto de ficheiro exigem uma associação exata.
As referências tarifárias não acrescentam opções ao pedido. Os parâmetros suportados constam do método selecionado.
Associe cada custo às condições apresentadas. Use uma única tarifa para cada conjunto de configurações alternativas.
| Configuração | Tabela de tarifas | Tokens de contexto, mais de | Tokens de contexto, até ao limite inclusive | Custo |
|---|---|---|---|---|
| ConfiguraçãoTarifas base dos tokens | Tabela de tarifasTarifa base | Tokens de contexto, mais de— | Tokens de contexto, até ao limite inclusiveSem limite superior | Custo Entrada · Tokens de entrada $0.0014 / 1K tokens Saída · Tokens de saída $0.0014 / 1K tokens Entrada · Leitura da cache — / 1K tokens Entrada · Escrita na cache — / 1K tokens Entrada · Escrita na cache, 1 hora — / 1K tokens |
| ConfiguraçãoEscalão 1 por comprimento do pedido | Tabela de tarifas— | Tokens de contexto, mais de0 | Tokens de contexto, até ao limite inclusiveSem limite superior | Custo Entrada · Tokens de entrada $0.0014 / 1K tokens Saída · Tokens de saída $0.0014 / 1K tokens Entrada · Leitura da cache — / 1K tokens Entrada · Escrita na cache — / 1K tokens Entrada · Escrita na cache, 1 hora — / 1K tokens |
O Ailoot reserva um montante estimado antes de um pedido. Após o resultado, liquida o custo final com base na utilização medida. No streaming, a liquidação usa o registo final de utilização. Como funcionam a reserva e a liquidação →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-70b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Guarde cada resposta, ficheiro e parte de conteúdo devolvidos na íntegra.
Conserve cada opção com o conteúdo, as chamadas de ferramentas e o raciocínio. Em SSE, junte os deltas por índice de opção e ferramenta e mantenha o motivo final de conclusão e os dados de utilização.
Conserve os ID e cabeçalhos de pedido/resposta. Não é fornecido um URL genérico para obter uma tarefa textual.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Resposta | Condição | Passo seguinte |
|---|---|---|
Resposta400 · invalid_request_error | CondiçãoCampos obrigatórios, representação do material ou valor do parâmetro inválidos | Passo seguinteCorrija os campos indicados antes de um novo pedido de criação. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Use os caminhos dos métodos indicados acima.
nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B é o modelo de texto generalista e orientável da Nous Research para diálogo em vários turnos, interpretação de personagens, código e tarefas com agentes. O perfil ChatML inclui JSON guiado por esquemas e chamadas de funções etiquetadas, com uma configuração publicada de 131 072 posições.
Esta descrição apresenta as capacidades do modelo. As entradas, saídas e opções disponíveis no Ailoot para o método selecionado estão indicadas abaixo.
Hermes 3 Llama 3.1 70B é a edição generalista de modelo de linguagem com 70 mil milhões de parâmetros da Nous Research na série Hermes 3. Aceita texto e gera uma resposta, trecho escrito, código, registo estruturado ou chamada de ferramenta proposta. O fabricante destaca a orientação pelo utilizador, o raciocínio, a interpretação de personagens, o diálogo em vários turnos e a coerência em contexto longo, juntamente com melhorias em chamadas de funções e geração de código.
Uma instrução de sistema pode definir papel, regras, estilo e requisitos de saída. Para interpretação de personagens, forneça o cenário, o ponto de vista e os limites de cada personagem; para uma tarefa analítica, forneça os trechos de origem e os critérios da conclusão. Um enunciado útil é: «Explique as diferenças entre estes requisitos, preserve os nomes técnicos e identifique o trecho que sustenta cada conclusão.»
Para programação, forneça a implementação relevante, a falha observada, o comportamento esperado e as interfaces que devem permanecer estáveis. Peça o artefacto de código proposto e a explicação e use depois observações efetivas de validação quando for necessária uma revisão. A capacidade de orientar o modelo ajuda a moldar a resposta, mas o enunciado continua a precisar de definir o resultado útil.
Hermes 3 usa ChatML com turnos separados de sistema, utilizador e assistente e limites explícitos. O produtor recomenda formatar a conversa com o modelo de formatação próprio do modelo e acrescentar o prompt de geração do assistente. A mensagem de sistema é opcional; quando usada, deve descrever o contexto da tarefa e o comportamento pretendido, sem substituir o pedido efetivo do utilizador.
Mantenha o histórico do diálogo nos papéis corretos. Numa tarefa contínua de escrita, preserve os factos estabelecidos e diga ao modelo que trecho pode mudar. Para trabalho com fontes, identifique o material como elemento de prova e separe-o das instruções. Isto ajuda uma resposta posterior a reter as restrições da tarefa sem confundir texto citado com um novo comando.
A ficha específica descreve treino da utilização de funções com uma representação de sistema própria, assinaturas de funções e esquemas de parâmetros. O modelo devolve objetos JSON com o nome da função selecionada e os argumentos dentro de etiquetas de chamada de ferramenta. A aplicação envolvente analisa essa proposta, executa a função e devolve uma resposta de ferramenta identificada pelo nome. O modelo usa depois os dados devolvidos para produzir a resposta.
Defina funções com precisão e exija valores reais para os argumentos, em vez de suposições sobre um sistema externo. Uma função de consulta pode fornecer um campo de produto em falta ou um cálculo, enquanto a resposta explica o significado da informação devolvida. Uma chamada gerada é distinta de um resultado executado; preserve a observação com a tarefa.
Hermes 3 documenta também uma instrução de sistema condicionada por um esquema para respostas exclusivamente JSON. Defina campos e tipos e explique como representar informação ausente da fonte. Verifique o objeto gerado tanto na estrutura como na correspondência com a entrada. Uma resposta compatível com um esquema não deve ser tratada como prova de que um valor foi recuperado ou verificado.
A configuração publicada do modelo 70B tem 131 072 posições. Texto de origem, conversa e conteúdo gerado partilham o contexto do fluxo selecionado, e a dimensão de geração exemplificada não é um limite rígido universal de resposta. Reserve espaço para o resultado e mantenha as entradas longas relevantes para a pergunta.
O resultado útil é um texto, proposta de código ou registo estruturado passível de revisão, fundamentado no contexto fornecido e em observações efetivas de ferramentas. Esta edição exata Hermes 3 70B mantém-se distinta do modelo maior de 405 mil milhões de parâmetros e do formato e controlos de raciocínio híbrido do Hermes 4.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores e limites | Predefinição |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObrigatório | Valores e limites nousresearch/hermes-3-llama-3.1-70b | Predefinição— |
Campomessages | Tipomessage[] | RequisitoObrigatório | Valores e limites | Predefinição— |
Campomessages[].role | Tipostring | RequisitoObrigatório | Valores e limites user, assistant | Predefinição— |
Campomessages[].content | Tipostring | RequisitoObrigatório | Valores e limites | Predefinição— |
Campomax_tokens | Tipointeger | RequisitoObrigatório | Valores e limites | Predefinição— |
Campostream | Tipoboolean | RequisitoOpcional | Valores e limites | Predefiniçãofalse |
Texto · Texto UTF-8
Cadeia de caracteres messages[].content
| Parâmetro | Contrato |
|---|---|
Parâmetrocontent_type | Contratoapplication/json |
Parâmetrorequired | Contratomodel, messages, max_tokens |
Parâmetrooptional_controls | Contratostream |
Parâmetromaterial_types | Contratotext |
Parâmetrotext_file_material | ContratoLeia o documento UTF-8 real e coloque o texto na entrada indicada ou na cadeia de conteúdo da mensagem. |
Ciclo de vida: synchronous_or_streamed
As referências tarifárias não acrescentam opções ao pedido. Os parâmetros suportados constam do método selecionado.
Associe cada custo às condições apresentadas. Use uma única tarifa para cada conjunto de configurações alternativas.
| Configuração | Tabela de tarifas | Tokens de contexto, mais de | Tokens de contexto, até ao limite inclusive | Custo |
|---|---|---|---|---|
| ConfiguraçãoTarifas base dos tokens | Tabela de tarifasTarifa base | Tokens de contexto, mais de— | Tokens de contexto, até ao limite inclusiveSem limite superior | Custo Entrada · Tokens de entrada $0.0014 / 1K tokens Saída · Tokens de saída $0.0014 / 1K tokens Entrada · Leitura da cache — / 1K tokens Entrada · Escrita na cache — / 1K tokens Entrada · Escrita na cache, 1 hora — / 1K tokens |
| ConfiguraçãoEscalão 1 por comprimento do pedido | Tabela de tarifas— | Tokens de contexto, mais de0 | Tokens de contexto, até ao limite inclusiveSem limite superior | Custo Entrada · Tokens de entrada $0.0014 / 1K tokens Saída · Tokens de saída $0.0014 / 1K tokens Entrada · Leitura da cache — / 1K tokens Entrada · Escrita na cache — / 1K tokens Entrada · Escrita na cache, 1 hora — / 1K tokens |
O Ailoot reserva um montante estimado antes de um pedido. Após o resultado, liquida o custo final com base na utilização medida. No streaming, a liquidação usa o registo final de utilização. Como funcionam a reserva e a liquidação →
{\n "model": "nousresearch/hermes-3-llama-3.1-70b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Guarde cada resposta, ficheiro e parte de conteúdo devolvidos na íntegra.
Conserve todos os blocos de conteúdo, as assinaturas de raciocínio e os ID reais de utilização de ferramentas. Junte todos os deltas de blocos SSE; o primeiro bloco de texto não é a saída completa.
Conserve os ID e cabeçalhos de pedido/resposta. Não é fornecido um URL genérico para obter uma tarefa textual.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Resposta | Condição | Passo seguinte |
|---|---|---|
Resposta400 · invalid_request_error | CondiçãoCampos obrigatórios, representação do material ou valor do parâmetro inválidos | Passo seguinteCorrija os campos indicados antes de um novo pedido de criação. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Use os caminhos dos métodos indicados acima.
Exemplo técnico em inglês
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.