Hermes 4 405B er Nous Researchs resonneringsmodell med hybridmodus basert på Llama 3.1 405B. Den tar imot tekst og produserer tekst, blant annet et endelig svar, kode, strukturert JSON eller innhold til verktøykall. Produsenten utvikler utgaven rundt verifiserte resonneringsspor, sterk brukerstyrbarhet og formatriktige utdata, samtidig som generelle assistentoppgaver og kreative skriveoppgaver beholdes.
Produsenten beskriver et utvidet ettertreningskorpus på omtrent fem millioner eksempler og seksti milliarder tokener som blander data med og uten resonnering. Hermes 4 legger til en eksplisitt hybrid resonneringsmodus, forbedrer målatferden for matematikk, kode, STEM og logikk, og er trent til å følge JSON-skjemaer og reparere feilformede objekter. Dette er utgaveendringer; promptrepresentasjonen og den tidligere atferden til Hermes 3 skal ikke erstatte dem.
For en resonneringsoppgave gir du hele problemet, definisjonene og begrensningene. Be om den endelige løsningen eller kodeartefaktet separat fra den mellomliggende analysen. En praktisk oppgavebeskrivelse er: «Sammenlign disse betingelsene med den foreslåtte løsningen, identifiser steget som mangler støtte, og returner en korrigert konklusjon med antakelsene den bruker.»
Hermes 4 bruker Llama 3-chatformatet med rolleoverskrifter. Produsenten kan aktivere resonnering gjennom thinking-flagget i chatmalen eller en systeminstruksjon som definerer denne atferden. Når modellen overveier, omsluttes tenkningen av egne markører før det endelige svaret. Ytterligere systeminstruksjoner kan forme rollen, stilen og svarformatet.
Referansen tilbyr også keep_cots for å beholde tenkningsinnhold. Dette er et malalternativ, ikke en påstand om ubegrenset minne. Hold godkjente fakta og oppgavekrav tydelige slik at mellomliggende ideer kan skilles fra endelige funn. For skriving angir du perspektiv, tone og materialet som skal bevares; for uttrekk definerer du dataposten du ønsker fremfor å basere deg på en åpen assistentstil.
Hermes 4 støtter funksjonskall som veksler med resonnering i én assistentrunde. Verktøy har navn, beskrivelser og parameterskjemaer, oppgitt gjennom produsentens systemrepresentasjon eller tools-feltet som tolkes av malen. Modellen sender ut merkede JSON-kallobjekter. Applikasjonen tolker og utfører den valgte funksjonen og returnerer et verktøysvar, og deretter kan modellen fortsette analysen og gi svaret.
For et JSON-resultat gir du skjemaet og betydningen av hvert felt. Trening i å følge skjemaer eller reparere feilformede objekter fastslår ikke at alle returnerte verdier er faktiske. Sammenlign objektet med kilden, bevar bevisgrunnlaget for uttrukne felter og valider foreslåtte funksjonsargumenter før de brukes.
Den publiserte modellkonfigurasjonen setter max_position_embeddings til 131 072. Fordel kildemateriale, samtale, resonnering, verktøyresultater og svar innenfor konteksten til den valgte arbeidsflyten; dette posisjonsfeltet er ikke en uavhengig absolutt utdatagrense. Nous anbefaler temperatur 0.6, top-p 0.95 og top-k 20 for referansevarianten for sampling.
Et nyttig resultat er et kildeunderbygget svar, et kodeforslag, en strukturert datapost eller et skriftlig utdrag der begrensningene kan kontrolleres. Gjennomgå generert kode i den tiltenkte applikasjonen og bruk faktiske returnerte observasjoner ved oppfølging. Hold den konkrete Hermes 4 405B-utgaven, Llama-chatformatet og hybridverktøyflyten atskilt fra mindre varianter, Hermes 3 ChatML og andre Llama-avledede modeller.
", "aboutText": "Hermes 4 405B er Nous Researchs resonneringsmodell med hybridmodus basert på Llama 3.1 405B. Den tar imot tekst og produserer tekst, blant annet et endelig svar, kode, strukturert JSON eller innhold til verktøykall. Produsenten utvikler utgaven rundt verifiserte resonneringsspor, sterk brukerstyrbarhet og formatriktige utdata, samtidig som generelle assistentoppgaver og kreative skriveoppgaver beholdes.\n\n### Hva endres fra Hermes 3\n\nProdusenten beskriver et utvidet ettertreningskorpus på omtrent fem millioner eksempler og seksti milliarder tokener som blander data med og uten resonnering. Hermes 4 legger til en eksplisitt hybrid resonneringsmodus, forbedrer målatferden for matematikk, kode, STEM og logikk, og er trent til å følge JSON-skjemaer og reparere feilformede objekter. Dette er utgaveendringer; promptrepresentasjonen og den tidligere atferden til Hermes 3 skal ikke erstatte dem.\n\nFor en resonneringsoppgave gir du hele problemet, definisjonene og begrensningene. Be om den endelige løsningen eller kodeartefaktet separat fra den mellomliggende analysen. En praktisk oppgavebeskrivelse er: «Sammenlign disse betingelsene med den foreslåtte løsningen, identifiser steget som mangler støtte, og returner en korrigert konklusjon med antakelsene den bruker.»\n\n### Promptformat og tenkning\n\nHermes 4 bruker Llama 3-chatformatet med rolleoverskrifter. Produsenten kan aktivere resonnering gjennom thinking-flagget i chatmalen eller en systeminstruksjon som definerer denne atferden. Når modellen overveier, omsluttes tenkningen av egne markører før det endelige svaret. Ytterligere systeminstruksjoner kan forme rollen, stilen og svarformatet.\n\nReferansen tilbyr også keep_cots for å beholde tenkningsinnhold. Dette er et malalternativ, ikke en påstand om ubegrenset minne. Hold godkjente fakta og oppgavekrav tydelige slik at mellomliggende ideer kan skilles fra endelige funn. For skriving angir du perspektiv, tone og materialet som skal bevares; for uttrekk definerer du dataposten du ønsker fremfor å basere deg på en åpen assistentstil.\n\n### Verktøy og strukturerte utdata\n\nHermes 4 støtter funksjonskall som veksler med resonnering i én assistentrunde. Verktøy har navn, beskrivelser og parameterskjemaer, oppgitt gjennom produsentens systemrepresentasjon eller tools-feltet som tolkes av malen. Modellen sender ut merkede JSON-kallobjekter. Applikasjonen tolker og utfører den valgte funksjonen og returnerer et verktøysvar, og deretter kan modellen fortsette analysen og gi svaret.\n\nFor et JSON-resultat gir du skjemaet og betydningen av hvert felt. Trening i å følge skjemaer eller reparere feilformede objekter fastslår ikke at alle returnerte verdier er faktiske. Sammenlign objektet med kilden, bevar bevisgrunnlaget for uttrukne felter og valider foreslåtte funksjonsargumenter før de brukes.\n\n### Kontekst og genereringsveiledning\n\nDen publiserte modellkonfigurasjonen setter max_position_embeddings til 131 072. Fordel kildemateriale, samtale, resonnering, verktøyresultater og svar innenfor konteksten til den valgte arbeidsflyten; dette posisjonsfeltet er ikke en uavhengig absolutt utdatagrense. Nous anbefaler temperatur 0.6, top-p 0.95 og top-k 20 for referansevarianten for sampling.\n\nEt nyttig resultat er et kildeunderbygget svar, et kodeforslag, en strukturert datapost eller et skriftlig utdrag der begrensningene kan kontrolleres. Gjennomgå generert kode i den tiltenkte applikasjonen og bruk faktiske returnerte observasjoner ved oppfølging. Hold den konkrete Hermes 4 405B-utgaven, Llama-chatformatet og hybridverktøyflyten atskilt fra mindre varianter, Hermes 3 ChatML og andre Llama-avledede modeller.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Repair an extracted record\n\nRepair this draft record using only the source sentence. Source: 'Shipment R18 contains 14 blue lamps; delivery date is not yet agreed.' Draft: {shipment: 'R18', quantity: '41', colour: 'blue', delivery_date: 'Friday'}. Return valid JSON with shipment, quantity, colour and delivery_date; quantity must be an integer and an unknown date must be null. Briefly list the corrected fields afterward.A requested JSON object with corrected quantity and unknown date, followed by a brief correction list.Parsing succeeds and no field contradicts the source; quantity is 14 and delivery_date is null.nousresearch/hermes-4-405bHermes 4 405B er Nous Researchs tekstmodell med hybrid resonnering basert på Llama 3.1 405B. Den kombinerer styrbar chat, eksplisitt tenkning, skjematrent JSON og vekslende funksjonskall for matematikk, programmering, analytisk arbeid og kontrollert kreativ skriving.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Hermes 4 405B er Nous Researchs resonneringsmodell med hybridmodus basert på Llama 3.1 405B. Den tar imot tekst og produserer tekst, blant annet et endelig svar, kode, strukturert JSON eller innhold til verktøykall. Produsenten utvikler utgaven rundt verifiserte resonneringsspor, sterk brukerstyrbarhet og formatriktige utdata, samtidig som generelle assistentoppgaver og kreative skriveoppgaver beholdes.
Produsenten beskriver et utvidet ettertreningskorpus på omtrent fem millioner eksempler og seksti milliarder tokener som blander data med og uten resonnering. Hermes 4 legger til en eksplisitt hybrid resonneringsmodus, forbedrer målatferden for matematikk, kode, STEM og logikk, og er trent til å følge JSON-skjemaer og reparere feilformede objekter. Dette er utgaveendringer; promptrepresentasjonen og den tidligere atferden til Hermes 3 skal ikke erstatte dem.
For en resonneringsoppgave gir du hele problemet, definisjonene og begrensningene. Be om den endelige løsningen eller kodeartefaktet separat fra den mellomliggende analysen. En praktisk oppgavebeskrivelse er: «Sammenlign disse betingelsene med den foreslåtte løsningen, identifiser steget som mangler støtte, og returner en korrigert konklusjon med antakelsene den bruker.»
Hermes 4 bruker Llama 3-chatformatet med rolleoverskrifter. Produsenten kan aktivere resonnering gjennom thinking-flagget i chatmalen eller en systeminstruksjon som definerer denne atferden. Når modellen overveier, omsluttes tenkningen av egne markører før det endelige svaret. Ytterligere systeminstruksjoner kan forme rollen, stilen og svarformatet.
Referansen tilbyr også keep_cots for å beholde tenkningsinnhold. Dette er et malalternativ, ikke en påstand om ubegrenset minne. Hold godkjente fakta og oppgavekrav tydelige slik at mellomliggende ideer kan skilles fra endelige funn. For skriving angir du perspektiv, tone og materialet som skal bevares; for uttrekk definerer du dataposten du ønsker fremfor å basere deg på en åpen assistentstil.
Hermes 4 støtter funksjonskall som veksler med resonnering i én assistentrunde. Verktøy har navn, beskrivelser og parameterskjemaer, oppgitt gjennom produsentens systemrepresentasjon eller tools-feltet som tolkes av malen. Modellen sender ut merkede JSON-kallobjekter. Applikasjonen tolker og utfører den valgte funksjonen og returnerer et verktøysvar, og deretter kan modellen fortsette analysen og gi svaret.
For et JSON-resultat gir du skjemaet og betydningen av hvert felt. Trening i å følge skjemaer eller reparere feilformede objekter fastslår ikke at alle returnerte verdier er faktiske. Sammenlign objektet med kilden, bevar bevisgrunnlaget for uttrukne felter og valider foreslåtte funksjonsargumenter før de brukes.
Den publiserte modellkonfigurasjonen setter max_position_embeddings til 131 072. Fordel kildemateriale, samtale, resonnering, verktøyresultater og svar innenfor konteksten til den valgte arbeidsflyten; dette posisjonsfeltet er ikke en uavhengig absolutt utdatagrense. Nous anbefaler temperatur 0.6, top-p 0.95 og top-k 20 for referansevarianten for sampling.
Et nyttig resultat er et kildeunderbygget svar, et kodeforslag, en strukturert datapost eller et skriftlig utdrag der begrensningene kan kontrolleres. Gjennomgå generert kode i den tiltenkte applikasjonen og bruk faktiske returnerte observasjoner ved oppfølging. Hold den konkrete Hermes 4 405B-utgaven, Llama-chatformatet og hybridverktøyflyten atskilt fra mindre varianter, Hermes 3 ChatML og andre Llama-avledede modeller.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser nousresearch/hermes-4-405b | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.002 / 1K tokener Utdata · Utgående tokener $0.006 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.002 / 1K tokener Utdata · Utgående tokener $0.006 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-4-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-4-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-4-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra nousresearch/hermes-4-405b
Bruk metodestiene som vises ovenfor.
nousresearch/hermes-4-405bHermes 4 405B er Nous Researchs tekstmodell med hybrid resonnering basert på Llama 3.1 405B. Den kombinerer styrbar chat, eksplisitt tenkning, skjematrent JSON og vekslende funksjonskall for matematikk, programmering, analytisk arbeid og kontrollert kreativ skriving.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Hermes 4 405B er Nous Researchs resonneringsmodell med hybridmodus basert på Llama 3.1 405B. Den tar imot tekst og produserer tekst, blant annet et endelig svar, kode, strukturert JSON eller innhold til verktøykall. Produsenten utvikler utgaven rundt verifiserte resonneringsspor, sterk brukerstyrbarhet og formatriktige utdata, samtidig som generelle assistentoppgaver og kreative skriveoppgaver beholdes.
Produsenten beskriver et utvidet ettertreningskorpus på omtrent fem millioner eksempler og seksti milliarder tokener som blander data med og uten resonnering. Hermes 4 legger til en eksplisitt hybrid resonneringsmodus, forbedrer målatferden for matematikk, kode, STEM og logikk, og er trent til å følge JSON-skjemaer og reparere feilformede objekter. Dette er utgaveendringer; promptrepresentasjonen og den tidligere atferden til Hermes 3 skal ikke erstatte dem.
For en resonneringsoppgave gir du hele problemet, definisjonene og begrensningene. Be om den endelige løsningen eller kodeartefaktet separat fra den mellomliggende analysen. En praktisk oppgavebeskrivelse er: «Sammenlign disse betingelsene med den foreslåtte løsningen, identifiser steget som mangler støtte, og returner en korrigert konklusjon med antakelsene den bruker.»
Hermes 4 bruker Llama 3-chatformatet med rolleoverskrifter. Produsenten kan aktivere resonnering gjennom thinking-flagget i chatmalen eller en systeminstruksjon som definerer denne atferden. Når modellen overveier, omsluttes tenkningen av egne markører før det endelige svaret. Ytterligere systeminstruksjoner kan forme rollen, stilen og svarformatet.
Referansen tilbyr også keep_cots for å beholde tenkningsinnhold. Dette er et malalternativ, ikke en påstand om ubegrenset minne. Hold godkjente fakta og oppgavekrav tydelige slik at mellomliggende ideer kan skilles fra endelige funn. For skriving angir du perspektiv, tone og materialet som skal bevares; for uttrekk definerer du dataposten du ønsker fremfor å basere deg på en åpen assistentstil.
Hermes 4 støtter funksjonskall som veksler med resonnering i én assistentrunde. Verktøy har navn, beskrivelser og parameterskjemaer, oppgitt gjennom produsentens systemrepresentasjon eller tools-feltet som tolkes av malen. Modellen sender ut merkede JSON-kallobjekter. Applikasjonen tolker og utfører den valgte funksjonen og returnerer et verktøysvar, og deretter kan modellen fortsette analysen og gi svaret.
For et JSON-resultat gir du skjemaet og betydningen av hvert felt. Trening i å følge skjemaer eller reparere feilformede objekter fastslår ikke at alle returnerte verdier er faktiske. Sammenlign objektet med kilden, bevar bevisgrunnlaget for uttrukne felter og valider foreslåtte funksjonsargumenter før de brukes.
Den publiserte modellkonfigurasjonen setter max_position_embeddings til 131 072. Fordel kildemateriale, samtale, resonnering, verktøyresultater og svar innenfor konteksten til den valgte arbeidsflyten; dette posisjonsfeltet er ikke en uavhengig absolutt utdatagrense. Nous anbefaler temperatur 0.6, top-p 0.95 og top-k 20 for referansevarianten for sampling.
Et nyttig resultat er et kildeunderbygget svar, et kodeforslag, en strukturert datapost eller et skriftlig utdrag der begrensningene kan kontrolleres. Gjennomgå generert kode i den tiltenkte applikasjonen og bruk faktiske returnerte observasjoner ved oppfølging. Hold den konkrete Hermes 4 405B-utgaven, Llama-chatformatet og hybridverktøyflyten atskilt fra mindre varianter, Hermes 3 ChatML og andre Llama-avledede modeller.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser nousresearch/hermes-4-405b | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.002 / 1K tokener Utdata · Utgående tokener $0.006 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.002 / 1K tokener Utdata · Utgående tokener $0.006 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "nousresearch/hermes-4-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-4-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-4-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra nousresearch/hermes-4-405b
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Repair an extracted record\n\nRepair this draft record using only the source sentence. Source: 'Shipment R18 contains 14 blue lamps; delivery date is not yet agreed.' Draft: {shipment: 'R18', quantity: '41', colour: 'blue', delivery_date: 'Friday'}. Return valid JSON with shipment, quantity, colour and delivery_date; quantity must be an integer and an unknown date must be null. Briefly list the corrected fields afterward.A requested JSON object with corrected quantity and unknown date, followed by a brief correction list.Parsing succeeds and no field contradicts the source; quantity is 14 and delivery_date is null.