Hermes 4 405B är Nous Researchs resonemangsmodell med hybridlägen, baserad på Llama 3.1 405B. Den tar emot text och producerar text, inklusive ett slutligt svar, kod, strukturerad JSON eller verktygsanropsinnehåll. Producenten utvecklar utgåvan kring verifierade resonemangsspår, god styrbarhet för användaren och formattrogna utdata, samtidigt som uppgifter för allmänna assistenter och kreativt skrivande behålls.
Tillverkaren beskriver en utökad efterträningskorpus med ungefär fem miljoner exempel och sextio miljarder token, med en blandning av resonemangsdata och data utan resonemang. Hermes 4 tillför ett uttryckligt hybridläge för resonemang, förbättrar det avsedda beteendet för matematik, kod, STEM och logik och tränas för att följa JSON-scheman och reparera felaktigt formade objekt. Detta är ändringar i utgåvan; Hermes 3:s promptrepresentation och tidigare beteende ska inte ersätta dem.
För ett resonemangsuppdrag tillhandahåller du hela problemet, definitioner och begränsningar. Begär den slutliga lösningen eller kodleveransen separat från den mellanliggande analysen. Ett praktiskt uppdragsunderlag är: ”Jämför dessa villkor med den föreslagna lösningen, identifiera steget som saknar stöd och returnera en korrigerad slutsats med antagandena den använder.”
Hermes 4 använder Llama 3:s chattformat med rollrubriker. Producenten kan aktivera resonemang genom thinking-flaggan i chattmallen eller en systeminstruktion som definierar beteendet. När modellen resonerar omsluts tänkandet av särskilda markörer före det slutliga svaret. Ytterligare systeminstruktioner kan forma rollen, stilen och svarsformatet.
Referensen erbjuder också keep_cots för att bevara innehållet i tänkandet. Det är ett mallalternativ, inte ett påstående om obegränsat minne. Håll accepterade fakta och uppgiftskrav tydliga så att mellanliggande idéer förblir möjliga att skilja från slutliga slutsatser. För skrivande anger du perspektiv, ton och materialet som måste bevaras; för extraktion definierar du posten du vill ha i stället för att förlita dig på en öppen assistentstil.
Hermes 4 stöder funktionsanrop som varvas med resonemang i en assistenttur. Verktyg har namn, beskrivningar och parameterscheman, som tillhandahålls genom tillverkarens systemrepresentation eller fältet tools som mallen tolkar. Modellen genererar taggade JSON-anropsobjekt. Applikationen tolkar och kör den valda funktionen och returnerar ett verktygssvar, varefter modellen kan fortsätta analysen och ge svaret.
För ett JSON-resultat tillhandahåller du schemat och betydelsen av varje fält. Träning i schemaföljsamhet eller reparation av felaktigt formade objekt fastställer inte att varje returnerat värde är faktamässigt korrekt. Jämför objektet med källan, bevara underlag för extraherade fält och validera föreslagna funktionsargument innan de tillämpas.
Den publicerade modellkonfigurationen anger max_position_embeddings till 131 072. Budgetera källmaterial, samtal, resonemang, verktygsresultat och svar inom det valda arbetsflödets kontext; detta positionsfält är inte en oberoende strikt utmatningsgräns. Nous rekommenderar temperatur 0.6, top-p 0.95 och top-k 20 för sin samplingsreferens.
Ett användbart resultat är ett källstött svar, kodförslag, en strukturerad post eller ett skrivet avsnitt vars begränsningar kan kontrolleras. Granska genererad kod i dess avsedda applikation och använd faktiska returnerade observationer för eventuell uppföljning. Håll den exakta utgåvan Hermes 4 med 405 miljarder parametrar, dess Llama-chattformat och hybridflöde med verktyg skilda från mindre varianter, Hermes 3 ChatML och andra modeller härledda från Llama.
", "aboutText": "Hermes 4 405B är Nous Researchs resonemangsmodell med hybridlägen, baserad på Llama 3.1 405B. Den tar emot text och producerar text, inklusive ett slutligt svar, kod, strukturerad JSON eller verktygsanropsinnehåll. Producenten utvecklar utgåvan kring verifierade resonemangsspår, god styrbarhet för användaren och formattrogna utdata, samtidigt som uppgifter för allmänna assistenter och kreativt skrivande behålls.\n\n### Vad som ändras från Hermes 3\n\nTillverkaren beskriver en utökad efterträningskorpus med ungefär fem miljoner exempel och sextio miljarder token, med en blandning av resonemangsdata och data utan resonemang. Hermes 4 tillför ett uttryckligt hybridläge för resonemang, förbättrar det avsedda beteendet för matematik, kod, STEM och logik och tränas för att följa JSON-scheman och reparera felaktigt formade objekt. Detta är ändringar i utgåvan; Hermes 3:s promptrepresentation och tidigare beteende ska inte ersätta dem.\n\nFör ett resonemangsuppdrag tillhandahåller du hela problemet, definitioner och begränsningar. Begär den slutliga lösningen eller kodleveransen separat från den mellanliggande analysen. Ett praktiskt uppdragsunderlag är: ”Jämför dessa villkor med den föreslagna lösningen, identifiera steget som saknar stöd och returnera en korrigerad slutsats med antagandena den använder.”\n\n### Promptformat och tänkande\n\nHermes 4 använder Llama 3:s chattformat med rollrubriker. Producenten kan aktivera resonemang genom thinking-flaggan i chattmallen eller en systeminstruktion som definierar beteendet. När modellen resonerar omsluts tänkandet av särskilda markörer före det slutliga svaret. Ytterligare systeminstruktioner kan forma rollen, stilen och svarsformatet.\n\nReferensen erbjuder också keep_cots för att bevara innehållet i tänkandet. Det är ett mallalternativ, inte ett påstående om obegränsat minne. Håll accepterade fakta och uppgiftskrav tydliga så att mellanliggande idéer förblir möjliga att skilja från slutliga slutsatser. För skrivande anger du perspektiv, ton och materialet som måste bevaras; för extraktion definierar du posten du vill ha i stället för att förlita dig på en öppen assistentstil.\n\n### Verktyg och strukturerade utdata\n\nHermes 4 stöder funktionsanrop som varvas med resonemang i en assistenttur. Verktyg har namn, beskrivningar och parameterscheman, som tillhandahålls genom tillverkarens systemrepresentation eller fältet tools som mallen tolkar. Modellen genererar taggade JSON-anropsobjekt. Applikationen tolkar och kör den valda funktionen och returnerar ett verktygssvar, varefter modellen kan fortsätta analysen och ge svaret.\n\nFör ett JSON-resultat tillhandahåller du schemat och betydelsen av varje fält. Träning i schemaföljsamhet eller reparation av felaktigt formade objekt fastställer inte att varje returnerat värde är faktamässigt korrekt. Jämför objektet med källan, bevara underlag för extraherade fält och validera föreslagna funktionsargument innan de tillämpas.\n\n### Vägledning om kontext och generering\n\nDen publicerade modellkonfigurationen anger max_position_embeddings till 131 072. Budgetera källmaterial, samtal, resonemang, verktygsresultat och svar inom det valda arbetsflödets kontext; detta positionsfält är inte en oberoende strikt utmatningsgräns. Nous rekommenderar temperatur 0.6, top-p 0.95 och top-k 20 för sin samplingsreferens.\n\nEtt användbart resultat är ett källstött svar, kodförslag, en strukturerad post eller ett skrivet avsnitt vars begränsningar kan kontrolleras. Granska genererad kod i dess avsedda applikation och använd faktiska returnerade observationer för eventuell uppföljning. Håll den exakta utgåvan Hermes 4 med 405 miljarder parametrar, dess Llama-chattformat och hybridflöde med verktyg skilda från mindre varianter, Hermes 3 ChatML och andra modeller härledda från Llama.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
Repair an extracted record\n\nRepair this draft record using only the source sentence. Source: 'Shipment R18 contains 14 blue lamps; delivery date is not yet agreed.' Draft: {shipment: 'R18', quantity: '41', colour: 'blue', delivery_date: 'Friday'}. Return valid JSON with shipment, quantity, colour and delivery_date; quantity must be an integer and an unknown date must be null. Briefly list the corrected fields afterward.A requested JSON object with corrected quantity and unknown date, followed by a brief correction list.Parsing succeeds and no field contradicts the source; quantity is 14 and delivery_date is null.nousresearch/hermes-4-405bHermes 4 405B är Nous Researchs textmodell för hybridresonemang, baserad på Llama 3.1 405B. Den kombinerar styrbar chatt, uttryckligt tänkande, schematränad JSON och varvade funktionsanrop för matematik, kodning, analytiskt arbete och styrt kreativt skrivande.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Hermes 4 405B är Nous Researchs resonemangsmodell med hybridlägen, baserad på Llama 3.1 405B. Den tar emot text och producerar text, inklusive ett slutligt svar, kod, strukturerad JSON eller verktygsanropsinnehåll. Producenten utvecklar utgåvan kring verifierade resonemangsspår, god styrbarhet för användaren och formattrogna utdata, samtidigt som uppgifter för allmänna assistenter och kreativt skrivande behålls.
Tillverkaren beskriver en utökad efterträningskorpus med ungefär fem miljoner exempel och sextio miljarder token, med en blandning av resonemangsdata och data utan resonemang. Hermes 4 tillför ett uttryckligt hybridläge för resonemang, förbättrar det avsedda beteendet för matematik, kod, STEM och logik och tränas för att följa JSON-scheman och reparera felaktigt formade objekt. Detta är ändringar i utgåvan; Hermes 3:s promptrepresentation och tidigare beteende ska inte ersätta dem.
För ett resonemangsuppdrag tillhandahåller du hela problemet, definitioner och begränsningar. Begär den slutliga lösningen eller kodleveransen separat från den mellanliggande analysen. Ett praktiskt uppdragsunderlag är: ”Jämför dessa villkor med den föreslagna lösningen, identifiera steget som saknar stöd och returnera en korrigerad slutsats med antagandena den använder.”
Hermes 4 använder Llama 3:s chattformat med rollrubriker. Producenten kan aktivera resonemang genom thinking-flaggan i chattmallen eller en systeminstruktion som definierar beteendet. När modellen resonerar omsluts tänkandet av särskilda markörer före det slutliga svaret. Ytterligare systeminstruktioner kan forma rollen, stilen och svarsformatet.
Referensen erbjuder också keep_cots för att bevara innehållet i tänkandet. Det är ett mallalternativ, inte ett påstående om obegränsat minne. Håll accepterade fakta och uppgiftskrav tydliga så att mellanliggande idéer förblir möjliga att skilja från slutliga slutsatser. För skrivande anger du perspektiv, ton och materialet som måste bevaras; för extraktion definierar du posten du vill ha i stället för att förlita dig på en öppen assistentstil.
Hermes 4 stöder funktionsanrop som varvas med resonemang i en assistenttur. Verktyg har namn, beskrivningar och parameterscheman, som tillhandahålls genom tillverkarens systemrepresentation eller fältet tools som mallen tolkar. Modellen genererar taggade JSON-anropsobjekt. Applikationen tolkar och kör den valda funktionen och returnerar ett verktygssvar, varefter modellen kan fortsätta analysen och ge svaret.
För ett JSON-resultat tillhandahåller du schemat och betydelsen av varje fält. Träning i schemaföljsamhet eller reparation av felaktigt formade objekt fastställer inte att varje returnerat värde är faktamässigt korrekt. Jämför objektet med källan, bevara underlag för extraherade fält och validera föreslagna funktionsargument innan de tillämpas.
Den publicerade modellkonfigurationen anger max_position_embeddings till 131 072. Budgetera källmaterial, samtal, resonemang, verktygsresultat och svar inom det valda arbetsflödets kontext; detta positionsfält är inte en oberoende strikt utmatningsgräns. Nous rekommenderar temperatur 0.6, top-p 0.95 och top-k 20 för sin samplingsreferens.
Ett användbart resultat är ett källstött svar, kodförslag, en strukturerad post eller ett skrivet avsnitt vars begränsningar kan kontrolleras. Granska genererad kod i dess avsedda applikation och använd faktiska returnerade observationer för eventuell uppföljning. Håll den exakta utgåvan Hermes 4 med 405 miljarder parametrar, dess Llama-chattformat och hybridflöde med verktyg skilda från mindre varianter, Hermes 3 ChatML och andra modeller härledda från Llama.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser nousresearch/hermes-4-405b | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.002 / 1K token Utdata · Utdatatoken $0.006 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.002 / 1K token Utdata · Utdatatoken $0.006 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-4-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-4-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-4-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra nousresearch/hermes-4-405b
Använd metodsökvägarna som visas ovan.
nousresearch/hermes-4-405bHermes 4 405B är Nous Researchs textmodell för hybridresonemang, baserad på Llama 3.1 405B. Den kombinerar styrbar chatt, uttryckligt tänkande, schematränad JSON och varvade funktionsanrop för matematik, kodning, analytiskt arbete och styrt kreativt skrivande.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Hermes 4 405B är Nous Researchs resonemangsmodell med hybridlägen, baserad på Llama 3.1 405B. Den tar emot text och producerar text, inklusive ett slutligt svar, kod, strukturerad JSON eller verktygsanropsinnehåll. Producenten utvecklar utgåvan kring verifierade resonemangsspår, god styrbarhet för användaren och formattrogna utdata, samtidigt som uppgifter för allmänna assistenter och kreativt skrivande behålls.
Tillverkaren beskriver en utökad efterträningskorpus med ungefär fem miljoner exempel och sextio miljarder token, med en blandning av resonemangsdata och data utan resonemang. Hermes 4 tillför ett uttryckligt hybridläge för resonemang, förbättrar det avsedda beteendet för matematik, kod, STEM och logik och tränas för att följa JSON-scheman och reparera felaktigt formade objekt. Detta är ändringar i utgåvan; Hermes 3:s promptrepresentation och tidigare beteende ska inte ersätta dem.
För ett resonemangsuppdrag tillhandahåller du hela problemet, definitioner och begränsningar. Begär den slutliga lösningen eller kodleveransen separat från den mellanliggande analysen. Ett praktiskt uppdragsunderlag är: ”Jämför dessa villkor med den föreslagna lösningen, identifiera steget som saknar stöd och returnera en korrigerad slutsats med antagandena den använder.”
Hermes 4 använder Llama 3:s chattformat med rollrubriker. Producenten kan aktivera resonemang genom thinking-flaggan i chattmallen eller en systeminstruktion som definierar beteendet. När modellen resonerar omsluts tänkandet av särskilda markörer före det slutliga svaret. Ytterligare systeminstruktioner kan forma rollen, stilen och svarsformatet.
Referensen erbjuder också keep_cots för att bevara innehållet i tänkandet. Det är ett mallalternativ, inte ett påstående om obegränsat minne. Håll accepterade fakta och uppgiftskrav tydliga så att mellanliggande idéer förblir möjliga att skilja från slutliga slutsatser. För skrivande anger du perspektiv, ton och materialet som måste bevaras; för extraktion definierar du posten du vill ha i stället för att förlita dig på en öppen assistentstil.
Hermes 4 stöder funktionsanrop som varvas med resonemang i en assistenttur. Verktyg har namn, beskrivningar och parameterscheman, som tillhandahålls genom tillverkarens systemrepresentation eller fältet tools som mallen tolkar. Modellen genererar taggade JSON-anropsobjekt. Applikationen tolkar och kör den valda funktionen och returnerar ett verktygssvar, varefter modellen kan fortsätta analysen och ge svaret.
För ett JSON-resultat tillhandahåller du schemat och betydelsen av varje fält. Träning i schemaföljsamhet eller reparation av felaktigt formade objekt fastställer inte att varje returnerat värde är faktamässigt korrekt. Jämför objektet med källan, bevara underlag för extraherade fält och validera föreslagna funktionsargument innan de tillämpas.
Den publicerade modellkonfigurationen anger max_position_embeddings till 131 072. Budgetera källmaterial, samtal, resonemang, verktygsresultat och svar inom det valda arbetsflödets kontext; detta positionsfält är inte en oberoende strikt utmatningsgräns. Nous rekommenderar temperatur 0.6, top-p 0.95 och top-k 20 för sin samplingsreferens.
Ett användbart resultat är ett källstött svar, kodförslag, en strukturerad post eller ett skrivet avsnitt vars begränsningar kan kontrolleras. Granska genererad kod i dess avsedda applikation och använd faktiska returnerade observationer för eventuell uppföljning. Håll den exakta utgåvan Hermes 4 med 405 miljarder parametrar, dess Llama-chattformat och hybridflöde med verktyg skilda från mindre varianter, Hermes 3 ChatML och andra modeller härledda från Llama.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser nousresearch/hermes-4-405b | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.002 / 1K token Utdata · Utdatatoken $0.006 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.002 / 1K token Utdata · Utdatatoken $0.006 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "nousresearch/hermes-4-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-4-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-4-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra nousresearch/hermes-4-405b
Använd metodsökvägarna som visas ovan.
Tekniskt exempel på engelska
Repair an extracted record\n\nRepair this draft record using only the source sentence. Source: 'Shipment R18 contains 14 blue lamps; delivery date is not yet agreed.' Draft: {shipment: 'R18', quantity: '41', colour: 'blue', delivery_date: 'Friday'}. Return valid JSON with shipment, quantity, colour and delivery_date; quantity must be an integer and an unknown date must be null. Briefly list the corrected fields afterward.A requested JSON object with corrected quantity and unknown date, followed by a brief correction list.Parsing succeeds and no field contradicts the source; quantity is 14 and delivery_date is null.