Hermes 3 Llama 3.1 405B är Nous Researchs stora allmänna textmodell, utvecklad genom finjustering av samtliga parametrar i Llama 3.1 405B. Tillverkaren betonar anpassning till användarinstruktioner, styrbarhet, rollspel, resonemang, samtal med flera turer och sammanhang i lång kontext. Utdata är text, inklusive svar, skrivet innehåll, kod, strukturerade poster och funktionsanropsinformation.
Detta är den stora Hermes 3-varianten, skild från 70B-systermodellen och den senare resonemangsutgåvan Hermes 4. Tillverkaren utökar de tidigare Hermes-funktionerna med förbättrade funktionsanrop, strukturerade utdata och kodgenerering. Ge en uppgift dess faktiska underlag och nödvändiga slutform i stället för att anta att modellens skala tillför saknade källor eller ett slutförandekriterium.
För en dokumentanalys märker du upp avsnitten och identifierar jämförelsekriterierna. Begär den relevanta källan bredvid varje slutsats och ange hanteringen av saknad information. För ett skrivuppdrag anger du målgrupp, ton och fakta som måste bevaras vid en revision. En praktisk prompt är: ”Skriv om den här förklaringen för den angivna läsaren, bevara de definierade termerna och identifiera eventuella påståenden utan stöd som behöver förtydligas.”
Hermes 3 använder ChatML för att skilja systeminstruktioner, användarmeddelanden och assistentsvar åt. Dess egen mall kan bygga samtalet och lägga till prefixet för assistentgenerering. Systeminstruktioner styr roll, regler och stil; de är valfria när uppgiften inte kräver en särskild inledning.
Ett pågående samtal bör hålla källtext skild från instruktioner och bevara accepterade fakta i den relevanta kontexten. För rollspel anger du vem som styr varje karaktär och vilka händelser som är fastställda. För kod anger du beteendet som ändras och kontrakten som förblir intakta. Den önskade leveransen bör förbli synlig genom dialogen.
Det specifika modellkortet dokumenterar funktionssignaturer i sin verktygsdefinitionsrepresentation och ett obligatoriskt svarsschema för funktionsnamnet och argumenten. Modellen genererar taggade JSON-anropsobjekt. Applikationen tolkar och kör den valda operationen och returnerar sedan resultatet i ett namngivet verktygssvar. Nästa assistentsvar kan förklara de faktiska uppgifterna.
Ge varje funktion ett tydligt syfte och precisa parameterbeskrivningar. Låt inte en föreslagen uppslagning ersätta en returnerad källa. Håll observationen kopplad till den valda operationen så att en slutlig slutsats kan identifiera vad som stöder den. Genererad kod förblir likaså ett förslag tills den granskats och körts i den avsedda miljön.
JSON-läget i Hermes 3 tränas med en systeminstruktion som innehåller önskat schema och begär ett JSON-objekt som svar. Definiera fälten och hur saknade eller motstridiga källvärden ska representeras. Validera strukturen och granska fakta även när objektet följer schemat.
Den publicerade konfigurationen anger max_position_embeddings till 131 072. Budgetera instruktioner, dokument, historik, verktygsresultat och svaret tillsammans; fältet fastställer ingen separat universell utmatningsgräns. Producentens fullständiga modell och separat publicerade kvantiserade varianter har egna precisionsidentiteter, så dessa varianter ska inte tyst ersätta den namngivna 405B-varianten.
En användbar leverans är en text- eller kodleverans med tydliga antaganden och källkopplingar. Granska den mot de tillhandahållna kraven och faktiska observationer. Hermes 3:s ChatML-, funktionsanrops- och JSON-flöden förblir skilda från de senare kontrollerna för hybridtänkande och varvat resonemang i Hermes 4.
", "aboutText": "Hermes 3 Llama 3.1 405B är Nous Researchs stora allmänna textmodell, utvecklad genom finjustering av samtliga parametrar i Llama 3.1 405B. Tillverkaren betonar anpassning till användarinstruktioner, styrbarhet, rollspel, resonemang, samtal med flera turer och sammanhang i lång kontext. Utdata är text, inklusive svar, skrivet innehåll, kod, strukturerade poster och funktionsanropsinformation.\n\n### Utgåvan med 405 miljarder parametrar\n\nDetta är den stora Hermes 3-varianten, skild från 70B-systermodellen och den senare resonemangsutgåvan Hermes 4. Tillverkaren utökar de tidigare Hermes-funktionerna med förbättrade funktionsanrop, strukturerade utdata och kodgenerering. Ge en uppgift dess faktiska underlag och nödvändiga slutform i stället för att anta att modellens skala tillför saknade källor eller ett slutförandekriterium.\n\nFör en dokumentanalys märker du upp avsnitten och identifierar jämförelsekriterierna. Begär den relevanta källan bredvid varje slutsats och ange hanteringen av saknad information. För ett skrivuppdrag anger du målgrupp, ton och fakta som måste bevaras vid en revision. En praktisk prompt är: ”Skriv om den här förklaringen för den angivna läsaren, bevara de definierade termerna och identifiera eventuella påståenden utan stöd som behöver förtydligas.”\n\n### Promptformat och dialog\n\nHermes 3 använder ChatML för att skilja systeminstruktioner, användarmeddelanden och assistentsvar åt. Dess egen mall kan bygga samtalet och lägga till prefixet för assistentgenerering. Systeminstruktioner styr roll, regler och stil; de är valfria när uppgiften inte kräver en särskild inledning.\n\nEtt pågående samtal bör hålla källtext skild från instruktioner och bevara accepterade fakta i den relevanta kontexten. För rollspel anger du vem som styr varje karaktär och vilka händelser som är fastställda. För kod anger du beteendet som ändras och kontrakten som förblir intakta. Den önskade leveransen bör förbli synlig genom dialogen.\n\n### Funktioner och källobservationer\n\nDet specifika modellkortet dokumenterar funktionssignaturer i sin verktygsdefinitionsrepresentation och ett obligatoriskt svarsschema för funktionsnamnet och argumenten. Modellen genererar taggade JSON-anropsobjekt. Applikationen tolkar och kör den valda operationen och returnerar sedan resultatet i ett namngivet verktygssvar. Nästa assistentsvar kan förklara de faktiska uppgifterna.\n\nGe varje funktion ett tydligt syfte och precisa parameterbeskrivningar. Låt inte en föreslagen uppslagning ersätta en returnerad källa. Håll observationen kopplad till den valda operationen så att en slutlig slutsats kan identifiera vad som stöder den. Genererad kod förblir likaså ett förslag tills den granskats och körts i den avsedda miljön.\n\n### JSON-resultat, kontext och precision\n\nJSON-läget i Hermes 3 tränas med en systeminstruktion som innehåller önskat schema och begär ett JSON-objekt som svar. Definiera fälten och hur saknade eller motstridiga källvärden ska representeras. Validera strukturen och granska fakta även när objektet följer schemat.\n\nDen publicerade konfigurationen anger max_position_embeddings till 131 072. Budgetera instruktioner, dokument, historik, verktygsresultat och svaret tillsammans; fältet fastställer ingen separat universell utmatningsgräns. Producentens fullständiga modell och separat publicerade kvantiserade varianter har egna precisionsidentiteter, så dessa varianter ska inte tyst ersätta den namngivna 405B-varianten.\n\nEn användbar leverans är en text- eller kodleverans med tydliga antaganden och källkopplingar. Granska den mot de tillhandahållna kraven och faktiska observationer. Hermes 3:s ChatML-, funktionsanrops- och JSON-flöden förblir skilda från de senare kontrollerna för hybridtänkande och varvat resonemang i Hermes 4.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B är Nous Researchs allmänna textmodell med 405 miljarder parametrar, finjusterad över samtliga parametrar. Dess styrbara ChatML-dialog, schemastyrda JSON och funktionsanropsformat stöder källanalys, skrivande, kod och arbete i flera steg med observationer som applikationsverktyg returnerar.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Hermes 3 Llama 3.1 405B är Nous Researchs stora allmänna textmodell, utvecklad genom finjustering av samtliga parametrar i Llama 3.1 405B. Tillverkaren betonar anpassning till användarinstruktioner, styrbarhet, rollspel, resonemang, samtal med flera turer och sammanhang i lång kontext. Utdata är text, inklusive svar, skrivet innehåll, kod, strukturerade poster och funktionsanropsinformation.
Detta är den stora Hermes 3-varianten, skild från 70B-systermodellen och den senare resonemangsutgåvan Hermes 4. Tillverkaren utökar de tidigare Hermes-funktionerna med förbättrade funktionsanrop, strukturerade utdata och kodgenerering. Ge en uppgift dess faktiska underlag och nödvändiga slutform i stället för att anta att modellens skala tillför saknade källor eller ett slutförandekriterium.
För en dokumentanalys märker du upp avsnitten och identifierar jämförelsekriterierna. Begär den relevanta källan bredvid varje slutsats och ange hanteringen av saknad information. För ett skrivuppdrag anger du målgrupp, ton och fakta som måste bevaras vid en revision. En praktisk prompt är: ”Skriv om den här förklaringen för den angivna läsaren, bevara de definierade termerna och identifiera eventuella påståenden utan stöd som behöver förtydligas.”
Hermes 3 använder ChatML för att skilja systeminstruktioner, användarmeddelanden och assistentsvar åt. Dess egen mall kan bygga samtalet och lägga till prefixet för assistentgenerering. Systeminstruktioner styr roll, regler och stil; de är valfria när uppgiften inte kräver en särskild inledning.
Ett pågående samtal bör hålla källtext skild från instruktioner och bevara accepterade fakta i den relevanta kontexten. För rollspel anger du vem som styr varje karaktär och vilka händelser som är fastställda. För kod anger du beteendet som ändras och kontrakten som förblir intakta. Den önskade leveransen bör förbli synlig genom dialogen.
Det specifika modellkortet dokumenterar funktionssignaturer i sin verktygsdefinitionsrepresentation och ett obligatoriskt svarsschema för funktionsnamnet och argumenten. Modellen genererar taggade JSON-anropsobjekt. Applikationen tolkar och kör den valda operationen och returnerar sedan resultatet i ett namngivet verktygssvar. Nästa assistentsvar kan förklara de faktiska uppgifterna.
Ge varje funktion ett tydligt syfte och precisa parameterbeskrivningar. Låt inte en föreslagen uppslagning ersätta en returnerad källa. Håll observationen kopplad till den valda operationen så att en slutlig slutsats kan identifiera vad som stöder den. Genererad kod förblir likaså ett förslag tills den granskats och körts i den avsedda miljön.
JSON-läget i Hermes 3 tränas med en systeminstruktion som innehåller önskat schema och begär ett JSON-objekt som svar. Definiera fälten och hur saknade eller motstridiga källvärden ska representeras. Validera strukturen och granska fakta även när objektet följer schemat.
Den publicerade konfigurationen anger max_position_embeddings till 131 072. Budgetera instruktioner, dokument, historik, verktygsresultat och svaret tillsammans; fältet fastställer ingen separat universell utmatningsgräns. Producentens fullständiga modell och separat publicerade kvantiserade varianter har egna precisionsidentiteter, så dessa varianter ska inte tyst ersätta den namngivna 405B-varianten.
En användbar leverans är en text- eller kodleverans med tydliga antaganden och källkopplingar. Granska den mot de tillhandahållna kraven och faktiska observationer. Hermes 3:s ChatML-, funktionsanrops- och JSON-flöden förblir skilda från de senare kontrollerna för hybridtänkande och varvat resonemang i Hermes 4.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser nousresearch/hermes-3-llama-3.1-405b | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.002 / 1K token Utdata · Utdatatoken $0.002 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.002 / 1K token Utdata · Utdatatoken $0.002 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Använd metodsökvägarna som visas ovan.
nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B är Nous Researchs allmänna textmodell med 405 miljarder parametrar, finjusterad över samtliga parametrar. Dess styrbara ChatML-dialog, schemastyrda JSON och funktionsanropsformat stöder källanalys, skrivande, kod och arbete i flera steg med observationer som applikationsverktyg returnerar.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Hermes 3 Llama 3.1 405B är Nous Researchs stora allmänna textmodell, utvecklad genom finjustering av samtliga parametrar i Llama 3.1 405B. Tillverkaren betonar anpassning till användarinstruktioner, styrbarhet, rollspel, resonemang, samtal med flera turer och sammanhang i lång kontext. Utdata är text, inklusive svar, skrivet innehåll, kod, strukturerade poster och funktionsanropsinformation.
Detta är den stora Hermes 3-varianten, skild från 70B-systermodellen och den senare resonemangsutgåvan Hermes 4. Tillverkaren utökar de tidigare Hermes-funktionerna med förbättrade funktionsanrop, strukturerade utdata och kodgenerering. Ge en uppgift dess faktiska underlag och nödvändiga slutform i stället för att anta att modellens skala tillför saknade källor eller ett slutförandekriterium.
För en dokumentanalys märker du upp avsnitten och identifierar jämförelsekriterierna. Begär den relevanta källan bredvid varje slutsats och ange hanteringen av saknad information. För ett skrivuppdrag anger du målgrupp, ton och fakta som måste bevaras vid en revision. En praktisk prompt är: ”Skriv om den här förklaringen för den angivna läsaren, bevara de definierade termerna och identifiera eventuella påståenden utan stöd som behöver förtydligas.”
Hermes 3 använder ChatML för att skilja systeminstruktioner, användarmeddelanden och assistentsvar åt. Dess egen mall kan bygga samtalet och lägga till prefixet för assistentgenerering. Systeminstruktioner styr roll, regler och stil; de är valfria när uppgiften inte kräver en särskild inledning.
Ett pågående samtal bör hålla källtext skild från instruktioner och bevara accepterade fakta i den relevanta kontexten. För rollspel anger du vem som styr varje karaktär och vilka händelser som är fastställda. För kod anger du beteendet som ändras och kontrakten som förblir intakta. Den önskade leveransen bör förbli synlig genom dialogen.
Det specifika modellkortet dokumenterar funktionssignaturer i sin verktygsdefinitionsrepresentation och ett obligatoriskt svarsschema för funktionsnamnet och argumenten. Modellen genererar taggade JSON-anropsobjekt. Applikationen tolkar och kör den valda operationen och returnerar sedan resultatet i ett namngivet verktygssvar. Nästa assistentsvar kan förklara de faktiska uppgifterna.
Ge varje funktion ett tydligt syfte och precisa parameterbeskrivningar. Låt inte en föreslagen uppslagning ersätta en returnerad källa. Håll observationen kopplad till den valda operationen så att en slutlig slutsats kan identifiera vad som stöder den. Genererad kod förblir likaså ett förslag tills den granskats och körts i den avsedda miljön.
JSON-läget i Hermes 3 tränas med en systeminstruktion som innehåller önskat schema och begär ett JSON-objekt som svar. Definiera fälten och hur saknade eller motstridiga källvärden ska representeras. Validera strukturen och granska fakta även när objektet följer schemat.
Den publicerade konfigurationen anger max_position_embeddings till 131 072. Budgetera instruktioner, dokument, historik, verktygsresultat och svaret tillsammans; fältet fastställer ingen separat universell utmatningsgräns. Producentens fullständiga modell och separat publicerade kvantiserade varianter har egna precisionsidentiteter, så dessa varianter ska inte tyst ersätta den namngivna 405B-varianten.
En användbar leverans är en text- eller kodleverans med tydliga antaganden och källkopplingar. Granska den mot de tillhandahållna kraven och faktiska observationer. Hermes 3:s ChatML-, funktionsanrops- och JSON-flöden förblir skilda från de senare kontrollerna för hybridtänkande och varvat resonemang i Hermes 4.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser nousresearch/hermes-3-llama-3.1-405b | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.002 / 1K token Utdata · Utdatatoken $0.002 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.002 / 1K token Utdata · Utdatatoken $0.002 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "nousresearch/hermes-3-llama-3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Använd metodsökvägarna som visas ovan.
Tekniskt exempel på engelska
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.