Hermes 3 Llama 3.1 405B er Nous Researchs store allsidige tekstmodell, utviklet gjennom finjustering av alle parametere i Llama 3.1 405B. Produsenten fremhever tilpasning til brukerinstruksjoner, styrbarhet, rollespill, resonnering, samtale over flere runder og sammenheng i lang kontekst. Utdataene er tekst, blant annet svar, skriftlig innhold, kode, strukturerte dataposter og funksjonskallinformasjon.
Dette er den store Hermes 3-varianten, separat fra søstermodellen på 70B og den senere resonneringsutgivelsen Hermes 4. Produsenten utvider de tidligere Hermes-funksjonene med forbedrede funksjonskall, strukturerte utdata og kodegenerering. Gi en oppgave det faktiske bevisgrunnlaget og den påkrevde sluttformen fremfor å anta at modellstørrelsen gir manglende kilder eller et kriterium for fullføring.
For en dokumentanalyse merker du passasjene og identifiserer sammenligningskriteriene. Be om den relevante kilden ved hver konklusjon og angi behandlingen av fraværende informasjon. For en skriveoppgave gir du målgruppen, tonen og faktaene som må overleve en revisjon. En praktisk prompt er: «Skriv om denne forklaringen for den angitte leseren, bevar de definerte begrepene og identifiser eventuelle udokumenterte påstander som trenger avklaring.»
Hermes 3 bruker ChatML til å skille systeminstruksjoner, brukermeldinger og assistentsvar. Den egne malen kan konstruere samtalen og legge til prefikset for assistentgenerering. Systeminstruksjoner styrer rollen, reglene og stilen; de er valgfrie når oppgaven ikke krever en spesiell innledning.
En pågående samtale bør holde kildetekst atskilt fra instruksjoner og bevare godkjente fakta i den relevante konteksten. For rollespill identifiserer du hvem som styrer hver karakter, og hvilke hendelser som er etablerte. For kode angir du atferden som endres, og kontraktene som bevares. Det ønskede artefaktet bør forbli synlig gjennom dialogen.
Det konkrete modellkortet dokumenterer funksjonssignaturer inne i representasjonen for verktøydefinisjoner og et påkrevd svarskjema for funksjonsnavn og argumenter. Modellen genererer merkede JSON-kallobjekter. Applikasjonen tolker og utfører den valgte operasjonen og returnerer deretter resultatet i et navngitt verktøysvar. Det neste assistentsvaret kan forklare de faktiske dataene.
Gi hver funksjon et tydelig formål og presise parameterbeskrivelser. Ikke la et foreslått oppslag erstatte en returnert kilde. Hold observasjonen knyttet til den valgte operasjonen slik at en endelig konklusjon kan identifisere hva som underbygger den. Generert kode forblir tilsvarende et forslag inntil den er undersøkt og kjørt i det tiltenkte miljøet.
JSON-modusen til Hermes 3 er trent med en systeminstruksjon som inneholder det ønskede skjemaet og ber om et JSON-objekt som svar. Definer feltene og hvordan manglende eller motstridende kildeverdier skal representeres. Valider strukturen og gjennomgå faktaene selv når objektet følger skjemaet.
Den publiserte konfigurasjonen setter max_position_embeddings til 131 072. Fordel instruksjoner, dokumenter, historikk, verktøyresultater og svar samlet; dette feltet fastslår ikke et separat universelt utdatatak. Produsentens fullstendige modell og separat publiserte kvantiserte varianter har egne presisjonsidentiteter, så disse variantene skal ikke stilltiende erstatte den navngitte 405B-varianten.
En nyttig leveranse er et tekst- eller kodeartefakt med tydelige antakelser og kildeforbindelser. Gjennomgå det mot de oppgitte kravene og faktiske observasjonene. ChatML-, funksjonskall- og JSON-arbeidsflytene til Hermes 3 forblir forskjellige fra de senere kontrollene for hybrid tenkning og vekslende resonnering i Hermes 4.
", "aboutText": "Hermes 3 Llama 3.1 405B er Nous Researchs store allsidige tekstmodell, utviklet gjennom finjustering av alle parametere i Llama 3.1 405B. Produsenten fremhever tilpasning til brukerinstruksjoner, styrbarhet, rollespill, resonnering, samtale over flere runder og sammenheng i lang kontekst. Utdataene er tekst, blant annet svar, skriftlig innhold, kode, strukturerte dataposter og funksjonskallinformasjon.\n\n### 405B-utgaven\n\nDette er den store Hermes 3-varianten, separat fra søstermodellen på 70B og den senere resonneringsutgivelsen Hermes 4. Produsenten utvider de tidligere Hermes-funksjonene med forbedrede funksjonskall, strukturerte utdata og kodegenerering. Gi en oppgave det faktiske bevisgrunnlaget og den påkrevde sluttformen fremfor å anta at modellstørrelsen gir manglende kilder eller et kriterium for fullføring.\n\nFor en dokumentanalyse merker du passasjene og identifiserer sammenligningskriteriene. Be om den relevante kilden ved hver konklusjon og angi behandlingen av fraværende informasjon. For en skriveoppgave gir du målgruppen, tonen og faktaene som må overleve en revisjon. En praktisk prompt er: «Skriv om denne forklaringen for den angitte leseren, bevar de definerte begrepene og identifiser eventuelle udokumenterte påstander som trenger avklaring.»\n\n### Promptformat og dialog\n\nHermes 3 bruker ChatML til å skille systeminstruksjoner, brukermeldinger og assistentsvar. Den egne malen kan konstruere samtalen og legge til prefikset for assistentgenerering. Systeminstruksjoner styrer rollen, reglene og stilen; de er valgfrie når oppgaven ikke krever en spesiell innledning.\n\nEn pågående samtale bør holde kildetekst atskilt fra instruksjoner og bevare godkjente fakta i den relevante konteksten. For rollespill identifiserer du hvem som styrer hver karakter, og hvilke hendelser som er etablerte. For kode angir du atferden som endres, og kontraktene som bevares. Det ønskede artefaktet bør forbli synlig gjennom dialogen.\n\n### Funksjoner og kildeobservasjoner\n\nDet konkrete modellkortet dokumenterer funksjonssignaturer inne i representasjonen for verktøydefinisjoner og et påkrevd svarskjema for funksjonsnavn og argumenter. Modellen genererer merkede JSON-kallobjekter. Applikasjonen tolker og utfører den valgte operasjonen og returnerer deretter resultatet i et navngitt verktøysvar. Det neste assistentsvaret kan forklare de faktiske dataene.\n\nGi hver funksjon et tydelig formål og presise parameterbeskrivelser. Ikke la et foreslått oppslag erstatte en returnert kilde. Hold observasjonen knyttet til den valgte operasjonen slik at en endelig konklusjon kan identifisere hva som underbygger den. Generert kode forblir tilsvarende et forslag inntil den er undersøkt og kjørt i det tiltenkte miljøet.\n\n### JSON-resultater, kontekst og presisjon\n\nJSON-modusen til Hermes 3 er trent med en systeminstruksjon som inneholder det ønskede skjemaet og ber om et JSON-objekt som svar. Definer feltene og hvordan manglende eller motstridende kildeverdier skal representeres. Valider strukturen og gjennomgå faktaene selv når objektet følger skjemaet.\n\nDen publiserte konfigurasjonen setter max_position_embeddings til 131 072. Fordel instruksjoner, dokumenter, historikk, verktøyresultater og svar samlet; dette feltet fastslår ikke et separat universelt utdatatak. Produsentens fullstendige modell og separat publiserte kvantiserte varianter har egne presisjonsidentiteter, så disse variantene skal ikke stilltiende erstatte den navngitte 405B-varianten.\n\nEn nyttig leveranse er et tekst- eller kodeartefakt med tydelige antakelser og kildeforbindelser. Gjennomgå det mot de oppgitte kravene og faktiske observasjonene. ChatML-, funksjonskall- og JSON-arbeidsflytene til Hermes 3 forblir forskjellige fra de senere kontrollene for hybrid tenkning og vekslende resonnering i Hermes 4.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B er Nous Researchs allsidige tekstmodell finjustert i alle 405 milliarder parametere. Styrbar ChatML-dialog, skjemastyrt JSON og funksjonskallformatet støtter kildeanalyse, skriving, kode og arbeid over flere steg med observasjoner returnert av applikasjonsverktøy.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Hermes 3 Llama 3.1 405B er Nous Researchs store allsidige tekstmodell, utviklet gjennom finjustering av alle parametere i Llama 3.1 405B. Produsenten fremhever tilpasning til brukerinstruksjoner, styrbarhet, rollespill, resonnering, samtale over flere runder og sammenheng i lang kontekst. Utdataene er tekst, blant annet svar, skriftlig innhold, kode, strukturerte dataposter og funksjonskallinformasjon.
Dette er den store Hermes 3-varianten, separat fra søstermodellen på 70B og den senere resonneringsutgivelsen Hermes 4. Produsenten utvider de tidligere Hermes-funksjonene med forbedrede funksjonskall, strukturerte utdata og kodegenerering. Gi en oppgave det faktiske bevisgrunnlaget og den påkrevde sluttformen fremfor å anta at modellstørrelsen gir manglende kilder eller et kriterium for fullføring.
For en dokumentanalyse merker du passasjene og identifiserer sammenligningskriteriene. Be om den relevante kilden ved hver konklusjon og angi behandlingen av fraværende informasjon. For en skriveoppgave gir du målgruppen, tonen og faktaene som må overleve en revisjon. En praktisk prompt er: «Skriv om denne forklaringen for den angitte leseren, bevar de definerte begrepene og identifiser eventuelle udokumenterte påstander som trenger avklaring.»
Hermes 3 bruker ChatML til å skille systeminstruksjoner, brukermeldinger og assistentsvar. Den egne malen kan konstruere samtalen og legge til prefikset for assistentgenerering. Systeminstruksjoner styrer rollen, reglene og stilen; de er valgfrie når oppgaven ikke krever en spesiell innledning.
En pågående samtale bør holde kildetekst atskilt fra instruksjoner og bevare godkjente fakta i den relevante konteksten. For rollespill identifiserer du hvem som styrer hver karakter, og hvilke hendelser som er etablerte. For kode angir du atferden som endres, og kontraktene som bevares. Det ønskede artefaktet bør forbli synlig gjennom dialogen.
Det konkrete modellkortet dokumenterer funksjonssignaturer inne i representasjonen for verktøydefinisjoner og et påkrevd svarskjema for funksjonsnavn og argumenter. Modellen genererer merkede JSON-kallobjekter. Applikasjonen tolker og utfører den valgte operasjonen og returnerer deretter resultatet i et navngitt verktøysvar. Det neste assistentsvaret kan forklare de faktiske dataene.
Gi hver funksjon et tydelig formål og presise parameterbeskrivelser. Ikke la et foreslått oppslag erstatte en returnert kilde. Hold observasjonen knyttet til den valgte operasjonen slik at en endelig konklusjon kan identifisere hva som underbygger den. Generert kode forblir tilsvarende et forslag inntil den er undersøkt og kjørt i det tiltenkte miljøet.
JSON-modusen til Hermes 3 er trent med en systeminstruksjon som inneholder det ønskede skjemaet og ber om et JSON-objekt som svar. Definer feltene og hvordan manglende eller motstridende kildeverdier skal representeres. Valider strukturen og gjennomgå faktaene selv når objektet følger skjemaet.
Den publiserte konfigurasjonen setter max_position_embeddings til 131 072. Fordel instruksjoner, dokumenter, historikk, verktøyresultater og svar samlet; dette feltet fastslår ikke et separat universelt utdatatak. Produsentens fullstendige modell og separat publiserte kvantiserte varianter har egne presisjonsidentiteter, så disse variantene skal ikke stilltiende erstatte den navngitte 405B-varianten.
En nyttig leveranse er et tekst- eller kodeartefakt med tydelige antakelser og kildeforbindelser. Gjennomgå det mot de oppgitte kravene og faktiske observasjonene. ChatML-, funksjonskall- og JSON-arbeidsflytene til Hermes 3 forblir forskjellige fra de senere kontrollene for hybrid tenkning og vekslende resonnering i Hermes 4.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser nousresearch/hermes-3-llama-3.1-405b | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.002 / 1K tokener Utdata · Utgående tokener $0.002 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.002 / 1K tokener Utdata · Utgående tokener $0.002 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Bruk metodestiene som vises ovenfor.
nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B er Nous Researchs allsidige tekstmodell finjustert i alle 405 milliarder parametere. Styrbar ChatML-dialog, skjemastyrt JSON og funksjonskallformatet støtter kildeanalyse, skriving, kode og arbeid over flere steg med observasjoner returnert av applikasjonsverktøy.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Hermes 3 Llama 3.1 405B er Nous Researchs store allsidige tekstmodell, utviklet gjennom finjustering av alle parametere i Llama 3.1 405B. Produsenten fremhever tilpasning til brukerinstruksjoner, styrbarhet, rollespill, resonnering, samtale over flere runder og sammenheng i lang kontekst. Utdataene er tekst, blant annet svar, skriftlig innhold, kode, strukturerte dataposter og funksjonskallinformasjon.
Dette er den store Hermes 3-varianten, separat fra søstermodellen på 70B og den senere resonneringsutgivelsen Hermes 4. Produsenten utvider de tidligere Hermes-funksjonene med forbedrede funksjonskall, strukturerte utdata og kodegenerering. Gi en oppgave det faktiske bevisgrunnlaget og den påkrevde sluttformen fremfor å anta at modellstørrelsen gir manglende kilder eller et kriterium for fullføring.
For en dokumentanalyse merker du passasjene og identifiserer sammenligningskriteriene. Be om den relevante kilden ved hver konklusjon og angi behandlingen av fraværende informasjon. For en skriveoppgave gir du målgruppen, tonen og faktaene som må overleve en revisjon. En praktisk prompt er: «Skriv om denne forklaringen for den angitte leseren, bevar de definerte begrepene og identifiser eventuelle udokumenterte påstander som trenger avklaring.»
Hermes 3 bruker ChatML til å skille systeminstruksjoner, brukermeldinger og assistentsvar. Den egne malen kan konstruere samtalen og legge til prefikset for assistentgenerering. Systeminstruksjoner styrer rollen, reglene og stilen; de er valgfrie når oppgaven ikke krever en spesiell innledning.
En pågående samtale bør holde kildetekst atskilt fra instruksjoner og bevare godkjente fakta i den relevante konteksten. For rollespill identifiserer du hvem som styrer hver karakter, og hvilke hendelser som er etablerte. For kode angir du atferden som endres, og kontraktene som bevares. Det ønskede artefaktet bør forbli synlig gjennom dialogen.
Det konkrete modellkortet dokumenterer funksjonssignaturer inne i representasjonen for verktøydefinisjoner og et påkrevd svarskjema for funksjonsnavn og argumenter. Modellen genererer merkede JSON-kallobjekter. Applikasjonen tolker og utfører den valgte operasjonen og returnerer deretter resultatet i et navngitt verktøysvar. Det neste assistentsvaret kan forklare de faktiske dataene.
Gi hver funksjon et tydelig formål og presise parameterbeskrivelser. Ikke la et foreslått oppslag erstatte en returnert kilde. Hold observasjonen knyttet til den valgte operasjonen slik at en endelig konklusjon kan identifisere hva som underbygger den. Generert kode forblir tilsvarende et forslag inntil den er undersøkt og kjørt i det tiltenkte miljøet.
JSON-modusen til Hermes 3 er trent med en systeminstruksjon som inneholder det ønskede skjemaet og ber om et JSON-objekt som svar. Definer feltene og hvordan manglende eller motstridende kildeverdier skal representeres. Valider strukturen og gjennomgå faktaene selv når objektet følger skjemaet.
Den publiserte konfigurasjonen setter max_position_embeddings til 131 072. Fordel instruksjoner, dokumenter, historikk, verktøyresultater og svar samlet; dette feltet fastslår ikke et separat universelt utdatatak. Produsentens fullstendige modell og separat publiserte kvantiserte varianter har egne presisjonsidentiteter, så disse variantene skal ikke stilltiende erstatte den navngitte 405B-varianten.
En nyttig leveranse er et tekst- eller kodeartefakt med tydelige antakelser og kildeforbindelser. Gjennomgå det mot de oppgitte kravene og faktiske observasjonene. ChatML-, funksjonskall- og JSON-arbeidsflytene til Hermes 3 forblir forskjellige fra de senere kontrollene for hybrid tenkning og vekslende resonnering i Hermes 4.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser nousresearch/hermes-3-llama-3.1-405b | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.002 / 1K tokener Utdata · Utgående tokener $0.002 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.002 / 1K tokener Utdata · Utgående tokener $0.002 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "nousresearch/hermes-3-llama-3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.