Hermes 3 Llama 3.1 70B er Nous Researchs allsidige språkmodellutgave med 70 milliarder parametere i Hermes 3-serien. Den tar imot tekst og genererer et svar, et skriftlig utdrag, kode, en strukturert datapost eller et foreslått verktøykall. Produsenten fremhever brukerstyrbarhet, resonnering, rollespill, dialog over flere runder og sammenheng i lang kontekst, sammen med forbedrede funksjonskall og kodegenerering.
En systeminstruksjon kan definere rollen, reglene, stilen og utdatakravene. For rollespill gir du settingen, perspektivet og karaktergrensene; for en analytisk oppgave gir du kildeutdragene og kriteriene for konklusjonen. En nyttig oppgavebeskrivelse er: «Forklar forskjellene mellom disse kravene, bevar de tekniske navnene og identifiser passasjen som underbygger hvert funn.»
For programmering gir du relevant implementasjon, observert feil, forventet atferd og grensesnittene som skal forbli stabile. Be om det foreslåtte kodeartefaktet og forklaringen, og bruk deretter faktiske valideringsobservasjoner når en revisjon trengs. Muligheten for å styre modellen bidrar til å forme svaret, men oppgavebeskrivelsen må fortsatt definere det nyttige utfallet.
Hermes 3 bruker ChatML med separate system-, bruker- og assistentrunder og eksplisitte grenser. Produsenten anbefaler å formatere samtalen gjennom modellens egen mal og legge til prompten for assistentgenerering. En systemmelding er valgfri; når den brukes, bør den beskrive oppgavekonteksten og ønsket atferd fremfor å erstatte brukerens faktiske forespørsel.
Hold dialoghistorikken i de riktige rollene. For en pågående skriveoppgave bevarer du etablerte fakta og forteller modellen hvilken passasje som kan endres. For kildearbeid identifiserer du materiale som bevis og skiller det fra instruksjoner. Dette hjelper et senere svar å beholde oppgavens begrensninger uten å forveksle sitert tekst med en ny kommando.
Det konkrete modellkortet beskriver trening i funksjonsbruk med en spesifikk systemrepresentasjon, funksjonssignaturer og parameterskjemaer. Modellen returnerer JSON-objekter med det valgte funksjonsnavnet og argumentene innenfor verktøykalltagger. Den omkringliggende applikasjonen tolker forslaget, utfører funksjonen og returnerer et navngitt verktøysvar. Modellen bruker deretter de returnerte dataene til å produsere svaret.
Definer funksjoner presist og krev reelle argumentverdier fremfor antakelser om et eksternt system. En oppslagsfunksjon kan gi et manglende produktfelt eller en beregning, mens svaret forklarer hva den returnerte informasjonen betyr. Et generert kall er forskjellig fra et utført resultat; bevar observasjonen sammen med oppgaven.
Hermes 3 dokumenterer også en skjemabetinget systeminstruksjon for svar som bare inneholder JSON. Definer felter og typer, og forklar hvordan manglende kildeinformasjon skal representeres. Kontroller det genererte objektet både for struktur og samsvar med inndataene. Et skjemakompatibelt svar skal ikke behandles som bevis på at en verdi ble hentet eller verifisert.
Den publiserte 70B-modellkonfigurasjonen har 131 072 posisjoner. Kildetekst, samtale og generert innhold deler konteksten til den valgte arbeidsflyten, og genereringsstørrelsen i eksemplet er ikke en universell absolutt svargrense. Sett av plass til resultatet og hold lange inndata relevante for spørsmålet.
Den nyttige leveransen er en tekst som kan gjennomgås, et kodeforslag eller en strukturert datapost forankret i den oppgitte konteksten og faktiske verktøyobservasjoner. Denne konkrete Hermes 3 70B-utgaven forblir separat fra den større 405B-modellen og formatet og kontrollene for hybrid resonnering i Hermes 4.
", "aboutText": "Hermes 3 Llama 3.1 70B er Nous Researchs allsidige språkmodellutgave med 70 milliarder parametere i Hermes 3-serien. Den tar imot tekst og genererer et svar, et skriftlig utdrag, kode, en strukturert datapost eller et foreslått verktøykall. Produsenten fremhever brukerstyrbarhet, resonnering, rollespill, dialog over flere runder og sammenheng i lang kontekst, sammen med forbedrede funksjonskall og kodegenerering.\n\n### Styr oppgaven og svaret\n\nEn systeminstruksjon kan definere rollen, reglene, stilen og utdatakravene. For rollespill gir du settingen, perspektivet og karaktergrensene; for en analytisk oppgave gir du kildeutdragene og kriteriene for konklusjonen. En nyttig oppgavebeskrivelse er: «Forklar forskjellene mellom disse kravene, bevar de tekniske navnene og identifiser passasjen som underbygger hvert funn.»\n\nFor programmering gir du relevant implementasjon, observert feil, forventet atferd og grensesnittene som skal forbli stabile. Be om det foreslåtte kodeartefaktet og forklaringen, og bruk deretter faktiske valideringsobservasjoner når en revisjon trengs. Muligheten for å styre modellen bidrar til å forme svaret, men oppgavebeskrivelsen må fortsatt definere det nyttige utfallet.\n\n### ChatML-samtale\n\nHermes 3 bruker ChatML med separate system-, bruker- og assistentrunder og eksplisitte grenser. Produsenten anbefaler å formatere samtalen gjennom modellens egen mal og legge til prompten for assistentgenerering. En systemmelding er valgfri; når den brukes, bør den beskrive oppgavekonteksten og ønsket atferd fremfor å erstatte brukerens faktiske forespørsel.\n\nHold dialoghistorikken i de riktige rollene. For en pågående skriveoppgave bevarer du etablerte fakta og forteller modellen hvilken passasje som kan endres. For kildearbeid identifiserer du materiale som bevis og skiller det fra instruksjoner. Dette hjelper et senere svar å beholde oppgavens begrensninger uten å forveksle sitert tekst med en ny kommando.\n\n### Funksjonskall\n\nDet konkrete modellkortet beskriver trening i funksjonsbruk med en spesifikk systemrepresentasjon, funksjonssignaturer og parameterskjemaer. Modellen returnerer JSON-objekter med det valgte funksjonsnavnet og argumentene innenfor verktøykalltagger. Den omkringliggende applikasjonen tolker forslaget, utfører funksjonen og returnerer et navngitt verktøysvar. Modellen bruker deretter de returnerte dataene til å produsere svaret.\n\nDefiner funksjoner presist og krev reelle argumentverdier fremfor antakelser om et eksternt system. En oppslagsfunksjon kan gi et manglende produktfelt eller en beregning, mens svaret forklarer hva den returnerte informasjonen betyr. Et generert kall er forskjellig fra et utført resultat; bevar observasjonen sammen med oppgaven.\n\n### JSON-modus og grenser\n\nHermes 3 dokumenterer også en skjemabetinget systeminstruksjon for svar som bare inneholder JSON. Definer felter og typer, og forklar hvordan manglende kildeinformasjon skal representeres. Kontroller det genererte objektet både for struktur og samsvar med inndataene. Et skjemakompatibelt svar skal ikke behandles som bevis på at en verdi ble hentet eller verifisert.\n\nDen publiserte 70B-modellkonfigurasjonen har 131 072 posisjoner. Kildetekst, samtale og generert innhold deler konteksten til den valgte arbeidsflyten, og genereringsstørrelsen i eksemplet er ikke en universell absolutt svargrense. Sett av plass til resultatet og hold lange inndata relevante for spørsmålet.\n\nDen nyttige leveransen er en tekst som kan gjennomgås, et kodeforslag eller en strukturert datapost forankret i den oppgitte konteksten og faktiske verktøyobservasjoner. Denne konkrete Hermes 3 70B-utgaven forblir separat fra den større 405B-modellen og formatet og kontrollene for hybrid resonnering i Hermes 4.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B er Nous Researchs styrbare allsidige tekstmodell for dialog over flere runder, rollespill, kode og agentoppgaver. ChatML-varianten omfatter skjemastyrt JSON og merkede funksjonskall, med en publisert konfigurasjon på 131 072 posisjoner.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Hermes 3 Llama 3.1 70B er Nous Researchs allsidige språkmodellutgave med 70 milliarder parametere i Hermes 3-serien. Den tar imot tekst og genererer et svar, et skriftlig utdrag, kode, en strukturert datapost eller et foreslått verktøykall. Produsenten fremhever brukerstyrbarhet, resonnering, rollespill, dialog over flere runder og sammenheng i lang kontekst, sammen med forbedrede funksjonskall og kodegenerering.
En systeminstruksjon kan definere rollen, reglene, stilen og utdatakravene. For rollespill gir du settingen, perspektivet og karaktergrensene; for en analytisk oppgave gir du kildeutdragene og kriteriene for konklusjonen. En nyttig oppgavebeskrivelse er: «Forklar forskjellene mellom disse kravene, bevar de tekniske navnene og identifiser passasjen som underbygger hvert funn.»
For programmering gir du relevant implementasjon, observert feil, forventet atferd og grensesnittene som skal forbli stabile. Be om det foreslåtte kodeartefaktet og forklaringen, og bruk deretter faktiske valideringsobservasjoner når en revisjon trengs. Muligheten for å styre modellen bidrar til å forme svaret, men oppgavebeskrivelsen må fortsatt definere det nyttige utfallet.
Hermes 3 bruker ChatML med separate system-, bruker- og assistentrunder og eksplisitte grenser. Produsenten anbefaler å formatere samtalen gjennom modellens egen mal og legge til prompten for assistentgenerering. En systemmelding er valgfri; når den brukes, bør den beskrive oppgavekonteksten og ønsket atferd fremfor å erstatte brukerens faktiske forespørsel.
Hold dialoghistorikken i de riktige rollene. For en pågående skriveoppgave bevarer du etablerte fakta og forteller modellen hvilken passasje som kan endres. For kildearbeid identifiserer du materiale som bevis og skiller det fra instruksjoner. Dette hjelper et senere svar å beholde oppgavens begrensninger uten å forveksle sitert tekst med en ny kommando.
Det konkrete modellkortet beskriver trening i funksjonsbruk med en spesifikk systemrepresentasjon, funksjonssignaturer og parameterskjemaer. Modellen returnerer JSON-objekter med det valgte funksjonsnavnet og argumentene innenfor verktøykalltagger. Den omkringliggende applikasjonen tolker forslaget, utfører funksjonen og returnerer et navngitt verktøysvar. Modellen bruker deretter de returnerte dataene til å produsere svaret.
Definer funksjoner presist og krev reelle argumentverdier fremfor antakelser om et eksternt system. En oppslagsfunksjon kan gi et manglende produktfelt eller en beregning, mens svaret forklarer hva den returnerte informasjonen betyr. Et generert kall er forskjellig fra et utført resultat; bevar observasjonen sammen med oppgaven.
Hermes 3 dokumenterer også en skjemabetinget systeminstruksjon for svar som bare inneholder JSON. Definer felter og typer, og forklar hvordan manglende kildeinformasjon skal representeres. Kontroller det genererte objektet både for struktur og samsvar med inndataene. Et skjemakompatibelt svar skal ikke behandles som bevis på at en verdi ble hentet eller verifisert.
Den publiserte 70B-modellkonfigurasjonen har 131 072 posisjoner. Kildetekst, samtale og generert innhold deler konteksten til den valgte arbeidsflyten, og genereringsstørrelsen i eksemplet er ikke en universell absolutt svargrense. Sett av plass til resultatet og hold lange inndata relevante for spørsmålet.
Den nyttige leveransen er en tekst som kan gjennomgås, et kodeforslag eller en strukturert datapost forankret i den oppgitte konteksten og faktiske verktøyobservasjoner. Denne konkrete Hermes 3 70B-utgaven forblir separat fra den større 405B-modellen og formatet og kontrollene for hybrid resonnering i Hermes 4.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser nousresearch/hermes-3-llama-3.1-70b | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0014 / 1K tokener Utdata · Utgående tokener $0.0014 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0014 / 1K tokener Utdata · Utgående tokener $0.0014 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-70b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Bruk metodestiene som vises ovenfor.
nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B er Nous Researchs styrbare allsidige tekstmodell for dialog over flere runder, rollespill, kode og agentoppgaver. ChatML-varianten omfatter skjemastyrt JSON og merkede funksjonskall, med en publisert konfigurasjon på 131 072 posisjoner.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Hermes 3 Llama 3.1 70B er Nous Researchs allsidige språkmodellutgave med 70 milliarder parametere i Hermes 3-serien. Den tar imot tekst og genererer et svar, et skriftlig utdrag, kode, en strukturert datapost eller et foreslått verktøykall. Produsenten fremhever brukerstyrbarhet, resonnering, rollespill, dialog over flere runder og sammenheng i lang kontekst, sammen med forbedrede funksjonskall og kodegenerering.
En systeminstruksjon kan definere rollen, reglene, stilen og utdatakravene. For rollespill gir du settingen, perspektivet og karaktergrensene; for en analytisk oppgave gir du kildeutdragene og kriteriene for konklusjonen. En nyttig oppgavebeskrivelse er: «Forklar forskjellene mellom disse kravene, bevar de tekniske navnene og identifiser passasjen som underbygger hvert funn.»
For programmering gir du relevant implementasjon, observert feil, forventet atferd og grensesnittene som skal forbli stabile. Be om det foreslåtte kodeartefaktet og forklaringen, og bruk deretter faktiske valideringsobservasjoner når en revisjon trengs. Muligheten for å styre modellen bidrar til å forme svaret, men oppgavebeskrivelsen må fortsatt definere det nyttige utfallet.
Hermes 3 bruker ChatML med separate system-, bruker- og assistentrunder og eksplisitte grenser. Produsenten anbefaler å formatere samtalen gjennom modellens egen mal og legge til prompten for assistentgenerering. En systemmelding er valgfri; når den brukes, bør den beskrive oppgavekonteksten og ønsket atferd fremfor å erstatte brukerens faktiske forespørsel.
Hold dialoghistorikken i de riktige rollene. For en pågående skriveoppgave bevarer du etablerte fakta og forteller modellen hvilken passasje som kan endres. For kildearbeid identifiserer du materiale som bevis og skiller det fra instruksjoner. Dette hjelper et senere svar å beholde oppgavens begrensninger uten å forveksle sitert tekst med en ny kommando.
Det konkrete modellkortet beskriver trening i funksjonsbruk med en spesifikk systemrepresentasjon, funksjonssignaturer og parameterskjemaer. Modellen returnerer JSON-objekter med det valgte funksjonsnavnet og argumentene innenfor verktøykalltagger. Den omkringliggende applikasjonen tolker forslaget, utfører funksjonen og returnerer et navngitt verktøysvar. Modellen bruker deretter de returnerte dataene til å produsere svaret.
Definer funksjoner presist og krev reelle argumentverdier fremfor antakelser om et eksternt system. En oppslagsfunksjon kan gi et manglende produktfelt eller en beregning, mens svaret forklarer hva den returnerte informasjonen betyr. Et generert kall er forskjellig fra et utført resultat; bevar observasjonen sammen med oppgaven.
Hermes 3 dokumenterer også en skjemabetinget systeminstruksjon for svar som bare inneholder JSON. Definer felter og typer, og forklar hvordan manglende kildeinformasjon skal representeres. Kontroller det genererte objektet både for struktur og samsvar med inndataene. Et skjemakompatibelt svar skal ikke behandles som bevis på at en verdi ble hentet eller verifisert.
Den publiserte 70B-modellkonfigurasjonen har 131 072 posisjoner. Kildetekst, samtale og generert innhold deler konteksten til den valgte arbeidsflyten, og genereringsstørrelsen i eksemplet er ikke en universell absolutt svargrense. Sett av plass til resultatet og hold lange inndata relevante for spørsmålet.
Den nyttige leveransen er en tekst som kan gjennomgås, et kodeforslag eller en strukturert datapost forankret i den oppgitte konteksten og faktiske verktøyobservasjoner. Denne konkrete Hermes 3 70B-utgaven forblir separat fra den større 405B-modellen og formatet og kontrollene for hybrid resonnering i Hermes 4.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser nousresearch/hermes-3-llama-3.1-70b | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0014 / 1K tokener Utdata · Utgående tokener $0.0014 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0014 / 1K tokener Utdata · Utgående tokener $0.0014 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "nousresearch/hermes-3-llama-3.1-70b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.