Hermes 3 Llama 3.1 70B är Nous Researchs allmänna språkmodellsutgåva med 70 miljarder parametrar i Hermes 3-serien. Den tar emot text och genererar ett svar, ett skrivet avsnitt, kod, en strukturerad post eller ett föreslaget verktygsanrop. Tillverkaren betonar användarstyrbarhet, resonemang, rollspel, dialog med flera turer och sammanhang i lång kontext, tillsammans med förbättrade funktionsanrop och förbättrad kodgenerering.
En systeminstruktion kan definiera roll, regler, stil och utmatningskrav. För rollspel anger du miljö, perspektiv och karaktärernas gränser; för ett analytiskt uppdrag tillhandahåller du källavsnitt och kriterier för slutsatsen. Ett användbart uppdragsunderlag är: ”Förklara skillnaderna mellan dessa krav, bevara de tekniska namnen och identifiera avsnittet som stöder varje slutsats.”
För kodning tillhandahåller du relevant implementation, observerat fel, förväntat beteende och gränssnitten som måste förbli stabila. Begär den föreslagna kodleveransen och dess förklaring och använd sedan faktiska valideringsobservationer när en revision behövs. Modellens styrbarhet hjälper till att forma svaret, men uppdragsunderlaget måste fortfarande definiera det användbara utfallet.
Hermes 3 använder ChatML med separata system-, användar- och assistentturer och uttryckliga gränser. Producenten rekommenderar att samtalet formateras genom modellens egen mall och att prompten för assistentgenerering läggs till. Ett systemmeddelande är valfritt; när det används bör det beskriva uppgiftskontexten och önskat beteende snarare än ersätta användarens faktiska begäran.
Behåll dialoghistoriken i rätt roller. För en pågående skrivuppgift bevarar du etablerade fakta och anger vilket avsnitt modellen får ändra. För källarbete identifierar du material som underlag och skiljer det från instruktioner. Det hjälper ett senare svar att behålla uppgiftens begränsningar utan att förväxla citerad text med ett nytt kommando.
Det specifika modellkortet beskriver träning i funktionsanvändning med en specifik systemrepresentation, funktionssignaturer och parameterscheman. Modellen returnerar JSON-objekt som innehåller det valda funktionsnamnet och argumenten inuti verktygsanropstaggar. Den omgivande applikationen tolkar förslaget, kör funktionen och returnerar ett namngivet verktygssvar. Modellen använder sedan de returnerade uppgifterna för att producera svaret.
Definiera funktioner exakt och kräv verkliga argumentvärden i stället för antaganden om ett externt system. En uppslagningsfunktion kan tillföra ett saknat produktfält eller en beräkning, medan svaret förklarar vad den returnerade informationen betyder. Ett genererat anrop skiljer sig från ett utfört resultat; bevara observationen tillsammans med uppgiften.
Hermes 3 dokumenterar också en schemabaserad systeminstruktion för svar med enbart JSON. Definiera fält och typer och förklara hur information som saknas i källan ska representeras. Kontrollera det genererade objektet både vad gäller struktur och överensstämmelse med indata. Ett schemakompatibelt svar ska inte behandlas som bevis för att ett värde har hämtats eller verifierats.
Den publicerade modellkonfigurationen för 70B har 131 072 positioner. Källtext, samtal och genererat innehåll delar det valda arbetsflödets kontext, och exempelstorleken för generering är inte en universell strikt svarsgräns. Reservera plats för resultatet och håll långa indata relevanta för frågan.
Den användbara leveransen är en granskningsbar text, ett kodförslag eller en strukturerad post förankrad i den tillhandahållna kontexten och faktiska verktygsobservationer. Den här specifika Hermes 3-utgåvan med 70 miljarder parametrar förblir skild från den större 405B-modellen och hybridformatet och kontrollerna för resonemang i Hermes 4.
", "aboutText": "Hermes 3 Llama 3.1 70B är Nous Researchs allmänna språkmodellsutgåva med 70 miljarder parametrar i Hermes 3-serien. Den tar emot text och genererar ett svar, ett skrivet avsnitt, kod, en strukturerad post eller ett föreslaget verktygsanrop. Tillverkaren betonar användarstyrbarhet, resonemang, rollspel, dialog med flera turer och sammanhang i lång kontext, tillsammans med förbättrade funktionsanrop och förbättrad kodgenerering.\n\n### Styr uppgiften och svaret\n\nEn systeminstruktion kan definiera roll, regler, stil och utmatningskrav. För rollspel anger du miljö, perspektiv och karaktärernas gränser; för ett analytiskt uppdrag tillhandahåller du källavsnitt och kriterier för slutsatsen. Ett användbart uppdragsunderlag är: ”Förklara skillnaderna mellan dessa krav, bevara de tekniska namnen och identifiera avsnittet som stöder varje slutsats.”\n\nFör kodning tillhandahåller du relevant implementation, observerat fel, förväntat beteende och gränssnitten som måste förbli stabila. Begär den föreslagna kodleveransen och dess förklaring och använd sedan faktiska valideringsobservationer när en revision behövs. Modellens styrbarhet hjälper till att forma svaret, men uppdragsunderlaget måste fortfarande definiera det användbara utfallet.\n\n### ChatML-samtal\n\nHermes 3 använder ChatML med separata system-, användar- och assistentturer och uttryckliga gränser. Producenten rekommenderar att samtalet formateras genom modellens egen mall och att prompten för assistentgenerering läggs till. Ett systemmeddelande är valfritt; när det används bör det beskriva uppgiftskontexten och önskat beteende snarare än ersätta användarens faktiska begäran.\n\nBehåll dialoghistoriken i rätt roller. För en pågående skrivuppgift bevarar du etablerade fakta och anger vilket avsnitt modellen får ändra. För källarbete identifierar du material som underlag och skiljer det från instruktioner. Det hjälper ett senare svar att behålla uppgiftens begränsningar utan att förväxla citerad text med ett nytt kommando.\n\n### Funktionsanrop\n\nDet specifika modellkortet beskriver träning i funktionsanvändning med en specifik systemrepresentation, funktionssignaturer och parameterscheman. Modellen returnerar JSON-objekt som innehåller det valda funktionsnamnet och argumenten inuti verktygsanropstaggar. Den omgivande applikationen tolkar förslaget, kör funktionen och returnerar ett namngivet verktygssvar. Modellen använder sedan de returnerade uppgifterna för att producera svaret.\n\nDefiniera funktioner exakt och kräv verkliga argumentvärden i stället för antaganden om ett externt system. En uppslagningsfunktion kan tillföra ett saknat produktfält eller en beräkning, medan svaret förklarar vad den returnerade informationen betyder. Ett genererat anrop skiljer sig från ett utfört resultat; bevara observationen tillsammans med uppgiften.\n\n### JSON-läge och gränser\n\nHermes 3 dokumenterar också en schemabaserad systeminstruktion för svar med enbart JSON. Definiera fält och typer och förklara hur information som saknas i källan ska representeras. Kontrollera det genererade objektet både vad gäller struktur och överensstämmelse med indata. Ett schemakompatibelt svar ska inte behandlas som bevis för att ett värde har hämtats eller verifierats.\n\nDen publicerade modellkonfigurationen för 70B har 131 072 positioner. Källtext, samtal och genererat innehåll delar det valda arbetsflödets kontext, och exempelstorleken för generering är inte en universell strikt svarsgräns. Reservera plats för resultatet och håll långa indata relevanta för frågan.\n\nDen användbara leveransen är en granskningsbar text, ett kodförslag eller en strukturerad post förankrad i den tillhandahållna kontexten och faktiska verktygsobservationer. Den här specifika Hermes 3-utgåvan med 70 miljarder parametrar förblir skild från den större 405B-modellen och hybridformatet och kontrollerna för resonemang i Hermes 4.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B är Nous Researchs styrbara allmänna textmodell för dialog med flera turer, rollspel, kod och agentuppgifter. Dess ChatML-variant omfattar schemastyrd JSON och taggade funktionsanrop, med en publicerad konfiguration på 131 072 positioner.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Hermes 3 Llama 3.1 70B är Nous Researchs allmänna språkmodellsutgåva med 70 miljarder parametrar i Hermes 3-serien. Den tar emot text och genererar ett svar, ett skrivet avsnitt, kod, en strukturerad post eller ett föreslaget verktygsanrop. Tillverkaren betonar användarstyrbarhet, resonemang, rollspel, dialog med flera turer och sammanhang i lång kontext, tillsammans med förbättrade funktionsanrop och förbättrad kodgenerering.
En systeminstruktion kan definiera roll, regler, stil och utmatningskrav. För rollspel anger du miljö, perspektiv och karaktärernas gränser; för ett analytiskt uppdrag tillhandahåller du källavsnitt och kriterier för slutsatsen. Ett användbart uppdragsunderlag är: ”Förklara skillnaderna mellan dessa krav, bevara de tekniska namnen och identifiera avsnittet som stöder varje slutsats.”
För kodning tillhandahåller du relevant implementation, observerat fel, förväntat beteende och gränssnitten som måste förbli stabila. Begär den föreslagna kodleveransen och dess förklaring och använd sedan faktiska valideringsobservationer när en revision behövs. Modellens styrbarhet hjälper till att forma svaret, men uppdragsunderlaget måste fortfarande definiera det användbara utfallet.
Hermes 3 använder ChatML med separata system-, användar- och assistentturer och uttryckliga gränser. Producenten rekommenderar att samtalet formateras genom modellens egen mall och att prompten för assistentgenerering läggs till. Ett systemmeddelande är valfritt; när det används bör det beskriva uppgiftskontexten och önskat beteende snarare än ersätta användarens faktiska begäran.
Behåll dialoghistoriken i rätt roller. För en pågående skrivuppgift bevarar du etablerade fakta och anger vilket avsnitt modellen får ändra. För källarbete identifierar du material som underlag och skiljer det från instruktioner. Det hjälper ett senare svar att behålla uppgiftens begränsningar utan att förväxla citerad text med ett nytt kommando.
Det specifika modellkortet beskriver träning i funktionsanvändning med en specifik systemrepresentation, funktionssignaturer och parameterscheman. Modellen returnerar JSON-objekt som innehåller det valda funktionsnamnet och argumenten inuti verktygsanropstaggar. Den omgivande applikationen tolkar förslaget, kör funktionen och returnerar ett namngivet verktygssvar. Modellen använder sedan de returnerade uppgifterna för att producera svaret.
Definiera funktioner exakt och kräv verkliga argumentvärden i stället för antaganden om ett externt system. En uppslagningsfunktion kan tillföra ett saknat produktfält eller en beräkning, medan svaret förklarar vad den returnerade informationen betyder. Ett genererat anrop skiljer sig från ett utfört resultat; bevara observationen tillsammans med uppgiften.
Hermes 3 dokumenterar också en schemabaserad systeminstruktion för svar med enbart JSON. Definiera fält och typer och förklara hur information som saknas i källan ska representeras. Kontrollera det genererade objektet både vad gäller struktur och överensstämmelse med indata. Ett schemakompatibelt svar ska inte behandlas som bevis för att ett värde har hämtats eller verifierats.
Den publicerade modellkonfigurationen för 70B har 131 072 positioner. Källtext, samtal och genererat innehåll delar det valda arbetsflödets kontext, och exempelstorleken för generering är inte en universell strikt svarsgräns. Reservera plats för resultatet och håll långa indata relevanta för frågan.
Den användbara leveransen är en granskningsbar text, ett kodförslag eller en strukturerad post förankrad i den tillhandahållna kontexten och faktiska verktygsobservationer. Den här specifika Hermes 3-utgåvan med 70 miljarder parametrar förblir skild från den större 405B-modellen och hybridformatet och kontrollerna för resonemang i Hermes 4.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser nousresearch/hermes-3-llama-3.1-70b | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0014 / 1K token Utdata · Utdatatoken $0.0014 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0014 / 1K token Utdata · Utdatatoken $0.0014 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-70b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Använd metodsökvägarna som visas ovan.
nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B är Nous Researchs styrbara allmänna textmodell för dialog med flera turer, rollspel, kod och agentuppgifter. Dess ChatML-variant omfattar schemastyrd JSON och taggade funktionsanrop, med en publicerad konfiguration på 131 072 positioner.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Hermes 3 Llama 3.1 70B är Nous Researchs allmänna språkmodellsutgåva med 70 miljarder parametrar i Hermes 3-serien. Den tar emot text och genererar ett svar, ett skrivet avsnitt, kod, en strukturerad post eller ett föreslaget verktygsanrop. Tillverkaren betonar användarstyrbarhet, resonemang, rollspel, dialog med flera turer och sammanhang i lång kontext, tillsammans med förbättrade funktionsanrop och förbättrad kodgenerering.
En systeminstruktion kan definiera roll, regler, stil och utmatningskrav. För rollspel anger du miljö, perspektiv och karaktärernas gränser; för ett analytiskt uppdrag tillhandahåller du källavsnitt och kriterier för slutsatsen. Ett användbart uppdragsunderlag är: ”Förklara skillnaderna mellan dessa krav, bevara de tekniska namnen och identifiera avsnittet som stöder varje slutsats.”
För kodning tillhandahåller du relevant implementation, observerat fel, förväntat beteende och gränssnitten som måste förbli stabila. Begär den föreslagna kodleveransen och dess förklaring och använd sedan faktiska valideringsobservationer när en revision behövs. Modellens styrbarhet hjälper till att forma svaret, men uppdragsunderlaget måste fortfarande definiera det användbara utfallet.
Hermes 3 använder ChatML med separata system-, användar- och assistentturer och uttryckliga gränser. Producenten rekommenderar att samtalet formateras genom modellens egen mall och att prompten för assistentgenerering läggs till. Ett systemmeddelande är valfritt; när det används bör det beskriva uppgiftskontexten och önskat beteende snarare än ersätta användarens faktiska begäran.
Behåll dialoghistoriken i rätt roller. För en pågående skrivuppgift bevarar du etablerade fakta och anger vilket avsnitt modellen får ändra. För källarbete identifierar du material som underlag och skiljer det från instruktioner. Det hjälper ett senare svar att behålla uppgiftens begränsningar utan att förväxla citerad text med ett nytt kommando.
Det specifika modellkortet beskriver träning i funktionsanvändning med en specifik systemrepresentation, funktionssignaturer och parameterscheman. Modellen returnerar JSON-objekt som innehåller det valda funktionsnamnet och argumenten inuti verktygsanropstaggar. Den omgivande applikationen tolkar förslaget, kör funktionen och returnerar ett namngivet verktygssvar. Modellen använder sedan de returnerade uppgifterna för att producera svaret.
Definiera funktioner exakt och kräv verkliga argumentvärden i stället för antaganden om ett externt system. En uppslagningsfunktion kan tillföra ett saknat produktfält eller en beräkning, medan svaret förklarar vad den returnerade informationen betyder. Ett genererat anrop skiljer sig från ett utfört resultat; bevara observationen tillsammans med uppgiften.
Hermes 3 dokumenterar också en schemabaserad systeminstruktion för svar med enbart JSON. Definiera fält och typer och förklara hur information som saknas i källan ska representeras. Kontrollera det genererade objektet både vad gäller struktur och överensstämmelse med indata. Ett schemakompatibelt svar ska inte behandlas som bevis för att ett värde har hämtats eller verifierats.
Den publicerade modellkonfigurationen för 70B har 131 072 positioner. Källtext, samtal och genererat innehåll delar det valda arbetsflödets kontext, och exempelstorleken för generering är inte en universell strikt svarsgräns. Reservera plats för resultatet och håll långa indata relevanta för frågan.
Den användbara leveransen är en granskningsbar text, ett kodförslag eller en strukturerad post förankrad i den tillhandahållna kontexten och faktiska verktygsobservationer. Den här specifika Hermes 3-utgåvan med 70 miljarder parametrar förblir skild från den större 405B-modellen och hybridformatet och kontrollerna för resonemang i Hermes 4.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser nousresearch/hermes-3-llama-3.1-70b | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0014 / 1K token Utdata · Utdatatoken $0.0014 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0014 / 1K token Utdata · Utdatatoken $0.0014 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "nousresearch/hermes-3-llama-3.1-70b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Använd metodsökvägarna som visas ovan.
Tekniskt exempel på engelska
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.