Hermes 3 Llama 3.1 70B on Nous Researchin Hermes 3 -sarjan 70B-versio yleiskäyttöisestä kielimallista. Se vastaanottaa tekstiä ja tuottaa vastauksen, kirjoitetun katkelman, koodia, rakenteisen tietueen tai ehdotetun työkalukutsun. Valmistaja korostaa käyttäjäohjattavuutta, päättelyä, roolipelejä, monivuoroista keskustelua ja pitkän kontekstin johdonmukaisuutta sekä parannettuja funktiokutsuja ja koodigenerointia.
Järjestelmäohje voi määrittää roolin, säännöt, tyylin ja tulosvaatimukset. Anna roolipeliin ympäristö, näkökulma ja hahmojen rajat; anna analyysitehtävään lähdekatkelmat ja johtopäätöksen kriteerit. Hyödyllinen toimeksianto on: ”Selitä näiden vaatimusten erot, säilytä tekniset nimet ja yksilöi kutakin havaintoa tukeva katkelma.”
Anna ohjelmointiin olennainen toteutus, havaittu virhe, odotettu toiminta ja vakaina säilytettävät rajapinnat. Pyydä ehdotettu koodi-artefakti ja sen selitys sekä käytä todellisia validointihavaintoja, kun muokkaus on tarpeen. Mallin ohjattavuus auttaa muotoilemaan vastausta, mutta toimeksiannon on silti määritettävä hyödyllinen lopputulos.
Hermes 3 käyttää ChatML:ää erillisillä järjestelmä-, käyttäjä- ja avustajavuoroilla sekä täsmällisillä rajoilla. Valmistaja suosittelee keskustelun muotoilua mallin omalla mallineella ja avustajan generointikehotteen lisäämistä. Järjestelmäviesti on valinnainen; käytettäessä sen tulee kuvata tehtäväkonteksti ja haluttu toiminta käyttäjän varsinaisen pyynnön korvaamisen sijaan.
Pidä keskusteluhistoria oikeissa rooleissa. Säilytä jatkuvassa kirjoitustehtävässä vakiintuneet tosiasiat ja kerro mallille, mikä katkelma saa muuttua. Yksilöi lähdetyössä aineisto näytöksi ja erota se ohjeista. Näin myöhempi vastaus voi säilyttää tehtävän rajoitteet sekoittamatta lainattua tekstiä uuteen komentoon.
Nimenomainen kortti kouluttaa funktioiden käyttöä tietyllä järjestelmäesityksellä, funktion allekirjoituksilla ja parametriskeemoilla. Malli palauttaa valitun funktion nimen ja argumentit sisältävät JSON-objektit työkalukutsutunnisteiden sisällä. Ympäröivä sovellus jäsentää ehdotuksen, suorittaa funktion ja palauttaa nimetyn työkaluvastauksen. Malli käyttää sitten palautettua dataa vastauksen tuottamiseen.
Määritä funktiot täsmällisesti ja vaadi argumenteille todellisia arvoja ulkoista järjestelmää koskevien oletusten sijaan. Hakufunktio voi antaa puuttuvan tuotekentän tai laskelman, ja vastaus selittää palautetun tiedon merkityksen. Tuotettu kutsu eroaa suoritetusta tuloksesta; säilytä havainto tehtävän yhteydessä.
Hermes 3 dokumentoi myös skeemaan perustuvan järjestelmäohjeen vain JSON-muotoisia vastauksia varten. Määritä kentät ja tyypit sekä selitä puuttuvien lähdetietojen esitystapa. Tarkista tuotetun objektin rakenne ja vastaavuus syötteeseen. Skeeman mukaista vastausta ei tule pitää todisteena arvon hakemisesta tai varmentamisesta.
Julkaistussa 70B-mallikonfiguraatiossa on 131 072 positiota. Lähdeteksti, keskustelu ja tuotettu sisältö jakavat valitun työnkulun kontekstin, eikä generoinnin esimerkkikoko ole yleispätevä ehdoton vastausraja. Varaa tilaa tulokselle ja pidä pitkät syötteet kysymyksen kannalta olennaisina.
Hyödyllinen tulos on tarkastettava teksti, koodiehdotus tai rakenteinen tietue, joka perustuu annettuun kontekstiin ja todellisiin työkaluhavaintoihin. Tämä tarkka 70B Hermes 3 -versio on erillinen suuremmasta 405B-mallista sekä Hermes 4:n hybridipäättelyn muodosta ja ohjaimista.
", "aboutText": "Hermes 3 Llama 3.1 70B on Nous Researchin Hermes 3 -sarjan 70B-versio yleiskäyttöisestä kielimallista. Se vastaanottaa tekstiä ja tuottaa vastauksen, kirjoitetun katkelman, koodia, rakenteisen tietueen tai ehdotetun työkalukutsun. Valmistaja korostaa käyttäjäohjattavuutta, päättelyä, roolipelejä, monivuoroista keskustelua ja pitkän kontekstin johdonmukaisuutta sekä parannettuja funktiokutsuja ja koodigenerointia.\n\n### Ohjaa tehtävää ja vastausta\n\nJärjestelmäohje voi määrittää roolin, säännöt, tyylin ja tulosvaatimukset. Anna roolipeliin ympäristö, näkökulma ja hahmojen rajat; anna analyysitehtävään lähdekatkelmat ja johtopäätöksen kriteerit. Hyödyllinen toimeksianto on: ”Selitä näiden vaatimusten erot, säilytä tekniset nimet ja yksilöi kutakin havaintoa tukeva katkelma.”\n\nAnna ohjelmointiin olennainen toteutus, havaittu virhe, odotettu toiminta ja vakaina säilytettävät rajapinnat. Pyydä ehdotettu koodi-artefakti ja sen selitys sekä käytä todellisia validointihavaintoja, kun muokkaus on tarpeen. Mallin ohjattavuus auttaa muotoilemaan vastausta, mutta toimeksiannon on silti määritettävä hyödyllinen lopputulos.\n\n### ChatML-keskustelu\n\nHermes 3 käyttää ChatML:ää erillisillä järjestelmä-, käyttäjä- ja avustajavuoroilla sekä täsmällisillä rajoilla. Valmistaja suosittelee keskustelun muotoilua mallin omalla mallineella ja avustajan generointikehotteen lisäämistä. Järjestelmäviesti on valinnainen; käytettäessä sen tulee kuvata tehtäväkonteksti ja haluttu toiminta käyttäjän varsinaisen pyynnön korvaamisen sijaan.\n\nPidä keskusteluhistoria oikeissa rooleissa. Säilytä jatkuvassa kirjoitustehtävässä vakiintuneet tosiasiat ja kerro mallille, mikä katkelma saa muuttua. Yksilöi lähdetyössä aineisto näytöksi ja erota se ohjeista. Näin myöhempi vastaus voi säilyttää tehtävän rajoitteet sekoittamatta lainattua tekstiä uuteen komentoon.\n\n### Funktiokutsut\n\nNimenomainen kortti kouluttaa funktioiden käyttöä tietyllä järjestelmäesityksellä, funktion allekirjoituksilla ja parametriskeemoilla. Malli palauttaa valitun funktion nimen ja argumentit sisältävät JSON-objektit työkalukutsutunnisteiden sisällä. Ympäröivä sovellus jäsentää ehdotuksen, suorittaa funktion ja palauttaa nimetyn työkaluvastauksen. Malli käyttää sitten palautettua dataa vastauksen tuottamiseen.\n\nMääritä funktiot täsmällisesti ja vaadi argumenteille todellisia arvoja ulkoista järjestelmää koskevien oletusten sijaan. Hakufunktio voi antaa puuttuvan tuotekentän tai laskelman, ja vastaus selittää palautetun tiedon merkityksen. Tuotettu kutsu eroaa suoritetusta tuloksesta; säilytä havainto tehtävän yhteydessä.\n\n### JSON-tila ja rajat\n\nHermes 3 dokumentoi myös skeemaan perustuvan järjestelmäohjeen vain JSON-muotoisia vastauksia varten. Määritä kentät ja tyypit sekä selitä puuttuvien lähdetietojen esitystapa. Tarkista tuotetun objektin rakenne ja vastaavuus syötteeseen. Skeeman mukaista vastausta ei tule pitää todisteena arvon hakemisesta tai varmentamisesta.\n\nJulkaistussa 70B-mallikonfiguraatiossa on 131 072 positiota. Lähdeteksti, keskustelu ja tuotettu sisältö jakavat valitun työnkulun kontekstin, eikä generoinnin esimerkkikoko ole yleispätevä ehdoton vastausraja. Varaa tilaa tulokselle ja pidä pitkät syötteet kysymyksen kannalta olennaisina.\n\nHyödyllinen tulos on tarkastettava teksti, koodiehdotus tai rakenteinen tietue, joka perustuu annettuun kontekstiin ja todellisiin työkaluhavaintoihin. Tämä tarkka 70B Hermes 3 -versio on erillinen suuremmasta 405B-mallista sekä Hermes 4:n hybridipäättelyn muodosta ja ohjaimista.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekninen esimerkki englanniksi
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B on Nous Researchin ohjattava yleiskäyttöinen tekstimalli monivuoroiseen keskusteluun, roolipeleihin, koodiin ja agenttitehtäviin. Sen ChatML-variantti sisältää skeemaohjatun JSON-muodon ja tunnisteilla rajatut funktiokutsut, ja julkaistu konfiguraatio sisältää 131 072 positiota.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Hermes 3 Llama 3.1 70B on Nous Researchin Hermes 3 -sarjan 70B-versio yleiskäyttöisestä kielimallista. Se vastaanottaa tekstiä ja tuottaa vastauksen, kirjoitetun katkelman, koodia, rakenteisen tietueen tai ehdotetun työkalukutsun. Valmistaja korostaa käyttäjäohjattavuutta, päättelyä, roolipelejä, monivuoroista keskustelua ja pitkän kontekstin johdonmukaisuutta sekä parannettuja funktiokutsuja ja koodigenerointia.
Järjestelmäohje voi määrittää roolin, säännöt, tyylin ja tulosvaatimukset. Anna roolipeliin ympäristö, näkökulma ja hahmojen rajat; anna analyysitehtävään lähdekatkelmat ja johtopäätöksen kriteerit. Hyödyllinen toimeksianto on: ”Selitä näiden vaatimusten erot, säilytä tekniset nimet ja yksilöi kutakin havaintoa tukeva katkelma.”
Anna ohjelmointiin olennainen toteutus, havaittu virhe, odotettu toiminta ja vakaina säilytettävät rajapinnat. Pyydä ehdotettu koodi-artefakti ja sen selitys sekä käytä todellisia validointihavaintoja, kun muokkaus on tarpeen. Mallin ohjattavuus auttaa muotoilemaan vastausta, mutta toimeksiannon on silti määritettävä hyödyllinen lopputulos.
Hermes 3 käyttää ChatML:ää erillisillä järjestelmä-, käyttäjä- ja avustajavuoroilla sekä täsmällisillä rajoilla. Valmistaja suosittelee keskustelun muotoilua mallin omalla mallineella ja avustajan generointikehotteen lisäämistä. Järjestelmäviesti on valinnainen; käytettäessä sen tulee kuvata tehtäväkonteksti ja haluttu toiminta käyttäjän varsinaisen pyynnön korvaamisen sijaan.
Pidä keskusteluhistoria oikeissa rooleissa. Säilytä jatkuvassa kirjoitustehtävässä vakiintuneet tosiasiat ja kerro mallille, mikä katkelma saa muuttua. Yksilöi lähdetyössä aineisto näytöksi ja erota se ohjeista. Näin myöhempi vastaus voi säilyttää tehtävän rajoitteet sekoittamatta lainattua tekstiä uuteen komentoon.
Nimenomainen kortti kouluttaa funktioiden käyttöä tietyllä järjestelmäesityksellä, funktion allekirjoituksilla ja parametriskeemoilla. Malli palauttaa valitun funktion nimen ja argumentit sisältävät JSON-objektit työkalukutsutunnisteiden sisällä. Ympäröivä sovellus jäsentää ehdotuksen, suorittaa funktion ja palauttaa nimetyn työkaluvastauksen. Malli käyttää sitten palautettua dataa vastauksen tuottamiseen.
Määritä funktiot täsmällisesti ja vaadi argumenteille todellisia arvoja ulkoista järjestelmää koskevien oletusten sijaan. Hakufunktio voi antaa puuttuvan tuotekentän tai laskelman, ja vastaus selittää palautetun tiedon merkityksen. Tuotettu kutsu eroaa suoritetusta tuloksesta; säilytä havainto tehtävän yhteydessä.
Hermes 3 dokumentoi myös skeemaan perustuvan järjestelmäohjeen vain JSON-muotoisia vastauksia varten. Määritä kentät ja tyypit sekä selitä puuttuvien lähdetietojen esitystapa. Tarkista tuotetun objektin rakenne ja vastaavuus syötteeseen. Skeeman mukaista vastausta ei tule pitää todisteena arvon hakemisesta tai varmentamisesta.
Julkaistussa 70B-mallikonfiguraatiossa on 131 072 positiota. Lähdeteksti, keskustelu ja tuotettu sisältö jakavat valitun työnkulun kontekstin, eikä generoinnin esimerkkikoko ole yleispätevä ehdoton vastausraja. Varaa tilaa tulokselle ja pidä pitkät syötteet kysymyksen kannalta olennaisina.
Hyödyllinen tulos on tarkastettava teksti, koodiehdotus tai rakenteinen tietue, joka perustuu annettuun kontekstiin ja todellisiin työkaluhavaintoihin. Tämä tarkka 70B Hermes 3 -versio on erillinen suuremmasta 405B-mallista sekä Hermes 4:n hybridipäättelyn muodosta ja ohjaimista.
POST /v1/chat/completionstexttext| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat nousresearch/hermes-3-llama-3.1-70b | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat Esimerkit: system, user, assistant, tool, function Ehdot: Nämä roolit esitetään nimenomaisesti lähdekoodin yhteensopivuustyypeissä; mallin täsmällinen roolijoukko pysyy mallikohtaisena. Riippuu mallista | Oletus— |
Kenttämessages[].content | Tyyppistring|content_part[]|null | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttämessages[].tool_calls | Tyyppitool_call[] | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttämessages[].tool_call_id | Tyyppistring | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: role=tool; käytä todella palautettua ID:tä | Oletus— |
Kenttämessages[].name | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttämessages[].reasoning_content | Tyyppistring | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: Palauta todella saatu päättely takaisin mallille, kun kyseinen malli käyttää sitä | Oletus— |
Kenttämessages[].reasoning_details | Tyyppiobject|array | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttämax_tokens | Tyyppiinteger | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— |
Kenttämax_completion_tokens | Tyyppiinteger | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Kenttästream_options.include_usage | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätemperature | Tyyppinumber | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätop_p | Tyyppinumber | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttästop | Tyyppistring|string[] | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätools | Tyyppifunction_tool[] | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätools[].type | Tyyppistring | VaatimusValinnainen | Arvot & rajat function Riippuu mallista | Oletus— |
Kenttätools[].function.name | Tyyppistring | VaatimusPakollinen | Arvot & rajat Sovelletaan, kun: funktiotyökalu annettu | Oletus— |
Kenttätools[].function.description | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttätools[].function.parameters | TyyppiJSON_schema | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttätool_choice | Tyyppistring|object | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäparallel_tool_calls | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäresponse_format | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäreasoning_effort | Tyyppistring | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäreasoning | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäservice_tier | Tyyppistring | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäinstructions | Tyyppistring | VaatimusValinnainen | Arvot & rajat Yhteensopivuuskenttä | Oletus— |
Kenttäfunctions | Tyyppifunction[] | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäfunction_call | Tyyppistring|object | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäprompt_cache_options | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttämodalities | Tyyppistring[] | VaatimusValinnainen | Arvot & rajat text | Oletus— |
Kenttäprovider | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Ehdot: provider.options hylätään tällä Ultran tekstireitillä | Oletus— |
Kenttäcache_control.ttl | Tyyppistring | VaatimusValinnainen | Arvot & rajat Ehdot: 1h hylätään varsinaisissa kehotevälimuistin kohdissa | Oletus— |
Teksti · UTF8-teksti
messages[].content
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages |
Parametrimaterial_types | Sopimustext |
Parametrimessages | Sopimusviestitaulukko role/content-rakenteella |
Parametrifile_material | Sopimusvarsinainen UTF-8-asiakirja lisätään sellaisenaan tekstinä; tiedoston ID:tä ei päätellä |
Parametrioptional_controls | Sopimusstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametricontrol_scope | Sopimusmallikohtainen; käyttäjän funktiotyökalut eroavat palvelun isännöimistä työkaluista |
Parametrioutput_modalities | Sopimustext |
Parametrihosted_operations | Sopimusfalse |
Parametrimultimodal_input_binding | Sopimusnull |
Elinkaari: synchronous_or_streamed
Lähetä mallin täsmällinen ID yhdessä messages-kentän kanssa.
Kontekstin pituus ei ole tuloksen yläraja.
Tekstitiedosto voi antaa tekstiä sellaisenaan; kuva-, ääni- ja tiedosto-objektisyötteet tarvitsevat täsmällisen sidonnan.
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
Kohdista kukin veloitus näytettyihin ehtoihin. Käytä yhtä hintaa kutakin vaihtoehtoisten asetusten ryhmää kohden.
| Asetukset | Hinnasto | Kontekstin tokenit, enemmän kuin | Kontekstin tokenit, enintään raja-arvo mukaan lukien | Veloitus |
|---|---|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Kontekstin tokenit, enemmän kuin— | Kontekstin tokenit, enintään raja-arvo mukaan lukienEi ylärajaa | Veloitus Syöte · Syötetokenit $0.0014 / 1K tokenia Tuloste · Tulostokenit $0.0014 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
| AsetuksetPyynnön pituusluokka 1 | Hinnasto— | Kontekstin tokenit, enemmän kuin0 | Kontekstin tokenit, enintään raja-arvo mukaan lukienEi ylärajaa | Veloitus Syöte · Syötetokenit $0.0014 / 1K tokenia Tuloste · Tulostokenit $0.0014 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-70b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vastausvaihtoehto sisältöineen, työkalukutsuineen ja päättelyineen. Kokoa SSE:ssä muutokset vastausvaihtoehdon ja työkalun indeksin mukaan ja säilytä lopullinen päättymissyy sekä käyttötiedot.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttächoices[].index | Tyyppiinteger |
Kenttächoices[].message.content | Tyyppistring|null |
Kenttächoices[].message.tool_calls | Tyyppitool_call[] |
Kenttächoices[].message.reasoning_content | Tyyppistring |
Kenttächoices[].message.reasoning_details | Tyyppiobject|array |
Kenttächoices[].finish_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Käytä yllä näytettyjä menetelmäpolkuja.
nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B on Nous Researchin ohjattava yleiskäyttöinen tekstimalli monivuoroiseen keskusteluun, roolipeleihin, koodiin ja agenttitehtäviin. Sen ChatML-variantti sisältää skeemaohjatun JSON-muodon ja tunnisteilla rajatut funktiokutsut, ja julkaistu konfiguraatio sisältää 131 072 positiota.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Hermes 3 Llama 3.1 70B on Nous Researchin Hermes 3 -sarjan 70B-versio yleiskäyttöisestä kielimallista. Se vastaanottaa tekstiä ja tuottaa vastauksen, kirjoitetun katkelman, koodia, rakenteisen tietueen tai ehdotetun työkalukutsun. Valmistaja korostaa käyttäjäohjattavuutta, päättelyä, roolipelejä, monivuoroista keskustelua ja pitkän kontekstin johdonmukaisuutta sekä parannettuja funktiokutsuja ja koodigenerointia.
Järjestelmäohje voi määrittää roolin, säännöt, tyylin ja tulosvaatimukset. Anna roolipeliin ympäristö, näkökulma ja hahmojen rajat; anna analyysitehtävään lähdekatkelmat ja johtopäätöksen kriteerit. Hyödyllinen toimeksianto on: ”Selitä näiden vaatimusten erot, säilytä tekniset nimet ja yksilöi kutakin havaintoa tukeva katkelma.”
Anna ohjelmointiin olennainen toteutus, havaittu virhe, odotettu toiminta ja vakaina säilytettävät rajapinnat. Pyydä ehdotettu koodi-artefakti ja sen selitys sekä käytä todellisia validointihavaintoja, kun muokkaus on tarpeen. Mallin ohjattavuus auttaa muotoilemaan vastausta, mutta toimeksiannon on silti määritettävä hyödyllinen lopputulos.
Hermes 3 käyttää ChatML:ää erillisillä järjestelmä-, käyttäjä- ja avustajavuoroilla sekä täsmällisillä rajoilla. Valmistaja suosittelee keskustelun muotoilua mallin omalla mallineella ja avustajan generointikehotteen lisäämistä. Järjestelmäviesti on valinnainen; käytettäessä sen tulee kuvata tehtäväkonteksti ja haluttu toiminta käyttäjän varsinaisen pyynnön korvaamisen sijaan.
Pidä keskusteluhistoria oikeissa rooleissa. Säilytä jatkuvassa kirjoitustehtävässä vakiintuneet tosiasiat ja kerro mallille, mikä katkelma saa muuttua. Yksilöi lähdetyössä aineisto näytöksi ja erota se ohjeista. Näin myöhempi vastaus voi säilyttää tehtävän rajoitteet sekoittamatta lainattua tekstiä uuteen komentoon.
Nimenomainen kortti kouluttaa funktioiden käyttöä tietyllä järjestelmäesityksellä, funktion allekirjoituksilla ja parametriskeemoilla. Malli palauttaa valitun funktion nimen ja argumentit sisältävät JSON-objektit työkalukutsutunnisteiden sisällä. Ympäröivä sovellus jäsentää ehdotuksen, suorittaa funktion ja palauttaa nimetyn työkaluvastauksen. Malli käyttää sitten palautettua dataa vastauksen tuottamiseen.
Määritä funktiot täsmällisesti ja vaadi argumenteille todellisia arvoja ulkoista järjestelmää koskevien oletusten sijaan. Hakufunktio voi antaa puuttuvan tuotekentän tai laskelman, ja vastaus selittää palautetun tiedon merkityksen. Tuotettu kutsu eroaa suoritetusta tuloksesta; säilytä havainto tehtävän yhteydessä.
Hermes 3 dokumentoi myös skeemaan perustuvan järjestelmäohjeen vain JSON-muotoisia vastauksia varten. Määritä kentät ja tyypit sekä selitä puuttuvien lähdetietojen esitystapa. Tarkista tuotetun objektin rakenne ja vastaavuus syötteeseen. Skeeman mukaista vastausta ei tule pitää todisteena arvon hakemisesta tai varmentamisesta.
Julkaistussa 70B-mallikonfiguraatiossa on 131 072 positiota. Lähdeteksti, keskustelu ja tuotettu sisältö jakavat valitun työnkulun kontekstin, eikä generoinnin esimerkkikoko ole yleispätevä ehdoton vastausraja. Varaa tilaa tulokselle ja pidä pitkät syötteet kysymyksen kannalta olennaisina.
Hyödyllinen tulos on tarkastettava teksti, koodiehdotus tai rakenteinen tietue, joka perustuu annettuun kontekstiin ja todellisiin työkaluhavaintoihin. Tämä tarkka 70B Hermes 3 -versio on erillinen suuremmasta 405B-mallista sekä Hermes 4:n hybridipäättelyn muodosta ja ohjaimista.
POST /v1/messagestextjson, sse| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat nousresearch/hermes-3-llama-3.1-70b | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat user, assistant | Oletus— |
Kenttämessages[].content | Tyyppistring | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämax_tokens | Tyyppiinteger | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Teksti · UTF-8-teksti
messages[].content-merkkijono
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages, max_tokens |
Parametrioptional_controls | Sopimusstream |
Parametrimaterial_types | Sopimustext |
Parametritext_file_material | SopimusLue varsinainen UTF-8-asiakirja ja sijoita sen teksti ilmoitettuun syöte- tai viestisisällön merkkijonoon. |
Elinkaari: synchronous_or_streamed
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
Kohdista kukin veloitus näytettyihin ehtoihin. Käytä yhtä hintaa kutakin vaihtoehtoisten asetusten ryhmää kohden.
| Asetukset | Hinnasto | Kontekstin tokenit, enemmän kuin | Kontekstin tokenit, enintään raja-arvo mukaan lukien | Veloitus |
|---|---|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Kontekstin tokenit, enemmän kuin— | Kontekstin tokenit, enintään raja-arvo mukaan lukienEi ylärajaa | Veloitus Syöte · Syötetokenit $0.0014 / 1K tokenia Tuloste · Tulostokenit $0.0014 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
| AsetuksetPyynnön pituusluokka 1 | Hinnasto— | Kontekstin tokenit, enemmän kuin0 | Kontekstin tokenit, enintään raja-arvo mukaan lukienEi ylärajaa | Veloitus Syöte · Syötetokenit $0.0014 / 1K tokenia Tuloste · Tulostokenit $0.0014 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
{\n "model": "nousresearch/hermes-3-llama-3.1-70b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä kaikki sisältölohkot, päättelyallekirjoitukset ja todelliset työkalukäytön ID:t. Kokoa kaikki SSE-lohkomuutokset; ensimmäinen tekstilohko ei ole koko tulos.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttäid | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttäcontent[] | Tyyppitext|thinking|tool_use|other content block |
Kenttästop_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Käytä yllä näytettyjä menetelmäpolkuja.
Tekninen esimerkki englanniksi
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.