Hermes 4 405B – Nous Research hibridinio režimo samprotavimo modelis, pagrįstas Llama 3.1 405B. Jis priima tekstą ir generuoja tekstą, įskaitant galutinį atsakymą, kodą, struktūruotą JSON ar įrankių kvietimų turinį. Gamintojas šią versiją kuria remdamasis patikrintais samprotavimo pėdsakais, stipriu naudotojo valdomumu ir tikslia išvesties formato atitiktimi, kartu išlaikydamas bendrojo asistento bei kūrybinio rašymo užduotis.
Gamintojas aprašo išplėstą papildomo mokymo rinkinį, apimantį maždaug penkis milijonus pavyzdžių ir šešiasdešimt milijardų žetonų, kuriame derinami samprotavimo ir nesamprotavimo duomenys. Hermes 4 prideda aiškų hibridinio samprotavimo režimą, gerina tikslinę matematikos, kodo, STEM ir logikos elgseną bei mokomas laikytis JSON schemų ir taisyti netaisyklingus objektus. Tai versijos pakeitimai; jų neturi pakeisti Hermes 3 užklausų vaizdavimas ir ankstesnė elgsena.
Samprotavimo užduočiai pateikite visą problemą, apibrėžimus ir apribojimus. Galutinio sprendimo ar kodo artefakto prašykite atskirai nuo tarpinės analizės. Praktinis aprašas: „Palygink šias sąlygas su siūlomu sprendimu, nustatyk nepagrįstą žingsnį ir grąžink pataisytą išvadą su jos naudojamomis prielaidomis.“
Hermes 4 naudoja Llama 3 pokalbio formatą su vaidmenų antraštėmis. Gamintojas gali aktyvinti samprotavimą pokalbio šablono thinking vėliavėle arba tokį veikimą apibrėžiančia sistemine instrukcija. Modeliui svarstant, prieš galutinį atsakymą mąstymas įterpiamas tarp specialių jo žymeklių. Papildomos sisteminės instrukcijos gali formuoti vaidmenį, stilių ir atsakymo formatą.
Atskaitos aprašas taip pat siūlo keep_cots mąstymo turiniui išlaikyti. Tai šablono parinktis, o ne neribotos atminties teiginys. Išlaikykite aiškius priimtus faktus ir užduoties reikalavimus, kad tarpinės idėjos liktų atskiriamos nuo galutinių išvadų. Rašymui nurodykite požiūrio tašką, toną ir išsaugotiną medžiagą; išgavimui apibrėžkite norimą įrašą, užuot pasikliovę atviru bendrojo asistento stiliumi.
Hermes 4 palaiko funkcijų kvietimus, kaitaliojamus su samprotavimu viename asistento ėjime. Įrankiai turi pavadinimus, aprašymus ir parametrų schemas, pateikiamus gamintojo sisteminiu vaizdavimu arba šablono interpretuojamu tools lauku. Modelis pateikia žymėtus JSON kvietimų objektus. Programa išanalizuoja ir vykdo pasirinktą funkciją bei grąžina įrankio atsakymą, po kurio modelis gali tęsti analizę ir pateikti atsakymą.
JSON rezultatui pateikite schemą ir kiekvieno lauko prasmę. Mokymas laikytis schemos ar taisyti netaisyklingus objektus neįrodo, kad kiekviena grąžinta reikšmė yra faktinė. Palyginkite objektą su šaltiniu, išsaugokite išgautų laukų įrodymus ir prieš taikydami patikrinkite siūlomus funkcijų argumentus.
Paskelbta modelio konfigūracija nustato max_position_embeddings į 131 072. Šaltinių medžiagą, pokalbį, samprotavimą, įrankių rezultatus ir atsakymą sutalpinkite į pasirinkto proceso kontekstą; šis pozicijų laukas nėra nepriklausoma griežta išvesties riba. Atskaitos generavimo parametrų variantui Nous rekomenduoja temperatūrą 0.6, top-p 0.95 ir top-k 20.
Naudingas rezultatas – šaltiniais pagrįstas atsakymas, kodo pasiūlymas, struktūruotas įrašas ar rašytinė ištrauka, kurios apribojimus galima patikrinti. Sugeneruotą kodą peržiūrėkite numatytoje programoje, o papildomoms užklausoms naudokite faktiškai grąžintus stebėjimus. Tikslią 405B Hermes 4 versiją, jos Llama pokalbio formatą ir hibridinį įrankių procesą išlaikykite atskirai nuo mažesnių variantų, Hermes 3 ChatML ir kitų iš Llama išvestų modelių.
", "aboutText": "Hermes 4 405B – Nous Research hibridinio režimo samprotavimo modelis, pagrįstas Llama 3.1 405B. Jis priima tekstą ir generuoja tekstą, įskaitant galutinį atsakymą, kodą, struktūruotą JSON ar įrankių kvietimų turinį. Gamintojas šią versiją kuria remdamasis patikrintais samprotavimo pėdsakais, stipriu naudotojo valdomumu ir tikslia išvesties formato atitiktimi, kartu išlaikydamas bendrojo asistento bei kūrybinio rašymo užduotis.\n\n### Kas keičiasi, palyginti su Hermes 3\n\nGamintojas aprašo išplėstą papildomo mokymo rinkinį, apimantį maždaug penkis milijonus pavyzdžių ir šešiasdešimt milijardų žetonų, kuriame derinami samprotavimo ir nesamprotavimo duomenys. Hermes 4 prideda aiškų hibridinio samprotavimo režimą, gerina tikslinę matematikos, kodo, STEM ir logikos elgseną bei mokomas laikytis JSON schemų ir taisyti netaisyklingus objektus. Tai versijos pakeitimai; jų neturi pakeisti Hermes 3 užklausų vaizdavimas ir ankstesnė elgsena.\n\nSamprotavimo užduočiai pateikite visą problemą, apibrėžimus ir apribojimus. Galutinio sprendimo ar kodo artefakto prašykite atskirai nuo tarpinės analizės. Praktinis aprašas: „Palygink šias sąlygas su siūlomu sprendimu, nustatyk nepagrįstą žingsnį ir grąžink pataisytą išvadą su jos naudojamomis prielaidomis.“\n\n### Užklausos formatas ir mąstymas\n\nHermes 4 naudoja Llama 3 pokalbio formatą su vaidmenų antraštėmis. Gamintojas gali aktyvinti samprotavimą pokalbio šablono thinking vėliavėle arba tokį veikimą apibrėžiančia sistemine instrukcija. Modeliui svarstant, prieš galutinį atsakymą mąstymas įterpiamas tarp specialių jo žymeklių. Papildomos sisteminės instrukcijos gali formuoti vaidmenį, stilių ir atsakymo formatą.\n\nAtskaitos aprašas taip pat siūlo keep_cots mąstymo turiniui išlaikyti. Tai šablono parinktis, o ne neribotos atminties teiginys. Išlaikykite aiškius priimtus faktus ir užduoties reikalavimus, kad tarpinės idėjos liktų atskiriamos nuo galutinių išvadų. Rašymui nurodykite požiūrio tašką, toną ir išsaugotiną medžiagą; išgavimui apibrėžkite norimą įrašą, užuot pasikliovę atviru bendrojo asistento stiliumi.\n\n### Įrankiai ir struktūruotos išvestys\n\nHermes 4 palaiko funkcijų kvietimus, kaitaliojamus su samprotavimu viename asistento ėjime. Įrankiai turi pavadinimus, aprašymus ir parametrų schemas, pateikiamus gamintojo sisteminiu vaizdavimu arba šablono interpretuojamu tools lauku. Modelis pateikia žymėtus JSON kvietimų objektus. Programa išanalizuoja ir vykdo pasirinktą funkciją bei grąžina įrankio atsakymą, po kurio modelis gali tęsti analizę ir pateikti atsakymą.\n\nJSON rezultatui pateikite schemą ir kiekvieno lauko prasmę. Mokymas laikytis schemos ar taisyti netaisyklingus objektus neįrodo, kad kiekviena grąžinta reikšmė yra faktinė. Palyginkite objektą su šaltiniu, išsaugokite išgautų laukų įrodymus ir prieš taikydami patikrinkite siūlomus funkcijų argumentus.\n\n### Kontekstas ir generavimo gairės\n\nPaskelbta modelio konfigūracija nustato max_position_embeddings į 131 072. Šaltinių medžiagą, pokalbį, samprotavimą, įrankių rezultatus ir atsakymą sutalpinkite į pasirinkto proceso kontekstą; šis pozicijų laukas nėra nepriklausoma griežta išvesties riba. Atskaitos generavimo parametrų variantui Nous rekomenduoja temperatūrą 0.6, top-p 0.95 ir top-k 20.\n\nNaudingas rezultatas – šaltiniais pagrįstas atsakymas, kodo pasiūlymas, struktūruotas įrašas ar rašytinė ištrauka, kurios apribojimus galima patikrinti. Sugeneruotą kodą peržiūrėkite numatytoje programoje, o papildomoms užklausoms naudokite faktiškai grąžintus stebėjimus. Tikslią 405B Hermes 4 versiją, jos Llama pokalbio formatą ir hibridinį įrankių procesą išlaikykite atskirai nuo mažesnių variantų, Hermes 3 ChatML ir kitų iš Llama išvestų modelių.", "editorialOverlay": { "copy_fields": { "practical_html": "Techninis pavyzdys anglų kalba
Repair an extracted record\n\nRepair this draft record using only the source sentence. Source: 'Shipment R18 contains 14 blue lamps; delivery date is not yet agreed.' Draft: {shipment: 'R18', quantity: '41', colour: 'blue', delivery_date: 'Friday'}. Return valid JSON with shipment, quantity, colour and delivery_date; quantity must be an integer and an unknown date must be null. Briefly list the corrected fields afterward.A requested JSON object with corrected quantity and unknown date, followed by a brief correction list.Parsing succeeds and no field contradicts the source; quantity is 14 and delivery_date is null.nousresearch/hermes-4-405bHermes 4 405B – Nous Research hibridinio samprotavimo teksto modelis, pagrįstas Llama 3.1 405B. Jis sujungia valdomą pokalbį, aiškų mąstymo režimą, pagal schemas mokytą JSON ir kaitaliojamus funkcijų kvietimus matematikai, programavimui, analitiniam darbui bei valdomam kūrybiniam rašymui.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Hermes 4 405B – Nous Research hibridinio režimo samprotavimo modelis, pagrįstas Llama 3.1 405B. Jis priima tekstą ir generuoja tekstą, įskaitant galutinį atsakymą, kodą, struktūruotą JSON ar įrankių kvietimų turinį. Gamintojas šią versiją kuria remdamasis patikrintais samprotavimo pėdsakais, stipriu naudotojo valdomumu ir tikslia išvesties formato atitiktimi, kartu išlaikydamas bendrojo asistento bei kūrybinio rašymo užduotis.
Gamintojas aprašo išplėstą papildomo mokymo rinkinį, apimantį maždaug penkis milijonus pavyzdžių ir šešiasdešimt milijardų žetonų, kuriame derinami samprotavimo ir nesamprotavimo duomenys. Hermes 4 prideda aiškų hibridinio samprotavimo režimą, gerina tikslinę matematikos, kodo, STEM ir logikos elgseną bei mokomas laikytis JSON schemų ir taisyti netaisyklingus objektus. Tai versijos pakeitimai; jų neturi pakeisti Hermes 3 užklausų vaizdavimas ir ankstesnė elgsena.
Samprotavimo užduočiai pateikite visą problemą, apibrėžimus ir apribojimus. Galutinio sprendimo ar kodo artefakto prašykite atskirai nuo tarpinės analizės. Praktinis aprašas: „Palygink šias sąlygas su siūlomu sprendimu, nustatyk nepagrįstą žingsnį ir grąžink pataisytą išvadą su jos naudojamomis prielaidomis.“
Hermes 4 naudoja Llama 3 pokalbio formatą su vaidmenų antraštėmis. Gamintojas gali aktyvinti samprotavimą pokalbio šablono thinking vėliavėle arba tokį veikimą apibrėžiančia sistemine instrukcija. Modeliui svarstant, prieš galutinį atsakymą mąstymas įterpiamas tarp specialių jo žymeklių. Papildomos sisteminės instrukcijos gali formuoti vaidmenį, stilių ir atsakymo formatą.
Atskaitos aprašas taip pat siūlo keep_cots mąstymo turiniui išlaikyti. Tai šablono parinktis, o ne neribotos atminties teiginys. Išlaikykite aiškius priimtus faktus ir užduoties reikalavimus, kad tarpinės idėjos liktų atskiriamos nuo galutinių išvadų. Rašymui nurodykite požiūrio tašką, toną ir išsaugotiną medžiagą; išgavimui apibrėžkite norimą įrašą, užuot pasikliovę atviru bendrojo asistento stiliumi.
Hermes 4 palaiko funkcijų kvietimus, kaitaliojamus su samprotavimu viename asistento ėjime. Įrankiai turi pavadinimus, aprašymus ir parametrų schemas, pateikiamus gamintojo sisteminiu vaizdavimu arba šablono interpretuojamu tools lauku. Modelis pateikia žymėtus JSON kvietimų objektus. Programa išanalizuoja ir vykdo pasirinktą funkciją bei grąžina įrankio atsakymą, po kurio modelis gali tęsti analizę ir pateikti atsakymą.
JSON rezultatui pateikite schemą ir kiekvieno lauko prasmę. Mokymas laikytis schemos ar taisyti netaisyklingus objektus neįrodo, kad kiekviena grąžinta reikšmė yra faktinė. Palyginkite objektą su šaltiniu, išsaugokite išgautų laukų įrodymus ir prieš taikydami patikrinkite siūlomus funkcijų argumentus.
Paskelbta modelio konfigūracija nustato max_position_embeddings į 131 072. Šaltinių medžiagą, pokalbį, samprotavimą, įrankių rezultatus ir atsakymą sutalpinkite į pasirinkto proceso kontekstą; šis pozicijų laukas nėra nepriklausoma griežta išvesties riba. Atskaitos generavimo parametrų variantui Nous rekomenduoja temperatūrą 0.6, top-p 0.95 ir top-k 20.
Naudingas rezultatas – šaltiniais pagrįstas atsakymas, kodo pasiūlymas, struktūruotas įrašas ar rašytinė ištrauka, kurios apribojimus galima patikrinti. Sugeneruotą kodą peržiūrėkite numatytoje programoje, o papildomoms užklausoms naudokite faktiškai grąžintus stebėjimus. Tikslią 405B Hermes 4 versiją, jos Llama pokalbio formatą ir hibridinį įrankių procesą išlaikykite atskirai nuo mažesnių variantų, Hermes 3 ChatML ir kitų iš Llama išvestų modelių.
POST /v1/chat/completionstexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos nousresearch/hermes-4-405b | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Pavyzdžiai: system, user, assistant, tool, function Sąlygos: Šie vaidmenys aiškiai išreikšti šaltinio kodo suderinamumo tipuose; tikslus vaidmenų rinkinys priklauso nuo konkretaus modelio. Priklauso nuo modelio | Numatyta— |
Laukasmessages[].content | Tipasstring|content_part[]|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_calls | Tipastool_call[] | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_call_id | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: role=tool; naudokite tikrąjį grąžintą ID | Numatyta— |
Laukasmessages[].name | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].reasoning_content | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: Grąžinkite tikrąjį gautą samprotavimą ten, kur šis modelis jį naudoja | Numatyta— |
Laukasmessages[].reasoning_details | Tipasobject|array | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasmax_completion_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Laukasstream_options.include_usage | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastemperature | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastop_p | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasstop | Tipasstring|string[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools | Tipasfunction_tool[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools[].type | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos function Priklauso nuo modelio | Numatyta— |
Laukastools[].function.name | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Taikoma, kai: pateiktas funkcijos tipo įrankis | Numatyta— |
Laukastools[].function.description | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastools[].function.parameters | TipasJSON_schema | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastool_choice | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasparallel_tool_calls | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasresponse_format | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning_effort | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasservice_tier | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasinstructions | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Suderinamumo laukas | Numatyta— |
Laukasfunctions | Tipasfunction[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasfunction_call | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasprompt_cache_options | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmodalities | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos text | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options šiame Ultra teksto maršrute atmetamas | Numatyta— |
Laukascache_control.ttl | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: 1h atmetamas tikrosiose užklausų podėlio vietose | Numatyta— |
Tekstas · UTF8 tekstas
messages[].content
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages |
Parametrasmaterial_types | Specifikacijatext |
Parametrasmessages | Specifikacijapranešimų masyvas su role/content struktūra |
Parametrasfile_material | Specifikacijatikrasis UTF-8 dokumentas įterptas kaip pažodinis tekstas; failo ID nenumanomas |
Parametrasoptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrascontrol_scope | Specifikacijapriklauso nuo modelio; naudotojo funkcijų įrankiai skiriasi nuo priglobtų įrankių |
Parametrasoutput_modalities | Specifikacijatext |
Parametrashosted_operations | Specifikacijafalse |
Parametrasmultimodal_input_binding | Specifikacijanull |
Gyvavimo ciklas: synchronous_or_streamed
Siųskite tikslų modelio ID kartu su messages.
Konteksto ilgis nėra išvesties limitas.
Teksto failas gali pateikti pažodinį tekstą; vaizdų / garso / failų objektų įvestims reikia tikslaus susiejimo.
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Konteksto tokenų daugiau nei | Konteksto tokenų iki imtinai | Mokestis |
|---|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Konteksto tokenų daugiau nei— | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.002 / 1K tokenų Išvestis · Išvesties tokenai $0.006 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUžklausos ilgio pakopa 1 | Įkainių lentelė— | Konteksto tokenų daugiau nei0 | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.002 / 1K tokenų Išvestis · Išvesties tokenai $0.006 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-4-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-4-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-4-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną variantą ir jo turinį / įrankių iškvietimus / samprotavimą. SSE prieaugius surinkite pagal varianto / įrankio indeksą; išsaugokite galutinę užbaigimo priežastį ir naudojimo duomenis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukaschoices[].index | Tipasinteger |
Laukaschoices[].message.content | Tipasstring|null |
Laukaschoices[].message.tool_calls | Tipastool_call[] |
Laukaschoices[].message.reasoning_content | Tipasstring |
Laukaschoices[].message.reasoning_details | Tipasobject|array |
Laukaschoices[].finish_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra nousresearch/hermes-4-405b
Naudokite aukščiau nurodytus metodų kelius.
nousresearch/hermes-4-405bHermes 4 405B – Nous Research hibridinio samprotavimo teksto modelis, pagrįstas Llama 3.1 405B. Jis sujungia valdomą pokalbį, aiškų mąstymo režimą, pagal schemas mokytą JSON ir kaitaliojamus funkcijų kvietimus matematikai, programavimui, analitiniam darbui bei valdomam kūrybiniam rašymui.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Hermes 4 405B – Nous Research hibridinio režimo samprotavimo modelis, pagrįstas Llama 3.1 405B. Jis priima tekstą ir generuoja tekstą, įskaitant galutinį atsakymą, kodą, struktūruotą JSON ar įrankių kvietimų turinį. Gamintojas šią versiją kuria remdamasis patikrintais samprotavimo pėdsakais, stipriu naudotojo valdomumu ir tikslia išvesties formato atitiktimi, kartu išlaikydamas bendrojo asistento bei kūrybinio rašymo užduotis.
Gamintojas aprašo išplėstą papildomo mokymo rinkinį, apimantį maždaug penkis milijonus pavyzdžių ir šešiasdešimt milijardų žetonų, kuriame derinami samprotavimo ir nesamprotavimo duomenys. Hermes 4 prideda aiškų hibridinio samprotavimo režimą, gerina tikslinę matematikos, kodo, STEM ir logikos elgseną bei mokomas laikytis JSON schemų ir taisyti netaisyklingus objektus. Tai versijos pakeitimai; jų neturi pakeisti Hermes 3 užklausų vaizdavimas ir ankstesnė elgsena.
Samprotavimo užduočiai pateikite visą problemą, apibrėžimus ir apribojimus. Galutinio sprendimo ar kodo artefakto prašykite atskirai nuo tarpinės analizės. Praktinis aprašas: „Palygink šias sąlygas su siūlomu sprendimu, nustatyk nepagrįstą žingsnį ir grąžink pataisytą išvadą su jos naudojamomis prielaidomis.“
Hermes 4 naudoja Llama 3 pokalbio formatą su vaidmenų antraštėmis. Gamintojas gali aktyvinti samprotavimą pokalbio šablono thinking vėliavėle arba tokį veikimą apibrėžiančia sistemine instrukcija. Modeliui svarstant, prieš galutinį atsakymą mąstymas įterpiamas tarp specialių jo žymeklių. Papildomos sisteminės instrukcijos gali formuoti vaidmenį, stilių ir atsakymo formatą.
Atskaitos aprašas taip pat siūlo keep_cots mąstymo turiniui išlaikyti. Tai šablono parinktis, o ne neribotos atminties teiginys. Išlaikykite aiškius priimtus faktus ir užduoties reikalavimus, kad tarpinės idėjos liktų atskiriamos nuo galutinių išvadų. Rašymui nurodykite požiūrio tašką, toną ir išsaugotiną medžiagą; išgavimui apibrėžkite norimą įrašą, užuot pasikliovę atviru bendrojo asistento stiliumi.
Hermes 4 palaiko funkcijų kvietimus, kaitaliojamus su samprotavimu viename asistento ėjime. Įrankiai turi pavadinimus, aprašymus ir parametrų schemas, pateikiamus gamintojo sisteminiu vaizdavimu arba šablono interpretuojamu tools lauku. Modelis pateikia žymėtus JSON kvietimų objektus. Programa išanalizuoja ir vykdo pasirinktą funkciją bei grąžina įrankio atsakymą, po kurio modelis gali tęsti analizę ir pateikti atsakymą.
JSON rezultatui pateikite schemą ir kiekvieno lauko prasmę. Mokymas laikytis schemos ar taisyti netaisyklingus objektus neįrodo, kad kiekviena grąžinta reikšmė yra faktinė. Palyginkite objektą su šaltiniu, išsaugokite išgautų laukų įrodymus ir prieš taikydami patikrinkite siūlomus funkcijų argumentus.
Paskelbta modelio konfigūracija nustato max_position_embeddings į 131 072. Šaltinių medžiagą, pokalbį, samprotavimą, įrankių rezultatus ir atsakymą sutalpinkite į pasirinkto proceso kontekstą; šis pozicijų laukas nėra nepriklausoma griežta išvesties riba. Atskaitos generavimo parametrų variantui Nous rekomenduoja temperatūrą 0.6, top-p 0.95 ir top-k 20.
Naudingas rezultatas – šaltiniais pagrįstas atsakymas, kodo pasiūlymas, struktūruotas įrašas ar rašytinė ištrauka, kurios apribojimus galima patikrinti. Sugeneruotą kodą peržiūrėkite numatytoje programoje, o papildomoms užklausoms naudokite faktiškai grąžintus stebėjimus. Tikslią 405B Hermes 4 versiją, jos Llama pokalbio formatą ir hibridinį įrankių procesą išlaikykite atskirai nuo mažesnių variantų, Hermes 3 ChatML ir kitų iš Llama išvestų modelių.
POST /v1/messagestextjson, sse| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos nousresearch/hermes-4-405b | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos user, assistant | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF-8 tekstas
messages[].content eilutė
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages, max_tokens |
Parametrasoptional_controls | Specifikacijastream |
Parametrasmaterial_types | Specifikacijatext |
Parametrastext_file_material | SpecifikacijaPerskaitykite tikrąjį UTF-8 dokumentą ir įterpkite jo tekstą į nurodytą input lauką arba pranešimo turinio eilutę. |
Gyvavimo ciklas: synchronous_or_streamed
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Konteksto tokenų daugiau nei | Konteksto tokenų iki imtinai | Mokestis |
|---|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Konteksto tokenų daugiau nei— | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.002 / 1K tokenų Išvestis · Išvesties tokenai $0.006 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUžklausos ilgio pakopa 1 | Įkainių lentelė— | Konteksto tokenų daugiau nei0 | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.002 / 1K tokenų Išvestis · Išvesties tokenai $0.006 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
{\n "model": "nousresearch/hermes-4-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-4-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-4-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visus turinio blokus, mąstymo parašus ir tikruosius įrankių naudojimo ID. Surinkite visus SSE blokų prieaugius; pirmasis teksto blokas nėra visa išvestis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukascontent[] | Tipastext|thinking|tool_use|other content block |
Laukasstop_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra nousresearch/hermes-4-405b
Naudokite aukščiau nurodytus metodų kelius.
Techninis pavyzdys anglų kalba
Repair an extracted record\n\nRepair this draft record using only the source sentence. Source: 'Shipment R18 contains 14 blue lamps; delivery date is not yet agreed.' Draft: {shipment: 'R18', quantity: '41', colour: 'blue', delivery_date: 'Friday'}. Return valid JSON with shipment, quantity, colour and delivery_date; quantity must be an integer and an unknown date must be null. Briefly list the corrected fields afterward.A requested JSON object with corrected quantity and unknown date, followed by a brief correction list.Parsing succeeds and no field contradicts the source; quantity is 14 and delivery_date is null.