Hermes 3 Llama 3.1 70B ialah edisi model bahasa serba guna 70B Nous Research dalam siri Hermes 3. Ia menerima teks dan menjana respons, petikan bertulis, kod, rekod berstruktur atau cadangan panggilan alat. Pembuat menekankan keupayaan untuk diarahkan pengguna, penaakulan, lakon peranan, dialog berbilang giliran dan koheren konteks panjang, bersama panggilan fungsi dan penjanaan kod yang ditambah baik.
Arahan sistem boleh mentakrifkan peranan, peraturan, gaya dan keperluan output. Untuk lakon peranan, berikan latar, sudut pandangan dan batas watak; untuk tugasan analisis, berikan petikan sumber dan kriteria kesimpulan. Taklimat yang berguna ialah: “Terangkan perbezaan antara keperluan ini, kekalkan nama teknikal dan kenal pasti petikan yang menyokong setiap dapatan.”
Untuk pengekodan, berikan pelaksanaan berkaitan, kegagalan yang diperhatikan, tingkah laku yang dijangka dan antara muka yang mesti kekal stabil. Minta artifak kod yang dicadangkan dan penjelasannya, kemudian gunakan pemerhatian pengesahan sebenar apabila semakan diperlukan. Arahan kepada model membantu membentuk respons, tetapi taklimat masih perlu mentakrifkan hasil yang berguna.
Hermes 3 menggunakan ChatML dengan giliran sistem, pengguna dan pembantu yang berasingan serta batas yang jelas. Pengeluar mengesyorkan pemformatan perbualan melalui templat model sendiri dan penambahan prom penjanaan pembantu. Mesej sistem ialah pilihan; apabila digunakan, ia perlu menerangkan konteks tugas dan tingkah laku yang diingini dan bukannya menggantikan permintaan sebenar pengguna.
Kekalkan sejarah dialog dalam peranan yang betul. Untuk tugas penulisan berterusan, kekalkan fakta yang telah ditetapkan dan beritahu model petikan yang boleh berubah. Untuk kerja sumber, kenal pasti bahan sebagai bukti dan pisahkannya daripada arahan. Ini membantu respons kemudian mengekalkan kekangan tugas tanpa mengelirukan teks yang dipetik dengan perintah baharu.
Kad khusus ini melatih penggunaan fungsi dengan perwakilan sistem tertentu, tandatangan fungsi dan skema parameter. Model mengembalikan objek JSON yang mengandungi nama fungsi dan argumen yang dipilih di dalam teg panggilan alat. Aplikasi sekeliling menghuraikan cadangan itu, melakukan fungsi dan mengembalikan respons alat bernama. Model kemudian menggunakan data yang dikembalikan untuk menghasilkan jawapan.
Takrifkan fungsi dengan tepat dan wajibkan nilai sebenar untuk argumen dan bukannya andaian tentang sistem luaran. Fungsi carian boleh membekalkan medan produk yang tiada atau pengiraan, manakala jawapan menerangkan makna maklumat yang dikembalikan. Panggilan yang dijana berbeza daripada hasil yang dilaksanakan; kekalkan pemerhatian bersama tugas.
Hermes 3 turut mendokumentasikan arahan sistem bersyaratkan skema untuk respons JSON sahaja. Takrifkan medan dan jenis, serta terangkan cara mewakili maklumat sumber yang tiada. Periksa objek yang dijana dari segi struktur dan persetujuannya dengan input. Respons yang serasi dengan skema tidak patut dianggap sebagai bukti bahawa nilai diperoleh atau disahkan.
Konfigurasi model 70B yang diterbitkan mempunyai 131,072 kedudukan. Teks sumber, perbualan dan kandungan yang dijana berkongsi konteks aliran kerja yang dipilih, dan saiz penjanaan contoh bukan had keras jawapan sejagat. Sediakan ruang untuk hasil dan pastikan input panjang relevan dengan soalan.
Hasil serahan yang berguna ialah teks, cadangan kod atau rekod berstruktur yang boleh disemak, berdasarkan konteks yang diberikan dan pemerhatian alat sebenar. Edisi Hermes 3 70B khusus ini kekal berasingan daripada model 405B yang lebih besar serta format dan kawalan penaakulan hibrid Hermes 4.
", "aboutText": "Hermes 3 Llama 3.1 70B ialah edisi model bahasa serba guna 70B Nous Research dalam siri Hermes 3. Ia menerima teks dan menjana respons, petikan bertulis, kod, rekod berstruktur atau cadangan panggilan alat. Pembuat menekankan keupayaan untuk diarahkan pengguna, penaakulan, lakon peranan, dialog berbilang giliran dan koheren konteks panjang, bersama panggilan fungsi dan penjanaan kod yang ditambah baik.\n\n### Arahkan tugas dan respons\n\nArahan sistem boleh mentakrifkan peranan, peraturan, gaya dan keperluan output. Untuk lakon peranan, berikan latar, sudut pandangan dan batas watak; untuk tugasan analisis, berikan petikan sumber dan kriteria kesimpulan. Taklimat yang berguna ialah: “Terangkan perbezaan antara keperluan ini, kekalkan nama teknikal dan kenal pasti petikan yang menyokong setiap dapatan.”\n\nUntuk pengekodan, berikan pelaksanaan berkaitan, kegagalan yang diperhatikan, tingkah laku yang dijangka dan antara muka yang mesti kekal stabil. Minta artifak kod yang dicadangkan dan penjelasannya, kemudian gunakan pemerhatian pengesahan sebenar apabila semakan diperlukan. Arahan kepada model membantu membentuk respons, tetapi taklimat masih perlu mentakrifkan hasil yang berguna.\n\n### Perbualan ChatML\n\nHermes 3 menggunakan ChatML dengan giliran sistem, pengguna dan pembantu yang berasingan serta batas yang jelas. Pengeluar mengesyorkan pemformatan perbualan melalui templat model sendiri dan penambahan prom penjanaan pembantu. Mesej sistem ialah pilihan; apabila digunakan, ia perlu menerangkan konteks tugas dan tingkah laku yang diingini dan bukannya menggantikan permintaan sebenar pengguna.\n\nKekalkan sejarah dialog dalam peranan yang betul. Untuk tugas penulisan berterusan, kekalkan fakta yang telah ditetapkan dan beritahu model petikan yang boleh berubah. Untuk kerja sumber, kenal pasti bahan sebagai bukti dan pisahkannya daripada arahan. Ini membantu respons kemudian mengekalkan kekangan tugas tanpa mengelirukan teks yang dipetik dengan perintah baharu.\n\n### Panggilan fungsi\n\nKad khusus ini melatih penggunaan fungsi dengan perwakilan sistem tertentu, tandatangan fungsi dan skema parameter. Model mengembalikan objek JSON yang mengandungi nama fungsi dan argumen yang dipilih di dalam teg panggilan alat. Aplikasi sekeliling menghuraikan cadangan itu, melakukan fungsi dan mengembalikan respons alat bernama. Model kemudian menggunakan data yang dikembalikan untuk menghasilkan jawapan.\n\nTakrifkan fungsi dengan tepat dan wajibkan nilai sebenar untuk argumen dan bukannya andaian tentang sistem luaran. Fungsi carian boleh membekalkan medan produk yang tiada atau pengiraan, manakala jawapan menerangkan makna maklumat yang dikembalikan. Panggilan yang dijana berbeza daripada hasil yang dilaksanakan; kekalkan pemerhatian bersama tugas.\n\n### Mod JSON dan had\n\nHermes 3 turut mendokumentasikan arahan sistem bersyaratkan skema untuk respons JSON sahaja. Takrifkan medan dan jenis, serta terangkan cara mewakili maklumat sumber yang tiada. Periksa objek yang dijana dari segi struktur dan persetujuannya dengan input. Respons yang serasi dengan skema tidak patut dianggap sebagai bukti bahawa nilai diperoleh atau disahkan.\n\nKonfigurasi model 70B yang diterbitkan mempunyai 131,072 kedudukan. Teks sumber, perbualan dan kandungan yang dijana berkongsi konteks aliran kerja yang dipilih, dan saiz penjanaan contoh bukan had keras jawapan sejagat. Sediakan ruang untuk hasil dan pastikan input panjang relevan dengan soalan.\n\nHasil serahan yang berguna ialah teks, cadangan kod atau rekod berstruktur yang boleh disemak, berdasarkan konteks yang diberikan dan pemerhatian alat sebenar. Edisi Hermes 3 70B khusus ini kekal berasingan daripada model 405B yang lebih besar serta format dan kawalan penaakulan hibrid Hermes 4.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B ialah model teks serba guna Nous Research yang boleh diarahkan untuk dialog berbilang giliran, lakon peranan, kod dan tugas ejen. Varian ChatMLnya merangkumi JSON berpandukan skema dan panggilan fungsi berteg, dengan konfigurasi yang diterbitkan sebanyak 131,072 kedudukan.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Hermes 3 Llama 3.1 70B ialah edisi model bahasa serba guna 70B Nous Research dalam siri Hermes 3. Ia menerima teks dan menjana respons, petikan bertulis, kod, rekod berstruktur atau cadangan panggilan alat. Pembuat menekankan keupayaan untuk diarahkan pengguna, penaakulan, lakon peranan, dialog berbilang giliran dan koheren konteks panjang, bersama panggilan fungsi dan penjanaan kod yang ditambah baik.
Arahan sistem boleh mentakrifkan peranan, peraturan, gaya dan keperluan output. Untuk lakon peranan, berikan latar, sudut pandangan dan batas watak; untuk tugasan analisis, berikan petikan sumber dan kriteria kesimpulan. Taklimat yang berguna ialah: “Terangkan perbezaan antara keperluan ini, kekalkan nama teknikal dan kenal pasti petikan yang menyokong setiap dapatan.”
Untuk pengekodan, berikan pelaksanaan berkaitan, kegagalan yang diperhatikan, tingkah laku yang dijangka dan antara muka yang mesti kekal stabil. Minta artifak kod yang dicadangkan dan penjelasannya, kemudian gunakan pemerhatian pengesahan sebenar apabila semakan diperlukan. Arahan kepada model membantu membentuk respons, tetapi taklimat masih perlu mentakrifkan hasil yang berguna.
Hermes 3 menggunakan ChatML dengan giliran sistem, pengguna dan pembantu yang berasingan serta batas yang jelas. Pengeluar mengesyorkan pemformatan perbualan melalui templat model sendiri dan penambahan prom penjanaan pembantu. Mesej sistem ialah pilihan; apabila digunakan, ia perlu menerangkan konteks tugas dan tingkah laku yang diingini dan bukannya menggantikan permintaan sebenar pengguna.
Kekalkan sejarah dialog dalam peranan yang betul. Untuk tugas penulisan berterusan, kekalkan fakta yang telah ditetapkan dan beritahu model petikan yang boleh berubah. Untuk kerja sumber, kenal pasti bahan sebagai bukti dan pisahkannya daripada arahan. Ini membantu respons kemudian mengekalkan kekangan tugas tanpa mengelirukan teks yang dipetik dengan perintah baharu.
Kad khusus ini melatih penggunaan fungsi dengan perwakilan sistem tertentu, tandatangan fungsi dan skema parameter. Model mengembalikan objek JSON yang mengandungi nama fungsi dan argumen yang dipilih di dalam teg panggilan alat. Aplikasi sekeliling menghuraikan cadangan itu, melakukan fungsi dan mengembalikan respons alat bernama. Model kemudian menggunakan data yang dikembalikan untuk menghasilkan jawapan.
Takrifkan fungsi dengan tepat dan wajibkan nilai sebenar untuk argumen dan bukannya andaian tentang sistem luaran. Fungsi carian boleh membekalkan medan produk yang tiada atau pengiraan, manakala jawapan menerangkan makna maklumat yang dikembalikan. Panggilan yang dijana berbeza daripada hasil yang dilaksanakan; kekalkan pemerhatian bersama tugas.
Hermes 3 turut mendokumentasikan arahan sistem bersyaratkan skema untuk respons JSON sahaja. Takrifkan medan dan jenis, serta terangkan cara mewakili maklumat sumber yang tiada. Periksa objek yang dijana dari segi struktur dan persetujuannya dengan input. Respons yang serasi dengan skema tidak patut dianggap sebagai bukti bahawa nilai diperoleh atau disahkan.
Konfigurasi model 70B yang diterbitkan mempunyai 131,072 kedudukan. Teks sumber, perbualan dan kandungan yang dijana berkongsi konteks aliran kerja yang dipilih, dan saiz penjanaan contoh bukan had keras jawapan sejagat. Sediakan ruang untuk hasil dan pastikan input panjang relevan dengan soalan.
Hasil serahan yang berguna ialah teks, cadangan kod atau rekod berstruktur yang boleh disemak, berdasarkan konteks yang diberikan dan pemerhatian alat sebenar. Edisi Hermes 3 70B khusus ini kekal berasingan daripada model 405B yang lebih besar serta format dan kawalan penaakulan hibrid Hermes 4.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had nousresearch/hermes-3-llama-3.1-70b | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0014 / 1K token Output · Token output $0.0014 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0014 / 1K token Output · Token output $0.0014 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-70b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Gunakan laluan kaedah yang dipaparkan di atas.
nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B ialah model teks serba guna Nous Research yang boleh diarahkan untuk dialog berbilang giliran, lakon peranan, kod dan tugas ejen. Varian ChatMLnya merangkumi JSON berpandukan skema dan panggilan fungsi berteg, dengan konfigurasi yang diterbitkan sebanyak 131,072 kedudukan.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Hermes 3 Llama 3.1 70B ialah edisi model bahasa serba guna 70B Nous Research dalam siri Hermes 3. Ia menerima teks dan menjana respons, petikan bertulis, kod, rekod berstruktur atau cadangan panggilan alat. Pembuat menekankan keupayaan untuk diarahkan pengguna, penaakulan, lakon peranan, dialog berbilang giliran dan koheren konteks panjang, bersama panggilan fungsi dan penjanaan kod yang ditambah baik.
Arahan sistem boleh mentakrifkan peranan, peraturan, gaya dan keperluan output. Untuk lakon peranan, berikan latar, sudut pandangan dan batas watak; untuk tugasan analisis, berikan petikan sumber dan kriteria kesimpulan. Taklimat yang berguna ialah: “Terangkan perbezaan antara keperluan ini, kekalkan nama teknikal dan kenal pasti petikan yang menyokong setiap dapatan.”
Untuk pengekodan, berikan pelaksanaan berkaitan, kegagalan yang diperhatikan, tingkah laku yang dijangka dan antara muka yang mesti kekal stabil. Minta artifak kod yang dicadangkan dan penjelasannya, kemudian gunakan pemerhatian pengesahan sebenar apabila semakan diperlukan. Arahan kepada model membantu membentuk respons, tetapi taklimat masih perlu mentakrifkan hasil yang berguna.
Hermes 3 menggunakan ChatML dengan giliran sistem, pengguna dan pembantu yang berasingan serta batas yang jelas. Pengeluar mengesyorkan pemformatan perbualan melalui templat model sendiri dan penambahan prom penjanaan pembantu. Mesej sistem ialah pilihan; apabila digunakan, ia perlu menerangkan konteks tugas dan tingkah laku yang diingini dan bukannya menggantikan permintaan sebenar pengguna.
Kekalkan sejarah dialog dalam peranan yang betul. Untuk tugas penulisan berterusan, kekalkan fakta yang telah ditetapkan dan beritahu model petikan yang boleh berubah. Untuk kerja sumber, kenal pasti bahan sebagai bukti dan pisahkannya daripada arahan. Ini membantu respons kemudian mengekalkan kekangan tugas tanpa mengelirukan teks yang dipetik dengan perintah baharu.
Kad khusus ini melatih penggunaan fungsi dengan perwakilan sistem tertentu, tandatangan fungsi dan skema parameter. Model mengembalikan objek JSON yang mengandungi nama fungsi dan argumen yang dipilih di dalam teg panggilan alat. Aplikasi sekeliling menghuraikan cadangan itu, melakukan fungsi dan mengembalikan respons alat bernama. Model kemudian menggunakan data yang dikembalikan untuk menghasilkan jawapan.
Takrifkan fungsi dengan tepat dan wajibkan nilai sebenar untuk argumen dan bukannya andaian tentang sistem luaran. Fungsi carian boleh membekalkan medan produk yang tiada atau pengiraan, manakala jawapan menerangkan makna maklumat yang dikembalikan. Panggilan yang dijana berbeza daripada hasil yang dilaksanakan; kekalkan pemerhatian bersama tugas.
Hermes 3 turut mendokumentasikan arahan sistem bersyaratkan skema untuk respons JSON sahaja. Takrifkan medan dan jenis, serta terangkan cara mewakili maklumat sumber yang tiada. Periksa objek yang dijana dari segi struktur dan persetujuannya dengan input. Respons yang serasi dengan skema tidak patut dianggap sebagai bukti bahawa nilai diperoleh atau disahkan.
Konfigurasi model 70B yang diterbitkan mempunyai 131,072 kedudukan. Teks sumber, perbualan dan kandungan yang dijana berkongsi konteks aliran kerja yang dipilih, dan saiz penjanaan contoh bukan had keras jawapan sejagat. Sediakan ruang untuk hasil dan pastikan input panjang relevan dengan soalan.
Hasil serahan yang berguna ialah teks, cadangan kod atau rekod berstruktur yang boleh disemak, berdasarkan konteks yang diberikan dan pemerhatian alat sebenar. Edisi Hermes 3 70B khusus ini kekal berasingan daripada model 405B yang lebih besar serta format dan kawalan penaakulan hibrid Hermes 4.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had nousresearch/hermes-3-llama-3.1-70b | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0014 / 1K token Output · Token output $0.0014 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0014 / 1K token Output · Token output $0.0014 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "nousresearch/hermes-3-llama-3.1-70b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
Gunakan laluan kaedah yang dipaparkan di atas.
Contoh teknikal dalam bahasa Inggeris
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.