Hermes 3 Llama 3.1 405B ialah model teks serba guna besar Nous Research, yang dibangunkan melalui penalaan halus keseluruhan parameter Llama 3.1 405B. Pembuat menekankan penjajaran kepada arahan pengguna, keupayaan untuk diarahkan, lakon peranan, penaakulan, perbualan berbilang giliran dan koheren konteks panjang. Output ialah teks, termasuk jawapan, kandungan bertulis, kod, rekod berstruktur dan maklumat panggilan fungsi.
Ini ialah varian Hermes 3 besar, berasingan daripada model pendamping 70B dan keluaran penaakulan Hermes 4 yang kemudian. Pengeluar memperluas keupayaan Hermes terdahulu dengan panggilan fungsi, output berstruktur dan penjanaan kod yang ditambah baik. Berikan tugas bukti sebenar dan bentuk akhir yang diperlukan dan jangan anggap skala model membekalkan sumber yang tiada atau kriteria penyiapan.
Untuk analisis dokumen, labelkan petikan dan kenal pasti kriteria perbandingan. Minta sumber berkaitan di sisi setiap kesimpulan dan nyatakan cara menangani maklumat yang tiada. Untuk tugasan penulisan, berikan khalayak, nada dan fakta yang mesti dikekalkan semasa semakan. Prom praktikal ialah: “Tulis semula penjelasan ini untuk pembaca yang dinyatakan, kekalkan istilah yang ditakrifkan dan kenal pasti sebarang dakwaan tanpa sokongan yang memerlukan penjelasan.”
Hermes 3 menggunakan ChatML untuk memisahkan arahan sistem, mesej pengguna dan jawapan pembantu. Templatnya sendiri boleh membina perbualan dan menambah awalan penjanaan pembantu. Arahan sistem mengarahkan peranan, peraturan dan gaya; ia pilihan apabila tugas tidak memerlukan mukadimah khas.
Perbualan berterusan perlu mengekalkan teks sumber berbeza daripada arahan dan mengekalkan fakta yang diterima dalam konteks berkaitan. Untuk lakon peranan, kenal pasti siapa yang mengawal setiap watak dan peristiwa yang telah ditetapkan. Untuk kod, nyatakan tingkah laku yang berubah dan kontrak yang kekal utuh. Artifak yang diingini perlu kekal jelas sepanjang dialog.
Kad model khusus ini mendokumentasikan tandatangan fungsi dalam perwakilan takrif alatnya dan skema respons wajib untuk nama fungsi serta argumen. Model menjana objek panggilan JSON berteg. Aplikasi menghuraikan dan melaksanakan operasi yang dipilih, kemudian mengembalikan hasilnya dalam respons alat bernama. Jawapan pembantu seterusnya boleh menerangkan data sebenar.
Berikan setiap fungsi tujuan yang jelas dan perihalan parameter yang tepat. Jangan biarkan carian yang dicadangkan menggantikan sumber yang dikembalikan. Kekalkan pemerhatian bersama operasi yang dipilih supaya kesimpulan akhir boleh mengenal pasti perkara yang menyokongnya. Begitu juga, kod yang dijana kekal sebagai cadangan sehingga diperiksa dan dijalankan dalam persekitaran yang dimaksudkan.
Mod JSON Hermes 3 dilatih dengan arahan sistem yang mengandungi skema yang diingini dan meminta objek JSON sebagai jawapan. Takrifkan medan dan cara mewakili nilai sumber yang tiada atau bercanggah. Sahkan struktur dan semak fakta walaupun objek mengikuti skema.
Konfigurasi yang diterbitkan menetapkan max_position_embeddings kepada 131,072. Peruntukkan arahan, dokumen, sejarah, hasil alat dan respons bersama; medan ini tidak menetapkan had output sejagat berasingan. Model penuh pengeluar dan varian terkuantum yang diterbitkan secara berasingan mempunyai identiti kejituannya sendiri, jadi varian tersebut tidak patut menggantikan varian 405B yang dinamakan secara senyap.
Hasil serahan yang berguna ialah artifak teks atau kod dengan andaian dan hubungannya kepada sumber yang jelas. Semaknya terhadap keperluan yang diberikan dan pemerhatian sebenar. Aliran kerja ChatML, panggilan fungsi dan JSON Hermes 3 kekal berbeza daripada kawalan pemikiran hibrid dan penaakulan berselang-seli Hermes 4 yang kemudian.
", "aboutText": "Hermes 3 Llama 3.1 405B ialah model teks serba guna besar Nous Research, yang dibangunkan melalui penalaan halus keseluruhan parameter Llama 3.1 405B. Pembuat menekankan penjajaran kepada arahan pengguna, keupayaan untuk diarahkan, lakon peranan, penaakulan, perbualan berbilang giliran dan koheren konteks panjang. Output ialah teks, termasuk jawapan, kandungan bertulis, kod, rekod berstruktur dan maklumat panggilan fungsi.\n\n### Edisi 405B\n\nIni ialah varian Hermes 3 besar, berasingan daripada model pendamping 70B dan keluaran penaakulan Hermes 4 yang kemudian. Pengeluar memperluas keupayaan Hermes terdahulu dengan panggilan fungsi, output berstruktur dan penjanaan kod yang ditambah baik. Berikan tugas bukti sebenar dan bentuk akhir yang diperlukan dan jangan anggap skala model membekalkan sumber yang tiada atau kriteria penyiapan.\n\nUntuk analisis dokumen, labelkan petikan dan kenal pasti kriteria perbandingan. Minta sumber berkaitan di sisi setiap kesimpulan dan nyatakan cara menangani maklumat yang tiada. Untuk tugasan penulisan, berikan khalayak, nada dan fakta yang mesti dikekalkan semasa semakan. Prom praktikal ialah: “Tulis semula penjelasan ini untuk pembaca yang dinyatakan, kekalkan istilah yang ditakrifkan dan kenal pasti sebarang dakwaan tanpa sokongan yang memerlukan penjelasan.”\n\n### Format prom dan dialog\n\nHermes 3 menggunakan ChatML untuk memisahkan arahan sistem, mesej pengguna dan jawapan pembantu. Templatnya sendiri boleh membina perbualan dan menambah awalan penjanaan pembantu. Arahan sistem mengarahkan peranan, peraturan dan gaya; ia pilihan apabila tugas tidak memerlukan mukadimah khas.\n\nPerbualan berterusan perlu mengekalkan teks sumber berbeza daripada arahan dan mengekalkan fakta yang diterima dalam konteks berkaitan. Untuk lakon peranan, kenal pasti siapa yang mengawal setiap watak dan peristiwa yang telah ditetapkan. Untuk kod, nyatakan tingkah laku yang berubah dan kontrak yang kekal utuh. Artifak yang diingini perlu kekal jelas sepanjang dialog.\n\n### Fungsi dan pemerhatian sumber\n\nKad model khusus ini mendokumentasikan tandatangan fungsi dalam perwakilan takrif alatnya dan skema respons wajib untuk nama fungsi serta argumen. Model menjana objek panggilan JSON berteg. Aplikasi menghuraikan dan melaksanakan operasi yang dipilih, kemudian mengembalikan hasilnya dalam respons alat bernama. Jawapan pembantu seterusnya boleh menerangkan data sebenar.\n\nBerikan setiap fungsi tujuan yang jelas dan perihalan parameter yang tepat. Jangan biarkan carian yang dicadangkan menggantikan sumber yang dikembalikan. Kekalkan pemerhatian bersama operasi yang dipilih supaya kesimpulan akhir boleh mengenal pasti perkara yang menyokongnya. Begitu juga, kod yang dijana kekal sebagai cadangan sehingga diperiksa dan dijalankan dalam persekitaran yang dimaksudkan.\n\n### Hasil JSON, konteks dan kejituan\n\nMod JSON Hermes 3 dilatih dengan arahan sistem yang mengandungi skema yang diingini dan meminta objek JSON sebagai jawapan. Takrifkan medan dan cara mewakili nilai sumber yang tiada atau bercanggah. Sahkan struktur dan semak fakta walaupun objek mengikuti skema.\n\nKonfigurasi yang diterbitkan menetapkan max_position_embeddings kepada 131,072. Peruntukkan arahan, dokumen, sejarah, hasil alat dan respons bersama; medan ini tidak menetapkan had output sejagat berasingan. Model penuh pengeluar dan varian terkuantum yang diterbitkan secara berasingan mempunyai identiti kejituannya sendiri, jadi varian tersebut tidak patut menggantikan varian 405B yang dinamakan secara senyap.\n\nHasil serahan yang berguna ialah artifak teks atau kod dengan andaian dan hubungannya kepada sumber yang jelas. Semaknya terhadap keperluan yang diberikan dan pemerhatian sebenar. Aliran kerja ChatML, panggilan fungsi dan JSON Hermes 3 kekal berbeza daripada kawalan pemikiran hibrid dan penaakulan berselang-seli Hermes 4 yang kemudian.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B ialah model teks serba guna 405B Nous Research yang ditala halus pada keseluruhan parameternya. Dialog ChatML yang boleh diarahkan, JSON berpandukan skema dan format panggilan fungsinya menyokong analisis sumber, penulisan, kod dan kerja berbilang langkah dengan pemerhatian yang dikembalikan oleh alat aplikasi.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Hermes 3 Llama 3.1 405B ialah model teks serba guna besar Nous Research, yang dibangunkan melalui penalaan halus keseluruhan parameter Llama 3.1 405B. Pembuat menekankan penjajaran kepada arahan pengguna, keupayaan untuk diarahkan, lakon peranan, penaakulan, perbualan berbilang giliran dan koheren konteks panjang. Output ialah teks, termasuk jawapan, kandungan bertulis, kod, rekod berstruktur dan maklumat panggilan fungsi.
Ini ialah varian Hermes 3 besar, berasingan daripada model pendamping 70B dan keluaran penaakulan Hermes 4 yang kemudian. Pengeluar memperluas keupayaan Hermes terdahulu dengan panggilan fungsi, output berstruktur dan penjanaan kod yang ditambah baik. Berikan tugas bukti sebenar dan bentuk akhir yang diperlukan dan jangan anggap skala model membekalkan sumber yang tiada atau kriteria penyiapan.
Untuk analisis dokumen, labelkan petikan dan kenal pasti kriteria perbandingan. Minta sumber berkaitan di sisi setiap kesimpulan dan nyatakan cara menangani maklumat yang tiada. Untuk tugasan penulisan, berikan khalayak, nada dan fakta yang mesti dikekalkan semasa semakan. Prom praktikal ialah: “Tulis semula penjelasan ini untuk pembaca yang dinyatakan, kekalkan istilah yang ditakrifkan dan kenal pasti sebarang dakwaan tanpa sokongan yang memerlukan penjelasan.”
Hermes 3 menggunakan ChatML untuk memisahkan arahan sistem, mesej pengguna dan jawapan pembantu. Templatnya sendiri boleh membina perbualan dan menambah awalan penjanaan pembantu. Arahan sistem mengarahkan peranan, peraturan dan gaya; ia pilihan apabila tugas tidak memerlukan mukadimah khas.
Perbualan berterusan perlu mengekalkan teks sumber berbeza daripada arahan dan mengekalkan fakta yang diterima dalam konteks berkaitan. Untuk lakon peranan, kenal pasti siapa yang mengawal setiap watak dan peristiwa yang telah ditetapkan. Untuk kod, nyatakan tingkah laku yang berubah dan kontrak yang kekal utuh. Artifak yang diingini perlu kekal jelas sepanjang dialog.
Kad model khusus ini mendokumentasikan tandatangan fungsi dalam perwakilan takrif alatnya dan skema respons wajib untuk nama fungsi serta argumen. Model menjana objek panggilan JSON berteg. Aplikasi menghuraikan dan melaksanakan operasi yang dipilih, kemudian mengembalikan hasilnya dalam respons alat bernama. Jawapan pembantu seterusnya boleh menerangkan data sebenar.
Berikan setiap fungsi tujuan yang jelas dan perihalan parameter yang tepat. Jangan biarkan carian yang dicadangkan menggantikan sumber yang dikembalikan. Kekalkan pemerhatian bersama operasi yang dipilih supaya kesimpulan akhir boleh mengenal pasti perkara yang menyokongnya. Begitu juga, kod yang dijana kekal sebagai cadangan sehingga diperiksa dan dijalankan dalam persekitaran yang dimaksudkan.
Mod JSON Hermes 3 dilatih dengan arahan sistem yang mengandungi skema yang diingini dan meminta objek JSON sebagai jawapan. Takrifkan medan dan cara mewakili nilai sumber yang tiada atau bercanggah. Sahkan struktur dan semak fakta walaupun objek mengikuti skema.
Konfigurasi yang diterbitkan menetapkan max_position_embeddings kepada 131,072. Peruntukkan arahan, dokumen, sejarah, hasil alat dan respons bersama; medan ini tidak menetapkan had output sejagat berasingan. Model penuh pengeluar dan varian terkuantum yang diterbitkan secara berasingan mempunyai identiti kejituannya sendiri, jadi varian tersebut tidak patut menggantikan varian 405B yang dinamakan secara senyap.
Hasil serahan yang berguna ialah artifak teks atau kod dengan andaian dan hubungannya kepada sumber yang jelas. Semaknya terhadap keperluan yang diberikan dan pemerhatian sebenar. Aliran kerja ChatML, panggilan fungsi dan JSON Hermes 3 kekal berbeza daripada kawalan pemikiran hibrid dan penaakulan berselang-seli Hermes 4 yang kemudian.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had nousresearch/hermes-3-llama-3.1-405b | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.002 / 1K token Output · Token output $0.002 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.002 / 1K token Output · Token output $0.002 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Gunakan laluan kaedah yang dipaparkan di atas.
nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B ialah model teks serba guna 405B Nous Research yang ditala halus pada keseluruhan parameternya. Dialog ChatML yang boleh diarahkan, JSON berpandukan skema dan format panggilan fungsinya menyokong analisis sumber, penulisan, kod dan kerja berbilang langkah dengan pemerhatian yang dikembalikan oleh alat aplikasi.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Hermes 3 Llama 3.1 405B ialah model teks serba guna besar Nous Research, yang dibangunkan melalui penalaan halus keseluruhan parameter Llama 3.1 405B. Pembuat menekankan penjajaran kepada arahan pengguna, keupayaan untuk diarahkan, lakon peranan, penaakulan, perbualan berbilang giliran dan koheren konteks panjang. Output ialah teks, termasuk jawapan, kandungan bertulis, kod, rekod berstruktur dan maklumat panggilan fungsi.
Ini ialah varian Hermes 3 besar, berasingan daripada model pendamping 70B dan keluaran penaakulan Hermes 4 yang kemudian. Pengeluar memperluas keupayaan Hermes terdahulu dengan panggilan fungsi, output berstruktur dan penjanaan kod yang ditambah baik. Berikan tugas bukti sebenar dan bentuk akhir yang diperlukan dan jangan anggap skala model membekalkan sumber yang tiada atau kriteria penyiapan.
Untuk analisis dokumen, labelkan petikan dan kenal pasti kriteria perbandingan. Minta sumber berkaitan di sisi setiap kesimpulan dan nyatakan cara menangani maklumat yang tiada. Untuk tugasan penulisan, berikan khalayak, nada dan fakta yang mesti dikekalkan semasa semakan. Prom praktikal ialah: “Tulis semula penjelasan ini untuk pembaca yang dinyatakan, kekalkan istilah yang ditakrifkan dan kenal pasti sebarang dakwaan tanpa sokongan yang memerlukan penjelasan.”
Hermes 3 menggunakan ChatML untuk memisahkan arahan sistem, mesej pengguna dan jawapan pembantu. Templatnya sendiri boleh membina perbualan dan menambah awalan penjanaan pembantu. Arahan sistem mengarahkan peranan, peraturan dan gaya; ia pilihan apabila tugas tidak memerlukan mukadimah khas.
Perbualan berterusan perlu mengekalkan teks sumber berbeza daripada arahan dan mengekalkan fakta yang diterima dalam konteks berkaitan. Untuk lakon peranan, kenal pasti siapa yang mengawal setiap watak dan peristiwa yang telah ditetapkan. Untuk kod, nyatakan tingkah laku yang berubah dan kontrak yang kekal utuh. Artifak yang diingini perlu kekal jelas sepanjang dialog.
Kad model khusus ini mendokumentasikan tandatangan fungsi dalam perwakilan takrif alatnya dan skema respons wajib untuk nama fungsi serta argumen. Model menjana objek panggilan JSON berteg. Aplikasi menghuraikan dan melaksanakan operasi yang dipilih, kemudian mengembalikan hasilnya dalam respons alat bernama. Jawapan pembantu seterusnya boleh menerangkan data sebenar.
Berikan setiap fungsi tujuan yang jelas dan perihalan parameter yang tepat. Jangan biarkan carian yang dicadangkan menggantikan sumber yang dikembalikan. Kekalkan pemerhatian bersama operasi yang dipilih supaya kesimpulan akhir boleh mengenal pasti perkara yang menyokongnya. Begitu juga, kod yang dijana kekal sebagai cadangan sehingga diperiksa dan dijalankan dalam persekitaran yang dimaksudkan.
Mod JSON Hermes 3 dilatih dengan arahan sistem yang mengandungi skema yang diingini dan meminta objek JSON sebagai jawapan. Takrifkan medan dan cara mewakili nilai sumber yang tiada atau bercanggah. Sahkan struktur dan semak fakta walaupun objek mengikuti skema.
Konfigurasi yang diterbitkan menetapkan max_position_embeddings kepada 131,072. Peruntukkan arahan, dokumen, sejarah, hasil alat dan respons bersama; medan ini tidak menetapkan had output sejagat berasingan. Model penuh pengeluar dan varian terkuantum yang diterbitkan secara berasingan mempunyai identiti kejituannya sendiri, jadi varian tersebut tidak patut menggantikan varian 405B yang dinamakan secara senyap.
Hasil serahan yang berguna ialah artifak teks atau kod dengan andaian dan hubungannya kepada sumber yang jelas. Semaknya terhadap keperluan yang diberikan dan pemerhatian sebenar. Aliran kerja ChatML, panggilan fungsi dan JSON Hermes 3 kekal berbeza daripada kawalan pemikiran hibrid dan penaakulan berselang-seli Hermes 4 yang kemudian.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had nousresearch/hermes-3-llama-3.1-405b | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.002 / 1K token Output · Token output $0.002 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.002 / 1K token Output · Token output $0.002 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "nousresearch/hermes-3-llama-3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Gunakan laluan kaedah yang dipaparkan di atas.
Contoh teknikal dalam bahasa Inggeris
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.