Hermes 3 Llama 3.1 405B adalah model teks generalis besar dari Nous Research, yang dikembangkan melalui fine-tuning seluruh parameter Llama 3.1 405B. Pembuatnya menekankan keselarasan dengan instruksi pengguna, kemampuan untuk diarahkan, permainan peran, penalaran, percakapan beberapa giliran, dan koherensi konteks panjang. Keluarannya berupa teks, termasuk jawaban, konten tertulis, kode, rekaman terstruktur, dan informasi pemanggilan fungsi.
Ini adalah varian Hermes 3 besar, yang terpisah dari pendamping 70B dan rilis penalaran Hermes 4 berikutnya. Pembuatnya memperluas kemampuan Hermes terdahulu dengan peningkatan pemanggilan fungsi, keluaran terstruktur, dan pembuatan kode. Berikan bukti aktual dan bentuk akhir yang diwajibkan pada suatu tugas alih-alih menganggap skala model menyediakan sumber yang hilang atau kriteria penyelesaian.
Untuk analisis dokumen, beri label pada bagian teks dan identifikasi kriteria perbandingan. Minta sumber yang relevan di samping setiap kesimpulan dan tentukan penanganan informasi yang tidak tersedia. Untuk penugasan penulisan, berikan audiens, nada, dan fakta yang harus bertahan setelah revisi. Prompt praktis adalah: “Tulis ulang penjelasan ini untuk pembaca yang disebutkan, pertahankan istilah yang telah didefinisikan, dan identifikasi klaim tanpa dukungan yang memerlukan klarifikasi.”
Hermes 3 menggunakan ChatML untuk memisahkan instruksi sistem, pesan pengguna, dan balasan asisten. Templatnya sendiri dapat membentuk percakapan dan menambahkan prefiks generasi asisten. Instruksi sistem mengarahkan peran, aturan, dan gaya; instruksi itu bersifat opsional ketika tugas tidak memerlukan pembukaan khusus.
Percakapan yang berlanjut harus memisahkan teks sumber dari instruksi dan mempertahankan fakta yang telah diterima dalam konteks relevan. Untuk permainan peran, identifikasi siapa yang mengendalikan setiap karakter dan peristiwa mana yang telah ditetapkan. Untuk kode, nyatakan perilaku yang berubah dan kontrak yang tetap utuh. Artefak yang diinginkan harus tetap terlihat sepanjang dialog.
Kartu model yang tepat ini mendokumentasikan signature fungsi di dalam representasi definisi alatnya dan skema respons wajib untuk nama fungsi serta argumennya. Model menghasilkan objek pemanggilan JSON bertanda. Aplikasi mengurai dan menjalankan operasi terpilih, lalu mengembalikan hasilnya dalam respons alat bernama. Jawaban asisten berikutnya dapat menjelaskan data aktual.
Berikan tujuan yang jelas dan deskripsi parameter yang presisi untuk setiap fungsi. Jangan biarkan usulan pencarian menggantikan sumber yang dikembalikan. Jaga pengamatan tetap terkait dengan operasi terpilih agar kesimpulan akhir dapat mengidentifikasi apa yang mendukungnya. Kode yang dihasilkan juga tetap merupakan usulan sampai diperiksa dan dijalankan dalam lingkungan yang dituju.
Mode JSON Hermes 3 dilatih dengan instruksi sistem yang memuat skema yang diinginkan dan meminta objek JSON sebagai jawaban. Tetapkan bidang dan cara merepresentasikan nilai sumber yang tidak tersedia atau bertentangan. Validasi struktur dan tinjau fakta meskipun objek mengikuti skema.
Konfigurasi yang dipublikasikan menetapkan max_position_embeddings sebesar 131.072. Alokasikan instruksi, dokumen, riwayat, hasil alat, dan respons bersama-sama; bidang ini tidak menetapkan batas keluaran universal yang terpisah. Model penuh pembuatnya dan varian terkuantisasi yang dipublikasikan terpisah memiliki identitas presisi masing-masing, sehingga varian itu tidak boleh diam-diam menggantikan varian 405B bernama.
Hasil kerja yang berguna adalah artefak teks atau kode dengan asumsi serta keterkaitan sumber yang jelas. Tinjau terhadap persyaratan yang diberikan dan pengamatan aktual. Alur ChatML, pemanggilan fungsi, dan JSON Hermes 3 tetap berbeda dari kontrol hybrid-thinking dan penalaran berseling Hermes 4 yang hadir kemudian.
", "aboutText": "Hermes 3 Llama 3.1 405B adalah model teks generalis besar dari Nous Research, yang dikembangkan melalui fine-tuning seluruh parameter Llama 3.1 405B. Pembuatnya menekankan keselarasan dengan instruksi pengguna, kemampuan untuk diarahkan, permainan peran, penalaran, percakapan beberapa giliran, dan koherensi konteks panjang. Keluarannya berupa teks, termasuk jawaban, konten tertulis, kode, rekaman terstruktur, dan informasi pemanggilan fungsi.\n\n### Edisi 405B\n\nIni adalah varian Hermes 3 besar, yang terpisah dari pendamping 70B dan rilis penalaran Hermes 4 berikutnya. Pembuatnya memperluas kemampuan Hermes terdahulu dengan peningkatan pemanggilan fungsi, keluaran terstruktur, dan pembuatan kode. Berikan bukti aktual dan bentuk akhir yang diwajibkan pada suatu tugas alih-alih menganggap skala model menyediakan sumber yang hilang atau kriteria penyelesaian.\n\nUntuk analisis dokumen, beri label pada bagian teks dan identifikasi kriteria perbandingan. Minta sumber yang relevan di samping setiap kesimpulan dan tentukan penanganan informasi yang tidak tersedia. Untuk penugasan penulisan, berikan audiens, nada, dan fakta yang harus bertahan setelah revisi. Prompt praktis adalah: “Tulis ulang penjelasan ini untuk pembaca yang disebutkan, pertahankan istilah yang telah didefinisikan, dan identifikasi klaim tanpa dukungan yang memerlukan klarifikasi.”\n\n### Format prompt dan dialog\n\nHermes 3 menggunakan ChatML untuk memisahkan instruksi sistem, pesan pengguna, dan balasan asisten. Templatnya sendiri dapat membentuk percakapan dan menambahkan prefiks generasi asisten. Instruksi sistem mengarahkan peran, aturan, dan gaya; instruksi itu bersifat opsional ketika tugas tidak memerlukan pembukaan khusus.\n\nPercakapan yang berlanjut harus memisahkan teks sumber dari instruksi dan mempertahankan fakta yang telah diterima dalam konteks relevan. Untuk permainan peran, identifikasi siapa yang mengendalikan setiap karakter dan peristiwa mana yang telah ditetapkan. Untuk kode, nyatakan perilaku yang berubah dan kontrak yang tetap utuh. Artefak yang diinginkan harus tetap terlihat sepanjang dialog.\n\n### Fungsi dan pengamatan sumber\n\nKartu model yang tepat ini mendokumentasikan signature fungsi di dalam representasi definisi alatnya dan skema respons wajib untuk nama fungsi serta argumennya. Model menghasilkan objek pemanggilan JSON bertanda. Aplikasi mengurai dan menjalankan operasi terpilih, lalu mengembalikan hasilnya dalam respons alat bernama. Jawaban asisten berikutnya dapat menjelaskan data aktual.\n\nBerikan tujuan yang jelas dan deskripsi parameter yang presisi untuk setiap fungsi. Jangan biarkan usulan pencarian menggantikan sumber yang dikembalikan. Jaga pengamatan tetap terkait dengan operasi terpilih agar kesimpulan akhir dapat mengidentifikasi apa yang mendukungnya. Kode yang dihasilkan juga tetap merupakan usulan sampai diperiksa dan dijalankan dalam lingkungan yang dituju.\n\n### Hasil JSON, konteks, dan presisi\n\nMode JSON Hermes 3 dilatih dengan instruksi sistem yang memuat skema yang diinginkan dan meminta objek JSON sebagai jawaban. Tetapkan bidang dan cara merepresentasikan nilai sumber yang tidak tersedia atau bertentangan. Validasi struktur dan tinjau fakta meskipun objek mengikuti skema.\n\nKonfigurasi yang dipublikasikan menetapkan max_position_embeddings sebesar 131.072. Alokasikan instruksi, dokumen, riwayat, hasil alat, dan respons bersama-sama; bidang ini tidak menetapkan batas keluaran universal yang terpisah. Model penuh pembuatnya dan varian terkuantisasi yang dipublikasikan terpisah memiliki identitas presisi masing-masing, sehingga varian itu tidak boleh diam-diam menggantikan varian 405B bernama.\n\nHasil kerja yang berguna adalah artefak teks atau kode dengan asumsi serta keterkaitan sumber yang jelas. Tinjau terhadap persyaratan yang diberikan dan pengamatan aktual. Alur ChatML, pemanggilan fungsi, dan JSON Hermes 3 tetap berbeda dari kontrol hybrid-thinking dan penalaran berseling Hermes 4 yang hadir kemudian.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B adalah model teks generalis 405B dari Nous Research yang dihasilkan melalui fine-tuning seluruh parameter. Dialog ChatML yang dapat diarahkan, JSON berpanduan skema, dan format pemanggilan fungsinya mendukung analisis sumber, penulisan, kode, serta pekerjaan beberapa langkah dengan pengamatan yang dikembalikan alat aplikasi.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Hermes 3 Llama 3.1 405B adalah model teks generalis besar dari Nous Research, yang dikembangkan melalui fine-tuning seluruh parameter Llama 3.1 405B. Pembuatnya menekankan keselarasan dengan instruksi pengguna, kemampuan untuk diarahkan, permainan peran, penalaran, percakapan beberapa giliran, dan koherensi konteks panjang. Keluarannya berupa teks, termasuk jawaban, konten tertulis, kode, rekaman terstruktur, dan informasi pemanggilan fungsi.
Ini adalah varian Hermes 3 besar, yang terpisah dari pendamping 70B dan rilis penalaran Hermes 4 berikutnya. Pembuatnya memperluas kemampuan Hermes terdahulu dengan peningkatan pemanggilan fungsi, keluaran terstruktur, dan pembuatan kode. Berikan bukti aktual dan bentuk akhir yang diwajibkan pada suatu tugas alih-alih menganggap skala model menyediakan sumber yang hilang atau kriteria penyelesaian.
Untuk analisis dokumen, beri label pada bagian teks dan identifikasi kriteria perbandingan. Minta sumber yang relevan di samping setiap kesimpulan dan tentukan penanganan informasi yang tidak tersedia. Untuk penugasan penulisan, berikan audiens, nada, dan fakta yang harus bertahan setelah revisi. Prompt praktis adalah: “Tulis ulang penjelasan ini untuk pembaca yang disebutkan, pertahankan istilah yang telah didefinisikan, dan identifikasi klaim tanpa dukungan yang memerlukan klarifikasi.”
Hermes 3 menggunakan ChatML untuk memisahkan instruksi sistem, pesan pengguna, dan balasan asisten. Templatnya sendiri dapat membentuk percakapan dan menambahkan prefiks generasi asisten. Instruksi sistem mengarahkan peran, aturan, dan gaya; instruksi itu bersifat opsional ketika tugas tidak memerlukan pembukaan khusus.
Percakapan yang berlanjut harus memisahkan teks sumber dari instruksi dan mempertahankan fakta yang telah diterima dalam konteks relevan. Untuk permainan peran, identifikasi siapa yang mengendalikan setiap karakter dan peristiwa mana yang telah ditetapkan. Untuk kode, nyatakan perilaku yang berubah dan kontrak yang tetap utuh. Artefak yang diinginkan harus tetap terlihat sepanjang dialog.
Kartu model yang tepat ini mendokumentasikan signature fungsi di dalam representasi definisi alatnya dan skema respons wajib untuk nama fungsi serta argumennya. Model menghasilkan objek pemanggilan JSON bertanda. Aplikasi mengurai dan menjalankan operasi terpilih, lalu mengembalikan hasilnya dalam respons alat bernama. Jawaban asisten berikutnya dapat menjelaskan data aktual.
Berikan tujuan yang jelas dan deskripsi parameter yang presisi untuk setiap fungsi. Jangan biarkan usulan pencarian menggantikan sumber yang dikembalikan. Jaga pengamatan tetap terkait dengan operasi terpilih agar kesimpulan akhir dapat mengidentifikasi apa yang mendukungnya. Kode yang dihasilkan juga tetap merupakan usulan sampai diperiksa dan dijalankan dalam lingkungan yang dituju.
Mode JSON Hermes 3 dilatih dengan instruksi sistem yang memuat skema yang diinginkan dan meminta objek JSON sebagai jawaban. Tetapkan bidang dan cara merepresentasikan nilai sumber yang tidak tersedia atau bertentangan. Validasi struktur dan tinjau fakta meskipun objek mengikuti skema.
Konfigurasi yang dipublikasikan menetapkan max_position_embeddings sebesar 131.072. Alokasikan instruksi, dokumen, riwayat, hasil alat, dan respons bersama-sama; bidang ini tidak menetapkan batas keluaran universal yang terpisah. Model penuh pembuatnya dan varian terkuantisasi yang dipublikasikan terpisah memiliki identitas presisi masing-masing, sehingga varian itu tidak boleh diam-diam menggantikan varian 405B bernama.
Hasil kerja yang berguna adalah artefak teks atau kode dengan asumsi serta keterkaitan sumber yang jelas. Tinjau terhadap persyaratan yang diberikan dan pengamatan aktual. Alur ChatML, pemanggilan fungsi, dan JSON Hermes 3 tetap berbeda dari kontrol hybrid-thinking dan penalaran berseling Hermes 4 yang hadir kemudian.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan nousresearch/hermes-3-llama-3.1-405b | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.002 / 1K token Keluaran · Token keluaran $0.002 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.002 / 1K token Keluaran · Token keluaran $0.002 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Gunakan jalur metode yang ditampilkan di atas.
nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B adalah model teks generalis 405B dari Nous Research yang dihasilkan melalui fine-tuning seluruh parameter. Dialog ChatML yang dapat diarahkan, JSON berpanduan skema, dan format pemanggilan fungsinya mendukung analisis sumber, penulisan, kode, serta pekerjaan beberapa langkah dengan pengamatan yang dikembalikan alat aplikasi.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Hermes 3 Llama 3.1 405B adalah model teks generalis besar dari Nous Research, yang dikembangkan melalui fine-tuning seluruh parameter Llama 3.1 405B. Pembuatnya menekankan keselarasan dengan instruksi pengguna, kemampuan untuk diarahkan, permainan peran, penalaran, percakapan beberapa giliran, dan koherensi konteks panjang. Keluarannya berupa teks, termasuk jawaban, konten tertulis, kode, rekaman terstruktur, dan informasi pemanggilan fungsi.
Ini adalah varian Hermes 3 besar, yang terpisah dari pendamping 70B dan rilis penalaran Hermes 4 berikutnya. Pembuatnya memperluas kemampuan Hermes terdahulu dengan peningkatan pemanggilan fungsi, keluaran terstruktur, dan pembuatan kode. Berikan bukti aktual dan bentuk akhir yang diwajibkan pada suatu tugas alih-alih menganggap skala model menyediakan sumber yang hilang atau kriteria penyelesaian.
Untuk analisis dokumen, beri label pada bagian teks dan identifikasi kriteria perbandingan. Minta sumber yang relevan di samping setiap kesimpulan dan tentukan penanganan informasi yang tidak tersedia. Untuk penugasan penulisan, berikan audiens, nada, dan fakta yang harus bertahan setelah revisi. Prompt praktis adalah: “Tulis ulang penjelasan ini untuk pembaca yang disebutkan, pertahankan istilah yang telah didefinisikan, dan identifikasi klaim tanpa dukungan yang memerlukan klarifikasi.”
Hermes 3 menggunakan ChatML untuk memisahkan instruksi sistem, pesan pengguna, dan balasan asisten. Templatnya sendiri dapat membentuk percakapan dan menambahkan prefiks generasi asisten. Instruksi sistem mengarahkan peran, aturan, dan gaya; instruksi itu bersifat opsional ketika tugas tidak memerlukan pembukaan khusus.
Percakapan yang berlanjut harus memisahkan teks sumber dari instruksi dan mempertahankan fakta yang telah diterima dalam konteks relevan. Untuk permainan peran, identifikasi siapa yang mengendalikan setiap karakter dan peristiwa mana yang telah ditetapkan. Untuk kode, nyatakan perilaku yang berubah dan kontrak yang tetap utuh. Artefak yang diinginkan harus tetap terlihat sepanjang dialog.
Kartu model yang tepat ini mendokumentasikan signature fungsi di dalam representasi definisi alatnya dan skema respons wajib untuk nama fungsi serta argumennya. Model menghasilkan objek pemanggilan JSON bertanda. Aplikasi mengurai dan menjalankan operasi terpilih, lalu mengembalikan hasilnya dalam respons alat bernama. Jawaban asisten berikutnya dapat menjelaskan data aktual.
Berikan tujuan yang jelas dan deskripsi parameter yang presisi untuk setiap fungsi. Jangan biarkan usulan pencarian menggantikan sumber yang dikembalikan. Jaga pengamatan tetap terkait dengan operasi terpilih agar kesimpulan akhir dapat mengidentifikasi apa yang mendukungnya. Kode yang dihasilkan juga tetap merupakan usulan sampai diperiksa dan dijalankan dalam lingkungan yang dituju.
Mode JSON Hermes 3 dilatih dengan instruksi sistem yang memuat skema yang diinginkan dan meminta objek JSON sebagai jawaban. Tetapkan bidang dan cara merepresentasikan nilai sumber yang tidak tersedia atau bertentangan. Validasi struktur dan tinjau fakta meskipun objek mengikuti skema.
Konfigurasi yang dipublikasikan menetapkan max_position_embeddings sebesar 131.072. Alokasikan instruksi, dokumen, riwayat, hasil alat, dan respons bersama-sama; bidang ini tidak menetapkan batas keluaran universal yang terpisah. Model penuh pembuatnya dan varian terkuantisasi yang dipublikasikan terpisah memiliki identitas presisi masing-masing, sehingga varian itu tidak boleh diam-diam menggantikan varian 405B bernama.
Hasil kerja yang berguna adalah artefak teks atau kode dengan asumsi serta keterkaitan sumber yang jelas. Tinjau terhadap persyaratan yang diberikan dan pengamatan aktual. Alur ChatML, pemanggilan fungsi, dan JSON Hermes 3 tetap berbeda dari kontrol hybrid-thinking dan penalaran berseling Hermes 4 yang hadir kemudian.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan nousresearch/hermes-3-llama-3.1-405b | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.002 / 1K token Keluaran · Token keluaran $0.002 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.002 / 1K token Keluaran · Token keluaran $0.002 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "nousresearch/hermes-3-llama-3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.