Hy-MT2-30B-A3B ialah edisi mixture-of-experts Tencent Hy dalam keluarga terjemahan Hy-MT2. Pengeluar menempatkan keluarga ini untuk tugasan terjemahan bertulis yang rumit dan arahan berbilang bahasa, termasuk keperluan istilah, gaya dan data berstruktur. Edisi 30B-A3B kekal berbeza daripada model padat 1.8B dan 7B. Jadual bahasa pengeluar merangkumi bahasa Cina, Cina Tradisional, Inggeris, Jepun, Korea, Rusia, Arab, Perancis dan Sepanyol, serta Kantonis, Tibet, Kazakh, Mongolia dan Uyghur.
Konfigurasi yang diterbitkan mempunyai 48 lapisan, 32 kepala perhatian pertanyaan dan empat kepala kunci/nilai. Setiap lapisan pakar menggunakan 128 pakar dengan lapan dipilih bagi setiap token, dan bilangan kedudukan maksimum ialah 262,144. Ini ialah sifat konfigurasi tepat ini. Label keluarga yang lebih luas tidak mengenal pasti mana-mana artifak terkuantisasi yang diterbitkan secara berasingan.
Mulakan tugasan terjemahan dengan menyatakan nama penuh bahasa sasaran dan menetapkan bentuk jawapan yang diperlukan. Templat asas pengeluar meminta hasil terjemahan sahaja. Jika sumber merupakan sebahagian daripada dokumen yang lebih besar, tambah latar belakang yang diperlukan untuk mentafsirkannya, sambil mengasingkan konteks tersebut daripada teks yang perlu diterjemahkan.
Untuk kerja yang sensitif terhadap istilah, berikan glosari istilah sumber dan terjemahan pilihan. Untuk gaya, nyatakan khalayak dan nada dengan jelas. Terjemahan yang diperibadikan boleh menyenaraikan beberapa keperluan, seperti cara mengendalikan nama atau laras suara yang dikehendaki, sebelum membekalkan petikan sumber. Corak prompt pengeluar ini menjadikan kekangan terjemahan sebahagian daripada tugasan.
Untuk bahan berstruktur, tetapkan format, hierarki dan inden asal supaya kekal. Terjemahkan hanya teks yang kelihatan kepada pengguna dan kekalkan kunci, label kod, sifat serta pemegang tempat pemboleh ubah. Jika pemisah membahagikan kelompok petikan, kekalkan bilangan dan kedudukannya. Output yang berguna kekal boleh digunakan oleh aplikasi yang sama yang memproses struktur asal.
Pensampelan yang disyorkan bagi edisi MoE ini berbeza daripada model padat: temperature 0.7, top-p 1.0, tanpa penapisan top-k dan penalti pengulangan 1.0. Pengeluar menyatakan tiada prompt sistem lalai. Peruntukan penjanaan 4096 token dalam contohnya ialah contoh permintaan, bukannya dakwaan bahawa panjang jawapan maksimum model ditetapkan pada nilai tersebut.
Semak hasil terhadap kedua-dua bahagian tugasan: makna linguistik dan pengekalan struktur. Untuk aliran kerja dokumen, pastikan glosari konsisten merentas bahagian. Untuk fail bahasa aplikasi, bandingkan pengecam dan pemegang tempat dengan sumber sebelum meneruskan nilai terjemahan. Semakan ini menilai output tanpa menganggap peraturan pengekalan yang diminta telah dipenuhi.
", "aboutText": "Hy-MT2-30B-A3B ialah edisi mixture-of-experts Tencent Hy dalam keluarga terjemahan Hy-MT2. Pengeluar menempatkan keluarga ini untuk tugasan terjemahan bertulis yang rumit dan arahan berbilang bahasa, termasuk keperluan istilah, gaya dan data berstruktur. Edisi 30B-A3B kekal berbeza daripada model padat 1.8B dan 7B. Jadual bahasa pengeluar merangkumi bahasa Cina, Cina Tradisional, Inggeris, Jepun, Korea, Rusia, Arab, Perancis dan Sepanyol, serta Kantonis, Tibet, Kazakh, Mongolia dan Uyghur.\n\nKonfigurasi yang diterbitkan mempunyai 48 lapisan, 32 kepala perhatian pertanyaan dan empat kepala kunci/nilai. Setiap lapisan pakar menggunakan 128 pakar dengan lapan dipilih bagi setiap token, dan bilangan kedudukan maksimum ialah 262,144. Ini ialah sifat konfigurasi tepat ini. Label keluarga yang lebih luas tidak mengenal pasti mana-mana artifak terkuantisasi yang diterbitkan secara berasingan.\n\nMulakan tugasan terjemahan dengan menyatakan nama penuh bahasa sasaran dan menetapkan bentuk jawapan yang diperlukan. Templat asas pengeluar meminta hasil terjemahan sahaja. Jika sumber merupakan sebahagian daripada dokumen yang lebih besar, tambah latar belakang yang diperlukan untuk mentafsirkannya, sambil mengasingkan konteks tersebut daripada teks yang perlu diterjemahkan.\n\nUntuk kerja yang sensitif terhadap istilah, berikan glosari istilah sumber dan terjemahan pilihan. Untuk gaya, nyatakan khalayak dan nada dengan jelas. Terjemahan yang diperibadikan boleh menyenaraikan beberapa keperluan, seperti cara mengendalikan nama atau laras suara yang dikehendaki, sebelum membekalkan petikan sumber. Corak prompt pengeluar ini menjadikan kekangan terjemahan sebahagian daripada tugasan.\n\nUntuk bahan berstruktur, tetapkan format, hierarki dan inden asal supaya kekal. Terjemahkan hanya teks yang kelihatan kepada pengguna dan kekalkan kunci, label kod, sifat serta pemegang tempat pemboleh ubah. Jika pemisah membahagikan kelompok petikan, kekalkan bilangan dan kedudukannya. Output yang berguna kekal boleh digunakan oleh aplikasi yang sama yang memproses struktur asal.\n\nPensampelan yang disyorkan bagi edisi MoE ini berbeza daripada model padat: temperature 0.7, top-p 1.0, tanpa penapisan top-k dan penalti pengulangan 1.0. Pengeluar menyatakan tiada prompt sistem lalai. Peruntukan penjanaan 4096 token dalam contohnya ialah contoh permintaan, bukannya dakwaan bahawa panjang jawapan maksimum model ditetapkan pada nilai tersebut.\n\nSemak hasil terhadap kedua-dua bahagian tugasan: makna linguistik dan pengekalan struktur. Untuk aliran kerja dokumen, pastikan glosari konsisten merentas bahagian. Untuk fail bahasa aplikasi, bandingkan pengecam dan pemegang tempat dengan sumber sebelum meneruskan nilai terjemahan. Semakan ini menilai output tanpa menganggap peraturan pengekalan yang diminta telah dipenuhi.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Translate an interface file safely\n\nTranslate only the user-visible YAML values into Russian. Preserve keys, indentation and the {count} placeholder. Use the glossary Retry = Повторить. Return only translated YAML.\nbuttons:\n retry: "Retry"\n cancel: "Cancel"\nstatus:\n pending: "{count} files pending"YAML with the same mapping hierarchy and keys, translated visible values and the unchanged {count} placeholder.Parse the YAML and compare the key tree and placeholder multiset with the source; check the Retry glossary term.tencent/hy-mt2-30b-a3bHy-MT2-30B-A3B daripada Tencent ialah edisi MoE dalam keluarga terjemahannya dengan pemikiran pantas. Ia mengendalikan terjemahan berpandukan arahan, istilah dan data berstruktur, dengan konfigurasi 262,144 kedudukan serta cadangan pensampelan yang berbeza daripada edisi padat.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Hy-MT2-30B-A3B ialah edisi mixture-of-experts Tencent Hy dalam keluarga terjemahan Hy-MT2. Pengeluar menempatkan keluarga ini untuk tugasan terjemahan bertulis yang rumit dan arahan berbilang bahasa, termasuk keperluan istilah, gaya dan data berstruktur. Edisi 30B-A3B kekal berbeza daripada model padat 1.8B dan 7B. Jadual bahasa pengeluar merangkumi bahasa Cina, Cina Tradisional, Inggeris, Jepun, Korea, Rusia, Arab, Perancis dan Sepanyol, serta Kantonis, Tibet, Kazakh, Mongolia dan Uyghur.
Konfigurasi yang diterbitkan mempunyai 48 lapisan, 32 kepala perhatian pertanyaan dan empat kepala kunci/nilai. Setiap lapisan pakar menggunakan 128 pakar dengan lapan dipilih bagi setiap token, dan bilangan kedudukan maksimum ialah 262,144. Ini ialah sifat konfigurasi tepat ini. Label keluarga yang lebih luas tidak mengenal pasti mana-mana artifak terkuantisasi yang diterbitkan secara berasingan.
Mulakan tugasan terjemahan dengan menyatakan nama penuh bahasa sasaran dan menetapkan bentuk jawapan yang diperlukan. Templat asas pengeluar meminta hasil terjemahan sahaja. Jika sumber merupakan sebahagian daripada dokumen yang lebih besar, tambah latar belakang yang diperlukan untuk mentafsirkannya, sambil mengasingkan konteks tersebut daripada teks yang perlu diterjemahkan.
Untuk kerja yang sensitif terhadap istilah, berikan glosari istilah sumber dan terjemahan pilihan. Untuk gaya, nyatakan khalayak dan nada dengan jelas. Terjemahan yang diperibadikan boleh menyenaraikan beberapa keperluan, seperti cara mengendalikan nama atau laras suara yang dikehendaki, sebelum membekalkan petikan sumber. Corak prompt pengeluar ini menjadikan kekangan terjemahan sebahagian daripada tugasan.
Untuk bahan berstruktur, tetapkan format, hierarki dan inden asal supaya kekal. Terjemahkan hanya teks yang kelihatan kepada pengguna dan kekalkan kunci, label kod, sifat serta pemegang tempat pemboleh ubah. Jika pemisah membahagikan kelompok petikan, kekalkan bilangan dan kedudukannya. Output yang berguna kekal boleh digunakan oleh aplikasi yang sama yang memproses struktur asal.
Pensampelan yang disyorkan bagi edisi MoE ini berbeza daripada model padat: temperature 0.7, top-p 1.0, tanpa penapisan top-k dan penalti pengulangan 1.0. Pengeluar menyatakan tiada prompt sistem lalai. Peruntukan penjanaan 4096 token dalam contohnya ialah contoh permintaan, bukannya dakwaan bahawa panjang jawapan maksimum model ditetapkan pada nilai tersebut.
Semak hasil terhadap kedua-dua bahagian tugasan: makna linguistik dan pengekalan struktur. Untuk aliran kerja dokumen, pastikan glosari konsisten merentas bahagian. Untuk fail bahasa aplikasi, bandingkan pengecam dan pemegang tempat dengan sumber sebelum meneruskan nilai terjemahan. Semakan ini menilai output tanpa menganggap peraturan pengekalan yang diminta telah dipenuhi.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had tencent/hy-mt2-30b-a3b | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000148 / 1K token Output · Token output $0.00059 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000148 / 1K token Output · Token output $0.00059 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "tencent/hy-mt2-30b-a3b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='tencent/hy-mt2-30b-a3b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='tencent/hy-mt2-30b-a3b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra tencent/hy-mt2-30b-a3b
Gunakan laluan kaedah yang dipaparkan di atas.
tencent/hy-mt2-30b-a3bHy-MT2-30B-A3B daripada Tencent ialah edisi MoE dalam keluarga terjemahannya dengan pemikiran pantas. Ia mengendalikan terjemahan berpandukan arahan, istilah dan data berstruktur, dengan konfigurasi 262,144 kedudukan serta cadangan pensampelan yang berbeza daripada edisi padat.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Hy-MT2-30B-A3B ialah edisi mixture-of-experts Tencent Hy dalam keluarga terjemahan Hy-MT2. Pengeluar menempatkan keluarga ini untuk tugasan terjemahan bertulis yang rumit dan arahan berbilang bahasa, termasuk keperluan istilah, gaya dan data berstruktur. Edisi 30B-A3B kekal berbeza daripada model padat 1.8B dan 7B. Jadual bahasa pengeluar merangkumi bahasa Cina, Cina Tradisional, Inggeris, Jepun, Korea, Rusia, Arab, Perancis dan Sepanyol, serta Kantonis, Tibet, Kazakh, Mongolia dan Uyghur.
Konfigurasi yang diterbitkan mempunyai 48 lapisan, 32 kepala perhatian pertanyaan dan empat kepala kunci/nilai. Setiap lapisan pakar menggunakan 128 pakar dengan lapan dipilih bagi setiap token, dan bilangan kedudukan maksimum ialah 262,144. Ini ialah sifat konfigurasi tepat ini. Label keluarga yang lebih luas tidak mengenal pasti mana-mana artifak terkuantisasi yang diterbitkan secara berasingan.
Mulakan tugasan terjemahan dengan menyatakan nama penuh bahasa sasaran dan menetapkan bentuk jawapan yang diperlukan. Templat asas pengeluar meminta hasil terjemahan sahaja. Jika sumber merupakan sebahagian daripada dokumen yang lebih besar, tambah latar belakang yang diperlukan untuk mentafsirkannya, sambil mengasingkan konteks tersebut daripada teks yang perlu diterjemahkan.
Untuk kerja yang sensitif terhadap istilah, berikan glosari istilah sumber dan terjemahan pilihan. Untuk gaya, nyatakan khalayak dan nada dengan jelas. Terjemahan yang diperibadikan boleh menyenaraikan beberapa keperluan, seperti cara mengendalikan nama atau laras suara yang dikehendaki, sebelum membekalkan petikan sumber. Corak prompt pengeluar ini menjadikan kekangan terjemahan sebahagian daripada tugasan.
Untuk bahan berstruktur, tetapkan format, hierarki dan inden asal supaya kekal. Terjemahkan hanya teks yang kelihatan kepada pengguna dan kekalkan kunci, label kod, sifat serta pemegang tempat pemboleh ubah. Jika pemisah membahagikan kelompok petikan, kekalkan bilangan dan kedudukannya. Output yang berguna kekal boleh digunakan oleh aplikasi yang sama yang memproses struktur asal.
Pensampelan yang disyorkan bagi edisi MoE ini berbeza daripada model padat: temperature 0.7, top-p 1.0, tanpa penapisan top-k dan penalti pengulangan 1.0. Pengeluar menyatakan tiada prompt sistem lalai. Peruntukan penjanaan 4096 token dalam contohnya ialah contoh permintaan, bukannya dakwaan bahawa panjang jawapan maksimum model ditetapkan pada nilai tersebut.
Semak hasil terhadap kedua-dua bahagian tugasan: makna linguistik dan pengekalan struktur. Untuk aliran kerja dokumen, pastikan glosari konsisten merentas bahagian. Untuk fail bahasa aplikasi, bandingkan pengecam dan pemegang tempat dengan sumber sebelum meneruskan nilai terjemahan. Semakan ini menilai output tanpa menganggap peraturan pengekalan yang diminta telah dipenuhi.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had tencent/hy-mt2-30b-a3b | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000148 / 1K token Output · Token output $0.00059 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000148 / 1K token Output · Token output $0.00059 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "tencent/hy-mt2-30b-a3b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'tencent/hy-mt2-30b-a3b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'tencent/hy-mt2-30b-a3b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra tencent/hy-mt2-30b-a3b
Gunakan laluan kaedah yang dipaparkan di atas.
Contoh teknikal dalam bahasa Inggeris
Translate an interface file safely\n\nTranslate only the user-visible YAML values into Russian. Preserve keys, indentation and the {count} placeholder. Use the glossary Retry = Повторить. Return only translated YAML.\nbuttons:\n retry: "Retry"\n cancel: "Cancel"\nstatus:\n pending: "{count} files pending"YAML with the same mapping hierarchy and keys, translated visible values and the unchanged {count} placeholder.Parse the YAML and compare the key tree and placeholder multiset with the source; check the Retry glossary term.