Hy-MT2-30B-A3B on Tencent Hyn Hy-MT2-käännösmalliperheen mixture-of-experts-versio. Valmistaja suuntaa perheen vaativiin kirjallisiin käännöstehtäviin ja monikielisiin ohjeisiin, mukaan lukien terminologiaa, tyyliä ja rakenteista tietoa koskevat vaatimukset. 30B-A3B-versio pidetään erillään tiheistä 1.8B- ja 7B-malleista. Valmistajan kielitaulukko sisältää kiinan, perinteisen kiinan, englannin, japanin, korean, venäjän, arabian, ranskan ja espanjan sekä kantoninkiinan, tiibetin, kazakin, mongolin ja uiguurin.
Sen julkaistussa kokoonpanossa on 48 kerrosta, 32 kyselypäätä attention-mekanismissa ja neljä avain-/arvopäätä. Kukin asiantuntijakerros käyttää 128 asiantuntijaa, joista kahdeksan valitaan tokenia kohti, ja positioiden enimmäismäärä on 262 144. Nämä ovat juuri tämän kokoonpanon ominaisuuksia. Laajempi perhenimi ei yksilöi mitään erikseen julkaistua kvantisoitua aineistoa.
Aloita käännöstehtävä nimeämällä kohdekieli kokonaisena ja määrittämällä vaadittu vastausmuoto. Valmistajan peruskehotemalli pyytää vain käännetyn tuloksen. Jos lähde on osa laajempaa asiakirjaa, lisää sen tulkintaan tarvittava tausta mutta pidä tämä konteksti erillään käännettävästä tekstistä.
Kun terminologia on tärkeää, anna sanasto lähdetermeistä ja toivotuista käännöksistä. Määritä tyyliä varten kohdeyleisö ja sävy selkeästi. Yksilöllisessä käännöksessä voi luetella ennen lähdetekstiä useita vaatimuksia, kuten nimien käsittelyn tai halutun ilmaisutavan. Nämä valmistajan kehotemallit tekevät käännösrajoitteista osan tehtävää.
Lukitse rakenteisessa aineistossa alkuperäinen muoto, hierarkia ja sisennykset. Käännä vain näkyvä käyttäjälle tarkoitettu teksti ja säilytä avaimet, koodimerkinnät, ominaisuudet ja muuttujien paikkamerkit. Jos erottimet jakavat tekstierän osiin, säilytä niiden määrä ja sijainti. Hyödyllinen tulos pysyy käyttökelpoisena samassa sovelluksessa, joka käyttää alkuperäistä rakennetta.
Tämän MoE-version suositeltu näytteistys eroaa tiheistä malleista: temperature 0.7, top-p 1.0, ei top-k-suodatusta ja repetition penalty 1.0. Valmistajan mukaan oletusarvoista järjestelmäkehotetta ei ole. Sen esimerkin 4096 tokenin generointivaraus on pyyntöesimerkki eikä väite, että mallin vastauksen enimmäispituus olisi kiinteästi tuo arvo.
Tarkista tulos tehtävän molempia osia vasten: kielellistä merkitystä ja rakenteen säilymistä. Varmista asiakirjatyönkulussa sanaston johdonmukaisuus eri osioissa. Vertaa sovelluksen kielitiedoston tunnisteita ja paikkamerkkejä lähteeseen ennen käännettyjen arvojen välittämistä eteenpäin. Nämä tarkistukset arvioivat tulosta sen sijaan, että olettaisivat pyydetyn säilytyssäännön täyttyneen.
", "aboutText": "Hy-MT2-30B-A3B on Tencent Hyn Hy-MT2-käännösmalliperheen mixture-of-experts-versio. Valmistaja suuntaa perheen vaativiin kirjallisiin käännöstehtäviin ja monikielisiin ohjeisiin, mukaan lukien terminologiaa, tyyliä ja rakenteista tietoa koskevat vaatimukset. 30B-A3B-versio pidetään erillään tiheistä 1.8B- ja 7B-malleista. Valmistajan kielitaulukko sisältää kiinan, perinteisen kiinan, englannin, japanin, korean, venäjän, arabian, ranskan ja espanjan sekä kantoninkiinan, tiibetin, kazakin, mongolin ja uiguurin.\n\nSen julkaistussa kokoonpanossa on 48 kerrosta, 32 kyselypäätä attention-mekanismissa ja neljä avain-/arvopäätä. Kukin asiantuntijakerros käyttää 128 asiantuntijaa, joista kahdeksan valitaan tokenia kohti, ja positioiden enimmäismäärä on 262 144. Nämä ovat juuri tämän kokoonpanon ominaisuuksia. Laajempi perhenimi ei yksilöi mitään erikseen julkaistua kvantisoitua aineistoa.\n\nAloita käännöstehtävä nimeämällä kohdekieli kokonaisena ja määrittämällä vaadittu vastausmuoto. Valmistajan peruskehotemalli pyytää vain käännetyn tuloksen. Jos lähde on osa laajempaa asiakirjaa, lisää sen tulkintaan tarvittava tausta mutta pidä tämä konteksti erillään käännettävästä tekstistä.\n\nKun terminologia on tärkeää, anna sanasto lähdetermeistä ja toivotuista käännöksistä. Määritä tyyliä varten kohdeyleisö ja sävy selkeästi. Yksilöllisessä käännöksessä voi luetella ennen lähdetekstiä useita vaatimuksia, kuten nimien käsittelyn tai halutun ilmaisutavan. Nämä valmistajan kehotemallit tekevät käännösrajoitteista osan tehtävää.\n\nLukitse rakenteisessa aineistossa alkuperäinen muoto, hierarkia ja sisennykset. Käännä vain näkyvä käyttäjälle tarkoitettu teksti ja säilytä avaimet, koodimerkinnät, ominaisuudet ja muuttujien paikkamerkit. Jos erottimet jakavat tekstierän osiin, säilytä niiden määrä ja sijainti. Hyödyllinen tulos pysyy käyttökelpoisena samassa sovelluksessa, joka käyttää alkuperäistä rakennetta.\n\nTämän MoE-version suositeltu näytteistys eroaa tiheistä malleista: temperature 0.7, top-p 1.0, ei top-k-suodatusta ja repetition penalty 1.0. Valmistajan mukaan oletusarvoista järjestelmäkehotetta ei ole. Sen esimerkin 4096 tokenin generointivaraus on pyyntöesimerkki eikä väite, että mallin vastauksen enimmäispituus olisi kiinteästi tuo arvo.\n\nTarkista tulos tehtävän molempia osia vasten: kielellistä merkitystä ja rakenteen säilymistä. Varmista asiakirjatyönkulussa sanaston johdonmukaisuus eri osioissa. Vertaa sovelluksen kielitiedoston tunnisteita ja paikkamerkkejä lähteeseen ennen käännettyjen arvojen välittämistä eteenpäin. Nämä tarkistukset arvioivat tulosta sen sijaan, että olettaisivat pyydetyn säilytyssäännön täyttyneen.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekninen esimerkki englanniksi
Translate an interface file safely\n\nTranslate only the user-visible YAML values into Russian. Preserve keys, indentation and the {count} placeholder. Use the glossary Retry = Повторить. Return only translated YAML.\nbuttons:\n retry: "Retry"\n cancel: "Cancel"\nstatus:\n pending: "{count} files pending"YAML with the same mapping hierarchy and keys, translated visible values and the unchanged {count} placeholder.Parse the YAML and compare the key tree and placeholder multiset with the source; check the Retry glossary term.tencent/hy-mt2-30b-a3bTencentin Hy-MT2-30B-A3B on sen nopeasti ajattelevan käännösmalliperheen MoE-versio. Se käsittelee ohjeilla ohjattua kääntämistä, terminologiaa ja rakenteista tietoa. Sen kokoonpanossa on 262 144 positiota, ja näytteistyssuositukset eroavat tiheiden versioiden suosituksista.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Hy-MT2-30B-A3B on Tencent Hyn Hy-MT2-käännösmalliperheen mixture-of-experts-versio. Valmistaja suuntaa perheen vaativiin kirjallisiin käännöstehtäviin ja monikielisiin ohjeisiin, mukaan lukien terminologiaa, tyyliä ja rakenteista tietoa koskevat vaatimukset. 30B-A3B-versio pidetään erillään tiheistä 1.8B- ja 7B-malleista. Valmistajan kielitaulukko sisältää kiinan, perinteisen kiinan, englannin, japanin, korean, venäjän, arabian, ranskan ja espanjan sekä kantoninkiinan, tiibetin, kazakin, mongolin ja uiguurin.
Sen julkaistussa kokoonpanossa on 48 kerrosta, 32 kyselypäätä attention-mekanismissa ja neljä avain-/arvopäätä. Kukin asiantuntijakerros käyttää 128 asiantuntijaa, joista kahdeksan valitaan tokenia kohti, ja positioiden enimmäismäärä on 262 144. Nämä ovat juuri tämän kokoonpanon ominaisuuksia. Laajempi perhenimi ei yksilöi mitään erikseen julkaistua kvantisoitua aineistoa.
Aloita käännöstehtävä nimeämällä kohdekieli kokonaisena ja määrittämällä vaadittu vastausmuoto. Valmistajan peruskehotemalli pyytää vain käännetyn tuloksen. Jos lähde on osa laajempaa asiakirjaa, lisää sen tulkintaan tarvittava tausta mutta pidä tämä konteksti erillään käännettävästä tekstistä.
Kun terminologia on tärkeää, anna sanasto lähdetermeistä ja toivotuista käännöksistä. Määritä tyyliä varten kohdeyleisö ja sävy selkeästi. Yksilöllisessä käännöksessä voi luetella ennen lähdetekstiä useita vaatimuksia, kuten nimien käsittelyn tai halutun ilmaisutavan. Nämä valmistajan kehotemallit tekevät käännösrajoitteista osan tehtävää.
Lukitse rakenteisessa aineistossa alkuperäinen muoto, hierarkia ja sisennykset. Käännä vain näkyvä käyttäjälle tarkoitettu teksti ja säilytä avaimet, koodimerkinnät, ominaisuudet ja muuttujien paikkamerkit. Jos erottimet jakavat tekstierän osiin, säilytä niiden määrä ja sijainti. Hyödyllinen tulos pysyy käyttökelpoisena samassa sovelluksessa, joka käyttää alkuperäistä rakennetta.
Tämän MoE-version suositeltu näytteistys eroaa tiheistä malleista: temperature 0.7, top-p 1.0, ei top-k-suodatusta ja repetition penalty 1.0. Valmistajan mukaan oletusarvoista järjestelmäkehotetta ei ole. Sen esimerkin 4096 tokenin generointivaraus on pyyntöesimerkki eikä väite, että mallin vastauksen enimmäispituus olisi kiinteästi tuo arvo.
Tarkista tulos tehtävän molempia osia vasten: kielellistä merkitystä ja rakenteen säilymistä. Varmista asiakirjatyönkulussa sanaston johdonmukaisuus eri osioissa. Vertaa sovelluksen kielitiedoston tunnisteita ja paikkamerkkejä lähteeseen ennen käännettyjen arvojen välittämistä eteenpäin. Nämä tarkistukset arvioivat tulosta sen sijaan, että olettaisivat pyydetyn säilytyssäännön täyttyneen.
POST /v1/chat/completionstexttext| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat tencent/hy-mt2-30b-a3b | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat Esimerkit: system, user, assistant, tool, function Ehdot: Nämä roolit esitetään nimenomaisesti lähdekoodin yhteensopivuustyypeissä; mallin täsmällinen roolijoukko pysyy mallikohtaisena. Riippuu mallista | Oletus— |
Kenttämessages[].content | Tyyppistring|content_part[]|null | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttämessages[].tool_calls | Tyyppitool_call[] | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttämessages[].tool_call_id | Tyyppistring | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: role=tool; käytä todella palautettua ID:tä | Oletus— |
Kenttämessages[].name | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttämessages[].reasoning_content | Tyyppistring | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: Palauta todella saatu päättely takaisin mallille, kun kyseinen malli käyttää sitä | Oletus— |
Kenttämessages[].reasoning_details | Tyyppiobject|array | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttämax_tokens | Tyyppiinteger | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— |
Kenttämax_completion_tokens | Tyyppiinteger | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Kenttästream_options.include_usage | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätemperature | Tyyppinumber | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätop_p | Tyyppinumber | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttästop | Tyyppistring|string[] | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätools | Tyyppifunction_tool[] | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätools[].type | Tyyppistring | VaatimusValinnainen | Arvot & rajat function Riippuu mallista | Oletus— |
Kenttätools[].function.name | Tyyppistring | VaatimusPakollinen | Arvot & rajat Sovelletaan, kun: funktiotyökalu annettu | Oletus— |
Kenttätools[].function.description | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttätools[].function.parameters | TyyppiJSON_schema | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttätool_choice | Tyyppistring|object | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäparallel_tool_calls | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäresponse_format | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäreasoning_effort | Tyyppistring | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäreasoning | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäservice_tier | Tyyppistring | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäinstructions | Tyyppistring | VaatimusValinnainen | Arvot & rajat Yhteensopivuuskenttä | Oletus— |
Kenttäfunctions | Tyyppifunction[] | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäfunction_call | Tyyppistring|object | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäprompt_cache_options | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttämodalities | Tyyppistring[] | VaatimusValinnainen | Arvot & rajat text | Oletus— |
Kenttäprovider | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Ehdot: provider.options hylätään tällä Ultran tekstireitillä | Oletus— |
Kenttäcache_control.ttl | Tyyppistring | VaatimusValinnainen | Arvot & rajat Ehdot: 1h hylätään varsinaisissa kehotevälimuistin kohdissa | Oletus— |
Teksti · UTF8-teksti
messages[].content
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages |
Parametrimaterial_types | Sopimustext |
Parametrimessages | Sopimusviestitaulukko role/content-rakenteella |
Parametrifile_material | Sopimusvarsinainen UTF-8-asiakirja lisätään sellaisenaan tekstinä; tiedoston ID:tä ei päätellä |
Parametrioptional_controls | Sopimusstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametricontrol_scope | Sopimusmallikohtainen; käyttäjän funktiotyökalut eroavat palvelun isännöimistä työkaluista |
Parametrioutput_modalities | Sopimustext |
Parametrihosted_operations | Sopimusfalse |
Parametrimultimodal_input_binding | Sopimusnull |
Elinkaari: synchronous_or_streamed
Lähetä mallin täsmällinen ID yhdessä messages-kentän kanssa.
Kontekstin pituus ei ole tuloksen yläraja.
Tekstitiedosto voi antaa tekstiä sellaisenaan; kuva-, ääni- ja tiedosto-objektisyötteet tarvitsevat täsmällisen sidonnan.
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
Kohdista kukin veloitus näytettyihin ehtoihin. Käytä yhtä hintaa kutakin vaihtoehtoisten asetusten ryhmää kohden.
| Asetukset | Hinnasto | Kontekstin tokenit, enemmän kuin | Kontekstin tokenit, enintään raja-arvo mukaan lukien | Veloitus |
|---|---|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Kontekstin tokenit, enemmän kuin— | Kontekstin tokenit, enintään raja-arvo mukaan lukienEi ylärajaa | Veloitus Syöte · Syötetokenit $0.000148 / 1K tokenia Tuloste · Tulostokenit $0.00059 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
| AsetuksetPyynnön pituusluokka 1 | Hinnasto— | Kontekstin tokenit, enemmän kuin0 | Kontekstin tokenit, enintään raja-arvo mukaan lukienEi ylärajaa | Veloitus Syöte · Syötetokenit $0.000148 / 1K tokenia Tuloste · Tulostokenit $0.00059 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "tencent/hy-mt2-30b-a3b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='tencent/hy-mt2-30b-a3b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='tencent/hy-mt2-30b-a3b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vastausvaihtoehto sisältöineen, työkalukutsuineen ja päättelyineen. Kokoa SSE:ssä muutokset vastausvaihtoehdon ja työkalun indeksin mukaan ja säilytä lopullinen päättymissyy sekä käyttötiedot.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttächoices[].index | Tyyppiinteger |
Kenttächoices[].message.content | Tyyppistring|null |
Kenttächoices[].message.tool_calls | Tyyppitool_call[] |
Kenttächoices[].message.reasoning_content | Tyyppistring |
Kenttächoices[].message.reasoning_details | Tyyppiobject|array |
Kenttächoices[].finish_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra tencent/hy-mt2-30b-a3b
Käytä yllä näytettyjä menetelmäpolkuja.
tencent/hy-mt2-30b-a3bTencentin Hy-MT2-30B-A3B on sen nopeasti ajattelevan käännösmalliperheen MoE-versio. Se käsittelee ohjeilla ohjattua kääntämistä, terminologiaa ja rakenteista tietoa. Sen kokoonpanossa on 262 144 positiota, ja näytteistyssuositukset eroavat tiheiden versioiden suosituksista.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Hy-MT2-30B-A3B on Tencent Hyn Hy-MT2-käännösmalliperheen mixture-of-experts-versio. Valmistaja suuntaa perheen vaativiin kirjallisiin käännöstehtäviin ja monikielisiin ohjeisiin, mukaan lukien terminologiaa, tyyliä ja rakenteista tietoa koskevat vaatimukset. 30B-A3B-versio pidetään erillään tiheistä 1.8B- ja 7B-malleista. Valmistajan kielitaulukko sisältää kiinan, perinteisen kiinan, englannin, japanin, korean, venäjän, arabian, ranskan ja espanjan sekä kantoninkiinan, tiibetin, kazakin, mongolin ja uiguurin.
Sen julkaistussa kokoonpanossa on 48 kerrosta, 32 kyselypäätä attention-mekanismissa ja neljä avain-/arvopäätä. Kukin asiantuntijakerros käyttää 128 asiantuntijaa, joista kahdeksan valitaan tokenia kohti, ja positioiden enimmäismäärä on 262 144. Nämä ovat juuri tämän kokoonpanon ominaisuuksia. Laajempi perhenimi ei yksilöi mitään erikseen julkaistua kvantisoitua aineistoa.
Aloita käännöstehtävä nimeämällä kohdekieli kokonaisena ja määrittämällä vaadittu vastausmuoto. Valmistajan peruskehotemalli pyytää vain käännetyn tuloksen. Jos lähde on osa laajempaa asiakirjaa, lisää sen tulkintaan tarvittava tausta mutta pidä tämä konteksti erillään käännettävästä tekstistä.
Kun terminologia on tärkeää, anna sanasto lähdetermeistä ja toivotuista käännöksistä. Määritä tyyliä varten kohdeyleisö ja sävy selkeästi. Yksilöllisessä käännöksessä voi luetella ennen lähdetekstiä useita vaatimuksia, kuten nimien käsittelyn tai halutun ilmaisutavan. Nämä valmistajan kehotemallit tekevät käännösrajoitteista osan tehtävää.
Lukitse rakenteisessa aineistossa alkuperäinen muoto, hierarkia ja sisennykset. Käännä vain näkyvä käyttäjälle tarkoitettu teksti ja säilytä avaimet, koodimerkinnät, ominaisuudet ja muuttujien paikkamerkit. Jos erottimet jakavat tekstierän osiin, säilytä niiden määrä ja sijainti. Hyödyllinen tulos pysyy käyttökelpoisena samassa sovelluksessa, joka käyttää alkuperäistä rakennetta.
Tämän MoE-version suositeltu näytteistys eroaa tiheistä malleista: temperature 0.7, top-p 1.0, ei top-k-suodatusta ja repetition penalty 1.0. Valmistajan mukaan oletusarvoista järjestelmäkehotetta ei ole. Sen esimerkin 4096 tokenin generointivaraus on pyyntöesimerkki eikä väite, että mallin vastauksen enimmäispituus olisi kiinteästi tuo arvo.
Tarkista tulos tehtävän molempia osia vasten: kielellistä merkitystä ja rakenteen säilymistä. Varmista asiakirjatyönkulussa sanaston johdonmukaisuus eri osioissa. Vertaa sovelluksen kielitiedoston tunnisteita ja paikkamerkkejä lähteeseen ennen käännettyjen arvojen välittämistä eteenpäin. Nämä tarkistukset arvioivat tulosta sen sijaan, että olettaisivat pyydetyn säilytyssäännön täyttyneen.
POST /v1/messagestextjson, sse| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat tencent/hy-mt2-30b-a3b | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat user, assistant | Oletus— |
Kenttämessages[].content | Tyyppistring | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämax_tokens | Tyyppiinteger | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Teksti · UTF-8-teksti
messages[].content-merkkijono
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages, max_tokens |
Parametrioptional_controls | Sopimusstream |
Parametrimaterial_types | Sopimustext |
Parametritext_file_material | SopimusLue varsinainen UTF-8-asiakirja ja sijoita sen teksti ilmoitettuun syöte- tai viestisisällön merkkijonoon. |
Elinkaari: synchronous_or_streamed
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
Kohdista kukin veloitus näytettyihin ehtoihin. Käytä yhtä hintaa kutakin vaihtoehtoisten asetusten ryhmää kohden.
| Asetukset | Hinnasto | Kontekstin tokenit, enemmän kuin | Kontekstin tokenit, enintään raja-arvo mukaan lukien | Veloitus |
|---|---|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Kontekstin tokenit, enemmän kuin— | Kontekstin tokenit, enintään raja-arvo mukaan lukienEi ylärajaa | Veloitus Syöte · Syötetokenit $0.000148 / 1K tokenia Tuloste · Tulostokenit $0.00059 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
| AsetuksetPyynnön pituusluokka 1 | Hinnasto— | Kontekstin tokenit, enemmän kuin0 | Kontekstin tokenit, enintään raja-arvo mukaan lukienEi ylärajaa | Veloitus Syöte · Syötetokenit $0.000148 / 1K tokenia Tuloste · Tulostokenit $0.00059 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
{\n "model": "tencent/hy-mt2-30b-a3b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'tencent/hy-mt2-30b-a3b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'tencent/hy-mt2-30b-a3b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä kaikki sisältölohkot, päättelyallekirjoitukset ja todelliset työkalukäytön ID:t. Kokoa kaikki SSE-lohkomuutokset; ensimmäinen tekstilohko ei ole koko tulos.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttäid | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttäcontent[] | Tyyppitext|thinking|tool_use|other content block |
Kenttästop_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra tencent/hy-mt2-30b-a3b
Käytä yllä näytettyjä menetelmäpolkuja.
Tekninen esimerkki englanniksi
Translate an interface file safely\n\nTranslate only the user-visible YAML values into Russian. Preserve keys, indentation and the {count} placeholder. Use the glossary Retry = Повторить. Return only translated YAML.\nbuttons:\n retry: "Retry"\n cancel: "Cancel"\nstatus:\n pending: "{count} files pending"YAML with the same mapping hierarchy and keys, translated visible values and the unchanged {count} placeholder.Parse the YAML and compare the key tree and placeholder multiset with the source; check the Retry glossary term.