Hy3 preview je prvi model Hy3 podjetja Tencent Hy, učen na njegovi prenovljeni infrastrukturi. Ponudnik navaja arhitekturo mešanice strokovnjakov s skupno 295 milijardami parametrov, 21 milijardami aktivnih parametrov in plastjo za napovedovanje več žetonov s 3,8 milijarde parametrov. Model sprejema pisne pozive in pogovor ter ustvarja besedilo za sklepanje, programiranje in naloge na podlagi navodil.
Objavljeno ogrodje ima 80 plasti, pozornost z združenimi poizvedbami s 64 poizvedbenimi glavami in osmimi glavami ključ/vrednost ter 192 strokovnjakov, od katerih se jih osem aktivira za posamezen žeton. Njegovo kontekstno okno je 256K. Te specifikacije pripadajo predogledni izdaji, medtem ko poznejša izdaja Hy3 spreminja naknadno učenje in obnašanje izdelka ter ni isti poimensko določeni model.
Ponudnik med poudarki najprej navaja STEM in sklepanje. Pri analitični nalogi navedite premise, opažanja in obliko odgovora. Zahtevajte sklep s koraki, potrebnimi za njegovo presojo. Programerska naloga naj vključuje trenutno implementacijo, pričakovano obnašanje in dejanske informacije o napaki, da predlagana sprememba naslavlja jasno določen problem.
Učenje iz konteksta in sledenje navodilom sta prav tako osrednja vidika te izdaje. Daljše gradivo pripravite skupaj s pravili, ki jih mora model uporabiti, in razdelki, pomembnimi za vprašanje. Zahtevajte ugotovitve, povezane z virom, in ohranite pomembne omejitve vidne tudi v nadaljnjih izmenjavah. Tako lažje ločite pravilno uporabo priloženega konteksta od odgovora na podlagi nenavedene predpostavke.
Pri delovnem poteku s programerskim ali iskalnim agentom aplikacija priskrbi orodja in vrne njihove rezultate. Model predlaga naslednjo interakcijo in nastala opažanja uporabi za nadaljnji korak. Uporaben končni izdelek opredeli predlagano spremembo ali raziskovalno ugotovitev ter dokaze, ki jih je treba še preveriti, preden ga aplikacija uporabi.
Proizvajalčev primer kot privzeto možnost neposrednega odgovora navaja no_think, poleg možnosti low in high; pojasnjevalna navodila za zapleteno sklepanje priporočajo high. Navodila za vzorčenje določajo parameter temperature z vrednostjo 0.9 in top-p 1.0. To so nastavitve ponudnika, ne jamstvo o izbirnih kontrolah v določeni integraciji. Ločeno poimenovana prednaučena osnovna izdaja, predogledna izdaja instruct in pretvorjeni artefakti ohranjajo lastne identitete.
", "aboutText": "Hy3 preview je prvi model Hy3 podjetja Tencent Hy, učen na njegovi prenovljeni infrastrukturi. Ponudnik navaja arhitekturo mešanice strokovnjakov s skupno 295 milijardami parametrov, 21 milijardami aktivnih parametrov in plastjo za napovedovanje več žetonov s 3,8 milijarde parametrov. Model sprejema pisne pozive in pogovor ter ustvarja besedilo za sklepanje, programiranje in naloge na podlagi navodil.\n\nObjavljeno ogrodje ima 80 plasti, pozornost z združenimi poizvedbami s 64 poizvedbenimi glavami in osmimi glavami ključ/vrednost ter 192 strokovnjakov, od katerih se jih osem aktivira za posamezen žeton. Njegovo kontekstno okno je 256K. Te specifikacije pripadajo predogledni izdaji, medtem ko poznejša izdaja Hy3 spreminja naknadno učenje in obnašanje izdelka ter ni isti poimensko določeni model.\n\nPonudnik med poudarki najprej navaja STEM in sklepanje. Pri analitični nalogi navedite premise, opažanja in obliko odgovora. Zahtevajte sklep s koraki, potrebnimi za njegovo presojo. Programerska naloga naj vključuje trenutno implementacijo, pričakovano obnašanje in dejanske informacije o napaki, da predlagana sprememba naslavlja jasno določen problem.\n\nUčenje iz konteksta in sledenje navodilom sta prav tako osrednja vidika te izdaje. Daljše gradivo pripravite skupaj s pravili, ki jih mora model uporabiti, in razdelki, pomembnimi za vprašanje. Zahtevajte ugotovitve, povezane z virom, in ohranite pomembne omejitve vidne tudi v nadaljnjih izmenjavah. Tako lažje ločite pravilno uporabo priloženega konteksta od odgovora na podlagi nenavedene predpostavke.\n\nPri delovnem poteku s programerskim ali iskalnim agentom aplikacija priskrbi orodja in vrne njihove rezultate. Model predlaga naslednjo interakcijo in nastala opažanja uporabi za nadaljnji korak. Uporaben končni izdelek opredeli predlagano spremembo ali raziskovalno ugotovitev ter dokaze, ki jih je treba še preveriti, preden ga aplikacija uporabi.\n\nProizvajalčev primer kot privzeto možnost neposrednega odgovora navaja no_think, poleg možnosti low in high; pojasnjevalna navodila za zapleteno sklepanje priporočajo high. Navodila za vzorčenje določajo parameter temperature z vrednostjo 0.9 in top-p 1.0. To so nastavitve ponudnika, ne jamstvo o izbirnih kontrolah v določeni integraciji. Ločeno poimenovana prednaučena osnovna izdaja, predogledna izdaja instruct in pretvorjeni artefakti ohranjajo lastne identitete.", "editorialOverlay": { "copy_fields": { "practical_html": "Tehnični primer v angleščini
Calculate a two-stage mixture\n\nA tank contains 40 liters of a 10% salt solution. Remove 10 liters of well-mixed solution, then add 10 liters of pure water. Calculate the final salt concentration. Show salt and total volume after each stage and state the uniform-mixing assumption. Finish with the concentration as a percentage rather than an unlabeled decimal.A two-stage mass-balance table and a final percentage with the mixing assumption stated.The removal subtracts salt in the original concentration, while adding pure water changes volume but not salt mass.tencent/hy3-previewTencentov Hy3 preview je besedilni model MoE z 295 milijardami parametrov, od katerih je 21 milijard aktivnih, in kontekstom 256K. Namenjen je sklepanju na področjih STEM, učenju iz konteksta, navodilom, programiranju in agentom, pri čemer ponudnikov primer vključuje možnosti neposrednega odgovora in razmišljanja.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Hy3 preview je prvi model Hy3 podjetja Tencent Hy, učen na njegovi prenovljeni infrastrukturi. Ponudnik navaja arhitekturo mešanice strokovnjakov s skupno 295 milijardami parametrov, 21 milijardami aktivnih parametrov in plastjo za napovedovanje več žetonov s 3,8 milijarde parametrov. Model sprejema pisne pozive in pogovor ter ustvarja besedilo za sklepanje, programiranje in naloge na podlagi navodil.
Objavljeno ogrodje ima 80 plasti, pozornost z združenimi poizvedbami s 64 poizvedbenimi glavami in osmimi glavami ključ/vrednost ter 192 strokovnjakov, od katerih se jih osem aktivira za posamezen žeton. Njegovo kontekstno okno je 256K. Te specifikacije pripadajo predogledni izdaji, medtem ko poznejša izdaja Hy3 spreminja naknadno učenje in obnašanje izdelka ter ni isti poimensko določeni model.
Ponudnik med poudarki najprej navaja STEM in sklepanje. Pri analitični nalogi navedite premise, opažanja in obliko odgovora. Zahtevajte sklep s koraki, potrebnimi za njegovo presojo. Programerska naloga naj vključuje trenutno implementacijo, pričakovano obnašanje in dejanske informacije o napaki, da predlagana sprememba naslavlja jasno določen problem.
Učenje iz konteksta in sledenje navodilom sta prav tako osrednja vidika te izdaje. Daljše gradivo pripravite skupaj s pravili, ki jih mora model uporabiti, in razdelki, pomembnimi za vprašanje. Zahtevajte ugotovitve, povezane z virom, in ohranite pomembne omejitve vidne tudi v nadaljnjih izmenjavah. Tako lažje ločite pravilno uporabo priloženega konteksta od odgovora na podlagi nenavedene predpostavke.
Pri delovnem poteku s programerskim ali iskalnim agentom aplikacija priskrbi orodja in vrne njihove rezultate. Model predlaga naslednjo interakcijo in nastala opažanja uporabi za nadaljnji korak. Uporaben končni izdelek opredeli predlagano spremembo ali raziskovalno ugotovitev ter dokaze, ki jih je treba še preveriti, preden ga aplikacija uporabi.
Proizvajalčev primer kot privzeto možnost neposrednega odgovora navaja no_think, poleg možnosti low in high; pojasnjevalna navodila za zapleteno sklepanje priporočajo high. Navodila za vzorčenje določajo parameter temperature z vrednostjo 0.9 in top-p 1.0. To so nastavitve ponudnika, ne jamstvo o izbirnih kontrolah v določeni integraciji. Ločeno poimenovana prednaučena osnovna izdaja, predogledna izdaja instruct in pretvorjeni artefakti ohranjajo lastne identitete.
POST /v1/chat/completionstexttext| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve tencent/hy3-preview | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Primeri: system, user, assistant, tool, function Pogoji: Te vloge so izrecno predstavljene s tipi združljivosti v izvorni kodi; natančen nabor vlog ostaja odvisen od modela. Odvisno od modela | Privzeto— |
Poljemessages[].content | Vrstastring|content_part[]|null | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_calls | Vrstatool_call[] | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_call_id | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: role=tool; uporabite dejansko vrnjeni ID | Privzeto— |
Poljemessages[].name | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].reasoning_content | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: Pošljite nazaj dejansko vrnjeno sklepanje, kadar ga ta model uporablja | Privzeto— |
Poljemessages[].reasoning_details | Vrstaobject|array | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljemax_completion_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Poljestream_options.include_usage | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetemperature | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetop_p | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljestop | Vrstastring|string[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools | Vrstafunction_tool[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools[].type | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve function Odvisno od modela | Privzeto— |
Poljetools[].function.name | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Velja, ko: podano je funkcijsko orodje | Privzeto— |
Poljetools[].function.description | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetools[].function.parameters | VrstaJSON_schema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetool_choice | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeparallel_tool_calls | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeresponse_format | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning_effort | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeservice_tier | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeinstructions | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Polje združljivosti | Privzeto— |
Poljefunctions | Vrstafunction[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljefunction_call | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeprompt_cache_options | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemodalities | Vrstastring[] | ZahtevaIzbirno | Vrednosti in omejitve text | Privzeto— |
Poljeprovider | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je na tej besedilni poti Ultra zavrnjen | Privzeto— |
Poljecache_control.ttl | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: 1h je zavrnjen na dejanskih mestih za predpomnjenje pozivov | Privzeto— |
Besedilo · Besedilo UTF8
messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages |
Parametermaterial_types | Specifikacijatext |
Parametermessages | Specifikacijapolje sporočil s strukturo role/content |
Parameterfile_material | Specifikacijadejanski dokument UTF-8 je vstavljen kot dobesedno besedilo; ID datoteke se ne izpeljuje |
Parameteroptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Specifikacijaodvisno od modela; uporabniška funkcijska orodja se razlikujejo od orodij, ki jih izvaja storitev |
Parameteroutput_modalities | Specifikacijatext |
Parameterhosted_operations | Specifikacijafalse |
Parametermultimodal_input_binding | Specifikacijanull |
Življenjski cikel: synchronous_or_streamed
Pošljite natančen ID modela skupaj z messages.
Dolžina konteksta ni zgornja meja izhoda.
Besedilna datoteka lahko poda dobesedno besedilo; slikovni, zvočni vhodi in vhodi z datotečnimi objekti potrebujejo natančno vezavo.
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Žetonov konteksta več kot | Žetonov konteksta do vključno | Strošek |
|---|---|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Žetonov konteksta več kot— | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.00036 / 1K žetonov Izhod · Izhodni žetoni $0.0012 / 1K žetonov Vhod · Branje predpomnilnika $0.00012 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevRazred 1 glede na dolžino zahteve | Cenovna lestvica— | Žetonov konteksta več kot0 | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.00036 / 1K žetonov Izhod · Izhodni žetoni $0.0012 / 1K žetonov Vhod · Branje predpomnilnika $0.00012 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "tencent/hy3-preview", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='tencent/hy3-preview',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='tencent/hy3-preview',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vsako možnost odgovora ter njeno vsebino, klice orodij in sklepanje. V SSE sestavite delne spremembe po indeksu možnosti/orodja ter ohranite končni razlog zaključka in podatke o porabi.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljechoices[].index | Vrstainteger |
Poljechoices[].message.content | Vrstastring|null |
Poljechoices[].message.tool_calls | Vrstatool_call[] |
Poljechoices[].message.reasoning_content | Vrstastring |
Poljechoices[].message.reasoning_details | Vrstaobject|array |
Poljechoices[].finish_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra tencent/hy3-preview
Uporabite zgoraj navedene poti metod.
tencent/hy3-previewTencentov Hy3 preview je besedilni model MoE z 295 milijardami parametrov, od katerih je 21 milijard aktivnih, in kontekstom 256K. Namenjen je sklepanju na področjih STEM, učenju iz konteksta, navodilom, programiranju in agentom, pri čemer ponudnikov primer vključuje možnosti neposrednega odgovora in razmišljanja.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Hy3 preview je prvi model Hy3 podjetja Tencent Hy, učen na njegovi prenovljeni infrastrukturi. Ponudnik navaja arhitekturo mešanice strokovnjakov s skupno 295 milijardami parametrov, 21 milijardami aktivnih parametrov in plastjo za napovedovanje več žetonov s 3,8 milijarde parametrov. Model sprejema pisne pozive in pogovor ter ustvarja besedilo za sklepanje, programiranje in naloge na podlagi navodil.
Objavljeno ogrodje ima 80 plasti, pozornost z združenimi poizvedbami s 64 poizvedbenimi glavami in osmimi glavami ključ/vrednost ter 192 strokovnjakov, od katerih se jih osem aktivira za posamezen žeton. Njegovo kontekstno okno je 256K. Te specifikacije pripadajo predogledni izdaji, medtem ko poznejša izdaja Hy3 spreminja naknadno učenje in obnašanje izdelka ter ni isti poimensko določeni model.
Ponudnik med poudarki najprej navaja STEM in sklepanje. Pri analitični nalogi navedite premise, opažanja in obliko odgovora. Zahtevajte sklep s koraki, potrebnimi za njegovo presojo. Programerska naloga naj vključuje trenutno implementacijo, pričakovano obnašanje in dejanske informacije o napaki, da predlagana sprememba naslavlja jasno določen problem.
Učenje iz konteksta in sledenje navodilom sta prav tako osrednja vidika te izdaje. Daljše gradivo pripravite skupaj s pravili, ki jih mora model uporabiti, in razdelki, pomembnimi za vprašanje. Zahtevajte ugotovitve, povezane z virom, in ohranite pomembne omejitve vidne tudi v nadaljnjih izmenjavah. Tako lažje ločite pravilno uporabo priloženega konteksta od odgovora na podlagi nenavedene predpostavke.
Pri delovnem poteku s programerskim ali iskalnim agentom aplikacija priskrbi orodja in vrne njihove rezultate. Model predlaga naslednjo interakcijo in nastala opažanja uporabi za nadaljnji korak. Uporaben končni izdelek opredeli predlagano spremembo ali raziskovalno ugotovitev ter dokaze, ki jih je treba še preveriti, preden ga aplikacija uporabi.
Proizvajalčev primer kot privzeto možnost neposrednega odgovora navaja no_think, poleg možnosti low in high; pojasnjevalna navodila za zapleteno sklepanje priporočajo high. Navodila za vzorčenje določajo parameter temperature z vrednostjo 0.9 in top-p 1.0. To so nastavitve ponudnika, ne jamstvo o izbirnih kontrolah v določeni integraciji. Ločeno poimenovana prednaučena osnovna izdaja, predogledna izdaja instruct in pretvorjeni artefakti ohranjajo lastne identitete.
POST /v1/messagestextjson, sse| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve tencent/hy3-preview | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve user, assistant | Privzeto— |
Poljemessages[].content | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Besedilo · Besedilo UTF-8
niz messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages, max_tokens |
Parameteroptional_controls | Specifikacijastream |
Parametermaterial_types | Specifikacijatext |
Parametertext_file_material | SpecifikacijaPreberite dejanski dokument UTF-8 in njegovo besedilo vstavite v navedeni vhodni niz ali niz vsebine sporočila. |
Življenjski cikel: synchronous_or_streamed
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Žetonov konteksta več kot | Žetonov konteksta do vključno | Strošek |
|---|---|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Žetonov konteksta več kot— | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.00036 / 1K žetonov Izhod · Izhodni žetoni $0.0012 / 1K žetonov Vhod · Branje predpomnilnika $0.00012 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevRazred 1 glede na dolžino zahteve | Cenovna lestvica— | Žetonov konteksta več kot0 | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.00036 / 1K žetonov Izhod · Izhodni žetoni $0.0012 / 1K žetonov Vhod · Branje predpomnilnika $0.00012 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
{\n "model": "tencent/hy3-preview",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'tencent/hy3-preview', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'tencent/hy3-preview', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vse vsebinske bloke, podpise sklepanja in dejanske ID uporabe orodij. Sestavite vse delne spremembe blokov SSE; prvi besedilni blok ni celoten izhod.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljeid | Vrstastring |
Poljemodel | Vrstastring |
Poljecontent[] | Vrstatext|thinking|tool_use|other content block |
Poljestop_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra tencent/hy3-preview
Uporabite zgoraj navedene poti metod.
Tehnični primer v angleščini
Calculate a two-stage mixture\n\nA tank contains 40 liters of a 10% salt solution. Remove 10 liters of well-mixed solution, then add 10 liters of pure water. Calculate the final salt concentration. Show salt and total volume after each stage and state the uniform-mixing assumption. Finish with the concentration as a percentage rather than an unlabeled decimal.A two-stage mass-balance table and a final percentage with the mixing assumption stated.The removal subtracts salt in the original concentration, while adding pure water changes volume but not salt mass.