GLM-Z1-32B-0414 – tai į samprotavimą orientuotas „Z.ai“ GLM-4-0414 serijos modelis. Jis sukurtas iš GLM-4-32B-0414, taikant šaltojo starto parengimą ir išplėstinį mokymą su pastiprinimu bei papildomą darbą su matematika, kodu ir logika. Bendrosioms galimybėms stiprinti taip pat naudojamas grįžtamasis ryšys iš porinio reitingavimo. Įvestis yra tekstas, o matomas rezultatas – tekstinis sprendimas, paaiškinimas ar programos fragmentas.
Modelis skirtas užduočiai, kuriai reikia susietų tarpinių išvadų, o ne iškart pateikiamo sakinio. Pateikite visas prielaidas ir apibrėžkite reikiamą baigtį: išvesti formulę, paaiškinti algoritmą, pagrįsti ribą ar parengti kodo pakeitimą. Gamintojo matematinis pavyzdys nagrinėja lygtimi susietus teigiamus kintamuosius ir galimą jų sumos intervalą. Naudingas atsakymas turi įvardyti sąlygas, parodyti svarbius perėjimus ir aiškiai atskirti galutinį rezultatą.
GLM-Z1-Rumination-32B-0414 yra atskiras leidimas atviresniems tyrimams su paieškos įrankiais; GLM-Z1-9B-0414 yra kito dydžio modelis. Šiame įraše išlaikytas įvardytas Z1 32B leidimas, neperkeliant tų leidimų papildomų darbo eigos ar dydžio savybių.
Gamintojas rekomenduoja temperature 0.6, top_p 0.95 ir top_k 40. Jis taip pat rekomenduoja 30 000 max_new_tokens biudžetą, kad liktų vietos mąstymui. Tai rekomenduojami generavimo nustatymai, o ne garantija, kad kiekvienam atsakymui reikia tokio ilgio, ar dokumentuota universali griežta išvesties riba. Atskirame kortelės inferencijos pavyzdyje naudojamas mažesnis, konkrečiai užklausai skirtas generavimo biudžetas.
Samprotavimo užduočiai palikite pakankamai vietos analizei ir galutiniam atsakymui kartu, o užklausoje apibrėžkite galutinio atsakymo formą. Matematiniame klausime galima intervalo ar vertės paprašyti atskirai nuo paaiškinimo; programavimo klausime – vienos realizacijos ir po jos jai svarbių prielaidų. Prašomas rezultatas turi būti pakankamai konkretus, kad jį būtų galima patikrinti pagal pateiktas sąlygas.
Gamintojo šablonas pradeda generavimą mąstymo žyma <think>. Paskelbtas pokalbio šablonas įterpia šią žymą, todėl realizacijoje reikia naudoti tikrąjį leidimo šabloną, o ne numanyti nesusijusį dialogo formatą.
Tolesniems pranešimams naudojimo vadovas išsaugotoje pokalbio istorijoje palieka galutinį naudotojui matomą atsakymą ir pašalina vidinio mąstymo medžiagą. Tai parengimo taisyklė paties modelio pokalbio šablonui. Tęstinėje užklausoje turi būti dabartinis klausimas, būtina šaltinio medžiaga ir aktualus ankstesnis atsakymas, o ne nefiltruotas visos ankstesnės vidinės analizės kaupimas.
Paskelbtoje konfigūracijoje max_position_embeddings nustatytas į 32 768, o rope_scaling įrašo nėra. Naudojimo vadove rekomenduojama apsvarstyti YaRN, kai įvestis viršija 8 192 žetonus. Pavyzdinėje išplėtimo konfigūracijoje naudojamas factor 4.0, o original_max_position_embeddings nustatytas į 32 768. Rekomendacijos slenkstis, bazinė konfigūracija ir pasirenkamas išplėtimas yra skirtingi faktai; jie nėra sukeičiamai naudojamos atsakymo ribos.
Statinis YaRN veikia visą tekstą ir gali šiek tiek sumažinti našumą su trumpa įvestimi, todėl gamintojas rekomenduoja jį įjungti pagal poreikį. Ilgai medžiagai aktualias apibrėžtis ir ištraukas pateikite aiškiai atskirtoje įvestyje ir aktyviame kontekste palikite tinkamą generavimo biudžetą. Konfigūracija turi atitikti pasirinkto diegimo palaikomą gamintojo išplėtimo procedūrą, o ne aritmetinį kartotinį laikyti automatiškai prieinamu konteksto langu.
Modelio inferencijos pavyzdyje naudojamas naudotojo klausimas ir konkrečiam leidimui skirtas pokalbio šablonas. Matematikai išsaugokite kintamųjų apibrėžtis ir nurodykite įrodytiną teiginį. Kodui pateikite aktualų fragmentą, reikalaujamą jo elgesį ir aptariamą atvejį. Paprašykite aiškaus galutinio artefakto – įrodymo, formulės, realizacijos ar paaiškinimo, – kad samprotavimą būtų galima įvertinti per užduoties rezultatą. Specialus Z1 vadovas apibrėžia tekstinį samprotavimą ir jo parengimą; jis nenustato papildomos savosios įrankių sutarties ar vaizdinės įvesties šiam leidimui.
", "aboutText": "### Įvadas\n\nGLM-Z1-32B-0414 – tai į samprotavimą orientuotas „Z.ai“ GLM-4-0414 serijos modelis. Jis sukurtas iš GLM-4-32B-0414, taikant šaltojo starto parengimą ir išplėstinį mokymą su pastiprinimu bei papildomą darbą su matematika, kodu ir logika. Bendrosioms galimybėms stiprinti taip pat naudojamas grįžtamasis ryšys iš porinio reitingavimo. Įvestis yra tekstas, o matomas rezultatas – tekstinis sprendimas, paaiškinimas ar programos fragmentas.\n\nModelis skirtas užduočiai, kuriai reikia susietų tarpinių išvadų, o ne iškart pateikiamo sakinio. Pateikite visas prielaidas ir apibrėžkite reikiamą baigtį: išvesti formulę, paaiškinti algoritmą, pagrįsti ribą ar parengti kodo pakeitimą. Gamintojo matematinis pavyzdys nagrinėja lygtimi susietus teigiamus kintamuosius ir galimą jų sumos intervalą. Naudingas atsakymas turi įvardyti sąlygas, parodyti svarbius perėjimus ir aiškiai atskirti galutinį rezultatą.\n\nGLM-Z1-Rumination-32B-0414 yra atskiras leidimas atviresniems tyrimams su paieškos įrankiais; GLM-Z1-9B-0414 yra kito dydžio modelis. Šiame įraše išlaikytas įvardytas Z1 32B leidimas, neperkeliant tų leidimų papildomų darbo eigos ar dydžio savybių.\n\n### Naudojimo gairės: atranka\n\nGamintojas rekomenduoja temperature 0.6, top_p 0.95 ir top_k 40. Jis taip pat rekomenduoja 30 000 max_new_tokens biudžetą, kad liktų vietos mąstymui. Tai rekomenduojami generavimo nustatymai, o ne garantija, kad kiekvienam atsakymui reikia tokio ilgio, ar dokumentuota universali griežta išvesties riba. Atskirame kortelės inferencijos pavyzdyje naudojamas mažesnis, konkrečiai užklausai skirtas generavimo biudžetas.\n\nSamprotavimo užduočiai palikite pakankamai vietos analizei ir galutiniam atsakymui kartu, o užklausoje apibrėžkite galutinio atsakymo formą. Matematiniame klausime galima intervalo ar vertės paprašyti atskirai nuo paaiškinimo; programavimo klausime – vienos realizacijos ir po jos jai svarbių prielaidų. Prašomas rezultatas turi būti pakankamai konkretus, kad jį būtų galima patikrinti pagal pateiktas sąlygas.\n\n### Naudojimo gairės: mąstymas ir pokalbio istorija\n\nGamintojo šablonas pradeda generavimą mąstymo žyma `Techninis pavyzdys anglų kalba
Derive a safe batch bound\n\nA buffer holds at most 96 records. Every batch adds b records, where b is a positive integer, and 12 records must remain free. Derive the largest number of complete batches that fit as a formula in b. Explain the rounding and calculate the result for b = 10, keeping the reserved space separate from usable capacity.A formula using a floor, an explanation of usable capacity and a checked numeric example.Verify the formula reserves 12 records and a further full batch would exceed usable capacity in the example.THUDM/GLM-Z1-32B-0414GLM-Z1-32B-0414 – tai fiksuotas „Z.ai“ tekstinio samprotavimo leidimas matematikai, programavimui ir logikai. Gamintojas pateikia aiškias mąstymo, pokalbio istorijos, atrankos ir pasirenkamo ilgo konteksto išplėtimo gaires, leidžiančias sudėtingas užduotis parengti būtent šiam leidimui.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
GLM-Z1-32B-0414 – tai į samprotavimą orientuotas „Z.ai“ GLM-4-0414 serijos modelis. Jis sukurtas iš GLM-4-32B-0414, taikant šaltojo starto parengimą ir išplėstinį mokymą su pastiprinimu bei papildomą darbą su matematika, kodu ir logika. Bendrosioms galimybėms stiprinti taip pat naudojamas grįžtamasis ryšys iš porinio reitingavimo. Įvestis yra tekstas, o matomas rezultatas – tekstinis sprendimas, paaiškinimas ar programos fragmentas.
Modelis skirtas užduočiai, kuriai reikia susietų tarpinių išvadų, o ne iškart pateikiamo sakinio. Pateikite visas prielaidas ir apibrėžkite reikiamą baigtį: išvesti formulę, paaiškinti algoritmą, pagrįsti ribą ar parengti kodo pakeitimą. Gamintojo matematinis pavyzdys nagrinėja lygtimi susietus teigiamus kintamuosius ir galimą jų sumos intervalą. Naudingas atsakymas turi įvardyti sąlygas, parodyti svarbius perėjimus ir aiškiai atskirti galutinį rezultatą.
GLM-Z1-Rumination-32B-0414 yra atskiras leidimas atviresniems tyrimams su paieškos įrankiais; GLM-Z1-9B-0414 yra kito dydžio modelis. Šiame įraše išlaikytas įvardytas Z1 32B leidimas, neperkeliant tų leidimų papildomų darbo eigos ar dydžio savybių.
Gamintojas rekomenduoja temperature 0.6, top_p 0.95 ir top_k 40. Jis taip pat rekomenduoja 30 000 max_new_tokens biudžetą, kad liktų vietos mąstymui. Tai rekomenduojami generavimo nustatymai, o ne garantija, kad kiekvienam atsakymui reikia tokio ilgio, ar dokumentuota universali griežta išvesties riba. Atskirame kortelės inferencijos pavyzdyje naudojamas mažesnis, konkrečiai užklausai skirtas generavimo biudžetas.
Samprotavimo užduočiai palikite pakankamai vietos analizei ir galutiniam atsakymui kartu, o užklausoje apibrėžkite galutinio atsakymo formą. Matematiniame klausime galima intervalo ar vertės paprašyti atskirai nuo paaiškinimo; programavimo klausime – vienos realizacijos ir po jos jai svarbių prielaidų. Prašomas rezultatas turi būti pakankamai konkretus, kad jį būtų galima patikrinti pagal pateiktas sąlygas.
Gamintojo šablonas pradeda generavimą mąstymo žyma <think>. Paskelbtas pokalbio šablonas įterpia šią žymą, todėl realizacijoje reikia naudoti tikrąjį leidimo šabloną, o ne numanyti nesusijusį dialogo formatą.
Tolesniems pranešimams naudojimo vadovas išsaugotoje pokalbio istorijoje palieka galutinį naudotojui matomą atsakymą ir pašalina vidinio mąstymo medžiagą. Tai parengimo taisyklė paties modelio pokalbio šablonui. Tęstinėje užklausoje turi būti dabartinis klausimas, būtina šaltinio medžiaga ir aktualus ankstesnis atsakymas, o ne nefiltruotas visos ankstesnės vidinės analizės kaupimas.
Paskelbtoje konfigūracijoje max_position_embeddings nustatytas į 32 768, o rope_scaling įrašo nėra. Naudojimo vadove rekomenduojama apsvarstyti YaRN, kai įvestis viršija 8 192 žetonus. Pavyzdinėje išplėtimo konfigūracijoje naudojamas factor 4.0, o original_max_position_embeddings nustatytas į 32 768. Rekomendacijos slenkstis, bazinė konfigūracija ir pasirenkamas išplėtimas yra skirtingi faktai; jie nėra sukeičiamai naudojamos atsakymo ribos.
Statinis YaRN veikia visą tekstą ir gali šiek tiek sumažinti našumą su trumpa įvestimi, todėl gamintojas rekomenduoja jį įjungti pagal poreikį. Ilgai medžiagai aktualias apibrėžtis ir ištraukas pateikite aiškiai atskirtoje įvestyje ir aktyviame kontekste palikite tinkamą generavimo biudžetą. Konfigūracija turi atitikti pasirinkto diegimo palaikomą gamintojo išplėtimo procedūrą, o ne aritmetinį kartotinį laikyti automatiškai prieinamu konteksto langu.
Modelio inferencijos pavyzdyje naudojamas naudotojo klausimas ir konkrečiam leidimui skirtas pokalbio šablonas. Matematikai išsaugokite kintamųjų apibrėžtis ir nurodykite įrodytiną teiginį. Kodui pateikite aktualų fragmentą, reikalaujamą jo elgesį ir aptariamą atvejį. Paprašykite aiškaus galutinio artefakto – įrodymo, formulės, realizacijos ar paaiškinimo, – kad samprotavimą būtų galima įvertinti per užduoties rezultatą. Specialus Z1 vadovas apibrėžia tekstinį samprotavimą ir jo parengimą; jis nenustato papildomos savosios įrankių sutarties ar vaizdinės įvesties šiam leidimui.
POST /v1/chat/completionstexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos THUDM/GLM-Z1-32B-0414 | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Pavyzdžiai: system, user, assistant, tool, function Sąlygos: Šie vaidmenys aiškiai išreikšti šaltinio kodo suderinamumo tipuose; tikslus vaidmenų rinkinys priklauso nuo konkretaus modelio. Priklauso nuo modelio | Numatyta— |
Laukasmessages[].content | Tipasstring|content_part[]|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_calls | Tipastool_call[] | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_call_id | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: role=tool; naudokite tikrąjį grąžintą ID | Numatyta— |
Laukasmessages[].name | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].reasoning_content | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: Grąžinkite tikrąjį gautą samprotavimą ten, kur šis modelis jį naudoja | Numatyta— |
Laukasmessages[].reasoning_details | Tipasobject|array | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasmax_completion_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Laukasstream_options.include_usage | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastemperature | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastop_p | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasstop | Tipasstring|string[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools | Tipasfunction_tool[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools[].type | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos function Priklauso nuo modelio | Numatyta— |
Laukastools[].function.name | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Taikoma, kai: pateiktas funkcijos tipo įrankis | Numatyta— |
Laukastools[].function.description | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastools[].function.parameters | TipasJSON_schema | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastool_choice | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasparallel_tool_calls | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasresponse_format | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning_effort | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasservice_tier | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasinstructions | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Suderinamumo laukas | Numatyta— |
Laukasfunctions | Tipasfunction[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasfunction_call | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasprompt_cache_options | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmodalities | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos text | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options šiame Ultra teksto maršrute atmetamas | Numatyta— |
Laukascache_control.ttl | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: 1h atmetamas tikrosiose užklausų podėlio vietose | Numatyta— |
Tekstas · UTF8 tekstas
messages[].content
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages |
Parametrasmaterial_types | Specifikacijatext |
Parametrasmessages | Specifikacijapranešimų masyvas su role/content struktūra |
Parametrasfile_material | Specifikacijatikrasis UTF-8 dokumentas įterptas kaip pažodinis tekstas; failo ID nenumanomas |
Parametrasoptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrascontrol_scope | Specifikacijapriklauso nuo modelio; naudotojo funkcijų įrankiai skiriasi nuo priglobtų įrankių |
Parametrasoutput_modalities | Specifikacijatext |
Parametrashosted_operations | Specifikacijafalse |
Parametrasmultimodal_input_binding | Specifikacijanull |
Gyvavimo ciklas: synchronous_or_streamed
Siųskite tikslų modelio ID kartu su messages.
Konteksto ilgis nėra išvesties limitas.
Teksto failas gali pateikti pažodinį tekstą; vaizdų / garso / failų objektų įvestims reikia tikslaus susiejimo.
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00014 / 1K tokenų Išvestis · Išvesties tokenai $0.00014 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "THUDM/GLM-Z1-32B-0414", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='THUDM/GLM-Z1-32B-0414',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='THUDM/GLM-Z1-32B-0414',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną variantą ir jo turinį / įrankių iškvietimus / samprotavimą. SSE prieaugius surinkite pagal varianto / įrankio indeksą; išsaugokite galutinę užbaigimo priežastį ir naudojimo duomenis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukaschoices[].index | Tipasinteger |
Laukaschoices[].message.content | Tipasstring|null |
Laukaschoices[].message.tool_calls | Tipastool_call[] |
Laukaschoices[].message.reasoning_content | Tipasstring |
Laukaschoices[].message.reasoning_details | Tipasobject|array |
Laukaschoices[].finish_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra THUDM/GLM-Z1-32B-0414
Naudokite aukščiau nurodytus metodų kelius.
THUDM/GLM-Z1-32B-0414GLM-Z1-32B-0414 – tai fiksuotas „Z.ai“ tekstinio samprotavimo leidimas matematikai, programavimui ir logikai. Gamintojas pateikia aiškias mąstymo, pokalbio istorijos, atrankos ir pasirenkamo ilgo konteksto išplėtimo gaires, leidžiančias sudėtingas užduotis parengti būtent šiam leidimui.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
GLM-Z1-32B-0414 – tai į samprotavimą orientuotas „Z.ai“ GLM-4-0414 serijos modelis. Jis sukurtas iš GLM-4-32B-0414, taikant šaltojo starto parengimą ir išplėstinį mokymą su pastiprinimu bei papildomą darbą su matematika, kodu ir logika. Bendrosioms galimybėms stiprinti taip pat naudojamas grįžtamasis ryšys iš porinio reitingavimo. Įvestis yra tekstas, o matomas rezultatas – tekstinis sprendimas, paaiškinimas ar programos fragmentas.
Modelis skirtas užduočiai, kuriai reikia susietų tarpinių išvadų, o ne iškart pateikiamo sakinio. Pateikite visas prielaidas ir apibrėžkite reikiamą baigtį: išvesti formulę, paaiškinti algoritmą, pagrįsti ribą ar parengti kodo pakeitimą. Gamintojo matematinis pavyzdys nagrinėja lygtimi susietus teigiamus kintamuosius ir galimą jų sumos intervalą. Naudingas atsakymas turi įvardyti sąlygas, parodyti svarbius perėjimus ir aiškiai atskirti galutinį rezultatą.
GLM-Z1-Rumination-32B-0414 yra atskiras leidimas atviresniems tyrimams su paieškos įrankiais; GLM-Z1-9B-0414 yra kito dydžio modelis. Šiame įraše išlaikytas įvardytas Z1 32B leidimas, neperkeliant tų leidimų papildomų darbo eigos ar dydžio savybių.
Gamintojas rekomenduoja temperature 0.6, top_p 0.95 ir top_k 40. Jis taip pat rekomenduoja 30 000 max_new_tokens biudžetą, kad liktų vietos mąstymui. Tai rekomenduojami generavimo nustatymai, o ne garantija, kad kiekvienam atsakymui reikia tokio ilgio, ar dokumentuota universali griežta išvesties riba. Atskirame kortelės inferencijos pavyzdyje naudojamas mažesnis, konkrečiai užklausai skirtas generavimo biudžetas.
Samprotavimo užduočiai palikite pakankamai vietos analizei ir galutiniam atsakymui kartu, o užklausoje apibrėžkite galutinio atsakymo formą. Matematiniame klausime galima intervalo ar vertės paprašyti atskirai nuo paaiškinimo; programavimo klausime – vienos realizacijos ir po jos jai svarbių prielaidų. Prašomas rezultatas turi būti pakankamai konkretus, kad jį būtų galima patikrinti pagal pateiktas sąlygas.
Gamintojo šablonas pradeda generavimą mąstymo žyma <think>. Paskelbtas pokalbio šablonas įterpia šią žymą, todėl realizacijoje reikia naudoti tikrąjį leidimo šabloną, o ne numanyti nesusijusį dialogo formatą.
Tolesniems pranešimams naudojimo vadovas išsaugotoje pokalbio istorijoje palieka galutinį naudotojui matomą atsakymą ir pašalina vidinio mąstymo medžiagą. Tai parengimo taisyklė paties modelio pokalbio šablonui. Tęstinėje užklausoje turi būti dabartinis klausimas, būtina šaltinio medžiaga ir aktualus ankstesnis atsakymas, o ne nefiltruotas visos ankstesnės vidinės analizės kaupimas.
Paskelbtoje konfigūracijoje max_position_embeddings nustatytas į 32 768, o rope_scaling įrašo nėra. Naudojimo vadove rekomenduojama apsvarstyti YaRN, kai įvestis viršija 8 192 žetonus. Pavyzdinėje išplėtimo konfigūracijoje naudojamas factor 4.0, o original_max_position_embeddings nustatytas į 32 768. Rekomendacijos slenkstis, bazinė konfigūracija ir pasirenkamas išplėtimas yra skirtingi faktai; jie nėra sukeičiamai naudojamos atsakymo ribos.
Statinis YaRN veikia visą tekstą ir gali šiek tiek sumažinti našumą su trumpa įvestimi, todėl gamintojas rekomenduoja jį įjungti pagal poreikį. Ilgai medžiagai aktualias apibrėžtis ir ištraukas pateikite aiškiai atskirtoje įvestyje ir aktyviame kontekste palikite tinkamą generavimo biudžetą. Konfigūracija turi atitikti pasirinkto diegimo palaikomą gamintojo išplėtimo procedūrą, o ne aritmetinį kartotinį laikyti automatiškai prieinamu konteksto langu.
Modelio inferencijos pavyzdyje naudojamas naudotojo klausimas ir konkrečiam leidimui skirtas pokalbio šablonas. Matematikai išsaugokite kintamųjų apibrėžtis ir nurodykite įrodytiną teiginį. Kodui pateikite aktualų fragmentą, reikalaujamą jo elgesį ir aptariamą atvejį. Paprašykite aiškaus galutinio artefakto – įrodymo, formulės, realizacijos ar paaiškinimo, – kad samprotavimą būtų galima įvertinti per užduoties rezultatą. Specialus Z1 vadovas apibrėžia tekstinį samprotavimą ir jo parengimą; jis nenustato papildomos savosios įrankių sutarties ar vaizdinės įvesties šiam leidimui.
POST /v1/messagestextjson, sse| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos THUDM/GLM-Z1-32B-0414 | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos user, assistant | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF-8 tekstas
messages[].content eilutė
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages, max_tokens |
Parametrasoptional_controls | Specifikacijastream |
Parametrasmaterial_types | Specifikacijatext |
Parametrastext_file_material | SpecifikacijaPerskaitykite tikrąjį UTF-8 dokumentą ir įterpkite jo tekstą į nurodytą input lauką arba pranešimo turinio eilutę. |
Gyvavimo ciklas: synchronous_or_streamed
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00014 / 1K tokenų Išvestis · Išvesties tokenai $0.00014 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
{\n "model": "THUDM/GLM-Z1-32B-0414",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'THUDM/GLM-Z1-32B-0414', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'THUDM/GLM-Z1-32B-0414', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visus turinio blokus, mąstymo parašus ir tikruosius įrankių naudojimo ID. Surinkite visus SSE blokų prieaugius; pirmasis teksto blokas nėra visa išvestis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukascontent[] | Tipastext|thinking|tool_use|other content block |
Laukasstop_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra THUDM/GLM-Z1-32B-0414
Naudokite aukščiau nurodytus metodų kelius.
Techninis pavyzdys anglų kalba
Derive a safe batch bound\n\nA buffer holds at most 96 records. Every batch adds b records, where b is a positive integer, and 12 records must remain free. Derive the largest number of complete batches that fit as a formula in b. Explain the rounding and calculate the result for b = 10, keeping the reserved space separate from usable capacity.A formula using a floor, an explanation of usable capacity and a checked numeric example.Verify the formula reserves 12 records and a further full batch would exceed usable capacity in the example.