GLM-Z1-32B-0414 je član serije GLM-4-0414 podjetja Z.ai, osredotočen na sklepanje. Razvit je iz GLM-4-32B-0414 s pripravo za hladni zagon in razširjenim spodbujevalnim učenjem ter dodatnim delom na matematiki, kodi in logiki. Za krepitev splošnih zmožnosti se uporabljajo tudi povratne informacije iz parnega razvrščanja. Vhod je besedilo, vidni rezultat pa besedilna rešitev, pojasnilo ali programski izsek.
Namenjen je nalogi, ki potrebuje povezane vmesne sklepe namesto takojšnjega stavka. Navedite vse predpostavke in določite zahtevani končni cilj: izpeljavo formule, razlago algoritma, utemeljitev meje ali pripravo spremembe kode. Proizvajalčev matematični primer obravnava pozitivne spremenljivke, povezane z enačbo, in možni razpon njihove vsote. Uporaben odgovor mora prepoznati pogoje, prikazati ustrezne prehode in jasno ločiti končni rezultat.
GLM-Z1-Rumination-32B-0414 je ločena izdaja za bolj odprto raziskovanje z iskalnimi orodji; GLM-Z1-9B-0414 je druga velikost. Ta vnos ohranja poimensko določeno izdajo Z1 32B, namesto da bi uvažal dodatne značilnosti delovnega poteka ali velikosti teh izdaj.
Proizvajalec priporoča parameter temperature z vrednostjo 0.6, top_p 0.95 in top_k 40. Priporoča tudi proračun max_new_tokens 30.000, da ostane prostor za razmišljanje. To so priporočene nastavitve ustvarjanja, ne jamstvo, da vsak odgovor potrebuje tolikšno dolžino, ali dokumentirana univerzalna stroga zgornja meja izhoda. Ločeni primer sklepanja na kartici uporablja manjši proračun ustvarjanja za posamezno zahtevo.
Pri nalogi sklepanja omogočite dovolj prostora za analizo in končni odgovor skupaj ter v pozivu določite obliko končnega odgovora. Matematično vprašanje lahko zahteva razpon ali vrednost ločeno od pojasnila; programersko vprašanje lahko zahteva eno implementacijo, nato pa zanjo pomembne predpostavke. Želeni rezultat naj bo dovolj konkreten za preverjanje glede na navedene pogoje.
Proizvajalčeva predloga začne ustvarjanje z označevalnikom razmišljanja <think>. Njegova objavljena predloga pogovora ta označevalnik vstavi, zato mora implementacija uporabiti dejansko predlogo izdaje in ne predpostavljati nepovezane pogovorne oblike.
Za nadaljnje izmenjave vodnik za uporabo ohrani končni odgovor, viden uporabniku, in iz shranjene zgodovine pogovora odstrani notranje gradivo razmišljanja. To je pravilo priprave za lastno pogovorno predlogo modela. Nadaljnje vprašanje naj vsebuje trenutno vprašanje, potrebno izvorno gradivo in ustrezen prejšnji odgovor, ne nefiltriranega kopičenja vseh prejšnjih notranjih analiz.
Objavljena konfiguracija nastavi max_position_embeddings na 32.768 in ne vključuje vnosa rope_scaling. Vodnik za uporabo priporoča razmislek o YaRN, kadar vhod preseže 8.192 žetonov. Njegov primer konfiguracije razširitve uporablja factor 4.0 z original_max_position_embeddings, nastavljenim na 32.768. Priporočeni prag, osnovna konfiguracija in izbirna razširitev so različna dejstva; niso zamenljive omejitve odgovora.
Statični YaRN vpliva na vse besedilo in lahko nekoliko zmanjša zmogljivost pri kratkih vhodih, zato proizvajalec priporoča, da ga omogočite po potrebi. Pri daljšem gradivu priložite ustrezne definicije in odlomke v jasno ločenem vhodu ter v aktivnem kontekstu pustite primeren proračun ustvarjanja. Konfiguracija naj sledi podpori izbrane uvedbe za proizvajalčev postopek razširitve, namesto da bi aritmetični večkratnik obravnavala kot samodejno razpoložljivo kontekstno okno.
Primer sklepanja modela uporablja uporabniško vprašanje in pogovorno predlogo, značilno za izdajo. Pri matematiki ohranite definicije spremenljivk in navedite trditev, ki jo je treba dokazati. Pri kodi priložite ustrezen izsek, zahtevano obnašanje in obravnavani primer. Zahtevajte ločen končni izdelek, torej dokaz, formulo, implementacijo ali pojasnilo, da je mogoče sklepanje oceniti skozi rezultat naloge. Namenski vodnik Z1 določa besedilno sklepanje in njegovo pripravo; za to izdajo ne določa dodatne izvorne pogodbe orodij ali slikovnega vhoda.
", "aboutText": "### Uvod\n\nGLM-Z1-32B-0414 je član serije GLM-4-0414 podjetja Z.ai, osredotočen na sklepanje. Razvit je iz GLM-4-32B-0414 s pripravo za hladni zagon in razširjenim spodbujevalnim učenjem ter dodatnim delom na matematiki, kodi in logiki. Za krepitev splošnih zmožnosti se uporabljajo tudi povratne informacije iz parnega razvrščanja. Vhod je besedilo, vidni rezultat pa besedilna rešitev, pojasnilo ali programski izsek.\n\nNamenjen je nalogi, ki potrebuje povezane vmesne sklepe namesto takojšnjega stavka. Navedite vse predpostavke in določite zahtevani končni cilj: izpeljavo formule, razlago algoritma, utemeljitev meje ali pripravo spremembe kode. Proizvajalčev matematični primer obravnava pozitivne spremenljivke, povezane z enačbo, in možni razpon njihove vsote. Uporaben odgovor mora prepoznati pogoje, prikazati ustrezne prehode in jasno ločiti končni rezultat.\n\nGLM-Z1-Rumination-32B-0414 je ločena izdaja za bolj odprto raziskovanje z iskalnimi orodji; GLM-Z1-9B-0414 je druga velikost. Ta vnos ohranja poimensko določeno izdajo Z1 32B, namesto da bi uvažal dodatne značilnosti delovnega poteka ali velikosti teh izdaj.\n\n### Navodila za uporabo: vzorčenje\n\nProizvajalec priporoča parameter temperature z vrednostjo 0.6, top_p 0.95 in top_k 40. Priporoča tudi proračun max_new_tokens 30.000, da ostane prostor za razmišljanje. To so priporočene nastavitve ustvarjanja, ne jamstvo, da vsak odgovor potrebuje tolikšno dolžino, ali dokumentirana univerzalna stroga zgornja meja izhoda. Ločeni primer sklepanja na kartici uporablja manjši proračun ustvarjanja za posamezno zahtevo.\n\nPri nalogi sklepanja omogočite dovolj prostora za analizo in končni odgovor skupaj ter v pozivu določite obliko končnega odgovora. Matematično vprašanje lahko zahteva razpon ali vrednost ločeno od pojasnila; programersko vprašanje lahko zahteva eno implementacijo, nato pa zanjo pomembne predpostavke. Želeni rezultat naj bo dovolj konkreten za preverjanje glede na navedene pogoje.\n\n### Navodila za uporabo: razmišljanje in zgodovina pogovora\n\nProizvajalčeva predloga začne ustvarjanje z označevalnikom razmišljanja `Tehnični primer v angleščini
Derive a safe batch bound\n\nA buffer holds at most 96 records. Every batch adds b records, where b is a positive integer, and 12 records must remain free. Derive the largest number of complete batches that fit as a formula in b. Explain the rounding and calculate the result for b = 10, keeping the reserved space separate from usable capacity.A formula using a floor, an explanation of usable capacity and a checked numeric example.Verify the formula reserves 12 records and a further full batch would exceed usable capacity in the example.THUDM/GLM-Z1-32B-0414GLM-Z1-32B-0414 je določena izdaja podjetja Z.ai za besedilno sklepanje v matematiki, programiranju in logiki. Proizvajalec daje izrecna navodila za razmišljanje, zgodovino pogovora, vzorčenje in izbirno razširitev dolgega konteksta, zato je mogoče zapletene naloge pripraviti za to konkretno izdajo.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
GLM-Z1-32B-0414 je član serije GLM-4-0414 podjetja Z.ai, osredotočen na sklepanje. Razvit je iz GLM-4-32B-0414 s pripravo za hladni zagon in razširjenim spodbujevalnim učenjem ter dodatnim delom na matematiki, kodi in logiki. Za krepitev splošnih zmožnosti se uporabljajo tudi povratne informacije iz parnega razvrščanja. Vhod je besedilo, vidni rezultat pa besedilna rešitev, pojasnilo ali programski izsek.
Namenjen je nalogi, ki potrebuje povezane vmesne sklepe namesto takojšnjega stavka. Navedite vse predpostavke in določite zahtevani končni cilj: izpeljavo formule, razlago algoritma, utemeljitev meje ali pripravo spremembe kode. Proizvajalčev matematični primer obravnava pozitivne spremenljivke, povezane z enačbo, in možni razpon njihove vsote. Uporaben odgovor mora prepoznati pogoje, prikazati ustrezne prehode in jasno ločiti končni rezultat.
GLM-Z1-Rumination-32B-0414 je ločena izdaja za bolj odprto raziskovanje z iskalnimi orodji; GLM-Z1-9B-0414 je druga velikost. Ta vnos ohranja poimensko določeno izdajo Z1 32B, namesto da bi uvažal dodatne značilnosti delovnega poteka ali velikosti teh izdaj.
Proizvajalec priporoča parameter temperature z vrednostjo 0.6, top_p 0.95 in top_k 40. Priporoča tudi proračun max_new_tokens 30.000, da ostane prostor za razmišljanje. To so priporočene nastavitve ustvarjanja, ne jamstvo, da vsak odgovor potrebuje tolikšno dolžino, ali dokumentirana univerzalna stroga zgornja meja izhoda. Ločeni primer sklepanja na kartici uporablja manjši proračun ustvarjanja za posamezno zahtevo.
Pri nalogi sklepanja omogočite dovolj prostora za analizo in končni odgovor skupaj ter v pozivu določite obliko končnega odgovora. Matematično vprašanje lahko zahteva razpon ali vrednost ločeno od pojasnila; programersko vprašanje lahko zahteva eno implementacijo, nato pa zanjo pomembne predpostavke. Želeni rezultat naj bo dovolj konkreten za preverjanje glede na navedene pogoje.
Proizvajalčeva predloga začne ustvarjanje z označevalnikom razmišljanja <think>. Njegova objavljena predloga pogovora ta označevalnik vstavi, zato mora implementacija uporabiti dejansko predlogo izdaje in ne predpostavljati nepovezane pogovorne oblike.
Za nadaljnje izmenjave vodnik za uporabo ohrani končni odgovor, viden uporabniku, in iz shranjene zgodovine pogovora odstrani notranje gradivo razmišljanja. To je pravilo priprave za lastno pogovorno predlogo modela. Nadaljnje vprašanje naj vsebuje trenutno vprašanje, potrebno izvorno gradivo in ustrezen prejšnji odgovor, ne nefiltriranega kopičenja vseh prejšnjih notranjih analiz.
Objavljena konfiguracija nastavi max_position_embeddings na 32.768 in ne vključuje vnosa rope_scaling. Vodnik za uporabo priporoča razmislek o YaRN, kadar vhod preseže 8.192 žetonov. Njegov primer konfiguracije razširitve uporablja factor 4.0 z original_max_position_embeddings, nastavljenim na 32.768. Priporočeni prag, osnovna konfiguracija in izbirna razširitev so različna dejstva; niso zamenljive omejitve odgovora.
Statični YaRN vpliva na vse besedilo in lahko nekoliko zmanjša zmogljivost pri kratkih vhodih, zato proizvajalec priporoča, da ga omogočite po potrebi. Pri daljšem gradivu priložite ustrezne definicije in odlomke v jasno ločenem vhodu ter v aktivnem kontekstu pustite primeren proračun ustvarjanja. Konfiguracija naj sledi podpori izbrane uvedbe za proizvajalčev postopek razširitve, namesto da bi aritmetični večkratnik obravnavala kot samodejno razpoložljivo kontekstno okno.
Primer sklepanja modela uporablja uporabniško vprašanje in pogovorno predlogo, značilno za izdajo. Pri matematiki ohranite definicije spremenljivk in navedite trditev, ki jo je treba dokazati. Pri kodi priložite ustrezen izsek, zahtevano obnašanje in obravnavani primer. Zahtevajte ločen končni izdelek, torej dokaz, formulo, implementacijo ali pojasnilo, da je mogoče sklepanje oceniti skozi rezultat naloge. Namenski vodnik Z1 določa besedilno sklepanje in njegovo pripravo; za to izdajo ne določa dodatne izvorne pogodbe orodij ali slikovnega vhoda.
POST /v1/chat/completionstexttext| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve THUDM/GLM-Z1-32B-0414 | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Primeri: system, user, assistant, tool, function Pogoji: Te vloge so izrecno predstavljene s tipi združljivosti v izvorni kodi; natančen nabor vlog ostaja odvisen od modela. Odvisno od modela | Privzeto— |
Poljemessages[].content | Vrstastring|content_part[]|null | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_calls | Vrstatool_call[] | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_call_id | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: role=tool; uporabite dejansko vrnjeni ID | Privzeto— |
Poljemessages[].name | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].reasoning_content | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: Pošljite nazaj dejansko vrnjeno sklepanje, kadar ga ta model uporablja | Privzeto— |
Poljemessages[].reasoning_details | Vrstaobject|array | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljemax_completion_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Poljestream_options.include_usage | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetemperature | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetop_p | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljestop | Vrstastring|string[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools | Vrstafunction_tool[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools[].type | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve function Odvisno od modela | Privzeto— |
Poljetools[].function.name | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Velja, ko: podano je funkcijsko orodje | Privzeto— |
Poljetools[].function.description | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetools[].function.parameters | VrstaJSON_schema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetool_choice | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeparallel_tool_calls | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeresponse_format | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning_effort | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeservice_tier | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeinstructions | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Polje združljivosti | Privzeto— |
Poljefunctions | Vrstafunction[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljefunction_call | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeprompt_cache_options | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemodalities | Vrstastring[] | ZahtevaIzbirno | Vrednosti in omejitve text | Privzeto— |
Poljeprovider | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je na tej besedilni poti Ultra zavrnjen | Privzeto— |
Poljecache_control.ttl | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: 1h je zavrnjen na dejanskih mestih za predpomnjenje pozivov | Privzeto— |
Besedilo · Besedilo UTF8
messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages |
Parametermaterial_types | Specifikacijatext |
Parametermessages | Specifikacijapolje sporočil s strukturo role/content |
Parameterfile_material | Specifikacijadejanski dokument UTF-8 je vstavljen kot dobesedno besedilo; ID datoteke se ne izpeljuje |
Parameteroptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Specifikacijaodvisno od modela; uporabniška funkcijska orodja se razlikujejo od orodij, ki jih izvaja storitev |
Parameteroutput_modalities | Specifikacijatext |
Parameterhosted_operations | Specifikacijafalse |
Parametermultimodal_input_binding | Specifikacijanull |
Življenjski cikel: synchronous_or_streamed
Pošljite natančen ID modela skupaj z messages.
Dolžina konteksta ni zgornja meja izhoda.
Besedilna datoteka lahko poda dobesedno besedilo; slikovni, zvočni vhodi in vhodi z datotečnimi objekti potrebujejo natančno vezavo.
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
| Nastavitev | Cenovna lestvica | Strošek |
|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Strošek Vhod · Vhodni žetoni $0.00014 / 1K žetonov Izhod · Izhodni žetoni $0.00014 / 1K žetonov Vhod · Branje predpomnilnika $0 / 1K žetonov Vhod · Zapis v predpomnilnik $0 / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "THUDM/GLM-Z1-32B-0414", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='THUDM/GLM-Z1-32B-0414',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='THUDM/GLM-Z1-32B-0414',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vsako možnost odgovora ter njeno vsebino, klice orodij in sklepanje. V SSE sestavite delne spremembe po indeksu možnosti/orodja ter ohranite končni razlog zaključka in podatke o porabi.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljechoices[].index | Vrstainteger |
Poljechoices[].message.content | Vrstastring|null |
Poljechoices[].message.tool_calls | Vrstatool_call[] |
Poljechoices[].message.reasoning_content | Vrstastring |
Poljechoices[].message.reasoning_details | Vrstaobject|array |
Poljechoices[].finish_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra THUDM/GLM-Z1-32B-0414
Uporabite zgoraj navedene poti metod.
THUDM/GLM-Z1-32B-0414GLM-Z1-32B-0414 je določena izdaja podjetja Z.ai za besedilno sklepanje v matematiki, programiranju in logiki. Proizvajalec daje izrecna navodila za razmišljanje, zgodovino pogovora, vzorčenje in izbirno razširitev dolgega konteksta, zato je mogoče zapletene naloge pripraviti za to konkretno izdajo.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
GLM-Z1-32B-0414 je član serije GLM-4-0414 podjetja Z.ai, osredotočen na sklepanje. Razvit je iz GLM-4-32B-0414 s pripravo za hladni zagon in razširjenim spodbujevalnim učenjem ter dodatnim delom na matematiki, kodi in logiki. Za krepitev splošnih zmožnosti se uporabljajo tudi povratne informacije iz parnega razvrščanja. Vhod je besedilo, vidni rezultat pa besedilna rešitev, pojasnilo ali programski izsek.
Namenjen je nalogi, ki potrebuje povezane vmesne sklepe namesto takojšnjega stavka. Navedite vse predpostavke in določite zahtevani končni cilj: izpeljavo formule, razlago algoritma, utemeljitev meje ali pripravo spremembe kode. Proizvajalčev matematični primer obravnava pozitivne spremenljivke, povezane z enačbo, in možni razpon njihove vsote. Uporaben odgovor mora prepoznati pogoje, prikazati ustrezne prehode in jasno ločiti končni rezultat.
GLM-Z1-Rumination-32B-0414 je ločena izdaja za bolj odprto raziskovanje z iskalnimi orodji; GLM-Z1-9B-0414 je druga velikost. Ta vnos ohranja poimensko določeno izdajo Z1 32B, namesto da bi uvažal dodatne značilnosti delovnega poteka ali velikosti teh izdaj.
Proizvajalec priporoča parameter temperature z vrednostjo 0.6, top_p 0.95 in top_k 40. Priporoča tudi proračun max_new_tokens 30.000, da ostane prostor za razmišljanje. To so priporočene nastavitve ustvarjanja, ne jamstvo, da vsak odgovor potrebuje tolikšno dolžino, ali dokumentirana univerzalna stroga zgornja meja izhoda. Ločeni primer sklepanja na kartici uporablja manjši proračun ustvarjanja za posamezno zahtevo.
Pri nalogi sklepanja omogočite dovolj prostora za analizo in končni odgovor skupaj ter v pozivu določite obliko končnega odgovora. Matematično vprašanje lahko zahteva razpon ali vrednost ločeno od pojasnila; programersko vprašanje lahko zahteva eno implementacijo, nato pa zanjo pomembne predpostavke. Želeni rezultat naj bo dovolj konkreten za preverjanje glede na navedene pogoje.
Proizvajalčeva predloga začne ustvarjanje z označevalnikom razmišljanja <think>. Njegova objavljena predloga pogovora ta označevalnik vstavi, zato mora implementacija uporabiti dejansko predlogo izdaje in ne predpostavljati nepovezane pogovorne oblike.
Za nadaljnje izmenjave vodnik za uporabo ohrani končni odgovor, viden uporabniku, in iz shranjene zgodovine pogovora odstrani notranje gradivo razmišljanja. To je pravilo priprave za lastno pogovorno predlogo modela. Nadaljnje vprašanje naj vsebuje trenutno vprašanje, potrebno izvorno gradivo in ustrezen prejšnji odgovor, ne nefiltriranega kopičenja vseh prejšnjih notranjih analiz.
Objavljena konfiguracija nastavi max_position_embeddings na 32.768 in ne vključuje vnosa rope_scaling. Vodnik za uporabo priporoča razmislek o YaRN, kadar vhod preseže 8.192 žetonov. Njegov primer konfiguracije razširitve uporablja factor 4.0 z original_max_position_embeddings, nastavljenim na 32.768. Priporočeni prag, osnovna konfiguracija in izbirna razširitev so različna dejstva; niso zamenljive omejitve odgovora.
Statični YaRN vpliva na vse besedilo in lahko nekoliko zmanjša zmogljivost pri kratkih vhodih, zato proizvajalec priporoča, da ga omogočite po potrebi. Pri daljšem gradivu priložite ustrezne definicije in odlomke v jasno ločenem vhodu ter v aktivnem kontekstu pustite primeren proračun ustvarjanja. Konfiguracija naj sledi podpori izbrane uvedbe za proizvajalčev postopek razširitve, namesto da bi aritmetični večkratnik obravnavala kot samodejno razpoložljivo kontekstno okno.
Primer sklepanja modela uporablja uporabniško vprašanje in pogovorno predlogo, značilno za izdajo. Pri matematiki ohranite definicije spremenljivk in navedite trditev, ki jo je treba dokazati. Pri kodi priložite ustrezen izsek, zahtevano obnašanje in obravnavani primer. Zahtevajte ločen končni izdelek, torej dokaz, formulo, implementacijo ali pojasnilo, da je mogoče sklepanje oceniti skozi rezultat naloge. Namenski vodnik Z1 določa besedilno sklepanje in njegovo pripravo; za to izdajo ne določa dodatne izvorne pogodbe orodij ali slikovnega vhoda.
POST /v1/messagestextjson, sse| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve THUDM/GLM-Z1-32B-0414 | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve user, assistant | Privzeto— |
Poljemessages[].content | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Besedilo · Besedilo UTF-8
niz messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages, max_tokens |
Parameteroptional_controls | Specifikacijastream |
Parametermaterial_types | Specifikacijatext |
Parametertext_file_material | SpecifikacijaPreberite dejanski dokument UTF-8 in njegovo besedilo vstavite v navedeni vhodni niz ali niz vsebine sporočila. |
Življenjski cikel: synchronous_or_streamed
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
| Nastavitev | Cenovna lestvica | Strošek |
|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Strošek Vhod · Vhodni žetoni $0.00014 / 1K žetonov Izhod · Izhodni žetoni $0.00014 / 1K žetonov Vhod · Branje predpomnilnika $0 / 1K žetonov Vhod · Zapis v predpomnilnik $0 / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
{\n "model": "THUDM/GLM-Z1-32B-0414",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'THUDM/GLM-Z1-32B-0414', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'THUDM/GLM-Z1-32B-0414', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vse vsebinske bloke, podpise sklepanja in dejanske ID uporabe orodij. Sestavite vse delne spremembe blokov SSE; prvi besedilni blok ni celoten izhod.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljeid | Vrstastring |
Poljemodel | Vrstastring |
Poljecontent[] | Vrstatext|thinking|tool_use|other content block |
Poljestop_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra THUDM/GLM-Z1-32B-0414
Uporabite zgoraj navedene poti metod.
Tehnični primer v angleščini
Derive a safe batch bound\n\nA buffer holds at most 96 records. Every batch adds b records, where b is a positive integer, and 12 records must remain free. Derive the largest number of complete batches that fit as a formula in b. Explain the rounding and calculate the result for b = 10, keeping the reserved space separate from usable capacity.A formula using a floor, an explanation of usable capacity and a checked numeric example.Verify the formula reserves 12 records and a further full batch would exceed usable capacity in the example.