Granite 4.2 8B er IBMs mellemstore ræsonneringsmodel i Granite 4.2-familien. Den tætte transformer med 8 mia. parametre og udelukkende dekoder er eftertrænet fra Granite 4.1 8B Base til ræsonnering, kodegenerering, instruktionsfølgning og værktøjsstyret arbejde. Den modtager tekst og producerer tekst med en mellemliggende tænkeblok i ræsonneringstilstand og et separat endeligt svar.
Producenten beskriver grouped-query attention, rotationsbaseret positionskodning, SwiGLU-feedforward-lag og RMS-normalisering. Modellen understøtter indbygget en kontekst på 128K og dokumenterer en langkontekstudvidelse til 512K. Det er forskellige konfigurationer: det udvidede tal bør ikke erstatte den indbyggede indstilling i en opgave, der bruger standardprofilen. Samtale, kildemateriale, værktøjsresultater og genereret indhold skal være inden for den valgte kontekst.
Fuld tænkning er producentens standard og udvikler analyse før svaret. Uden tænkning returneres et direkte svar. Tilstanden med lav ræsonneringsindsats bruger en kortere ræsonneringsproces til enklere spørgsmål. Producentens skabelon repræsenterer valgene forskelligt og adskiller indhold inden for tænkemarkørerne fra den endelige konklusion.
Til matematik eller kodeanalyse skal du levere den fulde betingelse, definitionerne og begrænsningerne og derefter angive det slutresultat, du har brug for. En praktisk brief er: »Fastslå, hvorfor denne funktion fejler med det leverede input, forklar den ansvarlige betingelse, og foreslå en fokuseret rettelse.« En rutinemæssig udtræksopgave kan i stedet kun bede om de krævede felter. Vælg en tilstand, der passer til opgavens dybde, uden at lade mellemliggende analyse erstatte det ønskede resultat.
IBM anbefaler temperature 1.0 og top-p 0.95 på tværs af sine referencetilstande og opgaver. Dens eksempelbudgetter til generering er 8.192 nye tokens til tænkning og 2.048 til direkte svar; kortet tillader udtrykkeligt et større budget til kompleks ræsonnering. Eksemplerne er konfigurationsvejledning og ikke selvstændigt fastslåede hårde outputgrænser.
Standardskabelonen til samtaler med flere runder fjerner tænkning fra tidligere assistentsvar for at spare kontekst. Producenten dokumenterer også, hvordan den bevares, når der er behov for hele ræsonneringshistorikken. Hold de endelige svar og nyttige observationer tydelige, så en opfølgning kan revidere den relevante del uden at forveksle en tidligere mellemliggende tanke med et accepteret fund.
Modellen kan ræsonnere om, hvilke angivne funktioner der skal kaldes, og returnere struktureret indhold til værktøjskald. Definer værktøjer med meningsfulde navne, beskrivelser og parameterskemaer. Applikationen udfører den valgte handling og returnerer observationen; en fortsat opgave bør bruge dette faktiske resultat. Til en kodeagent skal du identificere de tilladte filer og den adfærd, der fuldfører ændringen, og derefter bede om implementeringen og dens understøttende valideringsobservationer.
Kortet angiver tolv testede sprog. Angiv svarenes sprog, og bevar egennavne eller kodeidentifikatorer. Træningen er primært engelsk med flersprogede data, så ydeevnen på et andet sprog kan variere; nogle få relevante eksempler kan tydeliggøre den tilsigtede opgave og outputstil.
IBM bemærker, at modellen stadig kan producere unøjagtige eller skæve svar, og at tænkeindhold kan omfatte upolerede, mellemliggende ideer. Kontroller det endelige svar mod de leverede kilder, kontroller numeriske udtræk, og undersøg kode i dens tilsigtede applikation. Det nyttige resultat er et svar, et koderesultat eller en analytisk registrering med udtrykkelig dokumentation og uafklarede oplysninger, samtidig med at den præcise 4.2 8B-udgave og dens tilstandsforskelle bevares.
", "aboutText": "Granite 4.2 8B er IBMs mellemstore ræsonneringsmodel i Granite 4.2-familien. Den tætte transformer med 8 mia. parametre og udelukkende dekoder er eftertrænet fra Granite 4.1 8B Base til ræsonnering, kodegenerering, instruktionsfølgning og værktøjsstyret arbejde. Den modtager tekst og producerer tekst med en mellemliggende tænkeblok i ræsonneringstilstand og et separat endeligt svar.\n\n### Modeldesign og kontekst\n\nProducenten beskriver grouped-query attention, rotationsbaseret positionskodning, SwiGLU-feedforward-lag og RMS-normalisering. Modellen understøtter indbygget en kontekst på 128K og dokumenterer en langkontekstudvidelse til 512K. Det er forskellige konfigurationer: det udvidede tal bør ikke erstatte den indbyggede indstilling i en opgave, der bruger standardprofilen. Samtale, kildemateriale, værktøjsresultater og genereret indhold skal være inden for den valgte kontekst.\n\n### Tre tænketilstande\n\nFuld tænkning er producentens standard og udvikler analyse før svaret. Uden tænkning returneres et direkte svar. Tilstanden med lav ræsonneringsindsats bruger en kortere ræsonneringsproces til enklere spørgsmål. Producentens skabelon repræsenterer valgene forskelligt og adskiller indhold inden for tænkemarkørerne fra den endelige konklusion.\n\nTil matematik eller kodeanalyse skal du levere den fulde betingelse, definitionerne og begrænsningerne og derefter angive det slutresultat, du har brug for. En praktisk brief er: »Fastslå, hvorfor denne funktion fejler med det leverede input, forklar den ansvarlige betingelse, og foreslå en fokuseret rettelse.« En rutinemæssig udtræksopgave kan i stedet kun bede om de krævede felter. Vælg en tilstand, der passer til opgavens dybde, uden at lade mellemliggende analyse erstatte det ønskede resultat.\n\n### Vejledning om samtale og generering\n\nIBM anbefaler temperature 1.0 og top-p 0.95 på tværs af sine referencetilstande og opgaver. Dens eksempelbudgetter til generering er 8.192 nye tokens til tænkning og 2.048 til direkte svar; kortet tillader udtrykkeligt et større budget til kompleks ræsonnering. Eksemplerne er konfigurationsvejledning og ikke selvstændigt fastslåede hårde outputgrænser.\n\nStandardskabelonen til samtaler med flere runder fjerner tænkning fra tidligere assistentsvar for at spare kontekst. Producenten dokumenterer også, hvordan den bevares, når der er behov for hele ræsonneringshistorikken. Hold de endelige svar og nyttige observationer tydelige, så en opfølgning kan revidere den relevante del uden at forveksle en tidligere mellemliggende tanke med et accepteret fund.\n\n### Værktøjskald og praktiske resultater\n\nModellen kan ræsonnere om, hvilke angivne funktioner der skal kaldes, og returnere struktureret indhold til værktøjskald. Definer værktøjer med meningsfulde navne, beskrivelser og parameterskemaer. Applikationen udfører den valgte handling og returnerer observationen; en fortsat opgave bør bruge dette faktiske resultat. Til en kodeagent skal du identificere de tilladte filer og den adfærd, der fuldfører ændringen, og derefter bede om implementeringen og dens understøttende valideringsobservationer.\n\nKortet angiver tolv testede sprog. Angiv svarenes sprog, og bevar egennavne eller kodeidentifikatorer. Træningen er primært engelsk med flersprogede data, så ydeevnen på et andet sprog kan variere; nogle få relevante eksempler kan tydeliggøre den tilsigtede opgave og outputstil.\n\n### Grænser og fortolkning\n\nIBM bemærker, at modellen stadig kan producere unøjagtige eller skæve svar, og at tænkeindhold kan omfatte upolerede, mellemliggende ideer. Kontroller det endelige svar mod de leverede kilder, kontroller numeriske udtræk, og undersøg kode i dens tilsigtede applikation. Det nyttige resultat er et svar, et koderesultat eller en analytisk registrering med udtrykkelig dokumentation og uafklarede oplysninger, samtidig med at den præcise 4.2 8B-udgave og dens tilstandsforskelle bevares.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Fix a mutable default argument\n\nExplain why this Python function shares results across calls and propose a correction: def collect(value, items=[]): items.append(value); return items. The caller may supply an existing list and expects it to be updated. Include tests for two omitted-list calls and one explicitly supplied list. Preserve the function name and calling convention.A corrected collect function, a brief cause explanation and tests distinguishing default-list isolation from explicit-list mutation.Check that omitted-list calls return independent lists while an explicitly supplied list is still updated.ibm-granite/granite-4.2-8bGranite 4.2 8B er IBMs tætte ræsonneringstekstmodel til matematik, programmering, flersproget dialog og værktøjsstyrede agenter. Den tilbyder svartilstande med fuld ræsonnering, direkte svar og lav ræsonneringsindsats samt en indbygget kontekst på 128K og en særskilt dokumenteret udvidelse til lang kontekst.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Granite 4.2 8B er IBMs mellemstore ræsonneringsmodel i Granite 4.2-familien. Den tætte transformer med 8 mia. parametre og udelukkende dekoder er eftertrænet fra Granite 4.1 8B Base til ræsonnering, kodegenerering, instruktionsfølgning og værktøjsstyret arbejde. Den modtager tekst og producerer tekst med en mellemliggende tænkeblok i ræsonneringstilstand og et separat endeligt svar.
Producenten beskriver grouped-query attention, rotationsbaseret positionskodning, SwiGLU-feedforward-lag og RMS-normalisering. Modellen understøtter indbygget en kontekst på 128K og dokumenterer en langkontekstudvidelse til 512K. Det er forskellige konfigurationer: det udvidede tal bør ikke erstatte den indbyggede indstilling i en opgave, der bruger standardprofilen. Samtale, kildemateriale, værktøjsresultater og genereret indhold skal være inden for den valgte kontekst.
Fuld tænkning er producentens standard og udvikler analyse før svaret. Uden tænkning returneres et direkte svar. Tilstanden med lav ræsonneringsindsats bruger en kortere ræsonneringsproces til enklere spørgsmål. Producentens skabelon repræsenterer valgene forskelligt og adskiller indhold inden for tænkemarkørerne fra den endelige konklusion.
Til matematik eller kodeanalyse skal du levere den fulde betingelse, definitionerne og begrænsningerne og derefter angive det slutresultat, du har brug for. En praktisk brief er: »Fastslå, hvorfor denne funktion fejler med det leverede input, forklar den ansvarlige betingelse, og foreslå en fokuseret rettelse.« En rutinemæssig udtræksopgave kan i stedet kun bede om de krævede felter. Vælg en tilstand, der passer til opgavens dybde, uden at lade mellemliggende analyse erstatte det ønskede resultat.
IBM anbefaler temperature 1.0 og top-p 0.95 på tværs af sine referencetilstande og opgaver. Dens eksempelbudgetter til generering er 8.192 nye tokens til tænkning og 2.048 til direkte svar; kortet tillader udtrykkeligt et større budget til kompleks ræsonnering. Eksemplerne er konfigurationsvejledning og ikke selvstændigt fastslåede hårde outputgrænser.
Standardskabelonen til samtaler med flere runder fjerner tænkning fra tidligere assistentsvar for at spare kontekst. Producenten dokumenterer også, hvordan den bevares, når der er behov for hele ræsonneringshistorikken. Hold de endelige svar og nyttige observationer tydelige, så en opfølgning kan revidere den relevante del uden at forveksle en tidligere mellemliggende tanke med et accepteret fund.
Modellen kan ræsonnere om, hvilke angivne funktioner der skal kaldes, og returnere struktureret indhold til værktøjskald. Definer værktøjer med meningsfulde navne, beskrivelser og parameterskemaer. Applikationen udfører den valgte handling og returnerer observationen; en fortsat opgave bør bruge dette faktiske resultat. Til en kodeagent skal du identificere de tilladte filer og den adfærd, der fuldfører ændringen, og derefter bede om implementeringen og dens understøttende valideringsobservationer.
Kortet angiver tolv testede sprog. Angiv svarenes sprog, og bevar egennavne eller kodeidentifikatorer. Træningen er primært engelsk med flersprogede data, så ydeevnen på et andet sprog kan variere; nogle få relevante eksempler kan tydeliggøre den tilsigtede opgave og outputstil.
IBM bemærker, at modellen stadig kan producere unøjagtige eller skæve svar, og at tænkeindhold kan omfatte upolerede, mellemliggende ideer. Kontroller det endelige svar mod de leverede kilder, kontroller numeriske udtræk, og undersøg kode i dens tilsigtede applikation. Det nyttige resultat er et svar, et koderesultat eller en analytisk registrering med udtrykkelig dokumentation og uafklarede oplysninger, samtidig med at den præcise 4.2 8B-udgave og dens tilstandsforskelle bevares.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser ibm-granite/granite-4.2-8b | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Eksempler: system, user, assistant, tool, function Betingelser: Disse roller er eksplicit repræsenteret i kildekodens kompatibilitetstyper; modellens præcise rollesæt er fortsat modelspecifikt. Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfrit | Værdier og grænser Gælder når: role=tool; brug det faktisk returnerede ID | Standard— |
Feltmessages[].name | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Send det faktisk returnerede ræsonnement tilbage, når modellen bruger det | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools[].type | Typestring | KravValgfrit | Værdier og grænser function Afhænger af modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrævet | Værdier og grænser Gælder når: funktionsværktøj angivet | Standard— |
Felttools[].function.description | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfrit | Værdier og grænser | Standard— |
Felttool_choice | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltservice_tier | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltinstructions | Typestring | KravValgfrit | Værdier og grænser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfrit | Værdier og grænser text | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvises på denne Ultra-tekstrute | Standard— |
Feltcache_control.ttl | Typestring | KravValgfrit | Værdier og grænser Betingelser: 1h afvises på de faktiske placeringer for promptcaching | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontraktmodelspecifikt; brugerens funktionsværktøjer er forskellige fra hostede værktøjer |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0002 / 1K tokens Output · Outputtokens $0.0003 / 1K tokens Input · Cachelæsning $0.0001 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0002 / 1K tokens Output · Outputtokens $0.0003 / 1K tokens Input · Cachelæsning $0.0001 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "ibm-granite/granite-4.2-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='ibm-granite/granite-4.2-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='ibm-granite/granite-4.2-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra ibm-granite/granite-4.2-8b
Brug metodestierne vist ovenfor.
ibm-granite/granite-4.2-8bGranite 4.2 8B er IBMs tætte ræsonneringstekstmodel til matematik, programmering, flersproget dialog og værktøjsstyrede agenter. Den tilbyder svartilstande med fuld ræsonnering, direkte svar og lav ræsonneringsindsats samt en indbygget kontekst på 128K og en særskilt dokumenteret udvidelse til lang kontekst.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Granite 4.2 8B er IBMs mellemstore ræsonneringsmodel i Granite 4.2-familien. Den tætte transformer med 8 mia. parametre og udelukkende dekoder er eftertrænet fra Granite 4.1 8B Base til ræsonnering, kodegenerering, instruktionsfølgning og værktøjsstyret arbejde. Den modtager tekst og producerer tekst med en mellemliggende tænkeblok i ræsonneringstilstand og et separat endeligt svar.
Producenten beskriver grouped-query attention, rotationsbaseret positionskodning, SwiGLU-feedforward-lag og RMS-normalisering. Modellen understøtter indbygget en kontekst på 128K og dokumenterer en langkontekstudvidelse til 512K. Det er forskellige konfigurationer: det udvidede tal bør ikke erstatte den indbyggede indstilling i en opgave, der bruger standardprofilen. Samtale, kildemateriale, værktøjsresultater og genereret indhold skal være inden for den valgte kontekst.
Fuld tænkning er producentens standard og udvikler analyse før svaret. Uden tænkning returneres et direkte svar. Tilstanden med lav ræsonneringsindsats bruger en kortere ræsonneringsproces til enklere spørgsmål. Producentens skabelon repræsenterer valgene forskelligt og adskiller indhold inden for tænkemarkørerne fra den endelige konklusion.
Til matematik eller kodeanalyse skal du levere den fulde betingelse, definitionerne og begrænsningerne og derefter angive det slutresultat, du har brug for. En praktisk brief er: »Fastslå, hvorfor denne funktion fejler med det leverede input, forklar den ansvarlige betingelse, og foreslå en fokuseret rettelse.« En rutinemæssig udtræksopgave kan i stedet kun bede om de krævede felter. Vælg en tilstand, der passer til opgavens dybde, uden at lade mellemliggende analyse erstatte det ønskede resultat.
IBM anbefaler temperature 1.0 og top-p 0.95 på tværs af sine referencetilstande og opgaver. Dens eksempelbudgetter til generering er 8.192 nye tokens til tænkning og 2.048 til direkte svar; kortet tillader udtrykkeligt et større budget til kompleks ræsonnering. Eksemplerne er konfigurationsvejledning og ikke selvstændigt fastslåede hårde outputgrænser.
Standardskabelonen til samtaler med flere runder fjerner tænkning fra tidligere assistentsvar for at spare kontekst. Producenten dokumenterer også, hvordan den bevares, når der er behov for hele ræsonneringshistorikken. Hold de endelige svar og nyttige observationer tydelige, så en opfølgning kan revidere den relevante del uden at forveksle en tidligere mellemliggende tanke med et accepteret fund.
Modellen kan ræsonnere om, hvilke angivne funktioner der skal kaldes, og returnere struktureret indhold til værktøjskald. Definer værktøjer med meningsfulde navne, beskrivelser og parameterskemaer. Applikationen udfører den valgte handling og returnerer observationen; en fortsat opgave bør bruge dette faktiske resultat. Til en kodeagent skal du identificere de tilladte filer og den adfærd, der fuldfører ændringen, og derefter bede om implementeringen og dens understøttende valideringsobservationer.
Kortet angiver tolv testede sprog. Angiv svarenes sprog, og bevar egennavne eller kodeidentifikatorer. Træningen er primært engelsk med flersprogede data, så ydeevnen på et andet sprog kan variere; nogle få relevante eksempler kan tydeliggøre den tilsigtede opgave og outputstil.
IBM bemærker, at modellen stadig kan producere unøjagtige eller skæve svar, og at tænkeindhold kan omfatte upolerede, mellemliggende ideer. Kontroller det endelige svar mod de leverede kilder, kontroller numeriske udtræk, og undersøg kode i dens tilsigtede applikation. Det nyttige resultat er et svar, et koderesultat eller en analytisk registrering med udtrykkelig dokumentation og uafklarede oplysninger, samtidig med at den præcise 4.2 8B-udgave og dens tilstandsforskelle bevares.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser ibm-granite/granite-4.2-8b | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0002 / 1K tokens Output · Outputtokens $0.0003 / 1K tokens Input · Cachelæsning $0.0001 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0002 / 1K tokens Output · Outputtokens $0.0003 / 1K tokens Input · Cachelæsning $0.0001 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "ibm-granite/granite-4.2-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'ibm-granite/granite-4.2-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'ibm-granite/granite-4.2-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra ibm-granite/granite-4.2-8b
Brug metodestierne vist ovenfor.
Teknisk eksempel på engelsk
Fix a mutable default argument\n\nExplain why this Python function shares results across calls and propose a correction: def collect(value, items=[]): items.append(value); return items. The caller may supply an existing list and expects it to be updated. Include tests for two omitted-list calls and one explicitly supplied list. Preserve the function name and calling convention.A corrected collect function, a brief cause explanation and tests distinguishing default-list isolation from explicit-list mutation.Check that omitted-list calls return independent lists while an explicitly supplied list is still updated.