Granite 4.0 H Micro ialah model arahan konteks panjang 3 bilion parameter daripada IBM, ditala halus daripada Granite 4.0 H Micro Base. Ia ialah edisi Micro padat hibrid, menggabungkan Mamba-2 dan perhatian, bukannya Micro transformer tulen atau varian campuran pakar yang lebih besar. Model menerima arahan teks dan konteks serta mengembalikan teks, menjadikannya komponen binaan padat untuk pembantu perusahaan dan langkah khusus dalam tugas ejen.
Jadual seni bina pengeluar menyenaraikan empat lapisan perhatian dan tiga puluh enam lapisan Mamba-2, dengan panjang urutan 128K. Model arahan menggunakan penalaan halus terselia, penjajaran pembelajaran pengukuhan dan penggabungan model. Bahan latihannya merangkumi data arahan berlesen permisif, data sintetik dan contoh yang dikurasi manusia. Struktur hibrid ialah sifat edisi; ia tidak patut diganti dengan profil parameter atau pakar aktif model Granite yang lain.
Pembuat menyenaraikan dua belas bahasa yang disokong dan tugas termasuk peringkasan, pengelasan, pengekstrakan, penjawaban soalan, penjanaan diperkaya pengambilan maklumat, pengekodan dan panggilan fungsi. Berikan petikan sumber sebenar dan terangkan operasi yang diperlukan. Untuk pengekstrakan, takrifkan medan dan cara mewakili nilai yang tiada. Untuk pengelasan, bekalkan maksud kategori dan kes yang menggambarkan sempadan penting.
Contoh ringkasan arahan ialah: “Ekstrak setiap keperluan daripada petikan ini, kekalkan pengecamnya dan petik ayat yang menetapkannya.” Untuk ringkasan, nyatakan khalayak dan fakta yang mesti dikekalkan. Untuk terjemahan, kenal pasti nama dan istilah teknikal yang patut mengekalkan ejaan asalnya. Format akhir yang jelas membantu model arahan kecil menghasilkan artifak yang diperlukan aplikasi.
Kad Granite H Micro menunjukkan takrif alat dengan nama fungsi, penerangan dan skema parameter. Model mengembalikan nama fungsi dan argumen JSON dalam perwakilan panggilan alatnya. Aplikasi yang mengelilinginya melaksanakan operasi yang dipilih, menyemak argumen dan mengembalikan hasil. Tugas carian maklumat patut mengekalkan pemerhatian itu sebagai bukti yang digunakan oleh jawapan.
Dalam aliran kerja pengambilan maklumat, bekalkan bahan dokumen berkaitan dan minta jawapan berasaskannya. Akses sumber ialah tanggungjawab aplikasi; jawapan model teks dijana daripada konteks yang diterimanya. Pastikan label dokumen dan unit kelihatan supaya hasil boleh dijejaki kembali kepada input.
Model menyokong tugas berkaitan kod dan pelengkapan pengisian bahagian tengah. Ringkasan arahan pengekodan patut merangkumi pelaksanaan berkaitan, tingkah laku yang diperhatikan dan tingkah laku yang perlu dikekalkan. Untuk tugas pelengkapan, kenal pasti kod sekeliling dan ruang yang perlu diisi. Minta artifak kod yang dihasilkan dan penerangan yang terikat pada kekangan, kemudian periksa hasil dalam persekitaran pembangunan sebenar.
Konteks 128K merangkumi prom, sumber, perbualan dan respons yang dijana bersama-sama; kad itu tidak menetapkan panjang jawapan maksimum sejagat yang bebas. Templat sembang rujukan merangkumi arahan sistem lalai untuk respons profesional, tepat dan selamat. Senarai medan atau artifak kod yang diminta masih memerlukan arahan tugasnya sendiri yang jelas.
IBM menyatakan prestasi berbilang bahasa boleh berbeza daripada bahasa Inggeris kerana latihan arahan kebanyakannya dalam bahasa Inggeris; beberapa contoh berkaitan tugas mungkin membantu. Ia turut mengakui kemungkinan respons tidak tepat atau berat sebelah. Semak nilai yang diperoleh daripada sumber dan kod yang dijana berdasarkan input, dan kembalikan pemerhatian sebenar apabila tugas memerlukan pembetulan. Output H Micro yang berguna ialah hasil teks atau kod terfokus dengan identiti tepat Micro hibrid dikekalkan.
", "aboutText": "Granite 4.0 H Micro ialah model arahan konteks panjang 3 bilion parameter daripada IBM, ditala halus daripada Granite 4.0 H Micro Base. Ia ialah edisi Micro padat hibrid, menggabungkan Mamba-2 dan perhatian, bukannya Micro transformer tulen atau varian campuran pakar yang lebih besar. Model menerima arahan teks dan konteks serta mengembalikan teks, menjadikannya komponen binaan padat untuk pembantu perusahaan dan langkah khusus dalam tugas ejen.\n\n### Struktur model dan latihan\n\nJadual seni bina pengeluar menyenaraikan empat lapisan perhatian dan tiga puluh enam lapisan Mamba-2, dengan panjang urutan 128K. Model arahan menggunakan penalaan halus terselia, penjajaran pembelajaran pengukuhan dan penggabungan model. Bahan latihannya merangkumi data arahan berlesen permisif, data sintetik dan contoh yang dikurasi manusia. Struktur hibrid ialah sifat edisi; ia tidak patut diganti dengan profil parameter atau pakar aktif model Granite yang lain.\n\n### Bahasa dan tugas terfokus\n\nPembuat menyenaraikan dua belas bahasa yang disokong dan tugas termasuk peringkasan, pengelasan, pengekstrakan, penjawaban soalan, penjanaan diperkaya pengambilan maklumat, pengekodan dan panggilan fungsi. Berikan petikan sumber sebenar dan terangkan operasi yang diperlukan. Untuk pengekstrakan, takrifkan medan dan cara mewakili nilai yang tiada. Untuk pengelasan, bekalkan maksud kategori dan kes yang menggambarkan sempadan penting.\n\nContoh ringkasan arahan ialah: “Ekstrak setiap keperluan daripada petikan ini, kekalkan pengecamnya dan petik ayat yang menetapkannya.” Untuk ringkasan, nyatakan khalayak dan fakta yang mesti dikekalkan. Untuk terjemahan, kenal pasti nama dan istilah teknikal yang patut mengekalkan ejaan asalnya. Format akhir yang jelas membantu model arahan kecil menghasilkan artifak yang diperlukan aplikasi.\n\n### Alat dan jawapan berasaskan sumber\n\nKad Granite H Micro menunjukkan takrif alat dengan nama fungsi, penerangan dan skema parameter. Model mengembalikan nama fungsi dan argumen JSON dalam perwakilan panggilan alatnya. Aplikasi yang mengelilinginya melaksanakan operasi yang dipilih, menyemak argumen dan mengembalikan hasil. Tugas carian maklumat patut mengekalkan pemerhatian itu sebagai bukti yang digunakan oleh jawapan.\n\nDalam aliran kerja pengambilan maklumat, bekalkan bahan dokumen berkaitan dan minta jawapan berasaskannya. Akses sumber ialah tanggungjawab aplikasi; jawapan model teks dijana daripada konteks yang diterimanya. Pastikan label dokumen dan unit kelihatan supaya hasil boleh dijejaki kembali kepada input.\n\n### Pengekodan dan pelengkapan\n\nModel menyokong tugas berkaitan kod dan pelengkapan pengisian bahagian tengah. Ringkasan arahan pengekodan patut merangkumi pelaksanaan berkaitan, tingkah laku yang diperhatikan dan tingkah laku yang perlu dikekalkan. Untuk tugas pelengkapan, kenal pasti kod sekeliling dan ruang yang perlu diisi. Minta artifak kod yang dihasilkan dan penerangan yang terikat pada kekangan, kemudian periksa hasil dalam persekitaran pembangunan sebenar.\n\n### Konteks dan batasan\n\nKonteks 128K merangkumi prom, sumber, perbualan dan respons yang dijana bersama-sama; kad itu tidak menetapkan panjang jawapan maksimum sejagat yang bebas. Templat sembang rujukan merangkumi arahan sistem lalai untuk respons profesional, tepat dan selamat. Senarai medan atau artifak kod yang diminta masih memerlukan arahan tugasnya sendiri yang jelas.\n\nIBM menyatakan prestasi berbilang bahasa boleh berbeza daripada bahasa Inggeris kerana latihan arahan kebanyakannya dalam bahasa Inggeris; beberapa contoh berkaitan tugas mungkin membantu. Ia turut mengakui kemungkinan respons tidak tepat atau berat sebelah. Semak nilai yang diperoleh daripada sumber dan kod yang dijana berdasarkan input, dan kembalikan pemerhatian sebenar apabila tugas memerlukan pembetulan. Output H Micro yang berguna ialah hasil teks atau kod terfokus dengan identiti tepat Micro hibrid dikekalkan.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Extract traceable requirements\n\nExtract requirements from this passage: '[R1] Export filenames must include the report ID. [R2] Reports with no rows must still include column headings. [R3] Files are encoded as UTF-8.' Return a table with requirement ID, implementation requirement and the exact supporting sentence. Keep each requirement separate and add no implementation details absent from the source.A three-row table retaining each ID, requirement and exact source sentence.Check every extracted requirement maps one-to-one to R1, R2 or R3 without added conditions.ibm-granite/granite-4.0-h-microGranite 4.0 H Micro ialah model teks hibrid Mamba-2/transformer 3B daripada IBM untuk tugas perusahaan terfokus. Konteks 128K menyokong peringkasan, pengekstrakan, soalan, pengekodan dan panggilan fungsi, dengan dialog berbilang bahasa serta pelengkapan kod pengisian bahagian tengah.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Granite 4.0 H Micro ialah model arahan konteks panjang 3 bilion parameter daripada IBM, ditala halus daripada Granite 4.0 H Micro Base. Ia ialah edisi Micro padat hibrid, menggabungkan Mamba-2 dan perhatian, bukannya Micro transformer tulen atau varian campuran pakar yang lebih besar. Model menerima arahan teks dan konteks serta mengembalikan teks, menjadikannya komponen binaan padat untuk pembantu perusahaan dan langkah khusus dalam tugas ejen.
Jadual seni bina pengeluar menyenaraikan empat lapisan perhatian dan tiga puluh enam lapisan Mamba-2, dengan panjang urutan 128K. Model arahan menggunakan penalaan halus terselia, penjajaran pembelajaran pengukuhan dan penggabungan model. Bahan latihannya merangkumi data arahan berlesen permisif, data sintetik dan contoh yang dikurasi manusia. Struktur hibrid ialah sifat edisi; ia tidak patut diganti dengan profil parameter atau pakar aktif model Granite yang lain.
Pembuat menyenaraikan dua belas bahasa yang disokong dan tugas termasuk peringkasan, pengelasan, pengekstrakan, penjawaban soalan, penjanaan diperkaya pengambilan maklumat, pengekodan dan panggilan fungsi. Berikan petikan sumber sebenar dan terangkan operasi yang diperlukan. Untuk pengekstrakan, takrifkan medan dan cara mewakili nilai yang tiada. Untuk pengelasan, bekalkan maksud kategori dan kes yang menggambarkan sempadan penting.
Contoh ringkasan arahan ialah: “Ekstrak setiap keperluan daripada petikan ini, kekalkan pengecamnya dan petik ayat yang menetapkannya.” Untuk ringkasan, nyatakan khalayak dan fakta yang mesti dikekalkan. Untuk terjemahan, kenal pasti nama dan istilah teknikal yang patut mengekalkan ejaan asalnya. Format akhir yang jelas membantu model arahan kecil menghasilkan artifak yang diperlukan aplikasi.
Kad Granite H Micro menunjukkan takrif alat dengan nama fungsi, penerangan dan skema parameter. Model mengembalikan nama fungsi dan argumen JSON dalam perwakilan panggilan alatnya. Aplikasi yang mengelilinginya melaksanakan operasi yang dipilih, menyemak argumen dan mengembalikan hasil. Tugas carian maklumat patut mengekalkan pemerhatian itu sebagai bukti yang digunakan oleh jawapan.
Dalam aliran kerja pengambilan maklumat, bekalkan bahan dokumen berkaitan dan minta jawapan berasaskannya. Akses sumber ialah tanggungjawab aplikasi; jawapan model teks dijana daripada konteks yang diterimanya. Pastikan label dokumen dan unit kelihatan supaya hasil boleh dijejaki kembali kepada input.
Model menyokong tugas berkaitan kod dan pelengkapan pengisian bahagian tengah. Ringkasan arahan pengekodan patut merangkumi pelaksanaan berkaitan, tingkah laku yang diperhatikan dan tingkah laku yang perlu dikekalkan. Untuk tugas pelengkapan, kenal pasti kod sekeliling dan ruang yang perlu diisi. Minta artifak kod yang dihasilkan dan penerangan yang terikat pada kekangan, kemudian periksa hasil dalam persekitaran pembangunan sebenar.
Konteks 128K merangkumi prom, sumber, perbualan dan respons yang dijana bersama-sama; kad itu tidak menetapkan panjang jawapan maksimum sejagat yang bebas. Templat sembang rujukan merangkumi arahan sistem lalai untuk respons profesional, tepat dan selamat. Senarai medan atau artifak kod yang diminta masih memerlukan arahan tugasnya sendiri yang jelas.
IBM menyatakan prestasi berbilang bahasa boleh berbeza daripada bahasa Inggeris kerana latihan arahan kebanyakannya dalam bahasa Inggeris; beberapa contoh berkaitan tugas mungkin membantu. Ia turut mengakui kemungkinan respons tidak tepat atau berat sebelah. Semak nilai yang diperoleh daripada sumber dan kod yang dijana berdasarkan input, dan kembalikan pemerhatian sebenar apabila tugas memerlukan pembetulan. Output H Micro yang berguna ialah hasil teks atau kod terfokus dengan identiti tepat Micro hibrid dikekalkan.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had ibm-granite/granite-4.0-h-micro | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000034 / 1K token Output · Token output $0.000224 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000034 / 1K token Output · Token output $0.000224 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "ibm-granite/granite-4.0-h-micro", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='ibm-granite/granite-4.0-h-micro',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='ibm-granite/granite-4.0-h-micro',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra ibm-granite/granite-4.0-h-micro
Gunakan laluan kaedah yang dipaparkan di atas.
ibm-granite/granite-4.0-h-microGranite 4.0 H Micro ialah model teks hibrid Mamba-2/transformer 3B daripada IBM untuk tugas perusahaan terfokus. Konteks 128K menyokong peringkasan, pengekstrakan, soalan, pengekodan dan panggilan fungsi, dengan dialog berbilang bahasa serta pelengkapan kod pengisian bahagian tengah.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Granite 4.0 H Micro ialah model arahan konteks panjang 3 bilion parameter daripada IBM, ditala halus daripada Granite 4.0 H Micro Base. Ia ialah edisi Micro padat hibrid, menggabungkan Mamba-2 dan perhatian, bukannya Micro transformer tulen atau varian campuran pakar yang lebih besar. Model menerima arahan teks dan konteks serta mengembalikan teks, menjadikannya komponen binaan padat untuk pembantu perusahaan dan langkah khusus dalam tugas ejen.
Jadual seni bina pengeluar menyenaraikan empat lapisan perhatian dan tiga puluh enam lapisan Mamba-2, dengan panjang urutan 128K. Model arahan menggunakan penalaan halus terselia, penjajaran pembelajaran pengukuhan dan penggabungan model. Bahan latihannya merangkumi data arahan berlesen permisif, data sintetik dan contoh yang dikurasi manusia. Struktur hibrid ialah sifat edisi; ia tidak patut diganti dengan profil parameter atau pakar aktif model Granite yang lain.
Pembuat menyenaraikan dua belas bahasa yang disokong dan tugas termasuk peringkasan, pengelasan, pengekstrakan, penjawaban soalan, penjanaan diperkaya pengambilan maklumat, pengekodan dan panggilan fungsi. Berikan petikan sumber sebenar dan terangkan operasi yang diperlukan. Untuk pengekstrakan, takrifkan medan dan cara mewakili nilai yang tiada. Untuk pengelasan, bekalkan maksud kategori dan kes yang menggambarkan sempadan penting.
Contoh ringkasan arahan ialah: “Ekstrak setiap keperluan daripada petikan ini, kekalkan pengecamnya dan petik ayat yang menetapkannya.” Untuk ringkasan, nyatakan khalayak dan fakta yang mesti dikekalkan. Untuk terjemahan, kenal pasti nama dan istilah teknikal yang patut mengekalkan ejaan asalnya. Format akhir yang jelas membantu model arahan kecil menghasilkan artifak yang diperlukan aplikasi.
Kad Granite H Micro menunjukkan takrif alat dengan nama fungsi, penerangan dan skema parameter. Model mengembalikan nama fungsi dan argumen JSON dalam perwakilan panggilan alatnya. Aplikasi yang mengelilinginya melaksanakan operasi yang dipilih, menyemak argumen dan mengembalikan hasil. Tugas carian maklumat patut mengekalkan pemerhatian itu sebagai bukti yang digunakan oleh jawapan.
Dalam aliran kerja pengambilan maklumat, bekalkan bahan dokumen berkaitan dan minta jawapan berasaskannya. Akses sumber ialah tanggungjawab aplikasi; jawapan model teks dijana daripada konteks yang diterimanya. Pastikan label dokumen dan unit kelihatan supaya hasil boleh dijejaki kembali kepada input.
Model menyokong tugas berkaitan kod dan pelengkapan pengisian bahagian tengah. Ringkasan arahan pengekodan patut merangkumi pelaksanaan berkaitan, tingkah laku yang diperhatikan dan tingkah laku yang perlu dikekalkan. Untuk tugas pelengkapan, kenal pasti kod sekeliling dan ruang yang perlu diisi. Minta artifak kod yang dihasilkan dan penerangan yang terikat pada kekangan, kemudian periksa hasil dalam persekitaran pembangunan sebenar.
Konteks 128K merangkumi prom, sumber, perbualan dan respons yang dijana bersama-sama; kad itu tidak menetapkan panjang jawapan maksimum sejagat yang bebas. Templat sembang rujukan merangkumi arahan sistem lalai untuk respons profesional, tepat dan selamat. Senarai medan atau artifak kod yang diminta masih memerlukan arahan tugasnya sendiri yang jelas.
IBM menyatakan prestasi berbilang bahasa boleh berbeza daripada bahasa Inggeris kerana latihan arahan kebanyakannya dalam bahasa Inggeris; beberapa contoh berkaitan tugas mungkin membantu. Ia turut mengakui kemungkinan respons tidak tepat atau berat sebelah. Semak nilai yang diperoleh daripada sumber dan kod yang dijana berdasarkan input, dan kembalikan pemerhatian sebenar apabila tugas memerlukan pembetulan. Output H Micro yang berguna ialah hasil teks atau kod terfokus dengan identiti tepat Micro hibrid dikekalkan.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had ibm-granite/granite-4.0-h-micro | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000034 / 1K token Output · Token output $0.000224 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000034 / 1K token Output · Token output $0.000224 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "ibm-granite/granite-4.0-h-micro",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'ibm-granite/granite-4.0-h-micro', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'ibm-granite/granite-4.0-h-micro', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra ibm-granite/granite-4.0-h-micro
Gunakan laluan kaedah yang dipaparkan di atas.
Contoh teknikal dalam bahasa Inggeris
Extract traceable requirements\n\nExtract requirements from this passage: '[R1] Export filenames must include the report ID. [R2] Reports with no rows must still include column headings. [R3] Files are encoded as UTF-8.' Return a table with requirement ID, implementation requirement and the exact supporting sentence. Keep each requirement separate and add no implementation details absent from the source.A three-row table retaining each ID, requirement and exact source sentence.Check every extracted requirement maps one-to-one to R1, R2 or R3 without added conditions.