Granite 4.0 H Micro adalah model instruksi konteks panjang 3 miliar parameter dari IBM, yang di-fine-tune dari Granite 4.0 H Micro Base. Ini adalah edisi Micro dense hibrida, yang menggabungkan Mamba-2 dan attention, berbeda dari Micro transformer murni atau varian mixture-of-experts yang lebih besar. Model menerima instruksi teks serta konteks dan mengembalikan teks, menjadikannya komponen ringkas untuk asisten perusahaan dan langkah tertentu dalam tugas agen.
Tabel arsitektur produsen mencantumkan empat lapisan attention dan tiga puluh enam lapisan Mamba-2, dengan panjang urutan 128K. Model instruksi menggunakan fine-tuning terawasi, penyelarasan pembelajaran penguatan, dan penggabungan model. Materi pelatihannya mencakup data instruksi berlisensi permisif, data sintetis, dan contoh yang dikurasi manusia. Struktur hibrida adalah sifat edisi; struktur ini tidak boleh diganti dengan profil parameter atau expert aktif dari model Granite lain.
Pembuat mencantumkan dua belas bahasa yang didukung serta tugas seperti peringkasan, klasifikasi, ekstraksi, tanya jawab, pembangkitan yang diperkuat pengambilan informasi, pemrograman, dan pemanggilan fungsi. Berikan bagian sumber sebenarnya dan jelaskan operasi yang diperlukan. Untuk ekstraksi, tentukan kolom dan cara merepresentasikan nilai yang tidak tersedia. Untuk klasifikasi, berikan arti kategori dan kasus yang menggambarkan batas penting.
Contoh arahan adalah: “Ekstrak setiap persyaratan dari bagian ini, pertahankan pengenalnya, dan kutip kalimat yang menetapkannya.” Untuk ringkasan, nyatakan audiens dan fakta yang harus tetap ada. Untuk penerjemahan, identifikasi nama dan istilah teknis yang perlu mempertahankan ejaan asli. Format akhir yang jelas membantu model instruksi kecil menghasilkan artefak yang diperlukan aplikasi.
Kartu Granite H Micro mendemonstrasikan definisi alat dengan nama fungsi, deskripsi, dan skema parameter. Model mengembalikan nama fungsi dan argumen JSON dalam representasi panggilan alatnya. Aplikasi yang mengelilinginya menjalankan operasi terpilih, memeriksa argumen, dan mengembalikan hasil. Tugas pencarian nilai perlu mempertahankan pengamatan tersebut sebagai bukti yang digunakan jawaban.
Dalam alur pengambilan informasi, berikan materi dokumen relevan dan minta jawaban yang berlandaskan materi itu. Akses sumber berada pada aplikasi; jawaban model teks dibangkitkan dari konteks yang diterimanya. Jaga label dokumen dan satuan tetap terlihat agar hasil dapat ditelusuri kembali ke masukan.
Model mendukung tugas terkait kode dan pelengkapan fill-in-the-middle. Arahan pemrograman perlu mencakup implementasi relevan, perilaku yang diamati, dan perilaku yang harus dipertahankan. Untuk tugas pelengkapan, tentukan kode di sekitarnya dan celah yang harus diisi. Mintalah artefak kode hasil dan penjelasan yang terkait dengan batasan, lalu periksa hasil dalam lingkungan pengembangan sebenarnya.
Konteks 128K mencakup prompt, sumber, percakapan, dan respons yang dibangkitkan secara bersama; kartu tidak menetapkan panjang jawaban maksimum universal yang berdiri sendiri. Templat chat referensi mencakup instruksi sistem bawaan untuk respons profesional, akurat, dan aman. Daftar kolom atau artefak kode yang diminta tetap membutuhkan instruksi tugas eksplisitnya sendiri.
IBM menyatakan kinerja multibahasa dapat berbeda dari bahasa Inggris karena pelatihan instruksi didominasi bahasa Inggris; beberapa contoh relevan dengan tugas dapat membantu. IBM juga mengakui kemungkinan respons tidak akurat atau bias. Periksa nilai yang berasal dari sumber dan kode yang dibangkitkan terhadap masukan, dan kembalikan pengamatan nyata jika tugas memerlukan koreksi. Keluaran H Micro yang berguna adalah hasil teks atau kode terfokus dengan identitas Micro hibrida persis tetap dipertahankan.
", "aboutText": "Granite 4.0 H Micro adalah model instruksi konteks panjang 3 miliar parameter dari IBM, yang di-fine-tune dari Granite 4.0 H Micro Base. Ini adalah edisi Micro dense hibrida, yang menggabungkan Mamba-2 dan attention, berbeda dari Micro transformer murni atau varian mixture-of-experts yang lebih besar. Model menerima instruksi teks serta konteks dan mengembalikan teks, menjadikannya komponen ringkas untuk asisten perusahaan dan langkah tertentu dalam tugas agen.\n\n### Struktur model dan pelatihan\n\nTabel arsitektur produsen mencantumkan empat lapisan attention dan tiga puluh enam lapisan Mamba-2, dengan panjang urutan 128K. Model instruksi menggunakan fine-tuning terawasi, penyelarasan pembelajaran penguatan, dan penggabungan model. Materi pelatihannya mencakup data instruksi berlisensi permisif, data sintetis, dan contoh yang dikurasi manusia. Struktur hibrida adalah sifat edisi; struktur ini tidak boleh diganti dengan profil parameter atau expert aktif dari model Granite lain.\n\n### Bahasa dan tugas terfokus\n\nPembuat mencantumkan dua belas bahasa yang didukung serta tugas seperti peringkasan, klasifikasi, ekstraksi, tanya jawab, pembangkitan yang diperkuat pengambilan informasi, pemrograman, dan pemanggilan fungsi. Berikan bagian sumber sebenarnya dan jelaskan operasi yang diperlukan. Untuk ekstraksi, tentukan kolom dan cara merepresentasikan nilai yang tidak tersedia. Untuk klasifikasi, berikan arti kategori dan kasus yang menggambarkan batas penting.\n\nContoh arahan adalah: “Ekstrak setiap persyaratan dari bagian ini, pertahankan pengenalnya, dan kutip kalimat yang menetapkannya.” Untuk ringkasan, nyatakan audiens dan fakta yang harus tetap ada. Untuk penerjemahan, identifikasi nama dan istilah teknis yang perlu mempertahankan ejaan asli. Format akhir yang jelas membantu model instruksi kecil menghasilkan artefak yang diperlukan aplikasi.\n\n### Alat dan jawaban berdasarkan sumber\n\nKartu Granite H Micro mendemonstrasikan definisi alat dengan nama fungsi, deskripsi, dan skema parameter. Model mengembalikan nama fungsi dan argumen JSON dalam representasi panggilan alatnya. Aplikasi yang mengelilinginya menjalankan operasi terpilih, memeriksa argumen, dan mengembalikan hasil. Tugas pencarian nilai perlu mempertahankan pengamatan tersebut sebagai bukti yang digunakan jawaban.\n\nDalam alur pengambilan informasi, berikan materi dokumen relevan dan minta jawaban yang berlandaskan materi itu. Akses sumber berada pada aplikasi; jawaban model teks dibangkitkan dari konteks yang diterimanya. Jaga label dokumen dan satuan tetap terlihat agar hasil dapat ditelusuri kembali ke masukan.\n\n### Pemrograman dan pelengkapan\n\nModel mendukung tugas terkait kode dan pelengkapan fill-in-the-middle. Arahan pemrograman perlu mencakup implementasi relevan, perilaku yang diamati, dan perilaku yang harus dipertahankan. Untuk tugas pelengkapan, tentukan kode di sekitarnya dan celah yang harus diisi. Mintalah artefak kode hasil dan penjelasan yang terkait dengan batasan, lalu periksa hasil dalam lingkungan pengembangan sebenarnya.\n\n### Konteks dan keterbatasan\n\nKonteks 128K mencakup prompt, sumber, percakapan, dan respons yang dibangkitkan secara bersama; kartu tidak menetapkan panjang jawaban maksimum universal yang berdiri sendiri. Templat chat referensi mencakup instruksi sistem bawaan untuk respons profesional, akurat, dan aman. Daftar kolom atau artefak kode yang diminta tetap membutuhkan instruksi tugas eksplisitnya sendiri.\n\nIBM menyatakan kinerja multibahasa dapat berbeda dari bahasa Inggris karena pelatihan instruksi didominasi bahasa Inggris; beberapa contoh relevan dengan tugas dapat membantu. IBM juga mengakui kemungkinan respons tidak akurat atau bias. Periksa nilai yang berasal dari sumber dan kode yang dibangkitkan terhadap masukan, dan kembalikan pengamatan nyata jika tugas memerlukan koreksi. Keluaran H Micro yang berguna adalah hasil teks atau kode terfokus dengan identitas Micro hibrida persis tetap dipertahankan.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
Extract traceable requirements\n\nExtract requirements from this passage: '[R1] Export filenames must include the report ID. [R2] Reports with no rows must still include column headings. [R3] Files are encoded as UTF-8.' Return a table with requirement ID, implementation requirement and the exact supporting sentence. Keep each requirement separate and add no implementation details absent from the source.A three-row table retaining each ID, requirement and exact source sentence.Check every extracted requirement maps one-to-one to R1, R2 or R3 without added conditions.ibm-granite/granite-4.0-h-microGranite 4.0 H Micro adalah model teks hibrida Mamba-2/transformer 3 miliar parameter dari IBM untuk tugas perusahaan yang terfokus. Konteks 128K mendukung peringkasan, ekstraksi, pertanyaan, pemrograman, dan pemanggilan fungsi, dengan dialog multibahasa serta pelengkapan kode fill-in-the-middle.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Granite 4.0 H Micro adalah model instruksi konteks panjang 3 miliar parameter dari IBM, yang di-fine-tune dari Granite 4.0 H Micro Base. Ini adalah edisi Micro dense hibrida, yang menggabungkan Mamba-2 dan attention, berbeda dari Micro transformer murni atau varian mixture-of-experts yang lebih besar. Model menerima instruksi teks serta konteks dan mengembalikan teks, menjadikannya komponen ringkas untuk asisten perusahaan dan langkah tertentu dalam tugas agen.
Tabel arsitektur produsen mencantumkan empat lapisan attention dan tiga puluh enam lapisan Mamba-2, dengan panjang urutan 128K. Model instruksi menggunakan fine-tuning terawasi, penyelarasan pembelajaran penguatan, dan penggabungan model. Materi pelatihannya mencakup data instruksi berlisensi permisif, data sintetis, dan contoh yang dikurasi manusia. Struktur hibrida adalah sifat edisi; struktur ini tidak boleh diganti dengan profil parameter atau expert aktif dari model Granite lain.
Pembuat mencantumkan dua belas bahasa yang didukung serta tugas seperti peringkasan, klasifikasi, ekstraksi, tanya jawab, pembangkitan yang diperkuat pengambilan informasi, pemrograman, dan pemanggilan fungsi. Berikan bagian sumber sebenarnya dan jelaskan operasi yang diperlukan. Untuk ekstraksi, tentukan kolom dan cara merepresentasikan nilai yang tidak tersedia. Untuk klasifikasi, berikan arti kategori dan kasus yang menggambarkan batas penting.
Contoh arahan adalah: “Ekstrak setiap persyaratan dari bagian ini, pertahankan pengenalnya, dan kutip kalimat yang menetapkannya.” Untuk ringkasan, nyatakan audiens dan fakta yang harus tetap ada. Untuk penerjemahan, identifikasi nama dan istilah teknis yang perlu mempertahankan ejaan asli. Format akhir yang jelas membantu model instruksi kecil menghasilkan artefak yang diperlukan aplikasi.
Kartu Granite H Micro mendemonstrasikan definisi alat dengan nama fungsi, deskripsi, dan skema parameter. Model mengembalikan nama fungsi dan argumen JSON dalam representasi panggilan alatnya. Aplikasi yang mengelilinginya menjalankan operasi terpilih, memeriksa argumen, dan mengembalikan hasil. Tugas pencarian nilai perlu mempertahankan pengamatan tersebut sebagai bukti yang digunakan jawaban.
Dalam alur pengambilan informasi, berikan materi dokumen relevan dan minta jawaban yang berlandaskan materi itu. Akses sumber berada pada aplikasi; jawaban model teks dibangkitkan dari konteks yang diterimanya. Jaga label dokumen dan satuan tetap terlihat agar hasil dapat ditelusuri kembali ke masukan.
Model mendukung tugas terkait kode dan pelengkapan fill-in-the-middle. Arahan pemrograman perlu mencakup implementasi relevan, perilaku yang diamati, dan perilaku yang harus dipertahankan. Untuk tugas pelengkapan, tentukan kode di sekitarnya dan celah yang harus diisi. Mintalah artefak kode hasil dan penjelasan yang terkait dengan batasan, lalu periksa hasil dalam lingkungan pengembangan sebenarnya.
Konteks 128K mencakup prompt, sumber, percakapan, dan respons yang dibangkitkan secara bersama; kartu tidak menetapkan panjang jawaban maksimum universal yang berdiri sendiri. Templat chat referensi mencakup instruksi sistem bawaan untuk respons profesional, akurat, dan aman. Daftar kolom atau artefak kode yang diminta tetap membutuhkan instruksi tugas eksplisitnya sendiri.
IBM menyatakan kinerja multibahasa dapat berbeda dari bahasa Inggris karena pelatihan instruksi didominasi bahasa Inggris; beberapa contoh relevan dengan tugas dapat membantu. IBM juga mengakui kemungkinan respons tidak akurat atau bias. Periksa nilai yang berasal dari sumber dan kode yang dibangkitkan terhadap masukan, dan kembalikan pengamatan nyata jika tugas memerlukan koreksi. Keluaran H Micro yang berguna adalah hasil teks atau kode terfokus dengan identitas Micro hibrida persis tetap dipertahankan.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan ibm-granite/granite-4.0-h-micro | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000034 / 1K token Keluaran · Token keluaran $0.000224 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000034 / 1K token Keluaran · Token keluaran $0.000224 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "ibm-granite/granite-4.0-h-micro", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='ibm-granite/granite-4.0-h-micro',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='ibm-granite/granite-4.0-h-micro',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra ibm-granite/granite-4.0-h-micro
Gunakan jalur metode yang ditampilkan di atas.
ibm-granite/granite-4.0-h-microGranite 4.0 H Micro adalah model teks hibrida Mamba-2/transformer 3 miliar parameter dari IBM untuk tugas perusahaan yang terfokus. Konteks 128K mendukung peringkasan, ekstraksi, pertanyaan, pemrograman, dan pemanggilan fungsi, dengan dialog multibahasa serta pelengkapan kode fill-in-the-middle.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Granite 4.0 H Micro adalah model instruksi konteks panjang 3 miliar parameter dari IBM, yang di-fine-tune dari Granite 4.0 H Micro Base. Ini adalah edisi Micro dense hibrida, yang menggabungkan Mamba-2 dan attention, berbeda dari Micro transformer murni atau varian mixture-of-experts yang lebih besar. Model menerima instruksi teks serta konteks dan mengembalikan teks, menjadikannya komponen ringkas untuk asisten perusahaan dan langkah tertentu dalam tugas agen.
Tabel arsitektur produsen mencantumkan empat lapisan attention dan tiga puluh enam lapisan Mamba-2, dengan panjang urutan 128K. Model instruksi menggunakan fine-tuning terawasi, penyelarasan pembelajaran penguatan, dan penggabungan model. Materi pelatihannya mencakup data instruksi berlisensi permisif, data sintetis, dan contoh yang dikurasi manusia. Struktur hibrida adalah sifat edisi; struktur ini tidak boleh diganti dengan profil parameter atau expert aktif dari model Granite lain.
Pembuat mencantumkan dua belas bahasa yang didukung serta tugas seperti peringkasan, klasifikasi, ekstraksi, tanya jawab, pembangkitan yang diperkuat pengambilan informasi, pemrograman, dan pemanggilan fungsi. Berikan bagian sumber sebenarnya dan jelaskan operasi yang diperlukan. Untuk ekstraksi, tentukan kolom dan cara merepresentasikan nilai yang tidak tersedia. Untuk klasifikasi, berikan arti kategori dan kasus yang menggambarkan batas penting.
Contoh arahan adalah: “Ekstrak setiap persyaratan dari bagian ini, pertahankan pengenalnya, dan kutip kalimat yang menetapkannya.” Untuk ringkasan, nyatakan audiens dan fakta yang harus tetap ada. Untuk penerjemahan, identifikasi nama dan istilah teknis yang perlu mempertahankan ejaan asli. Format akhir yang jelas membantu model instruksi kecil menghasilkan artefak yang diperlukan aplikasi.
Kartu Granite H Micro mendemonstrasikan definisi alat dengan nama fungsi, deskripsi, dan skema parameter. Model mengembalikan nama fungsi dan argumen JSON dalam representasi panggilan alatnya. Aplikasi yang mengelilinginya menjalankan operasi terpilih, memeriksa argumen, dan mengembalikan hasil. Tugas pencarian nilai perlu mempertahankan pengamatan tersebut sebagai bukti yang digunakan jawaban.
Dalam alur pengambilan informasi, berikan materi dokumen relevan dan minta jawaban yang berlandaskan materi itu. Akses sumber berada pada aplikasi; jawaban model teks dibangkitkan dari konteks yang diterimanya. Jaga label dokumen dan satuan tetap terlihat agar hasil dapat ditelusuri kembali ke masukan.
Model mendukung tugas terkait kode dan pelengkapan fill-in-the-middle. Arahan pemrograman perlu mencakup implementasi relevan, perilaku yang diamati, dan perilaku yang harus dipertahankan. Untuk tugas pelengkapan, tentukan kode di sekitarnya dan celah yang harus diisi. Mintalah artefak kode hasil dan penjelasan yang terkait dengan batasan, lalu periksa hasil dalam lingkungan pengembangan sebenarnya.
Konteks 128K mencakup prompt, sumber, percakapan, dan respons yang dibangkitkan secara bersama; kartu tidak menetapkan panjang jawaban maksimum universal yang berdiri sendiri. Templat chat referensi mencakup instruksi sistem bawaan untuk respons profesional, akurat, dan aman. Daftar kolom atau artefak kode yang diminta tetap membutuhkan instruksi tugas eksplisitnya sendiri.
IBM menyatakan kinerja multibahasa dapat berbeda dari bahasa Inggris karena pelatihan instruksi didominasi bahasa Inggris; beberapa contoh relevan dengan tugas dapat membantu. IBM juga mengakui kemungkinan respons tidak akurat atau bias. Periksa nilai yang berasal dari sumber dan kode yang dibangkitkan terhadap masukan, dan kembalikan pengamatan nyata jika tugas memerlukan koreksi. Keluaran H Micro yang berguna adalah hasil teks atau kode terfokus dengan identitas Micro hibrida persis tetap dipertahankan.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan ibm-granite/granite-4.0-h-micro | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000034 / 1K token Keluaran · Token keluaran $0.000224 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000034 / 1K token Keluaran · Token keluaran $0.000224 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "ibm-granite/granite-4.0-h-micro",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'ibm-granite/granite-4.0-h-micro', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'ibm-granite/granite-4.0-h-micro', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra ibm-granite/granite-4.0-h-micro
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
Extract traceable requirements\n\nExtract requirements from this passage: '[R1] Export filenames must include the report ID. [R2] Reports with no rows must still include column headings. [R3] Files are encoded as UTF-8.' Return a table with requirement ID, implementation requirement and the exact supporting sentence. Keep each requirement separate and add no implementation details absent from the source.A three-row table retaining each ID, requirement and exact source sentence.Check every extracted requirement maps one-to-one to R1, R2 or R3 without added conditions.