Gemma 2 27B IT adalah edisi Gemma 2 dari Google dengan 27 miliar parameter yang disesuaikan dengan instruksi. Model ini memiliki bobot terbuka dan hanya menggunakan decoder, menerima teks serta menghasilkan teks, dengan fokus pada bahasa Inggris. Tugas yang dituju mencakup tanya jawab, peringkasan, penalaran, penulisan kreatif, dan pekerjaan terkait kode. IT mengidentifikasi varian yang disesuaikan dengan instruksi, yang berbeda dari model pralatih dan turunan terkuantisasi yang terpisah.
Laporan teknis mendokumentasikan konteks 8192 token. Gemma 2 menyelang-selingkan atensi lokal dengan jendela geser 4096 token dan atensi global yang mencakup seluruh konteks; arsitektur 27B memiliki 46 lapisan dan atensi kueri berkelompok. Ini adalah karakteristik model pembuatnya, bukan pengaturan panjang respons aplikasi. Siapkan kutipan sumber yang terfokus dan sisakan ruang bagi jawaban serta percakapan yang diminta, alih-alih menganggap model ini memiliki konteks yang jauh lebih besar seperti generasi Gemma berikutnya.
Model dasar 27B dilatih dari awal dengan 13 triliun token yang terutama berupa teks bahasa Inggris. Sumber yang didokumentasikan mencakup dokumen web, kode, dan materi matematika atau ilmiah. Laporan membedakan pelatihan ini dari distilasi yang digunakan untuk model dasar 2B dan 9B yang lebih kecil. Penyesuaian instruksi menambahkan pelatihan prompt-respons dengan supervisi dan penyempurnaan berbasis preferensi untuk respons percakapan. Ini memberi edisi IT profil penggunaan yang berbeda dari melanjutkan teks sembarang dengan model pralatih.
Untuk ringkasan dokumen, berikan bagian teks dan nyatakan apa yang dibutuhkan pembaca: keputusan, persyaratan, penjelasan, atau kumpulan singkat poin utama. Contoh deskripsinya: “Ringkas spesifikasi ini untuk teknisi dukungan. Pertahankan semua nama field, bedakan persyaratan eksplisit dari contoh, dan sebutkan detail yang tidak ditentukan bagian teks ini.” Jika fakta harus berasal dari sumber, minta redaksi yang relevan atau referensi bagian bersama penjelasannya.
Penggunaan percakapan mengikuti templat giliran user/model Gemma 2. Kartu model Google yang tepat menunjukkan cara menjaga dialog dalam templat tersebut, dengan pembatas yang mengidentifikasi awal dan akhir setiap giliran, sehingga tindak lanjut dapat dibangun dari respons sebelumnya. Format yang didokumentasikan berbeda dari peran system native dan kontrol berpikir baru Gemma 4. Percakapan praktis dapat mengekstrak fakta terlebih dahulu, lalu meminta penjelasan yang lebih singkat atau draf pesan sambil mempertahankan nama serta kondisi yang diekstrak.
Untuk kode, sertakan potongan yang relevan, bahasa pemrograman, perilaku yang diamati, dan hasil yang diharapkan. Minta penjelasan, usulan koreksi, atau contoh yang dikerjakan, dengan cakupan yang dinyatakan. Untuk penalaran matematika, tulis soal lengkap, definisi variabel, dan asumsi sebagai teks. Edisi ini tidak memiliki masukan visual atau audio native: soal yang difoto atau penjelasan lisan perlu ditranskripsikan menjadi teks terlebih dahulu. Keluaran dapat memuat kode atau jawaban berformat, tetapi bentuk teks tersebut tidak membuktikan adanya mode pemanggilan alat khusus atau keluaran terkendala.
Kartu model mengidentifikasi ambiguitas, sarkasme, instruksi terbuka yang kompleks, dan akurasi fakta sebagai area yang dapat membatasi respons. Untuk jawaban berbasis sumber, berikan bagian teks yang menjadi acuan dan minta model menyatakan di mana informasi tidak tersedia. Untuk tugas penyuntingan, tentukan pembaca, nada, fakta yang diperlukan, dan bagian yang boleh diubah. Hasil yang berguna adalah jawaban bahasa Inggris, ringkasan, draf, atau penjelasan kode yang terfokus dan dapat dibandingkan dengan materi serta kondisi yang diberikan dalam prompt.
", "aboutText": "Gemma 2 27B IT adalah edisi Gemma 2 dari Google dengan 27 miliar parameter yang disesuaikan dengan instruksi. Model ini memiliki bobot terbuka dan hanya menggunakan decoder, menerima teks serta menghasilkan teks, dengan fokus pada bahasa Inggris. Tugas yang dituju mencakup tanya jawab, peringkasan, penalaran, penulisan kreatif, dan pekerjaan terkait kode. IT mengidentifikasi varian yang disesuaikan dengan instruksi, yang berbeda dari model pralatih dan turunan terkuantisasi yang terpisah.\n\nLaporan teknis mendokumentasikan konteks 8192 token. Gemma 2 menyelang-selingkan atensi lokal dengan jendela geser 4096 token dan atensi global yang mencakup seluruh konteks; arsitektur 27B memiliki 46 lapisan dan atensi kueri berkelompok. Ini adalah karakteristik model pembuatnya, bukan pengaturan panjang respons aplikasi. Siapkan kutipan sumber yang terfokus dan sisakan ruang bagi jawaban serta percakapan yang diminta, alih-alih menganggap model ini memiliki konteks yang jauh lebih besar seperti generasi Gemma berikutnya.\n\nModel dasar 27B dilatih dari awal dengan 13 triliun token yang terutama berupa teks bahasa Inggris. Sumber yang didokumentasikan mencakup dokumen web, kode, dan materi matematika atau ilmiah. Laporan membedakan pelatihan ini dari distilasi yang digunakan untuk model dasar 2B dan 9B yang lebih kecil. Penyesuaian instruksi menambahkan pelatihan prompt-respons dengan supervisi dan penyempurnaan berbasis preferensi untuk respons percakapan. Ini memberi edisi IT profil penggunaan yang berbeda dari melanjutkan teks sembarang dengan model pralatih.\n\nUntuk ringkasan dokumen, berikan bagian teks dan nyatakan apa yang dibutuhkan pembaca: keputusan, persyaratan, penjelasan, atau kumpulan singkat poin utama. Contoh deskripsinya: “Ringkas spesifikasi ini untuk teknisi dukungan. Pertahankan semua nama field, bedakan persyaratan eksplisit dari contoh, dan sebutkan detail yang tidak ditentukan bagian teks ini.” Jika fakta harus berasal dari sumber, minta redaksi yang relevan atau referensi bagian bersama penjelasannya.\n\nPenggunaan percakapan mengikuti templat giliran user/model Gemma 2. Kartu model Google yang tepat menunjukkan cara menjaga dialog dalam templat tersebut, dengan pembatas yang mengidentifikasi awal dan akhir setiap giliran, sehingga tindak lanjut dapat dibangun dari respons sebelumnya. Format yang didokumentasikan berbeda dari peran system native dan kontrol berpikir baru Gemma 4. Percakapan praktis dapat mengekstrak fakta terlebih dahulu, lalu meminta penjelasan yang lebih singkat atau draf pesan sambil mempertahankan nama serta kondisi yang diekstrak.\n\nUntuk kode, sertakan potongan yang relevan, bahasa pemrograman, perilaku yang diamati, dan hasil yang diharapkan. Minta penjelasan, usulan koreksi, atau contoh yang dikerjakan, dengan cakupan yang dinyatakan. Untuk penalaran matematika, tulis soal lengkap, definisi variabel, dan asumsi sebagai teks. Edisi ini tidak memiliki masukan visual atau audio native: soal yang difoto atau penjelasan lisan perlu ditranskripsikan menjadi teks terlebih dahulu. Keluaran dapat memuat kode atau jawaban berformat, tetapi bentuk teks tersebut tidak membuktikan adanya mode pemanggilan alat khusus atau keluaran terkendala.\n\nKartu model mengidentifikasi ambiguitas, sarkasme, instruksi terbuka yang kompleks, dan akurasi fakta sebagai area yang dapat membatasi respons. Untuk jawaban berbasis sumber, berikan bagian teks yang menjadi acuan dan minta model menyatakan di mana informasi tidak tersedia. Untuk tugas penyuntingan, tentukan pembaca, nada, fakta yang diperlukan, dan bagian yang boleh diubah. Hasil yang berguna adalah jawaban bahasa Inggris, ringkasan, draf, atau penjelasan kode yang terfokus dan dapat dibandingkan dengan materi serta kondisi yang diberikan dalam prompt.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
Explain a specification for support\n\nSummarize this specification for a support engineer: “retry_after is optional and measured in seconds. If absent, the client must not infer a retry time. Example: retry_after = 30. A failed request may include error_id.” Separate requirements from examples and list what the passage does not define. Keep field names unchanged.A short support note with requirements, examples and unspecified details in separate sections.Check that 30 seconds remains an example and that error_id is not described as mandatory.google/gemma-2-27b-itGemma 2 27B IT adalah model khusus teks dari Google yang disesuaikan dengan instruksi untuk menjawab pertanyaan, membuat ringkasan, menulis, dan menalar dalam bahasa Inggris. Konteks 8192 token dan format percakapannya sesuai untuk tugas berbasis sumber yang terfokus serta penjelasan kode.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Gemma 2 27B IT adalah edisi Gemma 2 dari Google dengan 27 miliar parameter yang disesuaikan dengan instruksi. Model ini memiliki bobot terbuka dan hanya menggunakan decoder, menerima teks serta menghasilkan teks, dengan fokus pada bahasa Inggris. Tugas yang dituju mencakup tanya jawab, peringkasan, penalaran, penulisan kreatif, dan pekerjaan terkait kode. IT mengidentifikasi varian yang disesuaikan dengan instruksi, yang berbeda dari model pralatih dan turunan terkuantisasi yang terpisah.
Laporan teknis mendokumentasikan konteks 8192 token. Gemma 2 menyelang-selingkan atensi lokal dengan jendela geser 4096 token dan atensi global yang mencakup seluruh konteks; arsitektur 27B memiliki 46 lapisan dan atensi kueri berkelompok. Ini adalah karakteristik model pembuatnya, bukan pengaturan panjang respons aplikasi. Siapkan kutipan sumber yang terfokus dan sisakan ruang bagi jawaban serta percakapan yang diminta, alih-alih menganggap model ini memiliki konteks yang jauh lebih besar seperti generasi Gemma berikutnya.
Model dasar 27B dilatih dari awal dengan 13 triliun token yang terutama berupa teks bahasa Inggris. Sumber yang didokumentasikan mencakup dokumen web, kode, dan materi matematika atau ilmiah. Laporan membedakan pelatihan ini dari distilasi yang digunakan untuk model dasar 2B dan 9B yang lebih kecil. Penyesuaian instruksi menambahkan pelatihan prompt-respons dengan supervisi dan penyempurnaan berbasis preferensi untuk respons percakapan. Ini memberi edisi IT profil penggunaan yang berbeda dari melanjutkan teks sembarang dengan model pralatih.
Untuk ringkasan dokumen, berikan bagian teks dan nyatakan apa yang dibutuhkan pembaca: keputusan, persyaratan, penjelasan, atau kumpulan singkat poin utama. Contoh deskripsinya: “Ringkas spesifikasi ini untuk teknisi dukungan. Pertahankan semua nama field, bedakan persyaratan eksplisit dari contoh, dan sebutkan detail yang tidak ditentukan bagian teks ini.” Jika fakta harus berasal dari sumber, minta redaksi yang relevan atau referensi bagian bersama penjelasannya.
Penggunaan percakapan mengikuti templat giliran user/model Gemma 2. Kartu model Google yang tepat menunjukkan cara menjaga dialog dalam templat tersebut, dengan pembatas yang mengidentifikasi awal dan akhir setiap giliran, sehingga tindak lanjut dapat dibangun dari respons sebelumnya. Format yang didokumentasikan berbeda dari peran system native dan kontrol berpikir baru Gemma 4. Percakapan praktis dapat mengekstrak fakta terlebih dahulu, lalu meminta penjelasan yang lebih singkat atau draf pesan sambil mempertahankan nama serta kondisi yang diekstrak.
Untuk kode, sertakan potongan yang relevan, bahasa pemrograman, perilaku yang diamati, dan hasil yang diharapkan. Minta penjelasan, usulan koreksi, atau contoh yang dikerjakan, dengan cakupan yang dinyatakan. Untuk penalaran matematika, tulis soal lengkap, definisi variabel, dan asumsi sebagai teks. Edisi ini tidak memiliki masukan visual atau audio native: soal yang difoto atau penjelasan lisan perlu ditranskripsikan menjadi teks terlebih dahulu. Keluaran dapat memuat kode atau jawaban berformat, tetapi bentuk teks tersebut tidak membuktikan adanya mode pemanggilan alat khusus atau keluaran terkendala.
Kartu model mengidentifikasi ambiguitas, sarkasme, instruksi terbuka yang kompleks, dan akurasi fakta sebagai area yang dapat membatasi respons. Untuk jawaban berbasis sumber, berikan bagian teks yang menjadi acuan dan minta model menyatakan di mana informasi tidak tersedia. Untuk tugas penyuntingan, tentukan pembaca, nada, fakta yang diperlukan, dan bagian yang boleh diubah. Hasil yang berguna adalah jawaban bahasa Inggris, ringkasan, draf, atau penjelasan kode yang terfokus dan dapat dibandingkan dengan materi serta kondisi yang diberikan dalam prompt.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan google/gemma-2-27b-it | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.0013 / 1K token Keluaran · Token keluaran $0.0013 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.0013 / 1K token Keluaran · Token keluaran $0.0013 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "google/gemma-2-27b-it", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='google/gemma-2-27b-it',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='google/gemma-2-27b-it',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra google/gemma-2-27b-it
Gunakan jalur metode yang ditampilkan di atas.
google/gemma-2-27b-itGemma 2 27B IT adalah model khusus teks dari Google yang disesuaikan dengan instruksi untuk menjawab pertanyaan, membuat ringkasan, menulis, dan menalar dalam bahasa Inggris. Konteks 8192 token dan format percakapannya sesuai untuk tugas berbasis sumber yang terfokus serta penjelasan kode.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Gemma 2 27B IT adalah edisi Gemma 2 dari Google dengan 27 miliar parameter yang disesuaikan dengan instruksi. Model ini memiliki bobot terbuka dan hanya menggunakan decoder, menerima teks serta menghasilkan teks, dengan fokus pada bahasa Inggris. Tugas yang dituju mencakup tanya jawab, peringkasan, penalaran, penulisan kreatif, dan pekerjaan terkait kode. IT mengidentifikasi varian yang disesuaikan dengan instruksi, yang berbeda dari model pralatih dan turunan terkuantisasi yang terpisah.
Laporan teknis mendokumentasikan konteks 8192 token. Gemma 2 menyelang-selingkan atensi lokal dengan jendela geser 4096 token dan atensi global yang mencakup seluruh konteks; arsitektur 27B memiliki 46 lapisan dan atensi kueri berkelompok. Ini adalah karakteristik model pembuatnya, bukan pengaturan panjang respons aplikasi. Siapkan kutipan sumber yang terfokus dan sisakan ruang bagi jawaban serta percakapan yang diminta, alih-alih menganggap model ini memiliki konteks yang jauh lebih besar seperti generasi Gemma berikutnya.
Model dasar 27B dilatih dari awal dengan 13 triliun token yang terutama berupa teks bahasa Inggris. Sumber yang didokumentasikan mencakup dokumen web, kode, dan materi matematika atau ilmiah. Laporan membedakan pelatihan ini dari distilasi yang digunakan untuk model dasar 2B dan 9B yang lebih kecil. Penyesuaian instruksi menambahkan pelatihan prompt-respons dengan supervisi dan penyempurnaan berbasis preferensi untuk respons percakapan. Ini memberi edisi IT profil penggunaan yang berbeda dari melanjutkan teks sembarang dengan model pralatih.
Untuk ringkasan dokumen, berikan bagian teks dan nyatakan apa yang dibutuhkan pembaca: keputusan, persyaratan, penjelasan, atau kumpulan singkat poin utama. Contoh deskripsinya: “Ringkas spesifikasi ini untuk teknisi dukungan. Pertahankan semua nama field, bedakan persyaratan eksplisit dari contoh, dan sebutkan detail yang tidak ditentukan bagian teks ini.” Jika fakta harus berasal dari sumber, minta redaksi yang relevan atau referensi bagian bersama penjelasannya.
Penggunaan percakapan mengikuti templat giliran user/model Gemma 2. Kartu model Google yang tepat menunjukkan cara menjaga dialog dalam templat tersebut, dengan pembatas yang mengidentifikasi awal dan akhir setiap giliran, sehingga tindak lanjut dapat dibangun dari respons sebelumnya. Format yang didokumentasikan berbeda dari peran system native dan kontrol berpikir baru Gemma 4. Percakapan praktis dapat mengekstrak fakta terlebih dahulu, lalu meminta penjelasan yang lebih singkat atau draf pesan sambil mempertahankan nama serta kondisi yang diekstrak.
Untuk kode, sertakan potongan yang relevan, bahasa pemrograman, perilaku yang diamati, dan hasil yang diharapkan. Minta penjelasan, usulan koreksi, atau contoh yang dikerjakan, dengan cakupan yang dinyatakan. Untuk penalaran matematika, tulis soal lengkap, definisi variabel, dan asumsi sebagai teks. Edisi ini tidak memiliki masukan visual atau audio native: soal yang difoto atau penjelasan lisan perlu ditranskripsikan menjadi teks terlebih dahulu. Keluaran dapat memuat kode atau jawaban berformat, tetapi bentuk teks tersebut tidak membuktikan adanya mode pemanggilan alat khusus atau keluaran terkendala.
Kartu model mengidentifikasi ambiguitas, sarkasme, instruksi terbuka yang kompleks, dan akurasi fakta sebagai area yang dapat membatasi respons. Untuk jawaban berbasis sumber, berikan bagian teks yang menjadi acuan dan minta model menyatakan di mana informasi tidak tersedia. Untuk tugas penyuntingan, tentukan pembaca, nada, fakta yang diperlukan, dan bagian yang boleh diubah. Hasil yang berguna adalah jawaban bahasa Inggris, ringkasan, draf, atau penjelasan kode yang terfokus dan dapat dibandingkan dengan materi serta kondisi yang diberikan dalam prompt.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan google/gemma-2-27b-it | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.0013 / 1K token Keluaran · Token keluaran $0.0013 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.0013 / 1K token Keluaran · Token keluaran $0.0013 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "google/gemma-2-27b-it",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'google/gemma-2-27b-it', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'google/gemma-2-27b-it', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra google/gemma-2-27b-it
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
Explain a specification for support\n\nSummarize this specification for a support engineer: “retry_after is optional and measured in seconds. If absent, the client must not infer a retry time. Example: retry_after = 30. A failed request may include error_id.” Separate requirements from examples and list what the passage does not define. Keep field names unchanged.A short support note with requirements, examples and unspecified details in separate sections.Check that 30 seconds remains an example and that error_id is not described as mandatory.