Qwen2-7B-Instruct adalah edisi Qwen2 berukuran 7B yang disesuaikan untuk mengikuti instruksi, untuk percakapan dan tugas yang dinyatakan dalam bahasa alami. Model ini menerima teks dan menghasilkan teks: jawaban dapat berupa penjelasan, terjemahan, draf dokumen, atau kode program. Pengembang menyebut pemahaman bahasa, generasi, pekerjaan multibahasa, pemrograman, matematika, dan penalaran sebagai bidang penggunaan utamanya.
Detail model
Qwen2 memiliki rilis dasar dan rilis yang disesuaikan untuk instruksi secara terpisah. Kartu ini membahas edisi Instruct, bukan model dasar Qwen2-7B atau rilis mixture-of-experts dalam keluarga tersebut. Tabel informasi model pengembang melaporkan 7,07 miliar parameter untuk model berukuran 7B. Transformer decoder-nya memakai SwiGLU, bias QKV pada attention, dan grouped-query attention, dengan tokenizer yang dirancang untuk bahasa alami dan kode. Ini adalah pilihan arsitektur dan representasi, bukan modalitas masukan tambahan.
Pengumuman rilis menjelaskan pelatihan dalam bahasa Inggris dan Tionghoa serta 27 bahasa tambahan. Bahasa tersebut mencakup Rusia, Ceko, dan Polandia; Jerman, Prancis, dan Spanyol; Arab, Persia, dan Turki; Jepang dan Korea; serta bahasa lainnya di Asia Selatan dan Tenggara. Karena itu, asisten multibahasa dapat menerima instruksi dan materi sumber dalam bahasa berbeda, tetapi sebaiknya tetap menentukan bahasa, istilah, dan audiens artefak akhir.
Pelatihan dan perbedaan Instruct
Setelah prapelatihan, pengembang menggunakan fine-tuning terawasi dan direct preference optimization. Edisi yang disesuaikan untuk instruksi ditujukan untuk merespons permintaan dalam percakapan, sedangkan edisi dasar memiliki peran berbeda sebagai fondasi model bahasa. Pertahankan nama edisi secara eksplisit ketika memilih model atau membandingkan perilaku prompt. Melatih model mengikuti instruksi dan memberikan instruksi tepat saat penggunaan merupakan bagian yang saling melengkapi dalam alur kerja tersebut.
Menyiapkan masukan percakapan
Panduan mulai cepat pada kartu model memisahkan instruksi sistem dari pertanyaan pengguna dan menerapkan templat chat yang sesuai sebelum generasi. Untuk tugas tingkat aplikasi, pembedaan praktis yang sama berguna: tentukan peran asisten dan aturan respons secara terpisah dari bagian sumber atau kode yang harus dikerjakannya. Label teks yang ditulis dalam dokumen tidak menggantikan peran percakapan yang diformat dengan benar dalam antarmuka yang membungkusnya.
Tugas penjelasan teknis dapat memberikan fungsi dan satu contoh masukan, lalu menanyakan tindakan setiap cabang dan ketentuan yang memengaruhi hasil. Tugas pemrograman dapat menentukan masukan yang diterima, nilai pengembalian yang diharapkan, dan batasan perubahan perilaku yang ada. Minta implementasi diikuti contoh untuk kasus normal dan kasus tepi. Ini adalah penerapan kemampuan bahasa dan pemrograman yang didokumentasikan; menghasilkan kode adalah hasil teks, sedangkan menjalankannya merupakan tugas lingkungan aplikasi.
Untuk penyuntingan multibahasa, berikan teks asli, audiens sasaran, dan daftar istilah singkat. Minta revisi yang mempertahankan nama dan ketentuan asli, lalu penjelasan singkat tentang perubahan. Ini lebih spesifik daripada permintaan memperbaiki teks: menentukan makna yang harus bertahan dan keluaran berguna yang perlu dikembalikan.
Memproses teks panjang
Pengembang mendokumentasikan dukungan konteks hingga 131.072 token, tetapi instruksi konteks panjang penting. Masukan melebihi 32.768 token membutuhkan konfigurasi perluasan YaRN yang didokumentasikan. Contoh yang dipublikasikan memakai faktor penskalaan 4,0 dengan pengaturan posisi awal 32.768. Pengembang mencatat bahwa pengaturan perluasan statis dapat memengaruhi perilaku pada teks lebih pendek dan menyarankan pengaktifannya ketika pemrosesan konteks panjang benar-benar dibutuhkan.
Siapkan tugas dokumen panjang dengan pertanyaan terfokus, bagian sumber bernama, dan struktur keluaran eksplisit. Misalnya, berikan beberapa bagian spesifikasi teknis dan minta persyaratan yang relevan untuk perubahan tertentu, dengan bagian sumber disimpan di samping setiap temuan. Jendela masukan besar berguna untuk menjaga bagian tersebut bersama; jawabannya tetap dapat berupa tabel ringkas, bukan penceritaan ulang seluruh dokumen.
Batas penting
Angka 131.072 token adalah dukungan konteks diperluas, bukan izin untuk mengabaikan konfigurasi konteks panjang. 512 token yang dihasilkan dalam contoh mulai cepat adalah pengaturan contoh, bukan kapasitas keluaran maksimum yang dipublikasikan. Rilis Instruct ini adalah model teks dan tidak boleh mewarisi kemampuan gambar atau video dari Qwen-VL, maupun pelatihan matematika khusus yang terintegrasi alat dari Qwen2.5-Math. Pilih edisi yang disebutkan dan siapkan teks untuk penjelasan, kode, atau dokumen tertentu yang dibutuhkan.
", "aboutText": "Qwen2-7B-Instruct adalah edisi Qwen2 berukuran 7B yang disesuaikan untuk mengikuti instruksi, untuk percakapan dan tugas yang dinyatakan dalam bahasa alami. Model ini menerima teks dan menghasilkan teks: jawaban dapat berupa penjelasan, terjemahan, draf dokumen, atau kode program. Pengembang menyebut pemahaman bahasa, generasi, pekerjaan multibahasa, pemrograman, matematika, dan penalaran sebagai bidang penggunaan utamanya.\n\nDetail model\n\nQwen2 memiliki rilis dasar dan rilis yang disesuaikan untuk instruksi secara terpisah. Kartu ini membahas edisi Instruct, bukan model dasar Qwen2-7B atau rilis mixture-of-experts dalam keluarga tersebut. Tabel informasi model pengembang melaporkan 7,07 miliar parameter untuk model berukuran 7B. Transformer decoder-nya memakai SwiGLU, bias QKV pada attention, dan grouped-query attention, dengan tokenizer yang dirancang untuk bahasa alami dan kode. Ini adalah pilihan arsitektur dan representasi, bukan modalitas masukan tambahan.\n\nPengumuman rilis menjelaskan pelatihan dalam bahasa Inggris dan Tionghoa serta 27 bahasa tambahan. Bahasa tersebut mencakup Rusia, Ceko, dan Polandia; Jerman, Prancis, dan Spanyol; Arab, Persia, dan Turki; Jepang dan Korea; serta bahasa lainnya di Asia Selatan dan Tenggara. Karena itu, asisten multibahasa dapat menerima instruksi dan materi sumber dalam bahasa berbeda, tetapi sebaiknya tetap menentukan bahasa, istilah, dan audiens artefak akhir.\n\nPelatihan dan perbedaan Instruct\n\nSetelah prapelatihan, pengembang menggunakan fine-tuning terawasi dan direct preference optimization. Edisi yang disesuaikan untuk instruksi ditujukan untuk merespons permintaan dalam percakapan, sedangkan edisi dasar memiliki peran berbeda sebagai fondasi model bahasa. Pertahankan nama edisi secara eksplisit ketika memilih model atau membandingkan perilaku prompt. Melatih model mengikuti instruksi dan memberikan instruksi tepat saat penggunaan merupakan bagian yang saling melengkapi dalam alur kerja tersebut.\n\nMenyiapkan masukan percakapan\n\nPanduan mulai cepat pada kartu model memisahkan instruksi sistem dari pertanyaan pengguna dan menerapkan templat chat yang sesuai sebelum generasi. Untuk tugas tingkat aplikasi, pembedaan praktis yang sama berguna: tentukan peran asisten dan aturan respons secara terpisah dari bagian sumber atau kode yang harus dikerjakannya. Label teks yang ditulis dalam dokumen tidak menggantikan peran percakapan yang diformat dengan benar dalam antarmuka yang membungkusnya.\n\nTugas penjelasan teknis dapat memberikan fungsi dan satu contoh masukan, lalu menanyakan tindakan setiap cabang dan ketentuan yang memengaruhi hasil. Tugas pemrograman dapat menentukan masukan yang diterima, nilai pengembalian yang diharapkan, dan batasan perubahan perilaku yang ada. Minta implementasi diikuti contoh untuk kasus normal dan kasus tepi. Ini adalah penerapan kemampuan bahasa dan pemrograman yang didokumentasikan; menghasilkan kode adalah hasil teks, sedangkan menjalankannya merupakan tugas lingkungan aplikasi.\n\nUntuk penyuntingan multibahasa, berikan teks asli, audiens sasaran, dan daftar istilah singkat. Minta revisi yang mempertahankan nama dan ketentuan asli, lalu penjelasan singkat tentang perubahan. Ini lebih spesifik daripada permintaan memperbaiki teks: menentukan makna yang harus bertahan dan keluaran berguna yang perlu dikembalikan.\n\nMemproses teks panjang\n\nPengembang mendokumentasikan dukungan konteks hingga 131.072 token, tetapi instruksi konteks panjang penting. Masukan melebihi 32.768 token membutuhkan konfigurasi perluasan YaRN yang didokumentasikan. Contoh yang dipublikasikan memakai faktor penskalaan 4,0 dengan pengaturan posisi awal 32.768. Pengembang mencatat bahwa pengaturan perluasan statis dapat memengaruhi perilaku pada teks lebih pendek dan menyarankan pengaktifannya ketika pemrosesan konteks panjang benar-benar dibutuhkan.\n\nSiapkan tugas dokumen panjang dengan pertanyaan terfokus, bagian sumber bernama, dan struktur keluaran eksplisit. Misalnya, berikan beberapa bagian spesifikasi teknis dan minta persyaratan yang relevan untuk perubahan tertentu, dengan bagian sumber disimpan di samping setiap temuan. Jendela masukan besar berguna untuk menjaga bagian tersebut bersama; jawabannya tetap dapat berupa tabel ringkas, bukan penceritaan ulang seluruh dokumen.\n\nBatas penting\n\nAngka 131.072 token adalah dukungan konteks diperluas, bukan izin untuk mengabaikan konfigurasi konteks panjang. 512 token yang dihasilkan dalam contoh mulai cepat adalah pengaturan contoh, bukan kapasitas keluaran maksimum yang dipublikasikan. Rilis Instruct ini adalah model teks dan tidak boleh mewarisi kemampuan gambar atau video dari Qwen-VL, maupun pelatihan matematika khusus yang terintegrasi alat dari Qwen2.5-Math. Pilih edisi yang disebutkan dan siapkan teks untuk penjelasan, kode, atau dokumen tertentu yang dibutuhkan.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
Translate a terminology-bound notice\n\nTranslate this notice into German for office staff: 'The access badge expires on 30 April. Collect a replacement from Reception before your next shift. Temporary passes are valid for one day.' Use Zugangskarte for access badge and Empfang for Reception. Preserve the date and conditions, then explain one translation choice in English.A complete German notice followed by one short English explanation of terminology or phrasing.The replacement is collected before the next shift and the temporary pass remains valid for one day.Qwen/Qwen2-7B-InstructQwen2-7B-Instruct adalah model teks yang disesuaikan untuk mengikuti instruksi, untuk dialog multibahasa, pemrograman, matematika, dan penalaran. Pengembang mendokumentasikan konteks hingga 131.072 token ketika konfigurasi konteks panjang diaktifkan.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Qwen2-7B-Instruct adalah edisi Qwen2 berukuran 7B yang disesuaikan untuk mengikuti instruksi, untuk percakapan dan tugas yang dinyatakan dalam bahasa alami. Model ini menerima teks dan menghasilkan teks: jawaban dapat berupa penjelasan, terjemahan, draf dokumen, atau kode program. Pengembang menyebut pemahaman bahasa, generasi, pekerjaan multibahasa, pemrograman, matematika, dan penalaran sebagai bidang penggunaan utamanya.
Detail model
Qwen2 memiliki rilis dasar dan rilis yang disesuaikan untuk instruksi secara terpisah. Kartu ini membahas edisi Instruct, bukan model dasar Qwen2-7B atau rilis mixture-of-experts dalam keluarga tersebut. Tabel informasi model pengembang melaporkan 7,07 miliar parameter untuk model berukuran 7B. Transformer decoder-nya memakai SwiGLU, bias QKV pada attention, dan grouped-query attention, dengan tokenizer yang dirancang untuk bahasa alami dan kode. Ini adalah pilihan arsitektur dan representasi, bukan modalitas masukan tambahan.
Pengumuman rilis menjelaskan pelatihan dalam bahasa Inggris dan Tionghoa serta 27 bahasa tambahan. Bahasa tersebut mencakup Rusia, Ceko, dan Polandia; Jerman, Prancis, dan Spanyol; Arab, Persia, dan Turki; Jepang dan Korea; serta bahasa lainnya di Asia Selatan dan Tenggara. Karena itu, asisten multibahasa dapat menerima instruksi dan materi sumber dalam bahasa berbeda, tetapi sebaiknya tetap menentukan bahasa, istilah, dan audiens artefak akhir.
Pelatihan dan perbedaan Instruct
Setelah prapelatihan, pengembang menggunakan fine-tuning terawasi dan direct preference optimization. Edisi yang disesuaikan untuk instruksi ditujukan untuk merespons permintaan dalam percakapan, sedangkan edisi dasar memiliki peran berbeda sebagai fondasi model bahasa. Pertahankan nama edisi secara eksplisit ketika memilih model atau membandingkan perilaku prompt. Melatih model mengikuti instruksi dan memberikan instruksi tepat saat penggunaan merupakan bagian yang saling melengkapi dalam alur kerja tersebut.
Menyiapkan masukan percakapan
Panduan mulai cepat pada kartu model memisahkan instruksi sistem dari pertanyaan pengguna dan menerapkan templat chat yang sesuai sebelum generasi. Untuk tugas tingkat aplikasi, pembedaan praktis yang sama berguna: tentukan peran asisten dan aturan respons secara terpisah dari bagian sumber atau kode yang harus dikerjakannya. Label teks yang ditulis dalam dokumen tidak menggantikan peran percakapan yang diformat dengan benar dalam antarmuka yang membungkusnya.
Tugas penjelasan teknis dapat memberikan fungsi dan satu contoh masukan, lalu menanyakan tindakan setiap cabang dan ketentuan yang memengaruhi hasil. Tugas pemrograman dapat menentukan masukan yang diterima, nilai pengembalian yang diharapkan, dan batasan perubahan perilaku yang ada. Minta implementasi diikuti contoh untuk kasus normal dan kasus tepi. Ini adalah penerapan kemampuan bahasa dan pemrograman yang didokumentasikan; menghasilkan kode adalah hasil teks, sedangkan menjalankannya merupakan tugas lingkungan aplikasi.
Untuk penyuntingan multibahasa, berikan teks asli, audiens sasaran, dan daftar istilah singkat. Minta revisi yang mempertahankan nama dan ketentuan asli, lalu penjelasan singkat tentang perubahan. Ini lebih spesifik daripada permintaan memperbaiki teks: menentukan makna yang harus bertahan dan keluaran berguna yang perlu dikembalikan.
Memproses teks panjang
Pengembang mendokumentasikan dukungan konteks hingga 131.072 token, tetapi instruksi konteks panjang penting. Masukan melebihi 32.768 token membutuhkan konfigurasi perluasan YaRN yang didokumentasikan. Contoh yang dipublikasikan memakai faktor penskalaan 4,0 dengan pengaturan posisi awal 32.768. Pengembang mencatat bahwa pengaturan perluasan statis dapat memengaruhi perilaku pada teks lebih pendek dan menyarankan pengaktifannya ketika pemrosesan konteks panjang benar-benar dibutuhkan.
Siapkan tugas dokumen panjang dengan pertanyaan terfokus, bagian sumber bernama, dan struktur keluaran eksplisit. Misalnya, berikan beberapa bagian spesifikasi teknis dan minta persyaratan yang relevan untuk perubahan tertentu, dengan bagian sumber disimpan di samping setiap temuan. Jendela masukan besar berguna untuk menjaga bagian tersebut bersama; jawabannya tetap dapat berupa tabel ringkas, bukan penceritaan ulang seluruh dokumen.
Batas penting
Angka 131.072 token adalah dukungan konteks diperluas, bukan izin untuk mengabaikan konfigurasi konteks panjang. 512 token yang dihasilkan dalam contoh mulai cepat adalah pengaturan contoh, bukan kapasitas keluaran maksimum yang dipublikasikan. Rilis Instruct ini adalah model teks dan tidak boleh mewarisi kemampuan gambar atau video dari Qwen-VL, maupun pelatihan matematika khusus yang terintegrasi alat dari Qwen2.5-Math. Pilih edisi yang disebutkan dan siapkan teks untuk penjelasan, kode, atau dokumen tertentu yang dibutuhkan.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan Qwen/Qwen2-7B-Instruct | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.0001 / 1K token Keluaran · Token keluaran $0.0001 / 1K token Masukan · Pembacaan cache $0 / 1K token Masukan · Penulisan cache $0 / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2-7B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2-7B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2-7B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra Qwen/Qwen2-7B-Instruct
Gunakan jalur metode yang ditampilkan di atas.
Qwen/Qwen2-7B-InstructQwen2-7B-Instruct adalah model teks yang disesuaikan untuk mengikuti instruksi, untuk dialog multibahasa, pemrograman, matematika, dan penalaran. Pengembang mendokumentasikan konteks hingga 131.072 token ketika konfigurasi konteks panjang diaktifkan.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Qwen2-7B-Instruct adalah edisi Qwen2 berukuran 7B yang disesuaikan untuk mengikuti instruksi, untuk percakapan dan tugas yang dinyatakan dalam bahasa alami. Model ini menerima teks dan menghasilkan teks: jawaban dapat berupa penjelasan, terjemahan, draf dokumen, atau kode program. Pengembang menyebut pemahaman bahasa, generasi, pekerjaan multibahasa, pemrograman, matematika, dan penalaran sebagai bidang penggunaan utamanya.
Detail model
Qwen2 memiliki rilis dasar dan rilis yang disesuaikan untuk instruksi secara terpisah. Kartu ini membahas edisi Instruct, bukan model dasar Qwen2-7B atau rilis mixture-of-experts dalam keluarga tersebut. Tabel informasi model pengembang melaporkan 7,07 miliar parameter untuk model berukuran 7B. Transformer decoder-nya memakai SwiGLU, bias QKV pada attention, dan grouped-query attention, dengan tokenizer yang dirancang untuk bahasa alami dan kode. Ini adalah pilihan arsitektur dan representasi, bukan modalitas masukan tambahan.
Pengumuman rilis menjelaskan pelatihan dalam bahasa Inggris dan Tionghoa serta 27 bahasa tambahan. Bahasa tersebut mencakup Rusia, Ceko, dan Polandia; Jerman, Prancis, dan Spanyol; Arab, Persia, dan Turki; Jepang dan Korea; serta bahasa lainnya di Asia Selatan dan Tenggara. Karena itu, asisten multibahasa dapat menerima instruksi dan materi sumber dalam bahasa berbeda, tetapi sebaiknya tetap menentukan bahasa, istilah, dan audiens artefak akhir.
Pelatihan dan perbedaan Instruct
Setelah prapelatihan, pengembang menggunakan fine-tuning terawasi dan direct preference optimization. Edisi yang disesuaikan untuk instruksi ditujukan untuk merespons permintaan dalam percakapan, sedangkan edisi dasar memiliki peran berbeda sebagai fondasi model bahasa. Pertahankan nama edisi secara eksplisit ketika memilih model atau membandingkan perilaku prompt. Melatih model mengikuti instruksi dan memberikan instruksi tepat saat penggunaan merupakan bagian yang saling melengkapi dalam alur kerja tersebut.
Menyiapkan masukan percakapan
Panduan mulai cepat pada kartu model memisahkan instruksi sistem dari pertanyaan pengguna dan menerapkan templat chat yang sesuai sebelum generasi. Untuk tugas tingkat aplikasi, pembedaan praktis yang sama berguna: tentukan peran asisten dan aturan respons secara terpisah dari bagian sumber atau kode yang harus dikerjakannya. Label teks yang ditulis dalam dokumen tidak menggantikan peran percakapan yang diformat dengan benar dalam antarmuka yang membungkusnya.
Tugas penjelasan teknis dapat memberikan fungsi dan satu contoh masukan, lalu menanyakan tindakan setiap cabang dan ketentuan yang memengaruhi hasil. Tugas pemrograman dapat menentukan masukan yang diterima, nilai pengembalian yang diharapkan, dan batasan perubahan perilaku yang ada. Minta implementasi diikuti contoh untuk kasus normal dan kasus tepi. Ini adalah penerapan kemampuan bahasa dan pemrograman yang didokumentasikan; menghasilkan kode adalah hasil teks, sedangkan menjalankannya merupakan tugas lingkungan aplikasi.
Untuk penyuntingan multibahasa, berikan teks asli, audiens sasaran, dan daftar istilah singkat. Minta revisi yang mempertahankan nama dan ketentuan asli, lalu penjelasan singkat tentang perubahan. Ini lebih spesifik daripada permintaan memperbaiki teks: menentukan makna yang harus bertahan dan keluaran berguna yang perlu dikembalikan.
Memproses teks panjang
Pengembang mendokumentasikan dukungan konteks hingga 131.072 token, tetapi instruksi konteks panjang penting. Masukan melebihi 32.768 token membutuhkan konfigurasi perluasan YaRN yang didokumentasikan. Contoh yang dipublikasikan memakai faktor penskalaan 4,0 dengan pengaturan posisi awal 32.768. Pengembang mencatat bahwa pengaturan perluasan statis dapat memengaruhi perilaku pada teks lebih pendek dan menyarankan pengaktifannya ketika pemrosesan konteks panjang benar-benar dibutuhkan.
Siapkan tugas dokumen panjang dengan pertanyaan terfokus, bagian sumber bernama, dan struktur keluaran eksplisit. Misalnya, berikan beberapa bagian spesifikasi teknis dan minta persyaratan yang relevan untuk perubahan tertentu, dengan bagian sumber disimpan di samping setiap temuan. Jendela masukan besar berguna untuk menjaga bagian tersebut bersama; jawabannya tetap dapat berupa tabel ringkas, bukan penceritaan ulang seluruh dokumen.
Batas penting
Angka 131.072 token adalah dukungan konteks diperluas, bukan izin untuk mengabaikan konfigurasi konteks panjang. 512 token yang dihasilkan dalam contoh mulai cepat adalah pengaturan contoh, bukan kapasitas keluaran maksimum yang dipublikasikan. Rilis Instruct ini adalah model teks dan tidak boleh mewarisi kemampuan gambar atau video dari Qwen-VL, maupun pelatihan matematika khusus yang terintegrasi alat dari Qwen2.5-Math. Pilih edisi yang disebutkan dan siapkan teks untuk penjelasan, kode, atau dokumen tertentu yang dibutuhkan.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan Qwen/Qwen2-7B-Instruct | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.0001 / 1K token Keluaran · Token keluaran $0.0001 / 1K token Masukan · Pembacaan cache $0 / 1K token Masukan · Penulisan cache $0 / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "Qwen/Qwen2-7B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2-7B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2-7B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra Qwen/Qwen2-7B-Instruct
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
Translate a terminology-bound notice\n\nTranslate this notice into German for office staff: 'The access badge expires on 30 April. Collect a replacement from Reception before your next shift. Temporary passes are valid for one day.' Use Zugangskarte for access badge and Empfang for Reception. Preserve the date and conditions, then explain one translation choice in English.A complete German notice followed by one short English explanation of terminology or phrasing.The replacement is collected before the next shift and the temporary pass remains valid for one day.