Qwen2.5-Coder-7B-Instruct adalah rilis berukuran 7B yang disetel untuk mengikuti instruksi dari keluarga Qwen yang berfokus pada kode, sebelumnya dikenal sebagai CodeQwen. Tugas utamanya adalah pembuatan kode, penalaran tentang perilaku program, dan perbaikan kode. Model menerima teks, termasuk persyaratan dan kode sumber, lalu mengembalikan teks yang dapat memuat implementasi, penjelasan, atau usulan perubahan.
Kemampuan pemrograman dan pelatihan
Pembuatnya menjelaskan 5.5 triliun token pelatihan, termasuk kode sumber, materi yang menghubungkan teks dengan kode, dan contoh sintetis. Keluarga ini mempertahankan kemampuan matematika dan bahasa umum di samping spesialisasi pemrogramannya. Pengumuman rilis membedakan pembuatan program, penalaran tentang cara program berjalan, dan perbaikan implementasi yang ada; ketiganya memerlukan masukan serta artefak akhir yang berbeda.
Untuk pembuatan kode, berikan bahasa pemrograman, signature fungsi, tipe masukan, dan nilai kembalian yang diharapkan. Sertakan batasan seperti apakah fungsi boleh mengubah masukannya atau menggunakan dependensi eksternal. Minta implementasi dan penjelasan singkat tentang bagaimana implementasi memenuhi setiap persyaratan. Sebagai contoh, permintaan pengurutan dapat menentukan bahwa nilai duplikat harus dipertahankan dan daftar asli tidak diubah, lalu meminta fungsi beserta contoh pemanggilan untuk daftar kosong dan daftar yang berisi nilai berulang.
Untuk penalaran kode, berikan fragmen yang persis dan masukan tertentu yang harus ditelusuri. Tanyakan cabang mana yang dijalankan, bagaimana nilai antara berubah, dan apa yang dikembalikan fungsi. Ini lebih berguna daripada permintaan tanpa arah untuk menjelaskan seluruh berkas: jawaban menghubungkan masukan konkret dengan jalur konkret dalam program. Sertakan fungsi pembantu yang dipanggil atau definisi tipe yang relevan bersama fragmen tersebut.
Untuk perbaikan, berikan perilaku yang gagal, perilaku yang diharapkan, dan kode yang menentukan perbedaannya. Pesan galat saja mungkin tidak menjelaskan kondisi penting. Minta usulan koreksi, penjelasan penyebab, dan contoh yang membedakan perilaku lama dari perilaku yang dimaksud. Patch yang dikembalikan merupakan artefak teks; kompilasi, eksekusi, atau penerapannya ke repositori memerlukan lingkungan pengembangan yang menaunginya.
Edisi 7B bernama ini
Model yang dirilis memiliki 7.61 miliar parameter, termasuk 6.53 miliar parameter non-embedding, dan 28 lapisan Transformer. Model ini menggunakan embedding posisi rotari, SwiGLU, RMSNorm, dan bias attention QKV. Grouped-query attention-nya memiliki 28 query head dan 4 key/value head. Detail ini menjelaskan rilis ini, bukan edisi Coder yang lebih besar.
Keluarga ini menyediakan model Base dan Instruct yang terpisah. Instruct diselaraskan untuk permintaan percakapan; Base merupakan fondasi untuk pelengkapan dan penyetelan lanjutan. Entri ini membahas model 7B yang disetel untuk mengikuti instruksi. Contoh dan hasil utama rilis untuk ukuran lain tidak menentukan kemampuan atau kebutuhan sumber daya edisi ini.
Menyiapkan instruksi
Kartu model memperagakan percakapan dengan pesan sistem dan pengguna yang terpisah serta templat percakapan yang sesuai. Tempatkan aturan respons yang berlaku berkelanjutan, seperti cara menyajikan implementasi dan penjelasan, terpisah dari kode dan tugas. Tandai fragmen mana yang merupakan sumber yang ada, teks mana yang merupakan persyaratan, dan keluaran mana yang harus dikembalikan. Ini membantu mempertahankan pengenal, antarmuka, dan perilaku yang wajib dijaga oleh perubahan yang diminta.
Masukan asisten pengembang yang berguna dapat memuat modul singkat, pemanggilnya, dan perubahan yang dimaksud. Minta fungsi yang direvisi, daftar asumsi, serta contoh masukan beserta keluaran yang diharapkan. Untuk artefak visual yang dihasilkan, tentukan data dan interaksi yang harus diimplementasikan, lalu minta teks sumber hasilnya; keluarga yang berfokus pada kode ini juga memperagakan asisten kode dan artefak visual. Merender artefak tetap merupakan langkah terpisah dari menghasilkan sumbernya.
Pemrosesan teks panjang
Kartu model mencantumkan konteks penuh sebesar 131,072 token, sedangkan konfigurasi yang dirilis pada awalnya ditetapkan sebesar 32,768 token. Pemrosesan masukan yang melampaui pengaturan tersebut memerlukan perluasan YaRN yang didokumentasikan. Contohnya menetapkan faktor penskalaan 4.0 dan pengaturan posisi maksimum awal sebesar 32,768. Pembuatnya mencatat bahwa penskalaan statis dapat memengaruhi perilaku teks yang lebih pendek dan merekomendasikan penambahan perluasan ketika konteks panjang diperlukan.
Gunakan konteks yang lebih besar untuk menyatukan kode dan persyaratan yang berkaitan, tetapi identifikasi pertanyaan sebenarnya: menemukan pemanggilan yang tidak kompatibel, menjelaskan jalur data, atau mengusulkan perubahan dalam antarmuka tertentu. Sertakan bagian yang menentukan perilaku, bukan materi proyek yang tidak berkaitan. Keluaran 512 token pada panduan mulai cepat merupakan contoh pengaturan; kartu tersebut tidak menetapkan kapasitas keluaran maksimum terpisah dari nilai itu.
Hasil model yang didokumentasikan adalah teks. Perannya dalam agen kode bergantung pada aplikasi yang menyediakan akses repositori, eksekusi, dan umpan balik. Pisahkan operasi tersebut dari kemampuan model untuk mengusulkan kode dan menjelaskan perilakunya, serta nyatakan edisi 7B-Instruct dan pengaturan konteks panjang yang tepat secara eksplisit saat merencanakan tugas yang dapat diulang.
", "aboutText": "Qwen2.5-Coder-7B-Instruct adalah rilis berukuran 7B yang disetel untuk mengikuti instruksi dari keluarga Qwen yang berfokus pada kode, sebelumnya dikenal sebagai CodeQwen. Tugas utamanya adalah pembuatan kode, penalaran tentang perilaku program, dan perbaikan kode. Model menerima teks, termasuk persyaratan dan kode sumber, lalu mengembalikan teks yang dapat memuat implementasi, penjelasan, atau usulan perubahan.\n\nKemampuan pemrograman dan pelatihan\n\nPembuatnya menjelaskan 5.5 triliun token pelatihan, termasuk kode sumber, materi yang menghubungkan teks dengan kode, dan contoh sintetis. Keluarga ini mempertahankan kemampuan matematika dan bahasa umum di samping spesialisasi pemrogramannya. Pengumuman rilis membedakan pembuatan program, penalaran tentang cara program berjalan, dan perbaikan implementasi yang ada; ketiganya memerlukan masukan serta artefak akhir yang berbeda.\n\nUntuk pembuatan kode, berikan bahasa pemrograman, signature fungsi, tipe masukan, dan nilai kembalian yang diharapkan. Sertakan batasan seperti apakah fungsi boleh mengubah masukannya atau menggunakan dependensi eksternal. Minta implementasi dan penjelasan singkat tentang bagaimana implementasi memenuhi setiap persyaratan. Sebagai contoh, permintaan pengurutan dapat menentukan bahwa nilai duplikat harus dipertahankan dan daftar asli tidak diubah, lalu meminta fungsi beserta contoh pemanggilan untuk daftar kosong dan daftar yang berisi nilai berulang.\n\nUntuk penalaran kode, berikan fragmen yang persis dan masukan tertentu yang harus ditelusuri. Tanyakan cabang mana yang dijalankan, bagaimana nilai antara berubah, dan apa yang dikembalikan fungsi. Ini lebih berguna daripada permintaan tanpa arah untuk menjelaskan seluruh berkas: jawaban menghubungkan masukan konkret dengan jalur konkret dalam program. Sertakan fungsi pembantu yang dipanggil atau definisi tipe yang relevan bersama fragmen tersebut.\n\nUntuk perbaikan, berikan perilaku yang gagal, perilaku yang diharapkan, dan kode yang menentukan perbedaannya. Pesan galat saja mungkin tidak menjelaskan kondisi penting. Minta usulan koreksi, penjelasan penyebab, dan contoh yang membedakan perilaku lama dari perilaku yang dimaksud. Patch yang dikembalikan merupakan artefak teks; kompilasi, eksekusi, atau penerapannya ke repositori memerlukan lingkungan pengembangan yang menaunginya.\n\nEdisi 7B bernama ini\n\nModel yang dirilis memiliki 7.61 miliar parameter, termasuk 6.53 miliar parameter non-embedding, dan 28 lapisan Transformer. Model ini menggunakan embedding posisi rotari, SwiGLU, RMSNorm, dan bias attention QKV. Grouped-query attention-nya memiliki 28 query head dan 4 key/value head. Detail ini menjelaskan rilis ini, bukan edisi Coder yang lebih besar.\n\nKeluarga ini menyediakan model Base dan Instruct yang terpisah. Instruct diselaraskan untuk permintaan percakapan; Base merupakan fondasi untuk pelengkapan dan penyetelan lanjutan. Entri ini membahas model 7B yang disetel untuk mengikuti instruksi. Contoh dan hasil utama rilis untuk ukuran lain tidak menentukan kemampuan atau kebutuhan sumber daya edisi ini.\n\nMenyiapkan instruksi\n\nKartu model memperagakan percakapan dengan pesan sistem dan pengguna yang terpisah serta templat percakapan yang sesuai. Tempatkan aturan respons yang berlaku berkelanjutan, seperti cara menyajikan implementasi dan penjelasan, terpisah dari kode dan tugas. Tandai fragmen mana yang merupakan sumber yang ada, teks mana yang merupakan persyaratan, dan keluaran mana yang harus dikembalikan. Ini membantu mempertahankan pengenal, antarmuka, dan perilaku yang wajib dijaga oleh perubahan yang diminta.\n\nMasukan asisten pengembang yang berguna dapat memuat modul singkat, pemanggilnya, dan perubahan yang dimaksud. Minta fungsi yang direvisi, daftar asumsi, serta contoh masukan beserta keluaran yang diharapkan. Untuk artefak visual yang dihasilkan, tentukan data dan interaksi yang harus diimplementasikan, lalu minta teks sumber hasilnya; keluarga yang berfokus pada kode ini juga memperagakan asisten kode dan artefak visual. Merender artefak tetap merupakan langkah terpisah dari menghasilkan sumbernya.\n\nPemrosesan teks panjang\n\nKartu model mencantumkan konteks penuh sebesar 131,072 token, sedangkan konfigurasi yang dirilis pada awalnya ditetapkan sebesar 32,768 token. Pemrosesan masukan yang melampaui pengaturan tersebut memerlukan perluasan YaRN yang didokumentasikan. Contohnya menetapkan faktor penskalaan 4.0 dan pengaturan posisi maksimum awal sebesar 32,768. Pembuatnya mencatat bahwa penskalaan statis dapat memengaruhi perilaku teks yang lebih pendek dan merekomendasikan penambahan perluasan ketika konteks panjang diperlukan.\n\nGunakan konteks yang lebih besar untuk menyatukan kode dan persyaratan yang berkaitan, tetapi identifikasi pertanyaan sebenarnya: menemukan pemanggilan yang tidak kompatibel, menjelaskan jalur data, atau mengusulkan perubahan dalam antarmuka tertentu. Sertakan bagian yang menentukan perilaku, bukan materi proyek yang tidak berkaitan. Keluaran 512 token pada panduan mulai cepat merupakan contoh pengaturan; kartu tersebut tidak menetapkan kapasitas keluaran maksimum terpisah dari nilai itu.\n\nHasil model yang didokumentasikan adalah teks. Perannya dalam agen kode bergantung pada aplikasi yang menyediakan akses repositori, eksekusi, dan umpan balik. Pisahkan operasi tersebut dari kemampuan model untuk mengusulkan kode dan menjelaskan perilakunya, serta nyatakan edisi 7B-Instruct dan pengaturan konteks panjang yang tepat secara eksplisit saat merencanakan tugas yang dapat diulang.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
Repair integer averaging\n\nFix this Python function: def mean(values): return sum(values) // len(values). Requirement: return the arithmetic mean as a float, preserve fractional results and raise ValueError for empty input. Provide the corrected function and tests for [1, 2], [-2, 2] and []. Explain the two distinct defects.A corrected function, three tests and separate explanations for floor division and empty-input behavior.Check that [1, 2] keeps its fractional mean and that empty input raises the specified exception.qwen2.5-coder-7b-instructQwen2.5-Coder-7B-Instruct adalah model teks untuk menghasilkan, menjelaskan, dan memperbaiki kode dari instruksi. Rilis dengan 7.61 miliar parameter ini mendukung konteks yang diperluas hingga 131,072 token dengan konfigurasi konteks panjang yang didokumentasikan.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Qwen2.5-Coder-7B-Instruct adalah rilis berukuran 7B yang disetel untuk mengikuti instruksi dari keluarga Qwen yang berfokus pada kode, sebelumnya dikenal sebagai CodeQwen. Tugas utamanya adalah pembuatan kode, penalaran tentang perilaku program, dan perbaikan kode. Model menerima teks, termasuk persyaratan dan kode sumber, lalu mengembalikan teks yang dapat memuat implementasi, penjelasan, atau usulan perubahan.
Kemampuan pemrograman dan pelatihan
Pembuatnya menjelaskan 5.5 triliun token pelatihan, termasuk kode sumber, materi yang menghubungkan teks dengan kode, dan contoh sintetis. Keluarga ini mempertahankan kemampuan matematika dan bahasa umum di samping spesialisasi pemrogramannya. Pengumuman rilis membedakan pembuatan program, penalaran tentang cara program berjalan, dan perbaikan implementasi yang ada; ketiganya memerlukan masukan serta artefak akhir yang berbeda.
Untuk pembuatan kode, berikan bahasa pemrograman, signature fungsi, tipe masukan, dan nilai kembalian yang diharapkan. Sertakan batasan seperti apakah fungsi boleh mengubah masukannya atau menggunakan dependensi eksternal. Minta implementasi dan penjelasan singkat tentang bagaimana implementasi memenuhi setiap persyaratan. Sebagai contoh, permintaan pengurutan dapat menentukan bahwa nilai duplikat harus dipertahankan dan daftar asli tidak diubah, lalu meminta fungsi beserta contoh pemanggilan untuk daftar kosong dan daftar yang berisi nilai berulang.
Untuk penalaran kode, berikan fragmen yang persis dan masukan tertentu yang harus ditelusuri. Tanyakan cabang mana yang dijalankan, bagaimana nilai antara berubah, dan apa yang dikembalikan fungsi. Ini lebih berguna daripada permintaan tanpa arah untuk menjelaskan seluruh berkas: jawaban menghubungkan masukan konkret dengan jalur konkret dalam program. Sertakan fungsi pembantu yang dipanggil atau definisi tipe yang relevan bersama fragmen tersebut.
Untuk perbaikan, berikan perilaku yang gagal, perilaku yang diharapkan, dan kode yang menentukan perbedaannya. Pesan galat saja mungkin tidak menjelaskan kondisi penting. Minta usulan koreksi, penjelasan penyebab, dan contoh yang membedakan perilaku lama dari perilaku yang dimaksud. Patch yang dikembalikan merupakan artefak teks; kompilasi, eksekusi, atau penerapannya ke repositori memerlukan lingkungan pengembangan yang menaunginya.
Edisi 7B bernama ini
Model yang dirilis memiliki 7.61 miliar parameter, termasuk 6.53 miliar parameter non-embedding, dan 28 lapisan Transformer. Model ini menggunakan embedding posisi rotari, SwiGLU, RMSNorm, dan bias attention QKV. Grouped-query attention-nya memiliki 28 query head dan 4 key/value head. Detail ini menjelaskan rilis ini, bukan edisi Coder yang lebih besar.
Keluarga ini menyediakan model Base dan Instruct yang terpisah. Instruct diselaraskan untuk permintaan percakapan; Base merupakan fondasi untuk pelengkapan dan penyetelan lanjutan. Entri ini membahas model 7B yang disetel untuk mengikuti instruksi. Contoh dan hasil utama rilis untuk ukuran lain tidak menentukan kemampuan atau kebutuhan sumber daya edisi ini.
Menyiapkan instruksi
Kartu model memperagakan percakapan dengan pesan sistem dan pengguna yang terpisah serta templat percakapan yang sesuai. Tempatkan aturan respons yang berlaku berkelanjutan, seperti cara menyajikan implementasi dan penjelasan, terpisah dari kode dan tugas. Tandai fragmen mana yang merupakan sumber yang ada, teks mana yang merupakan persyaratan, dan keluaran mana yang harus dikembalikan. Ini membantu mempertahankan pengenal, antarmuka, dan perilaku yang wajib dijaga oleh perubahan yang diminta.
Masukan asisten pengembang yang berguna dapat memuat modul singkat, pemanggilnya, dan perubahan yang dimaksud. Minta fungsi yang direvisi, daftar asumsi, serta contoh masukan beserta keluaran yang diharapkan. Untuk artefak visual yang dihasilkan, tentukan data dan interaksi yang harus diimplementasikan, lalu minta teks sumber hasilnya; keluarga yang berfokus pada kode ini juga memperagakan asisten kode dan artefak visual. Merender artefak tetap merupakan langkah terpisah dari menghasilkan sumbernya.
Pemrosesan teks panjang
Kartu model mencantumkan konteks penuh sebesar 131,072 token, sedangkan konfigurasi yang dirilis pada awalnya ditetapkan sebesar 32,768 token. Pemrosesan masukan yang melampaui pengaturan tersebut memerlukan perluasan YaRN yang didokumentasikan. Contohnya menetapkan faktor penskalaan 4.0 dan pengaturan posisi maksimum awal sebesar 32,768. Pembuatnya mencatat bahwa penskalaan statis dapat memengaruhi perilaku teks yang lebih pendek dan merekomendasikan penambahan perluasan ketika konteks panjang diperlukan.
Gunakan konteks yang lebih besar untuk menyatukan kode dan persyaratan yang berkaitan, tetapi identifikasi pertanyaan sebenarnya: menemukan pemanggilan yang tidak kompatibel, menjelaskan jalur data, atau mengusulkan perubahan dalam antarmuka tertentu. Sertakan bagian yang menentukan perilaku, bukan materi proyek yang tidak berkaitan. Keluaran 512 token pada panduan mulai cepat merupakan contoh pengaturan; kartu tersebut tidak menetapkan kapasitas keluaran maksimum terpisah dari nilai itu.
Hasil model yang didokumentasikan adalah teks. Perannya dalam agen kode bergantung pada aplikasi yang menyediakan akses repositori, eksekusi, dan umpan balik. Pisahkan operasi tersebut dari kemampuan model untuk mengusulkan kode dan menjelaskan perilakunya, serta nyatakan edisi 7B-Instruct dan pengaturan konteks panjang yang tepat secara eksplisit saat merencanakan tugas yang dapat diulang.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan qwen2.5-coder-7b-instruct | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.0001 / 1K token Keluaran · Token keluaran $0.0001 / 1K token Masukan · Pembacaan cache $0 / 1K token Masukan · Penulisan cache $0 / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen2.5-coder-7b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen2.5-coder-7b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen2.5-coder-7b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra qwen2.5-coder-7b-instruct
Gunakan jalur metode yang ditampilkan di atas.
qwen2.5-coder-7b-instructQwen2.5-Coder-7B-Instruct adalah model teks untuk menghasilkan, menjelaskan, dan memperbaiki kode dari instruksi. Rilis dengan 7.61 miliar parameter ini mendukung konteks yang diperluas hingga 131,072 token dengan konfigurasi konteks panjang yang didokumentasikan.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Qwen2.5-Coder-7B-Instruct adalah rilis berukuran 7B yang disetel untuk mengikuti instruksi dari keluarga Qwen yang berfokus pada kode, sebelumnya dikenal sebagai CodeQwen. Tugas utamanya adalah pembuatan kode, penalaran tentang perilaku program, dan perbaikan kode. Model menerima teks, termasuk persyaratan dan kode sumber, lalu mengembalikan teks yang dapat memuat implementasi, penjelasan, atau usulan perubahan.
Kemampuan pemrograman dan pelatihan
Pembuatnya menjelaskan 5.5 triliun token pelatihan, termasuk kode sumber, materi yang menghubungkan teks dengan kode, dan contoh sintetis. Keluarga ini mempertahankan kemampuan matematika dan bahasa umum di samping spesialisasi pemrogramannya. Pengumuman rilis membedakan pembuatan program, penalaran tentang cara program berjalan, dan perbaikan implementasi yang ada; ketiganya memerlukan masukan serta artefak akhir yang berbeda.
Untuk pembuatan kode, berikan bahasa pemrograman, signature fungsi, tipe masukan, dan nilai kembalian yang diharapkan. Sertakan batasan seperti apakah fungsi boleh mengubah masukannya atau menggunakan dependensi eksternal. Minta implementasi dan penjelasan singkat tentang bagaimana implementasi memenuhi setiap persyaratan. Sebagai contoh, permintaan pengurutan dapat menentukan bahwa nilai duplikat harus dipertahankan dan daftar asli tidak diubah, lalu meminta fungsi beserta contoh pemanggilan untuk daftar kosong dan daftar yang berisi nilai berulang.
Untuk penalaran kode, berikan fragmen yang persis dan masukan tertentu yang harus ditelusuri. Tanyakan cabang mana yang dijalankan, bagaimana nilai antara berubah, dan apa yang dikembalikan fungsi. Ini lebih berguna daripada permintaan tanpa arah untuk menjelaskan seluruh berkas: jawaban menghubungkan masukan konkret dengan jalur konkret dalam program. Sertakan fungsi pembantu yang dipanggil atau definisi tipe yang relevan bersama fragmen tersebut.
Untuk perbaikan, berikan perilaku yang gagal, perilaku yang diharapkan, dan kode yang menentukan perbedaannya. Pesan galat saja mungkin tidak menjelaskan kondisi penting. Minta usulan koreksi, penjelasan penyebab, dan contoh yang membedakan perilaku lama dari perilaku yang dimaksud. Patch yang dikembalikan merupakan artefak teks; kompilasi, eksekusi, atau penerapannya ke repositori memerlukan lingkungan pengembangan yang menaunginya.
Edisi 7B bernama ini
Model yang dirilis memiliki 7.61 miliar parameter, termasuk 6.53 miliar parameter non-embedding, dan 28 lapisan Transformer. Model ini menggunakan embedding posisi rotari, SwiGLU, RMSNorm, dan bias attention QKV. Grouped-query attention-nya memiliki 28 query head dan 4 key/value head. Detail ini menjelaskan rilis ini, bukan edisi Coder yang lebih besar.
Keluarga ini menyediakan model Base dan Instruct yang terpisah. Instruct diselaraskan untuk permintaan percakapan; Base merupakan fondasi untuk pelengkapan dan penyetelan lanjutan. Entri ini membahas model 7B yang disetel untuk mengikuti instruksi. Contoh dan hasil utama rilis untuk ukuran lain tidak menentukan kemampuan atau kebutuhan sumber daya edisi ini.
Menyiapkan instruksi
Kartu model memperagakan percakapan dengan pesan sistem dan pengguna yang terpisah serta templat percakapan yang sesuai. Tempatkan aturan respons yang berlaku berkelanjutan, seperti cara menyajikan implementasi dan penjelasan, terpisah dari kode dan tugas. Tandai fragmen mana yang merupakan sumber yang ada, teks mana yang merupakan persyaratan, dan keluaran mana yang harus dikembalikan. Ini membantu mempertahankan pengenal, antarmuka, dan perilaku yang wajib dijaga oleh perubahan yang diminta.
Masukan asisten pengembang yang berguna dapat memuat modul singkat, pemanggilnya, dan perubahan yang dimaksud. Minta fungsi yang direvisi, daftar asumsi, serta contoh masukan beserta keluaran yang diharapkan. Untuk artefak visual yang dihasilkan, tentukan data dan interaksi yang harus diimplementasikan, lalu minta teks sumber hasilnya; keluarga yang berfokus pada kode ini juga memperagakan asisten kode dan artefak visual. Merender artefak tetap merupakan langkah terpisah dari menghasilkan sumbernya.
Pemrosesan teks panjang
Kartu model mencantumkan konteks penuh sebesar 131,072 token, sedangkan konfigurasi yang dirilis pada awalnya ditetapkan sebesar 32,768 token. Pemrosesan masukan yang melampaui pengaturan tersebut memerlukan perluasan YaRN yang didokumentasikan. Contohnya menetapkan faktor penskalaan 4.0 dan pengaturan posisi maksimum awal sebesar 32,768. Pembuatnya mencatat bahwa penskalaan statis dapat memengaruhi perilaku teks yang lebih pendek dan merekomendasikan penambahan perluasan ketika konteks panjang diperlukan.
Gunakan konteks yang lebih besar untuk menyatukan kode dan persyaratan yang berkaitan, tetapi identifikasi pertanyaan sebenarnya: menemukan pemanggilan yang tidak kompatibel, menjelaskan jalur data, atau mengusulkan perubahan dalam antarmuka tertentu. Sertakan bagian yang menentukan perilaku, bukan materi proyek yang tidak berkaitan. Keluaran 512 token pada panduan mulai cepat merupakan contoh pengaturan; kartu tersebut tidak menetapkan kapasitas keluaran maksimum terpisah dari nilai itu.
Hasil model yang didokumentasikan adalah teks. Perannya dalam agen kode bergantung pada aplikasi yang menyediakan akses repositori, eksekusi, dan umpan balik. Pisahkan operasi tersebut dari kemampuan model untuk mengusulkan kode dan menjelaskan perilakunya, serta nyatakan edisi 7B-Instruct dan pengaturan konteks panjang yang tepat secara eksplisit saat merencanakan tugas yang dapat diulang.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan qwen2.5-coder-7b-instruct | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.0001 / 1K token Keluaran · Token keluaran $0.0001 / 1K token Masukan · Pembacaan cache $0 / 1K token Masukan · Penulisan cache $0 / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "qwen2.5-coder-7b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-coder-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-coder-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra qwen2.5-coder-7b-instruct
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
Repair integer averaging\n\nFix this Python function: def mean(values): return sum(values) // len(values). Requirement: return the arithmetic mean as a float, preserve fractional results and raise ValueError for empty input. Provide the corrected function and tests for [1, 2], [-2, 2] and []. Explain the two distinct defects.A corrected function, three tests and separate explanations for floor division and empty-input behavior.Check that [1, 2] keeps its fractional mean and that empty input raises the specified exception.