Qwen2-7B-Instruct ialah edisi bersaiz 7B Qwen2 yang ditala untuk arahan bagi perbualan dan tugas yang dinyatakan dalam bahasa semula jadi. Model ini menerima teks dan menghasilkan teks: jawapannya boleh berupa penerangan, terjemahan, draf dokumen atau kod program. Pembuatnya mengenal pasti pemahaman bahasa, penjanaan, kerja berbilang bahasa, pengekodan, matematik dan penaakulan sebagai bidang penggunaan utama.
Butiran model
Qwen2 mempunyai keluaran asas dan keluaran yang ditala untuk arahan secara berasingan. Kad ini berkaitan dengan edisi Instruct, bukannya model asas Qwen2-7B atau keluaran campuran pakar dalam keluarga itu. Jadual maklumat model pembuatnya melaporkan 7.07 bilion parameter untuk model bersaiz 7B. Transformer penyahkodnya menggunakan SwiGLU, bias QKV perhatian dan perhatian pertanyaan berkelompok, dengan tokenizer yang direka untuk bahasa semula jadi dan kod. Ini ialah pilihan seni bina dan perwakilan, bukan modaliti input tambahan.
Pengumuman keluaran menerangkan latihan dalam bahasa Inggeris dan Cina serta 27 bahasa tambahan. Bahasa itu termasuk Rusia, Czech dan Poland; Jerman, Perancis dan Sepanyol; Arab, Parsi dan Turki; Jepun dan Korea; serta bahasa lain di seluruh Asia Selatan dan Asia Tenggara. Oleh itu, pembantu berbilang bahasa boleh menerima arahan dan bahan sumber dalam bahasa berbeza, tetapi masih disarankan untuk menentukan bahasa, istilah dan khalayak artifak akhir.
Latihan dan perbezaan Instruct
Selepas pralatihan, pembuat menggunakan penalaan halus terselia dan pengoptimuman keutamaan langsung. Edisi yang ditala untuk arahan bertujuan memberikan respons kepada permintaan dalam perbualan, manakala edisi asas mempunyai peranan lain sebagai asas model bahasa. Nyatakan nama edisi dengan jelas apabila memilih model atau membandingkan tingkah laku prom. Melatih model supaya mengikut arahan dan membekalkan arahan tepat ketika penggunaan ialah bahagian yang saling melengkapi dalam aliran kerja itu.
Menyediakan input perbualan
Panduan mula pantas kad model memisahkan arahan sistem daripada soalan pengguna dan menggunakan templat sembang yang sepadan sebelum penjanaan. Untuk tugas pada peringkat aplikasi, perbezaan praktikal yang sama berguna: tentukan peranan pembantu dan peraturan respons secara berasingan daripada petikan sumber atau kod yang perlu dikendalikannya. Label teks yang ditulis dalam dokumen bukan pengganti kepada peranan perbualan berformat betul dalam antara muka yang mengelilinginya.
Tugas penerangan teknikal boleh membekalkan fungsi dan satu contoh input, kemudian meminta penjelasan tentang tindakan setiap cabang serta syarat yang mempengaruhi hasil. Tugas pengekodan boleh menentukan input yang diterima, nilai pulangan yang dijangka dan kekangan untuk mengubah tingkah laku sedia ada. Minta pelaksanaan diikuti contoh bagi kes biasa dan kes pinggir. Ini ialah aplikasi keupayaan bahasa dan pengekodan yang didokumenkan; penjanaan kod ialah hasil teks, manakala menjalankannya merupakan tugas persekitaran aplikasi.
Untuk penyuntingan berbilang bahasa, bekalkan petikan asal, khalayak sasaran dan senarai istilah kecil. Minta semakan yang mengekalkan nama serta syarat asal, kemudian penerangan pendek tentang perubahan. Ini lebih khusus daripada permintaan untuk memperbaiki teks: ia menentukan makna yang mesti kekal dan output berguna yang perlu dikembalikan.
Memproses teks panjang
Pembuat mendokumenkan sokongan konteks sehingga 131,072 token, tetapi arahan konteks panjang penting. Input melebihi 32,768 token memerlukan konfigurasi peluasan YaRN yang didokumenkan. Contoh terbitan menggunakan faktor penskalaan 4.0 dengan tetapan kedudukan asal 32,768. Pembuat menyatakan bahawa tetapan peluasan statik boleh mempengaruhi tingkah laku teks lebih pendek dan mengesyorkan pengaktifannya apabila pemprosesan konteks panjang benar-benar diperlukan.
Sediakan tugas dokumen panjang dengan soalan terfokus, bahagian sumber bernama dan struktur output yang jelas. Contohnya, berikan beberapa bahagian spesifikasi teknikal dan minta keperluan yang berkaitan dengan perubahan tertentu, dengan bahagian sumber disimpan di sebelah setiap dapatan. Tetingkap input besar berguna untuk mengekalkan bahagian itu bersama; jawapannya masih boleh menjadi jadual padat, bukannya penceritaan semula seluruh dokumen.
Batasan penting
Angka 131,072 token ialah sokongan konteks lanjutan, bukannya kebenaran untuk mengabaikan konfigurasi konteks panjang. 512 token yang dijana dalam contoh mula pantas ialah tetapan contoh, bukan kapasiti output maksimum yang diterbitkan. Keluaran Instruct ini ialah model teks dan tidak sepatutnya mewarisi keupayaan imej atau video daripada Qwen-VL atau latihan matematik khusus berintegrasi alat Qwen2.5-Math. Pilih edisi yang dinamakan dan sediakan teks untuk penerangan, kod atau dokumen khusus yang anda perlukan.
", "aboutText": "Qwen2-7B-Instruct ialah edisi bersaiz 7B Qwen2 yang ditala untuk arahan bagi perbualan dan tugas yang dinyatakan dalam bahasa semula jadi. Model ini menerima teks dan menghasilkan teks: jawapannya boleh berupa penerangan, terjemahan, draf dokumen atau kod program. Pembuatnya mengenal pasti pemahaman bahasa, penjanaan, kerja berbilang bahasa, pengekodan, matematik dan penaakulan sebagai bidang penggunaan utama.\n\nButiran model\n\nQwen2 mempunyai keluaran asas dan keluaran yang ditala untuk arahan secara berasingan. Kad ini berkaitan dengan edisi Instruct, bukannya model asas Qwen2-7B atau keluaran campuran pakar dalam keluarga itu. Jadual maklumat model pembuatnya melaporkan 7.07 bilion parameter untuk model bersaiz 7B. Transformer penyahkodnya menggunakan SwiGLU, bias QKV perhatian dan perhatian pertanyaan berkelompok, dengan tokenizer yang direka untuk bahasa semula jadi dan kod. Ini ialah pilihan seni bina dan perwakilan, bukan modaliti input tambahan.\n\nPengumuman keluaran menerangkan latihan dalam bahasa Inggeris dan Cina serta 27 bahasa tambahan. Bahasa itu termasuk Rusia, Czech dan Poland; Jerman, Perancis dan Sepanyol; Arab, Parsi dan Turki; Jepun dan Korea; serta bahasa lain di seluruh Asia Selatan dan Asia Tenggara. Oleh itu, pembantu berbilang bahasa boleh menerima arahan dan bahan sumber dalam bahasa berbeza, tetapi masih disarankan untuk menentukan bahasa, istilah dan khalayak artifak akhir.\n\nLatihan dan perbezaan Instruct\n\nSelepas pralatihan, pembuat menggunakan penalaan halus terselia dan pengoptimuman keutamaan langsung. Edisi yang ditala untuk arahan bertujuan memberikan respons kepada permintaan dalam perbualan, manakala edisi asas mempunyai peranan lain sebagai asas model bahasa. Nyatakan nama edisi dengan jelas apabila memilih model atau membandingkan tingkah laku prom. Melatih model supaya mengikut arahan dan membekalkan arahan tepat ketika penggunaan ialah bahagian yang saling melengkapi dalam aliran kerja itu.\n\nMenyediakan input perbualan\n\nPanduan mula pantas kad model memisahkan arahan sistem daripada soalan pengguna dan menggunakan templat sembang yang sepadan sebelum penjanaan. Untuk tugas pada peringkat aplikasi, perbezaan praktikal yang sama berguna: tentukan peranan pembantu dan peraturan respons secara berasingan daripada petikan sumber atau kod yang perlu dikendalikannya. Label teks yang ditulis dalam dokumen bukan pengganti kepada peranan perbualan berformat betul dalam antara muka yang mengelilinginya.\n\nTugas penerangan teknikal boleh membekalkan fungsi dan satu contoh input, kemudian meminta penjelasan tentang tindakan setiap cabang serta syarat yang mempengaruhi hasil. Tugas pengekodan boleh menentukan input yang diterima, nilai pulangan yang dijangka dan kekangan untuk mengubah tingkah laku sedia ada. Minta pelaksanaan diikuti contoh bagi kes biasa dan kes pinggir. Ini ialah aplikasi keupayaan bahasa dan pengekodan yang didokumenkan; penjanaan kod ialah hasil teks, manakala menjalankannya merupakan tugas persekitaran aplikasi.\n\nUntuk penyuntingan berbilang bahasa, bekalkan petikan asal, khalayak sasaran dan senarai istilah kecil. Minta semakan yang mengekalkan nama serta syarat asal, kemudian penerangan pendek tentang perubahan. Ini lebih khusus daripada permintaan untuk memperbaiki teks: ia menentukan makna yang mesti kekal dan output berguna yang perlu dikembalikan.\n\nMemproses teks panjang\n\nPembuat mendokumenkan sokongan konteks sehingga 131,072 token, tetapi arahan konteks panjang penting. Input melebihi 32,768 token memerlukan konfigurasi peluasan YaRN yang didokumenkan. Contoh terbitan menggunakan faktor penskalaan 4.0 dengan tetapan kedudukan asal 32,768. Pembuat menyatakan bahawa tetapan peluasan statik boleh mempengaruhi tingkah laku teks lebih pendek dan mengesyorkan pengaktifannya apabila pemprosesan konteks panjang benar-benar diperlukan.\n\nSediakan tugas dokumen panjang dengan soalan terfokus, bahagian sumber bernama dan struktur output yang jelas. Contohnya, berikan beberapa bahagian spesifikasi teknikal dan minta keperluan yang berkaitan dengan perubahan tertentu, dengan bahagian sumber disimpan di sebelah setiap dapatan. Tetingkap input besar berguna untuk mengekalkan bahagian itu bersama; jawapannya masih boleh menjadi jadual padat, bukannya penceritaan semula seluruh dokumen.\n\nBatasan penting\n\nAngka 131,072 token ialah sokongan konteks lanjutan, bukannya kebenaran untuk mengabaikan konfigurasi konteks panjang. 512 token yang dijana dalam contoh mula pantas ialah tetapan contoh, bukan kapasiti output maksimum yang diterbitkan. Keluaran Instruct ini ialah model teks dan tidak sepatutnya mewarisi keupayaan imej atau video daripada Qwen-VL atau latihan matematik khusus berintegrasi alat Qwen2.5-Math. Pilih edisi yang dinamakan dan sediakan teks untuk penerangan, kod atau dokumen khusus yang anda perlukan.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "67c14d3b1eb80138220fa9891907985379d69d441997bdecfdf5bfdeaeb146ce", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "ms", "methods": [ { "html": "qwen2-7b-instructQwen2-7B-Instruct ialah model teks yang ditala untuk arahan bagi dialog berbilang bahasa, pengekodan, matematik dan penaakulan. Pembuatnya mendokumenkan konteks sehingga 131,072 token apabila konfigurasi konteks panjang diaktifkan.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Qwen2-7B-Instruct ialah edisi bersaiz 7B Qwen2 yang ditala untuk arahan bagi perbualan dan tugas yang dinyatakan dalam bahasa semula jadi. Model ini menerima teks dan menghasilkan teks: jawapannya boleh berupa penerangan, terjemahan, draf dokumen atau kod program. Pembuatnya mengenal pasti pemahaman bahasa, penjanaan, kerja berbilang bahasa, pengekodan, matematik dan penaakulan sebagai bidang penggunaan utama.
Butiran model
Qwen2 mempunyai keluaran asas dan keluaran yang ditala untuk arahan secara berasingan. Kad ini berkaitan dengan edisi Instruct, bukannya model asas Qwen2-7B atau keluaran campuran pakar dalam keluarga itu. Jadual maklumat model pembuatnya melaporkan 7.07 bilion parameter untuk model bersaiz 7B. Transformer penyahkodnya menggunakan SwiGLU, bias QKV perhatian dan perhatian pertanyaan berkelompok, dengan tokenizer yang direka untuk bahasa semula jadi dan kod. Ini ialah pilihan seni bina dan perwakilan, bukan modaliti input tambahan.
Pengumuman keluaran menerangkan latihan dalam bahasa Inggeris dan Cina serta 27 bahasa tambahan. Bahasa itu termasuk Rusia, Czech dan Poland; Jerman, Perancis dan Sepanyol; Arab, Parsi dan Turki; Jepun dan Korea; serta bahasa lain di seluruh Asia Selatan dan Asia Tenggara. Oleh itu, pembantu berbilang bahasa boleh menerima arahan dan bahan sumber dalam bahasa berbeza, tetapi masih disarankan untuk menentukan bahasa, istilah dan khalayak artifak akhir.
Latihan dan perbezaan Instruct
Selepas pralatihan, pembuat menggunakan penalaan halus terselia dan pengoptimuman keutamaan langsung. Edisi yang ditala untuk arahan bertujuan memberikan respons kepada permintaan dalam perbualan, manakala edisi asas mempunyai peranan lain sebagai asas model bahasa. Nyatakan nama edisi dengan jelas apabila memilih model atau membandingkan tingkah laku prom. Melatih model supaya mengikut arahan dan membekalkan arahan tepat ketika penggunaan ialah bahagian yang saling melengkapi dalam aliran kerja itu.
Menyediakan input perbualan
Panduan mula pantas kad model memisahkan arahan sistem daripada soalan pengguna dan menggunakan templat sembang yang sepadan sebelum penjanaan. Untuk tugas pada peringkat aplikasi, perbezaan praktikal yang sama berguna: tentukan peranan pembantu dan peraturan respons secara berasingan daripada petikan sumber atau kod yang perlu dikendalikannya. Label teks yang ditulis dalam dokumen bukan pengganti kepada peranan perbualan berformat betul dalam antara muka yang mengelilinginya.
Tugas penerangan teknikal boleh membekalkan fungsi dan satu contoh input, kemudian meminta penjelasan tentang tindakan setiap cabang serta syarat yang mempengaruhi hasil. Tugas pengekodan boleh menentukan input yang diterima, nilai pulangan yang dijangka dan kekangan untuk mengubah tingkah laku sedia ada. Minta pelaksanaan diikuti contoh bagi kes biasa dan kes pinggir. Ini ialah aplikasi keupayaan bahasa dan pengekodan yang didokumenkan; penjanaan kod ialah hasil teks, manakala menjalankannya merupakan tugas persekitaran aplikasi.
Untuk penyuntingan berbilang bahasa, bekalkan petikan asal, khalayak sasaran dan senarai istilah kecil. Minta semakan yang mengekalkan nama serta syarat asal, kemudian penerangan pendek tentang perubahan. Ini lebih khusus daripada permintaan untuk memperbaiki teks: ia menentukan makna yang mesti kekal dan output berguna yang perlu dikembalikan.
Memproses teks panjang
Pembuat mendokumenkan sokongan konteks sehingga 131,072 token, tetapi arahan konteks panjang penting. Input melebihi 32,768 token memerlukan konfigurasi peluasan YaRN yang didokumenkan. Contoh terbitan menggunakan faktor penskalaan 4.0 dengan tetapan kedudukan asal 32,768. Pembuat menyatakan bahawa tetapan peluasan statik boleh mempengaruhi tingkah laku teks lebih pendek dan mengesyorkan pengaktifannya apabila pemprosesan konteks panjang benar-benar diperlukan.
Sediakan tugas dokumen panjang dengan soalan terfokus, bahagian sumber bernama dan struktur output yang jelas. Contohnya, berikan beberapa bahagian spesifikasi teknikal dan minta keperluan yang berkaitan dengan perubahan tertentu, dengan bahagian sumber disimpan di sebelah setiap dapatan. Tetingkap input besar berguna untuk mengekalkan bahagian itu bersama; jawapannya masih boleh menjadi jadual padat, bukannya penceritaan semula seluruh dokumen.
Batasan penting
Angka 131,072 token ialah sokongan konteks lanjutan, bukannya kebenaran untuk mengabaikan konfigurasi konteks panjang. 512 token yang dijana dalam contoh mula pantas ialah tetapan contoh, bukan kapasiti output maksimum yang diterbitkan. Keluaran Instruct ini ialah model teks dan tidak sepatutnya mewarisi keupayaan imej atau video daripada Qwen-VL atau latihan matematik khusus berintegrasi alat Qwen2.5-Math. Pilih edisi yang dinamakan dan sediakan teks untuk penerangan, kod atau dokumen khusus yang anda perlukan.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had qwen2-7b-instruct | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Perbualan teks | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream |
Parametercontrol_scope | KontrakPerbualan teks; stream ialah nilai boolean dengan false sebagai lalai. |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Alias kaedah: /chat/completions
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0.000286 / 1K token Output · Token output $0.00058 / 1K token Input · Bacaan cache $0 / 1K token Input · Penulisan cache $0 / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2-7b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2-7b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions
qwen2-7b-instructQwen2-7B-Instruct ialah model teks yang ditala untuk arahan bagi dialog berbilang bahasa, pengekodan, matematik dan penaakulan. Pembuatnya mendokumenkan konteks sehingga 131,072 token apabila konfigurasi konteks panjang diaktifkan.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Qwen2-7B-Instruct ialah edisi bersaiz 7B Qwen2 yang ditala untuk arahan bagi perbualan dan tugas yang dinyatakan dalam bahasa semula jadi. Model ini menerima teks dan menghasilkan teks: jawapannya boleh berupa penerangan, terjemahan, draf dokumen atau kod program. Pembuatnya mengenal pasti pemahaman bahasa, penjanaan, kerja berbilang bahasa, pengekodan, matematik dan penaakulan sebagai bidang penggunaan utama.
Butiran model
Qwen2 mempunyai keluaran asas dan keluaran yang ditala untuk arahan secara berasingan. Kad ini berkaitan dengan edisi Instruct, bukannya model asas Qwen2-7B atau keluaran campuran pakar dalam keluarga itu. Jadual maklumat model pembuatnya melaporkan 7.07 bilion parameter untuk model bersaiz 7B. Transformer penyahkodnya menggunakan SwiGLU, bias QKV perhatian dan perhatian pertanyaan berkelompok, dengan tokenizer yang direka untuk bahasa semula jadi dan kod. Ini ialah pilihan seni bina dan perwakilan, bukan modaliti input tambahan.
Pengumuman keluaran menerangkan latihan dalam bahasa Inggeris dan Cina serta 27 bahasa tambahan. Bahasa itu termasuk Rusia, Czech dan Poland; Jerman, Perancis dan Sepanyol; Arab, Parsi dan Turki; Jepun dan Korea; serta bahasa lain di seluruh Asia Selatan dan Asia Tenggara. Oleh itu, pembantu berbilang bahasa boleh menerima arahan dan bahan sumber dalam bahasa berbeza, tetapi masih disarankan untuk menentukan bahasa, istilah dan khalayak artifak akhir.
Latihan dan perbezaan Instruct
Selepas pralatihan, pembuat menggunakan penalaan halus terselia dan pengoptimuman keutamaan langsung. Edisi yang ditala untuk arahan bertujuan memberikan respons kepada permintaan dalam perbualan, manakala edisi asas mempunyai peranan lain sebagai asas model bahasa. Nyatakan nama edisi dengan jelas apabila memilih model atau membandingkan tingkah laku prom. Melatih model supaya mengikut arahan dan membekalkan arahan tepat ketika penggunaan ialah bahagian yang saling melengkapi dalam aliran kerja itu.
Menyediakan input perbualan
Panduan mula pantas kad model memisahkan arahan sistem daripada soalan pengguna dan menggunakan templat sembang yang sepadan sebelum penjanaan. Untuk tugas pada peringkat aplikasi, perbezaan praktikal yang sama berguna: tentukan peranan pembantu dan peraturan respons secara berasingan daripada petikan sumber atau kod yang perlu dikendalikannya. Label teks yang ditulis dalam dokumen bukan pengganti kepada peranan perbualan berformat betul dalam antara muka yang mengelilinginya.
Tugas penerangan teknikal boleh membekalkan fungsi dan satu contoh input, kemudian meminta penjelasan tentang tindakan setiap cabang serta syarat yang mempengaruhi hasil. Tugas pengekodan boleh menentukan input yang diterima, nilai pulangan yang dijangka dan kekangan untuk mengubah tingkah laku sedia ada. Minta pelaksanaan diikuti contoh bagi kes biasa dan kes pinggir. Ini ialah aplikasi keupayaan bahasa dan pengekodan yang didokumenkan; penjanaan kod ialah hasil teks, manakala menjalankannya merupakan tugas persekitaran aplikasi.
Untuk penyuntingan berbilang bahasa, bekalkan petikan asal, khalayak sasaran dan senarai istilah kecil. Minta semakan yang mengekalkan nama serta syarat asal, kemudian penerangan pendek tentang perubahan. Ini lebih khusus daripada permintaan untuk memperbaiki teks: ia menentukan makna yang mesti kekal dan output berguna yang perlu dikembalikan.
Memproses teks panjang
Pembuat mendokumenkan sokongan konteks sehingga 131,072 token, tetapi arahan konteks panjang penting. Input melebihi 32,768 token memerlukan konfigurasi peluasan YaRN yang didokumenkan. Contoh terbitan menggunakan faktor penskalaan 4.0 dengan tetapan kedudukan asal 32,768. Pembuat menyatakan bahawa tetapan peluasan statik boleh mempengaruhi tingkah laku teks lebih pendek dan mengesyorkan pengaktifannya apabila pemprosesan konteks panjang benar-benar diperlukan.
Sediakan tugas dokumen panjang dengan soalan terfokus, bahagian sumber bernama dan struktur output yang jelas. Contohnya, berikan beberapa bahagian spesifikasi teknikal dan minta keperluan yang berkaitan dengan perubahan tertentu, dengan bahagian sumber disimpan di sebelah setiap dapatan. Tetingkap input besar berguna untuk mengekalkan bahagian itu bersama; jawapannya masih boleh menjadi jadual padat, bukannya penceritaan semula seluruh dokumen.
Batasan penting
Angka 131,072 token ialah sokongan konteks lanjutan, bukannya kebenaran untuk mengabaikan konfigurasi konteks panjang. 512 token yang dijana dalam contoh mula pantas ialah tetapan contoh, bukan kapasiti output maksimum yang diterbitkan. Keluaran Instruct ini ialah model teks dan tidak sepatutnya mewarisi keupayaan imej atau video daripada Qwen-VL atau latihan matematik khusus berintegrasi alat Qwen2.5-Math. Pilih edisi yang dinamakan dan sediakan teks untuk penerangan, kod atau dokumen khusus yang anda perlukan.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had qwen2-7b-instruct | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0.000286 / 1K token Output · Token output $0.00058 / 1K token Input · Bacaan cache $0 / 1K token Input · Penulisan cache $0 / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "qwen2-7b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions