Qwen2.5 72B Instruct ialah model teks besar yang ditala untuk arahan dalam siri Qwen2.5 kegunaan umum Qwen. Model ini menghasilkan jawapan bertulis, kod dan teks berstruktur daripada arahan dan perbualan. Keupayaannya merangkumi pengetahuan umum, pengekodan, matematik, pematuhan arahan terperinci dan pengendalian jadual. Model ini berbeza daripada titik semak asas Qwen2.5 serta edisi Coder, Math dan penglihatan-bahasa yang berasingan.
Model ini ialah Transformer padat dengan penyahkod sahaja dan sejumlah 72.7 bilion parameter, termasuk 70 bilion parameter bukan pembenaman. Seni bina yang diterbitkan mempunyai 80 lapisan dan perhatian pertanyaan berkelompok dengan 64 kepala pertanyaan serta lapan kepala kunci/nilai, bersama rotary position embeddings, SwiGLU dan RMSNorm. Data pralatihan siri ini mencapai sehingga 18 trilion token, diikuti latihan lanjutan untuk penggunaan berasaskan arahan.
Kad model khusus ini melaporkan konteks penuh 131,072 token dan penjanaan sehingga 8,192 token. Konfigurasi yang diterbitkan bermula pada 32,768 kedudukan; penggunaan konteks lanjutan memerlukan persediaan penskalaan panjang pengeluar. Kad tersebut memberi amaran bahawa penskalaan statik boleh mempengaruhi prestasi teks yang lebih pendek dan mengesyorkan pengaktifannya apabila input panjang diperlukan. Angka ini membezakan keupayaan penuh model daripada konfigurasi lalai titik semak yang digunakan untuk penggunaan tertentu.
Untuk kerja dokumen panjang, kenal pasti bahagian yang perlu diperiksa dan hasil yang perlu dikembalikan: perbandingan, rangka, ringkasan atau set fakta yang diekstrak. Pastikan arahan, teks sumber dan jawapan yang diminta berada dalam konteks yang tersedia. Laporan panjang mendapat manfaat daripada pelan bahagian dan keutamaan yang jelas supaya output mengikut tugasan, bukannya menggunakan panjang penjanaannya untuk pengenalan yang tidak berkaitan.
Pemahaman data berstruktur dan penjanaan JSON merupakan aspek utama keluaran ini. Bekalkan tajuk jadual, unit dan konvensyen nilai yang tiada sebelum meminta transformasi. Untuk tugas pengekstrakan, tentukan medan output dan minta model membezakan nilai yang dinyatakan dalam sumber daripada maklumat yang tidak ada. Aplikasi kemudian boleh menghuraikan dan menyemak hasil berdasarkan struktur yang dijangka. Penghasilan JSON dengan sendirinya tidak menjadikan sesuatu skema sebagai kontrak output yang dijamin.
Qwen mendokumenkan sokongan panggilan alat melalui templat perbualan dan integrasi aplikasi yang serasi. Berikan penerangan fungsi dan maklumat yang diperlukan oleh setiap fungsi. Model menyediakan panggilan yang dicadangkan; aplikasi melaksanakannya dan membekalkan hasil untuk giliran seterusnya. Tugas data yang berguna boleh mendapatkan rekod, membandingkannya dengan soalan pengguna dan mengembalikan penerangan ringkas yang dikaitkan dengan medan yang diperoleh. Pelaksanaan dan akses kepada sistem luaran dibekalkan oleh aplikasi yang mengelilingi model.
Pengeluar menerangkan sokongan untuk lebih daripada 29 bahasa, termasuk Cina, Inggeris, Perancis, Sepanyol, Portugis, Jerman, Itali, Rusia, Jepun, Korea, Vietnam, Thai dan Arab. Fleksibiliti prom sistem turut menyokong penetapan peranan dan syarat chatbot. Untuk kod atau matematik, bekalkan pelaksanaan atau premis yang berkaitan dan minta jawapan bersama semakan atau langkah perantaraan yang diperlukan untuk menilainya. Untuk output berbilang bahasa, nyatakan bahasa sasaran dan istilah yang perlu dikekalkan supaya hasil sesuai dengan khalayak yang dimaksudkan.
", "aboutText": "Qwen2.5 72B Instruct ialah model teks besar yang ditala untuk arahan dalam siri Qwen2.5 kegunaan umum Qwen. Model ini menghasilkan jawapan bertulis, kod dan teks berstruktur daripada arahan dan perbualan. Keupayaannya merangkumi pengetahuan umum, pengekodan, matematik, pematuhan arahan terperinci dan pengendalian jadual. Model ini berbeza daripada titik semak asas Qwen2.5 serta edisi Coder, Math dan penglihatan-bahasa yang berasingan.\n\nModel ini ialah Transformer padat dengan penyahkod sahaja dan sejumlah 72.7 bilion parameter, termasuk 70 bilion parameter bukan pembenaman. Seni bina yang diterbitkan mempunyai 80 lapisan dan perhatian pertanyaan berkelompok dengan 64 kepala pertanyaan serta lapan kepala kunci/nilai, bersama rotary position embeddings, SwiGLU dan RMSNorm. Data pralatihan siri ini mencapai sehingga 18 trilion token, diikuti latihan lanjutan untuk penggunaan berasaskan arahan.\n\nKad model khusus ini melaporkan konteks penuh 131,072 token dan penjanaan sehingga 8,192 token. Konfigurasi yang diterbitkan bermula pada 32,768 kedudukan; penggunaan konteks lanjutan memerlukan persediaan penskalaan panjang pengeluar. Kad tersebut memberi amaran bahawa penskalaan statik boleh mempengaruhi prestasi teks yang lebih pendek dan mengesyorkan pengaktifannya apabila input panjang diperlukan. Angka ini membezakan keupayaan penuh model daripada konfigurasi lalai titik semak yang digunakan untuk penggunaan tertentu.\n\nUntuk kerja dokumen panjang, kenal pasti bahagian yang perlu diperiksa dan hasil yang perlu dikembalikan: perbandingan, rangka, ringkasan atau set fakta yang diekstrak. Pastikan arahan, teks sumber dan jawapan yang diminta berada dalam konteks yang tersedia. Laporan panjang mendapat manfaat daripada pelan bahagian dan keutamaan yang jelas supaya output mengikut tugasan, bukannya menggunakan panjang penjanaannya untuk pengenalan yang tidak berkaitan.\n\nPemahaman data berstruktur dan penjanaan JSON merupakan aspek utama keluaran ini. Bekalkan tajuk jadual, unit dan konvensyen nilai yang tiada sebelum meminta transformasi. Untuk tugas pengekstrakan, tentukan medan output dan minta model membezakan nilai yang dinyatakan dalam sumber daripada maklumat yang tidak ada. Aplikasi kemudian boleh menghuraikan dan menyemak hasil berdasarkan struktur yang dijangka. Penghasilan JSON dengan sendirinya tidak menjadikan sesuatu skema sebagai kontrak output yang dijamin.\n\nQwen mendokumenkan sokongan panggilan alat melalui templat perbualan dan integrasi aplikasi yang serasi. Berikan penerangan fungsi dan maklumat yang diperlukan oleh setiap fungsi. Model menyediakan panggilan yang dicadangkan; aplikasi melaksanakannya dan membekalkan hasil untuk giliran seterusnya. Tugas data yang berguna boleh mendapatkan rekod, membandingkannya dengan soalan pengguna dan mengembalikan penerangan ringkas yang dikaitkan dengan medan yang diperoleh. Pelaksanaan dan akses kepada sistem luaran dibekalkan oleh aplikasi yang mengelilingi model.\n\nPengeluar menerangkan sokongan untuk lebih daripada 29 bahasa, termasuk Cina, Inggeris, Perancis, Sepanyol, Portugis, Jerman, Itali, Rusia, Jepun, Korea, Vietnam, Thai dan Arab. Fleksibiliti prom sistem turut menyokong penetapan peranan dan syarat chatbot. Untuk kod atau matematik, bekalkan pelaksanaan atau premis yang berkaitan dan minta jawapan bersama semakan atau langkah perantaraan yang diperlukan untuk menilainya. Untuk output berbilang bahasa, nyatakan bahasa sasaran dan istilah yang perlu dikekalkan supaya hasil sesuai dengan khalayak yang dimaksudkan.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Transform a small stock table\n\nTransform this table into a compact requested JSON array. Columns: sku, units, unit. Rows: A7 | 12 | boxes; B3 | blank | pieces; C9 | 0 | boxes. Preserve SKU spelling and units, convert stated counts to integers, and use null for a blank count. Return the array only; do not calculate totals across different units.A three-object JSON-shaped array retaining sku, units and unit with numeric counts or null.The blank count remains null, zero remains 0, and boxes are not added to pieces.qwen/qwen-2.5-72b-instructQwen2.5 72B Instruct ialah model teks berseni bina padat Qwen yang ditala untuk arahan bagi perbualan berbilang bahasa, kod, matematik dan data berstruktur. Pengeluar mendokumenkan konteks lanjutan 131,072 token, penjanaan 8,192 token dan templat panggilan alat.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Qwen2.5 72B Instruct ialah model teks besar yang ditala untuk arahan dalam siri Qwen2.5 kegunaan umum Qwen. Model ini menghasilkan jawapan bertulis, kod dan teks berstruktur daripada arahan dan perbualan. Keupayaannya merangkumi pengetahuan umum, pengekodan, matematik, pematuhan arahan terperinci dan pengendalian jadual. Model ini berbeza daripada titik semak asas Qwen2.5 serta edisi Coder, Math dan penglihatan-bahasa yang berasingan.
Model ini ialah Transformer padat dengan penyahkod sahaja dan sejumlah 72.7 bilion parameter, termasuk 70 bilion parameter bukan pembenaman. Seni bina yang diterbitkan mempunyai 80 lapisan dan perhatian pertanyaan berkelompok dengan 64 kepala pertanyaan serta lapan kepala kunci/nilai, bersama rotary position embeddings, SwiGLU dan RMSNorm. Data pralatihan siri ini mencapai sehingga 18 trilion token, diikuti latihan lanjutan untuk penggunaan berasaskan arahan.
Kad model khusus ini melaporkan konteks penuh 131,072 token dan penjanaan sehingga 8,192 token. Konfigurasi yang diterbitkan bermula pada 32,768 kedudukan; penggunaan konteks lanjutan memerlukan persediaan penskalaan panjang pengeluar. Kad tersebut memberi amaran bahawa penskalaan statik boleh mempengaruhi prestasi teks yang lebih pendek dan mengesyorkan pengaktifannya apabila input panjang diperlukan. Angka ini membezakan keupayaan penuh model daripada konfigurasi lalai titik semak yang digunakan untuk penggunaan tertentu.
Untuk kerja dokumen panjang, kenal pasti bahagian yang perlu diperiksa dan hasil yang perlu dikembalikan: perbandingan, rangka, ringkasan atau set fakta yang diekstrak. Pastikan arahan, teks sumber dan jawapan yang diminta berada dalam konteks yang tersedia. Laporan panjang mendapat manfaat daripada pelan bahagian dan keutamaan yang jelas supaya output mengikut tugasan, bukannya menggunakan panjang penjanaannya untuk pengenalan yang tidak berkaitan.
Pemahaman data berstruktur dan penjanaan JSON merupakan aspek utama keluaran ini. Bekalkan tajuk jadual, unit dan konvensyen nilai yang tiada sebelum meminta transformasi. Untuk tugas pengekstrakan, tentukan medan output dan minta model membezakan nilai yang dinyatakan dalam sumber daripada maklumat yang tidak ada. Aplikasi kemudian boleh menghuraikan dan menyemak hasil berdasarkan struktur yang dijangka. Penghasilan JSON dengan sendirinya tidak menjadikan sesuatu skema sebagai kontrak output yang dijamin.
Qwen mendokumenkan sokongan panggilan alat melalui templat perbualan dan integrasi aplikasi yang serasi. Berikan penerangan fungsi dan maklumat yang diperlukan oleh setiap fungsi. Model menyediakan panggilan yang dicadangkan; aplikasi melaksanakannya dan membekalkan hasil untuk giliran seterusnya. Tugas data yang berguna boleh mendapatkan rekod, membandingkannya dengan soalan pengguna dan mengembalikan penerangan ringkas yang dikaitkan dengan medan yang diperoleh. Pelaksanaan dan akses kepada sistem luaran dibekalkan oleh aplikasi yang mengelilingi model.
Pengeluar menerangkan sokongan untuk lebih daripada 29 bahasa, termasuk Cina, Inggeris, Perancis, Sepanyol, Portugis, Jerman, Itali, Rusia, Jepun, Korea, Vietnam, Thai dan Arab. Fleksibiliti prom sistem turut menyokong penetapan peranan dan syarat chatbot. Untuk kod atau matematik, bekalkan pelaksanaan atau premis yang berkaitan dan minta jawapan bersama semakan atau langkah perantaraan yang diperlukan untuk menilainya. Untuk output berbilang bahasa, nyatakan bahasa sasaran dan istilah yang perlu dikekalkan supaya hasil sesuai dengan khalayak yang dimaksudkan.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had qwen/qwen-2.5-72b-instruct | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00118 / 1K token Output · Token output $0.00118 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00118 / 1K token Output · Token output $0.00118 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen-2.5-72b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen-2.5-72b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen-2.5-72b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra qwen/qwen-2.5-72b-instruct
Gunakan laluan kaedah yang dipaparkan di atas.
qwen/qwen-2.5-72b-instructQwen2.5 72B Instruct ialah model teks berseni bina padat Qwen yang ditala untuk arahan bagi perbualan berbilang bahasa, kod, matematik dan data berstruktur. Pengeluar mendokumenkan konteks lanjutan 131,072 token, penjanaan 8,192 token dan templat panggilan alat.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Qwen2.5 72B Instruct ialah model teks besar yang ditala untuk arahan dalam siri Qwen2.5 kegunaan umum Qwen. Model ini menghasilkan jawapan bertulis, kod dan teks berstruktur daripada arahan dan perbualan. Keupayaannya merangkumi pengetahuan umum, pengekodan, matematik, pematuhan arahan terperinci dan pengendalian jadual. Model ini berbeza daripada titik semak asas Qwen2.5 serta edisi Coder, Math dan penglihatan-bahasa yang berasingan.
Model ini ialah Transformer padat dengan penyahkod sahaja dan sejumlah 72.7 bilion parameter, termasuk 70 bilion parameter bukan pembenaman. Seni bina yang diterbitkan mempunyai 80 lapisan dan perhatian pertanyaan berkelompok dengan 64 kepala pertanyaan serta lapan kepala kunci/nilai, bersama rotary position embeddings, SwiGLU dan RMSNorm. Data pralatihan siri ini mencapai sehingga 18 trilion token, diikuti latihan lanjutan untuk penggunaan berasaskan arahan.
Kad model khusus ini melaporkan konteks penuh 131,072 token dan penjanaan sehingga 8,192 token. Konfigurasi yang diterbitkan bermula pada 32,768 kedudukan; penggunaan konteks lanjutan memerlukan persediaan penskalaan panjang pengeluar. Kad tersebut memberi amaran bahawa penskalaan statik boleh mempengaruhi prestasi teks yang lebih pendek dan mengesyorkan pengaktifannya apabila input panjang diperlukan. Angka ini membezakan keupayaan penuh model daripada konfigurasi lalai titik semak yang digunakan untuk penggunaan tertentu.
Untuk kerja dokumen panjang, kenal pasti bahagian yang perlu diperiksa dan hasil yang perlu dikembalikan: perbandingan, rangka, ringkasan atau set fakta yang diekstrak. Pastikan arahan, teks sumber dan jawapan yang diminta berada dalam konteks yang tersedia. Laporan panjang mendapat manfaat daripada pelan bahagian dan keutamaan yang jelas supaya output mengikut tugasan, bukannya menggunakan panjang penjanaannya untuk pengenalan yang tidak berkaitan.
Pemahaman data berstruktur dan penjanaan JSON merupakan aspek utama keluaran ini. Bekalkan tajuk jadual, unit dan konvensyen nilai yang tiada sebelum meminta transformasi. Untuk tugas pengekstrakan, tentukan medan output dan minta model membezakan nilai yang dinyatakan dalam sumber daripada maklumat yang tidak ada. Aplikasi kemudian boleh menghuraikan dan menyemak hasil berdasarkan struktur yang dijangka. Penghasilan JSON dengan sendirinya tidak menjadikan sesuatu skema sebagai kontrak output yang dijamin.
Qwen mendokumenkan sokongan panggilan alat melalui templat perbualan dan integrasi aplikasi yang serasi. Berikan penerangan fungsi dan maklumat yang diperlukan oleh setiap fungsi. Model menyediakan panggilan yang dicadangkan; aplikasi melaksanakannya dan membekalkan hasil untuk giliran seterusnya. Tugas data yang berguna boleh mendapatkan rekod, membandingkannya dengan soalan pengguna dan mengembalikan penerangan ringkas yang dikaitkan dengan medan yang diperoleh. Pelaksanaan dan akses kepada sistem luaran dibekalkan oleh aplikasi yang mengelilingi model.
Pengeluar menerangkan sokongan untuk lebih daripada 29 bahasa, termasuk Cina, Inggeris, Perancis, Sepanyol, Portugis, Jerman, Itali, Rusia, Jepun, Korea, Vietnam, Thai dan Arab. Fleksibiliti prom sistem turut menyokong penetapan peranan dan syarat chatbot. Untuk kod atau matematik, bekalkan pelaksanaan atau premis yang berkaitan dan minta jawapan bersama semakan atau langkah perantaraan yang diperlukan untuk menilainya. Untuk output berbilang bahasa, nyatakan bahasa sasaran dan istilah yang perlu dikekalkan supaya hasil sesuai dengan khalayak yang dimaksudkan.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had qwen/qwen-2.5-72b-instruct | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00118 / 1K token Output · Token output $0.00118 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00118 / 1K token Output · Token output $0.00118 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "qwen/qwen-2.5-72b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen-2.5-72b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen-2.5-72b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra qwen/qwen-2.5-72b-instruct
Gunakan laluan kaedah yang dipaparkan di atas.
Contoh teknikal dalam bahasa Inggeris
Transform a small stock table\n\nTransform this table into a compact requested JSON array. Columns: sku, units, unit. Rows: A7 | 12 | boxes; B3 | blank | pieces; C9 | 0 | boxes. Preserve SKU spelling and units, convert stated counts to integers, and use null for a blank count. Return the array only; do not calculate totals across different units.A three-object JSON-shaped array retaining sku, units and unit with numeric counts or null.The blank count remains null, zero remains 0, and boxes are not added to pieces.