Qwen2.5 14B Instruct 1M adalah edisi 14B dengan konteks lebih panjang dalam keluarga Qwen2.5. Kartu model dari pembuatnya memublikasikan konteks penuh sebesar 1,010,000 token dan alokasi pembuatan keluaran 8,192 token. Kartu itu menjelaskan model bahasa dengan 14.7 miliar parameter, dengan 13.1 miliar parameter jika embedding dikecualikan.
Beri label dokumen atau bagian teks dan nyatakan hasil mana yang harus didukungnya. Perbandingan dapat menetapkan kriteria dan meminta perbedaan yang dikaitkan dengan sumber. Ringkasan dapat menentukan audiens dan informasi yang harus dipertahankan. Arahan terarah menjaga kumpulan sumber yang lebih besar tetap terhubung dengan jawaban yang diperlukan.
Untuk tindak lanjut, pertahankan pengenal sumber dan temuan terdahulu yang relevan. Tambahkan koreksi atau bagian teks baru secara eksplisit agar kesimpulan revisi dapat dibandingkan dengan bukti asli.
Pembuatnya memperagakan instruksi sistem dan pertanyaan pengguna melalui templat percakapan rilis ini. Pisahkan materi kutipan dari instruksi dan tetapkan struktur jawaban akhir. Untuk hasil terstruktur, tentukan kolom dan bagaimana informasi yang tidak ada harus ditampilkan, lalu periksa nilai yang dikembalikan terhadap sumber.
Masukan besar tidak memerlukan jawaban yang sama besarnya. Minta perincian yang diperlukan artefak dan sisakan ruang yang sesuai untuk respons dalam batas antarmuka yang dipilih.
Pembuatnya merekomendasikan framework inferensi khusus dengan sparse attention dan ekstrapolasi panjang untuk masukan sangat panjang. Panduannya menjelaskan pengaturan panjang model maksimum dan parameter eksekusi lain; panduan itu juga mencatat bahwa framework kompatibel yang lebih lama dapat kehilangan akurasi di atas 262,144 token.
Ini merupakan kemampuan model dan penerapan, bukan pengaturan yang otomatis disediakan setiap antarmuka hosted. Profil hosted yang spesifik mencantumkan konteks kerja sebesar 128,000 token. Siapkan permintaan sebenarnya menggunakan batas yang didokumentasikan untuk antarmuka itu, alih-alih memperlakukan nama edisi 1M sebagai jaminan untuk setiap rute.
Panduan konteks panjang bersama dari pembuatnya menyebutkan model 7B dan 14B yang terpisah. Entri ini mengikuti spesifikasi parameter dan pembuatan keluaran model 14B sendiri. Sertakan edisi yang tepat bersama prompt dan hasil ketika membandingkan tugas atau revisi dengan sumber yang lebih besar.
", "aboutText": "Qwen2.5 14B Instruct 1M adalah edisi 14B dengan konteks lebih panjang dalam keluarga Qwen2.5. Kartu model dari pembuatnya memublikasikan konteks penuh sebesar 1,010,000 token dan alokasi pembuatan keluaran 8,192 token. Kartu itu menjelaskan model bahasa dengan 14.7 miliar parameter, dengan 13.1 miliar parameter jika embedding dikecualikan.\n\n### Susun materi panjang berdasarkan pertanyaan\n\nBeri label dokumen atau bagian teks dan nyatakan hasil mana yang harus didukungnya. Perbandingan dapat menetapkan kriteria dan meminta perbedaan yang dikaitkan dengan sumber. Ringkasan dapat menentukan audiens dan informasi yang harus dipertahankan. Arahan terarah menjaga kumpulan sumber yang lebih besar tetap terhubung dengan jawaban yang diperlukan.\n\nUntuk tindak lanjut, pertahankan pengenal sumber dan temuan terdahulu yang relevan. Tambahkan koreksi atau bagian teks baru secara eksplisit agar kesimpulan revisi dapat dibandingkan dengan bukti asli.\n\n### Gunakan templat percakapan model\n\nPembuatnya memperagakan instruksi sistem dan pertanyaan pengguna melalui templat percakapan rilis ini. Pisahkan materi kutipan dari instruksi dan tetapkan struktur jawaban akhir. Untuk hasil terstruktur, tentukan kolom dan bagaimana informasi yang tidak ada harus ditampilkan, lalu periksa nilai yang dikembalikan terhadap sumber.\n\nMasukan besar tidak memerlukan jawaban yang sama besarnya. Minta perincian yang diperlukan artefak dan sisakan ruang yang sesuai untuk respons dalam batas antarmuka yang dipilih.\n\n### Konfigurasi konteks panjang\n\nPembuatnya merekomendasikan framework inferensi khusus dengan sparse attention dan ekstrapolasi panjang untuk masukan sangat panjang. Panduannya menjelaskan pengaturan panjang model maksimum dan parameter eksekusi lain; panduan itu juga mencatat bahwa framework kompatibel yang lebih lama dapat kehilangan akurasi di atas 262,144 token.\n\nIni merupakan kemampuan model dan penerapan, bukan pengaturan yang otomatis disediakan setiap antarmuka hosted. Profil hosted yang spesifik mencantumkan konteks kerja sebesar 128,000 token. Siapkan permintaan sebenarnya menggunakan batas yang didokumentasikan untuk antarmuka itu, alih-alih memperlakukan nama edisi 1M sebagai jaminan untuk setiap rute.\n\n### Pertahankan edisi 14B\n\nPanduan konteks panjang bersama dari pembuatnya menyebutkan model 7B dan 14B yang terpisah. Entri ini mengikuti spesifikasi parameter dan pembuatan keluaran model 14B sendiri. Sertakan edisi yang tepat bersama prompt dan hasil ketika membandingkan tugas atau revisi dengan sumber yang lebih besar.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
Reconcile a source collection\n\nCreate a current project summary from these labeled records. [M1] May plan: pilot in two branches, North and East. [M2] June decision: replace East with West; North unchanged. [M3] June staffing note: West lead unassigned. Treat later explicit decisions as updates. Return active branches, the change history and unresolved ownership, citing the relevant record IDs.A source-linked current-state summary, a concise change history and the missing West owner.Check East survives only in history and West is active with its owner unassigned.qwen2.5-14b-instruct-1mQwen2.5 14B Instruct 1M adalah edisi teks konteks panjang Qwen untuk kumpulan sumber yang lebih besar dan tugas mengikuti instruksi. Pembuatnya memublikasikan konteks penuh sebesar 1,010,000 token dan alokasi pembuatan keluaran 8,192 token untuk model ini.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Qwen2.5 14B Instruct 1M adalah edisi 14B dengan konteks lebih panjang dalam keluarga Qwen2.5. Kartu model dari pembuatnya memublikasikan konteks penuh sebesar 1,010,000 token dan alokasi pembuatan keluaran 8,192 token. Kartu itu menjelaskan model bahasa dengan 14.7 miliar parameter, dengan 13.1 miliar parameter jika embedding dikecualikan.
Beri label dokumen atau bagian teks dan nyatakan hasil mana yang harus didukungnya. Perbandingan dapat menetapkan kriteria dan meminta perbedaan yang dikaitkan dengan sumber. Ringkasan dapat menentukan audiens dan informasi yang harus dipertahankan. Arahan terarah menjaga kumpulan sumber yang lebih besar tetap terhubung dengan jawaban yang diperlukan.
Untuk tindak lanjut, pertahankan pengenal sumber dan temuan terdahulu yang relevan. Tambahkan koreksi atau bagian teks baru secara eksplisit agar kesimpulan revisi dapat dibandingkan dengan bukti asli.
Pembuatnya memperagakan instruksi sistem dan pertanyaan pengguna melalui templat percakapan rilis ini. Pisahkan materi kutipan dari instruksi dan tetapkan struktur jawaban akhir. Untuk hasil terstruktur, tentukan kolom dan bagaimana informasi yang tidak ada harus ditampilkan, lalu periksa nilai yang dikembalikan terhadap sumber.
Masukan besar tidak memerlukan jawaban yang sama besarnya. Minta perincian yang diperlukan artefak dan sisakan ruang yang sesuai untuk respons dalam batas antarmuka yang dipilih.
Pembuatnya merekomendasikan framework inferensi khusus dengan sparse attention dan ekstrapolasi panjang untuk masukan sangat panjang. Panduannya menjelaskan pengaturan panjang model maksimum dan parameter eksekusi lain; panduan itu juga mencatat bahwa framework kompatibel yang lebih lama dapat kehilangan akurasi di atas 262,144 token.
Ini merupakan kemampuan model dan penerapan, bukan pengaturan yang otomatis disediakan setiap antarmuka hosted. Profil hosted yang spesifik mencantumkan konteks kerja sebesar 128,000 token. Siapkan permintaan sebenarnya menggunakan batas yang didokumentasikan untuk antarmuka itu, alih-alih memperlakukan nama edisi 1M sebagai jaminan untuk setiap rute.
Panduan konteks panjang bersama dari pembuatnya menyebutkan model 7B dan 14B yang terpisah. Entri ini mengikuti spesifikasi parameter dan pembuatan keluaran model 14B sendiri. Sertakan edisi yang tepat bersama prompt dan hasil ketika membandingkan tugas atau revisi dengan sumber yang lebih besar.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan qwen2.5-14b-instruct-1m | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.000286 / 1K token Keluaran · Token keluaran $0.00086 / 1K token Masukan · Pembacaan cache $0 / 1K token Masukan · Penulisan cache $0 / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen2.5-14b-instruct-1m", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen2.5-14b-instruct-1m',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen2.5-14b-instruct-1m',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra qwen2.5-14b-instruct-1m
Gunakan jalur metode yang ditampilkan di atas.
qwen2.5-14b-instruct-1mQwen2.5 14B Instruct 1M adalah edisi teks konteks panjang Qwen untuk kumpulan sumber yang lebih besar dan tugas mengikuti instruksi. Pembuatnya memublikasikan konteks penuh sebesar 1,010,000 token dan alokasi pembuatan keluaran 8,192 token untuk model ini.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Qwen2.5 14B Instruct 1M adalah edisi 14B dengan konteks lebih panjang dalam keluarga Qwen2.5. Kartu model dari pembuatnya memublikasikan konteks penuh sebesar 1,010,000 token dan alokasi pembuatan keluaran 8,192 token. Kartu itu menjelaskan model bahasa dengan 14.7 miliar parameter, dengan 13.1 miliar parameter jika embedding dikecualikan.
Beri label dokumen atau bagian teks dan nyatakan hasil mana yang harus didukungnya. Perbandingan dapat menetapkan kriteria dan meminta perbedaan yang dikaitkan dengan sumber. Ringkasan dapat menentukan audiens dan informasi yang harus dipertahankan. Arahan terarah menjaga kumpulan sumber yang lebih besar tetap terhubung dengan jawaban yang diperlukan.
Untuk tindak lanjut, pertahankan pengenal sumber dan temuan terdahulu yang relevan. Tambahkan koreksi atau bagian teks baru secara eksplisit agar kesimpulan revisi dapat dibandingkan dengan bukti asli.
Pembuatnya memperagakan instruksi sistem dan pertanyaan pengguna melalui templat percakapan rilis ini. Pisahkan materi kutipan dari instruksi dan tetapkan struktur jawaban akhir. Untuk hasil terstruktur, tentukan kolom dan bagaimana informasi yang tidak ada harus ditampilkan, lalu periksa nilai yang dikembalikan terhadap sumber.
Masukan besar tidak memerlukan jawaban yang sama besarnya. Minta perincian yang diperlukan artefak dan sisakan ruang yang sesuai untuk respons dalam batas antarmuka yang dipilih.
Pembuatnya merekomendasikan framework inferensi khusus dengan sparse attention dan ekstrapolasi panjang untuk masukan sangat panjang. Panduannya menjelaskan pengaturan panjang model maksimum dan parameter eksekusi lain; panduan itu juga mencatat bahwa framework kompatibel yang lebih lama dapat kehilangan akurasi di atas 262,144 token.
Ini merupakan kemampuan model dan penerapan, bukan pengaturan yang otomatis disediakan setiap antarmuka hosted. Profil hosted yang spesifik mencantumkan konteks kerja sebesar 128,000 token. Siapkan permintaan sebenarnya menggunakan batas yang didokumentasikan untuk antarmuka itu, alih-alih memperlakukan nama edisi 1M sebagai jaminan untuk setiap rute.
Panduan konteks panjang bersama dari pembuatnya menyebutkan model 7B dan 14B yang terpisah. Entri ini mengikuti spesifikasi parameter dan pembuatan keluaran model 14B sendiri. Sertakan edisi yang tepat bersama prompt dan hasil ketika membandingkan tugas atau revisi dengan sumber yang lebih besar.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan qwen2.5-14b-instruct-1m | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.000286 / 1K token Keluaran · Token keluaran $0.00086 / 1K token Masukan · Pembacaan cache $0 / 1K token Masukan · Penulisan cache $0 / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "qwen2.5-14b-instruct-1m",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-14b-instruct-1m', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-14b-instruct-1m', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra qwen2.5-14b-instruct-1m
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
Reconcile a source collection\n\nCreate a current project summary from these labeled records. [M1] May plan: pilot in two branches, North and East. [M2] June decision: replace East with West; North unchanged. [M3] June staffing note: West lead unassigned. Treat later explicit decisions as updates. Return active branches, the change history and unresolved ownership, citing the relevant record IDs.A source-linked current-state summary, a concise change history and the missing West owner.Check East survives only in history and West is active with its owner unassigned.