Pengantar: model penalaran lebih kecil yang diturunkan dari R1
DeepSeek-R1-Distill-Qwen-7B mentransfer contoh penalaran dari DeepSeek-R1 ke model dense berbasis Qwen2.5-Math-7B. Model ini menerima teks dan menghasilkan teks, termasuk solusi beserta langkah pengerjaan, penjelasan pemrograman, dan jawaban atas masalah logika. Distilasi 7B yang spesifik ini merupakan checkpoint terpisah dari DeepSeek-R1 penuh, dari Qwen2.5-Math-7B asli, dan dari edisi distilasi yang lebih besar. Namanya mencatat pengembang data penalaran sekaligus keluarga model yang mendasarinya.
Kontribusi distilasi
Riset R1 DeepSeek membedakan pelatihan model pengajar penalaran besar dari fine-tuning model muridnya yang lebih kecil. Pipeline pengajar menggunakan reinforcement learning dan tahap terawasi; model distilasi yang dirilis di-fine-tuning dengan sampel yang dihasilkan R1. Pengembang menyebut 800.000 contoh terkurasi untuk rilis ini. Jangan menganggap model murid 7B sendiri memiliki arsitektur mixture-of-experts model penuh atau menjalani setiap tahap pelatihan pengajar. Distilasi memberi model ini gaya penalaran yang dipelajari; distilasi tidak menjadikan kesimpulannya setara dengan kesimpulan pengajar.
Model dan konfigurasi yang tepat
Tabel model resmi mengidentifikasi Qwen2.5-Math-7B sebagai basis edisi ini. DeepSeek mengubah pengaturan konfigurasi dan tokenizer, sehingga checkpoint yang dirilis dan templat chat yang tepat penting digunakan. Konfigurasi yang diterbitkan menggunakan arsitektur model bahasa kausal Qwen2 dengan 28 lapisan dan bobot bfloat16. Konfigurasi ini menetapkan posisi maksimum 131.072. Nilai konfigurasi tersebut bukan validasi tersendiri atas akurasi dokumen panjang: tabel konteks 128K dalam kartu R1 bersama menjelaskan model R1 penuh, sedangkan tabel model distilasinya mengidentifikasi asal-usul tanpa menerbitkan tabel konteks tervalidasi untuk setiap model murid.
Gunakan untuk tugas dengan hasil yang dapat diperiksa. Untuk matematika, berikan pernyataan lengkap, definisi, dan satuan. Untuk kode, sertakan fungsi yang relevan, masukan, hasil yang diamati, dan perilaku yang diinginkan. Untuk pertanyaan logika, cantumkan fakta dan bedakan kesimpulan yang diwajibkan dari asumsi. Minta hasil akhir yang dapat diperiksa secara independen, seperti nilai dalam kotak, garis besar pembuktian singkat, atau patch yang dijelaskan. Contoh ini menerapkan cakupan penalaran yang didokumentasikan pengembang; contoh tersebut bukan klaim bahwa model menjalankan kode atau memverifikasi pembuktian secara otomatis.
Cara menyiapkan prompt
DeepSeek menyarankan menempatkan semua instruksi dalam prompt pengguna dan menghindari system prompt untuk rilis R1 ini. Untuk soal matematika, minta penalaran langkah demi langkah dan jawaban akhir dengan batas yang jelas. Sertakan struktur keluaran dalam prompt yang sama: misalnya, kesimpulan singkat diikuti asumsi dan perhitungan pendukung. Aplikasi sebaiknya menggunakan tokenizer dan format milik model murid sendiri, bukan menggantinya dengan templat Qwen dasar tanpa memeriksa perubahan pengembang.
Pengembang mencatat bahwa sebagian kueri dapat menghasilkan blok pemikiran kosong dan melewati pola penalaran yang dituju. Perbaikan yang disarankan adalah membuat generasi dimulai dengan penanda pembuka pemikiran dan baris baru dalam alur kerja yang kompatibel. Ini adalah rekomendasi format generasi yang didokumentasikan, bukan janji bahwa setiap aplikasi menyediakan kontrol tersebut. Pisahkan jawaban akhir dari teks penalaran yang lebih panjang saat menyajikan hasil.
Pengaturan generasi dan ruang yang tersedia
DeepSeek menyarankan temperature antara 0.5 dan 0.7, dengan 0.6 sebagai titik awal yang diutamakan, untuk mengurangi keluaran berulang atau tidak koheren. Konfigurasi evaluasinya menggunakan alokasi generasi 32.768 token dan top_p 0.95. Pilihan evaluasi tersebut bukan batas maksimum mutlak universal. Penalaran, teks sumber, dan respons akhir semuanya memerlukan ruang dalam konteks yang dikonfigurasi, sehingga permintaan yang memuat pembuktian panjang atau daftar kode tetap harus menyisakan ruang untuk completion.
Keterbatasan yang memengaruhi pemilihan model
Model distilasi kecil tetap memiliki kompromi penalaran tersendiri. Materi rilis pengembang tidak menetapkan masukan gambar, audio, atau video untuk checkpoint ini, maupun protokol khusus pemanggilan alat. Eksekusi alat atau akses ke data terkini memerlukan alur kerja aplikasi yang dikonfigurasi secara terpisah. Rilis ini juga tidak mewarisi perubahan kebijakan prompt DeepSeek-R1-0528 yang lebih baru hanya karena namanya mengandung R1. Verifikasi jawaban numerik, periksa usulan perubahan kode, dan periksa apakah kesimpulan akhir mengikuti fakta yang diberikan; transkrip penalaran panjang saja bukan bukti kebenaran.
", "aboutText": "Pengantar: model penalaran lebih kecil yang diturunkan dari R1\n\nDeepSeek-R1-Distill-Qwen-7B mentransfer contoh penalaran dari DeepSeek-R1 ke model dense berbasis Qwen2.5-Math-7B. Model ini menerima teks dan menghasilkan teks, termasuk solusi beserta langkah pengerjaan, penjelasan pemrograman, dan jawaban atas masalah logika. Distilasi 7B yang spesifik ini merupakan checkpoint terpisah dari DeepSeek-R1 penuh, dari Qwen2.5-Math-7B asli, dan dari edisi distilasi yang lebih besar. Namanya mencatat pengembang data penalaran sekaligus keluarga model yang mendasarinya.\n\nKontribusi distilasi\n\nRiset R1 DeepSeek membedakan pelatihan model pengajar penalaran besar dari fine-tuning model muridnya yang lebih kecil. Pipeline pengajar menggunakan reinforcement learning dan tahap terawasi; model distilasi yang dirilis di-fine-tuning dengan sampel yang dihasilkan R1. Pengembang menyebut 800.000 contoh terkurasi untuk rilis ini. Jangan menganggap model murid 7B sendiri memiliki arsitektur mixture-of-experts model penuh atau menjalani setiap tahap pelatihan pengajar. Distilasi memberi model ini gaya penalaran yang dipelajari; distilasi tidak menjadikan kesimpulannya setara dengan kesimpulan pengajar.\n\nModel dan konfigurasi yang tepat\n\nTabel model resmi mengidentifikasi Qwen2.5-Math-7B sebagai basis edisi ini. DeepSeek mengubah pengaturan konfigurasi dan tokenizer, sehingga checkpoint yang dirilis dan templat chat yang tepat penting digunakan. Konfigurasi yang diterbitkan menggunakan arsitektur model bahasa kausal Qwen2 dengan 28 lapisan dan bobot bfloat16. Konfigurasi ini menetapkan posisi maksimum 131.072. Nilai konfigurasi tersebut bukan validasi tersendiri atas akurasi dokumen panjang: tabel konteks 128K dalam kartu R1 bersama menjelaskan model R1 penuh, sedangkan tabel model distilasinya mengidentifikasi asal-usul tanpa menerbitkan tabel konteks tervalidasi untuk setiap model murid.\n\nGunakan untuk tugas dengan hasil yang dapat diperiksa. Untuk matematika, berikan pernyataan lengkap, definisi, dan satuan. Untuk kode, sertakan fungsi yang relevan, masukan, hasil yang diamati, dan perilaku yang diinginkan. Untuk pertanyaan logika, cantumkan fakta dan bedakan kesimpulan yang diwajibkan dari asumsi. Minta hasil akhir yang dapat diperiksa secara independen, seperti nilai dalam kotak, garis besar pembuktian singkat, atau patch yang dijelaskan. Contoh ini menerapkan cakupan penalaran yang didokumentasikan pengembang; contoh tersebut bukan klaim bahwa model menjalankan kode atau memverifikasi pembuktian secara otomatis.\n\nCara menyiapkan prompt\n\nDeepSeek menyarankan menempatkan semua instruksi dalam prompt pengguna dan menghindari system prompt untuk rilis R1 ini. Untuk soal matematika, minta penalaran langkah demi langkah dan jawaban akhir dengan batas yang jelas. Sertakan struktur keluaran dalam prompt yang sama: misalnya, kesimpulan singkat diikuti asumsi dan perhitungan pendukung. Aplikasi sebaiknya menggunakan tokenizer dan format milik model murid sendiri, bukan menggantinya dengan templat Qwen dasar tanpa memeriksa perubahan pengembang.\n\nPengembang mencatat bahwa sebagian kueri dapat menghasilkan blok pemikiran kosong dan melewati pola penalaran yang dituju. Perbaikan yang disarankan adalah membuat generasi dimulai dengan penanda pembuka pemikiran dan baris baru dalam alur kerja yang kompatibel. Ini adalah rekomendasi format generasi yang didokumentasikan, bukan janji bahwa setiap aplikasi menyediakan kontrol tersebut. Pisahkan jawaban akhir dari teks penalaran yang lebih panjang saat menyajikan hasil.\n\nPengaturan generasi dan ruang yang tersedia\n\nDeepSeek menyarankan temperature antara 0.5 dan 0.7, dengan 0.6 sebagai titik awal yang diutamakan, untuk mengurangi keluaran berulang atau tidak koheren. Konfigurasi evaluasinya menggunakan alokasi generasi 32.768 token dan top_p 0.95. Pilihan evaluasi tersebut bukan batas maksimum mutlak universal. Penalaran, teks sumber, dan respons akhir semuanya memerlukan ruang dalam konteks yang dikonfigurasi, sehingga permintaan yang memuat pembuktian panjang atau daftar kode tetap harus menyisakan ruang untuk completion.\n\nKeterbatasan yang memengaruhi pemilihan model\n\nModel distilasi kecil tetap memiliki kompromi penalaran tersendiri. Materi rilis pengembang tidak menetapkan masukan gambar, audio, atau video untuk checkpoint ini, maupun protokol khusus pemanggilan alat. Eksekusi alat atau akses ke data terkini memerlukan alur kerja aplikasi yang dikonfigurasi secara terpisah. Rilis ini juga tidak mewarisi perubahan kebijakan prompt DeepSeek-R1-0528 yang lebih baru hanya karena namanya mengandung R1. Verifikasi jawaban numerik, periksa usulan perubahan kode, dan periksa apakah kesimpulan akhir mengikuti fakta yang diberikan; transkrip penalaran panjang saja bukan bukti kebenaran.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
Calculate a mixture ratio\n\nA workshop mixes 2 liters of concentrate with 6 liters of water. It needs 20 liters of the same mixture. Calculate the required concentrate and water, show the proportional calculation and give a clearly labelled final answer with units. Check that the two quantities add to the requested volume.A short proportional calculation and final concentrate and water quantities in liters.Verify both the 1:3 concentrate-to-water ratio and the 20-liter total independently.DeepSeek-R1-Distill-Qwen-7B-ultraDeepSeek-R1-Distill-Qwen-7B adalah model penalaran dense ringkas dari DeepSeek, yang di-fine-tuning dari Qwen2.5-Math-7B menggunakan contoh yang dihasilkan R1. Model ini menerima teks dan menghasilkan teks untuk tugas matematika, pemrograman, dan logika, dengan panduan prompt khusus checkpoint.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Pengantar: model penalaran lebih kecil yang diturunkan dari R1
DeepSeek-R1-Distill-Qwen-7B mentransfer contoh penalaran dari DeepSeek-R1 ke model dense berbasis Qwen2.5-Math-7B. Model ini menerima teks dan menghasilkan teks, termasuk solusi beserta langkah pengerjaan, penjelasan pemrograman, dan jawaban atas masalah logika. Distilasi 7B yang spesifik ini merupakan checkpoint terpisah dari DeepSeek-R1 penuh, dari Qwen2.5-Math-7B asli, dan dari edisi distilasi yang lebih besar. Namanya mencatat pengembang data penalaran sekaligus keluarga model yang mendasarinya.
Kontribusi distilasi
Riset R1 DeepSeek membedakan pelatihan model pengajar penalaran besar dari fine-tuning model muridnya yang lebih kecil. Pipeline pengajar menggunakan reinforcement learning dan tahap terawasi; model distilasi yang dirilis di-fine-tuning dengan sampel yang dihasilkan R1. Pengembang menyebut 800.000 contoh terkurasi untuk rilis ini. Jangan menganggap model murid 7B sendiri memiliki arsitektur mixture-of-experts model penuh atau menjalani setiap tahap pelatihan pengajar. Distilasi memberi model ini gaya penalaran yang dipelajari; distilasi tidak menjadikan kesimpulannya setara dengan kesimpulan pengajar.
Model dan konfigurasi yang tepat
Tabel model resmi mengidentifikasi Qwen2.5-Math-7B sebagai basis edisi ini. DeepSeek mengubah pengaturan konfigurasi dan tokenizer, sehingga checkpoint yang dirilis dan templat chat yang tepat penting digunakan. Konfigurasi yang diterbitkan menggunakan arsitektur model bahasa kausal Qwen2 dengan 28 lapisan dan bobot bfloat16. Konfigurasi ini menetapkan posisi maksimum 131.072. Nilai konfigurasi tersebut bukan validasi tersendiri atas akurasi dokumen panjang: tabel konteks 128K dalam kartu R1 bersama menjelaskan model R1 penuh, sedangkan tabel model distilasinya mengidentifikasi asal-usul tanpa menerbitkan tabel konteks tervalidasi untuk setiap model murid.
Gunakan untuk tugas dengan hasil yang dapat diperiksa. Untuk matematika, berikan pernyataan lengkap, definisi, dan satuan. Untuk kode, sertakan fungsi yang relevan, masukan, hasil yang diamati, dan perilaku yang diinginkan. Untuk pertanyaan logika, cantumkan fakta dan bedakan kesimpulan yang diwajibkan dari asumsi. Minta hasil akhir yang dapat diperiksa secara independen, seperti nilai dalam kotak, garis besar pembuktian singkat, atau patch yang dijelaskan. Contoh ini menerapkan cakupan penalaran yang didokumentasikan pengembang; contoh tersebut bukan klaim bahwa model menjalankan kode atau memverifikasi pembuktian secara otomatis.
Cara menyiapkan prompt
DeepSeek menyarankan menempatkan semua instruksi dalam prompt pengguna dan menghindari system prompt untuk rilis R1 ini. Untuk soal matematika, minta penalaran langkah demi langkah dan jawaban akhir dengan batas yang jelas. Sertakan struktur keluaran dalam prompt yang sama: misalnya, kesimpulan singkat diikuti asumsi dan perhitungan pendukung. Aplikasi sebaiknya menggunakan tokenizer dan format milik model murid sendiri, bukan menggantinya dengan templat Qwen dasar tanpa memeriksa perubahan pengembang.
Pengembang mencatat bahwa sebagian kueri dapat menghasilkan blok pemikiran kosong dan melewati pola penalaran yang dituju. Perbaikan yang disarankan adalah membuat generasi dimulai dengan penanda pembuka pemikiran dan baris baru dalam alur kerja yang kompatibel. Ini adalah rekomendasi format generasi yang didokumentasikan, bukan janji bahwa setiap aplikasi menyediakan kontrol tersebut. Pisahkan jawaban akhir dari teks penalaran yang lebih panjang saat menyajikan hasil.
Pengaturan generasi dan ruang yang tersedia
DeepSeek menyarankan temperature antara 0.5 dan 0.7, dengan 0.6 sebagai titik awal yang diutamakan, untuk mengurangi keluaran berulang atau tidak koheren. Konfigurasi evaluasinya menggunakan alokasi generasi 32.768 token dan top_p 0.95. Pilihan evaluasi tersebut bukan batas maksimum mutlak universal. Penalaran, teks sumber, dan respons akhir semuanya memerlukan ruang dalam konteks yang dikonfigurasi, sehingga permintaan yang memuat pembuktian panjang atau daftar kode tetap harus menyisakan ruang untuk completion.
Keterbatasan yang memengaruhi pemilihan model
Model distilasi kecil tetap memiliki kompromi penalaran tersendiri. Materi rilis pengembang tidak menetapkan masukan gambar, audio, atau video untuk checkpoint ini, maupun protokol khusus pemanggilan alat. Eksekusi alat atau akses ke data terkini memerlukan alur kerja aplikasi yang dikonfigurasi secara terpisah. Rilis ini juga tidak mewarisi perubahan kebijakan prompt DeepSeek-R1-0528 yang lebih baru hanya karena namanya mengandung R1. Verifikasi jawaban numerik, periksa usulan perubahan kode, dan periksa apakah kesimpulan akhir mengikuti fakta yang diberikan; transkrip penalaran panjang saja bukan bukti kebenaran.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan DeepSeek-R1-Distill-Qwen-7B-ultra | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.00014 / 1K token Keluaran · Token keluaran $0.00028 / 1K token Masukan · Pembacaan cache $0 / 1K token Masukan · Penulisan cache $0 / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "DeepSeek-R1-Distill-Qwen-7B-ultra", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='DeepSeek-R1-Distill-Qwen-7B-ultra',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='DeepSeek-R1-Distill-Qwen-7B-ultra',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra DeepSeek-R1-Distill-Qwen-7B-ultra
Gunakan jalur metode yang ditampilkan di atas.
DeepSeek-R1-Distill-Qwen-7B-ultraDeepSeek-R1-Distill-Qwen-7B adalah model penalaran dense ringkas dari DeepSeek, yang di-fine-tuning dari Qwen2.5-Math-7B menggunakan contoh yang dihasilkan R1. Model ini menerima teks dan menghasilkan teks untuk tugas matematika, pemrograman, dan logika, dengan panduan prompt khusus checkpoint.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Pengantar: model penalaran lebih kecil yang diturunkan dari R1
DeepSeek-R1-Distill-Qwen-7B mentransfer contoh penalaran dari DeepSeek-R1 ke model dense berbasis Qwen2.5-Math-7B. Model ini menerima teks dan menghasilkan teks, termasuk solusi beserta langkah pengerjaan, penjelasan pemrograman, dan jawaban atas masalah logika. Distilasi 7B yang spesifik ini merupakan checkpoint terpisah dari DeepSeek-R1 penuh, dari Qwen2.5-Math-7B asli, dan dari edisi distilasi yang lebih besar. Namanya mencatat pengembang data penalaran sekaligus keluarga model yang mendasarinya.
Kontribusi distilasi
Riset R1 DeepSeek membedakan pelatihan model pengajar penalaran besar dari fine-tuning model muridnya yang lebih kecil. Pipeline pengajar menggunakan reinforcement learning dan tahap terawasi; model distilasi yang dirilis di-fine-tuning dengan sampel yang dihasilkan R1. Pengembang menyebut 800.000 contoh terkurasi untuk rilis ini. Jangan menganggap model murid 7B sendiri memiliki arsitektur mixture-of-experts model penuh atau menjalani setiap tahap pelatihan pengajar. Distilasi memberi model ini gaya penalaran yang dipelajari; distilasi tidak menjadikan kesimpulannya setara dengan kesimpulan pengajar.
Model dan konfigurasi yang tepat
Tabel model resmi mengidentifikasi Qwen2.5-Math-7B sebagai basis edisi ini. DeepSeek mengubah pengaturan konfigurasi dan tokenizer, sehingga checkpoint yang dirilis dan templat chat yang tepat penting digunakan. Konfigurasi yang diterbitkan menggunakan arsitektur model bahasa kausal Qwen2 dengan 28 lapisan dan bobot bfloat16. Konfigurasi ini menetapkan posisi maksimum 131.072. Nilai konfigurasi tersebut bukan validasi tersendiri atas akurasi dokumen panjang: tabel konteks 128K dalam kartu R1 bersama menjelaskan model R1 penuh, sedangkan tabel model distilasinya mengidentifikasi asal-usul tanpa menerbitkan tabel konteks tervalidasi untuk setiap model murid.
Gunakan untuk tugas dengan hasil yang dapat diperiksa. Untuk matematika, berikan pernyataan lengkap, definisi, dan satuan. Untuk kode, sertakan fungsi yang relevan, masukan, hasil yang diamati, dan perilaku yang diinginkan. Untuk pertanyaan logika, cantumkan fakta dan bedakan kesimpulan yang diwajibkan dari asumsi. Minta hasil akhir yang dapat diperiksa secara independen, seperti nilai dalam kotak, garis besar pembuktian singkat, atau patch yang dijelaskan. Contoh ini menerapkan cakupan penalaran yang didokumentasikan pengembang; contoh tersebut bukan klaim bahwa model menjalankan kode atau memverifikasi pembuktian secara otomatis.
Cara menyiapkan prompt
DeepSeek menyarankan menempatkan semua instruksi dalam prompt pengguna dan menghindari system prompt untuk rilis R1 ini. Untuk soal matematika, minta penalaran langkah demi langkah dan jawaban akhir dengan batas yang jelas. Sertakan struktur keluaran dalam prompt yang sama: misalnya, kesimpulan singkat diikuti asumsi dan perhitungan pendukung. Aplikasi sebaiknya menggunakan tokenizer dan format milik model murid sendiri, bukan menggantinya dengan templat Qwen dasar tanpa memeriksa perubahan pengembang.
Pengembang mencatat bahwa sebagian kueri dapat menghasilkan blok pemikiran kosong dan melewati pola penalaran yang dituju. Perbaikan yang disarankan adalah membuat generasi dimulai dengan penanda pembuka pemikiran dan baris baru dalam alur kerja yang kompatibel. Ini adalah rekomendasi format generasi yang didokumentasikan, bukan janji bahwa setiap aplikasi menyediakan kontrol tersebut. Pisahkan jawaban akhir dari teks penalaran yang lebih panjang saat menyajikan hasil.
Pengaturan generasi dan ruang yang tersedia
DeepSeek menyarankan temperature antara 0.5 dan 0.7, dengan 0.6 sebagai titik awal yang diutamakan, untuk mengurangi keluaran berulang atau tidak koheren. Konfigurasi evaluasinya menggunakan alokasi generasi 32.768 token dan top_p 0.95. Pilihan evaluasi tersebut bukan batas maksimum mutlak universal. Penalaran, teks sumber, dan respons akhir semuanya memerlukan ruang dalam konteks yang dikonfigurasi, sehingga permintaan yang memuat pembuktian panjang atau daftar kode tetap harus menyisakan ruang untuk completion.
Keterbatasan yang memengaruhi pemilihan model
Model distilasi kecil tetap memiliki kompromi penalaran tersendiri. Materi rilis pengembang tidak menetapkan masukan gambar, audio, atau video untuk checkpoint ini, maupun protokol khusus pemanggilan alat. Eksekusi alat atau akses ke data terkini memerlukan alur kerja aplikasi yang dikonfigurasi secara terpisah. Rilis ini juga tidak mewarisi perubahan kebijakan prompt DeepSeek-R1-0528 yang lebih baru hanya karena namanya mengandung R1. Verifikasi jawaban numerik, periksa usulan perubahan kode, dan periksa apakah kesimpulan akhir mengikuti fakta yang diberikan; transkrip penalaran panjang saja bukan bukti kebenaran.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan DeepSeek-R1-Distill-Qwen-7B-ultra | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.00014 / 1K token Keluaran · Token keluaran $0.00028 / 1K token Masukan · Pembacaan cache $0 / 1K token Masukan · Penulisan cache $0 / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "DeepSeek-R1-Distill-Qwen-7B-ultra",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'DeepSeek-R1-Distill-Qwen-7B-ultra', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'DeepSeek-R1-Distill-Qwen-7B-ultra', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra DeepSeek-R1-Distill-Qwen-7B-ultra
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
Calculate a mixture ratio\n\nA workshop mixes 2 liters of concentrate with 6 liters of water. It needs 20 liters of the same mixture. Calculate the required concentrate and water, show the proportional calculation and give a clearly labelled final answer with units. Check that the two quantities add to the requested volume.A short proportional calculation and final concentrate and water quantities in liters.Verify both the 1:3 concentrate-to-water ratio and the 20-liter total independently.