Įvadas: mažesnis iš R1 išvestas samprotavimo modelis
DeepSeek-R1-Distill-Qwen-7B perkelia DeepSeek-R1 samprotavimo pavyzdžius į tankųjį modelį, paremtą Qwen2.5-Math-7B. Jis priima tekstą ir generuoja tekstą, įskaitant išspręstus uždavinius, programavimo paaiškinimus bei atsakymus į logikos problemas. Šis konkretus 7B distiliuotas modelis yra atskiras kontrolinis taškas nuo pilno DeepSeek-R1, pradinio Qwen2.5-Math-7B ir didesnių distiliuotų versijų. Jo pavadinimas nurodo ir samprotavimo duomenų kūrėją, ir pagrindinę modelių šeimą.
Ką suteikia distiliavimas
DeepSeek R1 tyrimas atskiria didelio samprotavimo modelio mokytojo mokymą nuo jo mažesnių mokinių papildomo mokymo. Mokytojo eiga naudoja pastiprinamąjį mokymą ir prižiūrimojo mokymo etapus; išleisti distiliuoti modeliai papildomai mokomi R1 sugeneruotais pavyzdžiais. Šioms laidoms kūrėjas aprašo 800 000 atrinktų pavyzdžių. Nereikėtų manyti, kad pats 7B mokinys turi pilno modelio ekspertų mišinio architektūrą ar praėjo visus mokytojo mokymo etapus. Distiliavimas suteikia šiam modeliui išmoktą samprotavimo stilių, bet neprilygina jo išvadų mokytojo išvadoms.
Tikslus modelis ir jo konfigūracija
Oficialioje modelių lentelėje Qwen2.5-Math-7B įvardytas kaip šios versijos pagrindas. DeepSeek keičia konfigūraciją ir žetonizatoriaus nuostatas, todėl svarbus tikslus išleistas modelio kontrolinis taškas ir pokalbio šablonas. Paskelbta konfigūracija naudoja Qwen2 priežastinio kalbos modelio architektūrą su 28 sluoksniais ir bfloat16 svoriais. Didžiausias pozicijų skaičius nustatytas į 131 072. Ši konfigūracijos reikšmė nėra atskira ilgų dokumentų apdorojimo tikslumo patikra: bendros R1 kortelės 128K konteksto lentelė aprašo pilnus R1 modelius, o distiliuotų modelių lentelė nurodo kilmę nepaskelbdama kiekvienam mokiniui patvirtinto konteksto lentelės.
Naudokite jį užduočiai su patikrinamu rezultatu. Matematikai pateikite išsamią sąlygą, apibrėžimus ir vienetus. Kodui įtraukite susijusią funkciją, įvestį, pastebėtą rezultatą ir norimą elgesį. Logikos klausimui išvardykite faktus ir atskirkite privalomą išvadą nuo prielaidos. Paprašykite nepriklausomai patikrinamo galutinio rezultato, pavyzdžiui, išskirtos reikšmės, glausto įrodymo plano ar paaiškintos pataisos. Šie pavyzdžiai taiko kūrėjo dokumentuotą samprotavimo apimtį; jie nereiškia, kad modelis automatiškai vykdo kodą ar tikrina įrodymus.
Kaip parengti instrukciją
Šiai R1 laidai DeepSeek rekomenduoja visas instrukcijas įtraukti į naudotojo užklausą ir vengti sisteminės instrukcijos. Matematikos problemai paprašykite nuoseklaus samprotavimo ir aiškiai atskirto galutinio atsakymo. Į tą pačią užklausą įtraukite ir išvesties struktūrą, pavyzdžiui, trumpą išvadą, po kurios pateikiamos prielaidos ir pagrindžiantys skaičiavimai. Programa turėtų naudoti paties mokinio žetonizatorių ir formatą, o ne pakeisti juos baziniu Qwen šablonu nepatikrinusi kūrėjo pakeitimų.
Kūrėjas pažymi, kad kai kurios užklausos gali sukurti tuščią mąstymo bloką ir apeiti numatytą samprotavimo modelį. Rekomenduojama priemonė – suderinamoje darbo eigoje generavimą pradėti atidaromuoju mąstymo žymeniu ir nauja eilute. Tai dokumentuota generavimo formato rekomendacija, o ne pažadas, kad kiekviena programa suteikia tokį valdiklį. Pateikdami rezultatą galutinį atsakymą atskirkite nuo ilgesnio samprotavimo teksto.
Generavimo nuostatos ir prieinama vieta
DeepSeek rekomenduoja temperatūrą nuo 0,5 iki 0,7, pradiniu pasirinkimu laikydamas 0,6, kad sumažėtų pasikartojanti ar nerišli išvestis. Vertinimo konfigūracijoje naudojamas 32 768 žetonų generavimo limitas ir top_p 0.95. Šie vertinimo pasirinkimai nėra universali griežta riba. Samprotavimui, šaltinio tekstui ir galutiniam atsakymui reikia vietos sukonfigūruotame kontekste, todėl užklausoje su ilgu įrodymu ar kodo sąrašu vis tiek reikėtų palikti vietos atsakymui.
Modelio pasirinkimui reikšmingi ribojimai
Mažas distiliuotas modelis išlieka savitu samprotavimo kompromisu. Kūrėjo laidos medžiaga nepatvirtina šio modelio kontrolinio taško vaizdų, garso ar vaizdo įrašų įvesties ir atskiro įrankių kvietimo protokolo. Įrankių vykdymui ar prieigai prie aktualių duomenų reikėtų atskirai sukonfigūruotos programos darbo eigos. Vien dėl R1 pavadinimo ši laida taip pat nepaveldi vėlesnių DeepSeek-R1-0528 instrukcijų politikos pakeitimų. Patikrinkite skaitinius atsakymus, peržiūrėkite siūlomus kodo pakeitimus ir įvertinkite, ar galutinė išvada išplaukia iš pateiktų faktų; vien ilgas samprotavimo transkriptas nėra teisingumo įrodymas.
", "aboutText": "Įvadas: mažesnis iš R1 išvestas samprotavimo modelis\n\nDeepSeek-R1-Distill-Qwen-7B perkelia DeepSeek-R1 samprotavimo pavyzdžius į tankųjį modelį, paremtą Qwen2.5-Math-7B. Jis priima tekstą ir generuoja tekstą, įskaitant išspręstus uždavinius, programavimo paaiškinimus bei atsakymus į logikos problemas. Šis konkretus 7B distiliuotas modelis yra atskiras kontrolinis taškas nuo pilno DeepSeek-R1, pradinio Qwen2.5-Math-7B ir didesnių distiliuotų versijų. Jo pavadinimas nurodo ir samprotavimo duomenų kūrėją, ir pagrindinę modelių šeimą.\n\nKą suteikia distiliavimas\n\nDeepSeek R1 tyrimas atskiria didelio samprotavimo modelio mokytojo mokymą nuo jo mažesnių mokinių papildomo mokymo. Mokytojo eiga naudoja pastiprinamąjį mokymą ir prižiūrimojo mokymo etapus; išleisti distiliuoti modeliai papildomai mokomi R1 sugeneruotais pavyzdžiais. Šioms laidoms kūrėjas aprašo 800 000 atrinktų pavyzdžių. Nereikėtų manyti, kad pats 7B mokinys turi pilno modelio ekspertų mišinio architektūrą ar praėjo visus mokytojo mokymo etapus. Distiliavimas suteikia šiam modeliui išmoktą samprotavimo stilių, bet neprilygina jo išvadų mokytojo išvadoms.\n\nTikslus modelis ir jo konfigūracija\n\nOficialioje modelių lentelėje Qwen2.5-Math-7B įvardytas kaip šios versijos pagrindas. DeepSeek keičia konfigūraciją ir žetonizatoriaus nuostatas, todėl svarbus tikslus išleistas modelio kontrolinis taškas ir pokalbio šablonas. Paskelbta konfigūracija naudoja Qwen2 priežastinio kalbos modelio architektūrą su 28 sluoksniais ir bfloat16 svoriais. Didžiausias pozicijų skaičius nustatytas į 131 072. Ši konfigūracijos reikšmė nėra atskira ilgų dokumentų apdorojimo tikslumo patikra: bendros R1 kortelės 128K konteksto lentelė aprašo pilnus R1 modelius, o distiliuotų modelių lentelė nurodo kilmę nepaskelbdama kiekvienam mokiniui patvirtinto konteksto lentelės.\n\nNaudokite jį užduočiai su patikrinamu rezultatu. Matematikai pateikite išsamią sąlygą, apibrėžimus ir vienetus. Kodui įtraukite susijusią funkciją, įvestį, pastebėtą rezultatą ir norimą elgesį. Logikos klausimui išvardykite faktus ir atskirkite privalomą išvadą nuo prielaidos. Paprašykite nepriklausomai patikrinamo galutinio rezultato, pavyzdžiui, išskirtos reikšmės, glausto įrodymo plano ar paaiškintos pataisos. Šie pavyzdžiai taiko kūrėjo dokumentuotą samprotavimo apimtį; jie nereiškia, kad modelis automatiškai vykdo kodą ar tikrina įrodymus.\n\nKaip parengti instrukciją\n\nŠiai R1 laidai DeepSeek rekomenduoja visas instrukcijas įtraukti į naudotojo užklausą ir vengti sisteminės instrukcijos. Matematikos problemai paprašykite nuoseklaus samprotavimo ir aiškiai atskirto galutinio atsakymo. Į tą pačią užklausą įtraukite ir išvesties struktūrą, pavyzdžiui, trumpą išvadą, po kurios pateikiamos prielaidos ir pagrindžiantys skaičiavimai. Programa turėtų naudoti paties mokinio žetonizatorių ir formatą, o ne pakeisti juos baziniu Qwen šablonu nepatikrinusi kūrėjo pakeitimų.\n\nKūrėjas pažymi, kad kai kurios užklausos gali sukurti tuščią mąstymo bloką ir apeiti numatytą samprotavimo modelį. Rekomenduojama priemonė – suderinamoje darbo eigoje generavimą pradėti atidaromuoju mąstymo žymeniu ir nauja eilute. Tai dokumentuota generavimo formato rekomendacija, o ne pažadas, kad kiekviena programa suteikia tokį valdiklį. Pateikdami rezultatą galutinį atsakymą atskirkite nuo ilgesnio samprotavimo teksto.\n\nGeneravimo nuostatos ir prieinama vieta\n\nDeepSeek rekomenduoja temperatūrą nuo 0,5 iki 0,7, pradiniu pasirinkimu laikydamas 0,6, kad sumažėtų pasikartojanti ar nerišli išvestis. Vertinimo konfigūracijoje naudojamas 32 768 žetonų generavimo limitas ir top_p 0.95. Šie vertinimo pasirinkimai nėra universali griežta riba. Samprotavimui, šaltinio tekstui ir galutiniam atsakymui reikia vietos sukonfigūruotame kontekste, todėl užklausoje su ilgu įrodymu ar kodo sąrašu vis tiek reikėtų palikti vietos atsakymui.\n\nModelio pasirinkimui reikšmingi ribojimai\n\nMažas distiliuotas modelis išlieka savitu samprotavimo kompromisu. Kūrėjo laidos medžiaga nepatvirtina šio modelio kontrolinio taško vaizdų, garso ar vaizdo įrašų įvesties ir atskiro įrankių kvietimo protokolo. Įrankių vykdymui ar prieigai prie aktualių duomenų reikėtų atskirai sukonfigūruotos programos darbo eigos. Vien dėl R1 pavadinimo ši laida taip pat nepaveldi vėlesnių DeepSeek-R1-0528 instrukcijų politikos pakeitimų. Patikrinkite skaitinius atsakymus, peržiūrėkite siūlomus kodo pakeitimus ir įvertinkite, ar galutinė išvada išplaukia iš pateiktų faktų; vien ilgas samprotavimo transkriptas nėra teisingumo įrodymas.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "e37ec36fd8c1a761f6b144f29ba31af8f3aa3c1592a66af2173b3567e111f422", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "lt", "methods": [ { "html": "Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7BDeepSeek-R1-Distill-Qwen-7B – kompaktiškas tankusis DeepSeek samprotavimo modelis, papildomai mokytas iš Qwen2.5-Math-7B naudojant R1 sugeneruotus pavyzdžius. Jis priima ir generuoja tekstą matematikos, programavimo bei logikos užduotims ir turi konkrečiam modelio kontroliniam taškui skirtas instrukcijų rengimo gaires.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Įvadas: mažesnis iš R1 išvestas samprotavimo modelis
DeepSeek-R1-Distill-Qwen-7B perkelia DeepSeek-R1 samprotavimo pavyzdžius į tankųjį modelį, paremtą Qwen2.5-Math-7B. Jis priima tekstą ir generuoja tekstą, įskaitant išspręstus uždavinius, programavimo paaiškinimus bei atsakymus į logikos problemas. Šis konkretus 7B distiliuotas modelis yra atskiras kontrolinis taškas nuo pilno DeepSeek-R1, pradinio Qwen2.5-Math-7B ir didesnių distiliuotų versijų. Jo pavadinimas nurodo ir samprotavimo duomenų kūrėją, ir pagrindinę modelių šeimą.
Ką suteikia distiliavimas
DeepSeek R1 tyrimas atskiria didelio samprotavimo modelio mokytojo mokymą nuo jo mažesnių mokinių papildomo mokymo. Mokytojo eiga naudoja pastiprinamąjį mokymą ir prižiūrimojo mokymo etapus; išleisti distiliuoti modeliai papildomai mokomi R1 sugeneruotais pavyzdžiais. Šioms laidoms kūrėjas aprašo 800 000 atrinktų pavyzdžių. Nereikėtų manyti, kad pats 7B mokinys turi pilno modelio ekspertų mišinio architektūrą ar praėjo visus mokytojo mokymo etapus. Distiliavimas suteikia šiam modeliui išmoktą samprotavimo stilių, bet neprilygina jo išvadų mokytojo išvadoms.
Tikslus modelis ir jo konfigūracija
Oficialioje modelių lentelėje Qwen2.5-Math-7B įvardytas kaip šios versijos pagrindas. DeepSeek keičia konfigūraciją ir žetonizatoriaus nuostatas, todėl svarbus tikslus išleistas modelio kontrolinis taškas ir pokalbio šablonas. Paskelbta konfigūracija naudoja Qwen2 priežastinio kalbos modelio architektūrą su 28 sluoksniais ir bfloat16 svoriais. Didžiausias pozicijų skaičius nustatytas į 131 072. Ši konfigūracijos reikšmė nėra atskira ilgų dokumentų apdorojimo tikslumo patikra: bendros R1 kortelės 128K konteksto lentelė aprašo pilnus R1 modelius, o distiliuotų modelių lentelė nurodo kilmę nepaskelbdama kiekvienam mokiniui patvirtinto konteksto lentelės.
Naudokite jį užduočiai su patikrinamu rezultatu. Matematikai pateikite išsamią sąlygą, apibrėžimus ir vienetus. Kodui įtraukite susijusią funkciją, įvestį, pastebėtą rezultatą ir norimą elgesį. Logikos klausimui išvardykite faktus ir atskirkite privalomą išvadą nuo prielaidos. Paprašykite nepriklausomai patikrinamo galutinio rezultato, pavyzdžiui, išskirtos reikšmės, glausto įrodymo plano ar paaiškintos pataisos. Šie pavyzdžiai taiko kūrėjo dokumentuotą samprotavimo apimtį; jie nereiškia, kad modelis automatiškai vykdo kodą ar tikrina įrodymus.
Kaip parengti instrukciją
Šiai R1 laidai DeepSeek rekomenduoja visas instrukcijas įtraukti į naudotojo užklausą ir vengti sisteminės instrukcijos. Matematikos problemai paprašykite nuoseklaus samprotavimo ir aiškiai atskirto galutinio atsakymo. Į tą pačią užklausą įtraukite ir išvesties struktūrą, pavyzdžiui, trumpą išvadą, po kurios pateikiamos prielaidos ir pagrindžiantys skaičiavimai. Programa turėtų naudoti paties mokinio žetonizatorių ir formatą, o ne pakeisti juos baziniu Qwen šablonu nepatikrinusi kūrėjo pakeitimų.
Kūrėjas pažymi, kad kai kurios užklausos gali sukurti tuščią mąstymo bloką ir apeiti numatytą samprotavimo modelį. Rekomenduojama priemonė – suderinamoje darbo eigoje generavimą pradėti atidaromuoju mąstymo žymeniu ir nauja eilute. Tai dokumentuota generavimo formato rekomendacija, o ne pažadas, kad kiekviena programa suteikia tokį valdiklį. Pateikdami rezultatą galutinį atsakymą atskirkite nuo ilgesnio samprotavimo teksto.
Generavimo nuostatos ir prieinama vieta
DeepSeek rekomenduoja temperatūrą nuo 0,5 iki 0,7, pradiniu pasirinkimu laikydamas 0,6, kad sumažėtų pasikartojanti ar nerišli išvestis. Vertinimo konfigūracijoje naudojamas 32 768 žetonų generavimo limitas ir top_p 0.95. Šie vertinimo pasirinkimai nėra universali griežta riba. Samprotavimui, šaltinio tekstui ir galutiniam atsakymui reikia vietos sukonfigūruotame kontekste, todėl užklausoje su ilgu įrodymu ar kodo sąrašu vis tiek reikėtų palikti vietos atsakymui.
Modelio pasirinkimui reikšmingi ribojimai
Mažas distiliuotas modelis išlieka savitu samprotavimo kompromisu. Kūrėjo laidos medžiaga nepatvirtina šio modelio kontrolinio taško vaizdų, garso ar vaizdo įrašų įvesties ir atskiro įrankių kvietimo protokolo. Įrankių vykdymui ar prieigai prie aktualių duomenų reikėtų atskirai sukonfigūruotos programos darbo eigos. Vien dėl R1 pavadinimo ši laida taip pat nepaveldi vėlesnių DeepSeek-R1-0528 instrukcijų politikos pakeitimų. Patikrinkite skaitinius atsakymus, peržiūrėkite siūlomus kodo pakeitimus ir įvertinkite, ar galutinė išvada išplaukia iš pateiktų faktų; vien ilgas samprotavimo transkriptas nėra teisingumo įrodymas.
POST /v1/chat/completionstexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: Tekstinis pokalbis | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF8 tekstas
messages[].content
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages |
Parametrasmaterial_types | Specifikacijatext |
Parametrasmessages | Specifikacijapranešimų masyvas su role/content struktūra |
Parametrasfile_material | Specifikacijatikrasis UTF-8 dokumentas įterptas kaip pažodinis tekstas; failo ID nenumanomas |
Parametrasoptional_controls | Specifikacijastream |
Parametrascontrol_scope | SpecifikacijaTekstinis pokalbis; stream yra loginė reikšmė, kurios numatytoji reikšmė yra false. |
Parametrasoutput_modalities | Specifikacijatext |
Parametrashosted_operations | Specifikacijafalse |
Parametrasmultimodal_input_binding | Specifikacijanull |
Metodo pseudonimai: /chat/completions
Gyvavimo ciklas: synchronous_or_streamed
Siųskite tikslų modelio ID kartu su messages.
Konteksto ilgis nėra išvesties limitas.
Teksto failas gali pateikti pažodinį tekstą; vaizdų / garso / failų objektų įvestims reikia tikslaus susiejimo.
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.0001 / 1K tokenų Išvestis · Išvesties tokenai $0.0001 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną variantą ir jo turinį / įrankių iškvietimus / samprotavimą. SSE prieaugius surinkite pagal varianto / įrankio indeksą; išsaugokite galutinę užbaigimo priežastį ir naudojimo duomenis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukaschoices[].index | Tipasinteger |
Laukaschoices[].message.content | Tipasstring|null |
Laukaschoices[].message.tool_calls | Tipastool_call[] |
Laukaschoices[].message.reasoning_content | Tipasstring |
Laukaschoices[].message.reasoning_details | Tipasobject|array |
Laukaschoices[].finish_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
/chat/completions
Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7BDeepSeek-R1-Distill-Qwen-7B – kompaktiškas tankusis DeepSeek samprotavimo modelis, papildomai mokytas iš Qwen2.5-Math-7B naudojant R1 sugeneruotus pavyzdžius. Jis priima ir generuoja tekstą matematikos, programavimo bei logikos užduotims ir turi konkrečiam modelio kontroliniam taškui skirtas instrukcijų rengimo gaires.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Įvadas: mažesnis iš R1 išvestas samprotavimo modelis
DeepSeek-R1-Distill-Qwen-7B perkelia DeepSeek-R1 samprotavimo pavyzdžius į tankųjį modelį, paremtą Qwen2.5-Math-7B. Jis priima tekstą ir generuoja tekstą, įskaitant išspręstus uždavinius, programavimo paaiškinimus bei atsakymus į logikos problemas. Šis konkretus 7B distiliuotas modelis yra atskiras kontrolinis taškas nuo pilno DeepSeek-R1, pradinio Qwen2.5-Math-7B ir didesnių distiliuotų versijų. Jo pavadinimas nurodo ir samprotavimo duomenų kūrėją, ir pagrindinę modelių šeimą.
Ką suteikia distiliavimas
DeepSeek R1 tyrimas atskiria didelio samprotavimo modelio mokytojo mokymą nuo jo mažesnių mokinių papildomo mokymo. Mokytojo eiga naudoja pastiprinamąjį mokymą ir prižiūrimojo mokymo etapus; išleisti distiliuoti modeliai papildomai mokomi R1 sugeneruotais pavyzdžiais. Šioms laidoms kūrėjas aprašo 800 000 atrinktų pavyzdžių. Nereikėtų manyti, kad pats 7B mokinys turi pilno modelio ekspertų mišinio architektūrą ar praėjo visus mokytojo mokymo etapus. Distiliavimas suteikia šiam modeliui išmoktą samprotavimo stilių, bet neprilygina jo išvadų mokytojo išvadoms.
Tikslus modelis ir jo konfigūracija
Oficialioje modelių lentelėje Qwen2.5-Math-7B įvardytas kaip šios versijos pagrindas. DeepSeek keičia konfigūraciją ir žetonizatoriaus nuostatas, todėl svarbus tikslus išleistas modelio kontrolinis taškas ir pokalbio šablonas. Paskelbta konfigūracija naudoja Qwen2 priežastinio kalbos modelio architektūrą su 28 sluoksniais ir bfloat16 svoriais. Didžiausias pozicijų skaičius nustatytas į 131 072. Ši konfigūracijos reikšmė nėra atskira ilgų dokumentų apdorojimo tikslumo patikra: bendros R1 kortelės 128K konteksto lentelė aprašo pilnus R1 modelius, o distiliuotų modelių lentelė nurodo kilmę nepaskelbdama kiekvienam mokiniui patvirtinto konteksto lentelės.
Naudokite jį užduočiai su patikrinamu rezultatu. Matematikai pateikite išsamią sąlygą, apibrėžimus ir vienetus. Kodui įtraukite susijusią funkciją, įvestį, pastebėtą rezultatą ir norimą elgesį. Logikos klausimui išvardykite faktus ir atskirkite privalomą išvadą nuo prielaidos. Paprašykite nepriklausomai patikrinamo galutinio rezultato, pavyzdžiui, išskirtos reikšmės, glausto įrodymo plano ar paaiškintos pataisos. Šie pavyzdžiai taiko kūrėjo dokumentuotą samprotavimo apimtį; jie nereiškia, kad modelis automatiškai vykdo kodą ar tikrina įrodymus.
Kaip parengti instrukciją
Šiai R1 laidai DeepSeek rekomenduoja visas instrukcijas įtraukti į naudotojo užklausą ir vengti sisteminės instrukcijos. Matematikos problemai paprašykite nuoseklaus samprotavimo ir aiškiai atskirto galutinio atsakymo. Į tą pačią užklausą įtraukite ir išvesties struktūrą, pavyzdžiui, trumpą išvadą, po kurios pateikiamos prielaidos ir pagrindžiantys skaičiavimai. Programa turėtų naudoti paties mokinio žetonizatorių ir formatą, o ne pakeisti juos baziniu Qwen šablonu nepatikrinusi kūrėjo pakeitimų.
Kūrėjas pažymi, kad kai kurios užklausos gali sukurti tuščią mąstymo bloką ir apeiti numatytą samprotavimo modelį. Rekomenduojama priemonė – suderinamoje darbo eigoje generavimą pradėti atidaromuoju mąstymo žymeniu ir nauja eilute. Tai dokumentuota generavimo formato rekomendacija, o ne pažadas, kad kiekviena programa suteikia tokį valdiklį. Pateikdami rezultatą galutinį atsakymą atskirkite nuo ilgesnio samprotavimo teksto.
Generavimo nuostatos ir prieinama vieta
DeepSeek rekomenduoja temperatūrą nuo 0,5 iki 0,7, pradiniu pasirinkimu laikydamas 0,6, kad sumažėtų pasikartojanti ar nerišli išvestis. Vertinimo konfigūracijoje naudojamas 32 768 žetonų generavimo limitas ir top_p 0.95. Šie vertinimo pasirinkimai nėra universali griežta riba. Samprotavimui, šaltinio tekstui ir galutiniam atsakymui reikia vietos sukonfigūruotame kontekste, todėl užklausoje su ilgu įrodymu ar kodo sąrašu vis tiek reikėtų palikti vietos atsakymui.
Modelio pasirinkimui reikšmingi ribojimai
Mažas distiliuotas modelis išlieka savitu samprotavimo kompromisu. Kūrėjo laidos medžiaga nepatvirtina šio modelio kontrolinio taško vaizdų, garso ar vaizdo įrašų įvesties ir atskiro įrankių kvietimo protokolo. Įrankių vykdymui ar prieigai prie aktualių duomenų reikėtų atskirai sukonfigūruotos programos darbo eigos. Vien dėl R1 pavadinimo ši laida taip pat nepaveldi vėlesnių DeepSeek-R1-0528 instrukcijų politikos pakeitimų. Patikrinkite skaitinius atsakymus, peržiūrėkite siūlomus kodo pakeitimus ir įvertinkite, ar galutinė išvada išplaukia iš pateiktų faktų; vien ilgas samprotavimo transkriptas nėra teisingumo įrodymas.
POST /v1/messagestextjson, sse| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos user, assistant | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF-8 tekstas
messages[].content eilutė
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages, max_tokens |
Parametrasoptional_controls | Specifikacijastream |
Parametrasmaterial_types | Specifikacijatext |
Parametrastext_file_material | SpecifikacijaPerskaitykite tikrąjį UTF-8 dokumentą ir įterpkite jo tekstą į nurodytą input lauką arba pranešimo turinio eilutę. |
Gyvavimo ciklas: synchronous_or_streamed
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.0001 / 1K tokenų Išvestis · Išvesties tokenai $0.0001 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
{\n "model": "Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visus turinio blokus, mąstymo parašus ir tikruosius įrankių naudojimo ID. Surinkite visus SSE blokų prieaugius; pirmasis teksto blokas nėra visa išvestis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukascontent[] | Tipastext|thinking|tool_use|other content block |
Laukasstop_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
/chat/completions