Johdanto: pienempi R1:stä johdettu päättelymalli
DeepSeek-R1-Distill-Qwen-7B siirtää DeepSeek-R1:n päättelyesimerkkejä Qwen2.5-Math-7B:hen perustuvaan tiheään malliin. Se hyväksyy tekstiä ja tuottaa tekstiä, kuten vaiheittain avattuja ratkaisuja, ohjelmoinnin selityksiä ja vastauksia loogisiin ongelmiin. Juuri tämä 7B-tislaus on erillinen mallijulkaisu täydestä DeepSeek-R1:stä, alkuperäisestä Qwen2.5-Math-7B:stä ja suuremmista tislatuista versioista. Nimi kertoo sekä päättelyaineiston tuottajan että pohjana olevan malliperheen.
Mitä tislaus tuo mukanaan
DeepSeekin R1-tutkimus erottaa suuren päättelyopettajan kouluttamisen sen pienempien oppilaiden hienosäädöstä. Opettajan koulutusputki käyttää vahvistusoppimista ja ohjattuja vaiheita. Julkaistut tislatut mallit hienosäädetään R1:n tuottamilla näytteillä. Valmistaja kuvaa näille julkaisuille 800 000 kuratoitua esimerkkiä. Älä oleta, että 7B-oppilaalla itsellään olisi täyden mallin mixture-of-experts-arkkitehtuuri tai että se olisi käynyt läpi jokaisen opettajan koulutusvaiheen. Tislaus antaa tälle mallille opitun päättelytyylin, mutta ei tee sen johtopäätöksistä opettajan johtopäätöksiä vastaavia.
Tarkka malli ja sen konfiguraatio
Virallinen mallitaulukko nimeää Qwen2.5-Math-7B:n tämän version pohjaksi. DeepSeek muuttaa konfiguraatiota ja tokenisoijan asetuksia, joten tarkka julkaistu malliversio ja keskustelumalline ovat olennaisia. Julkaistu konfiguraatio käyttää Qwen2:n kausaalista kielimalliarkkitehtuuria, jossa on 28 kerrosta ja bfloat16-painot. Se asettaa enimmäispositiomääräksi 131 072. Tämä konfiguraatioarvo ei ole erillinen vahvistus pitkien asiakirjojen tarkkuudesta: yhteisen R1-mallikortin 128K:n kontekstitaulukko kuvaa täysiä R1-malleja, kun taas tislattujen mallien taulukko yksilöi alkuperän julkaisematta oppilaskohtaista vahvistettua kontekstitaulukkoa.
Käytä mallia tehtävään, jonka tulos voidaan tarkistaa. Anna matematiikassa täydellinen tehtävänanto, määritelmät ja yksiköt. Liitä kooditehtävään olennainen funktio, syöte, havaittu tulos ja toivottu toiminta. Luettele logiikkakysymyksessä faktat ja erota vaadittu johtopäätös oletuksesta. Pyydä lopputulos, joka voidaan tarkistaa riippumattomasti, kuten kehystetty arvo, tiivis todistuksen runko tai selitetty korjaus. Nämä esimerkit soveltavat valmistajan dokumentoitua päättelyaluetta. Ne eivät väitä mallin suorittavan koodia tai tarkistavan todistuksia automaattisesti.
Kehotteen valmistelu
DeepSeek suosittelee sijoittamaan kaikki ohjeet käyttäjän kehotteeseen ja välttämään järjestelmäkehotetta tässä R1-julkaisussa. Pyydä matemaattisessa ongelmassa vaiheittaista päättelyä ja selvästi rajattua lopullista vastausta. Sisällytä mahdollinen tulosterakenne samaan kehotteeseen: esimerkiksi lyhyt johtopäätös, jota seuraavat oletukset ja tukevat laskelmat. Sovelluksen pitäisi käyttää oppilaan omaa tokenisoijaa ja muotoilua sen sijaan, että se vaihtaisi tilalle Qwen-pohjamallin mallineen tarkistamatta valmistajan muutoksia.
Valmistaja huomauttaa, että jotkin kyselyt voivat tuottaa tyhjän ajattelulohkon ja ohittaa tarkoitetun päättelymallin. Suositeltu korjaus on aloittaa generointi ajattelun avausmerkillä ja rivinvaihdolla yhteensopivassa työnkulussa. Tämä on dokumentoitu generointimuodon suositus eikä lupaus siitä, että jokainen sovellus tarjoaa tällaisen säätimen. Pidä tuloksen esityksessä lopullinen vastaus erillään pidemmästä päättelytekstistä.
Generointiasetukset ja käytettävissä oleva tila
DeepSeek suosittelee temperature-arvoksi 0.5–0.7 ja ensisijaiseksi aloitusarvoksi 0.6 toisteisen tai epäjohdonmukaisen tulosteen vähentämiseksi. Sen arviointikokoonpano käyttää 32 768 tokenin generointitilaa ja top_p-arvoa 0.95. Nämä arviointivalinnat eivät ole yleinen kiinteä enimmäisraja. Päättely, lähdeteksti ja lopullinen vastaus tarvitsevat kaikki tilaa määritellyssä kontekstissa, joten pitkän todistuksen tai koodilistauksen sisältävän pyynnön on silti jätettävä tilaa vastauksen valmistumiselle.
Mallin valintaan vaikuttavat rajoitukset
Pieni tislattu malli on edelleen oma päättelyyn liittyvä kompromissinsa. Valmistajan julkaisuaineisto ei osoita tälle mallijulkaisulle kuva-, ääni- tai videosyötettä eikä omaa työkalukutsuprotokollaa. Työkalujen suorittaminen tai ajantasaisen tiedon käyttö vaatisi erikseen määritellyn sovellustyönkulun. Julkaisu ei myöskään peri myöhempiä DeepSeek-R1-0528:n kehoteohjeiden muutoksia pelkän R1-nimen perusteella. Varmista numeeriset vastaukset, tarkasta ehdotetut koodimuutokset ja tarkista, seuraako lopullinen johtopäätös annetuista faktoista. Pelkkä pitkä päättelyteksti ei todista oikeellisuutta.
", "aboutText": "Johdanto: pienempi R1:stä johdettu päättelymalli\n\nDeepSeek-R1-Distill-Qwen-7B siirtää DeepSeek-R1:n päättelyesimerkkejä Qwen2.5-Math-7B:hen perustuvaan tiheään malliin. Se hyväksyy tekstiä ja tuottaa tekstiä, kuten vaiheittain avattuja ratkaisuja, ohjelmoinnin selityksiä ja vastauksia loogisiin ongelmiin. Juuri tämä 7B-tislaus on erillinen mallijulkaisu täydestä DeepSeek-R1:stä, alkuperäisestä Qwen2.5-Math-7B:stä ja suuremmista tislatuista versioista. Nimi kertoo sekä päättelyaineiston tuottajan että pohjana olevan malliperheen.\n\nMitä tislaus tuo mukanaan\n\nDeepSeekin R1-tutkimus erottaa suuren päättelyopettajan kouluttamisen sen pienempien oppilaiden hienosäädöstä. Opettajan koulutusputki käyttää vahvistusoppimista ja ohjattuja vaiheita. Julkaistut tislatut mallit hienosäädetään R1:n tuottamilla näytteillä. Valmistaja kuvaa näille julkaisuille 800 000 kuratoitua esimerkkiä. Älä oleta, että 7B-oppilaalla itsellään olisi täyden mallin mixture-of-experts-arkkitehtuuri tai että se olisi käynyt läpi jokaisen opettajan koulutusvaiheen. Tislaus antaa tälle mallille opitun päättelytyylin, mutta ei tee sen johtopäätöksistä opettajan johtopäätöksiä vastaavia.\n\nTarkka malli ja sen konfiguraatio\n\nVirallinen mallitaulukko nimeää Qwen2.5-Math-7B:n tämän version pohjaksi. DeepSeek muuttaa konfiguraatiota ja tokenisoijan asetuksia, joten tarkka julkaistu malliversio ja keskustelumalline ovat olennaisia. Julkaistu konfiguraatio käyttää Qwen2:n kausaalista kielimalliarkkitehtuuria, jossa on 28 kerrosta ja bfloat16-painot. Se asettaa enimmäispositiomääräksi 131 072. Tämä konfiguraatioarvo ei ole erillinen vahvistus pitkien asiakirjojen tarkkuudesta: yhteisen R1-mallikortin 128K:n kontekstitaulukko kuvaa täysiä R1-malleja, kun taas tislattujen mallien taulukko yksilöi alkuperän julkaisematta oppilaskohtaista vahvistettua kontekstitaulukkoa.\n\nKäytä mallia tehtävään, jonka tulos voidaan tarkistaa. Anna matematiikassa täydellinen tehtävänanto, määritelmät ja yksiköt. Liitä kooditehtävään olennainen funktio, syöte, havaittu tulos ja toivottu toiminta. Luettele logiikkakysymyksessä faktat ja erota vaadittu johtopäätös oletuksesta. Pyydä lopputulos, joka voidaan tarkistaa riippumattomasti, kuten kehystetty arvo, tiivis todistuksen runko tai selitetty korjaus. Nämä esimerkit soveltavat valmistajan dokumentoitua päättelyaluetta. Ne eivät väitä mallin suorittavan koodia tai tarkistavan todistuksia automaattisesti.\n\nKehotteen valmistelu\n\nDeepSeek suosittelee sijoittamaan kaikki ohjeet käyttäjän kehotteeseen ja välttämään järjestelmäkehotetta tässä R1-julkaisussa. Pyydä matemaattisessa ongelmassa vaiheittaista päättelyä ja selvästi rajattua lopullista vastausta. Sisällytä mahdollinen tulosterakenne samaan kehotteeseen: esimerkiksi lyhyt johtopäätös, jota seuraavat oletukset ja tukevat laskelmat. Sovelluksen pitäisi käyttää oppilaan omaa tokenisoijaa ja muotoilua sen sijaan, että se vaihtaisi tilalle Qwen-pohjamallin mallineen tarkistamatta valmistajan muutoksia.\n\nValmistaja huomauttaa, että jotkin kyselyt voivat tuottaa tyhjän ajattelulohkon ja ohittaa tarkoitetun päättelymallin. Suositeltu korjaus on aloittaa generointi ajattelun avausmerkillä ja rivinvaihdolla yhteensopivassa työnkulussa. Tämä on dokumentoitu generointimuodon suositus eikä lupaus siitä, että jokainen sovellus tarjoaa tällaisen säätimen. Pidä tuloksen esityksessä lopullinen vastaus erillään pidemmästä päättelytekstistä.\n\nGenerointiasetukset ja käytettävissä oleva tila\n\nDeepSeek suosittelee temperature-arvoksi 0.5–0.7 ja ensisijaiseksi aloitusarvoksi 0.6 toisteisen tai epäjohdonmukaisen tulosteen vähentämiseksi. Sen arviointikokoonpano käyttää 32 768 tokenin generointitilaa ja top_p-arvoa 0.95. Nämä arviointivalinnat eivät ole yleinen kiinteä enimmäisraja. Päättely, lähdeteksti ja lopullinen vastaus tarvitsevat kaikki tilaa määritellyssä kontekstissa, joten pitkän todistuksen tai koodilistauksen sisältävän pyynnön on silti jätettävä tilaa vastauksen valmistumiselle.\n\nMallin valintaan vaikuttavat rajoitukset\n\nPieni tislattu malli on edelleen oma päättelyyn liittyvä kompromissinsa. Valmistajan julkaisuaineisto ei osoita tälle mallijulkaisulle kuva-, ääni- tai videosyötettä eikä omaa työkalukutsuprotokollaa. Työkalujen suorittaminen tai ajantasaisen tiedon käyttö vaatisi erikseen määritellyn sovellustyönkulun. Julkaisu ei myöskään peri myöhempiä DeepSeek-R1-0528:n kehoteohjeiden muutoksia pelkän R1-nimen perusteella. Varmista numeeriset vastaukset, tarkasta ehdotetut koodimuutokset ja tarkista, seuraako lopullinen johtopäätös annetuista faktoista. Pelkkä pitkä päättelyteksti ei todista oikeellisuutta.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "0fde084f5d32846b2037f0e11abd64c93a5f760da74669cd1fb7330cb7d6c2cc", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "fi", "methods": [ { "html": "Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7BDeepSeek-R1-Distill-Qwen-7B on DeepSeekin kompakti tiheä päättelymalli, joka on hienosäädetty Qwen2.5-Math-7B:stä R1:n tuottamilla esimerkeillä. Se vastaanottaa tekstiä ja tuottaa tekstiä matemaattisiin, ohjelmointi- ja logiikkatehtäviin. Sillä on mallijulkaisukohtaiset kehoteohjeet.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Johdanto: pienempi R1:stä johdettu päättelymalli
DeepSeek-R1-Distill-Qwen-7B siirtää DeepSeek-R1:n päättelyesimerkkejä Qwen2.5-Math-7B:hen perustuvaan tiheään malliin. Se hyväksyy tekstiä ja tuottaa tekstiä, kuten vaiheittain avattuja ratkaisuja, ohjelmoinnin selityksiä ja vastauksia loogisiin ongelmiin. Juuri tämä 7B-tislaus on erillinen mallijulkaisu täydestä DeepSeek-R1:stä, alkuperäisestä Qwen2.5-Math-7B:stä ja suuremmista tislatuista versioista. Nimi kertoo sekä päättelyaineiston tuottajan että pohjana olevan malliperheen.
Mitä tislaus tuo mukanaan
DeepSeekin R1-tutkimus erottaa suuren päättelyopettajan kouluttamisen sen pienempien oppilaiden hienosäädöstä. Opettajan koulutusputki käyttää vahvistusoppimista ja ohjattuja vaiheita. Julkaistut tislatut mallit hienosäädetään R1:n tuottamilla näytteillä. Valmistaja kuvaa näille julkaisuille 800 000 kuratoitua esimerkkiä. Älä oleta, että 7B-oppilaalla itsellään olisi täyden mallin mixture-of-experts-arkkitehtuuri tai että se olisi käynyt läpi jokaisen opettajan koulutusvaiheen. Tislaus antaa tälle mallille opitun päättelytyylin, mutta ei tee sen johtopäätöksistä opettajan johtopäätöksiä vastaavia.
Tarkka malli ja sen konfiguraatio
Virallinen mallitaulukko nimeää Qwen2.5-Math-7B:n tämän version pohjaksi. DeepSeek muuttaa konfiguraatiota ja tokenisoijan asetuksia, joten tarkka julkaistu malliversio ja keskustelumalline ovat olennaisia. Julkaistu konfiguraatio käyttää Qwen2:n kausaalista kielimalliarkkitehtuuria, jossa on 28 kerrosta ja bfloat16-painot. Se asettaa enimmäispositiomääräksi 131 072. Tämä konfiguraatioarvo ei ole erillinen vahvistus pitkien asiakirjojen tarkkuudesta: yhteisen R1-mallikortin 128K:n kontekstitaulukko kuvaa täysiä R1-malleja, kun taas tislattujen mallien taulukko yksilöi alkuperän julkaisematta oppilaskohtaista vahvistettua kontekstitaulukkoa.
Käytä mallia tehtävään, jonka tulos voidaan tarkistaa. Anna matematiikassa täydellinen tehtävänanto, määritelmät ja yksiköt. Liitä kooditehtävään olennainen funktio, syöte, havaittu tulos ja toivottu toiminta. Luettele logiikkakysymyksessä faktat ja erota vaadittu johtopäätös oletuksesta. Pyydä lopputulos, joka voidaan tarkistaa riippumattomasti, kuten kehystetty arvo, tiivis todistuksen runko tai selitetty korjaus. Nämä esimerkit soveltavat valmistajan dokumentoitua päättelyaluetta. Ne eivät väitä mallin suorittavan koodia tai tarkistavan todistuksia automaattisesti.
Kehotteen valmistelu
DeepSeek suosittelee sijoittamaan kaikki ohjeet käyttäjän kehotteeseen ja välttämään järjestelmäkehotetta tässä R1-julkaisussa. Pyydä matemaattisessa ongelmassa vaiheittaista päättelyä ja selvästi rajattua lopullista vastausta. Sisällytä mahdollinen tulosterakenne samaan kehotteeseen: esimerkiksi lyhyt johtopäätös, jota seuraavat oletukset ja tukevat laskelmat. Sovelluksen pitäisi käyttää oppilaan omaa tokenisoijaa ja muotoilua sen sijaan, että se vaihtaisi tilalle Qwen-pohjamallin mallineen tarkistamatta valmistajan muutoksia.
Valmistaja huomauttaa, että jotkin kyselyt voivat tuottaa tyhjän ajattelulohkon ja ohittaa tarkoitetun päättelymallin. Suositeltu korjaus on aloittaa generointi ajattelun avausmerkillä ja rivinvaihdolla yhteensopivassa työnkulussa. Tämä on dokumentoitu generointimuodon suositus eikä lupaus siitä, että jokainen sovellus tarjoaa tällaisen säätimen. Pidä tuloksen esityksessä lopullinen vastaus erillään pidemmästä päättelytekstistä.
Generointiasetukset ja käytettävissä oleva tila
DeepSeek suosittelee temperature-arvoksi 0.5–0.7 ja ensisijaiseksi aloitusarvoksi 0.6 toisteisen tai epäjohdonmukaisen tulosteen vähentämiseksi. Sen arviointikokoonpano käyttää 32 768 tokenin generointitilaa ja top_p-arvoa 0.95. Nämä arviointivalinnat eivät ole yleinen kiinteä enimmäisraja. Päättely, lähdeteksti ja lopullinen vastaus tarvitsevat kaikki tilaa määritellyssä kontekstissa, joten pitkän todistuksen tai koodilistauksen sisältävän pyynnön on silti jätettävä tilaa vastauksen valmistumiselle.
Mallin valintaan vaikuttavat rajoitukset
Pieni tislattu malli on edelleen oma päättelyyn liittyvä kompromissinsa. Valmistajan julkaisuaineisto ei osoita tälle mallijulkaisulle kuva-, ääni- tai videosyötettä eikä omaa työkalukutsuprotokollaa. Työkalujen suorittaminen tai ajantasaisen tiedon käyttö vaatisi erikseen määritellyn sovellustyönkulun. Julkaisu ei myöskään peri myöhempiä DeepSeek-R1-0528:n kehoteohjeiden muutoksia pelkän R1-nimen perusteella. Varmista numeeriset vastaukset, tarkasta ehdotetut koodimuutokset ja tarkista, seuraako lopullinen johtopäätös annetuista faktoista. Pelkkä pitkä päättelyteksti ei todista oikeellisuutta.
POST /v1/chat/completionstexttext| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttämessages[].content | Tyyppistring | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: Tekstikeskustelu | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Teksti · UTF8-teksti
messages[].content
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages |
Parametrimaterial_types | Sopimustext |
Parametrimessages | Sopimusviestitaulukko role/content-rakenteella |
Parametrifile_material | Sopimusvarsinainen UTF-8-asiakirja lisätään sellaisenaan tekstinä; tiedoston ID:tä ei päätellä |
Parametrioptional_controls | Sopimusstream |
Parametricontrol_scope | SopimusTekstikeskustelu; stream on totuusarvo, jonka oletus on false. |
Parametrioutput_modalities | Sopimustext |
Parametrihosted_operations | Sopimusfalse |
Parametrimultimodal_input_binding | Sopimusnull |
Menetelmien aliakset: /chat/completions
Elinkaari: synchronous_or_streamed
Lähetä mallin täsmällinen ID yhdessä messages-kentän kanssa.
Kontekstin pituus ei ole tuloksen yläraja.
Tekstitiedosto voi antaa tekstiä sellaisenaan; kuva-, ääni- ja tiedosto-objektisyötteet tarvitsevat täsmällisen sidonnan.
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.0001 / 1K tokenia Tuloste · Tulostokenit $0.0001 / 1K tokenia Syöte · Välimuistin luku $0 / 1K tokenia Syöte · Välimuistiin kirjoitus $0 / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vastausvaihtoehto sisältöineen, työkalukutsuineen ja päättelyineen. Kokoa SSE:ssä muutokset vastausvaihtoehdon ja työkalun indeksin mukaan ja säilytä lopullinen päättymissyy sekä käyttötiedot.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttächoices[].index | Tyyppiinteger |
Kenttächoices[].message.content | Tyyppistring|null |
Kenttächoices[].message.tool_calls | Tyyppitool_call[] |
Kenttächoices[].message.reasoning_content | Tyyppistring |
Kenttächoices[].message.reasoning_details | Tyyppiobject|array |
Kenttächoices[].finish_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
/chat/completions
Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7BDeepSeek-R1-Distill-Qwen-7B on DeepSeekin kompakti tiheä päättelymalli, joka on hienosäädetty Qwen2.5-Math-7B:stä R1:n tuottamilla esimerkeillä. Se vastaanottaa tekstiä ja tuottaa tekstiä matemaattisiin, ohjelmointi- ja logiikkatehtäviin. Sillä on mallijulkaisukohtaiset kehoteohjeet.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Johdanto: pienempi R1:stä johdettu päättelymalli
DeepSeek-R1-Distill-Qwen-7B siirtää DeepSeek-R1:n päättelyesimerkkejä Qwen2.5-Math-7B:hen perustuvaan tiheään malliin. Se hyväksyy tekstiä ja tuottaa tekstiä, kuten vaiheittain avattuja ratkaisuja, ohjelmoinnin selityksiä ja vastauksia loogisiin ongelmiin. Juuri tämä 7B-tislaus on erillinen mallijulkaisu täydestä DeepSeek-R1:stä, alkuperäisestä Qwen2.5-Math-7B:stä ja suuremmista tislatuista versioista. Nimi kertoo sekä päättelyaineiston tuottajan että pohjana olevan malliperheen.
Mitä tislaus tuo mukanaan
DeepSeekin R1-tutkimus erottaa suuren päättelyopettajan kouluttamisen sen pienempien oppilaiden hienosäädöstä. Opettajan koulutusputki käyttää vahvistusoppimista ja ohjattuja vaiheita. Julkaistut tislatut mallit hienosäädetään R1:n tuottamilla näytteillä. Valmistaja kuvaa näille julkaisuille 800 000 kuratoitua esimerkkiä. Älä oleta, että 7B-oppilaalla itsellään olisi täyden mallin mixture-of-experts-arkkitehtuuri tai että se olisi käynyt läpi jokaisen opettajan koulutusvaiheen. Tislaus antaa tälle mallille opitun päättelytyylin, mutta ei tee sen johtopäätöksistä opettajan johtopäätöksiä vastaavia.
Tarkka malli ja sen konfiguraatio
Virallinen mallitaulukko nimeää Qwen2.5-Math-7B:n tämän version pohjaksi. DeepSeek muuttaa konfiguraatiota ja tokenisoijan asetuksia, joten tarkka julkaistu malliversio ja keskustelumalline ovat olennaisia. Julkaistu konfiguraatio käyttää Qwen2:n kausaalista kielimalliarkkitehtuuria, jossa on 28 kerrosta ja bfloat16-painot. Se asettaa enimmäispositiomääräksi 131 072. Tämä konfiguraatioarvo ei ole erillinen vahvistus pitkien asiakirjojen tarkkuudesta: yhteisen R1-mallikortin 128K:n kontekstitaulukko kuvaa täysiä R1-malleja, kun taas tislattujen mallien taulukko yksilöi alkuperän julkaisematta oppilaskohtaista vahvistettua kontekstitaulukkoa.
Käytä mallia tehtävään, jonka tulos voidaan tarkistaa. Anna matematiikassa täydellinen tehtävänanto, määritelmät ja yksiköt. Liitä kooditehtävään olennainen funktio, syöte, havaittu tulos ja toivottu toiminta. Luettele logiikkakysymyksessä faktat ja erota vaadittu johtopäätös oletuksesta. Pyydä lopputulos, joka voidaan tarkistaa riippumattomasti, kuten kehystetty arvo, tiivis todistuksen runko tai selitetty korjaus. Nämä esimerkit soveltavat valmistajan dokumentoitua päättelyaluetta. Ne eivät väitä mallin suorittavan koodia tai tarkistavan todistuksia automaattisesti.
Kehotteen valmistelu
DeepSeek suosittelee sijoittamaan kaikki ohjeet käyttäjän kehotteeseen ja välttämään järjestelmäkehotetta tässä R1-julkaisussa. Pyydä matemaattisessa ongelmassa vaiheittaista päättelyä ja selvästi rajattua lopullista vastausta. Sisällytä mahdollinen tulosterakenne samaan kehotteeseen: esimerkiksi lyhyt johtopäätös, jota seuraavat oletukset ja tukevat laskelmat. Sovelluksen pitäisi käyttää oppilaan omaa tokenisoijaa ja muotoilua sen sijaan, että se vaihtaisi tilalle Qwen-pohjamallin mallineen tarkistamatta valmistajan muutoksia.
Valmistaja huomauttaa, että jotkin kyselyt voivat tuottaa tyhjän ajattelulohkon ja ohittaa tarkoitetun päättelymallin. Suositeltu korjaus on aloittaa generointi ajattelun avausmerkillä ja rivinvaihdolla yhteensopivassa työnkulussa. Tämä on dokumentoitu generointimuodon suositus eikä lupaus siitä, että jokainen sovellus tarjoaa tällaisen säätimen. Pidä tuloksen esityksessä lopullinen vastaus erillään pidemmästä päättelytekstistä.
Generointiasetukset ja käytettävissä oleva tila
DeepSeek suosittelee temperature-arvoksi 0.5–0.7 ja ensisijaiseksi aloitusarvoksi 0.6 toisteisen tai epäjohdonmukaisen tulosteen vähentämiseksi. Sen arviointikokoonpano käyttää 32 768 tokenin generointitilaa ja top_p-arvoa 0.95. Nämä arviointivalinnat eivät ole yleinen kiinteä enimmäisraja. Päättely, lähdeteksti ja lopullinen vastaus tarvitsevat kaikki tilaa määritellyssä kontekstissa, joten pitkän todistuksen tai koodilistauksen sisältävän pyynnön on silti jätettävä tilaa vastauksen valmistumiselle.
Mallin valintaan vaikuttavat rajoitukset
Pieni tislattu malli on edelleen oma päättelyyn liittyvä kompromissinsa. Valmistajan julkaisuaineisto ei osoita tälle mallijulkaisulle kuva-, ääni- tai videosyötettä eikä omaa työkalukutsuprotokollaa. Työkalujen suorittaminen tai ajantasaisen tiedon käyttö vaatisi erikseen määritellyn sovellustyönkulun. Julkaisu ei myöskään peri myöhempiä DeepSeek-R1-0528:n kehoteohjeiden muutoksia pelkän R1-nimen perusteella. Varmista numeeriset vastaukset, tarkasta ehdotetut koodimuutokset ja tarkista, seuraako lopullinen johtopäätös annetuista faktoista. Pelkkä pitkä päättelyteksti ei todista oikeellisuutta.
POST /v1/messagestextjson, sse| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat user, assistant | Oletus— |
Kenttämessages[].content | Tyyppistring | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämax_tokens | Tyyppiinteger | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Teksti · UTF-8-teksti
messages[].content-merkkijono
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages, max_tokens |
Parametrioptional_controls | Sopimusstream |
Parametrimaterial_types | Sopimustext |
Parametritext_file_material | SopimusLue varsinainen UTF-8-asiakirja ja sijoita sen teksti ilmoitettuun syöte- tai viestisisällön merkkijonoon. |
Elinkaari: synchronous_or_streamed
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.0001 / 1K tokenia Tuloste · Tulostokenit $0.0001 / 1K tokenia Syöte · Välimuistin luku $0 / 1K tokenia Syöte · Välimuistiin kirjoitus $0 / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
{\n "model": "Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä kaikki sisältölohkot, päättelyallekirjoitukset ja todelliset työkalukäytön ID:t. Kokoa kaikki SSE-lohkomuutokset; ensimmäinen tekstilohko ei ole koko tulos.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttäid | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttäcontent[] | Tyyppitext|thinking|tool_use|other content block |
Kenttästop_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
/chat/completions