Inleiding: een kleiner redeneermodel afgeleid van R1
DeepSeek-R1-Distill-Qwen-7B brengt redeneervoorbeelden van DeepSeek-R1 over naar een dicht model op basis van Qwen2.5-Math-7B. Het accepteert en genereert tekst, waaronder uitgewerkte oplossingen, programmeeruitleg en antwoorden op logische problemen. Deze exacte 7B-distillatie is een afzonderlijk checkpoint naast het volledige DeepSeek-R1, het oorspronkelijke Qwen2.5-Math-7B en grotere gedistilleerde edities. De naam vermeldt zowel de producent van de redeneergegevens als de onderliggende modelfamilie.
Wat distillatie bijdraagt
Het R1-onderzoek van DeepSeek maakt een onderscheid tussen het trainen van het grote leraarmodel voor redeneren en het finetunen van de kleinere leerlingmodellen. De pijplijn van de leraar gebruikt reinforcement learning en begeleide fasen; de uitgebrachte gedistilleerde modellen zijn gefinetuned met voorbeelden die R1 heeft geproduceerd. De ontwikkelaar beschrijft 800.000 zorgvuldig geselecteerde voorbeelden voor deze releases. Neem niet aan dat de 7B-leerling zelf de mixture-of-experts-architectuur van het volledige model heeft of elke trainingsfase van de leraar heeft doorlopen. Distillatie geeft dit model een aangeleerde redeneerstijl; ze maakt de conclusies niet gelijkwaardig aan die van de leraar.
Het exacte model en zijn configuratie
De officiële modeltabel identificeert Qwen2.5-Math-7B als de basis van deze editie. DeepSeek wijzigt de configuratie en tokenizerinstellingen, waardoor het exacte uitgebrachte checkpoint en chatsjabloon van belang zijn. De gepubliceerde configuratie gebruikt een Qwen2-architectuur voor causale taalmodellering met 28 lagen en bfloat16-gewichten. Het maximale aantal posities is ingesteld op 131.072. Die configuratiewaarde is geen afzonderlijke validatie van nauwkeurigheid bij lange documenten: de contexttabel van 128K op de gedeelde R1-modelkaart beschrijft de volledige R1-modellen, terwijl de tabel met gedistilleerde modellen de afstamming vermeldt zonder een gevalideerde contexttabel per leerling te publiceren.
Gebruik het model voor een taak met een controleerbare uitkomst. Geef voor wiskunde de volledige opgave, definities en eenheden. Voeg voor code de relevante functie, invoer, het waargenomen resultaat en het gewenste gedrag toe. Som voor een logische vraag de feiten op en onderscheid een vereiste conclusie van een aanname. Vraag een eindresultaat dat onafhankelijk kan worden gecontroleerd, zoals een omkaderde waarde, een beknopte bewijsschets of een toegelichte patch. Deze voorbeelden passen het gedocumenteerde redeneerdomein van de ontwikkelaar toe; het zijn geen beweringen dat het model automatisch code uitvoert of bewijzen verifieert.
Hoe je de prompt voorbereidt
DeepSeek beveelt voor deze R1-release aan om alle instructies in de gebruikersprompt te plaatsen en een systeemprompt te vermijden. Vraag bij een wiskundig probleem om stapsgewijs redeneren en een duidelijk afgebakend eindantwoord. Neem elke uitvoerstructuur in dezelfde prompt op: bijvoorbeeld een korte conclusie gevolgd door aannames en ondersteunende berekeningen. Een toepassing moet de eigen tokenizer en opmaak van de leerling gebruiken in plaats van het basissjabloon van Qwen over te nemen zonder de wijzigingen van de ontwikkelaar te controleren.
De ontwikkelaar merkt op dat sommige vragen een leeg denkblok kunnen opleveren en het beoogde redeneerpatroon omzeilen. De aanbevolen oplossing is om het genereren in een compatibele werkwijze te laten beginnen met de openingsmarkering voor denken en een regeleinde. Dit is een gedocumenteerde aanbeveling voor het generatieformaat, geen belofte dat elke toepassing zo'n instelling beschikbaar stelt. Houd bij de presentatie van een resultaat het eindantwoord gescheiden van de langere redeneertekst.
Generatie-instellingen en beschikbare ruimte
DeepSeek beveelt een temperature tussen 0.5 en 0.7 aan, met 0.6 als aanbevolen startpunt, om herhalende of onsamenhangende uitvoer te beperken. De evaluatieopstelling gebruikt een generatiebudget van 32.768 tokens en top_p 0.95. Die evaluatiekeuzes vormen geen universele harde bovengrens. Redeneren, brontekst en het definitieve antwoord hebben allemaal ruimte nodig in de ingestelde context, dus een aanvraag met een lang bewijs of codelijst moet nog steeds ruimte laten voor de completion.
Beperkingen die de modelkeuze beïnvloeden
Een klein gedistilleerd model blijft een afzonderlijke afweging voor redeneren. Het releasemateriaal van de ontwikkelaar stelt voor dit checkpoint geen beeld-, audio- of video-invoer vast, en evenmin een specifiek protocol voor toolaanroepen. Tooluitvoering of toegang tot actuele gegevens zou een afzonderlijk ingestelde toepassingswerkwijze vereisen. De release neemt ook niet louter door de naam R1 de latere wijzigingen in het promptbeleid van DeepSeek-R1-0528 over. Verifieer numerieke antwoorden, controleer voorgestelde codewijzigingen en ga na of de eindconclusie uit de aangeleverde feiten volgt; een lang redeneertranscript alleen bewijst niet dat het antwoord correct is.
", "aboutText": "Inleiding: een kleiner redeneermodel afgeleid van R1\n\nDeepSeek-R1-Distill-Qwen-7B brengt redeneervoorbeelden van DeepSeek-R1 over naar een dicht model op basis van Qwen2.5-Math-7B. Het accepteert en genereert tekst, waaronder uitgewerkte oplossingen, programmeeruitleg en antwoorden op logische problemen. Deze exacte 7B-distillatie is een afzonderlijk checkpoint naast het volledige DeepSeek-R1, het oorspronkelijke Qwen2.5-Math-7B en grotere gedistilleerde edities. De naam vermeldt zowel de producent van de redeneergegevens als de onderliggende modelfamilie.\n\nWat distillatie bijdraagt\n\nHet R1-onderzoek van DeepSeek maakt een onderscheid tussen het trainen van het grote leraarmodel voor redeneren en het finetunen van de kleinere leerlingmodellen. De pijplijn van de leraar gebruikt reinforcement learning en begeleide fasen; de uitgebrachte gedistilleerde modellen zijn gefinetuned met voorbeelden die R1 heeft geproduceerd. De ontwikkelaar beschrijft 800.000 zorgvuldig geselecteerde voorbeelden voor deze releases. Neem niet aan dat de 7B-leerling zelf de mixture-of-experts-architectuur van het volledige model heeft of elke trainingsfase van de leraar heeft doorlopen. Distillatie geeft dit model een aangeleerde redeneerstijl; ze maakt de conclusies niet gelijkwaardig aan die van de leraar.\n\nHet exacte model en zijn configuratie\n\nDe officiële modeltabel identificeert Qwen2.5-Math-7B als de basis van deze editie. DeepSeek wijzigt de configuratie en tokenizerinstellingen, waardoor het exacte uitgebrachte checkpoint en chatsjabloon van belang zijn. De gepubliceerde configuratie gebruikt een Qwen2-architectuur voor causale taalmodellering met 28 lagen en bfloat16-gewichten. Het maximale aantal posities is ingesteld op 131.072. Die configuratiewaarde is geen afzonderlijke validatie van nauwkeurigheid bij lange documenten: de contexttabel van 128K op de gedeelde R1-modelkaart beschrijft de volledige R1-modellen, terwijl de tabel met gedistilleerde modellen de afstamming vermeldt zonder een gevalideerde contexttabel per leerling te publiceren.\n\nGebruik het model voor een taak met een controleerbare uitkomst. Geef voor wiskunde de volledige opgave, definities en eenheden. Voeg voor code de relevante functie, invoer, het waargenomen resultaat en het gewenste gedrag toe. Som voor een logische vraag de feiten op en onderscheid een vereiste conclusie van een aanname. Vraag een eindresultaat dat onafhankelijk kan worden gecontroleerd, zoals een omkaderde waarde, een beknopte bewijsschets of een toegelichte patch. Deze voorbeelden passen het gedocumenteerde redeneerdomein van de ontwikkelaar toe; het zijn geen beweringen dat het model automatisch code uitvoert of bewijzen verifieert.\n\nHoe je de prompt voorbereidt\n\nDeepSeek beveelt voor deze R1-release aan om alle instructies in de gebruikersprompt te plaatsen en een systeemprompt te vermijden. Vraag bij een wiskundig probleem om stapsgewijs redeneren en een duidelijk afgebakend eindantwoord. Neem elke uitvoerstructuur in dezelfde prompt op: bijvoorbeeld een korte conclusie gevolgd door aannames en ondersteunende berekeningen. Een toepassing moet de eigen tokenizer en opmaak van de leerling gebruiken in plaats van het basissjabloon van Qwen over te nemen zonder de wijzigingen van de ontwikkelaar te controleren.\n\nDe ontwikkelaar merkt op dat sommige vragen een leeg denkblok kunnen opleveren en het beoogde redeneerpatroon omzeilen. De aanbevolen oplossing is om het genereren in een compatibele werkwijze te laten beginnen met de openingsmarkering voor denken en een regeleinde. Dit is een gedocumenteerde aanbeveling voor het generatieformaat, geen belofte dat elke toepassing zo'n instelling beschikbaar stelt. Houd bij de presentatie van een resultaat het eindantwoord gescheiden van de langere redeneertekst.\n\nGeneratie-instellingen en beschikbare ruimte\n\nDeepSeek beveelt een temperature tussen 0.5 en 0.7 aan, met 0.6 als aanbevolen startpunt, om herhalende of onsamenhangende uitvoer te beperken. De evaluatieopstelling gebruikt een generatiebudget van 32.768 tokens en top_p 0.95. Die evaluatiekeuzes vormen geen universele harde bovengrens. Redeneren, brontekst en het definitieve antwoord hebben allemaal ruimte nodig in de ingestelde context, dus een aanvraag met een lang bewijs of codelijst moet nog steeds ruimte laten voor de completion.\n\nBeperkingen die de modelkeuze beïnvloeden\n\nEen klein gedistilleerd model blijft een afzonderlijke afweging voor redeneren. Het releasemateriaal van de ontwikkelaar stelt voor dit checkpoint geen beeld-, audio- of video-invoer vast, en evenmin een specifiek protocol voor toolaanroepen. Tooluitvoering of toegang tot actuele gegevens zou een afzonderlijk ingestelde toepassingswerkwijze vereisen. De release neemt ook niet louter door de naam R1 de latere wijzigingen in het promptbeleid van DeepSeek-R1-0528 over. Verifieer numerieke antwoorden, controleer voorgestelde codewijzigingen en ga na of de eindconclusie uit de aangeleverde feiten volgt; een lang redeneertranscript alleen bewijst niet dat het antwoord correct is.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
Calculate a mixture ratio\n\nA workshop mixes 2 liters of concentrate with 6 liters of water. It needs 20 liters of the same mixture. Calculate the required concentrate and water, show the proportional calculation and give a clearly labelled final answer with units. Check that the two quantities add to the requested volume.A short proportional calculation and final concentrate and water quantities in liters.Verify both the 1:3 concentrate-to-water ratio and the 20-liter total independently.DeepSeek-R1-Distill-Qwen-7B-ultraDeepSeek-R1-Distill-Qwen-7B is het compacte dichte redeneermodel van DeepSeek, gefinetuned op basis van Qwen2.5-Math-7B met door R1 gegenereerde voorbeelden. Het verwerkt en produceert tekst voor wiskundige, codeer- en logische taken, met checkpointspecifieke richtlijnen voor prompts.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Inleiding: een kleiner redeneermodel afgeleid van R1
DeepSeek-R1-Distill-Qwen-7B brengt redeneervoorbeelden van DeepSeek-R1 over naar een dicht model op basis van Qwen2.5-Math-7B. Het accepteert en genereert tekst, waaronder uitgewerkte oplossingen, programmeeruitleg en antwoorden op logische problemen. Deze exacte 7B-distillatie is een afzonderlijk checkpoint naast het volledige DeepSeek-R1, het oorspronkelijke Qwen2.5-Math-7B en grotere gedistilleerde edities. De naam vermeldt zowel de producent van de redeneergegevens als de onderliggende modelfamilie.
Wat distillatie bijdraagt
Het R1-onderzoek van DeepSeek maakt een onderscheid tussen het trainen van het grote leraarmodel voor redeneren en het finetunen van de kleinere leerlingmodellen. De pijplijn van de leraar gebruikt reinforcement learning en begeleide fasen; de uitgebrachte gedistilleerde modellen zijn gefinetuned met voorbeelden die R1 heeft geproduceerd. De ontwikkelaar beschrijft 800.000 zorgvuldig geselecteerde voorbeelden voor deze releases. Neem niet aan dat de 7B-leerling zelf de mixture-of-experts-architectuur van het volledige model heeft of elke trainingsfase van de leraar heeft doorlopen. Distillatie geeft dit model een aangeleerde redeneerstijl; ze maakt de conclusies niet gelijkwaardig aan die van de leraar.
Het exacte model en zijn configuratie
De officiële modeltabel identificeert Qwen2.5-Math-7B als de basis van deze editie. DeepSeek wijzigt de configuratie en tokenizerinstellingen, waardoor het exacte uitgebrachte checkpoint en chatsjabloon van belang zijn. De gepubliceerde configuratie gebruikt een Qwen2-architectuur voor causale taalmodellering met 28 lagen en bfloat16-gewichten. Het maximale aantal posities is ingesteld op 131.072. Die configuratiewaarde is geen afzonderlijke validatie van nauwkeurigheid bij lange documenten: de contexttabel van 128K op de gedeelde R1-modelkaart beschrijft de volledige R1-modellen, terwijl de tabel met gedistilleerde modellen de afstamming vermeldt zonder een gevalideerde contexttabel per leerling te publiceren.
Gebruik het model voor een taak met een controleerbare uitkomst. Geef voor wiskunde de volledige opgave, definities en eenheden. Voeg voor code de relevante functie, invoer, het waargenomen resultaat en het gewenste gedrag toe. Som voor een logische vraag de feiten op en onderscheid een vereiste conclusie van een aanname. Vraag een eindresultaat dat onafhankelijk kan worden gecontroleerd, zoals een omkaderde waarde, een beknopte bewijsschets of een toegelichte patch. Deze voorbeelden passen het gedocumenteerde redeneerdomein van de ontwikkelaar toe; het zijn geen beweringen dat het model automatisch code uitvoert of bewijzen verifieert.
Hoe je de prompt voorbereidt
DeepSeek beveelt voor deze R1-release aan om alle instructies in de gebruikersprompt te plaatsen en een systeemprompt te vermijden. Vraag bij een wiskundig probleem om stapsgewijs redeneren en een duidelijk afgebakend eindantwoord. Neem elke uitvoerstructuur in dezelfde prompt op: bijvoorbeeld een korte conclusie gevolgd door aannames en ondersteunende berekeningen. Een toepassing moet de eigen tokenizer en opmaak van de leerling gebruiken in plaats van het basissjabloon van Qwen over te nemen zonder de wijzigingen van de ontwikkelaar te controleren.
De ontwikkelaar merkt op dat sommige vragen een leeg denkblok kunnen opleveren en het beoogde redeneerpatroon omzeilen. De aanbevolen oplossing is om het genereren in een compatibele werkwijze te laten beginnen met de openingsmarkering voor denken en een regeleinde. Dit is een gedocumenteerde aanbeveling voor het generatieformaat, geen belofte dat elke toepassing zo'n instelling beschikbaar stelt. Houd bij de presentatie van een resultaat het eindantwoord gescheiden van de langere redeneertekst.
Generatie-instellingen en beschikbare ruimte
DeepSeek beveelt een temperature tussen 0.5 en 0.7 aan, met 0.6 als aanbevolen startpunt, om herhalende of onsamenhangende uitvoer te beperken. De evaluatieopstelling gebruikt een generatiebudget van 32.768 tokens en top_p 0.95. Die evaluatiekeuzes vormen geen universele harde bovengrens. Redeneren, brontekst en het definitieve antwoord hebben allemaal ruimte nodig in de ingestelde context, dus een aanvraag met een lang bewijs of codelijst moet nog steeds ruimte laten voor de completion.
Beperkingen die de modelkeuze beïnvloeden
Een klein gedistilleerd model blijft een afzonderlijke afweging voor redeneren. Het releasemateriaal van de ontwikkelaar stelt voor dit checkpoint geen beeld-, audio- of video-invoer vast, en evenmin een specifiek protocol voor toolaanroepen. Tooluitvoering of toegang tot actuele gegevens zou een afzonderlijk ingestelde toepassingswerkwijze vereisen. De release neemt ook niet louter door de naam R1 de latere wijzigingen in het promptbeleid van DeepSeek-R1-0528 over. Verifieer numerieke antwoorden, controleer voorgestelde codewijzigingen en ga na of de eindconclusie uit de aangeleverde feiten volgt; een lang redeneertranscript alleen bewijst niet dat het antwoord correct is.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten DeepSeek-R1-Distill-Qwen-7B-ultra | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.00014 / 1K tokens Uitvoer · Uitvoertokens $0.00028 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "DeepSeek-R1-Distill-Qwen-7B-ultra", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='DeepSeek-R1-Distill-Qwen-7B-ultra',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='DeepSeek-R1-Distill-Qwen-7B-ultra',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra DeepSeek-R1-Distill-Qwen-7B-ultra
Gebruik de hierboven getoonde methodepaden.
DeepSeek-R1-Distill-Qwen-7B-ultraDeepSeek-R1-Distill-Qwen-7B is het compacte dichte redeneermodel van DeepSeek, gefinetuned op basis van Qwen2.5-Math-7B met door R1 gegenereerde voorbeelden. Het verwerkt en produceert tekst voor wiskundige, codeer- en logische taken, met checkpointspecifieke richtlijnen voor prompts.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Inleiding: een kleiner redeneermodel afgeleid van R1
DeepSeek-R1-Distill-Qwen-7B brengt redeneervoorbeelden van DeepSeek-R1 over naar een dicht model op basis van Qwen2.5-Math-7B. Het accepteert en genereert tekst, waaronder uitgewerkte oplossingen, programmeeruitleg en antwoorden op logische problemen. Deze exacte 7B-distillatie is een afzonderlijk checkpoint naast het volledige DeepSeek-R1, het oorspronkelijke Qwen2.5-Math-7B en grotere gedistilleerde edities. De naam vermeldt zowel de producent van de redeneergegevens als de onderliggende modelfamilie.
Wat distillatie bijdraagt
Het R1-onderzoek van DeepSeek maakt een onderscheid tussen het trainen van het grote leraarmodel voor redeneren en het finetunen van de kleinere leerlingmodellen. De pijplijn van de leraar gebruikt reinforcement learning en begeleide fasen; de uitgebrachte gedistilleerde modellen zijn gefinetuned met voorbeelden die R1 heeft geproduceerd. De ontwikkelaar beschrijft 800.000 zorgvuldig geselecteerde voorbeelden voor deze releases. Neem niet aan dat de 7B-leerling zelf de mixture-of-experts-architectuur van het volledige model heeft of elke trainingsfase van de leraar heeft doorlopen. Distillatie geeft dit model een aangeleerde redeneerstijl; ze maakt de conclusies niet gelijkwaardig aan die van de leraar.
Het exacte model en zijn configuratie
De officiële modeltabel identificeert Qwen2.5-Math-7B als de basis van deze editie. DeepSeek wijzigt de configuratie en tokenizerinstellingen, waardoor het exacte uitgebrachte checkpoint en chatsjabloon van belang zijn. De gepubliceerde configuratie gebruikt een Qwen2-architectuur voor causale taalmodellering met 28 lagen en bfloat16-gewichten. Het maximale aantal posities is ingesteld op 131.072. Die configuratiewaarde is geen afzonderlijke validatie van nauwkeurigheid bij lange documenten: de contexttabel van 128K op de gedeelde R1-modelkaart beschrijft de volledige R1-modellen, terwijl de tabel met gedistilleerde modellen de afstamming vermeldt zonder een gevalideerde contexttabel per leerling te publiceren.
Gebruik het model voor een taak met een controleerbare uitkomst. Geef voor wiskunde de volledige opgave, definities en eenheden. Voeg voor code de relevante functie, invoer, het waargenomen resultaat en het gewenste gedrag toe. Som voor een logische vraag de feiten op en onderscheid een vereiste conclusie van een aanname. Vraag een eindresultaat dat onafhankelijk kan worden gecontroleerd, zoals een omkaderde waarde, een beknopte bewijsschets of een toegelichte patch. Deze voorbeelden passen het gedocumenteerde redeneerdomein van de ontwikkelaar toe; het zijn geen beweringen dat het model automatisch code uitvoert of bewijzen verifieert.
Hoe je de prompt voorbereidt
DeepSeek beveelt voor deze R1-release aan om alle instructies in de gebruikersprompt te plaatsen en een systeemprompt te vermijden. Vraag bij een wiskundig probleem om stapsgewijs redeneren en een duidelijk afgebakend eindantwoord. Neem elke uitvoerstructuur in dezelfde prompt op: bijvoorbeeld een korte conclusie gevolgd door aannames en ondersteunende berekeningen. Een toepassing moet de eigen tokenizer en opmaak van de leerling gebruiken in plaats van het basissjabloon van Qwen over te nemen zonder de wijzigingen van de ontwikkelaar te controleren.
De ontwikkelaar merkt op dat sommige vragen een leeg denkblok kunnen opleveren en het beoogde redeneerpatroon omzeilen. De aanbevolen oplossing is om het genereren in een compatibele werkwijze te laten beginnen met de openingsmarkering voor denken en een regeleinde. Dit is een gedocumenteerde aanbeveling voor het generatieformaat, geen belofte dat elke toepassing zo'n instelling beschikbaar stelt. Houd bij de presentatie van een resultaat het eindantwoord gescheiden van de langere redeneertekst.
Generatie-instellingen en beschikbare ruimte
DeepSeek beveelt een temperature tussen 0.5 en 0.7 aan, met 0.6 als aanbevolen startpunt, om herhalende of onsamenhangende uitvoer te beperken. De evaluatieopstelling gebruikt een generatiebudget van 32.768 tokens en top_p 0.95. Die evaluatiekeuzes vormen geen universele harde bovengrens. Redeneren, brontekst en het definitieve antwoord hebben allemaal ruimte nodig in de ingestelde context, dus een aanvraag met een lang bewijs of codelijst moet nog steeds ruimte laten voor de completion.
Beperkingen die de modelkeuze beïnvloeden
Een klein gedistilleerd model blijft een afzonderlijke afweging voor redeneren. Het releasemateriaal van de ontwikkelaar stelt voor dit checkpoint geen beeld-, audio- of video-invoer vast, en evenmin een specifiek protocol voor toolaanroepen. Tooluitvoering of toegang tot actuele gegevens zou een afzonderlijk ingestelde toepassingswerkwijze vereisen. De release neemt ook niet louter door de naam R1 de latere wijzigingen in het promptbeleid van DeepSeek-R1-0528 over. Verifieer numerieke antwoorden, controleer voorgestelde codewijzigingen en ga na of de eindconclusie uit de aangeleverde feiten volgt; een lang redeneertranscript alleen bewijst niet dat het antwoord correct is.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten DeepSeek-R1-Distill-Qwen-7B-ultra | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.00014 / 1K tokens Uitvoer · Uitvoertokens $0.00028 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "DeepSeek-R1-Distill-Qwen-7B-ultra",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'DeepSeek-R1-Distill-Qwen-7B-ultra', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'DeepSeek-R1-Distill-Qwen-7B-ultra', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra DeepSeek-R1-Distill-Qwen-7B-ultra
Gebruik de hierboven getoonde methodepaden.
Technisch voorbeeld in het Engels
Calculate a mixture ratio\n\nA workshop mixes 2 liters of concentrate with 6 liters of water. It needs 20 liters of the same mixture. Calculate the required concentrate and water, show the proportional calculation and give a clearly labelled final answer with units. Check that the two quantities add to the requested volume.A short proportional calculation and final concentrate and water quantities in liters.Verify both the 1:3 concentrate-to-water ratio and the 20-liter total independently.