Einführung: ein kleineres, von R1 abgeleitetes Reasoning-Modell
DeepSeek-R1-Distill-Qwen-7B überträgt Reasoning-Beispiele von DeepSeek-R1 in ein dichtes Modell auf Grundlage von Qwen2.5-Math-7B. Es akzeptiert Text und erzeugt Text, darunter ausgearbeitete Lösungen, Programmiererklärungen und Antworten auf logische Probleme. Diese konkrete 7B-Destillation ist ein separater Checkpoint gegenüber dem vollständigen DeepSeek-R1, dem ursprünglichen Qwen2.5-Math-7B und größeren destillierten Ausgaben. Ihr Name hält sowohl den Erzeuger der Reasoning-Daten als auch die zugrunde liegende Modellfamilie fest.
Was die Destillation beiträgt
DeepSeeks R1-Forschung unterscheidet das Training des großen Reasoning-Lehrermodells vom Fine-Tuning seiner kleineren Schülermodelle. Die Pipeline des Lehrers verwendet Reinforcement Learning und überwachte Phasen; die veröffentlichten destillierten Modelle werden mit von R1 erzeugten Beispielen feinabgestimmt. Der Hersteller nennt 800.000 kuratierte Beispiele für diese Veröffentlichungen. Gehen Sie nicht davon aus, dass der 7B-Schüler selbst die Mixture-of-Experts-Architektur des vollständigen Modells besitzt oder jede Trainingsphase des Lehrers durchlaufen hat. Die Destillation verleiht diesem Modell einen erlernten Reasoning-Stil; sie macht seine Schlussfolgerungen nicht denen des Lehrers gleichwertig.
Das genaue Modell und seine Konfiguration
Die offizielle Modelltabelle nennt Qwen2.5-Math-7B als Grundlage dieser Ausgabe. DeepSeek ändert Konfigurations- und Tokenizer-Einstellungen, weshalb der genaue veröffentlichte Checkpoint und die Chatvorlage wichtig sind. Die veröffentlichte Konfiguration verwendet eine Qwen2-Architektur für kausale Sprachmodellierung mit 28 Schichten und bfloat16-Gewichten. Sie setzt die maximalen Positionen auf 131.072. Dieser Konfigurationswert ist keine separate Validierung der Genauigkeit bei langen Dokumenten: Die Kontexttabelle mit 128K in der gemeinsamen R1-Modellkarte beschreibt die vollständigen R1-Modelle, während die Tabelle destillierter Modelle die Herkunft nennt, ohne eine validierte Kontexttabelle für jeden Schüler zu veröffentlichen.
Nutzen Sie es für eine Aufgabe mit überprüfbarem Ergebnis. Stellen Sie für Mathematik die vollständige Aufgabenstellung, Definitionen und Einheiten bereit. Fügen Sie bei Code die relevante Funktion, Eingabe, das beobachtete Ergebnis und das gewünschte Verhalten hinzu. Listen Sie bei einer Logikfrage die Fakten auf und unterscheiden Sie eine geforderte Schlussfolgerung von einer Annahme. Verlangen Sie ein unabhängig prüfbares Endergebnis, etwa einen eingerahmten Wert, eine knappe Beweisskizze oder einen erläuterten Patch. Diese Beispiele wenden den dokumentierten Reasoning-Umfang des Herstellers an; sie behaupten nicht, dass das Modell Code ausführt oder Beweise automatisch überprüft.
Den Prompt vorbereiten
DeepSeek empfiehlt für diese R1-Veröffentlichung, alle Anweisungen in den Nutzer-Prompt aufzunehmen und auf einen System-Prompt zu verzichten. Verlangen Sie bei einer mathematischen Aufgabe schrittweises Schlussfolgern und eine klar abgegrenzte finale Antwort. Nehmen Sie die Ausgabestruktur in denselben Prompt auf: etwa eine kurze Schlussfolgerung, gefolgt von Annahmen und unterstützenden Berechnungen. Eine Anwendung sollte den eigenen Tokenizer und die Formatierung des Schülers verwenden, statt ohne Prüfung der Herstelleränderungen die Qwen-Basisvorlage einzusetzen.
Der Hersteller weist darauf hin, dass manche Anfragen einen leeren Denkblock erzeugen und das vorgesehene Reasoning-Muster umgehen können. Als Abhilfe empfiehlt er, die Generierung in einem kompatiblen Ablauf mit der öffnenden Denkmarkierung und einem Zeilenumbruch beginnen zu lassen. Dies ist eine dokumentierte Empfehlung zum Generierungsformat und keine Zusage, dass jede Anwendung eine solche Steuerung anbietet. Halten Sie bei der Darstellung eines Ergebnisses die finale Antwort vom längeren Reasoning-Text getrennt.
Generierungseinstellungen und verfügbarer Platz
DeepSeek empfiehlt eine temperature zwischen 0.5 und 0.7, vorzugsweise 0.6 als Ausgangspunkt, um wiederholte oder zusammenhanglose Ausgaben zu reduzieren. Die Evaluierungskonfiguration verwendet einen Generierungsrahmen von 32.768 Token und top_p 0.95. Diese Evaluierungsentscheidungen sind keine allgemeingültige harte Höchstgrenze. Reasoning, Quelltext und finale Antwort benötigen alle Platz im konfigurierten Kontext; eine Anfrage mit einem langen Beweis oder Codelisting sollte daher weiterhin Raum für die Completion lassen.
Einschränkungen, die die Modellauswahl beeinflussen
Ein kleines destilliertes Modell bleibt eine eigene Abwägung beim Reasoning. Die Veröffentlichungsunterlagen des Herstellers belegen für diesen Checkpoint weder Bild-, Audio- oder Videoeingaben noch ein eigenes Werkzeugaufrufprotokoll. Werkzeugausführung oder Zugriff auf aktuelle Daten würden einen separat konfigurierten Anwendungsablauf benötigen. Die Veröffentlichung übernimmt auch nicht allein durch den Namen R1 spätere Änderungen an der Prompt-Policy von DeepSeek-R1-0528. Überprüfen Sie numerische Antworten, prüfen Sie vorgeschlagene Codeänderungen und kontrollieren Sie, ob die finale Schlussfolgerung aus den bereitgestellten Fakten folgt; ein langes Reasoning-Transkript allein ist kein Beweis für Richtigkeit.
", "aboutText": "Einführung: ein kleineres, von R1 abgeleitetes Reasoning-Modell\n\nDeepSeek-R1-Distill-Qwen-7B überträgt Reasoning-Beispiele von DeepSeek-R1 in ein dichtes Modell auf Grundlage von Qwen2.5-Math-7B. Es akzeptiert Text und erzeugt Text, darunter ausgearbeitete Lösungen, Programmiererklärungen und Antworten auf logische Probleme. Diese konkrete 7B-Destillation ist ein separater Checkpoint gegenüber dem vollständigen DeepSeek-R1, dem ursprünglichen Qwen2.5-Math-7B und größeren destillierten Ausgaben. Ihr Name hält sowohl den Erzeuger der Reasoning-Daten als auch die zugrunde liegende Modellfamilie fest.\n\nWas die Destillation beiträgt\n\nDeepSeeks R1-Forschung unterscheidet das Training des großen Reasoning-Lehrermodells vom Fine-Tuning seiner kleineren Schülermodelle. Die Pipeline des Lehrers verwendet Reinforcement Learning und überwachte Phasen; die veröffentlichten destillierten Modelle werden mit von R1 erzeugten Beispielen feinabgestimmt. Der Hersteller nennt 800.000 kuratierte Beispiele für diese Veröffentlichungen. Gehen Sie nicht davon aus, dass der 7B-Schüler selbst die Mixture-of-Experts-Architektur des vollständigen Modells besitzt oder jede Trainingsphase des Lehrers durchlaufen hat. Die Destillation verleiht diesem Modell einen erlernten Reasoning-Stil; sie macht seine Schlussfolgerungen nicht denen des Lehrers gleichwertig.\n\nDas genaue Modell und seine Konfiguration\n\nDie offizielle Modelltabelle nennt Qwen2.5-Math-7B als Grundlage dieser Ausgabe. DeepSeek ändert Konfigurations- und Tokenizer-Einstellungen, weshalb der genaue veröffentlichte Checkpoint und die Chatvorlage wichtig sind. Die veröffentlichte Konfiguration verwendet eine Qwen2-Architektur für kausale Sprachmodellierung mit 28 Schichten und bfloat16-Gewichten. Sie setzt die maximalen Positionen auf 131.072. Dieser Konfigurationswert ist keine separate Validierung der Genauigkeit bei langen Dokumenten: Die Kontexttabelle mit 128K in der gemeinsamen R1-Modellkarte beschreibt die vollständigen R1-Modelle, während die Tabelle destillierter Modelle die Herkunft nennt, ohne eine validierte Kontexttabelle für jeden Schüler zu veröffentlichen.\n\nNutzen Sie es für eine Aufgabe mit überprüfbarem Ergebnis. Stellen Sie für Mathematik die vollständige Aufgabenstellung, Definitionen und Einheiten bereit. Fügen Sie bei Code die relevante Funktion, Eingabe, das beobachtete Ergebnis und das gewünschte Verhalten hinzu. Listen Sie bei einer Logikfrage die Fakten auf und unterscheiden Sie eine geforderte Schlussfolgerung von einer Annahme. Verlangen Sie ein unabhängig prüfbares Endergebnis, etwa einen eingerahmten Wert, eine knappe Beweisskizze oder einen erläuterten Patch. Diese Beispiele wenden den dokumentierten Reasoning-Umfang des Herstellers an; sie behaupten nicht, dass das Modell Code ausführt oder Beweise automatisch überprüft.\n\nDen Prompt vorbereiten\n\nDeepSeek empfiehlt für diese R1-Veröffentlichung, alle Anweisungen in den Nutzer-Prompt aufzunehmen und auf einen System-Prompt zu verzichten. Verlangen Sie bei einer mathematischen Aufgabe schrittweises Schlussfolgern und eine klar abgegrenzte finale Antwort. Nehmen Sie die Ausgabestruktur in denselben Prompt auf: etwa eine kurze Schlussfolgerung, gefolgt von Annahmen und unterstützenden Berechnungen. Eine Anwendung sollte den eigenen Tokenizer und die Formatierung des Schülers verwenden, statt ohne Prüfung der Herstelleränderungen die Qwen-Basisvorlage einzusetzen.\n\nDer Hersteller weist darauf hin, dass manche Anfragen einen leeren Denkblock erzeugen und das vorgesehene Reasoning-Muster umgehen können. Als Abhilfe empfiehlt er, die Generierung in einem kompatiblen Ablauf mit der öffnenden Denkmarkierung und einem Zeilenumbruch beginnen zu lassen. Dies ist eine dokumentierte Empfehlung zum Generierungsformat und keine Zusage, dass jede Anwendung eine solche Steuerung anbietet. Halten Sie bei der Darstellung eines Ergebnisses die finale Antwort vom längeren Reasoning-Text getrennt.\n\nGenerierungseinstellungen und verfügbarer Platz\n\nDeepSeek empfiehlt eine temperature zwischen 0.5 und 0.7, vorzugsweise 0.6 als Ausgangspunkt, um wiederholte oder zusammenhanglose Ausgaben zu reduzieren. Die Evaluierungskonfiguration verwendet einen Generierungsrahmen von 32.768 Token und top_p 0.95. Diese Evaluierungsentscheidungen sind keine allgemeingültige harte Höchstgrenze. Reasoning, Quelltext und finale Antwort benötigen alle Platz im konfigurierten Kontext; eine Anfrage mit einem langen Beweis oder Codelisting sollte daher weiterhin Raum für die Completion lassen.\n\nEinschränkungen, die die Modellauswahl beeinflussen\n\nEin kleines destilliertes Modell bleibt eine eigene Abwägung beim Reasoning. Die Veröffentlichungsunterlagen des Herstellers belegen für diesen Checkpoint weder Bild-, Audio- oder Videoeingaben noch ein eigenes Werkzeugaufrufprotokoll. Werkzeugausführung oder Zugriff auf aktuelle Daten würden einen separat konfigurierten Anwendungsablauf benötigen. Die Veröffentlichung übernimmt auch nicht allein durch den Namen R1 spätere Änderungen an der Prompt-Policy von DeepSeek-R1-0528. Überprüfen Sie numerische Antworten, prüfen Sie vorgeschlagene Codeänderungen und kontrollieren Sie, ob die finale Schlussfolgerung aus den bereitgestellten Fakten folgt; ein langes Reasoning-Transkript allein ist kein Beweis für Richtigkeit.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Calculate a mixture ratio\n\nA workshop mixes 2 liters of concentrate with 6 liters of water. It needs 20 liters of the same mixture. Calculate the required concentrate and water, show the proportional calculation and give a clearly labelled final answer with units. Check that the two quantities add to the requested volume.A short proportional calculation and final concentrate and water quantities in liters.Verify both the 1:3 concentrate-to-water ratio and the 20-liter total independently.DeepSeek-R1-Distill-Qwen-7B-ultraDeepSeek-R1-Distill-Qwen-7B ist DeepSeeks kompaktes dichtes Reasoning-Modell, das ausgehend von Qwen2.5-Math-7B anhand von R1 erzeugter Beispiele feinabgestimmt wurde. Es nimmt Text entgegen und erzeugt Text für mathematische, Coding- und Logikaufgaben, mit checkpoint-spezifischen Prompt-Empfehlungen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Einführung: ein kleineres, von R1 abgeleitetes Reasoning-Modell
DeepSeek-R1-Distill-Qwen-7B überträgt Reasoning-Beispiele von DeepSeek-R1 in ein dichtes Modell auf Grundlage von Qwen2.5-Math-7B. Es akzeptiert Text und erzeugt Text, darunter ausgearbeitete Lösungen, Programmiererklärungen und Antworten auf logische Probleme. Diese konkrete 7B-Destillation ist ein separater Checkpoint gegenüber dem vollständigen DeepSeek-R1, dem ursprünglichen Qwen2.5-Math-7B und größeren destillierten Ausgaben. Ihr Name hält sowohl den Erzeuger der Reasoning-Daten als auch die zugrunde liegende Modellfamilie fest.
Was die Destillation beiträgt
DeepSeeks R1-Forschung unterscheidet das Training des großen Reasoning-Lehrermodells vom Fine-Tuning seiner kleineren Schülermodelle. Die Pipeline des Lehrers verwendet Reinforcement Learning und überwachte Phasen; die veröffentlichten destillierten Modelle werden mit von R1 erzeugten Beispielen feinabgestimmt. Der Hersteller nennt 800.000 kuratierte Beispiele für diese Veröffentlichungen. Gehen Sie nicht davon aus, dass der 7B-Schüler selbst die Mixture-of-Experts-Architektur des vollständigen Modells besitzt oder jede Trainingsphase des Lehrers durchlaufen hat. Die Destillation verleiht diesem Modell einen erlernten Reasoning-Stil; sie macht seine Schlussfolgerungen nicht denen des Lehrers gleichwertig.
Das genaue Modell und seine Konfiguration
Die offizielle Modelltabelle nennt Qwen2.5-Math-7B als Grundlage dieser Ausgabe. DeepSeek ändert Konfigurations- und Tokenizer-Einstellungen, weshalb der genaue veröffentlichte Checkpoint und die Chatvorlage wichtig sind. Die veröffentlichte Konfiguration verwendet eine Qwen2-Architektur für kausale Sprachmodellierung mit 28 Schichten und bfloat16-Gewichten. Sie setzt die maximalen Positionen auf 131.072. Dieser Konfigurationswert ist keine separate Validierung der Genauigkeit bei langen Dokumenten: Die Kontexttabelle mit 128K in der gemeinsamen R1-Modellkarte beschreibt die vollständigen R1-Modelle, während die Tabelle destillierter Modelle die Herkunft nennt, ohne eine validierte Kontexttabelle für jeden Schüler zu veröffentlichen.
Nutzen Sie es für eine Aufgabe mit überprüfbarem Ergebnis. Stellen Sie für Mathematik die vollständige Aufgabenstellung, Definitionen und Einheiten bereit. Fügen Sie bei Code die relevante Funktion, Eingabe, das beobachtete Ergebnis und das gewünschte Verhalten hinzu. Listen Sie bei einer Logikfrage die Fakten auf und unterscheiden Sie eine geforderte Schlussfolgerung von einer Annahme. Verlangen Sie ein unabhängig prüfbares Endergebnis, etwa einen eingerahmten Wert, eine knappe Beweisskizze oder einen erläuterten Patch. Diese Beispiele wenden den dokumentierten Reasoning-Umfang des Herstellers an; sie behaupten nicht, dass das Modell Code ausführt oder Beweise automatisch überprüft.
Den Prompt vorbereiten
DeepSeek empfiehlt für diese R1-Veröffentlichung, alle Anweisungen in den Nutzer-Prompt aufzunehmen und auf einen System-Prompt zu verzichten. Verlangen Sie bei einer mathematischen Aufgabe schrittweises Schlussfolgern und eine klar abgegrenzte finale Antwort. Nehmen Sie die Ausgabestruktur in denselben Prompt auf: etwa eine kurze Schlussfolgerung, gefolgt von Annahmen und unterstützenden Berechnungen. Eine Anwendung sollte den eigenen Tokenizer und die Formatierung des Schülers verwenden, statt ohne Prüfung der Herstelleränderungen die Qwen-Basisvorlage einzusetzen.
Der Hersteller weist darauf hin, dass manche Anfragen einen leeren Denkblock erzeugen und das vorgesehene Reasoning-Muster umgehen können. Als Abhilfe empfiehlt er, die Generierung in einem kompatiblen Ablauf mit der öffnenden Denkmarkierung und einem Zeilenumbruch beginnen zu lassen. Dies ist eine dokumentierte Empfehlung zum Generierungsformat und keine Zusage, dass jede Anwendung eine solche Steuerung anbietet. Halten Sie bei der Darstellung eines Ergebnisses die finale Antwort vom längeren Reasoning-Text getrennt.
Generierungseinstellungen und verfügbarer Platz
DeepSeek empfiehlt eine temperature zwischen 0.5 und 0.7, vorzugsweise 0.6 als Ausgangspunkt, um wiederholte oder zusammenhanglose Ausgaben zu reduzieren. Die Evaluierungskonfiguration verwendet einen Generierungsrahmen von 32.768 Token und top_p 0.95. Diese Evaluierungsentscheidungen sind keine allgemeingültige harte Höchstgrenze. Reasoning, Quelltext und finale Antwort benötigen alle Platz im konfigurierten Kontext; eine Anfrage mit einem langen Beweis oder Codelisting sollte daher weiterhin Raum für die Completion lassen.
Einschränkungen, die die Modellauswahl beeinflussen
Ein kleines destilliertes Modell bleibt eine eigene Abwägung beim Reasoning. Die Veröffentlichungsunterlagen des Herstellers belegen für diesen Checkpoint weder Bild-, Audio- oder Videoeingaben noch ein eigenes Werkzeugaufrufprotokoll. Werkzeugausführung oder Zugriff auf aktuelle Daten würden einen separat konfigurierten Anwendungsablauf benötigen. Die Veröffentlichung übernimmt auch nicht allein durch den Namen R1 spätere Änderungen an der Prompt-Policy von DeepSeek-R1-0528. Überprüfen Sie numerische Antworten, prüfen Sie vorgeschlagene Codeänderungen und kontrollieren Sie, ob die finale Schlussfolgerung aus den bereitgestellten Fakten folgt; ein langes Reasoning-Transkript allein ist kein Beweis für Richtigkeit.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits DeepSeek-R1-Distill-Qwen-7B-ultra | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.00014 / 1K Tokens Ausgabe · Ausgabetoken $0.00028 / 1K Tokens Eingabe · Cache lesen $0 / 1K Tokens Eingabe · In Cache schreiben $0 / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "DeepSeek-R1-Distill-Qwen-7B-ultra", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='DeepSeek-R1-Distill-Qwen-7B-ultra',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='DeepSeek-R1-Distill-Qwen-7B-ultra',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra DeepSeek-R1-Distill-Qwen-7B-ultra
Verwenden Sie die oben angezeigten Methodenpfade.
DeepSeek-R1-Distill-Qwen-7B-ultraDeepSeek-R1-Distill-Qwen-7B ist DeepSeeks kompaktes dichtes Reasoning-Modell, das ausgehend von Qwen2.5-Math-7B anhand von R1 erzeugter Beispiele feinabgestimmt wurde. Es nimmt Text entgegen und erzeugt Text für mathematische, Coding- und Logikaufgaben, mit checkpoint-spezifischen Prompt-Empfehlungen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Einführung: ein kleineres, von R1 abgeleitetes Reasoning-Modell
DeepSeek-R1-Distill-Qwen-7B überträgt Reasoning-Beispiele von DeepSeek-R1 in ein dichtes Modell auf Grundlage von Qwen2.5-Math-7B. Es akzeptiert Text und erzeugt Text, darunter ausgearbeitete Lösungen, Programmiererklärungen und Antworten auf logische Probleme. Diese konkrete 7B-Destillation ist ein separater Checkpoint gegenüber dem vollständigen DeepSeek-R1, dem ursprünglichen Qwen2.5-Math-7B und größeren destillierten Ausgaben. Ihr Name hält sowohl den Erzeuger der Reasoning-Daten als auch die zugrunde liegende Modellfamilie fest.
Was die Destillation beiträgt
DeepSeeks R1-Forschung unterscheidet das Training des großen Reasoning-Lehrermodells vom Fine-Tuning seiner kleineren Schülermodelle. Die Pipeline des Lehrers verwendet Reinforcement Learning und überwachte Phasen; die veröffentlichten destillierten Modelle werden mit von R1 erzeugten Beispielen feinabgestimmt. Der Hersteller nennt 800.000 kuratierte Beispiele für diese Veröffentlichungen. Gehen Sie nicht davon aus, dass der 7B-Schüler selbst die Mixture-of-Experts-Architektur des vollständigen Modells besitzt oder jede Trainingsphase des Lehrers durchlaufen hat. Die Destillation verleiht diesem Modell einen erlernten Reasoning-Stil; sie macht seine Schlussfolgerungen nicht denen des Lehrers gleichwertig.
Das genaue Modell und seine Konfiguration
Die offizielle Modelltabelle nennt Qwen2.5-Math-7B als Grundlage dieser Ausgabe. DeepSeek ändert Konfigurations- und Tokenizer-Einstellungen, weshalb der genaue veröffentlichte Checkpoint und die Chatvorlage wichtig sind. Die veröffentlichte Konfiguration verwendet eine Qwen2-Architektur für kausale Sprachmodellierung mit 28 Schichten und bfloat16-Gewichten. Sie setzt die maximalen Positionen auf 131.072. Dieser Konfigurationswert ist keine separate Validierung der Genauigkeit bei langen Dokumenten: Die Kontexttabelle mit 128K in der gemeinsamen R1-Modellkarte beschreibt die vollständigen R1-Modelle, während die Tabelle destillierter Modelle die Herkunft nennt, ohne eine validierte Kontexttabelle für jeden Schüler zu veröffentlichen.
Nutzen Sie es für eine Aufgabe mit überprüfbarem Ergebnis. Stellen Sie für Mathematik die vollständige Aufgabenstellung, Definitionen und Einheiten bereit. Fügen Sie bei Code die relevante Funktion, Eingabe, das beobachtete Ergebnis und das gewünschte Verhalten hinzu. Listen Sie bei einer Logikfrage die Fakten auf und unterscheiden Sie eine geforderte Schlussfolgerung von einer Annahme. Verlangen Sie ein unabhängig prüfbares Endergebnis, etwa einen eingerahmten Wert, eine knappe Beweisskizze oder einen erläuterten Patch. Diese Beispiele wenden den dokumentierten Reasoning-Umfang des Herstellers an; sie behaupten nicht, dass das Modell Code ausführt oder Beweise automatisch überprüft.
Den Prompt vorbereiten
DeepSeek empfiehlt für diese R1-Veröffentlichung, alle Anweisungen in den Nutzer-Prompt aufzunehmen und auf einen System-Prompt zu verzichten. Verlangen Sie bei einer mathematischen Aufgabe schrittweises Schlussfolgern und eine klar abgegrenzte finale Antwort. Nehmen Sie die Ausgabestruktur in denselben Prompt auf: etwa eine kurze Schlussfolgerung, gefolgt von Annahmen und unterstützenden Berechnungen. Eine Anwendung sollte den eigenen Tokenizer und die Formatierung des Schülers verwenden, statt ohne Prüfung der Herstelleränderungen die Qwen-Basisvorlage einzusetzen.
Der Hersteller weist darauf hin, dass manche Anfragen einen leeren Denkblock erzeugen und das vorgesehene Reasoning-Muster umgehen können. Als Abhilfe empfiehlt er, die Generierung in einem kompatiblen Ablauf mit der öffnenden Denkmarkierung und einem Zeilenumbruch beginnen zu lassen. Dies ist eine dokumentierte Empfehlung zum Generierungsformat und keine Zusage, dass jede Anwendung eine solche Steuerung anbietet. Halten Sie bei der Darstellung eines Ergebnisses die finale Antwort vom längeren Reasoning-Text getrennt.
Generierungseinstellungen und verfügbarer Platz
DeepSeek empfiehlt eine temperature zwischen 0.5 und 0.7, vorzugsweise 0.6 als Ausgangspunkt, um wiederholte oder zusammenhanglose Ausgaben zu reduzieren. Die Evaluierungskonfiguration verwendet einen Generierungsrahmen von 32.768 Token und top_p 0.95. Diese Evaluierungsentscheidungen sind keine allgemeingültige harte Höchstgrenze. Reasoning, Quelltext und finale Antwort benötigen alle Platz im konfigurierten Kontext; eine Anfrage mit einem langen Beweis oder Codelisting sollte daher weiterhin Raum für die Completion lassen.
Einschränkungen, die die Modellauswahl beeinflussen
Ein kleines destilliertes Modell bleibt eine eigene Abwägung beim Reasoning. Die Veröffentlichungsunterlagen des Herstellers belegen für diesen Checkpoint weder Bild-, Audio- oder Videoeingaben noch ein eigenes Werkzeugaufrufprotokoll. Werkzeugausführung oder Zugriff auf aktuelle Daten würden einen separat konfigurierten Anwendungsablauf benötigen. Die Veröffentlichung übernimmt auch nicht allein durch den Namen R1 spätere Änderungen an der Prompt-Policy von DeepSeek-R1-0528. Überprüfen Sie numerische Antworten, prüfen Sie vorgeschlagene Codeänderungen und kontrollieren Sie, ob die finale Schlussfolgerung aus den bereitgestellten Fakten folgt; ein langes Reasoning-Transkript allein ist kein Beweis für Richtigkeit.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits DeepSeek-R1-Distill-Qwen-7B-ultra | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.00014 / 1K Tokens Ausgabe · Ausgabetoken $0.00028 / 1K Tokens Eingabe · Cache lesen $0 / 1K Tokens Eingabe · In Cache schreiben $0 / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "DeepSeek-R1-Distill-Qwen-7B-ultra",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'DeepSeek-R1-Distill-Qwen-7B-ultra', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'DeepSeek-R1-Distill-Qwen-7B-ultra', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra DeepSeek-R1-Distill-Qwen-7B-ultra
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Calculate a mixture ratio\n\nA workshop mixes 2 liters of concentrate with 6 liters of water. It needs 20 liters of the same mixture. Calculate the required concentrate and water, show the proportional calculation and give a clearly labelled final answer with units. Check that the two quantities add to the requested volume.A short proportional calculation and final concentrate and water quantities in liters.Verify both the 1:3 concentrate-to-water ratio and the 20-liter total independently.