Einführung: ein kleineres, von R1 abgeleitetes Reasoning-Modell
DeepSeek-R1-Distill-Qwen-7B überträgt Reasoning-Beispiele von DeepSeek-R1 in ein dichtes Modell auf Grundlage von Qwen2.5-Math-7B. Es akzeptiert Text und erzeugt Text, darunter ausgearbeitete Lösungen, Programmiererklärungen und Antworten auf Logikprobleme. Diese exakte 7B-Destillation ist ein gesonderter Checkpoint gegenüber dem vollständigen DeepSeek-R1, dem ursprünglichen Qwen2.5-Math-7B und größeren destillierten Ausgaben. Ihr Name hält sowohl den Erzeuger der Reasoning-Daten als auch die zugrunde liegende Modellfamilie fest.
Was die Destillation beiträgt
DeepSeeks R1-Forschung unterscheidet das Training des großen Reasoning-Lehrermodells vom Fine-Tuning seiner kleineren Schülermodelle. Die Pipeline des Lehrers verwendet Reinforcement Learning und überwachte Phasen; die veröffentlichten destillierten Modelle werden anhand von R1 erzeugter Beispiele feinabgestimmt. Der Hersteller beschreibt 800.000 kuratierte Beispiele für diese Veröffentlichungen. Nehmen Sie nicht an, dass der 7B-Schüler selbst die Mixture-of-Experts-Architektur des vollständigen Modells besitzt oder jede Trainingsphase des Lehrers durchlaufen hat. Die Destillation vermittelt diesem Modell einen erlernten Stil des Schlussfolgerns; sie macht seine Schlussfolgerungen nicht denen des Lehrers gleichwertig.
Das genaue Modell und seine Konfiguration
Die offizielle Modelltabelle nennt Qwen2.5-Math-7B als Grundlage dieser Ausgabe. DeepSeek verändert Konfiguration und Tokenizer-Einstellungen, daher sind der exakte veröffentlichte Checkpoint und die Chatvorlage wichtig. Seine veröffentlichte Konfiguration verwendet eine kausale Qwen2-Sprachmodellarchitektur mit 28 Schichten und bfloat16-Gewichten. Sie legt die maximale Positionsanzahl auf 131.072 fest. Dieser Konfigurationswert ist keine gesonderte Validierung der Genauigkeit bei langen Dokumenten: Die 128K-Kontexttabelle der gemeinsamen R1-Modellkarte beschreibt die vollständigen R1-Modelle, während ihre Tabelle destillierter Modelle die Abstammung nennt, ohne eine für jedes Schülermodell validierte Kontexttabelle zu veröffentlichen.
Nutzen Sie es für eine Aufgabe mit prüfbarem Ergebnis. Geben Sie bei Mathematik die vollständige Aufgabenstellung, Definitionen und Einheiten an. Fügen Sie bei Code die relevante Funktion, Eingabe, das beobachtete Ergebnis und das gewünschte Verhalten hinzu. Listen Sie bei einer Logikfrage die Fakten auf und unterscheiden Sie eine erforderliche Schlussfolgerung von einer Annahme. Fordern Sie ein unabhängig überprüfbares Endergebnis an, etwa einen eingerahmten Wert, eine knappe Beweisskizze oder einen erläuterten Patch. Diese Beispiele wenden den dokumentierten Reasoning-Umfang des Herstellers an; sie behaupten nicht, dass das Modell Code ausführt oder Beweise automatisch prüft.
Den Prompt vorbereiten
DeepSeek empfiehlt für diese R1-Veröffentlichung, alle Anweisungen in den Nutzer-Prompt zu setzen und einen System-Prompt zu vermeiden. Bitten Sie bei einem mathematischen Problem um schrittweises Schlussfolgern und eine klar abgegrenzte endgültige Antwort. Geben Sie jede Ausgabestruktur im selben Prompt an, beispielsweise eine kurze Schlussfolgerung mit anschließenden Annahmen und stützenden Berechnungen. Eine Anwendung sollte den eigenen Tokenizer und die Formatierung des Schülermodells verwenden, statt die Qwen-Basisvorlage ohne Prüfung der Herstelleränderungen einzusetzen.
Der Hersteller weist darauf hin, dass manche Anfragen einen leeren Denkblock erzeugen und das vorgesehene Reasoning-Muster umgehen können. Die empfohlene Abhilfe besteht darin, die Generierung in einem kompatiblen Ablauf mit dem öffnenden Denkmarker und einem Zeilenumbruch beginnen zu lassen. Dies ist eine dokumentierte Empfehlung zum Generierungsformat und keine Zusage, dass jede Anwendung eine solche Steuerung anbietet. Trennen Sie bei der Darstellung des Ergebnisses die endgültige Antwort vom längeren Reasoning-Text.
Generierungseinstellungen und verfügbarer Platz
DeepSeek empfiehlt eine Temperatur zwischen 0.5 und 0.7 mit 0.6 als bevorzugtem Ausgangspunkt, um wiederholte oder unzusammenhängende Ausgaben zu reduzieren. Seine Evaluierung verwendet ein Generierungsbudget von 32.768 Tokens und top_p 0.95. Diese Evaluierungseinstellungen sind keine universelle feste Höchstgrenze. Reasoning, Quelltext und endgültige Antwort benötigen alle Platz im konfigurierten Kontext; eine Anfrage mit einem langen Beweis oder Codelisting sollte deshalb weiterhin Raum für die Completion lassen.
Einschränkungen, die die Modellwahl beeinflussen
Ein kleines destilliertes Modell bleibt eine eigene Abwägung beim Schlussfolgern. Die Veröffentlichungsmaterialien des Herstellers belegen für diesen Checkpoint weder Bild-, Audio- oder Videoeingabe noch ein eigenes Protokoll für Werkzeugaufrufe. Werkzeugausführung oder Zugriff auf aktuelle Daten würden einen gesondert konfigurierten Anwendungsablauf benötigen. Die Veröffentlichung übernimmt auch spätere Änderungen der Prompt-Richtlinien von DeepSeek-R1-0528 nicht allein durch den Namen R1. Überprüfen Sie numerische Antworten, prüfen Sie vorgeschlagene Codeänderungen und kontrollieren Sie, ob die endgültige Schlussfolgerung aus den bereitgestellten Fakten folgt; ein langes Reasoning-Transkript allein ist kein Beweis für Korrektheit.
", "aboutText": "Einführung: ein kleineres, von R1 abgeleitetes Reasoning-Modell\n\nDeepSeek-R1-Distill-Qwen-7B überträgt Reasoning-Beispiele von DeepSeek-R1 in ein dichtes Modell auf Grundlage von Qwen2.5-Math-7B. Es akzeptiert Text und erzeugt Text, darunter ausgearbeitete Lösungen, Programmiererklärungen und Antworten auf Logikprobleme. Diese exakte 7B-Destillation ist ein gesonderter Checkpoint gegenüber dem vollständigen DeepSeek-R1, dem ursprünglichen Qwen2.5-Math-7B und größeren destillierten Ausgaben. Ihr Name hält sowohl den Erzeuger der Reasoning-Daten als auch die zugrunde liegende Modellfamilie fest.\n\nWas die Destillation beiträgt\n\nDeepSeeks R1-Forschung unterscheidet das Training des großen Reasoning-Lehrermodells vom Fine-Tuning seiner kleineren Schülermodelle. Die Pipeline des Lehrers verwendet Reinforcement Learning und überwachte Phasen; die veröffentlichten destillierten Modelle werden anhand von R1 erzeugter Beispiele feinabgestimmt. Der Hersteller beschreibt 800.000 kuratierte Beispiele für diese Veröffentlichungen. Nehmen Sie nicht an, dass der 7B-Schüler selbst die Mixture-of-Experts-Architektur des vollständigen Modells besitzt oder jede Trainingsphase des Lehrers durchlaufen hat. Die Destillation vermittelt diesem Modell einen erlernten Stil des Schlussfolgerns; sie macht seine Schlussfolgerungen nicht denen des Lehrers gleichwertig.\n\nDas genaue Modell und seine Konfiguration\n\nDie offizielle Modelltabelle nennt Qwen2.5-Math-7B als Grundlage dieser Ausgabe. DeepSeek verändert Konfiguration und Tokenizer-Einstellungen, daher sind der exakte veröffentlichte Checkpoint und die Chatvorlage wichtig. Seine veröffentlichte Konfiguration verwendet eine kausale Qwen2-Sprachmodellarchitektur mit 28 Schichten und bfloat16-Gewichten. Sie legt die maximale Positionsanzahl auf 131.072 fest. Dieser Konfigurationswert ist keine gesonderte Validierung der Genauigkeit bei langen Dokumenten: Die 128K-Kontexttabelle der gemeinsamen R1-Modellkarte beschreibt die vollständigen R1-Modelle, während ihre Tabelle destillierter Modelle die Abstammung nennt, ohne eine für jedes Schülermodell validierte Kontexttabelle zu veröffentlichen.\n\nNutzen Sie es für eine Aufgabe mit prüfbarem Ergebnis. Geben Sie bei Mathematik die vollständige Aufgabenstellung, Definitionen und Einheiten an. Fügen Sie bei Code die relevante Funktion, Eingabe, das beobachtete Ergebnis und das gewünschte Verhalten hinzu. Listen Sie bei einer Logikfrage die Fakten auf und unterscheiden Sie eine erforderliche Schlussfolgerung von einer Annahme. Fordern Sie ein unabhängig überprüfbares Endergebnis an, etwa einen eingerahmten Wert, eine knappe Beweisskizze oder einen erläuterten Patch. Diese Beispiele wenden den dokumentierten Reasoning-Umfang des Herstellers an; sie behaupten nicht, dass das Modell Code ausführt oder Beweise automatisch prüft.\n\nDen Prompt vorbereiten\n\nDeepSeek empfiehlt für diese R1-Veröffentlichung, alle Anweisungen in den Nutzer-Prompt zu setzen und einen System-Prompt zu vermeiden. Bitten Sie bei einem mathematischen Problem um schrittweises Schlussfolgern und eine klar abgegrenzte endgültige Antwort. Geben Sie jede Ausgabestruktur im selben Prompt an, beispielsweise eine kurze Schlussfolgerung mit anschließenden Annahmen und stützenden Berechnungen. Eine Anwendung sollte den eigenen Tokenizer und die Formatierung des Schülermodells verwenden, statt die Qwen-Basisvorlage ohne Prüfung der Herstelleränderungen einzusetzen.\n\nDer Hersteller weist darauf hin, dass manche Anfragen einen leeren Denkblock erzeugen und das vorgesehene Reasoning-Muster umgehen können. Die empfohlene Abhilfe besteht darin, die Generierung in einem kompatiblen Ablauf mit dem öffnenden Denkmarker und einem Zeilenumbruch beginnen zu lassen. Dies ist eine dokumentierte Empfehlung zum Generierungsformat und keine Zusage, dass jede Anwendung eine solche Steuerung anbietet. Trennen Sie bei der Darstellung des Ergebnisses die endgültige Antwort vom längeren Reasoning-Text.\n\nGenerierungseinstellungen und verfügbarer Platz\n\nDeepSeek empfiehlt eine Temperatur zwischen 0.5 und 0.7 mit 0.6 als bevorzugtem Ausgangspunkt, um wiederholte oder unzusammenhängende Ausgaben zu reduzieren. Seine Evaluierung verwendet ein Generierungsbudget von 32.768 Tokens und top_p 0.95. Diese Evaluierungseinstellungen sind keine universelle feste Höchstgrenze. Reasoning, Quelltext und endgültige Antwort benötigen alle Platz im konfigurierten Kontext; eine Anfrage mit einem langen Beweis oder Codelisting sollte deshalb weiterhin Raum für die Completion lassen.\n\nEinschränkungen, die die Modellwahl beeinflussen\n\nEin kleines destilliertes Modell bleibt eine eigene Abwägung beim Schlussfolgern. Die Veröffentlichungsmaterialien des Herstellers belegen für diesen Checkpoint weder Bild-, Audio- oder Videoeingabe noch ein eigenes Protokoll für Werkzeugaufrufe. Werkzeugausführung oder Zugriff auf aktuelle Daten würden einen gesondert konfigurierten Anwendungsablauf benötigen. Die Veröffentlichung übernimmt auch spätere Änderungen der Prompt-Richtlinien von DeepSeek-R1-0528 nicht allein durch den Namen R1. Überprüfen Sie numerische Antworten, prüfen Sie vorgeschlagene Codeänderungen und kontrollieren Sie, ob die endgültige Schlussfolgerung aus den bereitgestellten Fakten folgt; ein langes Reasoning-Transkript allein ist kein Beweis für Korrektheit.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Calculate a mixture ratio\n\nA workshop mixes 2 liters of concentrate with 6 liters of water. It needs 20 liters of the same mixture. Calculate the required concentrate and water, show the proportional calculation and give a clearly labelled final answer with units. Check that the two quantities add to the requested volume.A short proportional calculation and final concentrate and water quantities in liters.Verify both the 1:3 concentrate-to-water ratio and the 20-liter total independently.DeepSeek-R1-Distill-Qwen-7B-ultraDeepSeek-R1-Distill-Qwen-7B ist DeepSeeks kompaktes dichtes Reasoning-Modell, das anhand von R1 erzeugter Beispiele aus Qwen2.5-Math-7B feinabgestimmt wurde. Es verarbeitet Text und erzeugt Text für mathematische, Coding- und Logikaufgaben, mit Checkpoint-spezifischen Prompting-Empfehlungen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Einführung: ein kleineres, von R1 abgeleitetes Reasoning-Modell
DeepSeek-R1-Distill-Qwen-7B überträgt Reasoning-Beispiele von DeepSeek-R1 in ein dichtes Modell auf Grundlage von Qwen2.5-Math-7B. Es akzeptiert Text und erzeugt Text, darunter ausgearbeitete Lösungen, Programmiererklärungen und Antworten auf Logikprobleme. Diese exakte 7B-Destillation ist ein gesonderter Checkpoint gegenüber dem vollständigen DeepSeek-R1, dem ursprünglichen Qwen2.5-Math-7B und größeren destillierten Ausgaben. Ihr Name hält sowohl den Erzeuger der Reasoning-Daten als auch die zugrunde liegende Modellfamilie fest.
Was die Destillation beiträgt
DeepSeeks R1-Forschung unterscheidet das Training des großen Reasoning-Lehrermodells vom Fine-Tuning seiner kleineren Schülermodelle. Die Pipeline des Lehrers verwendet Reinforcement Learning und überwachte Phasen; die veröffentlichten destillierten Modelle werden anhand von R1 erzeugter Beispiele feinabgestimmt. Der Hersteller beschreibt 800.000 kuratierte Beispiele für diese Veröffentlichungen. Nehmen Sie nicht an, dass der 7B-Schüler selbst die Mixture-of-Experts-Architektur des vollständigen Modells besitzt oder jede Trainingsphase des Lehrers durchlaufen hat. Die Destillation vermittelt diesem Modell einen erlernten Stil des Schlussfolgerns; sie macht seine Schlussfolgerungen nicht denen des Lehrers gleichwertig.
Das genaue Modell und seine Konfiguration
Die offizielle Modelltabelle nennt Qwen2.5-Math-7B als Grundlage dieser Ausgabe. DeepSeek verändert Konfiguration und Tokenizer-Einstellungen, daher sind der exakte veröffentlichte Checkpoint und die Chatvorlage wichtig. Seine veröffentlichte Konfiguration verwendet eine kausale Qwen2-Sprachmodellarchitektur mit 28 Schichten und bfloat16-Gewichten. Sie legt die maximale Positionsanzahl auf 131.072 fest. Dieser Konfigurationswert ist keine gesonderte Validierung der Genauigkeit bei langen Dokumenten: Die 128K-Kontexttabelle der gemeinsamen R1-Modellkarte beschreibt die vollständigen R1-Modelle, während ihre Tabelle destillierter Modelle die Abstammung nennt, ohne eine für jedes Schülermodell validierte Kontexttabelle zu veröffentlichen.
Nutzen Sie es für eine Aufgabe mit prüfbarem Ergebnis. Geben Sie bei Mathematik die vollständige Aufgabenstellung, Definitionen und Einheiten an. Fügen Sie bei Code die relevante Funktion, Eingabe, das beobachtete Ergebnis und das gewünschte Verhalten hinzu. Listen Sie bei einer Logikfrage die Fakten auf und unterscheiden Sie eine erforderliche Schlussfolgerung von einer Annahme. Fordern Sie ein unabhängig überprüfbares Endergebnis an, etwa einen eingerahmten Wert, eine knappe Beweisskizze oder einen erläuterten Patch. Diese Beispiele wenden den dokumentierten Reasoning-Umfang des Herstellers an; sie behaupten nicht, dass das Modell Code ausführt oder Beweise automatisch prüft.
Den Prompt vorbereiten
DeepSeek empfiehlt für diese R1-Veröffentlichung, alle Anweisungen in den Nutzer-Prompt zu setzen und einen System-Prompt zu vermeiden. Bitten Sie bei einem mathematischen Problem um schrittweises Schlussfolgern und eine klar abgegrenzte endgültige Antwort. Geben Sie jede Ausgabestruktur im selben Prompt an, beispielsweise eine kurze Schlussfolgerung mit anschließenden Annahmen und stützenden Berechnungen. Eine Anwendung sollte den eigenen Tokenizer und die Formatierung des Schülermodells verwenden, statt die Qwen-Basisvorlage ohne Prüfung der Herstelleränderungen einzusetzen.
Der Hersteller weist darauf hin, dass manche Anfragen einen leeren Denkblock erzeugen und das vorgesehene Reasoning-Muster umgehen können. Die empfohlene Abhilfe besteht darin, die Generierung in einem kompatiblen Ablauf mit dem öffnenden Denkmarker und einem Zeilenumbruch beginnen zu lassen. Dies ist eine dokumentierte Empfehlung zum Generierungsformat und keine Zusage, dass jede Anwendung eine solche Steuerung anbietet. Trennen Sie bei der Darstellung des Ergebnisses die endgültige Antwort vom längeren Reasoning-Text.
Generierungseinstellungen und verfügbarer Platz
DeepSeek empfiehlt eine Temperatur zwischen 0.5 und 0.7 mit 0.6 als bevorzugtem Ausgangspunkt, um wiederholte oder unzusammenhängende Ausgaben zu reduzieren. Seine Evaluierung verwendet ein Generierungsbudget von 32.768 Tokens und top_p 0.95. Diese Evaluierungseinstellungen sind keine universelle feste Höchstgrenze. Reasoning, Quelltext und endgültige Antwort benötigen alle Platz im konfigurierten Kontext; eine Anfrage mit einem langen Beweis oder Codelisting sollte deshalb weiterhin Raum für die Completion lassen.
Einschränkungen, die die Modellwahl beeinflussen
Ein kleines destilliertes Modell bleibt eine eigene Abwägung beim Schlussfolgern. Die Veröffentlichungsmaterialien des Herstellers belegen für diesen Checkpoint weder Bild-, Audio- oder Videoeingabe noch ein eigenes Protokoll für Werkzeugaufrufe. Werkzeugausführung oder Zugriff auf aktuelle Daten würden einen gesondert konfigurierten Anwendungsablauf benötigen. Die Veröffentlichung übernimmt auch spätere Änderungen der Prompt-Richtlinien von DeepSeek-R1-0528 nicht allein durch den Namen R1. Überprüfen Sie numerische Antworten, prüfen Sie vorgeschlagene Codeänderungen und kontrollieren Sie, ob die endgültige Schlussfolgerung aus den bereitgestellten Fakten folgt; ein langes Reasoning-Transkript allein ist kein Beweis für Korrektheit.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits DeepSeek-R1-Distill-Qwen-7B-ultra | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.00014 / 1K Token Ausgabe · Ausgabetoken $0.00028 / 1K Token Eingabe · Cache-Lesen $0 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "DeepSeek-R1-Distill-Qwen-7B-ultra", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='DeepSeek-R1-Distill-Qwen-7B-ultra',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='DeepSeek-R1-Distill-Qwen-7B-ultra',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra DeepSeek-R1-Distill-Qwen-7B-ultra
Verwenden Sie die oben angezeigten Methodenpfade.
DeepSeek-R1-Distill-Qwen-7B-ultraDeepSeek-R1-Distill-Qwen-7B ist DeepSeeks kompaktes dichtes Reasoning-Modell, das anhand von R1 erzeugter Beispiele aus Qwen2.5-Math-7B feinabgestimmt wurde. Es verarbeitet Text und erzeugt Text für mathematische, Coding- und Logikaufgaben, mit Checkpoint-spezifischen Prompting-Empfehlungen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Einführung: ein kleineres, von R1 abgeleitetes Reasoning-Modell
DeepSeek-R1-Distill-Qwen-7B überträgt Reasoning-Beispiele von DeepSeek-R1 in ein dichtes Modell auf Grundlage von Qwen2.5-Math-7B. Es akzeptiert Text und erzeugt Text, darunter ausgearbeitete Lösungen, Programmiererklärungen und Antworten auf Logikprobleme. Diese exakte 7B-Destillation ist ein gesonderter Checkpoint gegenüber dem vollständigen DeepSeek-R1, dem ursprünglichen Qwen2.5-Math-7B und größeren destillierten Ausgaben. Ihr Name hält sowohl den Erzeuger der Reasoning-Daten als auch die zugrunde liegende Modellfamilie fest.
Was die Destillation beiträgt
DeepSeeks R1-Forschung unterscheidet das Training des großen Reasoning-Lehrermodells vom Fine-Tuning seiner kleineren Schülermodelle. Die Pipeline des Lehrers verwendet Reinforcement Learning und überwachte Phasen; die veröffentlichten destillierten Modelle werden anhand von R1 erzeugter Beispiele feinabgestimmt. Der Hersteller beschreibt 800.000 kuratierte Beispiele für diese Veröffentlichungen. Nehmen Sie nicht an, dass der 7B-Schüler selbst die Mixture-of-Experts-Architektur des vollständigen Modells besitzt oder jede Trainingsphase des Lehrers durchlaufen hat. Die Destillation vermittelt diesem Modell einen erlernten Stil des Schlussfolgerns; sie macht seine Schlussfolgerungen nicht denen des Lehrers gleichwertig.
Das genaue Modell und seine Konfiguration
Die offizielle Modelltabelle nennt Qwen2.5-Math-7B als Grundlage dieser Ausgabe. DeepSeek verändert Konfiguration und Tokenizer-Einstellungen, daher sind der exakte veröffentlichte Checkpoint und die Chatvorlage wichtig. Seine veröffentlichte Konfiguration verwendet eine kausale Qwen2-Sprachmodellarchitektur mit 28 Schichten und bfloat16-Gewichten. Sie legt die maximale Positionsanzahl auf 131.072 fest. Dieser Konfigurationswert ist keine gesonderte Validierung der Genauigkeit bei langen Dokumenten: Die 128K-Kontexttabelle der gemeinsamen R1-Modellkarte beschreibt die vollständigen R1-Modelle, während ihre Tabelle destillierter Modelle die Abstammung nennt, ohne eine für jedes Schülermodell validierte Kontexttabelle zu veröffentlichen.
Nutzen Sie es für eine Aufgabe mit prüfbarem Ergebnis. Geben Sie bei Mathematik die vollständige Aufgabenstellung, Definitionen und Einheiten an. Fügen Sie bei Code die relevante Funktion, Eingabe, das beobachtete Ergebnis und das gewünschte Verhalten hinzu. Listen Sie bei einer Logikfrage die Fakten auf und unterscheiden Sie eine erforderliche Schlussfolgerung von einer Annahme. Fordern Sie ein unabhängig überprüfbares Endergebnis an, etwa einen eingerahmten Wert, eine knappe Beweisskizze oder einen erläuterten Patch. Diese Beispiele wenden den dokumentierten Reasoning-Umfang des Herstellers an; sie behaupten nicht, dass das Modell Code ausführt oder Beweise automatisch prüft.
Den Prompt vorbereiten
DeepSeek empfiehlt für diese R1-Veröffentlichung, alle Anweisungen in den Nutzer-Prompt zu setzen und einen System-Prompt zu vermeiden. Bitten Sie bei einem mathematischen Problem um schrittweises Schlussfolgern und eine klar abgegrenzte endgültige Antwort. Geben Sie jede Ausgabestruktur im selben Prompt an, beispielsweise eine kurze Schlussfolgerung mit anschließenden Annahmen und stützenden Berechnungen. Eine Anwendung sollte den eigenen Tokenizer und die Formatierung des Schülermodells verwenden, statt die Qwen-Basisvorlage ohne Prüfung der Herstelleränderungen einzusetzen.
Der Hersteller weist darauf hin, dass manche Anfragen einen leeren Denkblock erzeugen und das vorgesehene Reasoning-Muster umgehen können. Die empfohlene Abhilfe besteht darin, die Generierung in einem kompatiblen Ablauf mit dem öffnenden Denkmarker und einem Zeilenumbruch beginnen zu lassen. Dies ist eine dokumentierte Empfehlung zum Generierungsformat und keine Zusage, dass jede Anwendung eine solche Steuerung anbietet. Trennen Sie bei der Darstellung des Ergebnisses die endgültige Antwort vom längeren Reasoning-Text.
Generierungseinstellungen und verfügbarer Platz
DeepSeek empfiehlt eine Temperatur zwischen 0.5 und 0.7 mit 0.6 als bevorzugtem Ausgangspunkt, um wiederholte oder unzusammenhängende Ausgaben zu reduzieren. Seine Evaluierung verwendet ein Generierungsbudget von 32.768 Tokens und top_p 0.95. Diese Evaluierungseinstellungen sind keine universelle feste Höchstgrenze. Reasoning, Quelltext und endgültige Antwort benötigen alle Platz im konfigurierten Kontext; eine Anfrage mit einem langen Beweis oder Codelisting sollte deshalb weiterhin Raum für die Completion lassen.
Einschränkungen, die die Modellwahl beeinflussen
Ein kleines destilliertes Modell bleibt eine eigene Abwägung beim Schlussfolgern. Die Veröffentlichungsmaterialien des Herstellers belegen für diesen Checkpoint weder Bild-, Audio- oder Videoeingabe noch ein eigenes Protokoll für Werkzeugaufrufe. Werkzeugausführung oder Zugriff auf aktuelle Daten würden einen gesondert konfigurierten Anwendungsablauf benötigen. Die Veröffentlichung übernimmt auch spätere Änderungen der Prompt-Richtlinien von DeepSeek-R1-0528 nicht allein durch den Namen R1. Überprüfen Sie numerische Antworten, prüfen Sie vorgeschlagene Codeänderungen und kontrollieren Sie, ob die endgültige Schlussfolgerung aus den bereitgestellten Fakten folgt; ein langes Reasoning-Transkript allein ist kein Beweis für Korrektheit.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits DeepSeek-R1-Distill-Qwen-7B-ultra | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.00014 / 1K Token Ausgabe · Ausgabetoken $0.00028 / 1K Token Eingabe · Cache-Lesen $0 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "DeepSeek-R1-Distill-Qwen-7B-ultra",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'DeepSeek-R1-Distill-Qwen-7B-ultra', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'DeepSeek-R1-Distill-Qwen-7B-ultra', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra DeepSeek-R1-Distill-Qwen-7B-ultra
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Calculate a mixture ratio\n\nA workshop mixes 2 liters of concentrate with 6 liters of water. It needs 20 liters of the same mixture. Calculate the required concentrate and water, show the proportional calculation and give a clearly labelled final answer with units. Check that the two quantities add to the requested volume.A short proportional calculation and final concentrate and water quantities in liters.Verify both the 1:3 concentrate-to-water ratio and the 20-liter total independently.