Wprowadzenie: mniejszy model rozumowania wywodzący się z R1
DeepSeek-R1-Distill-Qwen-7B przenosi przykłady rozumowania z DeepSeek-R1 do gęstego modelu opartego na Qwen2.5-Math-7B. Przyjmuje tekst i generuje tekst, w tym rozwiązania z objaśnieniem, wyjaśnienia programistyczne i odpowiedzi na problemy logiczne. Ta konkretna destylacja 7B jest osobnym checkpointem względem pełnego DeepSeek-R1, oryginalnego Qwen2.5-Math-7B i większych edycji destylowanych. Jej nazwa wskazuje zarówno producenta danych rozumowania, jak i rodzinę modelu bazowego.
Co wnosi destylacja
Badania DeepSeek nad R1 rozróżniają trening dużego modelu nauczyciela rozumowania od dostrajania jego mniejszych uczniów. Proces nauczyciela wykorzystuje uczenie przez wzmacnianie i etapy nadzorowane; udostępnione modele destylowane są dostrojone na próbkach wytworzonych przez R1. Producent opisuje 800 000 starannie wyselekcjonowanych przykładów dla tych wydań. Nie zakładaj, że sam uczeń 7B ma architekturę mixture-of-experts pełnego modelu lub przeszedł każdy etap treningu nauczyciela. Destylacja daje temu modelowi wyuczony styl rozumowania; nie czyni jego wniosków równoważnymi wnioskom nauczyciela.
Dokładny model i jego konfiguracja
Oficjalna tabela modeli wskazuje Qwen2.5-Math-7B jako podstawę tej edycji. DeepSeek zmienia konfigurację i ustawienia tokenizera, dlatego znaczenie mają dokładnie udostępniony checkpoint i szablon czatu. Opublikowana konfiguracja używa architektury przyczynowego modelu językowego Qwen2 z 28 warstwami i wagami bfloat16. Ustawia maksymalną liczbę pozycji na 131 072. Ta wartość konfiguracji nie jest osobnym potwierdzeniem dokładności na długich dokumentach: tabela kontekstu 128K we wspólnej karcie R1 opisuje pełne modele R1, natomiast tabela modeli destylowanych wskazuje ich pochodzenie, nie publikując zweryfikowanej tabeli kontekstu dla każdego ucznia.
Używaj go do zadania ze sprawdzalnym wynikiem. W matematyce dostarcz pełną treść, definicje i jednostki. Przy kodzie dołącz odpowiednią funkcję, wejście, zaobserwowany wynik i pożądane zachowanie. Przy pytaniu logicznym wypisz fakty i odróżnij wymagany wniosek od założenia. Poproś o wynik końcowy możliwy do niezależnego sprawdzenia, na przykład wartość w ramce, zwięzły zarys dowodu lub poprawkę z wyjaśnieniem. Przykłady te stosują udokumentowany zakres rozumowania producenta; nie oznaczają, że model uruchamia kod lub automatycznie weryfikuje dowody.
Jak przygotować prompt
DeepSeek zaleca umieszczenie wszystkich instrukcji w prompcie użytkownika i unikanie promptu systemowego dla tej wersji R1. Przy problemie matematycznym poproś o rozumowanie krok po kroku i wyraźnie wydzieloną odpowiedź końcową. W tym samym prompcie uwzględnij strukturę wyniku: na przykład krótki wniosek, po którym następują założenia i obliczenia potwierdzające. Aplikacja powinna korzystać z własnego tokenizera i formatowania ucznia, zamiast podstawiać bazowy szablon Qwen bez sprawdzenia zmian producenta.
Producent zaznacza, że niektóre zapytania mogą generować pusty blok myślenia i pomijać zamierzony schemat rozumowania. Zalecanym rozwiązaniem jest rozpoczęcie generowania od otwierającego znacznika myślenia i nowej linii w zgodnym procesie. Jest to udokumentowane zalecenie dotyczące formatu generowania, a nie obietnica udostępnienia takiej kontroli przez każdą aplikację. Przy prezentowaniu wyniku oddzielaj odpowiedź końcową od dłuższego tekstu rozumowania.
Ustawienia generowania i dostępne miejsce
DeepSeek zaleca temperaturę od 0,5 do 0,7, z 0,6 jako preferowanym punktem wyjścia, aby ograniczyć powtórzenia i niespójne wyniki. Jego konfiguracja ewaluacyjna używa budżetu generowania 32 768 tokenów i top_p 0.95. Te wybory ewaluacyjne nie są uniwersalnym twardym maksimum. Rozumowanie, tekst źródłowy i odpowiedź końcowa wymagają miejsca w skonfigurowanym kontekście, dlatego żądanie zawierające długi dowód lub listing kodu nadal powinno pozostawić miejsce na ukończenie.
Ograniczenia wpływające na wybór modelu
Mały model destylowany pozostaje odrębnym kompromisem w zakresie rozumowania. Materiały wydania producenta nie potwierdzają wejścia obrazu, dźwięku lub wideo dla tego checkpointu ani dedykowanego protokołu wywoływania narzędzi. Wykonywanie narzędzi lub dostęp do aktualnych danych wymagałyby osobno skonfigurowanego procesu aplikacji. Wydanie nie dziedziczy też późniejszych zmian polityki promptów DeepSeek-R1-0528 wyłącznie przez nazwę R1. Weryfikuj odpowiedzi liczbowe, sprawdzaj proponowane zmiany kodu i oceniaj, czy końcowy wniosek wynika z dostarczonych faktów; sam długi zapis rozumowania nie jest dowodem poprawności.
", "aboutText": "Wprowadzenie: mniejszy model rozumowania wywodzący się z R1\n\nDeepSeek-R1-Distill-Qwen-7B przenosi przykłady rozumowania z DeepSeek-R1 do gęstego modelu opartego na Qwen2.5-Math-7B. Przyjmuje tekst i generuje tekst, w tym rozwiązania z objaśnieniem, wyjaśnienia programistyczne i odpowiedzi na problemy logiczne. Ta konkretna destylacja 7B jest osobnym checkpointem względem pełnego DeepSeek-R1, oryginalnego Qwen2.5-Math-7B i większych edycji destylowanych. Jej nazwa wskazuje zarówno producenta danych rozumowania, jak i rodzinę modelu bazowego.\n\nCo wnosi destylacja\n\nBadania DeepSeek nad R1 rozróżniają trening dużego modelu nauczyciela rozumowania od dostrajania jego mniejszych uczniów. Proces nauczyciela wykorzystuje uczenie przez wzmacnianie i etapy nadzorowane; udostępnione modele destylowane są dostrojone na próbkach wytworzonych przez R1. Producent opisuje 800 000 starannie wyselekcjonowanych przykładów dla tych wydań. Nie zakładaj, że sam uczeń 7B ma architekturę mixture-of-experts pełnego modelu lub przeszedł każdy etap treningu nauczyciela. Destylacja daje temu modelowi wyuczony styl rozumowania; nie czyni jego wniosków równoważnymi wnioskom nauczyciela.\n\nDokładny model i jego konfiguracja\n\nOficjalna tabela modeli wskazuje Qwen2.5-Math-7B jako podstawę tej edycji. DeepSeek zmienia konfigurację i ustawienia tokenizera, dlatego znaczenie mają dokładnie udostępniony checkpoint i szablon czatu. Opublikowana konfiguracja używa architektury przyczynowego modelu językowego Qwen2 z 28 warstwami i wagami bfloat16. Ustawia maksymalną liczbę pozycji na 131 072. Ta wartość konfiguracji nie jest osobnym potwierdzeniem dokładności na długich dokumentach: tabela kontekstu 128K we wspólnej karcie R1 opisuje pełne modele R1, natomiast tabela modeli destylowanych wskazuje ich pochodzenie, nie publikując zweryfikowanej tabeli kontekstu dla każdego ucznia.\n\nUżywaj go do zadania ze sprawdzalnym wynikiem. W matematyce dostarcz pełną treść, definicje i jednostki. Przy kodzie dołącz odpowiednią funkcję, wejście, zaobserwowany wynik i pożądane zachowanie. Przy pytaniu logicznym wypisz fakty i odróżnij wymagany wniosek od założenia. Poproś o wynik końcowy możliwy do niezależnego sprawdzenia, na przykład wartość w ramce, zwięzły zarys dowodu lub poprawkę z wyjaśnieniem. Przykłady te stosują udokumentowany zakres rozumowania producenta; nie oznaczają, że model uruchamia kod lub automatycznie weryfikuje dowody.\n\nJak przygotować prompt\n\nDeepSeek zaleca umieszczenie wszystkich instrukcji w prompcie użytkownika i unikanie promptu systemowego dla tej wersji R1. Przy problemie matematycznym poproś o rozumowanie krok po kroku i wyraźnie wydzieloną odpowiedź końcową. W tym samym prompcie uwzględnij strukturę wyniku: na przykład krótki wniosek, po którym następują założenia i obliczenia potwierdzające. Aplikacja powinna korzystać z własnego tokenizera i formatowania ucznia, zamiast podstawiać bazowy szablon Qwen bez sprawdzenia zmian producenta.\n\nProducent zaznacza, że niektóre zapytania mogą generować pusty blok myślenia i pomijać zamierzony schemat rozumowania. Zalecanym rozwiązaniem jest rozpoczęcie generowania od otwierającego znacznika myślenia i nowej linii w zgodnym procesie. Jest to udokumentowane zalecenie dotyczące formatu generowania, a nie obietnica udostępnienia takiej kontroli przez każdą aplikację. Przy prezentowaniu wyniku oddzielaj odpowiedź końcową od dłuższego tekstu rozumowania.\n\nUstawienia generowania i dostępne miejsce\n\nDeepSeek zaleca temperaturę od 0,5 do 0,7, z 0,6 jako preferowanym punktem wyjścia, aby ograniczyć powtórzenia i niespójne wyniki. Jego konfiguracja ewaluacyjna używa budżetu generowania 32 768 tokenów i top_p 0.95. Te wybory ewaluacyjne nie są uniwersalnym twardym maksimum. Rozumowanie, tekst źródłowy i odpowiedź końcowa wymagają miejsca w skonfigurowanym kontekście, dlatego żądanie zawierające długi dowód lub listing kodu nadal powinno pozostawić miejsce na ukończenie.\n\nOgraniczenia wpływające na wybór modelu\n\nMały model destylowany pozostaje odrębnym kompromisem w zakresie rozumowania. Materiały wydania producenta nie potwierdzają wejścia obrazu, dźwięku lub wideo dla tego checkpointu ani dedykowanego protokołu wywoływania narzędzi. Wykonywanie narzędzi lub dostęp do aktualnych danych wymagałyby osobno skonfigurowanego procesu aplikacji. Wydanie nie dziedziczy też późniejszych zmian polityki promptów DeepSeek-R1-0528 wyłącznie przez nazwę R1. Weryfikuj odpowiedzi liczbowe, sprawdzaj proponowane zmiany kodu i oceniaj, czy końcowy wniosek wynika z dostarczonych faktów; sam długi zapis rozumowania nie jest dowodem poprawności.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "b4da8ceb63876e47f2fbd4ad265df52d92960010e6dbb5975e1fe96867921d28", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "pl", "methods": [ { "html": "Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7BDeepSeek-R1-Distill-Qwen-7B to kompaktowy, gęsty model rozumowania firmy DeepSeek, dostrojony z Qwen2.5-Math-7B przy użyciu przykładów wygenerowanych przez R1. Przyjmuje tekst i generuje tekst do zadań matematycznych, programistycznych i logicznych, ze wskazówkami dotyczącymi promptów właściwymi dla tego checkpointu.
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
Wprowadzenie: mniejszy model rozumowania wywodzący się z R1
DeepSeek-R1-Distill-Qwen-7B przenosi przykłady rozumowania z DeepSeek-R1 do gęstego modelu opartego na Qwen2.5-Math-7B. Przyjmuje tekst i generuje tekst, w tym rozwiązania z objaśnieniem, wyjaśnienia programistyczne i odpowiedzi na problemy logiczne. Ta konkretna destylacja 7B jest osobnym checkpointem względem pełnego DeepSeek-R1, oryginalnego Qwen2.5-Math-7B i większych edycji destylowanych. Jej nazwa wskazuje zarówno producenta danych rozumowania, jak i rodzinę modelu bazowego.
Co wnosi destylacja
Badania DeepSeek nad R1 rozróżniają trening dużego modelu nauczyciela rozumowania od dostrajania jego mniejszych uczniów. Proces nauczyciela wykorzystuje uczenie przez wzmacnianie i etapy nadzorowane; udostępnione modele destylowane są dostrojone na próbkach wytworzonych przez R1. Producent opisuje 800 000 starannie wyselekcjonowanych przykładów dla tych wydań. Nie zakładaj, że sam uczeń 7B ma architekturę mixture-of-experts pełnego modelu lub przeszedł każdy etap treningu nauczyciela. Destylacja daje temu modelowi wyuczony styl rozumowania; nie czyni jego wniosków równoważnymi wnioskom nauczyciela.
Dokładny model i jego konfiguracja
Oficjalna tabela modeli wskazuje Qwen2.5-Math-7B jako podstawę tej edycji. DeepSeek zmienia konfigurację i ustawienia tokenizera, dlatego znaczenie mają dokładnie udostępniony checkpoint i szablon czatu. Opublikowana konfiguracja używa architektury przyczynowego modelu językowego Qwen2 z 28 warstwami i wagami bfloat16. Ustawia maksymalną liczbę pozycji na 131 072. Ta wartość konfiguracji nie jest osobnym potwierdzeniem dokładności na długich dokumentach: tabela kontekstu 128K we wspólnej karcie R1 opisuje pełne modele R1, natomiast tabela modeli destylowanych wskazuje ich pochodzenie, nie publikując zweryfikowanej tabeli kontekstu dla każdego ucznia.
Używaj go do zadania ze sprawdzalnym wynikiem. W matematyce dostarcz pełną treść, definicje i jednostki. Przy kodzie dołącz odpowiednią funkcję, wejście, zaobserwowany wynik i pożądane zachowanie. Przy pytaniu logicznym wypisz fakty i odróżnij wymagany wniosek od założenia. Poproś o wynik końcowy możliwy do niezależnego sprawdzenia, na przykład wartość w ramce, zwięzły zarys dowodu lub poprawkę z wyjaśnieniem. Przykłady te stosują udokumentowany zakres rozumowania producenta; nie oznaczają, że model uruchamia kod lub automatycznie weryfikuje dowody.
Jak przygotować prompt
DeepSeek zaleca umieszczenie wszystkich instrukcji w prompcie użytkownika i unikanie promptu systemowego dla tej wersji R1. Przy problemie matematycznym poproś o rozumowanie krok po kroku i wyraźnie wydzieloną odpowiedź końcową. W tym samym prompcie uwzględnij strukturę wyniku: na przykład krótki wniosek, po którym następują założenia i obliczenia potwierdzające. Aplikacja powinna korzystać z własnego tokenizera i formatowania ucznia, zamiast podstawiać bazowy szablon Qwen bez sprawdzenia zmian producenta.
Producent zaznacza, że niektóre zapytania mogą generować pusty blok myślenia i pomijać zamierzony schemat rozumowania. Zalecanym rozwiązaniem jest rozpoczęcie generowania od otwierającego znacznika myślenia i nowej linii w zgodnym procesie. Jest to udokumentowane zalecenie dotyczące formatu generowania, a nie obietnica udostępnienia takiej kontroli przez każdą aplikację. Przy prezentowaniu wyniku oddzielaj odpowiedź końcową od dłuższego tekstu rozumowania.
Ustawienia generowania i dostępne miejsce
DeepSeek zaleca temperaturę od 0,5 do 0,7, z 0,6 jako preferowanym punktem wyjścia, aby ograniczyć powtórzenia i niespójne wyniki. Jego konfiguracja ewaluacyjna używa budżetu generowania 32 768 tokenów i top_p 0.95. Te wybory ewaluacyjne nie są uniwersalnym twardym maksimum. Rozumowanie, tekst źródłowy i odpowiedź końcowa wymagają miejsca w skonfigurowanym kontekście, dlatego żądanie zawierające długi dowód lub listing kodu nadal powinno pozostawić miejsce na ukończenie.
Ograniczenia wpływające na wybór modelu
Mały model destylowany pozostaje odrębnym kompromisem w zakresie rozumowania. Materiały wydania producenta nie potwierdzają wejścia obrazu, dźwięku lub wideo dla tego checkpointu ani dedykowanego protokołu wywoływania narzędzi. Wykonywanie narzędzi lub dostęp do aktualnych danych wymagałyby osobno skonfigurowanego procesu aplikacji. Wydanie nie dziedziczy też późniejszych zmian polityki promptów DeepSeek-R1-0528 wyłącznie przez nazwę R1. Weryfikuj odpowiedzi liczbowe, sprawdzaj proponowane zmiany kodu i oceniaj, czy końcowy wniosek wynika z dostarczonych faktów; sam długi zapis rozumowania nie jest dowodem poprawności.
POST /v1/chat/completionstexttext| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Polemodel | Typstring | WymaganieWymagane | Wartości i limity Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B | Domyślnie— |
Polemessages | Typmessage[] | WymaganieWymagane | Wartości i limity Minimalna liczba elementów: 1 | Domyślnie— |
Polemessages[].role | Typstring | WymaganieWymagane | Wartości i limity Zależy od modelu | Domyślnie— |
Polemessages[].content | Typstring | WymaganieOpcjonalne | Wartości i limity Obowiązuje, gdy: Rozmowa tekstowa | Domyślnie— |
Polestream | Typboolean | WymaganieOpcjonalne | Wartości i limity | Domyślniefalse |
Tekst · tekst UTF8
messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages |
Parametrmaterial_types | Kontrakttext |
Parametrmessages | Kontrakttablica wiadomości o strukturze role/content |
Parametrfile_material | Kontraktrzeczywisty dokument UTF-8 wstawiony jako dosłowny tekst; bez wywnioskowanego ID pliku |
Parametroptional_controls | Kontraktstream |
Parametrcontrol_scope | KontraktRozmowa tekstowa; stream jest wartością logiczną i domyślnie wynosi false. |
Parametroutput_modalities | Kontrakttext |
Parametrhosted_operations | Kontraktfalse |
Parametrmultimodal_input_binding | Kontraktnull |
Aliasy metody: /chat/completions
Cykl życia: synchronous_or_streamed
Wyślij dokładne ID modelu wraz z messages.
Długość kontekstu nie jest limitem wyjścia.
Plik tekstowy może dostarczyć dosłowny tekst; wejścia obrazowe/dźwiękowe/obiekty plików wymagają dokładnego powiązania.
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
| Konfiguracja | Tabela stawek | Opłata |
|---|---|---|
| KonfiguracjaPodstawowe stawki za tokeny | Tabela stawekStawka podstawowa | Opłata Wejście · Tokeny wejściowe $0.0001 / 1K tokenów Wyjście · Tokeny wyjściowe $0.0001 / 1K tokenów Wejście · Odczyt cache $0 / 1K tokenów Wejście · Zapis do cache $0 / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson lub SSE
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowaj każdy wariant i jego treść/wywołania narzędzi/rozumowanie. W SSE składaj przyrosty według indeksu wariantu/narzędzia, zachowując końcowy powód zakończenia i dane użycia.
Zachowaj ID i nagłówki żądań/odpowiedzi. Nie udostępniono ogólnego URL pobierania zadania tekstowego.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pola, sposób reprezentacji materiału lub wartość parametru | Następny krokPopraw wskazane pola przed nowym żądaniem utworzenia. |
Ailoot Ultra Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
/chat/completions
Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7BDeepSeek-R1-Distill-Qwen-7B to kompaktowy, gęsty model rozumowania firmy DeepSeek, dostrojony z Qwen2.5-Math-7B przy użyciu przykładów wygenerowanych przez R1. Przyjmuje tekst i generuje tekst do zadań matematycznych, programistycznych i logicznych, ze wskazówkami dotyczącymi promptów właściwymi dla tego checkpointu.
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
Wprowadzenie: mniejszy model rozumowania wywodzący się z R1
DeepSeek-R1-Distill-Qwen-7B przenosi przykłady rozumowania z DeepSeek-R1 do gęstego modelu opartego na Qwen2.5-Math-7B. Przyjmuje tekst i generuje tekst, w tym rozwiązania z objaśnieniem, wyjaśnienia programistyczne i odpowiedzi na problemy logiczne. Ta konkretna destylacja 7B jest osobnym checkpointem względem pełnego DeepSeek-R1, oryginalnego Qwen2.5-Math-7B i większych edycji destylowanych. Jej nazwa wskazuje zarówno producenta danych rozumowania, jak i rodzinę modelu bazowego.
Co wnosi destylacja
Badania DeepSeek nad R1 rozróżniają trening dużego modelu nauczyciela rozumowania od dostrajania jego mniejszych uczniów. Proces nauczyciela wykorzystuje uczenie przez wzmacnianie i etapy nadzorowane; udostępnione modele destylowane są dostrojone na próbkach wytworzonych przez R1. Producent opisuje 800 000 starannie wyselekcjonowanych przykładów dla tych wydań. Nie zakładaj, że sam uczeń 7B ma architekturę mixture-of-experts pełnego modelu lub przeszedł każdy etap treningu nauczyciela. Destylacja daje temu modelowi wyuczony styl rozumowania; nie czyni jego wniosków równoważnymi wnioskom nauczyciela.
Dokładny model i jego konfiguracja
Oficjalna tabela modeli wskazuje Qwen2.5-Math-7B jako podstawę tej edycji. DeepSeek zmienia konfigurację i ustawienia tokenizera, dlatego znaczenie mają dokładnie udostępniony checkpoint i szablon czatu. Opublikowana konfiguracja używa architektury przyczynowego modelu językowego Qwen2 z 28 warstwami i wagami bfloat16. Ustawia maksymalną liczbę pozycji na 131 072. Ta wartość konfiguracji nie jest osobnym potwierdzeniem dokładności na długich dokumentach: tabela kontekstu 128K we wspólnej karcie R1 opisuje pełne modele R1, natomiast tabela modeli destylowanych wskazuje ich pochodzenie, nie publikując zweryfikowanej tabeli kontekstu dla każdego ucznia.
Używaj go do zadania ze sprawdzalnym wynikiem. W matematyce dostarcz pełną treść, definicje i jednostki. Przy kodzie dołącz odpowiednią funkcję, wejście, zaobserwowany wynik i pożądane zachowanie. Przy pytaniu logicznym wypisz fakty i odróżnij wymagany wniosek od założenia. Poproś o wynik końcowy możliwy do niezależnego sprawdzenia, na przykład wartość w ramce, zwięzły zarys dowodu lub poprawkę z wyjaśnieniem. Przykłady te stosują udokumentowany zakres rozumowania producenta; nie oznaczają, że model uruchamia kod lub automatycznie weryfikuje dowody.
Jak przygotować prompt
DeepSeek zaleca umieszczenie wszystkich instrukcji w prompcie użytkownika i unikanie promptu systemowego dla tej wersji R1. Przy problemie matematycznym poproś o rozumowanie krok po kroku i wyraźnie wydzieloną odpowiedź końcową. W tym samym prompcie uwzględnij strukturę wyniku: na przykład krótki wniosek, po którym następują założenia i obliczenia potwierdzające. Aplikacja powinna korzystać z własnego tokenizera i formatowania ucznia, zamiast podstawiać bazowy szablon Qwen bez sprawdzenia zmian producenta.
Producent zaznacza, że niektóre zapytania mogą generować pusty blok myślenia i pomijać zamierzony schemat rozumowania. Zalecanym rozwiązaniem jest rozpoczęcie generowania od otwierającego znacznika myślenia i nowej linii w zgodnym procesie. Jest to udokumentowane zalecenie dotyczące formatu generowania, a nie obietnica udostępnienia takiej kontroli przez każdą aplikację. Przy prezentowaniu wyniku oddzielaj odpowiedź końcową od dłuższego tekstu rozumowania.
Ustawienia generowania i dostępne miejsce
DeepSeek zaleca temperaturę od 0,5 do 0,7, z 0,6 jako preferowanym punktem wyjścia, aby ograniczyć powtórzenia i niespójne wyniki. Jego konfiguracja ewaluacyjna używa budżetu generowania 32 768 tokenów i top_p 0.95. Te wybory ewaluacyjne nie są uniwersalnym twardym maksimum. Rozumowanie, tekst źródłowy i odpowiedź końcowa wymagają miejsca w skonfigurowanym kontekście, dlatego żądanie zawierające długi dowód lub listing kodu nadal powinno pozostawić miejsce na ukończenie.
Ograniczenia wpływające na wybór modelu
Mały model destylowany pozostaje odrębnym kompromisem w zakresie rozumowania. Materiały wydania producenta nie potwierdzają wejścia obrazu, dźwięku lub wideo dla tego checkpointu ani dedykowanego protokołu wywoływania narzędzi. Wykonywanie narzędzi lub dostęp do aktualnych danych wymagałyby osobno skonfigurowanego procesu aplikacji. Wydanie nie dziedziczy też późniejszych zmian polityki promptów DeepSeek-R1-0528 wyłącznie przez nazwę R1. Weryfikuj odpowiedzi liczbowe, sprawdzaj proponowane zmiany kodu i oceniaj, czy końcowy wniosek wynika z dostarczonych faktów; sam długi zapis rozumowania nie jest dowodem poprawności.
POST /v1/messagestextjson, sse| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Polemodel | Typstring | WymaganieWymagane | Wartości i limity Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B | Domyślnie— |
Polemessages | Typmessage[] | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polemessages[].role | Typstring | WymaganieWymagane | Wartości i limity user, assistant | Domyślnie— |
Polemessages[].content | Typstring | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polemax_tokens | Typinteger | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polestream | Typboolean | WymaganieOpcjonalne | Wartości i limity | Domyślniefalse |
Tekst · tekst UTF-8
ciąg messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages, max_tokens |
Parametroptional_controls | Kontraktstream |
Parametrmaterial_types | Kontrakttext |
Parametrtext_file_material | KontraktOdczytaj rzeczywisty dokument UTF-8 i umieść jego tekst we wskazanym polu input lub w ciągu treści wiadomości. |
Cykl życia: synchronous_or_streamed
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
| Konfiguracja | Tabela stawek | Opłata |
|---|---|---|
| KonfiguracjaPodstawowe stawki za tokeny | Tabela stawekStawka podstawowa | Opłata Wejście · Tokeny wejściowe $0.0001 / 1K tokenów Wyjście · Tokeny wyjściowe $0.0001 / 1K tokenów Wejście · Odczyt cache $0 / 1K tokenów Wejście · Zapis do cache $0 / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
{\n "model": "Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON lub SSE
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowaj wszystkie bloki treści, sygnatury myślenia i rzeczywiste ID użycia narzędzi. Złóż wszystkie przyrosty bloków SSE; pierwszy blok tekstowy nie jest pełnym wyjściem.
Zachowaj ID i nagłówki żądań/odpowiedzi. Nie udostępniono ogólnego URL pobierania zadania tekstowego.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pola, sposób reprezentacji materiału lub wartość parametru | Następny krokPopraw wskazane pola przed nowym żądaniem utworzenia. |
Ailoot Ultra Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
/chat/completions