소개: R1에서 파생된 더 작은 추론 모델
DeepSeek-R1-Distill-Qwen-7B는 DeepSeek-R1의 추론 예시를 Qwen2.5-Math-7B 기반 밀집 모델에 전달합니다. 텍스트를 입력받아 풀이 과정, 프로그래밍 설명, 논리 문제 답변을 포함한 텍스트를 생성합니다. 이 정확한 7B 증류 모델은 전체 DeepSeek-R1, 원래의 Qwen2.5-Math-7B, 더 큰 증류 버전과 별개의 체크포인트입니다. 이름에는 추론 데이터 제작자와 기반 모델 계열이 모두 기록되어 있습니다.
증류가 제공하는 것
DeepSeek의 R1 연구는 대형 추론 교사 모델의 학습과 더 작은 학생 모델의 파인튜닝을 구분합니다. 교사 모델의 파이프라인은 강화 학습과 지도 학습 단계를 사용하며, 공개된 증류 모델은 R1이 생성한 샘플로 파인튜닝됩니다. 제작사는 이 릴리스에 대해 선별된 800,000개 예시를 설명합니다. 7B 학생 모델 자체가 전체 모델의 전문가 혼합 아키텍처를 갖거나 교사의 모든 학습 단계를 거쳤다고 가정하지 마세요. 증류는 이 모델에 학습된 추론 스타일을 제공하지만 그 결론을 교사 모델의 결론과 동등하게 만들지는 않습니다.
정확한 모델과 설정
공식 모델 표는 이 버전의 기반을 Qwen2.5-Math-7B로 명시합니다. DeepSeek는 설정과 토크나이저 설정을 변경하므로 정확히 공개된 체크포인트와 채팅 템플릿이 중요합니다. 공개 설정은 28개 레이어와 bfloat16 가중치를 가진 Qwen2 인과 언어 모델 아키텍처를 사용합니다. 최대 위치 수는 131,072입니다. 이 설정값은 긴 문서 정확도의 별도 검증이 아닙니다. 공통 R1 카드의 128K 컨텍스트 표는 전체 R1 모델을 설명하며 증류 모델 표는 학생별 검증된 컨텍스트 표를 공개하지 않은 채 기반 계보를 식별합니다.
검토 가능한 결과가 있는 작업에 사용하세요. 수학에서는 완전한 문제문, 정의, 단위를 제공하세요. 코드에서는 관련 함수, 입력, 관찰된 결과, 원하는 동작을 포함하세요. 논리 질문에서는 사실을 나열하고 필요한 결론과 가정을 구분하세요. 상자로 표시한 값, 간결한 증명 개요, 설명이 붙은 패치처럼 독립적으로 검토할 수 있는 최종 결과를 요청하세요. 이 예시는 제작사가 문서화한 추론 범위를 적용하며 모델이 코드를 실행하거나 증명을 자동 검증한다는 주장이 아닙니다.
프롬프트 준비 방법
DeepSeek는 이 R1 릴리스에서 모든 지시를 사용자 프롬프트에 넣고 시스템 프롬프트를 피할 것을 권장합니다. 수학 문제에서는 단계별 추론과 명확히 구분된 최종 답을 요청하세요. 출력 구조도 같은 프롬프트에 포함하세요. 예를 들어 짧은 결론 뒤에 가정과 뒷받침하는 계산을 제시하도록 할 수 있습니다. 애플리케이션은 제작사의 변경을 확인하지 않고 기반 Qwen 템플릿으로 대체하지 말고 학생 모델 자체의 토크나이저와 형식을 사용해야 합니다.
제작사는 일부 질의에서 빈 사고 블록이 생성되어 의도한 추론 패턴을 건너뛸 수 있다고 설명합니다. 권장하는 해결책은 호환되는 워크플로에서 생성이 사고 시작 마커와 줄바꿈으로 시작하게 하는 것입니다. 이는 문서화된 생성 형식 권장 사항이며 모든 애플리케이션이 그 제어를 제공한다는 약속이 아닙니다. 결과를 표시할 때 최종 답변과 더 긴 추론 텍스트를 구분하세요.
생성 설정과 사용 가능한 공간
DeepSeek는 반복되거나 일관성 없는 출력을 줄이기 위해 temperature 0.5~0.7을 권장하며 0.6을 우선적인 시작점으로 제시합니다. 평가 구성은 32,768토큰 생성 허용량과 top_p 0.95를 사용합니다. 이 평가 설정은 보편적인 엄격한 최대치가 아닙니다. 추론, 원본 텍스트, 최종 응답은 모두 설정된 컨텍스트 안에 공간이 필요하므로 긴 증명이나 코드 목록을 포함하는 요청도 완성을 위한 여유를 남겨야 합니다.
모델 선택에 영향을 주는 한계
작은 증류 모델은 고유한 추론 절충점을 갖습니다. 제작사의 릴리스 자료는 이 체크포인트의 이미지, 오디오, 영상 입력이나 전용 도구 호출 프로토콜을 입증하지 않습니다. 도구 실행이나 최신 데이터 접근에는 별도로 구성한 애플리케이션 워크플로가 필요합니다. 또한 R1이라는 이름만으로 이후 DeepSeek-R1-0528의 프롬프트 정책 변경을 상속하지 않습니다. 수치 답변을 검증하고 제안된 코드 변경을 점검하며 최종 결론이 제공된 사실에서 도출되는지 확인하세요. 긴 추론 기록만으로 정확성이 증명되지는 않습니다.
", "aboutText": "소개: R1에서 파생된 더 작은 추론 모델\n\nDeepSeek-R1-Distill-Qwen-7B는 DeepSeek-R1의 추론 예시를 Qwen2.5-Math-7B 기반 밀집 모델에 전달합니다. 텍스트를 입력받아 풀이 과정, 프로그래밍 설명, 논리 문제 답변을 포함한 텍스트를 생성합니다. 이 정확한 7B 증류 모델은 전체 DeepSeek-R1, 원래의 Qwen2.5-Math-7B, 더 큰 증류 버전과 별개의 체크포인트입니다. 이름에는 추론 데이터 제작자와 기반 모델 계열이 모두 기록되어 있습니다.\n\n증류가 제공하는 것\n\nDeepSeek의 R1 연구는 대형 추론 교사 모델의 학습과 더 작은 학생 모델의 파인튜닝을 구분합니다. 교사 모델의 파이프라인은 강화 학습과 지도 학습 단계를 사용하며, 공개된 증류 모델은 R1이 생성한 샘플로 파인튜닝됩니다. 제작사는 이 릴리스에 대해 선별된 800,000개 예시를 설명합니다. 7B 학생 모델 자체가 전체 모델의 전문가 혼합 아키텍처를 갖거나 교사의 모든 학습 단계를 거쳤다고 가정하지 마세요. 증류는 이 모델에 학습된 추론 스타일을 제공하지만 그 결론을 교사 모델의 결론과 동등하게 만들지는 않습니다.\n\n정확한 모델과 설정\n\n공식 모델 표는 이 버전의 기반을 Qwen2.5-Math-7B로 명시합니다. DeepSeek는 설정과 토크나이저 설정을 변경하므로 정확히 공개된 체크포인트와 채팅 템플릿이 중요합니다. 공개 설정은 28개 레이어와 bfloat16 가중치를 가진 Qwen2 인과 언어 모델 아키텍처를 사용합니다. 최대 위치 수는 131,072입니다. 이 설정값은 긴 문서 정확도의 별도 검증이 아닙니다. 공통 R1 카드의 128K 컨텍스트 표는 전체 R1 모델을 설명하며 증류 모델 표는 학생별 검증된 컨텍스트 표를 공개하지 않은 채 기반 계보를 식별합니다.\n\n검토 가능한 결과가 있는 작업에 사용하세요. 수학에서는 완전한 문제문, 정의, 단위를 제공하세요. 코드에서는 관련 함수, 입력, 관찰된 결과, 원하는 동작을 포함하세요. 논리 질문에서는 사실을 나열하고 필요한 결론과 가정을 구분하세요. 상자로 표시한 값, 간결한 증명 개요, 설명이 붙은 패치처럼 독립적으로 검토할 수 있는 최종 결과를 요청하세요. 이 예시는 제작사가 문서화한 추론 범위를 적용하며 모델이 코드를 실행하거나 증명을 자동 검증한다는 주장이 아닙니다.\n\n프롬프트 준비 방법\n\nDeepSeek는 이 R1 릴리스에서 모든 지시를 사용자 프롬프트에 넣고 시스템 프롬프트를 피할 것을 권장합니다. 수학 문제에서는 단계별 추론과 명확히 구분된 최종 답을 요청하세요. 출력 구조도 같은 프롬프트에 포함하세요. 예를 들어 짧은 결론 뒤에 가정과 뒷받침하는 계산을 제시하도록 할 수 있습니다. 애플리케이션은 제작사의 변경을 확인하지 않고 기반 Qwen 템플릿으로 대체하지 말고 학생 모델 자체의 토크나이저와 형식을 사용해야 합니다.\n\n제작사는 일부 질의에서 빈 사고 블록이 생성되어 의도한 추론 패턴을 건너뛸 수 있다고 설명합니다. 권장하는 해결책은 호환되는 워크플로에서 생성이 사고 시작 마커와 줄바꿈으로 시작하게 하는 것입니다. 이는 문서화된 생성 형식 권장 사항이며 모든 애플리케이션이 그 제어를 제공한다는 약속이 아닙니다. 결과를 표시할 때 최종 답변과 더 긴 추론 텍스트를 구분하세요.\n\n생성 설정과 사용 가능한 공간\n\nDeepSeek는 반복되거나 일관성 없는 출력을 줄이기 위해 temperature 0.5~0.7을 권장하며 0.6을 우선적인 시작점으로 제시합니다. 평가 구성은 32,768토큰 생성 허용량과 top_p 0.95를 사용합니다. 이 평가 설정은 보편적인 엄격한 최대치가 아닙니다. 추론, 원본 텍스트, 최종 응답은 모두 설정된 컨텍스트 안에 공간이 필요하므로 긴 증명이나 코드 목록을 포함하는 요청도 완성을 위한 여유를 남겨야 합니다.\n\n모델 선택에 영향을 주는 한계\n\n작은 증류 모델은 고유한 추론 절충점을 갖습니다. 제작사의 릴리스 자료는 이 체크포인트의 이미지, 오디오, 영상 입력이나 전용 도구 호출 프로토콜을 입증하지 않습니다. 도구 실행이나 최신 데이터 접근에는 별도로 구성한 애플리케이션 워크플로가 필요합니다. 또한 R1이라는 이름만으로 이후 DeepSeek-R1-0528의 프롬프트 정책 변경을 상속하지 않습니다. 수치 답변을 검증하고 제안된 코드 변경을 점검하며 최종 결론이 제공된 사실에서 도출되는지 확인하세요. 긴 추론 기록만으로 정확성이 증명되지는 않습니다.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "cb69e0aaa0bc1c614057d65e6b2b3f247291d04562133c91e351da1070e504dd", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "ko", "methods": [ { "html": "Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7BDeepSeek-R1-Distill-Qwen-7B는 R1이 생성한 예시를 사용해 Qwen2.5-Math-7B를 파인튜닝한 DeepSeek의 소형 밀집 추론 모델입니다. 수학, 코딩, 논리 작업에서 텍스트를 입력받아 텍스트를 생성하며 체크포인트별 프롬프트 지침이 있습니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
소개: R1에서 파생된 더 작은 추론 모델
DeepSeek-R1-Distill-Qwen-7B는 DeepSeek-R1의 추론 예시를 Qwen2.5-Math-7B 기반 밀집 모델에 전달합니다. 텍스트를 입력받아 풀이 과정, 프로그래밍 설명, 논리 문제 답변을 포함한 텍스트를 생성합니다. 이 정확한 7B 증류 모델은 전체 DeepSeek-R1, 원래의 Qwen2.5-Math-7B, 더 큰 증류 버전과 별개의 체크포인트입니다. 이름에는 추론 데이터 제작자와 기반 모델 계열이 모두 기록되어 있습니다.
증류가 제공하는 것
DeepSeek의 R1 연구는 대형 추론 교사 모델의 학습과 더 작은 학생 모델의 파인튜닝을 구분합니다. 교사 모델의 파이프라인은 강화 학습과 지도 학습 단계를 사용하며, 공개된 증류 모델은 R1이 생성한 샘플로 파인튜닝됩니다. 제작사는 이 릴리스에 대해 선별된 800,000개 예시를 설명합니다. 7B 학생 모델 자체가 전체 모델의 전문가 혼합 아키텍처를 갖거나 교사의 모든 학습 단계를 거쳤다고 가정하지 마세요. 증류는 이 모델에 학습된 추론 스타일을 제공하지만 그 결론을 교사 모델의 결론과 동등하게 만들지는 않습니다.
정확한 모델과 설정
공식 모델 표는 이 버전의 기반을 Qwen2.5-Math-7B로 명시합니다. DeepSeek는 설정과 토크나이저 설정을 변경하므로 정확히 공개된 체크포인트와 채팅 템플릿이 중요합니다. 공개 설정은 28개 레이어와 bfloat16 가중치를 가진 Qwen2 인과 언어 모델 아키텍처를 사용합니다. 최대 위치 수는 131,072입니다. 이 설정값은 긴 문서 정확도의 별도 검증이 아닙니다. 공통 R1 카드의 128K 컨텍스트 표는 전체 R1 모델을 설명하며 증류 모델 표는 학생별 검증된 컨텍스트 표를 공개하지 않은 채 기반 계보를 식별합니다.
검토 가능한 결과가 있는 작업에 사용하세요. 수학에서는 완전한 문제문, 정의, 단위를 제공하세요. 코드에서는 관련 함수, 입력, 관찰된 결과, 원하는 동작을 포함하세요. 논리 질문에서는 사실을 나열하고 필요한 결론과 가정을 구분하세요. 상자로 표시한 값, 간결한 증명 개요, 설명이 붙은 패치처럼 독립적으로 검토할 수 있는 최종 결과를 요청하세요. 이 예시는 제작사가 문서화한 추론 범위를 적용하며 모델이 코드를 실행하거나 증명을 자동 검증한다는 주장이 아닙니다.
프롬프트 준비 방법
DeepSeek는 이 R1 릴리스에서 모든 지시를 사용자 프롬프트에 넣고 시스템 프롬프트를 피할 것을 권장합니다. 수학 문제에서는 단계별 추론과 명확히 구분된 최종 답을 요청하세요. 출력 구조도 같은 프롬프트에 포함하세요. 예를 들어 짧은 결론 뒤에 가정과 뒷받침하는 계산을 제시하도록 할 수 있습니다. 애플리케이션은 제작사의 변경을 확인하지 않고 기반 Qwen 템플릿으로 대체하지 말고 학생 모델 자체의 토크나이저와 형식을 사용해야 합니다.
제작사는 일부 질의에서 빈 사고 블록이 생성되어 의도한 추론 패턴을 건너뛸 수 있다고 설명합니다. 권장하는 해결책은 호환되는 워크플로에서 생성이 사고 시작 마커와 줄바꿈으로 시작하게 하는 것입니다. 이는 문서화된 생성 형식 권장 사항이며 모든 애플리케이션이 그 제어를 제공한다는 약속이 아닙니다. 결과를 표시할 때 최종 답변과 더 긴 추론 텍스트를 구분하세요.
생성 설정과 사용 가능한 공간
DeepSeek는 반복되거나 일관성 없는 출력을 줄이기 위해 temperature 0.5~0.7을 권장하며 0.6을 우선적인 시작점으로 제시합니다. 평가 구성은 32,768토큰 생성 허용량과 top_p 0.95를 사용합니다. 이 평가 설정은 보편적인 엄격한 최대치가 아닙니다. 추론, 원본 텍스트, 최종 응답은 모두 설정된 컨텍스트 안에 공간이 필요하므로 긴 증명이나 코드 목록을 포함하는 요청도 완성을 위한 여유를 남겨야 합니다.
모델 선택에 영향을 주는 한계
작은 증류 모델은 고유한 추론 절충점을 갖습니다. 제작사의 릴리스 자료는 이 체크포인트의 이미지, 오디오, 영상 입력이나 전용 도구 호출 프로토콜을 입증하지 않습니다. 도구 실행이나 최신 데이터 접근에는 별도로 구성한 애플리케이션 워크플로가 필요합니다. 또한 R1이라는 이름만으로 이후 DeepSeek-R1-0528의 프롬프트 정책 변경을 상속하지 않습니다. 수치 답변을 검증하고 제안된 코드 변경을 점검하며 최종 결론이 제공된 사실에서 도출되는지 확인하세요. 긴 추론 기록만으로 정확성이 증명되지는 않습니다.
POST /v1/chat/completionstexttext| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 모델에 따라 다름 | 기본값— |
필드messages[].content | 유형string | 요건선택 사항 | 값과 한도 적용 조건: 텍스트 대화 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
텍스트 · UTF8 텍스트
messages[].content
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages |
매개변수material_types | 명세text |
매개변수messages | 명세role/content 형식의 메시지 배열 |
매개변수file_material | 명세실제 UTF-8 문서를 텍스트로 그대로 삽입합니다. 파일 ID는 추정하지 않습니다 |
매개변수optional_controls | 명세stream |
매개변수control_scope | 명세텍스트 대화. stream은 불리언이며 기본값은 false입니다. |
매개변수output_modalities | 명세text |
매개변수hosted_operations | 명세false |
매개변수multimodal_input_binding | 명세null |
메서드 별칭: /chat/completions
수명 주기: synchronous_or_streamed
정확한 모델 ID를 messages와 함께 보내세요.
컨텍스트 길이는 출력 상한이 아닙니다.
텍스트 파일은 텍스트를 그대로 제공할 수 있습니다. 이미지/오디오/파일 객체 입력에는 정확한 바인딩이 필요합니다.
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
| 설정 | 요금표 | 요금 |
|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 요금 입력 · 입력 토큰 $0.0001 / 1K 토큰 출력 · 출력 토큰 $0.0001 / 1K 토큰 입력 · 캐시 읽기 $0 / 1K 토큰 입력 · 캐시 쓰기 $0 / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
각 선택지와 그 콘텐츠·도구 호출·추론을 모두 보존하세요. SSE에서는 선택지/도구 인덱스별로 증분을 조합하고 최종 종료 사유와 사용량을 유지하세요.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드choices[].index | 유형integer |
필드choices[].message.content | 유형string|null |
필드choices[].message.tool_calls | 유형tool_call[] |
필드choices[].message.reasoning_content | 유형string |
필드choices[].message.reasoning_details | 유형object|array |
필드choices[].finish_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
/chat/completions
Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7BDeepSeek-R1-Distill-Qwen-7B는 R1이 생성한 예시를 사용해 Qwen2.5-Math-7B를 파인튜닝한 DeepSeek의 소형 밀집 추론 모델입니다. 수학, 코딩, 논리 작업에서 텍스트를 입력받아 텍스트를 생성하며 체크포인트별 프롬프트 지침이 있습니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
소개: R1에서 파생된 더 작은 추론 모델
DeepSeek-R1-Distill-Qwen-7B는 DeepSeek-R1의 추론 예시를 Qwen2.5-Math-7B 기반 밀집 모델에 전달합니다. 텍스트를 입력받아 풀이 과정, 프로그래밍 설명, 논리 문제 답변을 포함한 텍스트를 생성합니다. 이 정확한 7B 증류 모델은 전체 DeepSeek-R1, 원래의 Qwen2.5-Math-7B, 더 큰 증류 버전과 별개의 체크포인트입니다. 이름에는 추론 데이터 제작자와 기반 모델 계열이 모두 기록되어 있습니다.
증류가 제공하는 것
DeepSeek의 R1 연구는 대형 추론 교사 모델의 학습과 더 작은 학생 모델의 파인튜닝을 구분합니다. 교사 모델의 파이프라인은 강화 학습과 지도 학습 단계를 사용하며, 공개된 증류 모델은 R1이 생성한 샘플로 파인튜닝됩니다. 제작사는 이 릴리스에 대해 선별된 800,000개 예시를 설명합니다. 7B 학생 모델 자체가 전체 모델의 전문가 혼합 아키텍처를 갖거나 교사의 모든 학습 단계를 거쳤다고 가정하지 마세요. 증류는 이 모델에 학습된 추론 스타일을 제공하지만 그 결론을 교사 모델의 결론과 동등하게 만들지는 않습니다.
정확한 모델과 설정
공식 모델 표는 이 버전의 기반을 Qwen2.5-Math-7B로 명시합니다. DeepSeek는 설정과 토크나이저 설정을 변경하므로 정확히 공개된 체크포인트와 채팅 템플릿이 중요합니다. 공개 설정은 28개 레이어와 bfloat16 가중치를 가진 Qwen2 인과 언어 모델 아키텍처를 사용합니다. 최대 위치 수는 131,072입니다. 이 설정값은 긴 문서 정확도의 별도 검증이 아닙니다. 공통 R1 카드의 128K 컨텍스트 표는 전체 R1 모델을 설명하며 증류 모델 표는 학생별 검증된 컨텍스트 표를 공개하지 않은 채 기반 계보를 식별합니다.
검토 가능한 결과가 있는 작업에 사용하세요. 수학에서는 완전한 문제문, 정의, 단위를 제공하세요. 코드에서는 관련 함수, 입력, 관찰된 결과, 원하는 동작을 포함하세요. 논리 질문에서는 사실을 나열하고 필요한 결론과 가정을 구분하세요. 상자로 표시한 값, 간결한 증명 개요, 설명이 붙은 패치처럼 독립적으로 검토할 수 있는 최종 결과를 요청하세요. 이 예시는 제작사가 문서화한 추론 범위를 적용하며 모델이 코드를 실행하거나 증명을 자동 검증한다는 주장이 아닙니다.
프롬프트 준비 방법
DeepSeek는 이 R1 릴리스에서 모든 지시를 사용자 프롬프트에 넣고 시스템 프롬프트를 피할 것을 권장합니다. 수학 문제에서는 단계별 추론과 명확히 구분된 최종 답을 요청하세요. 출력 구조도 같은 프롬프트에 포함하세요. 예를 들어 짧은 결론 뒤에 가정과 뒷받침하는 계산을 제시하도록 할 수 있습니다. 애플리케이션은 제작사의 변경을 확인하지 않고 기반 Qwen 템플릿으로 대체하지 말고 학생 모델 자체의 토크나이저와 형식을 사용해야 합니다.
제작사는 일부 질의에서 빈 사고 블록이 생성되어 의도한 추론 패턴을 건너뛸 수 있다고 설명합니다. 권장하는 해결책은 호환되는 워크플로에서 생성이 사고 시작 마커와 줄바꿈으로 시작하게 하는 것입니다. 이는 문서화된 생성 형식 권장 사항이며 모든 애플리케이션이 그 제어를 제공한다는 약속이 아닙니다. 결과를 표시할 때 최종 답변과 더 긴 추론 텍스트를 구분하세요.
생성 설정과 사용 가능한 공간
DeepSeek는 반복되거나 일관성 없는 출력을 줄이기 위해 temperature 0.5~0.7을 권장하며 0.6을 우선적인 시작점으로 제시합니다. 평가 구성은 32,768토큰 생성 허용량과 top_p 0.95를 사용합니다. 이 평가 설정은 보편적인 엄격한 최대치가 아닙니다. 추론, 원본 텍스트, 최종 응답은 모두 설정된 컨텍스트 안에 공간이 필요하므로 긴 증명이나 코드 목록을 포함하는 요청도 완성을 위한 여유를 남겨야 합니다.
모델 선택에 영향을 주는 한계
작은 증류 모델은 고유한 추론 절충점을 갖습니다. 제작사의 릴리스 자료는 이 체크포인트의 이미지, 오디오, 영상 입력이나 전용 도구 호출 프로토콜을 입증하지 않습니다. 도구 실행이나 최신 데이터 접근에는 별도로 구성한 애플리케이션 워크플로가 필요합니다. 또한 R1이라는 이름만으로 이후 DeepSeek-R1-0528의 프롬프트 정책 변경을 상속하지 않습니다. 수치 답변을 검증하고 제안된 코드 변경을 점검하며 최종 결론이 제공된 사실에서 도출되는지 확인하세요. 긴 추론 기록만으로 정확성이 증명되지는 않습니다.
POST /v1/messagestextjson, sse| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 user, assistant | 기본값— |
필드messages[].content | 유형string | 요건필수 | 값과 한도 | 기본값— |
필드max_tokens | 유형integer | 요건필수 | 값과 한도 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
텍스트 · UTF-8 텍스트
messages[].content 문자열
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages, max_tokens |
매개변수optional_controls | 명세stream |
매개변수material_types | 명세text |
매개변수text_file_material | 명세실제 UTF-8 문서를 읽고 그 텍스트를 지정된 입력 또는 메시지 콘텐츠 문자열에 넣으세요. |
수명 주기: synchronous_or_streamed
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
| 설정 | 요금표 | 요금 |
|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 요금 입력 · 입력 토큰 $0.0001 / 1K 토큰 출력 · 출력 토큰 $0.0001 / 1K 토큰 입력 · 캐시 읽기 $0 / 1K 토큰 입력 · 캐시 쓰기 $0 / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
{\n "model": "Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
모든 콘텐츠 블록, 사고 서명, 실제 도구 사용 ID를 보존하세요. 모든 SSE 블록 증분을 조합하세요. 첫 텍스트 블록이 전체 출력은 아닙니다.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드id | 유형string |
필드model | 유형string |
필드content[] | 유형text|thinking|tool_use|other content block |
필드stop_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra Pro/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
/chat/completions