Source: https://ailoot.ai/models/ko/qwen-qwen3-32b-fp8/ Canonical: https://ailoot.ai/models/ko/qwen-qwen3-32b-fp8/ Language: ko # Qwen3 32B FP8 [Markdown](https://ailoot.ai/models/ko/qwen-qwen3-32b-fp8/index.md) · [JSON](https://ailoot.ai/models/ko/qwen-qwen3-32b-fp8/facts.json) ## [Qwen3 32B FP8](https://ailoot.ai/models/ko/qwen-qwen3-32b-fp8/) Qwen3-32B-FP8은 Qwen3의 매개변수 328억 개 밀집형 텍스트 모델에 대한 세밀한 FP8 에디션입니다. 다국어 글쓰기, 코드, 분석을 위해 직접 응답과 thinking을 결합하며 별도의 체크포인트·호환성 세부 사항을 갖습니다. - [**Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `qwen/qwen3-32b-fp8`](https://ailoot.ai/models/ko/qwen-qwen3-32b-fp8/#method-0) - [**Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `qwen/qwen3-32b-fp8`](https://ailoot.ai/models/ko/qwen-qwen3-32b-fp8/#method-1) 모델 소개 이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다. Qwen3-32B-FP8은 밀집형 Qwen3-32B 언어 모델의 공식 FP8 체크포인트입니다. 제작사는 수학, 논리적 추론, 코드 생성, 창작 글쓰기, 역할 기반 대화, 여러 턴의 지시 따르기를 설명합니다. 계열은 100개가 넘는 언어와 방언을 지원합니다. 입력과 출력은 텍스트이며, 같은 릴리스에서 thinking과 직접 응답 동작을 모두 제공합니다. 모델은 총 매개변수 328억 개, 그중 비임베딩 매개변수 312억 개, 레이어 64개를 갖습니다. 그룹 쿼리 어텐션에는 쿼리 헤드 64개와 키/값 헤드 8개가 있습니다. 밀집형 아키텍처이며 총 매개변수와 활성 매개변수를 구분하는 Qwen3 전문가 혼합 릴리스와 다릅니다. FP8도 정확한 에디션 정체성의 일부입니다. 개발 도우미에는 함수, 명세, 여러 입력을 제공한 뒤 현재 동작의 설명과 합의된 인터페이스를 유지하는 수정 구현을 요청하세요. 편집 작업에는 지정되지 않은 배경 지식에 의존하기보다 실제 원본, 대상 독자, 용어를 제공하세요. 제작사의 빠른 시작은 지정된 채팅 템플릿을 사용합니다. 작업과 제공된 자료를 구분하고 최종 형태를 지정하세요. 유용한 분석 요청은 동일한 필드 규칙으로 두 데이터 검증 방법을 비교하고, 각 방법이 허용하는 사례를 식별하며, 검증 함수를 제안하도록 할 수 있습니다. 누락된 값의 규칙, 대표 데이터, 필요한 오류 메시지를 포함하세요. 다국어 콘텐츠에는 용어집을 제공하고 번역과 검토가 필요한 용어 목록을 요청하세요. 이러한 준비는 생성 결과를 구체적인 입력과 대조해 확인하도록 합니다. 공개된 통합은 Qwen3를 인식하는 실행 환경을 전제로 하며, 카드는 Transformers 4.51.0 미만 버전이 필요한 아키텍처를 인식하지 못한다고 주의합니다. FP8 설명은 블록 크기 128의 세밀한 양자화를 다룹니다. 체크포인트 설정도 FP8 양자화 구성을 명시합니다. 제작사는 추론에 Transformers, SGLang, vLLM을 제시하지만 Transformers의 세밀한 FP8 분산 추론 문제를 표시하고, 여러 장치 사용에는 CUDA\_LAUNCH\_BLOCKING=1이 필요할 수 있다고 설명합니다. 이 호환성 주의 사항은 텍스트 기능과 구분하세요. 양자화 정체성만으로 측정된 지연 시간, 하드웨어 절감, 원래 체크포인트와 응답의 동등성을 확립하지는 않습니다. 제공된 템플릿은 thinking을 기본으로 활성화합니다. 강제 non-thinking 설정은 추론 섹션을 없앱니다. Thinking이 활성화된 상태에서는 /think와 /no\_think가 이후 턴의 유연한 제어가 되고 가장 최근 지시가 적용되며, 강제 비활성화를 무효화하지 못합니다. 모순된 조건을 살펴봐야 할 때는 추론을 요청하고, 이후 직접 후속 요청으로 받아들인 결과를 간결한 형식으로 제시하도록 하세요. 최종 응답은 별도로 유지하고 이후 기록에는 이전 추론 대신 최종 응답을 사용하세요. Thinking이 활성화되어 있으면 유연한 non-thinking 요청도 추론 블록을 유지하며, 그 내용은 비어 있을 수 있습니다. 강제 비활성화는 해당 블록을 제거합니다. 카드는 에이전트 활용을 포함하며 도구 형식과 파싱에 Qwen-Agent를 권장합니다. 애플리케이션은 도구 정의를 제공하고, 호출을 확인하고 실행한 뒤 결과를 반환합니다. 검증 예시에서는 제어된 테스트 실행기가 제공된 사례로 제안 코드를 평가할 수 있습니다. 실제 통과·실패 결과를 요약하고 이름이 지정된 실패 조건을 수정하도록 요청하세요. 출력은 제안된 호출을 실행 증거로 취급해서는 안 됩니다. 작업 흐름 전에 도구의 허용 범위와 출력 필드를 정하세요. Qwen3 가이드는 객체로 표현한 인수와 대화에 반환한 결과를 사용하는 병렬 및 여러 단계 도구 호출도 설명합니다. 정확한 카드는 네이티브 컨텍스트 32,768토큰과 YaRN을 사용하는 131,072토큰을 명시합니다. 확장은 설정에 따라 달라지며 정적 스케일링은 짧은 텍스트에 영향을 줄 수 있습니다. 입력과 생성 결과는 모두 시퀀스 예산을 사용합니다. 긴 원본 섹션에 라벨을 붙이고 필요한 코드와 설명에 충분한 공간을 할당하세요. 공개된 출력 예시와 권장 길이가 보편적인 고정 출력 상한을 정하는 것은 아닙니다. 더 긴 생성에서는 결과가 일관되고 작업 요구를 충족하는지 평가하세요. Qwen3 문서는 학습 길이 설명에서 thinking 모드의 도우미 메시지 길이 38,912토큰과 non-thinking 모드의 16,384토큰을 다루고 긴 생성의 품질 평가를 권장합니다. 이는 전체 컨텍스트 창과 별개이며 특정 엔드포인트의 고정 상한이 아닙니다. 카드는 기본 위치 할당 40,960토큰을 일반 프롬프트용 8,192와 출력용 32,768의 합으로도 설명합니다. 이는 제작사의 설정 지침이며 네이티브 학습 컨텍스트나 엔드포인트 제한과는 별개입니다. 권장 샘플링은 thinking에서 temperature 0.6, top-p 0.95, top-k 20, min-p 0이며, 직접 모드에서는 0.7, 0.8, 20, 0입니다. 제작사는 반복 때문에 그리디 추론을 피하도록 주의하며, 높은 presence penalty는 때때로 언어를 섞을 수 있습니다. 결정 표, 완성된 함수, 사례 목록처럼 검토할 수 있는 최종 답변을 요구하세요. 반환된 구조 필드를 검증하고, 계산을 원본과 대조하며, 원하는 환경에서 코드를 실행하세요. 결과를 기록할 때는 정확한 FP8 정체성을 유지하세요. 실제 활용 과제 ### 실제 활용 과제 영어 기술 예제 ``` Compare missing-value validators Compare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors. ``` #### 예상 결과 ``` A three-input comparison table and a proposed function implementing the supplied rules. ``` #### 결과 확인 ``` Check zero is preserved rather than treated as missing, and negatives are rejected explicitly. ``` **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `qwen/qwen3-32b-fp8` [`qwen/qwen3-32b-fp8`](https://ailoot.ai/models/ko/#m=qwen%2Fqwen3-32b-fp8&route=Ultra&caller=qwen%2Fqwen3-32b-fp8&fmt=chat) Alibaba /`qwen/qwen3-32b-fp8` ### 시작하기 Qwen3-32B-FP8은 Qwen3의 매개변수 328억 개 밀집형 텍스트 모델에 대한 세밀한 FP8 에디션입니다. 다국어 글쓰기, 코드, 분석을 위해 직접 응답과 thinking을 결합하며 별도의 체크포인트·호환성 세부 사항을 갖습니다. 허용 입력 텍스트 결과 텍스트 ### Ailoot에서 사용 가능 · 입력 및 메서드 **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` 입력 `text` 출력 `text` 출력 형식 json 또는 SSE | 필드 | 유형 | 요건 | 값과 한도 | 기본값 | | --- | --- | --- | --- | --- | | 필드`model` | 유형`string` | 요건필수 | 값과 한도 qwen/qwen3-32b-fp8 | 기본값— | | 필드`messages` | 유형`message[]` | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— | | 필드`messages[].role` | 유형`string` | 요건필수 | 값과 한도 예시: system, user, assistant, tool, function 조건: 이 역할들은 소스 코드의 호환 타입에 명시적으로 표현됩니다. 정확한 모델 역할 집합은 모델별로 다릅니다. 모델에 따라 다름 | 기본값— | | 필드`messages[].content` | 유형`string\|content_part[]\|null` | 요건선택 사항 | 값과 한도 | 기본값— | | 필드`messages[].tool_calls` | 유형`tool_call[]` | 요건선택 사항 | 값과 한도 | 기본값— | | 필드`messages[].tool_call_id` | 유형`string` | 요건선택 사항 | 값과 한도 적용 조건: role=tool. 실제 반환된 ID를 사용하세요 | 기본값— | | 필드`messages[].name` | 유형`string` | 요건선택 사항 | 값과 한도 | 기본값— | | 필드`messages[].reasoning_content` | 유형`string` | 요건선택 사항 | 값과 한도 적용 조건: 이 모델이 추론을 사용하는 경우 실제 반환된 추론을 그대로 다음 요청에 다시 전달하세요 | 기본값— | | 필드`messages[].reasoning_details` | 유형`object\|array` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`max_tokens` | 유형`integer` | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— | | 필드`max_completion_tokens` | 유형`integer` | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— | | 필드`stream` | 유형`boolean` | 요건선택 사항 | 값과 한도 | 기본값false | | 필드`stream_options.include_usage` | 유형`boolean` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`temperature` | 유형`number` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`top_p` | 유형`number` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`stop` | 유형`string\|string[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`tools` | 유형`function_tool[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`tools[].type` | 유형`string` | 요건선택 사항 | 값과 한도 function 모델에 따라 다름 | 기본값— | | 필드`tools[].function.name` | 유형`string` | 요건필수 | 값과 한도 적용 조건: 함수 도구 지정됨 | 기본값— | | 필드`tools[].function.description` | 유형`string` | 요건선택 사항 | 값과 한도 | 기본값— | | 필드`tools[].function.parameters` | 유형`JSON_schema` | 요건선택 사항 | 값과 한도 | 기본값— | | 필드`tool_choice` | 유형`string\|object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`parallel_tool_calls` | 유형`boolean` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`response_format` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`reasoning_effort` | 유형`string` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`reasoning` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`service_tier` | 유형`string` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`instructions` | 유형`string` | 요건선택 사항 | 값과 한도 호환성 필드 | 기본값— | | 필드`functions` | 유형`function[]` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`function_call` | 유형`string\|object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`prompt_cache_options` | 유형`object` | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— | | 필드`modalities` | 유형`string[]` | 요건선택 사항 | 값과 한도 text | 기본값— | | 필드`provider` | 유형`object` | 요건선택 사항 | 값과 한도 조건: 이 Ultra 텍스트 경로에서는 provider.options가 거부됩니다 | 기본값— | | 필드`cache_control.ttl` | 유형`string` | 요건선택 사항 | 값과 한도 조건: 실제 프롬프트 캐시 지정 위치에서는 1h가 거부됩니다 | 기본값— | 입력 자료 조합 **텍스트** · UTF8 텍스트 `messages[].content` 메서드 매개변수와 수명 주기 | 매개변수 | 명세 | | --- | --- | | 매개변수`content_type` | 명세application/json | | 매개변수`required` | 명세model, messages | | 매개변수`material_types` | 명세text | | 매개변수`messages` | 명세role/content 형식의 메시지 배열 | | 매개변수`file_material` | 명세실제 UTF-8 문서를 텍스트로 그대로 삽입합니다. 파일 ID는 추정하지 않습니다 | | 매개변수`optional_controls` | 명세stream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice | | 매개변수`control_scope` | 명세모델별로 다름. 사용자 함수 도구와 호스팅 도구는 서로 다릅니다 | | 매개변수`output_modalities` | 명세text | | 매개변수`hosted_operations` | 명세false | | 매개변수`multimodal_input_binding` | 명세null | 수명 주기: `synchronous_or_streamed` 정확한 모델 ID를 messages와 함께 보내세요. 컨텍스트 길이는 출력 상한이 아닙니다. 텍스트 파일은 텍스트를 그대로 제공할 수 있습니다. 이미지/오디오/파일 객체 입력에는 정확한 바인딩이 필요합니다. ### 요금 요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다. 빠른 모드 미지정 빠른 모드를 선택한 경우 Flex 모드 미지정 flex 모드를 선택한 경우 최대 추론 수준 미지정 최대 추론 수준에 default 조정값을 적용하는 경우 #### Ailoot 요금 #### 설정별 가격 | 설정 | 요금표 | 요금 | | --- | --- | --- | | 설정토큰의 기본 단가 | 요금표기본 요금 | 요금 입력 · 입력 토큰 **$0.0002** / 1K 토큰 출력 · 출력 토큰 **$0.001** / 1K 토큰 입력 · 캐시 읽기 **$0** / 1K 토큰 입력 · 캐시 쓰기 **$0** / 1K 토큰 입력 · 캐시 쓰기, 1시간 **—** / 1K 토큰 | Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. [금액 확보와 정산 방식 →](https://ailoot.ai/docs/ko/billing/reserve/) ### 요청 예제 #### Ailoot Ultra · OpenAI Chat curlPython SDKPython 스트리밍 ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "qwen/qwen3-32b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}') Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path r=json.loads(Path("result.json").read_text()) for x in r.get("choices",[]): if x.get("message",{}).get("content"): print(x["message"]["content"]) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) result=client.chat.completions.create(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(result.to_dict(mode="json")) ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### 결과 수신 및 저장 #### Ailoot Ultra · OpenAI Chat json 또는 SSE ##### 완료된 결과 모두 보관 반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요. 각 선택지와 그 콘텐츠·도구 호출·추론을 모두 보존하세요. SSE에서는 선택지/도구 인덱스별로 증분을 조합하고 최종 종료 사유와 사용량을 유지하세요. ##### 원래 응답을 확인해야 할 경우 요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다. 응답 필드 | 필드 | 유형 | | --- | --- | | 필드`choices[].index` | 유형integer | | 필드`choices[].message.content` | 유형string\|null | | 필드`choices[].message.tool_calls` | 유형tool\_call\[\] | | 필드`choices[].message.reasoning_content` | 유형string | | 필드`choices[].message.reasoning_details` | 유형object\|array | | 필드`choices[].finish_reason` | 유형string\|null | | 필드`usage` | 유형object | 오류와 다음 단계 | 응답 | 조건 | 다음 단계 | | --- | --- | --- | | 응답400 · `invalid_request_error` | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. | ### 별칭 #### 모델 별칭 **Ailoot Ultra** [`qwen/qwen3-32b-fp8`](https://ailoot.ai/models/ko/#m=qwen%2Fqwen3-32b-fp8&route=Ultra&caller=qwen%2Fqwen3-32b-fp8&fmt=chat) #### 메서드 경로 별칭 위에 표시된 메서드 경로를 사용하세요. #### 관련 호출용 ID [`qwen/qwen3-32b-fp8`](https://ailoot.ai/models/ko/#m=qwen%2Fqwen3-32b-fp8&route=Ultra&caller=qwen%2Fqwen3-32b-fp8&fmt=chat) **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `qwen/qwen3-32b-fp8` [`qwen/qwen3-32b-fp8`](https://ailoot.ai/models/ko/#m=qwen%2Fqwen3-32b-fp8&route=Ultra&caller=qwen%2Fqwen3-32b-fp8&fmt=messages) Alibaba /`qwen/qwen3-32b-fp8` ### 시작하기 Qwen3-32B-FP8은 Qwen3의 매개변수 328억 개 밀집형 텍스트 모델에 대한 세밀한 FP8 에디션입니다. 다국어 글쓰기, 코드, 분석을 위해 직접 응답과 thinking을 결합하며 별도의 체크포인트·호환성 세부 사항을 갖습니다. 허용 입력 텍스트 결과 json · sse ### Ailoot에서 사용 가능 · 입력 및 메서드 **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` 입력 `text` 출력 `json`, `sse` 출력 형식 JSON 또는 SSE | 필드 | 유형 | 요건 | 값과 한도 | 기본값 | | --- | --- | --- | --- | --- | | 필드`model` | 유형`string` | 요건필수 | 값과 한도 qwen/qwen3-32b-fp8 | 기본값— | | 필드`messages` | 유형`message[]` | 요건필수 | 값과 한도 | 기본값— | | 필드`messages[].role` | 유형`string` | 요건필수 | 값과 한도 user, assistant | 기본값— | | 필드`messages[].content` | 유형`string` | 요건필수 | 값과 한도 | 기본값— | | 필드`max_tokens` | 유형`integer` | 요건필수 | 값과 한도 | 기본값— | | 필드`stream` | 유형`boolean` | 요건선택 사항 | 값과 한도 | 기본값false | 입력 자료 조합 **텍스트** · UTF-8 텍스트 `messages[].content 문자열` 메서드 매개변수와 수명 주기 | 매개변수 | 명세 | | --- | --- | | 매개변수`content_type` | 명세application/json | | 매개변수`required` | 명세model, messages, max\_tokens | | 매개변수`optional_controls` | 명세stream | | 매개변수`material_types` | 명세text | | 매개변수`text_file_material` | 명세실제 UTF-8 문서를 읽고 그 텍스트를 지정된 입력 또는 메시지 콘텐츠 문자열에 넣으세요. | 수명 주기: `synchronous_or_streamed` ### 요금 요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다. 빠른 모드 미지정 빠른 모드를 선택한 경우 Flex 모드 미지정 flex 모드를 선택한 경우 최대 추론 수준 미지정 최대 추론 수준에 default 조정값을 적용하는 경우 #### Ailoot 요금 #### 설정별 가격 | 설정 | 요금표 | 요금 | | --- | --- | --- | | 설정토큰의 기본 단가 | 요금표기본 요금 | 요금 입력 · 입력 토큰 **$0.0002** / 1K 토큰 출력 · 출력 토큰 **$0.001** / 1K 토큰 입력 · 캐시 읽기 **$0** / 1K 토큰 입력 · 캐시 쓰기 **$0** / 1K 토큰 입력 · 캐시 쓰기, 1시간 **—** / 1K 토큰 | Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. [금액 확보와 정산 방식 →](https://ailoot.ai/docs/ko/billing/reserve/) ### 요청 예제 #### Ailoot Ultra · Anthropic Messages 최소 구성의 완전한 JSON 본문curl · 자신의 UTF-8 문서 사용Python · 결과 전체 저장 ```json { "model": "qwen/qwen3-32b-fp8", "max_tokens": 128, "messages": [ { "role": "user", "content": "Summarize the incident report." } ], "stream": false } ``` ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8') PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \ -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) PY_RESULT ``` ```python import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text from urllib.request import Request, urlopen from urllib.error import HTTPError api_key = os.environ['AILOOT_API_KEY'] if not api_key.strip(): raise SystemExit('Set AILOOT_API_KEY before making a request') headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'} headers['x-api-key'] = api_key request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST') try: with urlopen(request, timeout=120) as response: raw = response.read() Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8') except HTTPError as error: Path('result.json').write_bytes(error.read()) Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8') raise Path('result.json').write_bytes(raw) import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) ``` ### 결과 수신 및 저장 #### Ailoot Ultra · Anthropic Messages JSON 또는 SSE ##### 완료된 결과 모두 보관 반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요. 모든 콘텐츠 블록, 사고 서명, 실제 도구 사용 ID를 보존하세요. 모든 SSE 블록 증분을 조합하세요. 첫 텍스트 블록이 전체 출력은 아닙니다. ##### 원래 응답을 확인해야 할 경우 요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다. 응답 필드 | 필드 | 유형 | | --- | --- | | 필드`id` | 유형string | | 필드`model` | 유형string | | 필드`content[]` | 유형text\|thinking\|tool\_use\|other content block | | 필드`stop_reason` | 유형string\|null | | 필드`usage` | 유형object | 오류와 다음 단계 | 응답 | 조건 | 다음 단계 | | --- | --- | --- | | 응답400 · `invalid_request_error` | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. | ### 별칭 #### 모델 별칭 **Ailoot Ultra** [`qwen/qwen3-32b-fp8`](https://ailoot.ai/models/ko/#m=qwen%2Fqwen3-32b-fp8&route=Ultra&caller=qwen%2Fqwen3-32b-fp8&fmt=messages) #### 메서드 경로 별칭 위에 표시된 메서드 경로를 사용하세요. #### 관련 호출용 ID [`qwen/qwen3-32b-fp8`](https://ailoot.ai/models/ko/#m=qwen%2Fqwen3-32b-fp8&route=Ultra&caller=qwen%2Fqwen3-32b-fp8&fmt=messages) FAQ · qwen/qwen3-32b-fp8 어떤 입력과 결과를 사용할 수 있나요? `POST /v1/chat/completions` · `qwen/qwen3-32b-fp8`: `text` → `text` `POST /v1/messages` · `qwen/qwen3-32b-fp8`: `text` → `json`, `sse` 요청은 어떤 필드를 사용하나요? `POST /v1/chat/completions` · `qwen/qwen3-32b-fp8`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `qwen/qwen3-32b-fp8`: `model`, `messages`, `max_tokens`, `stream` 어떤 제한이 적용되나요? `POST /v1/chat/completions` · `qwen/qwen3-32b-fp8`: `messages.min_items`: `1` Claude Code, OpenCode, Hermes, 자체 앱에 Ailoot를 연결하세요. ## 회사와 그 프로젝트 포트폴리오 회사와 그 프로젝트 포트폴리오: 수백만 고객, 매월 수십억 규모의 매출. ## 할인받아 토큰을 구매하세요. 정기 작업에는 구독 할인, 토큰 구매에는 최대 50% 프로모션 코드. 구독 정기 요청에 맞는 할인 요금제를 선택하세요. 최대 50% 프로모션 코드 구매할 때 코드를 넣으면 진행 중 행사에 따라 가격을 다시 계산합니다. 이력의 지출 요청마다 모델, 토큰, 금액을 저장합니다. [구독 선택](https://ailoot.ai/docs/ko/billing/subscriptions/) · [모델 가격 보기](https://ailoot.ai/models/ko/) ## 판매하는 제품에 API를 연결하세요. Ailoot 공식 이용 조건과 라이선스 계약으로 SaaS, 앱, 봇에 사용하세요. 재판매에는 리셀러 라이선스를 요청하세요. 상업용 앱 서비스의 유료 기능에 텍스트, 이미지, 영상, 소리 생성을 넣으세요. 리셀러 라이선스 프로젝트 설명과 접근 구조를 보내 사용·재판매의 서면 조건을 요청하세요. 사이트의 문서 연결 전에 공식 이용 조건, 라이선스 계약, 데이터 처리 정책을 읽을 수 있습니다. [리셀러 라이선스 요청](mailto:support@ailoot.ai) · [공식 이용 조건과 라이선스 계약](https://ailoot.ai/legal/offer?lang=ko) ## Ailoot · 회사와 그 프로젝트 포트폴리오 Ailoot는 축적된 운영 경험, 폭넓은 고객 기반, 안정적인 서비스, 지속적인 KPI 관리를 바탕으로 합니다. 회사와 그 프로젝트 포트폴리오: 수백만 고객, 매월 수십억 규모의 매출. Ailoot는 이러한 운영 경험을 고객의 제품, 에이전트, 애플리케이션, 자동화에서 AI 기능을 이용할 수 있는 API 접근에 활용합니다.