Qwen3 기능
Qwen3-30B-A3B-FP8은 Qwen의 하이브리드 텍스트 생성 모델을 세밀한 FP8 체크포인트로 제공합니다. 텍스트 대화를 입력받아 설명, 코드, 번역, 창작 글쓰기, 여러 턴의 답변 등 텍스트를 생성합니다. Qwen3 계열은 다국어 지시를 포함해 119개 언어와 방언을 지원합니다. 두 응답 모드를 통해 수학·프로그래밍·논리 문제에는 명시적인 추론을 사용하고, 간단한 재작성이나 대화에는 직접 답변을 사용할 수 있습니다. 언어 지원 범위가 모든 언어나 전문 분야에서 동일한 신뢰성을 뜻하는 것은 아닙니다.
모델 개요
모델의 총 매개변수는 305억 개이며 토큰마다 33억 개를 활성화합니다. 전문가 혼합 아키텍처는 48개 레이어에 걸쳐 128개 전문가 중 토큰마다 8개를 선택합니다. 이는 모델 아키텍처 수치입니다. 활성 매개변수가 적다고 전체 체크포인트에 33억 개의 매개변수만 있다는 뜻은 아닙니다. 이 모델은 Qwen3-30B-A3B의 FP8 에디션이며, 원래 수치 정밀도 체크포인트 및 후속 Thinking-2507·Instruct-2507 릴리스와 구분됩니다.
텍스트 인터페이스 사용
작업, 관련 원본 텍스트, 예상 답변 형식을 함께 준비하세요. 디버깅 요청에는 실패하는 함수, 관찰한 오류, 의도한 동작, 최소 입력을 제공하고 설명 뒤에 패치와 권장 검증을 요청하세요. 다국어 편집에는 대상 언어, 독자, 바꾸지 말아야 할 용어를 지정하세요. 긴 설명이 결과를 가린다면 간결한 최종 결과물을 요청하세요. 이는 문서에 명시된 텍스트·코딩 기능을 활용하는 방법이며, 생성 코드가 실행되었다는 보장이 아닙니다.
FP8 에디션
Qwen은 128 × 128 가중치 블록을 사용하는 세밀한 FP8 양자화를 명시합니다. 체크포인트 설정은 선택한 구성 요소를 변환에서 제외하고 동적 활성화 양자화를 사용합니다. FP8은 수치 표현을 뜻하며 새로운 대화 모드나 약속된 응답 시간이 아닙니다. 호환성이 중요합니다. Qwen 카드는 이 양자화 방법의 여러 장치 분산 추론에 대한 주의 사항을 기록합니다. 따라서 양자화 체크포인트는 다른 빌드의 주장을 그대로 가져오기보다 정확한 에디션 이름을 유지해야 합니다.
Thinking과 직접 답변 모드
제작사의 채팅 템플릿은 thinking을 기본으로 활성화합니다. 해당 모드에서는 추론 블록이 최종 답변 앞에 옵니다. 강제 설정 enable_thinking=False는 이 블록을 없앱니다. Thinking이 활성화된 상태에서는 /think와 /no_think가 가장 최근 지시에 따라 턴별로 안내하며, 유연한 끄기 전환에서도 빈 추론 블록이 나타날 수 있습니다. 이러한 프롬프트 표시는 강제 끄기 설정을 무효화하지 못합니다. 이는 제작사가 문서화한 제어이며, 애플리케이션이 이를 제공하는지는 인터페이스에 따라 달라집니다.
에이전트 활용
Qwen은 두 모드에서 도구 호출을 문서화하고 필요한 템플릿과 파싱을 위해 Qwen-Agent를 권장합니다. 에이전트에 명확한 도구 설명, 허용 입력, 보고서 작성 전에 제공한 데이터를 확인하는 것 같은 구체적인 결과물을 지정하세요. 모델은 도구 작업 흐름에 참여할 수 있지만 검색, 코드 실행, 외부 동작은 애플리케이션이 연결한 도구에서 수행됩니다. 도구 기능만으로 모델에 파일이나 최신 정보에 대한 접근이 생기지는 않습니다.
긴 텍스트
Qwen은 네이티브 컨텍스트 32,768토큰을 설명하고 YaRN을 사용하는 131,072토큰 확장을 검증합니다. 입력, 대화 기록, 추론, 답변은 컨텍스트 공간을 함께 사용합니다. 제공된 위치 설정은 40,960이며, Qwen은 이를 명시된 네이티브 컨텍스트를 대체하는 것이 아니라 일반적인 프롬프트와 긴 생성을 위한 할당으로 설명합니다. 정적 YaRN은 짧은 입력의 품질을 낮출 수 있으므로 확장은 설정과 필요에 따라 적용합니다. 문서 작업에서는 섹션에 라벨을 붙이고 각 결론을 뒷받침하는 문단을 답변에 표시하도록 요청하세요.
생성과 한계
Qwen은 thinking에서 temperature 0.6, top_p 0.95, top_k 20, min_p 0을 권장하고, 직접 답변에서는 0.7, 0.8, 20, 0을 권장합니다. 그리디 디코딩은 추론 품질 저하나 텍스트 반복을 만들 수 있습니다. 지침은 대부분의 질문에 생성 예산 32,768토큰, 매우 복잡한 문제에 38,912토큰을 권장합니다. 이는 권장값이며 별도로 확립된 고정 출력 상한이 아닙니다. 더 큰 presence penalty는 반복을 줄일 수 있지만 언어를 섞거나 품질을 낮출 수 있습니다. 대화 기록에는 최종 답변만 유지하세요. 필요한 답변 스키마를 명확히 지정하고, 수학 결과·사실적 결론·생성 패치를 사용하기 전에 제공된 증거와 대조해 확인하세요.
", "aboutText": "Qwen3 기능\n\nQwen3-30B-A3B-FP8은 Qwen의 하이브리드 텍스트 생성 모델을 세밀한 FP8 체크포인트로 제공합니다. 텍스트 대화를 입력받아 설명, 코드, 번역, 창작 글쓰기, 여러 턴의 답변 등 텍스트를 생성합니다. Qwen3 계열은 다국어 지시를 포함해 119개 언어와 방언을 지원합니다. 두 응답 모드를 통해 수학·프로그래밍·논리 문제에는 명시적인 추론을 사용하고, 간단한 재작성이나 대화에는 직접 답변을 사용할 수 있습니다. 언어 지원 범위가 모든 언어나 전문 분야에서 동일한 신뢰성을 뜻하는 것은 아닙니다.\n\n모델 개요\n\n모델의 총 매개변수는 305억 개이며 토큰마다 33억 개를 활성화합니다. 전문가 혼합 아키텍처는 48개 레이어에 걸쳐 128개 전문가 중 토큰마다 8개를 선택합니다. 이는 모델 아키텍처 수치입니다. 활성 매개변수가 적다고 전체 체크포인트에 33억 개의 매개변수만 있다는 뜻은 아닙니다. 이 모델은 Qwen3-30B-A3B의 FP8 에디션이며, 원래 수치 정밀도 체크포인트 및 후속 Thinking-2507·Instruct-2507 릴리스와 구분됩니다.\n\n텍스트 인터페이스 사용\n\n작업, 관련 원본 텍스트, 예상 답변 형식을 함께 준비하세요. 디버깅 요청에는 실패하는 함수, 관찰한 오류, 의도한 동작, 최소 입력을 제공하고 설명 뒤에 패치와 권장 검증을 요청하세요. 다국어 편집에는 대상 언어, 독자, 바꾸지 말아야 할 용어를 지정하세요. 긴 설명이 결과를 가린다면 간결한 최종 결과물을 요청하세요. 이는 문서에 명시된 텍스트·코딩 기능을 활용하는 방법이며, 생성 코드가 실행되었다는 보장이 아닙니다.\n\nFP8 에디션\n\nQwen은 128 × 128 가중치 블록을 사용하는 세밀한 FP8 양자화를 명시합니다. 체크포인트 설정은 선택한 구성 요소를 변환에서 제외하고 동적 활성화 양자화를 사용합니다. FP8은 수치 표현을 뜻하며 새로운 대화 모드나 약속된 응답 시간이 아닙니다. 호환성이 중요합니다. Qwen 카드는 이 양자화 방법의 여러 장치 분산 추론에 대한 주의 사항을 기록합니다. 따라서 양자화 체크포인트는 다른 빌드의 주장을 그대로 가져오기보다 정확한 에디션 이름을 유지해야 합니다.\n\nThinking과 직접 답변 모드\n\n제작사의 채팅 템플릿은 thinking을 기본으로 활성화합니다. 해당 모드에서는 추론 블록이 최종 답변 앞에 옵니다. 강제 설정 enable_thinking=False는 이 블록을 없앱니다. Thinking이 활성화된 상태에서는 /think와 /no_think가 가장 최근 지시에 따라 턴별로 안내하며, 유연한 끄기 전환에서도 빈 추론 블록이 나타날 수 있습니다. 이러한 프롬프트 표시는 강제 끄기 설정을 무효화하지 못합니다. 이는 제작사가 문서화한 제어이며, 애플리케이션이 이를 제공하는지는 인터페이스에 따라 달라집니다.\n\n에이전트 활용\n\nQwen은 두 모드에서 도구 호출을 문서화하고 필요한 템플릿과 파싱을 위해 Qwen-Agent를 권장합니다. 에이전트에 명확한 도구 설명, 허용 입력, 보고서 작성 전에 제공한 데이터를 확인하는 것 같은 구체적인 결과물을 지정하세요. 모델은 도구 작업 흐름에 참여할 수 있지만 검색, 코드 실행, 외부 동작은 애플리케이션이 연결한 도구에서 수행됩니다. 도구 기능만으로 모델에 파일이나 최신 정보에 대한 접근이 생기지는 않습니다.\n\n긴 텍스트\n\nQwen은 네이티브 컨텍스트 32,768토큰을 설명하고 YaRN을 사용하는 131,072토큰 확장을 검증합니다. 입력, 대화 기록, 추론, 답변은 컨텍스트 공간을 함께 사용합니다. 제공된 위치 설정은 40,960이며, Qwen은 이를 명시된 네이티브 컨텍스트를 대체하는 것이 아니라 일반적인 프롬프트와 긴 생성을 위한 할당으로 설명합니다. 정적 YaRN은 짧은 입력의 품질을 낮출 수 있으므로 확장은 설정과 필요에 따라 적용합니다. 문서 작업에서는 섹션에 라벨을 붙이고 각 결론을 뒷받침하는 문단을 답변에 표시하도록 요청하세요.\n\n생성과 한계\n\nQwen은 thinking에서 temperature 0.6, top_p 0.95, top_k 20, min_p 0을 권장하고, 직접 답변에서는 0.7, 0.8, 20, 0을 권장합니다. 그리디 디코딩은 추론 품질 저하나 텍스트 반복을 만들 수 있습니다. 지침은 대부분의 질문에 생성 예산 32,768토큰, 매우 복잡한 문제에 38,912토큰을 권장합니다. 이는 권장값이며 별도로 확립된 고정 출력 상한이 아닙니다. 더 큰 presence penalty는 반복을 줄일 수 있지만 언어를 섞거나 품질을 낮출 수 있습니다. 대화 기록에는 최종 답변만 유지하세요. 필요한 답변 스키마를 명확히 지정하고, 수학 결과·사실적 결론·생성 패치를 사용하기 전에 제공된 증거와 대조해 확인하세요.", "editorialOverlay": { "copy_fields": { "practical_html": "영어 기술 예제
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8은 thinking과 직접 답변 모드를 선택할 수 있는 Qwen의 FP8 양자화 전문가 혼합 텍스트 모델입니다. 수학적 추론, 코딩, 다국어 글쓰기, 도구 지원 작업에 사용하면서 정확한 FP8 에디션과 컨텍스트 설정을 유지하세요.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Qwen3 기능
Qwen3-30B-A3B-FP8은 Qwen의 하이브리드 텍스트 생성 모델을 세밀한 FP8 체크포인트로 제공합니다. 텍스트 대화를 입력받아 설명, 코드, 번역, 창작 글쓰기, 여러 턴의 답변 등 텍스트를 생성합니다. Qwen3 계열은 다국어 지시를 포함해 119개 언어와 방언을 지원합니다. 두 응답 모드를 통해 수학·프로그래밍·논리 문제에는 명시적인 추론을 사용하고, 간단한 재작성이나 대화에는 직접 답변을 사용할 수 있습니다. 언어 지원 범위가 모든 언어나 전문 분야에서 동일한 신뢰성을 뜻하는 것은 아닙니다.
모델 개요
모델의 총 매개변수는 305억 개이며 토큰마다 33억 개를 활성화합니다. 전문가 혼합 아키텍처는 48개 레이어에 걸쳐 128개 전문가 중 토큰마다 8개를 선택합니다. 이는 모델 아키텍처 수치입니다. 활성 매개변수가 적다고 전체 체크포인트에 33억 개의 매개변수만 있다는 뜻은 아닙니다. 이 모델은 Qwen3-30B-A3B의 FP8 에디션이며, 원래 수치 정밀도 체크포인트 및 후속 Thinking-2507·Instruct-2507 릴리스와 구분됩니다.
텍스트 인터페이스 사용
작업, 관련 원본 텍스트, 예상 답변 형식을 함께 준비하세요. 디버깅 요청에는 실패하는 함수, 관찰한 오류, 의도한 동작, 최소 입력을 제공하고 설명 뒤에 패치와 권장 검증을 요청하세요. 다국어 편집에는 대상 언어, 독자, 바꾸지 말아야 할 용어를 지정하세요. 긴 설명이 결과를 가린다면 간결한 최종 결과물을 요청하세요. 이는 문서에 명시된 텍스트·코딩 기능을 활용하는 방법이며, 생성 코드가 실행되었다는 보장이 아닙니다.
FP8 에디션
Qwen은 128 × 128 가중치 블록을 사용하는 세밀한 FP8 양자화를 명시합니다. 체크포인트 설정은 선택한 구성 요소를 변환에서 제외하고 동적 활성화 양자화를 사용합니다. FP8은 수치 표현을 뜻하며 새로운 대화 모드나 약속된 응답 시간이 아닙니다. 호환성이 중요합니다. Qwen 카드는 이 양자화 방법의 여러 장치 분산 추론에 대한 주의 사항을 기록합니다. 따라서 양자화 체크포인트는 다른 빌드의 주장을 그대로 가져오기보다 정확한 에디션 이름을 유지해야 합니다.
Thinking과 직접 답변 모드
제작사의 채팅 템플릿은 thinking을 기본으로 활성화합니다. 해당 모드에서는 추론 블록이 최종 답변 앞에 옵니다. 강제 설정 enable_thinking=False는 이 블록을 없앱니다. Thinking이 활성화된 상태에서는 /think와 /no_think가 가장 최근 지시에 따라 턴별로 안내하며, 유연한 끄기 전환에서도 빈 추론 블록이 나타날 수 있습니다. 이러한 프롬프트 표시는 강제 끄기 설정을 무효화하지 못합니다. 이는 제작사가 문서화한 제어이며, 애플리케이션이 이를 제공하는지는 인터페이스에 따라 달라집니다.
에이전트 활용
Qwen은 두 모드에서 도구 호출을 문서화하고 필요한 템플릿과 파싱을 위해 Qwen-Agent를 권장합니다. 에이전트에 명확한 도구 설명, 허용 입력, 보고서 작성 전에 제공한 데이터를 확인하는 것 같은 구체적인 결과물을 지정하세요. 모델은 도구 작업 흐름에 참여할 수 있지만 검색, 코드 실행, 외부 동작은 애플리케이션이 연결한 도구에서 수행됩니다. 도구 기능만으로 모델에 파일이나 최신 정보에 대한 접근이 생기지는 않습니다.
긴 텍스트
Qwen은 네이티브 컨텍스트 32,768토큰을 설명하고 YaRN을 사용하는 131,072토큰 확장을 검증합니다. 입력, 대화 기록, 추론, 답변은 컨텍스트 공간을 함께 사용합니다. 제공된 위치 설정은 40,960이며, Qwen은 이를 명시된 네이티브 컨텍스트를 대체하는 것이 아니라 일반적인 프롬프트와 긴 생성을 위한 할당으로 설명합니다. 정적 YaRN은 짧은 입력의 품질을 낮출 수 있으므로 확장은 설정과 필요에 따라 적용합니다. 문서 작업에서는 섹션에 라벨을 붙이고 각 결론을 뒷받침하는 문단을 답변에 표시하도록 요청하세요.
생성과 한계
Qwen은 thinking에서 temperature 0.6, top_p 0.95, top_k 20, min_p 0을 권장하고, 직접 답변에서는 0.7, 0.8, 20, 0을 권장합니다. 그리디 디코딩은 추론 품질 저하나 텍스트 반복을 만들 수 있습니다. 지침은 대부분의 질문에 생성 예산 32,768토큰, 매우 복잡한 문제에 38,912토큰을 권장합니다. 이는 권장값이며 별도로 확립된 고정 출력 상한이 아닙니다. 더 큰 presence penalty는 반복을 줄일 수 있지만 언어를 섞거나 품질을 낮출 수 있습니다. 대화 기록에는 최종 답변만 유지하세요. 필요한 답변 스키마를 명확히 지정하고, 수학 결과·사실적 결론·생성 패치를 사용하기 전에 제공된 증거와 대조해 확인하세요.
POST /v1/chat/completionstexttext| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 qwen/qwen3-30b-a3b-fp8 | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 예시: system, user, assistant, tool, function 조건: 이 역할들은 소스 코드의 호환 타입에 명시적으로 표현됩니다. 정확한 모델 역할 집합은 모델별로 다릅니다. 모델에 따라 다름 | 기본값— |
필드messages[].content | 유형string|content_part[]|null | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_calls | 유형tool_call[] | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_call_id | 유형string | 요건선택 사항 | 값과 한도 적용 조건: role=tool. 실제 반환된 ID를 사용하세요 | 기본값— |
필드messages[].name | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].reasoning_content | 유형string | 요건선택 사항 | 값과 한도 적용 조건: 이 모델이 추론을 사용하는 경우 실제 반환된 추론을 그대로 다음 요청에 다시 전달하세요 | 기본값— |
필드messages[].reasoning_details | 유형object|array | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드max_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드max_completion_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
필드stream_options.include_usage | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드temperature | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드top_p | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드stop | 유형string|string[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools | 유형function_tool[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools[].type | 유형string | 요건선택 사항 | 값과 한도 function 모델에 따라 다름 | 기본값— |
필드tools[].function.name | 유형string | 요건필수 | 값과 한도 적용 조건: 함수 도구 지정됨 | 기본값— |
필드tools[].function.description | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드tools[].function.parameters | 유형JSON_schema | 요건선택 사항 | 값과 한도 | 기본값— |
필드tool_choice | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드parallel_tool_calls | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드response_format | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning_effort | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드service_tier | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드instructions | 유형string | 요건선택 사항 | 값과 한도 호환성 필드 | 기본값— |
필드functions | 유형function[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드function_call | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드prompt_cache_options | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드modalities | 유형string[] | 요건선택 사항 | 값과 한도 text | 기본값— |
필드provider | 유형object | 요건선택 사항 | 값과 한도 조건: 이 Ultra 텍스트 경로에서는 provider.options가 거부됩니다 | 기본값— |
필드cache_control.ttl | 유형string | 요건선택 사항 | 값과 한도 조건: 실제 프롬프트 캐시 지정 위치에서는 1h가 거부됩니다 | 기본값— |
텍스트 · UTF8 텍스트
messages[].content
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages |
매개변수material_types | 명세text |
매개변수messages | 명세role/content 형식의 메시지 배열 |
매개변수file_material | 명세실제 UTF-8 문서를 텍스트로 그대로 삽입합니다. 파일 ID는 추정하지 않습니다 |
매개변수optional_controls | 명세stream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
매개변수control_scope | 명세모델별로 다름. 사용자 함수 도구와 호스팅 도구는 서로 다릅니다 |
매개변수output_modalities | 명세text |
매개변수hosted_operations | 명세false |
매개변수multimodal_input_binding | 명세null |
수명 주기: synchronous_or_streamed
정확한 모델 ID를 messages와 함께 보내세요.
컨텍스트 길이는 출력 상한이 아닙니다.
텍스트 파일은 텍스트를 그대로 제공할 수 있습니다. 이미지/오디오/파일 객체 입력에는 정확한 바인딩이 필요합니다.
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
| 설정 | 요금표 | 요금 |
|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 요금 입력 · 입력 토큰 $0.0002 / 1K 토큰 출력 · 출력 토큰 $0.001 / 1K 토큰 입력 · 캐시 읽기 $0 / 1K 토큰 입력 · 캐시 쓰기 $0 / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-30b-a3b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
각 선택지와 그 콘텐츠·도구 호출·추론을 모두 보존하세요. SSE에서는 선택지/도구 인덱스별로 증분을 조합하고 최종 종료 사유와 사용량을 유지하세요.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드choices[].index | 유형integer |
필드choices[].message.content | 유형string|null |
필드choices[].message.tool_calls | 유형tool_call[] |
필드choices[].message.reasoning_content | 유형string |
필드choices[].message.reasoning_details | 유형object|array |
필드choices[].finish_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
위에 표시된 메서드 경로를 사용하세요.
qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8은 thinking과 직접 답변 모드를 선택할 수 있는 Qwen의 FP8 양자화 전문가 혼합 텍스트 모델입니다. 수학적 추론, 코딩, 다국어 글쓰기, 도구 지원 작업에 사용하면서 정확한 FP8 에디션과 컨텍스트 설정을 유지하세요.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Qwen3 기능
Qwen3-30B-A3B-FP8은 Qwen의 하이브리드 텍스트 생성 모델을 세밀한 FP8 체크포인트로 제공합니다. 텍스트 대화를 입력받아 설명, 코드, 번역, 창작 글쓰기, 여러 턴의 답변 등 텍스트를 생성합니다. Qwen3 계열은 다국어 지시를 포함해 119개 언어와 방언을 지원합니다. 두 응답 모드를 통해 수학·프로그래밍·논리 문제에는 명시적인 추론을 사용하고, 간단한 재작성이나 대화에는 직접 답변을 사용할 수 있습니다. 언어 지원 범위가 모든 언어나 전문 분야에서 동일한 신뢰성을 뜻하는 것은 아닙니다.
모델 개요
모델의 총 매개변수는 305억 개이며 토큰마다 33억 개를 활성화합니다. 전문가 혼합 아키텍처는 48개 레이어에 걸쳐 128개 전문가 중 토큰마다 8개를 선택합니다. 이는 모델 아키텍처 수치입니다. 활성 매개변수가 적다고 전체 체크포인트에 33억 개의 매개변수만 있다는 뜻은 아닙니다. 이 모델은 Qwen3-30B-A3B의 FP8 에디션이며, 원래 수치 정밀도 체크포인트 및 후속 Thinking-2507·Instruct-2507 릴리스와 구분됩니다.
텍스트 인터페이스 사용
작업, 관련 원본 텍스트, 예상 답변 형식을 함께 준비하세요. 디버깅 요청에는 실패하는 함수, 관찰한 오류, 의도한 동작, 최소 입력을 제공하고 설명 뒤에 패치와 권장 검증을 요청하세요. 다국어 편집에는 대상 언어, 독자, 바꾸지 말아야 할 용어를 지정하세요. 긴 설명이 결과를 가린다면 간결한 최종 결과물을 요청하세요. 이는 문서에 명시된 텍스트·코딩 기능을 활용하는 방법이며, 생성 코드가 실행되었다는 보장이 아닙니다.
FP8 에디션
Qwen은 128 × 128 가중치 블록을 사용하는 세밀한 FP8 양자화를 명시합니다. 체크포인트 설정은 선택한 구성 요소를 변환에서 제외하고 동적 활성화 양자화를 사용합니다. FP8은 수치 표현을 뜻하며 새로운 대화 모드나 약속된 응답 시간이 아닙니다. 호환성이 중요합니다. Qwen 카드는 이 양자화 방법의 여러 장치 분산 추론에 대한 주의 사항을 기록합니다. 따라서 양자화 체크포인트는 다른 빌드의 주장을 그대로 가져오기보다 정확한 에디션 이름을 유지해야 합니다.
Thinking과 직접 답변 모드
제작사의 채팅 템플릿은 thinking을 기본으로 활성화합니다. 해당 모드에서는 추론 블록이 최종 답변 앞에 옵니다. 강제 설정 enable_thinking=False는 이 블록을 없앱니다. Thinking이 활성화된 상태에서는 /think와 /no_think가 가장 최근 지시에 따라 턴별로 안내하며, 유연한 끄기 전환에서도 빈 추론 블록이 나타날 수 있습니다. 이러한 프롬프트 표시는 강제 끄기 설정을 무효화하지 못합니다. 이는 제작사가 문서화한 제어이며, 애플리케이션이 이를 제공하는지는 인터페이스에 따라 달라집니다.
에이전트 활용
Qwen은 두 모드에서 도구 호출을 문서화하고 필요한 템플릿과 파싱을 위해 Qwen-Agent를 권장합니다. 에이전트에 명확한 도구 설명, 허용 입력, 보고서 작성 전에 제공한 데이터를 확인하는 것 같은 구체적인 결과물을 지정하세요. 모델은 도구 작업 흐름에 참여할 수 있지만 검색, 코드 실행, 외부 동작은 애플리케이션이 연결한 도구에서 수행됩니다. 도구 기능만으로 모델에 파일이나 최신 정보에 대한 접근이 생기지는 않습니다.
긴 텍스트
Qwen은 네이티브 컨텍스트 32,768토큰을 설명하고 YaRN을 사용하는 131,072토큰 확장을 검증합니다. 입력, 대화 기록, 추론, 답변은 컨텍스트 공간을 함께 사용합니다. 제공된 위치 설정은 40,960이며, Qwen은 이를 명시된 네이티브 컨텍스트를 대체하는 것이 아니라 일반적인 프롬프트와 긴 생성을 위한 할당으로 설명합니다. 정적 YaRN은 짧은 입력의 품질을 낮출 수 있으므로 확장은 설정과 필요에 따라 적용합니다. 문서 작업에서는 섹션에 라벨을 붙이고 각 결론을 뒷받침하는 문단을 답변에 표시하도록 요청하세요.
생성과 한계
Qwen은 thinking에서 temperature 0.6, top_p 0.95, top_k 20, min_p 0을 권장하고, 직접 답변에서는 0.7, 0.8, 20, 0을 권장합니다. 그리디 디코딩은 추론 품질 저하나 텍스트 반복을 만들 수 있습니다. 지침은 대부분의 질문에 생성 예산 32,768토큰, 매우 복잡한 문제에 38,912토큰을 권장합니다. 이는 권장값이며 별도로 확립된 고정 출력 상한이 아닙니다. 더 큰 presence penalty는 반복을 줄일 수 있지만 언어를 섞거나 품질을 낮출 수 있습니다. 대화 기록에는 최종 답변만 유지하세요. 필요한 답변 스키마를 명확히 지정하고, 수학 결과·사실적 결론·생성 패치를 사용하기 전에 제공된 증거와 대조해 확인하세요.
POST /v1/messagestextjson, sse| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 qwen/qwen3-30b-a3b-fp8 | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 user, assistant | 기본값— |
필드messages[].content | 유형string | 요건필수 | 값과 한도 | 기본값— |
필드max_tokens | 유형integer | 요건필수 | 값과 한도 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
텍스트 · UTF-8 텍스트
messages[].content 문자열
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages, max_tokens |
매개변수optional_controls | 명세stream |
매개변수material_types | 명세text |
매개변수text_file_material | 명세실제 UTF-8 문서를 읽고 그 텍스트를 지정된 입력 또는 메시지 콘텐츠 문자열에 넣으세요. |
수명 주기: synchronous_or_streamed
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
| 설정 | 요금표 | 요금 |
|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 요금 입력 · 입력 토큰 $0.0002 / 1K 토큰 출력 · 출력 토큰 $0.001 / 1K 토큰 입력 · 캐시 읽기 $0 / 1K 토큰 입력 · 캐시 쓰기 $0 / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
{\n "model": "qwen/qwen3-30b-a3b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
모든 콘텐츠 블록, 사고 서명, 실제 도구 사용 ID를 보존하세요. 모든 SSE 블록 증분을 조합하세요. 첫 텍스트 블록이 전체 출력은 아닙니다.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드id | 유형string |
필드model | 유형string |
필드content[] | 유형text|thinking|tool_use|other content block |
필드stop_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
위에 표시된 메서드 경로를 사용하세요.
영어 기술 예제
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.