Meta Llama 3.2 3B Instruct는 다국어 어시스턴트 대화, 검색 근거 기반 작업, 요약을 위해 설계된 지시 튜닝 텍스트 모델입니다. 제조사의 모델 표에는 매개변수 3.21B의 3B급 모델로 명시되어 있습니다. 텍스트를 입력받아 텍스트 또는 코드를 생성합니다. 개발 과정에서 모델 가지치기와 지식 증류에 지시 튜닝을 결합하여 범위가 명확한 글쓰기 및 어시스턴트 작업을 위한 소형 모델 프로필을 만듭니다.
원천 자료, 질문, 예상 답변 형식을 모델에 제공하세요. 글쓰기 지원 요청에서는 독자, 어조, 유지할 세부 사항을 지정할 수 있습니다. 요약에서는 다룰 구역과 원하는 분량 또는 구조를 지정할 수 있습니다. 짧은 지식 베이스 답변을 원한다면 관련 구절을 제공하고 그 출처에 근거한 설명을 요청하세요.
제조사는 지시 튜닝 텍스트 모델의 용도로 지식 검색, 요약, 모바일 글쓰기 어시스턴트, 질의 재작성, 프롬프트 재작성을 제시합니다. 검색 애플리케이션은 찾은 구절을 제공하고 모델에 답변 작성을 요청할 수 있습니다. 독자나 다른 구성 요소가 근거를 점검할 수 있도록 결과와 함께 구절 식별자를 유지하세요.
질의 재작성에서는 원래 질문을 보존하고 그 의도를 유지하는 간결한 검색 문구를 요청하세요. 문서 요약에서는 주요 주장과 그 주장에 영향을 주는 조건을 요청하세요. 특히 짧은 답변으로 큰 원문을 압축할 때는 실제 출력에서 빠진 조건, 바뀐 수치, 만들어 낸 정보가 없는지 검토하세요.
공식 지원 언어는 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어의 8개입니다. 원하는 출력 언어를 명시하고 바뀌면 안 되는 이름이나 전문 용어의 표기를 유지하세요. 다국어 작업에서는 유창함에만 의존하지 말고 반환된 표현의 의미를 판단할 수 있을 만큼 원문의 맥락을 제공해야 합니다.
표준 Llama 3.2 텍스트 체크포인트는 128K토큰의 컨텍스트 윈도를 갖습니다. 관련 원천 자료, 대화 이력, 생성 결과에 이 예산을 사용하세요. 이어 가는 데 필요한 이전 결정을 보존하고 답변을 위한 공간을 남겨 두세요. 사전 학습 데이터 기준일은 2023년 12월이므로 이후 정보에는 작업 또는 주변 검색 애플리케이션이 제공하는 근거가 필요합니다.
이 모델은 어시스턴트 형태의 대화를 위해 준비한 Instruct 체크포인트입니다. 모델 카드는 지도 미세 조정과 사람의 선호에 따른 정렬, 소형 모델 개발 중 추가 증류를 설명합니다. 사용 예시는 채팅 형식으로 시스템 및 사용자 메시지를 제공합니다. 시스템 지시는 역할과 기대 출력을 정의하고, 사용자 메시지는 현재 작업과 출처를 제공할 수 있습니다.
체크포인트를 직접 사용할 때는 선택한 릴리스에 적합한 대화 형식을 유지하세요. 결과를 명확히 정의하고 제공한 근거와의 관계를 포함해 생성 응답을 점검하세요. 구조화된 텍스트 결과물에서는 필요한 필드나 제목을 지정하고 애플리케이션이 사용하기 전에 실제 출력을 검증하세요. 글로 형식을 요청했다고 해서 모든 값이 정확하다는 보장은 없습니다.
제조사는 표준 텍스트 모델과 별도로 공개된 양자화 Llama 3.2 텍스트 프로필을 구분합니다. 모델 표에는 양자화 프로필의 컨텍스트가 8K로 명시되어 있어 표준 128K 윈도와 다릅니다. 3B로 표시된 모든 배포가 동일한 컨텍스트 허용량을 유지한다고 가정하지 말고 모델과 작업 예산을 함께 선택하세요.
3B Instruct 모델은 Llama 3.2의 더 큰 비전 모델들과도 별개입니다. 이 텍스트 프로필에는 텍스트 원천 자료나 주변 애플리케이션이 얻은 텍스트를 준비하세요. 범위가 명확한 답변, 재작성, 요약 또는 짧은 코드 설명에 모델을 사용하세요. 선택한 체크포인트, 프롬프트, 출처를 결과와 함께 보관하고, 다음 지시는 누락된 세부 사항이나 관찰된 오류에 맞춰 구체적으로 작성하세요.
", "aboutText": "Meta Llama 3.2 3B Instruct는 다국어 어시스턴트 대화, 검색 근거 기반 작업, 요약을 위해 설계된 지시 튜닝 텍스트 모델입니다. 제조사의 모델 표에는 매개변수 3.21B의 3B급 모델로 명시되어 있습니다. 텍스트를 입력받아 텍스트 또는 코드를 생성합니다. 개발 과정에서 모델 가지치기와 지식 증류에 지시 튜닝을 결합하여 범위가 명확한 글쓰기 및 어시스턴트 작업을 위한 소형 모델 프로필을 만듭니다.\n\n### 범위가 명확한 텍스트 결과 정의\n\n원천 자료, 질문, 예상 답변 형식을 모델에 제공하세요. 글쓰기 지원 요청에서는 독자, 어조, 유지할 세부 사항을 지정할 수 있습니다. 요약에서는 다룰 구역과 원하는 분량 또는 구조를 지정할 수 있습니다. 짧은 지식 베이스 답변을 원한다면 관련 구절을 제공하고 그 출처에 근거한 설명을 요청하세요.\n\n제조사는 지시 튜닝 텍스트 모델의 용도로 지식 검색, 요약, 모바일 글쓰기 어시스턴트, 질의 재작성, 프롬프트 재작성을 제시합니다. 검색 애플리케이션은 찾은 구절을 제공하고 모델에 답변 작성을 요청할 수 있습니다. 독자나 다른 구성 요소가 근거를 점검할 수 있도록 결과와 함께 구절 식별자를 유지하세요.\n\n질의 재작성에서는 원래 질문을 보존하고 그 의도를 유지하는 간결한 검색 문구를 요청하세요. 문서 요약에서는 주요 주장과 그 주장에 영향을 주는 조건을 요청하세요. 특히 짧은 답변으로 큰 원문을 압축할 때는 실제 출력에서 빠진 조건, 바뀐 수치, 만들어 낸 정보가 없는지 검토하세요.\n\n### 언어와 컨텍스트\n\n공식 지원 언어는 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어의 8개입니다. 원하는 출력 언어를 명시하고 바뀌면 안 되는 이름이나 전문 용어의 표기를 유지하세요. 다국어 작업에서는 유창함에만 의존하지 말고 반환된 표현의 의미를 판단할 수 있을 만큼 원문의 맥락을 제공해야 합니다.\n\n표준 Llama 3.2 텍스트 체크포인트는 128K토큰의 컨텍스트 윈도를 갖습니다. 관련 원천 자료, 대화 이력, 생성 결과에 이 예산을 사용하세요. 이어 가는 데 필요한 이전 결정을 보존하고 답변을 위한 공간을 남겨 두세요. 사전 학습 데이터 기준일은 2023년 12월이므로 이후 정보에는 작업 또는 주변 검색 애플리케이션이 제공하는 근거가 필요합니다.\n\n### 지시 튜닝과 대화 형식\n\n이 모델은 어시스턴트 형태의 대화를 위해 준비한 Instruct 체크포인트입니다. 모델 카드는 지도 미세 조정과 사람의 선호에 따른 정렬, 소형 모델 개발 중 추가 증류를 설명합니다. 사용 예시는 채팅 형식으로 시스템 및 사용자 메시지를 제공합니다. 시스템 지시는 역할과 기대 출력을 정의하고, 사용자 메시지는 현재 작업과 출처를 제공할 수 있습니다.\n\n체크포인트를 직접 사용할 때는 선택한 릴리스에 적합한 대화 형식을 유지하세요. 결과를 명확히 정의하고 제공한 근거와의 관계를 포함해 생성 응답을 점검하세요. 구조화된 텍스트 결과물에서는 필요한 필드나 제목을 지정하고 애플리케이션이 사용하기 전에 실제 출력을 검증하세요. 글로 형식을 요청했다고 해서 모든 값이 정확하다는 보장은 없습니다.\n\n### 표준, 양자화, 비전 프로필\n\n제조사는 표준 텍스트 모델과 별도로 공개된 양자화 Llama 3.2 텍스트 프로필을 구분합니다. 모델 표에는 양자화 프로필의 컨텍스트가 8K로 명시되어 있어 표준 128K 윈도와 다릅니다. 3B로 표시된 모든 배포가 동일한 컨텍스트 허용량을 유지한다고 가정하지 말고 모델과 작업 예산을 함께 선택하세요.\n\n3B Instruct 모델은 Llama 3.2의 더 큰 비전 모델들과도 별개입니다. 이 텍스트 프로필에는 텍스트 원천 자료나 주변 애플리케이션이 얻은 텍스트를 준비하세요. 범위가 명확한 답변, 재작성, 요약 또는 짧은 코드 설명에 모델을 사용하세요. 선택한 체크포인트, 프롬프트, 출처를 결과와 함께 보관하고, 다음 지시는 누락된 세부 사항이나 관찰된 오류에 맞춰 구체적으로 작성하세요.", "editorialOverlay": { "copy_fields": { "practical_html": "영어 기술 예제
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct는 다국어 채팅, 검색 근거 기반 요약, 글쓰기 지원을 위한 소형 텍스트 모델입니다. 표준 체크포인트는 128K 컨텍스트를 갖지만, 별도로 공개된 양자화 변형은 작업 윈도가 다릅니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Meta Llama 3.2 3B Instruct는 다국어 어시스턴트 대화, 검색 근거 기반 작업, 요약을 위해 설계된 지시 튜닝 텍스트 모델입니다. 제조사의 모델 표에는 매개변수 3.21B의 3B급 모델로 명시되어 있습니다. 텍스트를 입력받아 텍스트 또는 코드를 생성합니다. 개발 과정에서 모델 가지치기와 지식 증류에 지시 튜닝을 결합하여 범위가 명확한 글쓰기 및 어시스턴트 작업을 위한 소형 모델 프로필을 만듭니다.
원천 자료, 질문, 예상 답변 형식을 모델에 제공하세요. 글쓰기 지원 요청에서는 독자, 어조, 유지할 세부 사항을 지정할 수 있습니다. 요약에서는 다룰 구역과 원하는 분량 또는 구조를 지정할 수 있습니다. 짧은 지식 베이스 답변을 원한다면 관련 구절을 제공하고 그 출처에 근거한 설명을 요청하세요.
제조사는 지시 튜닝 텍스트 모델의 용도로 지식 검색, 요약, 모바일 글쓰기 어시스턴트, 질의 재작성, 프롬프트 재작성을 제시합니다. 검색 애플리케이션은 찾은 구절을 제공하고 모델에 답변 작성을 요청할 수 있습니다. 독자나 다른 구성 요소가 근거를 점검할 수 있도록 결과와 함께 구절 식별자를 유지하세요.
질의 재작성에서는 원래 질문을 보존하고 그 의도를 유지하는 간결한 검색 문구를 요청하세요. 문서 요약에서는 주요 주장과 그 주장에 영향을 주는 조건을 요청하세요. 특히 짧은 답변으로 큰 원문을 압축할 때는 실제 출력에서 빠진 조건, 바뀐 수치, 만들어 낸 정보가 없는지 검토하세요.
공식 지원 언어는 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어의 8개입니다. 원하는 출력 언어를 명시하고 바뀌면 안 되는 이름이나 전문 용어의 표기를 유지하세요. 다국어 작업에서는 유창함에만 의존하지 말고 반환된 표현의 의미를 판단할 수 있을 만큼 원문의 맥락을 제공해야 합니다.
표준 Llama 3.2 텍스트 체크포인트는 128K토큰의 컨텍스트 윈도를 갖습니다. 관련 원천 자료, 대화 이력, 생성 결과에 이 예산을 사용하세요. 이어 가는 데 필요한 이전 결정을 보존하고 답변을 위한 공간을 남겨 두세요. 사전 학습 데이터 기준일은 2023년 12월이므로 이후 정보에는 작업 또는 주변 검색 애플리케이션이 제공하는 근거가 필요합니다.
이 모델은 어시스턴트 형태의 대화를 위해 준비한 Instruct 체크포인트입니다. 모델 카드는 지도 미세 조정과 사람의 선호에 따른 정렬, 소형 모델 개발 중 추가 증류를 설명합니다. 사용 예시는 채팅 형식으로 시스템 및 사용자 메시지를 제공합니다. 시스템 지시는 역할과 기대 출력을 정의하고, 사용자 메시지는 현재 작업과 출처를 제공할 수 있습니다.
체크포인트를 직접 사용할 때는 선택한 릴리스에 적합한 대화 형식을 유지하세요. 결과를 명확히 정의하고 제공한 근거와의 관계를 포함해 생성 응답을 점검하세요. 구조화된 텍스트 결과물에서는 필요한 필드나 제목을 지정하고 애플리케이션이 사용하기 전에 실제 출력을 검증하세요. 글로 형식을 요청했다고 해서 모든 값이 정확하다는 보장은 없습니다.
제조사는 표준 텍스트 모델과 별도로 공개된 양자화 Llama 3.2 텍스트 프로필을 구분합니다. 모델 표에는 양자화 프로필의 컨텍스트가 8K로 명시되어 있어 표준 128K 윈도와 다릅니다. 3B로 표시된 모든 배포가 동일한 컨텍스트 허용량을 유지한다고 가정하지 말고 모델과 작업 예산을 함께 선택하세요.
3B Instruct 모델은 Llama 3.2의 더 큰 비전 모델들과도 별개입니다. 이 텍스트 프로필에는 텍스트 원천 자료나 주변 애플리케이션이 얻은 텍스트를 준비하세요. 범위가 명확한 답변, 재작성, 요약 또는 짧은 코드 설명에 모델을 사용하세요. 선택한 체크포인트, 프롬프트, 출처를 결과와 함께 보관하고, 다음 지시는 누락된 세부 사항이나 관찰된 오류에 맞춰 구체적으로 작성하세요.
POST /v1/chat/completionstexttext| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 meta-llama/llama-3.2-3b-instruct | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 예시: system, user, assistant, tool, function 조건: 이 역할들은 소스 코드의 호환 타입에 명시적으로 표현됩니다. 정확한 모델 역할 집합은 모델별로 다릅니다. 모델에 따라 다름 | 기본값— |
필드messages[].content | 유형string|content_part[]|null | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_calls | 유형tool_call[] | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_call_id | 유형string | 요건선택 사항 | 값과 한도 적용 조건: role=tool. 실제 반환된 ID를 사용하세요 | 기본값— |
필드messages[].name | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].reasoning_content | 유형string | 요건선택 사항 | 값과 한도 적용 조건: 이 모델이 추론을 사용하는 경우 실제 반환된 추론을 그대로 다음 요청에 다시 전달하세요 | 기본값— |
필드messages[].reasoning_details | 유형object|array | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드max_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드max_completion_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
필드stream_options.include_usage | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드temperature | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드top_p | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드stop | 유형string|string[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools | 유형function_tool[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools[].type | 유형string | 요건선택 사항 | 값과 한도 function 모델에 따라 다름 | 기본값— |
필드tools[].function.name | 유형string | 요건필수 | 값과 한도 적용 조건: 함수 도구 지정됨 | 기본값— |
필드tools[].function.description | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드tools[].function.parameters | 유형JSON_schema | 요건선택 사항 | 값과 한도 | 기본값— |
필드tool_choice | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드parallel_tool_calls | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드response_format | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning_effort | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드service_tier | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드instructions | 유형string | 요건선택 사항 | 값과 한도 호환성 필드 | 기본값— |
필드functions | 유형function[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드function_call | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드prompt_cache_options | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드modalities | 유형string[] | 요건선택 사항 | 값과 한도 text | 기본값— |
필드provider | 유형object | 요건선택 사항 | 값과 한도 조건: 이 Ultra 텍스트 경로에서는 provider.options가 거부됩니다 | 기본값— |
필드cache_control.ttl | 유형string | 요건선택 사항 | 값과 한도 조건: 실제 프롬프트 캐시 지정 위치에서는 1h가 거부됩니다 | 기본값— |
텍스트 · UTF8 텍스트
messages[].content
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages |
매개변수material_types | 명세text |
매개변수messages | 명세role/content 형식의 메시지 배열 |
매개변수file_material | 명세실제 UTF-8 문서를 텍스트로 그대로 삽입합니다. 파일 ID는 추정하지 않습니다 |
매개변수optional_controls | 명세stream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
매개변수control_scope | 명세모델별로 다름. 사용자 함수 도구와 호스팅 도구는 서로 다릅니다 |
매개변수output_modalities | 명세text |
매개변수hosted_operations | 명세false |
매개변수multimodal_input_binding | 명세null |
수명 주기: synchronous_or_streamed
정확한 모델 ID를 messages와 함께 보내세요.
컨텍스트 길이는 출력 상한이 아닙니다.
텍스트 파일은 텍스트를 그대로 제공할 수 있습니다. 이미지/오디오/파일 객체 입력에는 정확한 바인딩이 필요합니다.
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0001 / 1K 토큰 출력 · 출력 토큰 $0.00066 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0001 / 1K 토큰 출력 · 출력 토큰 $0.00066 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-3b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
각 선택지와 그 콘텐츠·도구 호출·추론을 모두 보존하세요. SSE에서는 선택지/도구 인덱스별로 증분을 조합하고 최종 종료 사유와 사용량을 유지하세요.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드choices[].index | 유형integer |
필드choices[].message.content | 유형string|null |
필드choices[].message.tool_calls | 유형tool_call[] |
필드choices[].message.reasoning_content | 유형string |
필드choices[].message.reasoning_details | 유형object|array |
필드choices[].finish_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
위에 표시된 메서드 경로를 사용하세요.
meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct는 다국어 채팅, 검색 근거 기반 요약, 글쓰기 지원을 위한 소형 텍스트 모델입니다. 표준 체크포인트는 128K 컨텍스트를 갖지만, 별도로 공개된 양자화 변형은 작업 윈도가 다릅니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Meta Llama 3.2 3B Instruct는 다국어 어시스턴트 대화, 검색 근거 기반 작업, 요약을 위해 설계된 지시 튜닝 텍스트 모델입니다. 제조사의 모델 표에는 매개변수 3.21B의 3B급 모델로 명시되어 있습니다. 텍스트를 입력받아 텍스트 또는 코드를 생성합니다. 개발 과정에서 모델 가지치기와 지식 증류에 지시 튜닝을 결합하여 범위가 명확한 글쓰기 및 어시스턴트 작업을 위한 소형 모델 프로필을 만듭니다.
원천 자료, 질문, 예상 답변 형식을 모델에 제공하세요. 글쓰기 지원 요청에서는 독자, 어조, 유지할 세부 사항을 지정할 수 있습니다. 요약에서는 다룰 구역과 원하는 분량 또는 구조를 지정할 수 있습니다. 짧은 지식 베이스 답변을 원한다면 관련 구절을 제공하고 그 출처에 근거한 설명을 요청하세요.
제조사는 지시 튜닝 텍스트 모델의 용도로 지식 검색, 요약, 모바일 글쓰기 어시스턴트, 질의 재작성, 프롬프트 재작성을 제시합니다. 검색 애플리케이션은 찾은 구절을 제공하고 모델에 답변 작성을 요청할 수 있습니다. 독자나 다른 구성 요소가 근거를 점검할 수 있도록 결과와 함께 구절 식별자를 유지하세요.
질의 재작성에서는 원래 질문을 보존하고 그 의도를 유지하는 간결한 검색 문구를 요청하세요. 문서 요약에서는 주요 주장과 그 주장에 영향을 주는 조건을 요청하세요. 특히 짧은 답변으로 큰 원문을 압축할 때는 실제 출력에서 빠진 조건, 바뀐 수치, 만들어 낸 정보가 없는지 검토하세요.
공식 지원 언어는 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어의 8개입니다. 원하는 출력 언어를 명시하고 바뀌면 안 되는 이름이나 전문 용어의 표기를 유지하세요. 다국어 작업에서는 유창함에만 의존하지 말고 반환된 표현의 의미를 판단할 수 있을 만큼 원문의 맥락을 제공해야 합니다.
표준 Llama 3.2 텍스트 체크포인트는 128K토큰의 컨텍스트 윈도를 갖습니다. 관련 원천 자료, 대화 이력, 생성 결과에 이 예산을 사용하세요. 이어 가는 데 필요한 이전 결정을 보존하고 답변을 위한 공간을 남겨 두세요. 사전 학습 데이터 기준일은 2023년 12월이므로 이후 정보에는 작업 또는 주변 검색 애플리케이션이 제공하는 근거가 필요합니다.
이 모델은 어시스턴트 형태의 대화를 위해 준비한 Instruct 체크포인트입니다. 모델 카드는 지도 미세 조정과 사람의 선호에 따른 정렬, 소형 모델 개발 중 추가 증류를 설명합니다. 사용 예시는 채팅 형식으로 시스템 및 사용자 메시지를 제공합니다. 시스템 지시는 역할과 기대 출력을 정의하고, 사용자 메시지는 현재 작업과 출처를 제공할 수 있습니다.
체크포인트를 직접 사용할 때는 선택한 릴리스에 적합한 대화 형식을 유지하세요. 결과를 명확히 정의하고 제공한 근거와의 관계를 포함해 생성 응답을 점검하세요. 구조화된 텍스트 결과물에서는 필요한 필드나 제목을 지정하고 애플리케이션이 사용하기 전에 실제 출력을 검증하세요. 글로 형식을 요청했다고 해서 모든 값이 정확하다는 보장은 없습니다.
제조사는 표준 텍스트 모델과 별도로 공개된 양자화 Llama 3.2 텍스트 프로필을 구분합니다. 모델 표에는 양자화 프로필의 컨텍스트가 8K로 명시되어 있어 표준 128K 윈도와 다릅니다. 3B로 표시된 모든 배포가 동일한 컨텍스트 허용량을 유지한다고 가정하지 말고 모델과 작업 예산을 함께 선택하세요.
3B Instruct 모델은 Llama 3.2의 더 큰 비전 모델들과도 별개입니다. 이 텍스트 프로필에는 텍스트 원천 자료나 주변 애플리케이션이 얻은 텍스트를 준비하세요. 범위가 명확한 답변, 재작성, 요약 또는 짧은 코드 설명에 모델을 사용하세요. 선택한 체크포인트, 프롬프트, 출처를 결과와 함께 보관하고, 다음 지시는 누락된 세부 사항이나 관찰된 오류에 맞춰 구체적으로 작성하세요.
POST /v1/messagestextjson, sse| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 meta-llama/llama-3.2-3b-instruct | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 user, assistant | 기본값— |
필드messages[].content | 유형string | 요건필수 | 값과 한도 | 기본값— |
필드max_tokens | 유형integer | 요건필수 | 값과 한도 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
텍스트 · UTF-8 텍스트
messages[].content 문자열
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages, max_tokens |
매개변수optional_controls | 명세stream |
매개변수material_types | 명세text |
매개변수text_file_material | 명세실제 UTF-8 문서를 읽고 그 텍스트를 지정된 입력 또는 메시지 콘텐츠 문자열에 넣으세요. |
수명 주기: synchronous_or_streamed
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0001 / 1K 토큰 출력 · 출력 토큰 $0.00066 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0001 / 1K 토큰 출력 · 출력 토큰 $0.00066 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
{\n "model": "meta-llama/llama-3.2-3b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
모든 콘텐츠 블록, 사고 서명, 실제 도구 사용 ID를 보존하세요. 모든 SSE 블록 증분을 조합하세요. 첫 텍스트 블록이 전체 출력은 아닙니다.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드id | 유형string |
필드model | 유형string |
필드content[] | 유형text|thinking|tool_use|other content block |
필드stop_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
위에 표시된 메서드 경로를 사용하세요.
영어 기술 예제
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.