Llama 3.2 1B Instruct는 Meta의 소형 지시 튜닝 텍스트 모델로, 제조사 표에 매개변수 수가 12억 3000만 개로 명시되어 있습니다. 다국어 텍스트를 입력받아 텍스트 또는 코드를 반환합니다. 이 릴리스는 Llama의 별도 비전 버전이 수행하는 이미지 이해 작업보다는 대화, 지식 검색, 요약, 모바일 글쓰기 어시스턴트, 질의 또는 프롬프트 재작성을 대상으로 합니다.
모델 정보와 컨텍스트
모델은 그룹화 쿼리 어텐션과 공유 임베딩을 갖춘 자기회귀 Transformer 아키텍처를 사용합니다. Meta는 사전 학습 모델과 지시 튜닝 모델을 1B 및 3B 크기로 구분합니다. 이 항목은 사전 학습 기반 모델로 쓰기보다 대화에서 사용자 요청을 따르는 1B Instruct 체크포인트입니다.
일반 텍스트 릴리스에는 128k 컨텍스트가 문서화되어 있습니다. 제조사는 양자화 텍스트 모델에 8k 컨텍스트를 별도로 명시합니다. 이 구성들은 구분해야 합니다. 양자화는 일반 릴리스의 컨텍스트를 모든 소형 형식 체크포인트에 적용하거나 특정 서비스의 설정 용량을 추론해도 된다는 뜻이 아닙니다.
정의된 작업 하나에 관련된 구절과 대화에 컨텍스트를 사용하세요. 긴 문서라도 요청 결과는 짧은 요약, 재작성한 검색 질의, 출처 기반 답변일 수 있습니다. 결과에 유지해야 할 자료와 다음 애플리케이션 단계에 필요한 분량이나 필드를 지정하세요.
검색, 요약, 재작성
요약할 때는 실제 구절이나 대화를 제공하고 독자, 분량, 핵심 사실을 지정하세요. 유용한 결과는 중심 문제, 이미 명시된 결정, 미해결 질문을 구분할 수 있습니다. 원문에 여러 주제가 있으면 전체를 방향 없이 줄이도록 요청하기보다 요약할 주제를 지정하세요.
지식 검색에서는 선택한 원문 구절이나 검색 구성 요소가 반환한 정보를 제공하세요. 질문에 답하는 진술과 이를 뒷받침하는 구절을 요청하세요. 모델의 텍스트 응답은 검색한 정보를 설명할 수 있지만 비공개 자료 모음을 검색하는 일은 연결된 애플리케이션이 담당합니다. 검색이라는 사용 사례 이름만으로 해당 자료 모음에 접근하게 되는 것은 아닙니다.
질의 재작성에서는 원래 질문과 검색 목적을 제공하세요. 대상, 조건, 원하는 정보를 보존하는 간결한 재구성을 요청하세요. 지원 문의는 사용자 메시지에 없는 사실을 추가하지 않고 중요한 제품 용어와 동작을 포함해 재작성할 수 있습니다. 다른 구성 요소가 직접 사용할 경우 수정한 질의를 설명과 따로 반환하세요.
글쓰기 어시스턴트에는 짧은 편지나 수정 구절을 요청하기 전에 독자, 어조, 원천 사실을 지정하세요. 추출 작업에는 필드와 정보가 없을 때의 표현 방식을 정의하세요. 이는 소형 모델에 문서화된 텍스트 중심 기능을 점검 가능한 결과물로 연결하는 구체적인 작업입니다.
지원 언어와 학습
공식 지원 언어는 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어입니다. 모델은 더 넓은 언어 모음으로 학습했지만, 이는 카드가 명시적으로 지원하는 8개 언어와 구별됩니다. 최종 언어와 바꾸면 안 되는 용어나 식별자를 지정하세요.
이 계열은 최대 9조 토큰으로 사전 학습하며 데이터 기준일은 2023년 12월입니다. 제조사는 1B와 3B 모델에 Llama 3.1 8B 및 70B의 출력을 토큰 수준 학습 목표로 사용하고 가지치기 후 지식 증류를 수행합니다. 이는 학습 과정이며, 배포된 1B 모델이 사용자 질문마다 더 큰 모델에 답변을 요청한다는 뜻이 아닙니다.
카드는 지도 미세 조정과 선호 기반 정렬을 설명하며, 후속 학습에는 지도 예시, 거부 샘플링, 직접 선호 최적화가 포함됩니다. 이러한 단계는 해당 체크포인트의 이름과 텍스트 전용 모달리티를 유지하면서 Instruct 동작을 형성합니다.
대화와 양자화 버전
제조사는 해당 대화 형식으로 별도의 시스템 및 사용자 메시지를 보여 줍니다. 실제 원문과 분리해 어시스턴트의 역할 및 응답 요구 사항을 정의하세요. 후속 요청이 같은 정보의 수정, 설명, 다른 형식을 요구할 때는 관련 이전 답변을 유지하세요.
릴리스에는 양자화 인지 변형과 학습 후 양자화 변형도 구분해 문서화되어 있습니다. 해당 정밀도와 8k 컨텍스트는 이 일반 Instruct 항목의 보편적 사양이 아니라 각 변형의 사양입니다. 반복 작업을 비교하거나 파생 배포를 준비할 때는 정확한 체크포인트와 구성을 사용하세요.
주요 경계
이 1B 릴리스는 텍스트 전용입니다. Llama 3.2의 11B 또는 90B 비전 모델의 이미지 입력, Llama 4의 텍스트 및 이미지 기능, Muse Spark의 이름이 지정된 추론 노력 제어를 가져와서는 안 됩니다. 카드의 256토큰 생성 예시는 예시 설정이며 별도로 명시한 최대 답변 용량이 아닙니다.
실용적인 최종 결과는 요청한 요약, 질의, 추출 레코드 또는 재작성 텍스트이며, 원문의 관련 의미와 식별자를 보존해야 합니다. 검토한 출처에는 별도의 엄격한 출력 토큰 상한이 명시되어 있지 않습니다. 작업 범위를 명확히 하고 해당 작업에 필요한 입력 자료를 완전하게 제공하며, 일반 버전과 양자화 버전의 컨텍스트 차이를 명시적으로 유지하세요.
", "aboutText": "Llama 3.2 1B Instruct는 Meta의 소형 지시 튜닝 텍스트 모델로, 제조사 표에 매개변수 수가 12억 3000만 개로 명시되어 있습니다. 다국어 텍스트를 입력받아 텍스트 또는 코드를 반환합니다. 이 릴리스는 Llama의 별도 비전 버전이 수행하는 이미지 이해 작업보다는 대화, 지식 검색, 요약, 모바일 글쓰기 어시스턴트, 질의 또는 프롬프트 재작성을 대상으로 합니다.\n\n모델 정보와 컨텍스트\n\n모델은 그룹화 쿼리 어텐션과 공유 임베딩을 갖춘 자기회귀 Transformer 아키텍처를 사용합니다. Meta는 사전 학습 모델과 지시 튜닝 모델을 1B 및 3B 크기로 구분합니다. 이 항목은 사전 학습 기반 모델로 쓰기보다 대화에서 사용자 요청을 따르는 1B Instruct 체크포인트입니다.\n\n일반 텍스트 릴리스에는 128k 컨텍스트가 문서화되어 있습니다. 제조사는 양자화 텍스트 모델에 8k 컨텍스트를 별도로 명시합니다. 이 구성들은 구분해야 합니다. 양자화는 일반 릴리스의 컨텍스트를 모든 소형 형식 체크포인트에 적용하거나 특정 서비스의 설정 용량을 추론해도 된다는 뜻이 아닙니다.\n\n정의된 작업 하나에 관련된 구절과 대화에 컨텍스트를 사용하세요. 긴 문서라도 요청 결과는 짧은 요약, 재작성한 검색 질의, 출처 기반 답변일 수 있습니다. 결과에 유지해야 할 자료와 다음 애플리케이션 단계에 필요한 분량이나 필드를 지정하세요.\n\n검색, 요약, 재작성\n\n요약할 때는 실제 구절이나 대화를 제공하고 독자, 분량, 핵심 사실을 지정하세요. 유용한 결과는 중심 문제, 이미 명시된 결정, 미해결 질문을 구분할 수 있습니다. 원문에 여러 주제가 있으면 전체를 방향 없이 줄이도록 요청하기보다 요약할 주제를 지정하세요.\n\n지식 검색에서는 선택한 원문 구절이나 검색 구성 요소가 반환한 정보를 제공하세요. 질문에 답하는 진술과 이를 뒷받침하는 구절을 요청하세요. 모델의 텍스트 응답은 검색한 정보를 설명할 수 있지만 비공개 자료 모음을 검색하는 일은 연결된 애플리케이션이 담당합니다. 검색이라는 사용 사례 이름만으로 해당 자료 모음에 접근하게 되는 것은 아닙니다.\n\n질의 재작성에서는 원래 질문과 검색 목적을 제공하세요. 대상, 조건, 원하는 정보를 보존하는 간결한 재구성을 요청하세요. 지원 문의는 사용자 메시지에 없는 사실을 추가하지 않고 중요한 제품 용어와 동작을 포함해 재작성할 수 있습니다. 다른 구성 요소가 직접 사용할 경우 수정한 질의를 설명과 따로 반환하세요.\n\n글쓰기 어시스턴트에는 짧은 편지나 수정 구절을 요청하기 전에 독자, 어조, 원천 사실을 지정하세요. 추출 작업에는 필드와 정보가 없을 때의 표현 방식을 정의하세요. 이는 소형 모델에 문서화된 텍스트 중심 기능을 점검 가능한 결과물로 연결하는 구체적인 작업입니다.\n\n지원 언어와 학습\n\n공식 지원 언어는 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어입니다. 모델은 더 넓은 언어 모음으로 학습했지만, 이는 카드가 명시적으로 지원하는 8개 언어와 구별됩니다. 최종 언어와 바꾸면 안 되는 용어나 식별자를 지정하세요.\n\n이 계열은 최대 9조 토큰으로 사전 학습하며 데이터 기준일은 2023년 12월입니다. 제조사는 1B와 3B 모델에 Llama 3.1 8B 및 70B의 출력을 토큰 수준 학습 목표로 사용하고 가지치기 후 지식 증류를 수행합니다. 이는 학습 과정이며, 배포된 1B 모델이 사용자 질문마다 더 큰 모델에 답변을 요청한다는 뜻이 아닙니다.\n\n카드는 지도 미세 조정과 선호 기반 정렬을 설명하며, 후속 학습에는 지도 예시, 거부 샘플링, 직접 선호 최적화가 포함됩니다. 이러한 단계는 해당 체크포인트의 이름과 텍스트 전용 모달리티를 유지하면서 Instruct 동작을 형성합니다.\n\n대화와 양자화 버전\n\n제조사는 해당 대화 형식으로 별도의 시스템 및 사용자 메시지를 보여 줍니다. 실제 원문과 분리해 어시스턴트의 역할 및 응답 요구 사항을 정의하세요. 후속 요청이 같은 정보의 수정, 설명, 다른 형식을 요구할 때는 관련 이전 답변을 유지하세요.\n\n릴리스에는 양자화 인지 변형과 학습 후 양자화 변형도 구분해 문서화되어 있습니다. 해당 정밀도와 8k 컨텍스트는 이 일반 Instruct 항목의 보편적 사양이 아니라 각 변형의 사양입니다. 반복 작업을 비교하거나 파생 배포를 준비할 때는 정확한 체크포인트와 구성을 사용하세요.\n\n주요 경계\n\n이 1B 릴리스는 텍스트 전용입니다. Llama 3.2의 11B 또는 90B 비전 모델의 이미지 입력, Llama 4의 텍스트 및 이미지 기능, Muse Spark의 이름이 지정된 추론 노력 제어를 가져와서는 안 됩니다. 카드의 256토큰 생성 예시는 예시 설정이며 별도로 명시한 최대 답변 용량이 아닙니다.\n\n실용적인 최종 결과는 요청한 요약, 질의, 추출 레코드 또는 재작성 텍스트이며, 원문의 관련 의미와 식별자를 보존해야 합니다. 검토한 출처에는 별도의 엄격한 출력 토큰 상한이 명시되어 있지 않습니다. 작업 범위를 명확히 하고 해당 작업에 필요한 입력 자료를 완전하게 제공하며, 일반 버전과 양자화 버전의 컨텍스트 차이를 명시적으로 유지하세요.", "editorialOverlay": { "copy_fields": { "practical_html": "영어 기술 예제
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct는 대화, 요약, 지식 검색, 질의 재작성을 위한 Meta의 소형 1.23B 텍스트 모델입니다. 제조사는 일반 릴리스에 128k, 별도의 양자화 변형에 8k 컨텍스트를 명시하며, 다국어 텍스트와 코드를 출력합니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Llama 3.2 1B Instruct는 Meta의 소형 지시 튜닝 텍스트 모델로, 제조사 표에 매개변수 수가 12억 3000만 개로 명시되어 있습니다. 다국어 텍스트를 입력받아 텍스트 또는 코드를 반환합니다. 이 릴리스는 Llama의 별도 비전 버전이 수행하는 이미지 이해 작업보다는 대화, 지식 검색, 요약, 모바일 글쓰기 어시스턴트, 질의 또는 프롬프트 재작성을 대상으로 합니다.
모델 정보와 컨텍스트
모델은 그룹화 쿼리 어텐션과 공유 임베딩을 갖춘 자기회귀 Transformer 아키텍처를 사용합니다. Meta는 사전 학습 모델과 지시 튜닝 모델을 1B 및 3B 크기로 구분합니다. 이 항목은 사전 학습 기반 모델로 쓰기보다 대화에서 사용자 요청을 따르는 1B Instruct 체크포인트입니다.
일반 텍스트 릴리스에는 128k 컨텍스트가 문서화되어 있습니다. 제조사는 양자화 텍스트 모델에 8k 컨텍스트를 별도로 명시합니다. 이 구성들은 구분해야 합니다. 양자화는 일반 릴리스의 컨텍스트를 모든 소형 형식 체크포인트에 적용하거나 특정 서비스의 설정 용량을 추론해도 된다는 뜻이 아닙니다.
정의된 작업 하나에 관련된 구절과 대화에 컨텍스트를 사용하세요. 긴 문서라도 요청 결과는 짧은 요약, 재작성한 검색 질의, 출처 기반 답변일 수 있습니다. 결과에 유지해야 할 자료와 다음 애플리케이션 단계에 필요한 분량이나 필드를 지정하세요.
검색, 요약, 재작성
요약할 때는 실제 구절이나 대화를 제공하고 독자, 분량, 핵심 사실을 지정하세요. 유용한 결과는 중심 문제, 이미 명시된 결정, 미해결 질문을 구분할 수 있습니다. 원문에 여러 주제가 있으면 전체를 방향 없이 줄이도록 요청하기보다 요약할 주제를 지정하세요.
지식 검색에서는 선택한 원문 구절이나 검색 구성 요소가 반환한 정보를 제공하세요. 질문에 답하는 진술과 이를 뒷받침하는 구절을 요청하세요. 모델의 텍스트 응답은 검색한 정보를 설명할 수 있지만 비공개 자료 모음을 검색하는 일은 연결된 애플리케이션이 담당합니다. 검색이라는 사용 사례 이름만으로 해당 자료 모음에 접근하게 되는 것은 아닙니다.
질의 재작성에서는 원래 질문과 검색 목적을 제공하세요. 대상, 조건, 원하는 정보를 보존하는 간결한 재구성을 요청하세요. 지원 문의는 사용자 메시지에 없는 사실을 추가하지 않고 중요한 제품 용어와 동작을 포함해 재작성할 수 있습니다. 다른 구성 요소가 직접 사용할 경우 수정한 질의를 설명과 따로 반환하세요.
글쓰기 어시스턴트에는 짧은 편지나 수정 구절을 요청하기 전에 독자, 어조, 원천 사실을 지정하세요. 추출 작업에는 필드와 정보가 없을 때의 표현 방식을 정의하세요. 이는 소형 모델에 문서화된 텍스트 중심 기능을 점검 가능한 결과물로 연결하는 구체적인 작업입니다.
지원 언어와 학습
공식 지원 언어는 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어입니다. 모델은 더 넓은 언어 모음으로 학습했지만, 이는 카드가 명시적으로 지원하는 8개 언어와 구별됩니다. 최종 언어와 바꾸면 안 되는 용어나 식별자를 지정하세요.
이 계열은 최대 9조 토큰으로 사전 학습하며 데이터 기준일은 2023년 12월입니다. 제조사는 1B와 3B 모델에 Llama 3.1 8B 및 70B의 출력을 토큰 수준 학습 목표로 사용하고 가지치기 후 지식 증류를 수행합니다. 이는 학습 과정이며, 배포된 1B 모델이 사용자 질문마다 더 큰 모델에 답변을 요청한다는 뜻이 아닙니다.
카드는 지도 미세 조정과 선호 기반 정렬을 설명하며, 후속 학습에는 지도 예시, 거부 샘플링, 직접 선호 최적화가 포함됩니다. 이러한 단계는 해당 체크포인트의 이름과 텍스트 전용 모달리티를 유지하면서 Instruct 동작을 형성합니다.
대화와 양자화 버전
제조사는 해당 대화 형식으로 별도의 시스템 및 사용자 메시지를 보여 줍니다. 실제 원문과 분리해 어시스턴트의 역할 및 응답 요구 사항을 정의하세요. 후속 요청이 같은 정보의 수정, 설명, 다른 형식을 요구할 때는 관련 이전 답변을 유지하세요.
릴리스에는 양자화 인지 변형과 학습 후 양자화 변형도 구분해 문서화되어 있습니다. 해당 정밀도와 8k 컨텍스트는 이 일반 Instruct 항목의 보편적 사양이 아니라 각 변형의 사양입니다. 반복 작업을 비교하거나 파생 배포를 준비할 때는 정확한 체크포인트와 구성을 사용하세요.
주요 경계
이 1B 릴리스는 텍스트 전용입니다. Llama 3.2의 11B 또는 90B 비전 모델의 이미지 입력, Llama 4의 텍스트 및 이미지 기능, Muse Spark의 이름이 지정된 추론 노력 제어를 가져와서는 안 됩니다. 카드의 256토큰 생성 예시는 예시 설정이며 별도로 명시한 최대 답변 용량이 아닙니다.
실용적인 최종 결과는 요청한 요약, 질의, 추출 레코드 또는 재작성 텍스트이며, 원문의 관련 의미와 식별자를 보존해야 합니다. 검토한 출처에는 별도의 엄격한 출력 토큰 상한이 명시되어 있지 않습니다. 작업 범위를 명확히 하고 해당 작업에 필요한 입력 자료를 완전하게 제공하며, 일반 버전과 양자화 버전의 컨텍스트 차이를 명시적으로 유지하세요.
POST /v1/chat/completionstexttext| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 meta-llama/llama-3.2-1b-instruct | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 예시: system, user, assistant, tool, function 조건: 이 역할들은 소스 코드의 호환 타입에 명시적으로 표현됩니다. 정확한 모델 역할 집합은 모델별로 다릅니다. 모델에 따라 다름 | 기본값— |
필드messages[].content | 유형string|content_part[]|null | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_calls | 유형tool_call[] | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_call_id | 유형string | 요건선택 사항 | 값과 한도 적용 조건: role=tool. 실제 반환된 ID를 사용하세요 | 기본값— |
필드messages[].name | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].reasoning_content | 유형string | 요건선택 사항 | 값과 한도 적용 조건: 이 모델이 추론을 사용하는 경우 실제 반환된 추론을 그대로 다음 요청에 다시 전달하세요 | 기본값— |
필드messages[].reasoning_details | 유형object|array | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드max_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드max_completion_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
필드stream_options.include_usage | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드temperature | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드top_p | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드stop | 유형string|string[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools | 유형function_tool[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools[].type | 유형string | 요건선택 사항 | 값과 한도 function 모델에 따라 다름 | 기본값— |
필드tools[].function.name | 유형string | 요건필수 | 값과 한도 적용 조건: 함수 도구 지정됨 | 기본값— |
필드tools[].function.description | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드tools[].function.parameters | 유형JSON_schema | 요건선택 사항 | 값과 한도 | 기본값— |
필드tool_choice | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드parallel_tool_calls | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드response_format | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning_effort | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드service_tier | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드instructions | 유형string | 요건선택 사항 | 값과 한도 호환성 필드 | 기본값— |
필드functions | 유형function[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드function_call | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드prompt_cache_options | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드modalities | 유형string[] | 요건선택 사항 | 값과 한도 text | 기본값— |
필드provider | 유형object | 요건선택 사항 | 값과 한도 조건: 이 Ultra 텍스트 경로에서는 provider.options가 거부됩니다 | 기본값— |
필드cache_control.ttl | 유형string | 요건선택 사항 | 값과 한도 조건: 실제 프롬프트 캐시 지정 위치에서는 1h가 거부됩니다 | 기본값— |
텍스트 · UTF8 텍스트
messages[].content
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages |
매개변수material_types | 명세text |
매개변수messages | 명세role/content 형식의 메시지 배열 |
매개변수file_material | 명세실제 UTF-8 문서를 텍스트로 그대로 삽입합니다. 파일 ID는 추정하지 않습니다 |
매개변수optional_controls | 명세stream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
매개변수control_scope | 명세모델별로 다름. 사용자 함수 도구와 호스팅 도구는 서로 다릅니다 |
매개변수output_modalities | 명세text |
매개변수hosted_operations | 명세false |
매개변수multimodal_input_binding | 명세null |
수명 주기: synchronous_or_streamed
정확한 모델 ID를 messages와 함께 보내세요.
컨텍스트 길이는 출력 상한이 아닙니다.
텍스트 파일은 텍스트를 그대로 제공할 수 있습니다. 이미지/오디오/파일 객체 입력에는 정확한 바인딩이 필요합니다.
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.000054 / 1K 토큰 출력 · 출력 토큰 $0.000402 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.000054 / 1K 토큰 출력 · 출력 토큰 $0.000402 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
각 선택지와 그 콘텐츠·도구 호출·추론을 모두 보존하세요. SSE에서는 선택지/도구 인덱스별로 증분을 조합하고 최종 종료 사유와 사용량을 유지하세요.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드choices[].index | 유형integer |
필드choices[].message.content | 유형string|null |
필드choices[].message.tool_calls | 유형tool_call[] |
필드choices[].message.reasoning_content | 유형string |
필드choices[].message.reasoning_details | 유형object|array |
필드choices[].finish_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
위에 표시된 메서드 경로를 사용하세요.
meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct는 대화, 요약, 지식 검색, 질의 재작성을 위한 Meta의 소형 1.23B 텍스트 모델입니다. 제조사는 일반 릴리스에 128k, 별도의 양자화 변형에 8k 컨텍스트를 명시하며, 다국어 텍스트와 코드를 출력합니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Llama 3.2 1B Instruct는 Meta의 소형 지시 튜닝 텍스트 모델로, 제조사 표에 매개변수 수가 12억 3000만 개로 명시되어 있습니다. 다국어 텍스트를 입력받아 텍스트 또는 코드를 반환합니다. 이 릴리스는 Llama의 별도 비전 버전이 수행하는 이미지 이해 작업보다는 대화, 지식 검색, 요약, 모바일 글쓰기 어시스턴트, 질의 또는 프롬프트 재작성을 대상으로 합니다.
모델 정보와 컨텍스트
모델은 그룹화 쿼리 어텐션과 공유 임베딩을 갖춘 자기회귀 Transformer 아키텍처를 사용합니다. Meta는 사전 학습 모델과 지시 튜닝 모델을 1B 및 3B 크기로 구분합니다. 이 항목은 사전 학습 기반 모델로 쓰기보다 대화에서 사용자 요청을 따르는 1B Instruct 체크포인트입니다.
일반 텍스트 릴리스에는 128k 컨텍스트가 문서화되어 있습니다. 제조사는 양자화 텍스트 모델에 8k 컨텍스트를 별도로 명시합니다. 이 구성들은 구분해야 합니다. 양자화는 일반 릴리스의 컨텍스트를 모든 소형 형식 체크포인트에 적용하거나 특정 서비스의 설정 용량을 추론해도 된다는 뜻이 아닙니다.
정의된 작업 하나에 관련된 구절과 대화에 컨텍스트를 사용하세요. 긴 문서라도 요청 결과는 짧은 요약, 재작성한 검색 질의, 출처 기반 답변일 수 있습니다. 결과에 유지해야 할 자료와 다음 애플리케이션 단계에 필요한 분량이나 필드를 지정하세요.
검색, 요약, 재작성
요약할 때는 실제 구절이나 대화를 제공하고 독자, 분량, 핵심 사실을 지정하세요. 유용한 결과는 중심 문제, 이미 명시된 결정, 미해결 질문을 구분할 수 있습니다. 원문에 여러 주제가 있으면 전체를 방향 없이 줄이도록 요청하기보다 요약할 주제를 지정하세요.
지식 검색에서는 선택한 원문 구절이나 검색 구성 요소가 반환한 정보를 제공하세요. 질문에 답하는 진술과 이를 뒷받침하는 구절을 요청하세요. 모델의 텍스트 응답은 검색한 정보를 설명할 수 있지만 비공개 자료 모음을 검색하는 일은 연결된 애플리케이션이 담당합니다. 검색이라는 사용 사례 이름만으로 해당 자료 모음에 접근하게 되는 것은 아닙니다.
질의 재작성에서는 원래 질문과 검색 목적을 제공하세요. 대상, 조건, 원하는 정보를 보존하는 간결한 재구성을 요청하세요. 지원 문의는 사용자 메시지에 없는 사실을 추가하지 않고 중요한 제품 용어와 동작을 포함해 재작성할 수 있습니다. 다른 구성 요소가 직접 사용할 경우 수정한 질의를 설명과 따로 반환하세요.
글쓰기 어시스턴트에는 짧은 편지나 수정 구절을 요청하기 전에 독자, 어조, 원천 사실을 지정하세요. 추출 작업에는 필드와 정보가 없을 때의 표현 방식을 정의하세요. 이는 소형 모델에 문서화된 텍스트 중심 기능을 점검 가능한 결과물로 연결하는 구체적인 작업입니다.
지원 언어와 학습
공식 지원 언어는 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어입니다. 모델은 더 넓은 언어 모음으로 학습했지만, 이는 카드가 명시적으로 지원하는 8개 언어와 구별됩니다. 최종 언어와 바꾸면 안 되는 용어나 식별자를 지정하세요.
이 계열은 최대 9조 토큰으로 사전 학습하며 데이터 기준일은 2023년 12월입니다. 제조사는 1B와 3B 모델에 Llama 3.1 8B 및 70B의 출력을 토큰 수준 학습 목표로 사용하고 가지치기 후 지식 증류를 수행합니다. 이는 학습 과정이며, 배포된 1B 모델이 사용자 질문마다 더 큰 모델에 답변을 요청한다는 뜻이 아닙니다.
카드는 지도 미세 조정과 선호 기반 정렬을 설명하며, 후속 학습에는 지도 예시, 거부 샘플링, 직접 선호 최적화가 포함됩니다. 이러한 단계는 해당 체크포인트의 이름과 텍스트 전용 모달리티를 유지하면서 Instruct 동작을 형성합니다.
대화와 양자화 버전
제조사는 해당 대화 형식으로 별도의 시스템 및 사용자 메시지를 보여 줍니다. 실제 원문과 분리해 어시스턴트의 역할 및 응답 요구 사항을 정의하세요. 후속 요청이 같은 정보의 수정, 설명, 다른 형식을 요구할 때는 관련 이전 답변을 유지하세요.
릴리스에는 양자화 인지 변형과 학습 후 양자화 변형도 구분해 문서화되어 있습니다. 해당 정밀도와 8k 컨텍스트는 이 일반 Instruct 항목의 보편적 사양이 아니라 각 변형의 사양입니다. 반복 작업을 비교하거나 파생 배포를 준비할 때는 정확한 체크포인트와 구성을 사용하세요.
주요 경계
이 1B 릴리스는 텍스트 전용입니다. Llama 3.2의 11B 또는 90B 비전 모델의 이미지 입력, Llama 4의 텍스트 및 이미지 기능, Muse Spark의 이름이 지정된 추론 노력 제어를 가져와서는 안 됩니다. 카드의 256토큰 생성 예시는 예시 설정이며 별도로 명시한 최대 답변 용량이 아닙니다.
실용적인 최종 결과는 요청한 요약, 질의, 추출 레코드 또는 재작성 텍스트이며, 원문의 관련 의미와 식별자를 보존해야 합니다. 검토한 출처에는 별도의 엄격한 출력 토큰 상한이 명시되어 있지 않습니다. 작업 범위를 명확히 하고 해당 작업에 필요한 입력 자료를 완전하게 제공하며, 일반 버전과 양자화 버전의 컨텍스트 차이를 명시적으로 유지하세요.
POST /v1/messagestextjson, sse| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 meta-llama/llama-3.2-1b-instruct | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 user, assistant | 기본값— |
필드messages[].content | 유형string | 요건필수 | 값과 한도 | 기본값— |
필드max_tokens | 유형integer | 요건필수 | 값과 한도 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
텍스트 · UTF-8 텍스트
messages[].content 문자열
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages, max_tokens |
매개변수optional_controls | 명세stream |
매개변수material_types | 명세text |
매개변수text_file_material | 명세실제 UTF-8 문서를 읽고 그 텍스트를 지정된 입력 또는 메시지 콘텐츠 문자열에 넣으세요. |
수명 주기: synchronous_or_streamed
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.000054 / 1K 토큰 출력 · 출력 토큰 $0.000402 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.000054 / 1K 토큰 출력 · 출력 토큰 $0.000402 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
{\n "model": "meta-llama/llama-3.2-1b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
모든 콘텐츠 블록, 사고 서명, 실제 도구 사용 ID를 보존하세요. 모든 SSE 블록 증분을 조합하세요. 첫 텍스트 블록이 전체 출력은 아닙니다.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드id | 유형string |
필드model | 유형string |
필드content[] | 유형text|thinking|tool_use|other content block |
필드stop_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
위에 표시된 메서드 경로를 사용하세요.
영어 기술 예제
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.