Mistral Small 4는 일반적인 지시 준수, 추론, 코딩을 하나의 멀티모달 모델에 결합합니다. 제조사는 Instruct, Magistral 추론, Devstral 코딩 제품군을 통합한다고 설명합니다. 텍스트와 이미지를 입력받아 텍스트를 반환하며 도구 지원 애플리케이션을 위한 함수 호출과 JSON 출력을 제공합니다.
아키텍처와 주요 기능
이 릴리스는 총 1,190억 파라미터를 갖고 토큰당 65억 개를 활성화합니다. 전문가 혼합 아키텍처는 전문가 128개 중 4개를 활성화하며 제조사는 256k 컨텍스트 창을 문서화합니다. 활성 파라미터 수와 전문가 수는 모델의 구성 방식을 설명하며 작업 하나에 포함되는 텍스트나 이미지 콘텐츠의 양과는 구분됩니다.
모델은 같은 체크포인트에서 지시와 추론 기능을 제공합니다. 제조사는 비전, 시스템 프롬프트 준수, 영어·프랑스어·스페인어·독일어·이탈리아어·포르투갈어·네덜란드어·중국어·일본어·한국어·아랍어 등 수십 개 언어의 다국어 지원도 명시합니다. 따라서 텍스트 지시로 이미지에 관해 묻거나 서면 요구 사항과 보이는 근거를 결합하고 텍스트 답변을 받을 수 있습니다.
시각 작업에서는 문서 페이지를 제공하고 지정한 조건과 관련된 값을 요청할 수 있습니다. 레이블과 단위를 읽을 수 있게 유지하고 결과가 원문 표현을 보존할지, 요약할지, 다른 원본과 비교할지 명시하세요. 인터페이스 작업에서는 스크린샷과 사용자의 목표를 함께 제공하고 관련된 화면 제어 요소 및 제안된 다음 단계를 뒷받침하는 근거를 요청할 수 있습니다.
지시 모드 또는 추론 모드 선택
공개된 모델 카드에는 즉각적인 지시 방식 답변을 위한 reasoning effort none과 추론을 위한 high가 문서화되어 있으며 복잡한 프롬프트에는 high가 권장됩니다. 같은 Small 4 모델 안에서 요청마다 선택합니다. 일반 분류나 짧은 재작성은 상세한 설명이 필요한 수학, 시각, 코딩 문제와 답변 계약이 다를 수 있습니다.
제조사는 높은 추론 강도에 temperature 0.7을 권장합니다. none에는 작업에 따라 temperature 0.0~0.7을 명시합니다. 이 설정들은 문서화된 모드를 설명하며 추론 강도가 올바른 결과를 보장한다는 의미는 아닙니다. 작업에 필요한 추론의 양을 선택하기 전에 가정, 출력 형식, 관련 원본 자료를 정의하세요.
풀이가 필요한 문제에서는 전체 조건을 제공하고 근거가 있는 주요 단계와 뒤이은 최종 식을 요청하세요. 코드 작업에서는 요구 사항, 관련 함수, 구체적인 입력을 제공하고 제안된 구현을 설명 및 예시와 구분해서 요청하세요. 제조사의 사용 시연에는 지시 준수, 이미지에 적용되는 계산 도구, 시각 추론이 포함되어 텍스트와 시각적 근거가 다양한 작업에 들어가는 방식을 보여 줍니다.
코딩, 문서, 도구
모델은 코드베이스 탐색과 소프트웨어 엔지니어링 에이전트, 일반 어시스턴트, 문서 이해, 연구를 위한 모델로 소개됩니다. 코딩 에이전트 요청에서는 변경할 모듈, 유지할 인터페이스, 나와야 할 동작을 명시할 수 있습니다. 관련 소스와 실패 근거를 제공하세요. 모델이 다음 작업이나 코드 변경을 제안하고 애플리케이션이 저장소 접근, 실행, 피드백을 제공합니다.
문서 추출에서는 필수 필드와 누락된 정보의 표현 방식을 지정하세요. 유용한 레코드는 문서 식별자, 원본 진술, 해석된 요구 사항, 미해결 질문을 구분할 수 있습니다. 제조사의 서비스 카드에는 사용자 지정 구조화된 출력과 문서 질의응답이 나열되어 있습니다. 후자는 언어 모델 분석 전에 문서 처리와 OCR로 텍스트 및 구조를 준비합니다. 직접 이미지 질문과 OCR 지원 문서 워크플로는 각자의 입력 준비 방식을 유지해야 합니다.
함수 호출에는 명확한 도구 설명이 필요합니다. 모델이 함수를 선택하고 인수를 생성하면 애플리케이션이 작업을 실행하고 이후 답변을 위한 결과를 반환합니다. 조회, 계산, 코딩 작업 모두 같은 원리가 적용됩니다. JSON 형식은 답변을 정리하고 도구 호출은 외부 작업을 요청하므로 둘을 서로 바꿔 쓸 수 있는 결과로 취급해서는 안 됩니다.
서비스 카드에는 예측 출력, 응답 접두사, 배치, 에이전트 대화도 나열되어 있습니다. 예측 출력은 문서나 코드 파일을 제한적으로 변경해 재생성해야 하고 나머지 콘텐츠가 알려져 있을 때 유용합니다. 편집 내용과 유지할 자료를 지정하세요. 접두사 이어 쓰기는 응답의 알려진 시작 부분을 사용하고 배치는 추가 추론 모드가 아니라 작업 제출 방식에 관한 것입니다.
컨텍스트와 버전 범위
서면 작업, 시각 자료, 대화, 원하는 답변을 문서화된 256k 컨텍스트에 맞춰 계획하세요. 공개된 사용 예시는 262,144토큰 컨텍스트를 설정하지만 1,024토큰 생성 예시는 별도의 최대 출력 용량이 아닙니다. 검토된 출처는 선택한 작업 길이를 대신할 독립적인 엄격한 답변 길이 한도를 제공하지 않습니다.
Small 4는 고유한 1,190억 파라미터 전문가 혼합 아키텍처와 하이브리드 모드를 갖습니다. Medium 3.5의 1,280억 파라미터 밀집 아키텍처나 Ministral 3의 별도 Instruct 및 Reasoning 버전을 물려받는 것으로 간주해서는 안 됩니다. 제조사는 별도의 양자화 및 추측 디코딩 산출물도 공개합니다. 이는 서로 다른 콘텐츠 모달리티가 아니라 별도의 배포 산출물입니다. 명명된 Small 4 릴리스와 실제 설명, 구조화된 레코드, 코드 결과에 요청한 모드를 유지하세요.
", "aboutText": "Mistral Small 4는 일반적인 지시 준수, 추론, 코딩을 하나의 멀티모달 모델에 결합합니다. 제조사는 Instruct, Magistral 추론, Devstral 코딩 제품군을 통합한다고 설명합니다. 텍스트와 이미지를 입력받아 텍스트를 반환하며 도구 지원 애플리케이션을 위한 함수 호출과 JSON 출력을 제공합니다.\n\n아키텍처와 주요 기능\n\n이 릴리스는 총 1,190억 파라미터를 갖고 토큰당 65억 개를 활성화합니다. 전문가 혼합 아키텍처는 전문가 128개 중 4개를 활성화하며 제조사는 256k 컨텍스트 창을 문서화합니다. 활성 파라미터 수와 전문가 수는 모델의 구성 방식을 설명하며 작업 하나에 포함되는 텍스트나 이미지 콘텐츠의 양과는 구분됩니다.\n\n모델은 같은 체크포인트에서 지시와 추론 기능을 제공합니다. 제조사는 비전, 시스템 프롬프트 준수, 영어·프랑스어·스페인어·독일어·이탈리아어·포르투갈어·네덜란드어·중국어·일본어·한국어·아랍어 등 수십 개 언어의 다국어 지원도 명시합니다. 따라서 텍스트 지시로 이미지에 관해 묻거나 서면 요구 사항과 보이는 근거를 결합하고 텍스트 답변을 받을 수 있습니다.\n\n시각 작업에서는 문서 페이지를 제공하고 지정한 조건과 관련된 값을 요청할 수 있습니다. 레이블과 단위를 읽을 수 있게 유지하고 결과가 원문 표현을 보존할지, 요약할지, 다른 원본과 비교할지 명시하세요. 인터페이스 작업에서는 스크린샷과 사용자의 목표를 함께 제공하고 관련된 화면 제어 요소 및 제안된 다음 단계를 뒷받침하는 근거를 요청할 수 있습니다.\n\n지시 모드 또는 추론 모드 선택\n\n공개된 모델 카드에는 즉각적인 지시 방식 답변을 위한 reasoning effort none과 추론을 위한 high가 문서화되어 있으며 복잡한 프롬프트에는 high가 권장됩니다. 같은 Small 4 모델 안에서 요청마다 선택합니다. 일반 분류나 짧은 재작성은 상세한 설명이 필요한 수학, 시각, 코딩 문제와 답변 계약이 다를 수 있습니다.\n\n제조사는 높은 추론 강도에 temperature 0.7을 권장합니다. none에는 작업에 따라 temperature 0.0~0.7을 명시합니다. 이 설정들은 문서화된 모드를 설명하며 추론 강도가 올바른 결과를 보장한다는 의미는 아닙니다. 작업에 필요한 추론의 양을 선택하기 전에 가정, 출력 형식, 관련 원본 자료를 정의하세요.\n\n풀이가 필요한 문제에서는 전체 조건을 제공하고 근거가 있는 주요 단계와 뒤이은 최종 식을 요청하세요. 코드 작업에서는 요구 사항, 관련 함수, 구체적인 입력을 제공하고 제안된 구현을 설명 및 예시와 구분해서 요청하세요. 제조사의 사용 시연에는 지시 준수, 이미지에 적용되는 계산 도구, 시각 추론이 포함되어 텍스트와 시각적 근거가 다양한 작업에 들어가는 방식을 보여 줍니다.\n\n코딩, 문서, 도구\n\n모델은 코드베이스 탐색과 소프트웨어 엔지니어링 에이전트, 일반 어시스턴트, 문서 이해, 연구를 위한 모델로 소개됩니다. 코딩 에이전트 요청에서는 변경할 모듈, 유지할 인터페이스, 나와야 할 동작을 명시할 수 있습니다. 관련 소스와 실패 근거를 제공하세요. 모델이 다음 작업이나 코드 변경을 제안하고 애플리케이션이 저장소 접근, 실행, 피드백을 제공합니다.\n\n문서 추출에서는 필수 필드와 누락된 정보의 표현 방식을 지정하세요. 유용한 레코드는 문서 식별자, 원본 진술, 해석된 요구 사항, 미해결 질문을 구분할 수 있습니다. 제조사의 서비스 카드에는 사용자 지정 구조화된 출력과 문서 질의응답이 나열되어 있습니다. 후자는 언어 모델 분석 전에 문서 처리와 OCR로 텍스트 및 구조를 준비합니다. 직접 이미지 질문과 OCR 지원 문서 워크플로는 각자의 입력 준비 방식을 유지해야 합니다.\n\n함수 호출에는 명확한 도구 설명이 필요합니다. 모델이 함수를 선택하고 인수를 생성하면 애플리케이션이 작업을 실행하고 이후 답변을 위한 결과를 반환합니다. 조회, 계산, 코딩 작업 모두 같은 원리가 적용됩니다. JSON 형식은 답변을 정리하고 도구 호출은 외부 작업을 요청하므로 둘을 서로 바꿔 쓸 수 있는 결과로 취급해서는 안 됩니다.\n\n서비스 카드에는 예측 출력, 응답 접두사, 배치, 에이전트 대화도 나열되어 있습니다. 예측 출력은 문서나 코드 파일을 제한적으로 변경해 재생성해야 하고 나머지 콘텐츠가 알려져 있을 때 유용합니다. 편집 내용과 유지할 자료를 지정하세요. 접두사 이어 쓰기는 응답의 알려진 시작 부분을 사용하고 배치는 추가 추론 모드가 아니라 작업 제출 방식에 관한 것입니다.\n\n컨텍스트와 버전 범위\n\n서면 작업, 시각 자료, 대화, 원하는 답변을 문서화된 256k 컨텍스트에 맞춰 계획하세요. 공개된 사용 예시는 262,144토큰 컨텍스트를 설정하지만 1,024토큰 생성 예시는 별도의 최대 출력 용량이 아닙니다. 검토된 출처는 선택한 작업 길이를 대신할 독립적인 엄격한 답변 길이 한도를 제공하지 않습니다.\n\nSmall 4는 고유한 1,190억 파라미터 전문가 혼합 아키텍처와 하이브리드 모드를 갖습니다. Medium 3.5의 1,280억 파라미터 밀집 아키텍처나 Ministral 3의 별도 Instruct 및 Reasoning 버전을 물려받는 것으로 간주해서는 안 됩니다. 제조사는 별도의 양자화 및 추측 디코딩 산출물도 공개합니다. 이는 서로 다른 콘텐츠 모달리티가 아니라 별도의 배포 산출물입니다. 명명된 Small 4 릴리스와 실제 설명, 구조화된 레코드, 코드 결과에 요청한 모드를 유지하세요.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "22c0855e8ceece699a60d0a9a5c9835d6d5b632b88d610c61255a68eaadab50c", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "ko", "methods": [ { "html": "mistralai/mistral-small-2603:batchMistral Small 4는 지시, 추론, 코딩 기능을 갖춘 하이브리드 텍스트·이미지 모델입니다. 1,190억 파라미터의 전문가 혼합 릴리스는 토큰당 65억 파라미터를 활성화하며 제조사 기준 256k 컨텍스트, 선택 가능한 추론 강도, JSON, 함수 호출을 지원합니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Mistral Small 4는 일반적인 지시 준수, 추론, 코딩을 하나의 멀티모달 모델에 결합합니다. 제조사는 Instruct, Magistral 추론, Devstral 코딩 제품군을 통합한다고 설명합니다. 텍스트와 이미지를 입력받아 텍스트를 반환하며 도구 지원 애플리케이션을 위한 함수 호출과 JSON 출력을 제공합니다.
아키텍처와 주요 기능
이 릴리스는 총 1,190억 파라미터를 갖고 토큰당 65억 개를 활성화합니다. 전문가 혼합 아키텍처는 전문가 128개 중 4개를 활성화하며 제조사는 256k 컨텍스트 창을 문서화합니다. 활성 파라미터 수와 전문가 수는 모델의 구성 방식을 설명하며 작업 하나에 포함되는 텍스트나 이미지 콘텐츠의 양과는 구분됩니다.
모델은 같은 체크포인트에서 지시와 추론 기능을 제공합니다. 제조사는 비전, 시스템 프롬프트 준수, 영어·프랑스어·스페인어·독일어·이탈리아어·포르투갈어·네덜란드어·중국어·일본어·한국어·아랍어 등 수십 개 언어의 다국어 지원도 명시합니다. 따라서 텍스트 지시로 이미지에 관해 묻거나 서면 요구 사항과 보이는 근거를 결합하고 텍스트 답변을 받을 수 있습니다.
시각 작업에서는 문서 페이지를 제공하고 지정한 조건과 관련된 값을 요청할 수 있습니다. 레이블과 단위를 읽을 수 있게 유지하고 결과가 원문 표현을 보존할지, 요약할지, 다른 원본과 비교할지 명시하세요. 인터페이스 작업에서는 스크린샷과 사용자의 목표를 함께 제공하고 관련된 화면 제어 요소 및 제안된 다음 단계를 뒷받침하는 근거를 요청할 수 있습니다.
지시 모드 또는 추론 모드 선택
공개된 모델 카드에는 즉각적인 지시 방식 답변을 위한 reasoning effort none과 추론을 위한 high가 문서화되어 있으며 복잡한 프롬프트에는 high가 권장됩니다. 같은 Small 4 모델 안에서 요청마다 선택합니다. 일반 분류나 짧은 재작성은 상세한 설명이 필요한 수학, 시각, 코딩 문제와 답변 계약이 다를 수 있습니다.
제조사는 높은 추론 강도에 temperature 0.7을 권장합니다. none에는 작업에 따라 temperature 0.0~0.7을 명시합니다. 이 설정들은 문서화된 모드를 설명하며 추론 강도가 올바른 결과를 보장한다는 의미는 아닙니다. 작업에 필요한 추론의 양을 선택하기 전에 가정, 출력 형식, 관련 원본 자료를 정의하세요.
풀이가 필요한 문제에서는 전체 조건을 제공하고 근거가 있는 주요 단계와 뒤이은 최종 식을 요청하세요. 코드 작업에서는 요구 사항, 관련 함수, 구체적인 입력을 제공하고 제안된 구현을 설명 및 예시와 구분해서 요청하세요. 제조사의 사용 시연에는 지시 준수, 이미지에 적용되는 계산 도구, 시각 추론이 포함되어 텍스트와 시각적 근거가 다양한 작업에 들어가는 방식을 보여 줍니다.
코딩, 문서, 도구
모델은 코드베이스 탐색과 소프트웨어 엔지니어링 에이전트, 일반 어시스턴트, 문서 이해, 연구를 위한 모델로 소개됩니다. 코딩 에이전트 요청에서는 변경할 모듈, 유지할 인터페이스, 나와야 할 동작을 명시할 수 있습니다. 관련 소스와 실패 근거를 제공하세요. 모델이 다음 작업이나 코드 변경을 제안하고 애플리케이션이 저장소 접근, 실행, 피드백을 제공합니다.
문서 추출에서는 필수 필드와 누락된 정보의 표현 방식을 지정하세요. 유용한 레코드는 문서 식별자, 원본 진술, 해석된 요구 사항, 미해결 질문을 구분할 수 있습니다. 제조사의 서비스 카드에는 사용자 지정 구조화된 출력과 문서 질의응답이 나열되어 있습니다. 후자는 언어 모델 분석 전에 문서 처리와 OCR로 텍스트 및 구조를 준비합니다. 직접 이미지 질문과 OCR 지원 문서 워크플로는 각자의 입력 준비 방식을 유지해야 합니다.
함수 호출에는 명확한 도구 설명이 필요합니다. 모델이 함수를 선택하고 인수를 생성하면 애플리케이션이 작업을 실행하고 이후 답변을 위한 결과를 반환합니다. 조회, 계산, 코딩 작업 모두 같은 원리가 적용됩니다. JSON 형식은 답변을 정리하고 도구 호출은 외부 작업을 요청하므로 둘을 서로 바꿔 쓸 수 있는 결과로 취급해서는 안 됩니다.
서비스 카드에는 예측 출력, 응답 접두사, 배치, 에이전트 대화도 나열되어 있습니다. 예측 출력은 문서나 코드 파일을 제한적으로 변경해 재생성해야 하고 나머지 콘텐츠가 알려져 있을 때 유용합니다. 편집 내용과 유지할 자료를 지정하세요. 접두사 이어 쓰기는 응답의 알려진 시작 부분을 사용하고 배치는 추가 추론 모드가 아니라 작업 제출 방식에 관한 것입니다.
컨텍스트와 버전 범위
서면 작업, 시각 자료, 대화, 원하는 답변을 문서화된 256k 컨텍스트에 맞춰 계획하세요. 공개된 사용 예시는 262,144토큰 컨텍스트를 설정하지만 1,024토큰 생성 예시는 별도의 최대 출력 용량이 아닙니다. 검토된 출처는 선택한 작업 길이를 대신할 독립적인 엄격한 답변 길이 한도를 제공하지 않습니다.
Small 4는 고유한 1,190억 파라미터 전문가 혼합 아키텍처와 하이브리드 모드를 갖습니다. Medium 3.5의 1,280억 파라미터 밀집 아키텍처나 Ministral 3의 별도 Instruct 및 Reasoning 버전을 물려받는 것으로 간주해서는 안 됩니다. 제조사는 별도의 양자화 및 추측 디코딩 산출물도 공개합니다. 이는 서로 다른 콘텐츠 모달리티가 아니라 별도의 배포 산출물입니다. 명명된 Small 4 릴리스와 실제 설명, 구조화된 레코드, 코드 결과에 요청한 모드를 유지하세요.
POST /v1/batchestexttext| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드endpoint | 유형string | 요건필수 | 값과 한도 /v1/chat/completions | 기본값— |
필드model | 유형string | 요건필수 | 값과 한도 mistralai/mistral-small-2603:batch | 기본값— |
필드requests | 유형batch_item[] | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
필드requests[].custom_id | 유형string | 요건필수 | 값과 한도 | 기본값— |
필드requests[].body.messages | 유형message[] | 요건필수 | 값과 한도 | 기본값— |
필드completion_window | 유형string | 요건선택 사항 | 값과 한도 24h | 기본값— |
필드provider | 유형object|null | 요건선택 사항 | 값과 한도 | 기본값— |
필드requests[].body.model | 유형string | 요건선택 사항 | 값과 한도 mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603 | 기본값— |
필드provider.only | 유형string[] | 요건선택 사항 | 값과 한도 mistral | 기본값— |
필드provider.allow_fallbacks | 유형boolean|null | 요건선택 사항 | 값과 한도 false, null | 기본값— |
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세endpoint, model, requests |
매개변수material_types | 명세text |
매개변수representation | 명세인라인 requests[]; 각 항목에는 custom_id와 body가 있습니다 |
매개변수request_endpoint_profile | 명세/v1/chat/completions |
매개변수file_material | 명세호출자는 실제 UTF-8 JSONL을 로컬에서 읽어 requests[]에 넣을 수 있습니다. 업로드 목적, input_file_id 또는 파일 참조는 사용하지 않습니다. 고객 자료가 없거나 비어 있으면 POST 전에 준비를 중단합니다. |
매개변수serialization_order | 명세endpoint, model, provider (제공된 경우), completion_window (제공된 경우), requests는 마지막에 |
매개변수optional_controls | 명세provider.only, provider.allow_fallbacks, completion_window |
매개변수schema_scope | 명세문서에 명시된 인라인 배치 요청 구조에 담긴 텍스트 Chat Completions 본문입니다. |
수명 주기: asynchronous
GET /v1/batches/{operation_id} · 최초 생성 응답에서 실제로 반환된 response.id; 동일한 사용자/키/그룹
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.00015 / 1K 토큰 출력 · 출력 토큰 $0.0006 / 1K 토큰 입력 · 캐시 읽기 $0.000015 / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.00015 / 1K 토큰 출력 · 출력 토큰 $0.0006 / 1K 토큰 입력 · 캐시 읽기 $0.000015 / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\n인라인 results[].response.body JSON
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\n반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
최초 상태 JSON 전체, 모든 결과/custom_id와 응답 또는 오류 본문 전체를 보관하세요. 완료된 results[]는 필터링 없이 JSONL로 저장하세요.
최초 작업 ID를 보관하세요. 503 result_pending_check에는 X-Should-Retry:false가 포함됩니다. 상태가 불명확한 최초 배치를 다시 제출하지 마세요.
| 필드 | 유형 |
|---|---|
필드results[].custom_id | 유형string |
필드results[].response.body.choices[].message.content | 유형string|null |
필드results[].error | 유형object|null |
필드usage | 유형object|null |
필드id | 유형string |
필드model | 유형string |
필드endpoint | 유형string |
필드status | 유형string |
필드request_counts | 유형object |
필드results[].id | 유형string |
필드results[].response.status_code | 유형integer |
필드results[].response.request_id | 유형string |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건문서에 명시된 인라인 요청 구조가 유효하지 않거나, 키가 중복되거나, 항목 식별 정보 또는 설정된 모델 기능에 충돌이 있습니다. | 다음 단계새로 제출하기 전에 표시된 필드를 수정하세요. |
응답401 · authentication_error | 조건유효하지 않은 API 키입니다. | 다음 단계사용 권한이 있는 Ailoot 키를 사용하세요. |
응답403 · permission_error | 조건배치 그룹을 사용할 수 없습니다. | 다음 단계키/그룹의 사용 권한을 확인하세요. |
응답422 · invalid_request_error | 조건배치는 잔액 과금을 사용하며, 구독을 통한 생성 요청은 거부됩니다. | 다음 단계사용 권한이 있는 잔액 과금 그룹을 사용하세요. |
응답422 · price_unavailable | 조건배치 입력의 예상 비용을 산출할 수 없습니다. | 다음 단계응답을 보관하고 문서에 명시된 API 계열 입력을 사용하세요. |
응답402 · billing_error | 조건배치 예약 금액을 확보할 수 없습니다. | 다음 단계새 요청 전에 요청 허용 조건을 충족하세요. |
응답503 · price_unavailable | 조건배치 메서드 가격 또는 네이티브 요율을 사용할 수 없습니다. | 다음 단계응답을 보관하고 가격을 임의로 대체하지 마세요. |
응답503 · api_error | 조건정확히 일치하는 공급업체 라우트를 사용할 수 없습니다. | 다음 단계라우트 수정을 위해 응답을 보관하세요. |
응답503 · result_pending_check | 조건최초 결과를 확인해야 합니다. X-Should-Retry:false. | 다음 단계최초 operation_id/id를 보관하고 해당 상태를 조회하세요. 최초 POST를 반복하지 마세요. |
응답404 · not_found | 조건배치 상태 조회 대상 작업이 없거나 다른 사용 주체의 소유입니다. | 다음 단계최초 id를 정확히 사용하고 동일한 사용자/키/그룹을 유지하세요. |
Ailoot Ultra mistralai/mistral-small-2603:batch
위에 표시된 메서드 경로를 사용하세요.