Mistral Medium 3.5는 하나의 가중치 집합에 지시 준수, 추론, 코딩을 결합한 Mistral AI의 1,280억 파라미터 밀집 모델입니다. 텍스트와 이미지를 입력받아 텍스트를 반환합니다. 제조사는 에이전트 및 코딩 작업을 위한 모델로 소개하지만, 같은 체크포인트로 직접적인 대화형 답변을 생성하거나 문서화된 추론 모드를 사용해 더 복잡한 작업을 처리할 수 있습니다.
통합 모델과 시각 기능
공개된 모델 카드에는 1,280억 개의 밀집 파라미터와 256k 컨텍스트 창이 명시되어 있습니다. 비전 인코더는 서로 다른 이미지 크기와 종횡비를 처리하도록 학습되었습니다. 인터페이스 스크린샷, 요구 사항에 첨부된 도표, 해석해야 할 정보가 담긴 페이지 등 이미지는 코딩 또는 문서 작업의 근거가 될 수 있습니다. 결과는 생성된 이미지가 아니라 서면 설명, 코드, 구조화된 필드가 될 수 있습니다.
제조사는 영어, 프랑스어, 스페인어, 독일어, 이탈리아어, 포르투갈어, 네덜란드어, 중국어, 일본어, 한국어, 아랍어 등 수십 개 언어를 지원한다고 설명합니다. 시스템 프롬프트 준수와 JSON 출력을 동반한 기본 함수 호출도 강조합니다. 검토할 자료와 대상 독자, 언어, 응답 규칙을 별도로 설정하여 원본 문서의 표현이 작업의 근거로 유지되게 하세요.
추론 설정
모델 카드에는 요청별로 두 가지 추론 강도 값이 문서화되어 있습니다. none은 추론 모드 없이 지시 방식의 답변을 제공하고, high는 추론을 활성화하며 복잡한 프롬프트와 에이전트 코딩에 권장됩니다. 이는 모델의 정체성이 바뀌는 것이 아니라 같은 Medium 3.5 체크포인트 안에서 모드를 선택하는 것입니다.
높은 추론 강도에는 제조사가 temperature 0.7과 top-p 0.95를 권장합니다. none에서는 작업에 따라 temperature 0.0~0.7을 사용하고 top-p를 설정하지 않거나 1.0으로 두도록 안내합니다. 이는 해당 릴리스의 권장 사항입니다. 간결한 필드 추출, 설명이 포함된 코드 변경, 여러 근거 있는 판단이 필요한 비교 등 출력의 목적부터 정하세요.
실용적인 추론 작업에는 요구 사항, 구현, 불일치를 드러내는 입력을 제공할 수 있습니다. 관련 경로를 식별하고 차이를 설명하며 공개 인터페이스를 보존하는 최소한의 변경을 제안하도록 요청하세요. 수정된 코드는 가정 및 예시와 구분해서 요청하세요. 모델은 제안을 생성하며 컴파일, 실행, 적용에는 에이전트에 연결된 개발 환경이 필요합니다.
도구, 문서, 예측 가능한 편집
제조사의 서비스 카드에는 구조화된 출력, 예측 출력, 문서 질문, 응답 접두사, 배치 처리, 에이전트 대화도 나열되어 있습니다. 추출에서는 필드 이름, 유형, 누락된 값의 처리 방식을 정의하세요. JSON 모드는 구조화된 표현을 제공하고 사용자 지정 스키마는 연결된 인터페이스에서 더 구체적인 형식을 정의합니다. 프로그램이 파싱할 때는 레코드만 요청하고 사람이 해석을 검토해야 할 때는 별도의 설명을 요청하세요.
문서 질의응답은 OCR로 준비한 텍스트 및 구조와 언어 모델의 이해를 결합합니다. 비교에서는 문서와 평가할 조건을 지정한 다음 각 발견 사항과 함께 원본 위치를 요청하세요. 유용한 출력은 공통 요구 사항, 불일치, 미해결 질문을 구분할 수 있습니다. 직접적인 이미지 질문에서는 차트 레이블이나 인터페이스 요소에 초점을 맞출 수 있습니다. 제목, 단위, 이미지 역할을 유지하면 답변을 제공된 자료와 연결하는 데 도움이 됩니다.
예측 출력은 제한된 편집으로 코드 파일이나 문서를 재생성하는 것처럼 원하는 답변의 상당 부분을 이미 알고 있는 작업을 위한 기능으로 문서화되어 있습니다. 기존 콘텐츠를 제공하고 구체적인 변경을 지정하면서 유지해야 할 부분을 보존하세요. 이는 완전히 새로운 산출물을 요청하거나 알려진 응답 접두사에서 이어 쓰는 것과 다릅니다. 서비스 기능은 제출 및 형식 선택지를 설명하며 모델의 텍스트·이미지 입력이나 텍스트 출력을 바꾸지 않습니다.
도구 지원 워크플로에서는 애플리케이션이 함수 설명과 매개변수를 제공하고, 모델이 함수를 선택하여 인수를 준비하며, 애플리케이션이 이를 실행한 뒤 결과를 반환합니다. 계산 도구는 제공된 이미지에서 읽은 값을 받을 수 있고 조회 도구는 다음 답변에 필요한 누락된 정보를 제공할 수 있습니다. 도구 결과를 이를 생성한 작업과 연결해 유지하세요. 에이전트 추론은 텍스트 생성만으로 외부 작업을 수행하는 것이 아니라 이러한 환경에 의존합니다.
긴 세션 준비
256k 컨텍스트를 관련 소스 코드, 문서, 대화 기록에 사용하고 실제 목표를 명확히 유지하세요. 코딩 세션은 모듈, 호출자, 요구 사항을 유지하면서 정의된 변경 하나를 요청할 수 있습니다. 문서 세션은 관련 섹션을 함께 유지하면서 짧은 표나 수정된 구절을 반환할 수 있습니다. 컨텍스트 용량은 별도의 최대 답변 길이를 명시하지 않습니다. 모델 카드의 1,024토큰 생성 예시는 한도가 아니라 예시입니다.
제조사는 이전에 공개된 설정에 긴 컨텍스트 오류가 있었으며 파생 체크포인트에 대한 영향까지 포함하여 수정되었다고 설명합니다. 가중치를 긴 세션에 사용할 때는 수정된 릴리스 설정을 유지하세요. 이름이 같은 제품군에 속한다는 이유만으로 Medium 3.5의 하이브리드 모드와 1,280억 파라미터 아키텍처를 Medium 3.1이나 별도로 명명된 draft-head 체크포인트에 적용해서는 안 됩니다.
", "aboutText": "Mistral Medium 3.5는 하나의 가중치 집합에 지시 준수, 추론, 코딩을 결합한 Mistral AI의 1,280억 파라미터 밀집 모델입니다. 텍스트와 이미지를 입력받아 텍스트를 반환합니다. 제조사는 에이전트 및 코딩 작업을 위한 모델로 소개하지만, 같은 체크포인트로 직접적인 대화형 답변을 생성하거나 문서화된 추론 모드를 사용해 더 복잡한 작업을 처리할 수 있습니다.\n\n통합 모델과 시각 기능\n\n공개된 모델 카드에는 1,280억 개의 밀집 파라미터와 256k 컨텍스트 창이 명시되어 있습니다. 비전 인코더는 서로 다른 이미지 크기와 종횡비를 처리하도록 학습되었습니다. 인터페이스 스크린샷, 요구 사항에 첨부된 도표, 해석해야 할 정보가 담긴 페이지 등 이미지는 코딩 또는 문서 작업의 근거가 될 수 있습니다. 결과는 생성된 이미지가 아니라 서면 설명, 코드, 구조화된 필드가 될 수 있습니다.\n\n제조사는 영어, 프랑스어, 스페인어, 독일어, 이탈리아어, 포르투갈어, 네덜란드어, 중국어, 일본어, 한국어, 아랍어 등 수십 개 언어를 지원한다고 설명합니다. 시스템 프롬프트 준수와 JSON 출력을 동반한 기본 함수 호출도 강조합니다. 검토할 자료와 대상 독자, 언어, 응답 규칙을 별도로 설정하여 원본 문서의 표현이 작업의 근거로 유지되게 하세요.\n\n추론 설정\n\n모델 카드에는 요청별로 두 가지 추론 강도 값이 문서화되어 있습니다. none은 추론 모드 없이 지시 방식의 답변을 제공하고, high는 추론을 활성화하며 복잡한 프롬프트와 에이전트 코딩에 권장됩니다. 이는 모델의 정체성이 바뀌는 것이 아니라 같은 Medium 3.5 체크포인트 안에서 모드를 선택하는 것입니다.\n\n높은 추론 강도에는 제조사가 temperature 0.7과 top-p 0.95를 권장합니다. none에서는 작업에 따라 temperature 0.0~0.7을 사용하고 top-p를 설정하지 않거나 1.0으로 두도록 안내합니다. 이는 해당 릴리스의 권장 사항입니다. 간결한 필드 추출, 설명이 포함된 코드 변경, 여러 근거 있는 판단이 필요한 비교 등 출력의 목적부터 정하세요.\n\n실용적인 추론 작업에는 요구 사항, 구현, 불일치를 드러내는 입력을 제공할 수 있습니다. 관련 경로를 식별하고 차이를 설명하며 공개 인터페이스를 보존하는 최소한의 변경을 제안하도록 요청하세요. 수정된 코드는 가정 및 예시와 구분해서 요청하세요. 모델은 제안을 생성하며 컴파일, 실행, 적용에는 에이전트에 연결된 개발 환경이 필요합니다.\n\n도구, 문서, 예측 가능한 편집\n\n제조사의 서비스 카드에는 구조화된 출력, 예측 출력, 문서 질문, 응답 접두사, 배치 처리, 에이전트 대화도 나열되어 있습니다. 추출에서는 필드 이름, 유형, 누락된 값의 처리 방식을 정의하세요. JSON 모드는 구조화된 표현을 제공하고 사용자 지정 스키마는 연결된 인터페이스에서 더 구체적인 형식을 정의합니다. 프로그램이 파싱할 때는 레코드만 요청하고 사람이 해석을 검토해야 할 때는 별도의 설명을 요청하세요.\n\n문서 질의응답은 OCR로 준비한 텍스트 및 구조와 언어 모델의 이해를 결합합니다. 비교에서는 문서와 평가할 조건을 지정한 다음 각 발견 사항과 함께 원본 위치를 요청하세요. 유용한 출력은 공통 요구 사항, 불일치, 미해결 질문을 구분할 수 있습니다. 직접적인 이미지 질문에서는 차트 레이블이나 인터페이스 요소에 초점을 맞출 수 있습니다. 제목, 단위, 이미지 역할을 유지하면 답변을 제공된 자료와 연결하는 데 도움이 됩니다.\n\n예측 출력은 제한된 편집으로 코드 파일이나 문서를 재생성하는 것처럼 원하는 답변의 상당 부분을 이미 알고 있는 작업을 위한 기능으로 문서화되어 있습니다. 기존 콘텐츠를 제공하고 구체적인 변경을 지정하면서 유지해야 할 부분을 보존하세요. 이는 완전히 새로운 산출물을 요청하거나 알려진 응답 접두사에서 이어 쓰는 것과 다릅니다. 서비스 기능은 제출 및 형식 선택지를 설명하며 모델의 텍스트·이미지 입력이나 텍스트 출력을 바꾸지 않습니다.\n\n도구 지원 워크플로에서는 애플리케이션이 함수 설명과 매개변수를 제공하고, 모델이 함수를 선택하여 인수를 준비하며, 애플리케이션이 이를 실행한 뒤 결과를 반환합니다. 계산 도구는 제공된 이미지에서 읽은 값을 받을 수 있고 조회 도구는 다음 답변에 필요한 누락된 정보를 제공할 수 있습니다. 도구 결과를 이를 생성한 작업과 연결해 유지하세요. 에이전트 추론은 텍스트 생성만으로 외부 작업을 수행하는 것이 아니라 이러한 환경에 의존합니다.\n\n긴 세션 준비\n\n256k 컨텍스트를 관련 소스 코드, 문서, 대화 기록에 사용하고 실제 목표를 명확히 유지하세요. 코딩 세션은 모듈, 호출자, 요구 사항을 유지하면서 정의된 변경 하나를 요청할 수 있습니다. 문서 세션은 관련 섹션을 함께 유지하면서 짧은 표나 수정된 구절을 반환할 수 있습니다. 컨텍스트 용량은 별도의 최대 답변 길이를 명시하지 않습니다. 모델 카드의 1,024토큰 생성 예시는 한도가 아니라 예시입니다.\n\n제조사는 이전에 공개된 설정에 긴 컨텍스트 오류가 있었으며 파생 체크포인트에 대한 영향까지 포함하여 수정되었다고 설명합니다. 가중치를 긴 세션에 사용할 때는 수정된 릴리스 설정을 유지하세요. 이름이 같은 제품군에 속한다는 이유만으로 Medium 3.5의 하이브리드 모드와 1,280억 파라미터 아키텍처를 Medium 3.1이나 별도로 명명된 draft-head 체크포인트에 적용해서는 안 됩니다.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "02357d2ad47417c8cfb3b57987eedac6ed36f62bd3fd6f3715007782fd30401c", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "ko", "methods": [ { "html": "mistralai/mistral-medium-3-5:batchMistral Medium 3.5는 1,280억 파라미터의 밀집 텍스트·이미지 모델에 지시 준수, 추론, 코딩을 결합합니다. 제조사 기준 256k 컨텍스트, 요청별 추론 설정, 기본 함수 호출, 구조화된 출력으로 문서 및 에이전트 워크플로를 지원합니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Mistral Medium 3.5는 하나의 가중치 집합에 지시 준수, 추론, 코딩을 결합한 Mistral AI의 1,280억 파라미터 밀집 모델입니다. 텍스트와 이미지를 입력받아 텍스트를 반환합니다. 제조사는 에이전트 및 코딩 작업을 위한 모델로 소개하지만, 같은 체크포인트로 직접적인 대화형 답변을 생성하거나 문서화된 추론 모드를 사용해 더 복잡한 작업을 처리할 수 있습니다.
통합 모델과 시각 기능
공개된 모델 카드에는 1,280억 개의 밀집 파라미터와 256k 컨텍스트 창이 명시되어 있습니다. 비전 인코더는 서로 다른 이미지 크기와 종횡비를 처리하도록 학습되었습니다. 인터페이스 스크린샷, 요구 사항에 첨부된 도표, 해석해야 할 정보가 담긴 페이지 등 이미지는 코딩 또는 문서 작업의 근거가 될 수 있습니다. 결과는 생성된 이미지가 아니라 서면 설명, 코드, 구조화된 필드가 될 수 있습니다.
제조사는 영어, 프랑스어, 스페인어, 독일어, 이탈리아어, 포르투갈어, 네덜란드어, 중국어, 일본어, 한국어, 아랍어 등 수십 개 언어를 지원한다고 설명합니다. 시스템 프롬프트 준수와 JSON 출력을 동반한 기본 함수 호출도 강조합니다. 검토할 자료와 대상 독자, 언어, 응답 규칙을 별도로 설정하여 원본 문서의 표현이 작업의 근거로 유지되게 하세요.
추론 설정
모델 카드에는 요청별로 두 가지 추론 강도 값이 문서화되어 있습니다. none은 추론 모드 없이 지시 방식의 답변을 제공하고, high는 추론을 활성화하며 복잡한 프롬프트와 에이전트 코딩에 권장됩니다. 이는 모델의 정체성이 바뀌는 것이 아니라 같은 Medium 3.5 체크포인트 안에서 모드를 선택하는 것입니다.
높은 추론 강도에는 제조사가 temperature 0.7과 top-p 0.95를 권장합니다. none에서는 작업에 따라 temperature 0.0~0.7을 사용하고 top-p를 설정하지 않거나 1.0으로 두도록 안내합니다. 이는 해당 릴리스의 권장 사항입니다. 간결한 필드 추출, 설명이 포함된 코드 변경, 여러 근거 있는 판단이 필요한 비교 등 출력의 목적부터 정하세요.
실용적인 추론 작업에는 요구 사항, 구현, 불일치를 드러내는 입력을 제공할 수 있습니다. 관련 경로를 식별하고 차이를 설명하며 공개 인터페이스를 보존하는 최소한의 변경을 제안하도록 요청하세요. 수정된 코드는 가정 및 예시와 구분해서 요청하세요. 모델은 제안을 생성하며 컴파일, 실행, 적용에는 에이전트에 연결된 개발 환경이 필요합니다.
도구, 문서, 예측 가능한 편집
제조사의 서비스 카드에는 구조화된 출력, 예측 출력, 문서 질문, 응답 접두사, 배치 처리, 에이전트 대화도 나열되어 있습니다. 추출에서는 필드 이름, 유형, 누락된 값의 처리 방식을 정의하세요. JSON 모드는 구조화된 표현을 제공하고 사용자 지정 스키마는 연결된 인터페이스에서 더 구체적인 형식을 정의합니다. 프로그램이 파싱할 때는 레코드만 요청하고 사람이 해석을 검토해야 할 때는 별도의 설명을 요청하세요.
문서 질의응답은 OCR로 준비한 텍스트 및 구조와 언어 모델의 이해를 결합합니다. 비교에서는 문서와 평가할 조건을 지정한 다음 각 발견 사항과 함께 원본 위치를 요청하세요. 유용한 출력은 공통 요구 사항, 불일치, 미해결 질문을 구분할 수 있습니다. 직접적인 이미지 질문에서는 차트 레이블이나 인터페이스 요소에 초점을 맞출 수 있습니다. 제목, 단위, 이미지 역할을 유지하면 답변을 제공된 자료와 연결하는 데 도움이 됩니다.
예측 출력은 제한된 편집으로 코드 파일이나 문서를 재생성하는 것처럼 원하는 답변의 상당 부분을 이미 알고 있는 작업을 위한 기능으로 문서화되어 있습니다. 기존 콘텐츠를 제공하고 구체적인 변경을 지정하면서 유지해야 할 부분을 보존하세요. 이는 완전히 새로운 산출물을 요청하거나 알려진 응답 접두사에서 이어 쓰는 것과 다릅니다. 서비스 기능은 제출 및 형식 선택지를 설명하며 모델의 텍스트·이미지 입력이나 텍스트 출력을 바꾸지 않습니다.
도구 지원 워크플로에서는 애플리케이션이 함수 설명과 매개변수를 제공하고, 모델이 함수를 선택하여 인수를 준비하며, 애플리케이션이 이를 실행한 뒤 결과를 반환합니다. 계산 도구는 제공된 이미지에서 읽은 값을 받을 수 있고 조회 도구는 다음 답변에 필요한 누락된 정보를 제공할 수 있습니다. 도구 결과를 이를 생성한 작업과 연결해 유지하세요. 에이전트 추론은 텍스트 생성만으로 외부 작업을 수행하는 것이 아니라 이러한 환경에 의존합니다.
긴 세션 준비
256k 컨텍스트를 관련 소스 코드, 문서, 대화 기록에 사용하고 실제 목표를 명확히 유지하세요. 코딩 세션은 모듈, 호출자, 요구 사항을 유지하면서 정의된 변경 하나를 요청할 수 있습니다. 문서 세션은 관련 섹션을 함께 유지하면서 짧은 표나 수정된 구절을 반환할 수 있습니다. 컨텍스트 용량은 별도의 최대 답변 길이를 명시하지 않습니다. 모델 카드의 1,024토큰 생성 예시는 한도가 아니라 예시입니다.
제조사는 이전에 공개된 설정에 긴 컨텍스트 오류가 있었으며 파생 체크포인트에 대한 영향까지 포함하여 수정되었다고 설명합니다. 가중치를 긴 세션에 사용할 때는 수정된 릴리스 설정을 유지하세요. 이름이 같은 제품군에 속한다는 이유만으로 Medium 3.5의 하이브리드 모드와 1,280억 파라미터 아키텍처를 Medium 3.1이나 별도로 명명된 draft-head 체크포인트에 적용해서는 안 됩니다.
POST /v1/batchestexttext| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드endpoint | 유형string | 요건필수 | 값과 한도 /v1/chat/completions | 기본값— |
필드model | 유형string | 요건필수 | 값과 한도 mistralai/mistral-medium-3-5:batch | 기본값— |
필드requests | 유형batch_item[] | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
필드requests[].custom_id | 유형string | 요건필수 | 값과 한도 | 기본값— |
필드requests[].body.messages | 유형message[] | 요건필수 | 값과 한도 | 기본값— |
필드completion_window | 유형string | 요건선택 사항 | 값과 한도 24h | 기본값— |
필드provider | 유형object|null | 요건선택 사항 | 값과 한도 | 기본값— |
필드requests[].body.model | 유형string | 요건선택 사항 | 값과 한도 mistralai/mistral-medium-3-5:batch, mistralai/mistral-medium-3-5 | 기본값— |
필드provider.only | 유형string[] | 요건선택 사항 | 값과 한도 mistral | 기본값— |
필드provider.allow_fallbacks | 유형boolean|null | 요건선택 사항 | 값과 한도 false, null | 기본값— |
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세endpoint, model, requests |
매개변수material_types | 명세text |
매개변수representation | 명세인라인 requests[]; 각 항목에는 custom_id와 body가 있습니다 |
매개변수request_endpoint_profile | 명세/v1/chat/completions |
매개변수file_material | 명세호출자는 실제 UTF-8 JSONL을 로컬에서 읽어 requests[]에 넣을 수 있습니다. 업로드 목적, input_file_id 또는 파일 참조는 사용하지 않습니다. 고객 자료가 없거나 비어 있으면 POST 전에 준비를 중단합니다. |
매개변수serialization_order | 명세endpoint, model, provider (제공된 경우), completion_window (제공된 경우), requests는 마지막에 |
매개변수optional_controls | 명세provider.only, provider.allow_fallbacks, completion_window |
매개변수schema_scope | 명세문서에 명시된 인라인 배치 요청 구조에 담긴 텍스트 Chat Completions 본문입니다. |
수명 주기: asynchronous
GET /v1/batches/{operation_id} · 최초 생성 응답에서 실제로 반환된 response.id; 동일한 사용자/키/그룹
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0015 / 1K 토큰 출력 · 출력 토큰 $0.0075 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0015 / 1K 토큰 출력 · 출력 토큰 $0.0075 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-medium-3-5:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-medium-3-5:batch', 'mistralai/mistral-medium-3-5']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-medium-3-5:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\n인라인 results[].response.body JSON
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\n반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
최초 상태 JSON 전체, 모든 결과/custom_id와 응답 또는 오류 본문 전체를 보관하세요. 완료된 results[]는 필터링 없이 JSONL로 저장하세요.
최초 작업 ID를 보관하세요. 503 result_pending_check에는 X-Should-Retry:false가 포함됩니다. 상태가 불명확한 최초 배치를 다시 제출하지 마세요.
| 필드 | 유형 |
|---|---|
필드results[].custom_id | 유형string |
필드results[].response.body.choices[].message.content | 유형string|null |
필드results[].error | 유형object|null |
필드usage | 유형object|null |
필드id | 유형string |
필드model | 유형string |
필드endpoint | 유형string |
필드status | 유형string |
필드request_counts | 유형object |
필드results[].id | 유형string |
필드results[].response.status_code | 유형integer |
필드results[].response.request_id | 유형string |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건문서에 명시된 인라인 요청 구조가 유효하지 않거나, 키가 중복되거나, 항목 식별 정보 또는 설정된 모델 기능에 충돌이 있습니다. | 다음 단계새로 제출하기 전에 표시된 필드를 수정하세요. |
응답401 · authentication_error | 조건유효하지 않은 API 키입니다. | 다음 단계사용 권한이 있는 Ailoot 키를 사용하세요. |
응답403 · permission_error | 조건배치 그룹을 사용할 수 없습니다. | 다음 단계키/그룹의 사용 권한을 확인하세요. |
응답422 · invalid_request_error | 조건배치는 잔액 과금을 사용하며, 구독을 통한 생성 요청은 거부됩니다. | 다음 단계사용 권한이 있는 잔액 과금 그룹을 사용하세요. |
응답422 · price_unavailable | 조건배치 입력의 예상 비용을 산출할 수 없습니다. | 다음 단계응답을 보관하고 문서에 명시된 API 계열 입력을 사용하세요. |
응답402 · billing_error | 조건배치 예약 금액을 확보할 수 없습니다. | 다음 단계새 요청 전에 요청 허용 조건을 충족하세요. |
응답503 · price_unavailable | 조건배치 메서드 가격 또는 네이티브 요율을 사용할 수 없습니다. | 다음 단계응답을 보관하고 가격을 임의로 대체하지 마세요. |
응답503 · api_error | 조건정확히 일치하는 공급업체 라우트를 사용할 수 없습니다. | 다음 단계라우트 수정을 위해 응답을 보관하세요. |
응답503 · result_pending_check | 조건최초 결과를 확인해야 합니다. X-Should-Retry:false. | 다음 단계최초 operation_id/id를 보관하고 해당 상태를 조회하세요. 최초 POST를 반복하지 마세요. |
응답404 · not_found | 조건배치 상태 조회 대상 작업이 없거나 다른 사용 주체의 소유입니다. | 다음 단계최초 id를 정확히 사용하고 동일한 사용자/키/그룹을 유지하세요. |
Ailoot Ultra mistralai/mistral-medium-3-5:batch
위에 표시된 메서드 경로를 사용하세요.