Granite 4.2 8B는 Granite 4.2 계열의 IBM 중형 추론 모델입니다. 80억 매개변수의 밀집형 디코더 전용 트랜스포머로, 추론, 코드 생성, 지시 이행, 도구 안내 작업을 위해 Granite 4.1 8B Base를 후속 학습했습니다. 텍스트를 받아 텍스트를 생성하며, 추론 모드에서는 중간 사고 블록과 별도의 최종 답변을 제공합니다.
제조사는 그룹 쿼리 어텐션, 회전 위치 인코딩, SwiGLU 피드포워드 계층, RMS 정규화를 설명합니다. 모델은 128K 컨텍스트를 기본 지원하고 512K까지의 긴 컨텍스트 확장을 문서화합니다. 두 수치는 서로 다른 구성입니다. 표준 모델을 사용하는 작업에서 확장 수치로 기본 설정을 대체해서는 안 됩니다. 대화, 원문 자료, 도구 결과, 생성 내용이 선택한 컨텍스트 안에 들어가야 합니다.
전체 사고는 제조사 기본값으로, 답변 전에 분석을 전개합니다. 비사고 모드는 직접 답변을 반환합니다. 저노력 모드는 더 간단한 질문에 짧은 추론 과정을 사용합니다. 제조사 템플릿은 이 선택을 서로 다르게 표현하고 사고 표식 안의 내용과 최종 결론을 구분합니다.
수학이나 코드 분석에는 전체 조건, 정의, 제약을 제공한 뒤 필요한 최종 결과를 지정하세요. 실용적인 요청은 “제공한 입력에서 이 함수가 왜 실패하는지 알아내고, 원인이 되는 조건을 설명하며, 집중된 수정을 제안하세요”입니다. 일반적인 추출 작업은 필요한 필드만 요청할 수 있습니다. 중간 분석이 요청한 결과물을 대신하지 않도록 하면서 작업 깊이에 맞는 모드를 선택하세요.
IBM은 참조 모드와 작업 전반에 temperature 1.0, top-p 0.95를 권장합니다. 생성 예산 예시는 사고에 새 토큰 8,192개, 직접 응답에 2,048개이며, 모델 카드는 복잡한 추론에 더 큰 예산을 명시적으로 허용합니다. 이 예시는 구성 지침이지 독립적으로 확정된 출력 상한이 아닙니다.
기본 다중 턴 템플릿은 컨텍스트를 절약하기 위해 이전 어시스턴트 차례의 사고를 제거합니다. 제조사는 전체 추론 이력이 필요할 때 이를 보존하는 방법도 문서화합니다. 후속 요청에서 이전의 중간 생각과 확정된 발견을 혼동하지 않고 관련 부분을 수정할 수 있도록 최종 답변과 유용한 관찰을 명확히 유지하세요.
모델은 제공된 함수 중 무엇을 호출할지 추론하고 구조화된 도구 호출 내용을 반환할 수 있습니다. 의미 있는 이름, 설명, 매개변수 스키마로 도구를 정의하세요. 애플리케이션이 선택한 작업을 실행하고 관찰을 반환합니다. 이어지는 작업에서는 그 실제 결과를 사용해야 합니다. 코딩 에이전트에는 허용된 파일과 변경 완료를 판단할 동작을 지정한 뒤 구현과 이를 뒷받침하는 검증 관찰을 요청하세요.
모델 카드는 시험한 언어 12개를 나열합니다. 답변 언어를 설정하고 고유명사나 코드 식별자를 보존하세요. 학습은 다국어 데이터를 포함하되 영어 중심이므로 다른 언어의 성능은 다를 수 있습니다. 몇 가지 관련 예시로 의도한 작업과 출력 문체를 명확히 할 수 있습니다.
IBM은 모델이 여전히 부정확하거나 편향된 답변을 생성할 수 있으며, 사고 내용에는 다듬어지지 않은 중간 아이디어가 포함될 수 있다고 밝힙니다. 최종 응답을 제공한 출처와 대조하고, 숫자 추출을 확인하며, 코드를 의도한 애플리케이션에서 살펴보세요. 유용한 결과는 정확한 4.2 8B 에디션과 모드 구분을 유지하면서 근거와 미해결 정보를 명시한 답변, 코드 결과물, 분석 기록입니다.
", "aboutText": "Granite 4.2 8B는 Granite 4.2 계열의 IBM 중형 추론 모델입니다. 80억 매개변수의 밀집형 디코더 전용 트랜스포머로, 추론, 코드 생성, 지시 이행, 도구 안내 작업을 위해 Granite 4.1 8B Base를 후속 학습했습니다. 텍스트를 받아 텍스트를 생성하며, 추론 모드에서는 중간 사고 블록과 별도의 최종 답변을 제공합니다.\n\n### 모델 설계와 컨텍스트\n\n제조사는 그룹 쿼리 어텐션, 회전 위치 인코딩, SwiGLU 피드포워드 계층, RMS 정규화를 설명합니다. 모델은 128K 컨텍스트를 기본 지원하고 512K까지의 긴 컨텍스트 확장을 문서화합니다. 두 수치는 서로 다른 구성입니다. 표준 모델을 사용하는 작업에서 확장 수치로 기본 설정을 대체해서는 안 됩니다. 대화, 원문 자료, 도구 결과, 생성 내용이 선택한 컨텍스트 안에 들어가야 합니다.\n\n### 세 가지 사고 모드\n\n전체 사고는 제조사 기본값으로, 답변 전에 분석을 전개합니다. 비사고 모드는 직접 답변을 반환합니다. 저노력 모드는 더 간단한 질문에 짧은 추론 과정을 사용합니다. 제조사 템플릿은 이 선택을 서로 다르게 표현하고 사고 표식 안의 내용과 최종 결론을 구분합니다.\n\n수학이나 코드 분석에는 전체 조건, 정의, 제약을 제공한 뒤 필요한 최종 결과를 지정하세요. 실용적인 요청은 “제공한 입력에서 이 함수가 왜 실패하는지 알아내고, 원인이 되는 조건을 설명하며, 집중된 수정을 제안하세요”입니다. 일반적인 추출 작업은 필요한 필드만 요청할 수 있습니다. 중간 분석이 요청한 결과물을 대신하지 않도록 하면서 작업 깊이에 맞는 모드를 선택하세요.\n\n### 대화와 생성 지침\n\nIBM은 참조 모드와 작업 전반에 temperature 1.0, top-p 0.95를 권장합니다. 생성 예산 예시는 사고에 새 토큰 8,192개, 직접 응답에 2,048개이며, 모델 카드는 복잡한 추론에 더 큰 예산을 명시적으로 허용합니다. 이 예시는 구성 지침이지 독립적으로 확정된 출력 상한이 아닙니다.\n\n기본 다중 턴 템플릿은 컨텍스트를 절약하기 위해 이전 어시스턴트 차례의 사고를 제거합니다. 제조사는 전체 추론 이력이 필요할 때 이를 보존하는 방법도 문서화합니다. 후속 요청에서 이전의 중간 생각과 확정된 발견을 혼동하지 않고 관련 부분을 수정할 수 있도록 최종 답변과 유용한 관찰을 명확히 유지하세요.\n\n### 도구 호출과 실용적인 결과물\n\n모델은 제공된 함수 중 무엇을 호출할지 추론하고 구조화된 도구 호출 내용을 반환할 수 있습니다. 의미 있는 이름, 설명, 매개변수 스키마로 도구를 정의하세요. 애플리케이션이 선택한 작업을 실행하고 관찰을 반환합니다. 이어지는 작업에서는 그 실제 결과를 사용해야 합니다. 코딩 에이전트에는 허용된 파일과 변경 완료를 판단할 동작을 지정한 뒤 구현과 이를 뒷받침하는 검증 관찰을 요청하세요.\n\n모델 카드는 시험한 언어 12개를 나열합니다. 답변 언어를 설정하고 고유명사나 코드 식별자를 보존하세요. 학습은 다국어 데이터를 포함하되 영어 중심이므로 다른 언어의 성능은 다를 수 있습니다. 몇 가지 관련 예시로 의도한 작업과 출력 문체를 명확히 할 수 있습니다.\n\n### 한계와 해석\n\nIBM은 모델이 여전히 부정확하거나 편향된 답변을 생성할 수 있으며, 사고 내용에는 다듬어지지 않은 중간 아이디어가 포함될 수 있다고 밝힙니다. 최종 응답을 제공한 출처와 대조하고, 숫자 추출을 확인하며, 코드를 의도한 애플리케이션에서 살펴보세요. 유용한 결과는 정확한 4.2 8B 에디션과 모드 구분을 유지하면서 근거와 미해결 정보를 명시한 답변, 코드 결과물, 분석 기록입니다.", "editorialOverlay": { "copy_fields": { "practical_html": "영어 기술 예제
Fix a mutable default argument\n\nExplain why this Python function shares results across calls and propose a correction: def collect(value, items=[]): items.append(value); return items. The caller may supply an existing list and expects it to be updated. Include tests for two omitted-list calls and one explicitly supplied list. Preserve the function name and calling convention.A corrected collect function, a brief cause explanation and tests distinguishing default-list isolation from explicit-list mutation.Check that omitted-list calls return independent lists while an explicitly supplied list is still updated.ibm-granite/granite-4.2-8bGranite 4.2 8B는 수학, 코딩, 다국어 대화, 도구 안내 에이전트를 위한 IBM의 밀집형 텍스트 추론 모델입니다. 전체 추론, 직접 응답, 저노력 응답 모드를 제공하며, 기본 128K 컨텍스트와 별도로 문서화된 긴 컨텍스트 확장이 있습니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Granite 4.2 8B는 Granite 4.2 계열의 IBM 중형 추론 모델입니다. 80억 매개변수의 밀집형 디코더 전용 트랜스포머로, 추론, 코드 생성, 지시 이행, 도구 안내 작업을 위해 Granite 4.1 8B Base를 후속 학습했습니다. 텍스트를 받아 텍스트를 생성하며, 추론 모드에서는 중간 사고 블록과 별도의 최종 답변을 제공합니다.
제조사는 그룹 쿼리 어텐션, 회전 위치 인코딩, SwiGLU 피드포워드 계층, RMS 정규화를 설명합니다. 모델은 128K 컨텍스트를 기본 지원하고 512K까지의 긴 컨텍스트 확장을 문서화합니다. 두 수치는 서로 다른 구성입니다. 표준 모델을 사용하는 작업에서 확장 수치로 기본 설정을 대체해서는 안 됩니다. 대화, 원문 자료, 도구 결과, 생성 내용이 선택한 컨텍스트 안에 들어가야 합니다.
전체 사고는 제조사 기본값으로, 답변 전에 분석을 전개합니다. 비사고 모드는 직접 답변을 반환합니다. 저노력 모드는 더 간단한 질문에 짧은 추론 과정을 사용합니다. 제조사 템플릿은 이 선택을 서로 다르게 표현하고 사고 표식 안의 내용과 최종 결론을 구분합니다.
수학이나 코드 분석에는 전체 조건, 정의, 제약을 제공한 뒤 필요한 최종 결과를 지정하세요. 실용적인 요청은 “제공한 입력에서 이 함수가 왜 실패하는지 알아내고, 원인이 되는 조건을 설명하며, 집중된 수정을 제안하세요”입니다. 일반적인 추출 작업은 필요한 필드만 요청할 수 있습니다. 중간 분석이 요청한 결과물을 대신하지 않도록 하면서 작업 깊이에 맞는 모드를 선택하세요.
IBM은 참조 모드와 작업 전반에 temperature 1.0, top-p 0.95를 권장합니다. 생성 예산 예시는 사고에 새 토큰 8,192개, 직접 응답에 2,048개이며, 모델 카드는 복잡한 추론에 더 큰 예산을 명시적으로 허용합니다. 이 예시는 구성 지침이지 독립적으로 확정된 출력 상한이 아닙니다.
기본 다중 턴 템플릿은 컨텍스트를 절약하기 위해 이전 어시스턴트 차례의 사고를 제거합니다. 제조사는 전체 추론 이력이 필요할 때 이를 보존하는 방법도 문서화합니다. 후속 요청에서 이전의 중간 생각과 확정된 발견을 혼동하지 않고 관련 부분을 수정할 수 있도록 최종 답변과 유용한 관찰을 명확히 유지하세요.
모델은 제공된 함수 중 무엇을 호출할지 추론하고 구조화된 도구 호출 내용을 반환할 수 있습니다. 의미 있는 이름, 설명, 매개변수 스키마로 도구를 정의하세요. 애플리케이션이 선택한 작업을 실행하고 관찰을 반환합니다. 이어지는 작업에서는 그 실제 결과를 사용해야 합니다. 코딩 에이전트에는 허용된 파일과 변경 완료를 판단할 동작을 지정한 뒤 구현과 이를 뒷받침하는 검증 관찰을 요청하세요.
모델 카드는 시험한 언어 12개를 나열합니다. 답변 언어를 설정하고 고유명사나 코드 식별자를 보존하세요. 학습은 다국어 데이터를 포함하되 영어 중심이므로 다른 언어의 성능은 다를 수 있습니다. 몇 가지 관련 예시로 의도한 작업과 출력 문체를 명확히 할 수 있습니다.
IBM은 모델이 여전히 부정확하거나 편향된 답변을 생성할 수 있으며, 사고 내용에는 다듬어지지 않은 중간 아이디어가 포함될 수 있다고 밝힙니다. 최종 응답을 제공한 출처와 대조하고, 숫자 추출을 확인하며, 코드를 의도한 애플리케이션에서 살펴보세요. 유용한 결과는 정확한 4.2 8B 에디션과 모드 구분을 유지하면서 근거와 미해결 정보를 명시한 답변, 코드 결과물, 분석 기록입니다.
POST /v1/chat/completionstexttext| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 ibm-granite/granite-4.2-8b | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 예시: system, user, assistant, tool, function 조건: 이 역할들은 소스 코드의 호환 타입에 명시적으로 표현됩니다. 정확한 모델 역할 집합은 모델별로 다릅니다. 모델에 따라 다름 | 기본값— |
필드messages[].content | 유형string|content_part[]|null | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_calls | 유형tool_call[] | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_call_id | 유형string | 요건선택 사항 | 값과 한도 적용 조건: role=tool. 실제 반환된 ID를 사용하세요 | 기본값— |
필드messages[].name | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].reasoning_content | 유형string | 요건선택 사항 | 값과 한도 적용 조건: 이 모델이 추론을 사용하는 경우 실제 반환된 추론을 그대로 다음 요청에 다시 전달하세요 | 기본값— |
필드messages[].reasoning_details | 유형object|array | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드max_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드max_completion_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
필드stream_options.include_usage | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드temperature | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드top_p | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드stop | 유형string|string[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools | 유형function_tool[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools[].type | 유형string | 요건선택 사항 | 값과 한도 function 모델에 따라 다름 | 기본값— |
필드tools[].function.name | 유형string | 요건필수 | 값과 한도 적용 조건: 함수 도구 지정됨 | 기본값— |
필드tools[].function.description | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드tools[].function.parameters | 유형JSON_schema | 요건선택 사항 | 값과 한도 | 기본값— |
필드tool_choice | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드parallel_tool_calls | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드response_format | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning_effort | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드service_tier | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드instructions | 유형string | 요건선택 사항 | 값과 한도 호환성 필드 | 기본값— |
필드functions | 유형function[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드function_call | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드prompt_cache_options | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드modalities | 유형string[] | 요건선택 사항 | 값과 한도 text | 기본값— |
필드provider | 유형object | 요건선택 사항 | 값과 한도 조건: 이 Ultra 텍스트 경로에서는 provider.options가 거부됩니다 | 기본값— |
필드cache_control.ttl | 유형string | 요건선택 사항 | 값과 한도 조건: 실제 프롬프트 캐시 지정 위치에서는 1h가 거부됩니다 | 기본값— |
텍스트 · UTF8 텍스트
messages[].content
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages |
매개변수material_types | 명세text |
매개변수messages | 명세role/content 형식의 메시지 배열 |
매개변수file_material | 명세실제 UTF-8 문서를 텍스트로 그대로 삽입합니다. 파일 ID는 추정하지 않습니다 |
매개변수optional_controls | 명세stream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
매개변수control_scope | 명세모델별로 다름. 사용자 함수 도구와 호스팅 도구는 서로 다릅니다 |
매개변수output_modalities | 명세text |
매개변수hosted_operations | 명세false |
매개변수multimodal_input_binding | 명세null |
수명 주기: synchronous_or_streamed
정확한 모델 ID를 messages와 함께 보내세요.
컨텍스트 길이는 출력 상한이 아닙니다.
텍스트 파일은 텍스트를 그대로 제공할 수 있습니다. 이미지/오디오/파일 객체 입력에는 정확한 바인딩이 필요합니다.
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0002 / 1K 토큰 출력 · 출력 토큰 $0.0003 / 1K 토큰 입력 · 캐시 읽기 $0.0001 / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0002 / 1K 토큰 출력 · 출력 토큰 $0.0003 / 1K 토큰 입력 · 캐시 읽기 $0.0001 / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "ibm-granite/granite-4.2-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='ibm-granite/granite-4.2-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='ibm-granite/granite-4.2-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
각 선택지와 그 콘텐츠·도구 호출·추론을 모두 보존하세요. SSE에서는 선택지/도구 인덱스별로 증분을 조합하고 최종 종료 사유와 사용량을 유지하세요.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드choices[].index | 유형integer |
필드choices[].message.content | 유형string|null |
필드choices[].message.tool_calls | 유형tool_call[] |
필드choices[].message.reasoning_content | 유형string |
필드choices[].message.reasoning_details | 유형object|array |
필드choices[].finish_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra ibm-granite/granite-4.2-8b
위에 표시된 메서드 경로를 사용하세요.
ibm-granite/granite-4.2-8bGranite 4.2 8B는 수학, 코딩, 다국어 대화, 도구 안내 에이전트를 위한 IBM의 밀집형 텍스트 추론 모델입니다. 전체 추론, 직접 응답, 저노력 응답 모드를 제공하며, 기본 128K 컨텍스트와 별도로 문서화된 긴 컨텍스트 확장이 있습니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Granite 4.2 8B는 Granite 4.2 계열의 IBM 중형 추론 모델입니다. 80억 매개변수의 밀집형 디코더 전용 트랜스포머로, 추론, 코드 생성, 지시 이행, 도구 안내 작업을 위해 Granite 4.1 8B Base를 후속 학습했습니다. 텍스트를 받아 텍스트를 생성하며, 추론 모드에서는 중간 사고 블록과 별도의 최종 답변을 제공합니다.
제조사는 그룹 쿼리 어텐션, 회전 위치 인코딩, SwiGLU 피드포워드 계층, RMS 정규화를 설명합니다. 모델은 128K 컨텍스트를 기본 지원하고 512K까지의 긴 컨텍스트 확장을 문서화합니다. 두 수치는 서로 다른 구성입니다. 표준 모델을 사용하는 작업에서 확장 수치로 기본 설정을 대체해서는 안 됩니다. 대화, 원문 자료, 도구 결과, 생성 내용이 선택한 컨텍스트 안에 들어가야 합니다.
전체 사고는 제조사 기본값으로, 답변 전에 분석을 전개합니다. 비사고 모드는 직접 답변을 반환합니다. 저노력 모드는 더 간단한 질문에 짧은 추론 과정을 사용합니다. 제조사 템플릿은 이 선택을 서로 다르게 표현하고 사고 표식 안의 내용과 최종 결론을 구분합니다.
수학이나 코드 분석에는 전체 조건, 정의, 제약을 제공한 뒤 필요한 최종 결과를 지정하세요. 실용적인 요청은 “제공한 입력에서 이 함수가 왜 실패하는지 알아내고, 원인이 되는 조건을 설명하며, 집중된 수정을 제안하세요”입니다. 일반적인 추출 작업은 필요한 필드만 요청할 수 있습니다. 중간 분석이 요청한 결과물을 대신하지 않도록 하면서 작업 깊이에 맞는 모드를 선택하세요.
IBM은 참조 모드와 작업 전반에 temperature 1.0, top-p 0.95를 권장합니다. 생성 예산 예시는 사고에 새 토큰 8,192개, 직접 응답에 2,048개이며, 모델 카드는 복잡한 추론에 더 큰 예산을 명시적으로 허용합니다. 이 예시는 구성 지침이지 독립적으로 확정된 출력 상한이 아닙니다.
기본 다중 턴 템플릿은 컨텍스트를 절약하기 위해 이전 어시스턴트 차례의 사고를 제거합니다. 제조사는 전체 추론 이력이 필요할 때 이를 보존하는 방법도 문서화합니다. 후속 요청에서 이전의 중간 생각과 확정된 발견을 혼동하지 않고 관련 부분을 수정할 수 있도록 최종 답변과 유용한 관찰을 명확히 유지하세요.
모델은 제공된 함수 중 무엇을 호출할지 추론하고 구조화된 도구 호출 내용을 반환할 수 있습니다. 의미 있는 이름, 설명, 매개변수 스키마로 도구를 정의하세요. 애플리케이션이 선택한 작업을 실행하고 관찰을 반환합니다. 이어지는 작업에서는 그 실제 결과를 사용해야 합니다. 코딩 에이전트에는 허용된 파일과 변경 완료를 판단할 동작을 지정한 뒤 구현과 이를 뒷받침하는 검증 관찰을 요청하세요.
모델 카드는 시험한 언어 12개를 나열합니다. 답변 언어를 설정하고 고유명사나 코드 식별자를 보존하세요. 학습은 다국어 데이터를 포함하되 영어 중심이므로 다른 언어의 성능은 다를 수 있습니다. 몇 가지 관련 예시로 의도한 작업과 출력 문체를 명확히 할 수 있습니다.
IBM은 모델이 여전히 부정확하거나 편향된 답변을 생성할 수 있으며, 사고 내용에는 다듬어지지 않은 중간 아이디어가 포함될 수 있다고 밝힙니다. 최종 응답을 제공한 출처와 대조하고, 숫자 추출을 확인하며, 코드를 의도한 애플리케이션에서 살펴보세요. 유용한 결과는 정확한 4.2 8B 에디션과 모드 구분을 유지하면서 근거와 미해결 정보를 명시한 답변, 코드 결과물, 분석 기록입니다.
POST /v1/messagestextjson, sse| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 ibm-granite/granite-4.2-8b | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 user, assistant | 기본값— |
필드messages[].content | 유형string | 요건필수 | 값과 한도 | 기본값— |
필드max_tokens | 유형integer | 요건필수 | 값과 한도 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
텍스트 · UTF-8 텍스트
messages[].content 문자열
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages, max_tokens |
매개변수optional_controls | 명세stream |
매개변수material_types | 명세text |
매개변수text_file_material | 명세실제 UTF-8 문서를 읽고 그 텍스트를 지정된 입력 또는 메시지 콘텐츠 문자열에 넣으세요. |
수명 주기: synchronous_or_streamed
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0002 / 1K 토큰 출력 · 출력 토큰 $0.0003 / 1K 토큰 입력 · 캐시 읽기 $0.0001 / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0002 / 1K 토큰 출력 · 출력 토큰 $0.0003 / 1K 토큰 입력 · 캐시 읽기 $0.0001 / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
{\n "model": "ibm-granite/granite-4.2-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'ibm-granite/granite-4.2-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'ibm-granite/granite-4.2-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
모든 콘텐츠 블록, 사고 서명, 실제 도구 사용 ID를 보존하세요. 모든 SSE 블록 증분을 조합하세요. 첫 텍스트 블록이 전체 출력은 아닙니다.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드id | 유형string |
필드model | 유형string |
필드content[] | 유형text|thinking|tool_use|other content block |
필드stop_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra ibm-granite/granite-4.2-8b
위에 표시된 메서드 경로를 사용하세요.
영어 기술 예제
Fix a mutable default argument\n\nExplain why this Python function shares results across calls and propose a correction: def collect(value, items=[]): items.append(value); return items. The caller may supply an existing list and expects it to be updated. Include tests for two omitted-list calls and one explicitly supplied list. Preserve the function name and calling convention.A corrected collect function, a brief cause explanation and tests distinguishing default-list isolation from explicit-list mutation.Check that omitted-list calls return independent lists while an explicitly supplied list is still updated.