Gemma 2 27B IT는 Google의 270억 매개변수 Gemma 2 지시 튜닝 에디션입니다. 영어에 중점을 둔 공개 가중치 디코더 전용 언어 모델로, 텍스트를 입력받아 텍스트를 생성합니다. 용도에는 질의응답, 요약, 추론, 창작 글쓰기, 코드 관련 작업이 포함됩니다. IT는 사전 학습 모델 및 별도로 양자화한 파생 모델과 구별되는 지시 튜닝 변형을 뜻합니다.
기술 보고서에는 8,192 토큰 컨텍스트가 명시되어 있습니다. Gemma 2는 4,096 토큰 슬라이딩 윈도우를 사용하는 로컬 어텐션과 전체 컨텍스트에 걸친 전역 어텐션을 번갈아 적용합니다. 27B 아키텍처는 46개 계층과 그룹 쿼리 어텐션을 사용합니다. 이는 애플리케이션의 응답 길이 설정이 아니라 제작사 모델의 특성입니다. 후속 Gemma 세대의 훨씬 큰 컨텍스트를 가정하지 말고, 핵심 원문 발췌를 준비하고 요청한 답변과 대화를 위한 공간을 남기세요.
27B 기본 모델은 주로 영어 텍스트로 이루어진 13조 개의 토큰으로 처음부터 학습했습니다. 문서에 명시된 출처에는 웹 문서, 코드, 수학 또는 과학 자료가 포함됩니다. 보고서는 이 학습을 더 작은 2B와 9B 기본 모델에 사용한 증류와 구분합니다. 지시 튜닝은 지도 방식의 프롬프트·응답 학습과 선호도 기반 개선을 더해 대화형 응답을 유도합니다. 따라서 IT 에디션의 사용 방식은 사전 학습 모델로 임의의 텍스트를 이어 쓰는 것과 다릅니다.
문서를 요약할 때는 해당 구절을 제공하고 독자에게 필요한 것이 결정 사항, 요구 사항, 설명, 짧은 핵심 항목 중 무엇인지 말하세요. 예시 지시문은 다음과 같습니다. “이 명세를 지원 엔지니어용으로 요약하세요. 모든 필드명을 보존하고 명시적인 요구 사항과 예시를 구분하며, 이 구절이 정의하지 않은 세부 사항을 나열하세요.” 사실이 반드시 출처에서 나와야 한다면 설명과 함께 관련 문구나 절 참조도 요청하세요.
대화형 사용은 Gemma 2의 user/model 턴 템플릿을 따릅니다. Google의 해당 모델 카드는 각 턴의 시작과 끝을 구분자로 표시하면서 이 템플릿 안에 대화를 유지하는 방식을 보여 주므로 후속 요청이 이전 응답을 이어갈 수 있습니다. 문서화된 형식은 Gemma 4의 새로운 고유 system 역할 및 thinking 제어와 다릅니다. 실무 대화에서는 먼저 사실을 추출한 다음, 추출한 이름과 조건을 보존하면서 더 짧은 설명이나 메시지 초안을 요청할 수 있습니다.
코드 작업에는 관련 코드 조각, 프로그래밍 언어, 관찰한 동작, 기대하는 결과를 포함하세요. 범위를 밝히고 설명, 수정 제안 또는 풀이 예시를 요청하세요. 수학 추론에는 전체 문제, 변수 정의, 가정을 텍스트로 적으세요. 이 에디션에는 고유 시각 또는 오디오 입력이 없으므로 사진으로 찍은 문제나 구두 설명은 먼저 텍스트로 전환해야 합니다. 출력에 코드나 서식 있는 답변이 포함될 수 있지만, 그런 텍스트 형식이 전용 도구 호출 또는 제한된 출력 모드의 존재를 뜻하지는 않습니다.
모델 카드는 모호성, 반어법, 복잡한 개방형 지시, 사실 정확성에서 응답에 한계가 있을 수 있다고 명시합니다. 출처 기반 답변에는 권위 있는 구절을 제공하고 정보가 없는 부분을 밝히도록 요청하세요. 편집 과제에는 대상 독자, 어조, 필수 사실, 변경 가능한 부분을 지정하세요. 유용한 결과물은 프롬프트에 제공된 자료 및 조건과 비교할 수 있는 초점이 명확한 영어 답변, 요약, 초안 또는 코드 설명입니다.
", "aboutText": "Gemma 2 27B IT는 Google의 270억 매개변수 Gemma 2 지시 튜닝 에디션입니다. 영어에 중점을 둔 공개 가중치 디코더 전용 언어 모델로, 텍스트를 입력받아 텍스트를 생성합니다. 용도에는 질의응답, 요약, 추론, 창작 글쓰기, 코드 관련 작업이 포함됩니다. IT는 사전 학습 모델 및 별도로 양자화한 파생 모델과 구별되는 지시 튜닝 변형을 뜻합니다.\n\n기술 보고서에는 8,192 토큰 컨텍스트가 명시되어 있습니다. Gemma 2는 4,096 토큰 슬라이딩 윈도우를 사용하는 로컬 어텐션과 전체 컨텍스트에 걸친 전역 어텐션을 번갈아 적용합니다. 27B 아키텍처는 46개 계층과 그룹 쿼리 어텐션을 사용합니다. 이는 애플리케이션의 응답 길이 설정이 아니라 제작사 모델의 특성입니다. 후속 Gemma 세대의 훨씬 큰 컨텍스트를 가정하지 말고, 핵심 원문 발췌를 준비하고 요청한 답변과 대화를 위한 공간을 남기세요.\n\n27B 기본 모델은 주로 영어 텍스트로 이루어진 13조 개의 토큰으로 처음부터 학습했습니다. 문서에 명시된 출처에는 웹 문서, 코드, 수학 또는 과학 자료가 포함됩니다. 보고서는 이 학습을 더 작은 2B와 9B 기본 모델에 사용한 증류와 구분합니다. 지시 튜닝은 지도 방식의 프롬프트·응답 학습과 선호도 기반 개선을 더해 대화형 응답을 유도합니다. 따라서 IT 에디션의 사용 방식은 사전 학습 모델로 임의의 텍스트를 이어 쓰는 것과 다릅니다.\n\n문서를 요약할 때는 해당 구절을 제공하고 독자에게 필요한 것이 결정 사항, 요구 사항, 설명, 짧은 핵심 항목 중 무엇인지 말하세요. 예시 지시문은 다음과 같습니다. “이 명세를 지원 엔지니어용으로 요약하세요. 모든 필드명을 보존하고 명시적인 요구 사항과 예시를 구분하며, 이 구절이 정의하지 않은 세부 사항을 나열하세요.” 사실이 반드시 출처에서 나와야 한다면 설명과 함께 관련 문구나 절 참조도 요청하세요.\n\n대화형 사용은 Gemma 2의 user/model 턴 템플릿을 따릅니다. Google의 해당 모델 카드는 각 턴의 시작과 끝을 구분자로 표시하면서 이 템플릿 안에 대화를 유지하는 방식을 보여 주므로 후속 요청이 이전 응답을 이어갈 수 있습니다. 문서화된 형식은 Gemma 4의 새로운 고유 system 역할 및 thinking 제어와 다릅니다. 실무 대화에서는 먼저 사실을 추출한 다음, 추출한 이름과 조건을 보존하면서 더 짧은 설명이나 메시지 초안을 요청할 수 있습니다.\n\n코드 작업에는 관련 코드 조각, 프로그래밍 언어, 관찰한 동작, 기대하는 결과를 포함하세요. 범위를 밝히고 설명, 수정 제안 또는 풀이 예시를 요청하세요. 수학 추론에는 전체 문제, 변수 정의, 가정을 텍스트로 적으세요. 이 에디션에는 고유 시각 또는 오디오 입력이 없으므로 사진으로 찍은 문제나 구두 설명은 먼저 텍스트로 전환해야 합니다. 출력에 코드나 서식 있는 답변이 포함될 수 있지만, 그런 텍스트 형식이 전용 도구 호출 또는 제한된 출력 모드의 존재를 뜻하지는 않습니다.\n\n모델 카드는 모호성, 반어법, 복잡한 개방형 지시, 사실 정확성에서 응답에 한계가 있을 수 있다고 명시합니다. 출처 기반 답변에는 권위 있는 구절을 제공하고 정보가 없는 부분을 밝히도록 요청하세요. 편집 과제에는 대상 독자, 어조, 필수 사실, 변경 가능한 부분을 지정하세요. 유용한 결과물은 프롬프트에 제공된 자료 및 조건과 비교할 수 있는 초점이 명확한 영어 답변, 요약, 초안 또는 코드 설명입니다.", "editorialOverlay": { "copy_fields": { "practical_html": "영어 기술 예제
Explain a specification for support\n\nSummarize this specification for a support engineer: “retry_after is optional and measured in seconds. If absent, the client must not infer a retry time. Example: retry_after = 30. A failed request may include error_id.” Separate requirements from examples and list what the passage does not define. Keep field names unchanged.A short support note with requirements, examples and unspecified details in separate sections.Check that 30 seconds remains an example and that error_id is not described as mandatory.google/gemma-2-27b-itGemma 2 27B IT는 영어 질의응답, 요약, 글쓰기, 추론을 위한 Google의 지시 튜닝 텍스트 전용 모델입니다. 8,192 토큰 컨텍스트와 대화 형식은 범위를 좁힌 출처 기반 과제와 코드 설명에 적합합니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Gemma 2 27B IT는 Google의 270억 매개변수 Gemma 2 지시 튜닝 에디션입니다. 영어에 중점을 둔 공개 가중치 디코더 전용 언어 모델로, 텍스트를 입력받아 텍스트를 생성합니다. 용도에는 질의응답, 요약, 추론, 창작 글쓰기, 코드 관련 작업이 포함됩니다. IT는 사전 학습 모델 및 별도로 양자화한 파생 모델과 구별되는 지시 튜닝 변형을 뜻합니다.
기술 보고서에는 8,192 토큰 컨텍스트가 명시되어 있습니다. Gemma 2는 4,096 토큰 슬라이딩 윈도우를 사용하는 로컬 어텐션과 전체 컨텍스트에 걸친 전역 어텐션을 번갈아 적용합니다. 27B 아키텍처는 46개 계층과 그룹 쿼리 어텐션을 사용합니다. 이는 애플리케이션의 응답 길이 설정이 아니라 제작사 모델의 특성입니다. 후속 Gemma 세대의 훨씬 큰 컨텍스트를 가정하지 말고, 핵심 원문 발췌를 준비하고 요청한 답변과 대화를 위한 공간을 남기세요.
27B 기본 모델은 주로 영어 텍스트로 이루어진 13조 개의 토큰으로 처음부터 학습했습니다. 문서에 명시된 출처에는 웹 문서, 코드, 수학 또는 과학 자료가 포함됩니다. 보고서는 이 학습을 더 작은 2B와 9B 기본 모델에 사용한 증류와 구분합니다. 지시 튜닝은 지도 방식의 프롬프트·응답 학습과 선호도 기반 개선을 더해 대화형 응답을 유도합니다. 따라서 IT 에디션의 사용 방식은 사전 학습 모델로 임의의 텍스트를 이어 쓰는 것과 다릅니다.
문서를 요약할 때는 해당 구절을 제공하고 독자에게 필요한 것이 결정 사항, 요구 사항, 설명, 짧은 핵심 항목 중 무엇인지 말하세요. 예시 지시문은 다음과 같습니다. “이 명세를 지원 엔지니어용으로 요약하세요. 모든 필드명을 보존하고 명시적인 요구 사항과 예시를 구분하며, 이 구절이 정의하지 않은 세부 사항을 나열하세요.” 사실이 반드시 출처에서 나와야 한다면 설명과 함께 관련 문구나 절 참조도 요청하세요.
대화형 사용은 Gemma 2의 user/model 턴 템플릿을 따릅니다. Google의 해당 모델 카드는 각 턴의 시작과 끝을 구분자로 표시하면서 이 템플릿 안에 대화를 유지하는 방식을 보여 주므로 후속 요청이 이전 응답을 이어갈 수 있습니다. 문서화된 형식은 Gemma 4의 새로운 고유 system 역할 및 thinking 제어와 다릅니다. 실무 대화에서는 먼저 사실을 추출한 다음, 추출한 이름과 조건을 보존하면서 더 짧은 설명이나 메시지 초안을 요청할 수 있습니다.
코드 작업에는 관련 코드 조각, 프로그래밍 언어, 관찰한 동작, 기대하는 결과를 포함하세요. 범위를 밝히고 설명, 수정 제안 또는 풀이 예시를 요청하세요. 수학 추론에는 전체 문제, 변수 정의, 가정을 텍스트로 적으세요. 이 에디션에는 고유 시각 또는 오디오 입력이 없으므로 사진으로 찍은 문제나 구두 설명은 먼저 텍스트로 전환해야 합니다. 출력에 코드나 서식 있는 답변이 포함될 수 있지만, 그런 텍스트 형식이 전용 도구 호출 또는 제한된 출력 모드의 존재를 뜻하지는 않습니다.
모델 카드는 모호성, 반어법, 복잡한 개방형 지시, 사실 정확성에서 응답에 한계가 있을 수 있다고 명시합니다. 출처 기반 답변에는 권위 있는 구절을 제공하고 정보가 없는 부분을 밝히도록 요청하세요. 편집 과제에는 대상 독자, 어조, 필수 사실, 변경 가능한 부분을 지정하세요. 유용한 결과물은 프롬프트에 제공된 자료 및 조건과 비교할 수 있는 초점이 명확한 영어 답변, 요약, 초안 또는 코드 설명입니다.
POST /v1/chat/completionstexttext| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 google/gemma-2-27b-it | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 예시: system, user, assistant, tool, function 조건: 이 역할들은 소스 코드의 호환 타입에 명시적으로 표현됩니다. 정확한 모델 역할 집합은 모델별로 다릅니다. 모델에 따라 다름 | 기본값— |
필드messages[].content | 유형string|content_part[]|null | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_calls | 유형tool_call[] | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_call_id | 유형string | 요건선택 사항 | 값과 한도 적용 조건: role=tool. 실제 반환된 ID를 사용하세요 | 기본값— |
필드messages[].name | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].reasoning_content | 유형string | 요건선택 사항 | 값과 한도 적용 조건: 이 모델이 추론을 사용하는 경우 실제 반환된 추론을 그대로 다음 요청에 다시 전달하세요 | 기본값— |
필드messages[].reasoning_details | 유형object|array | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드max_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드max_completion_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
필드stream_options.include_usage | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드temperature | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드top_p | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드stop | 유형string|string[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools | 유형function_tool[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools[].type | 유형string | 요건선택 사항 | 값과 한도 function 모델에 따라 다름 | 기본값— |
필드tools[].function.name | 유형string | 요건필수 | 값과 한도 적용 조건: 함수 도구 지정됨 | 기본값— |
필드tools[].function.description | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드tools[].function.parameters | 유형JSON_schema | 요건선택 사항 | 값과 한도 | 기본값— |
필드tool_choice | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드parallel_tool_calls | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드response_format | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning_effort | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드service_tier | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드instructions | 유형string | 요건선택 사항 | 값과 한도 호환성 필드 | 기본값— |
필드functions | 유형function[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드function_call | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드prompt_cache_options | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드modalities | 유형string[] | 요건선택 사항 | 값과 한도 text | 기본값— |
필드provider | 유형object | 요건선택 사항 | 값과 한도 조건: 이 Ultra 텍스트 경로에서는 provider.options가 거부됩니다 | 기본값— |
필드cache_control.ttl | 유형string | 요건선택 사항 | 값과 한도 조건: 실제 프롬프트 캐시 지정 위치에서는 1h가 거부됩니다 | 기본값— |
텍스트 · UTF8 텍스트
messages[].content
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages |
매개변수material_types | 명세text |
매개변수messages | 명세role/content 형식의 메시지 배열 |
매개변수file_material | 명세실제 UTF-8 문서를 텍스트로 그대로 삽입합니다. 파일 ID는 추정하지 않습니다 |
매개변수optional_controls | 명세stream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
매개변수control_scope | 명세모델별로 다름. 사용자 함수 도구와 호스팅 도구는 서로 다릅니다 |
매개변수output_modalities | 명세text |
매개변수hosted_operations | 명세false |
매개변수multimodal_input_binding | 명세null |
수명 주기: synchronous_or_streamed
정확한 모델 ID를 messages와 함께 보내세요.
컨텍스트 길이는 출력 상한이 아닙니다.
텍스트 파일은 텍스트를 그대로 제공할 수 있습니다. 이미지/오디오/파일 객체 입력에는 정확한 바인딩이 필요합니다.
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0013 / 1K 토큰 출력 · 출력 토큰 $0.0013 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0013 / 1K 토큰 출력 · 출력 토큰 $0.0013 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "google/gemma-2-27b-it", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='google/gemma-2-27b-it',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='google/gemma-2-27b-it',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
각 선택지와 그 콘텐츠·도구 호출·추론을 모두 보존하세요. SSE에서는 선택지/도구 인덱스별로 증분을 조합하고 최종 종료 사유와 사용량을 유지하세요.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드choices[].index | 유형integer |
필드choices[].message.content | 유형string|null |
필드choices[].message.tool_calls | 유형tool_call[] |
필드choices[].message.reasoning_content | 유형string |
필드choices[].message.reasoning_details | 유형object|array |
필드choices[].finish_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra google/gemma-2-27b-it
위에 표시된 메서드 경로를 사용하세요.
google/gemma-2-27b-itGemma 2 27B IT는 영어 질의응답, 요약, 글쓰기, 추론을 위한 Google의 지시 튜닝 텍스트 전용 모델입니다. 8,192 토큰 컨텍스트와 대화 형식은 범위를 좁힌 출처 기반 과제와 코드 설명에 적합합니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Gemma 2 27B IT는 Google의 270억 매개변수 Gemma 2 지시 튜닝 에디션입니다. 영어에 중점을 둔 공개 가중치 디코더 전용 언어 모델로, 텍스트를 입력받아 텍스트를 생성합니다. 용도에는 질의응답, 요약, 추론, 창작 글쓰기, 코드 관련 작업이 포함됩니다. IT는 사전 학습 모델 및 별도로 양자화한 파생 모델과 구별되는 지시 튜닝 변형을 뜻합니다.
기술 보고서에는 8,192 토큰 컨텍스트가 명시되어 있습니다. Gemma 2는 4,096 토큰 슬라이딩 윈도우를 사용하는 로컬 어텐션과 전체 컨텍스트에 걸친 전역 어텐션을 번갈아 적용합니다. 27B 아키텍처는 46개 계층과 그룹 쿼리 어텐션을 사용합니다. 이는 애플리케이션의 응답 길이 설정이 아니라 제작사 모델의 특성입니다. 후속 Gemma 세대의 훨씬 큰 컨텍스트를 가정하지 말고, 핵심 원문 발췌를 준비하고 요청한 답변과 대화를 위한 공간을 남기세요.
27B 기본 모델은 주로 영어 텍스트로 이루어진 13조 개의 토큰으로 처음부터 학습했습니다. 문서에 명시된 출처에는 웹 문서, 코드, 수학 또는 과학 자료가 포함됩니다. 보고서는 이 학습을 더 작은 2B와 9B 기본 모델에 사용한 증류와 구분합니다. 지시 튜닝은 지도 방식의 프롬프트·응답 학습과 선호도 기반 개선을 더해 대화형 응답을 유도합니다. 따라서 IT 에디션의 사용 방식은 사전 학습 모델로 임의의 텍스트를 이어 쓰는 것과 다릅니다.
문서를 요약할 때는 해당 구절을 제공하고 독자에게 필요한 것이 결정 사항, 요구 사항, 설명, 짧은 핵심 항목 중 무엇인지 말하세요. 예시 지시문은 다음과 같습니다. “이 명세를 지원 엔지니어용으로 요약하세요. 모든 필드명을 보존하고 명시적인 요구 사항과 예시를 구분하며, 이 구절이 정의하지 않은 세부 사항을 나열하세요.” 사실이 반드시 출처에서 나와야 한다면 설명과 함께 관련 문구나 절 참조도 요청하세요.
대화형 사용은 Gemma 2의 user/model 턴 템플릿을 따릅니다. Google의 해당 모델 카드는 각 턴의 시작과 끝을 구분자로 표시하면서 이 템플릿 안에 대화를 유지하는 방식을 보여 주므로 후속 요청이 이전 응답을 이어갈 수 있습니다. 문서화된 형식은 Gemma 4의 새로운 고유 system 역할 및 thinking 제어와 다릅니다. 실무 대화에서는 먼저 사실을 추출한 다음, 추출한 이름과 조건을 보존하면서 더 짧은 설명이나 메시지 초안을 요청할 수 있습니다.
코드 작업에는 관련 코드 조각, 프로그래밍 언어, 관찰한 동작, 기대하는 결과를 포함하세요. 범위를 밝히고 설명, 수정 제안 또는 풀이 예시를 요청하세요. 수학 추론에는 전체 문제, 변수 정의, 가정을 텍스트로 적으세요. 이 에디션에는 고유 시각 또는 오디오 입력이 없으므로 사진으로 찍은 문제나 구두 설명은 먼저 텍스트로 전환해야 합니다. 출력에 코드나 서식 있는 답변이 포함될 수 있지만, 그런 텍스트 형식이 전용 도구 호출 또는 제한된 출력 모드의 존재를 뜻하지는 않습니다.
모델 카드는 모호성, 반어법, 복잡한 개방형 지시, 사실 정확성에서 응답에 한계가 있을 수 있다고 명시합니다. 출처 기반 답변에는 권위 있는 구절을 제공하고 정보가 없는 부분을 밝히도록 요청하세요. 편집 과제에는 대상 독자, 어조, 필수 사실, 변경 가능한 부분을 지정하세요. 유용한 결과물은 프롬프트에 제공된 자료 및 조건과 비교할 수 있는 초점이 명확한 영어 답변, 요약, 초안 또는 코드 설명입니다.
POST /v1/messagestextjson, sse| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 google/gemma-2-27b-it | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 user, assistant | 기본값— |
필드messages[].content | 유형string | 요건필수 | 값과 한도 | 기본값— |
필드max_tokens | 유형integer | 요건필수 | 값과 한도 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
텍스트 · UTF-8 텍스트
messages[].content 문자열
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages, max_tokens |
매개변수optional_controls | 명세stream |
매개변수material_types | 명세text |
매개변수text_file_material | 명세실제 UTF-8 문서를 읽고 그 텍스트를 지정된 입력 또는 메시지 콘텐츠 문자열에 넣으세요. |
수명 주기: synchronous_or_streamed
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0013 / 1K 토큰 출력 · 출력 토큰 $0.0013 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0013 / 1K 토큰 출력 · 출력 토큰 $0.0013 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
{\n "model": "google/gemma-2-27b-it",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'google/gemma-2-27b-it', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'google/gemma-2-27b-it', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
모든 콘텐츠 블록, 사고 서명, 실제 도구 사용 ID를 보존하세요. 모든 SSE 블록 증분을 조합하세요. 첫 텍스트 블록이 전체 출력은 아닙니다.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드id | 유형string |
필드model | 유형string |
필드content[] | 유형text|thinking|tool_use|other content block |
필드stop_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra google/gemma-2-27b-it
위에 표시된 메서드 경로를 사용하세요.
영어 기술 예제
Explain a specification for support\n\nSummarize this specification for a support engineer: “retry_after is optional and measured in seconds. If absent, the client must not infer a retry time. Example: retry_after = 30. A failed request may include error_id.” Separate requirements from examples and list what the passage does not define. Keep field names unchanged.A short support note with requirements, examples and unspecified details in separate sections.Check that 30 seconds remains an example and that error_id is not described as mandatory.