Hermes 3 Llama 3.1 405B는 Llama 3.1 405B의 전체 파라미터 파인 튜닝으로 개발한 Nous Research의 대형 범용 텍스트 모델입니다. 제조사는 사용자 지침에 대한 정렬, 제어 가능성, 역할극, 추론, 여러 턴의 대화, 긴 컨텍스트의 일관성을 강조합니다. 출력은 답변, 글, 코드, 구조화된 레코드, 함수 호출 정보 등이 포함된 텍스트입니다.
이 모델은 대형 Hermes 3 카탈로그 버전이며 함께 제공되는 70B 모델 및 이후 Hermes 4 추론 릴리스와 구분됩니다. 제조사는 개선된 함수 호출, 구조화된 출력, 코드 생성으로 기존 Hermes 기능을 확장합니다. 모델 규모가 누락된 출처나 완료 기준을 제공한다고 가정하지 말고 작업에 실제 근거와 필요한 최종 형식을 제공하세요.
문서 분석에서는 구절에 레이블을 붙이고 비교 기준을 지정하세요. 각 결론 옆에 관련 원본을 요청하고 없는 정보의 처리 방식을 지정하세요. 글쓰기 과제에서는 독자, 어조, 수정 후에도 유지해야 할 사실을 제공하세요. 예를 들어 “명시된 독자를 위해 이 설명을 다시 작성하고 정의된 용어를 유지하며 명확한 확인이 필요한 근거 없는 주장을 식별하세요.”라고 요청할 수 있습니다.
Hermes 3는 ChatML로 시스템 지침, 사용자 메시지, 어시스턴트 답변을 구분합니다. 자체 템플릿으로 대화를 구성하고 어시스턴트 생성 접두사를 덧붙일 수 있습니다. 시스템 지침은 역할, 규칙, 스타일을 조정하며 작업에 특별한 서문이 필요하지 않으면 선택 사항입니다.
계속되는 대화에서는 원본 텍스트와 지침을 구분하고 관련 컨텍스트에 확정된 사실을 보존해야 합니다. 역할극에서는 각 캐릭터를 누가 제어하는지와 확정된 사건을 지정하세요. 코드에서는 바뀌는 동작과 유지되는 계약을 명시하세요. 대화 내내 원하는 산출물을 명확히 유지하세요.
해당 모델 카드는 도구 정의 표현 안의 함수 시그니처와 함수 이름 및 인수에 대한 필수 응답 스키마를 문서화합니다. 모델은 태그가 붙은 JSON 호출 객체를 생성합니다. 애플리케이션이 선택된 작업을 파싱하고 실행한 다음 이름이 붙은 도구 응답으로 결과를 반환합니다. 다음 어시스턴트 답변은 실제 데이터를 설명할 수 있습니다.
각 함수에 명확한 목적과 정확한 매개변수 설명을 제공하세요. 제안된 조회가 반환된 원본을 대신하게 두지 마세요. 최종 결론의 근거를 식별할 수 있도록 관찰 결과를 선택된 작업과 연결해 유지하세요. 생성된 코드도 의도한 환경에서 검토하고 실행하기 전까지 제안입니다.
Hermes 3의 JSON 모드는 원하는 스키마를 담은 시스템 지침으로 학습되었으며 답변으로 JSON 객체를 요청합니다. 필드와 누락되거나 충돌하는 원본 값의 표현 방식을 정의하세요. 객체가 스키마를 따르더라도 구조를 검증하고 사실을 검토하세요.
공개된 설정은 max_position_embeddings를 131,072로 지정합니다. 지침, 문서, 기록, 도구 결과, 응답을 함께 배분하세요. 이 필드는 별도의 보편적인 출력 상한을 확립하지 않습니다. 제조사의 전체 모델과 별도로 공개된 양자화 변형은 각자의 정밀도 구분이 있으므로 명명된 405B 카탈로그 버전을 이들 변형으로 알리지 않고 대체해서는 안 됩니다.
유용한 산출물은 가정과 원본의 연결이 명확한 텍스트 또는 코드 결과물입니다. 제공된 요구 사항과 실제 관찰 결과에 대조해 검토하세요. Hermes 3의 ChatML, 함수 호출, JSON 워크플로는 이후 Hermes 4의 하이브리드 사고 및 교차 추론 제어와 구분됩니다.
", "aboutText": "Hermes 3 Llama 3.1 405B는 Llama 3.1 405B의 전체 파라미터 파인 튜닝으로 개발한 Nous Research의 대형 범용 텍스트 모델입니다. 제조사는 사용자 지침에 대한 정렬, 제어 가능성, 역할극, 추론, 여러 턴의 대화, 긴 컨텍스트의 일관성을 강조합니다. 출력은 답변, 글, 코드, 구조화된 레코드, 함수 호출 정보 등이 포함된 텍스트입니다.\n\n### 405B 버전\n\n이 모델은 대형 Hermes 3 카탈로그 버전이며 함께 제공되는 70B 모델 및 이후 Hermes 4 추론 릴리스와 구분됩니다. 제조사는 개선된 함수 호출, 구조화된 출력, 코드 생성으로 기존 Hermes 기능을 확장합니다. 모델 규모가 누락된 출처나 완료 기준을 제공한다고 가정하지 말고 작업에 실제 근거와 필요한 최종 형식을 제공하세요.\n\n문서 분석에서는 구절에 레이블을 붙이고 비교 기준을 지정하세요. 각 결론 옆에 관련 원본을 요청하고 없는 정보의 처리 방식을 지정하세요. 글쓰기 과제에서는 독자, 어조, 수정 후에도 유지해야 할 사실을 제공하세요. 예를 들어 “명시된 독자를 위해 이 설명을 다시 작성하고 정의된 용어를 유지하며 명확한 확인이 필요한 근거 없는 주장을 식별하세요.”라고 요청할 수 있습니다.\n\n### 프롬프트 형식과 대화\n\nHermes 3는 ChatML로 시스템 지침, 사용자 메시지, 어시스턴트 답변을 구분합니다. 자체 템플릿으로 대화를 구성하고 어시스턴트 생성 접두사를 덧붙일 수 있습니다. 시스템 지침은 역할, 규칙, 스타일을 조정하며 작업에 특별한 서문이 필요하지 않으면 선택 사항입니다.\n\n계속되는 대화에서는 원본 텍스트와 지침을 구분하고 관련 컨텍스트에 확정된 사실을 보존해야 합니다. 역할극에서는 각 캐릭터를 누가 제어하는지와 확정된 사건을 지정하세요. 코드에서는 바뀌는 동작과 유지되는 계약을 명시하세요. 대화 내내 원하는 산출물을 명확히 유지하세요.\n\n### 함수와 원본 관찰 결과\n\n해당 모델 카드는 도구 정의 표현 안의 함수 시그니처와 함수 이름 및 인수에 대한 필수 응답 스키마를 문서화합니다. 모델은 태그가 붙은 JSON 호출 객체를 생성합니다. 애플리케이션이 선택된 작업을 파싱하고 실행한 다음 이름이 붙은 도구 응답으로 결과를 반환합니다. 다음 어시스턴트 답변은 실제 데이터를 설명할 수 있습니다.\n\n각 함수에 명확한 목적과 정확한 매개변수 설명을 제공하세요. 제안된 조회가 반환된 원본을 대신하게 두지 마세요. 최종 결론의 근거를 식별할 수 있도록 관찰 결과를 선택된 작업과 연결해 유지하세요. 생성된 코드도 의도한 환경에서 검토하고 실행하기 전까지 제안입니다.\n\n### JSON 결과, 컨텍스트, 정밀도\n\nHermes 3의 JSON 모드는 원하는 스키마를 담은 시스템 지침으로 학습되었으며 답변으로 JSON 객체를 요청합니다. 필드와 누락되거나 충돌하는 원본 값의 표현 방식을 정의하세요. 객체가 스키마를 따르더라도 구조를 검증하고 사실을 검토하세요.\n\n공개된 설정은 max_position_embeddings를 131,072로 지정합니다. 지침, 문서, 기록, 도구 결과, 응답을 함께 배분하세요. 이 필드는 별도의 보편적인 출력 상한을 확립하지 않습니다. 제조사의 전체 모델과 별도로 공개된 양자화 변형은 각자의 정밀도 구분이 있으므로 명명된 405B 카탈로그 버전을 이들 변형으로 알리지 않고 대체해서는 안 됩니다.\n\n유용한 산출물은 가정과 원본의 연결이 명확한 텍스트 또는 코드 결과물입니다. 제공된 요구 사항과 실제 관찰 결과에 대조해 검토하세요. Hermes 3의 ChatML, 함수 호출, JSON 워크플로는 이후 Hermes 4의 하이브리드 사고 및 교차 추론 제어와 구분됩니다.", "editorialOverlay": { "copy_fields": { "practical_html": "영어 기술 예제
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B는 전체 파라미터를 파인 튜닝한 Nous Research의 405B 범용 텍스트 모델입니다. 조정 가능한 ChatML 대화, 스키마 기반 JSON, 함수 호출 형식으로 원본 분석, 글쓰기, 코드, 애플리케이션 도구가 반환한 관찰 결과를 활용하는 다단계 작업을 지원합니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Hermes 3 Llama 3.1 405B는 Llama 3.1 405B의 전체 파라미터 파인 튜닝으로 개발한 Nous Research의 대형 범용 텍스트 모델입니다. 제조사는 사용자 지침에 대한 정렬, 제어 가능성, 역할극, 추론, 여러 턴의 대화, 긴 컨텍스트의 일관성을 강조합니다. 출력은 답변, 글, 코드, 구조화된 레코드, 함수 호출 정보 등이 포함된 텍스트입니다.
이 모델은 대형 Hermes 3 카탈로그 버전이며 함께 제공되는 70B 모델 및 이후 Hermes 4 추론 릴리스와 구분됩니다. 제조사는 개선된 함수 호출, 구조화된 출력, 코드 생성으로 기존 Hermes 기능을 확장합니다. 모델 규모가 누락된 출처나 완료 기준을 제공한다고 가정하지 말고 작업에 실제 근거와 필요한 최종 형식을 제공하세요.
문서 분석에서는 구절에 레이블을 붙이고 비교 기준을 지정하세요. 각 결론 옆에 관련 원본을 요청하고 없는 정보의 처리 방식을 지정하세요. 글쓰기 과제에서는 독자, 어조, 수정 후에도 유지해야 할 사실을 제공하세요. 예를 들어 “명시된 독자를 위해 이 설명을 다시 작성하고 정의된 용어를 유지하며 명확한 확인이 필요한 근거 없는 주장을 식별하세요.”라고 요청할 수 있습니다.
Hermes 3는 ChatML로 시스템 지침, 사용자 메시지, 어시스턴트 답변을 구분합니다. 자체 템플릿으로 대화를 구성하고 어시스턴트 생성 접두사를 덧붙일 수 있습니다. 시스템 지침은 역할, 규칙, 스타일을 조정하며 작업에 특별한 서문이 필요하지 않으면 선택 사항입니다.
계속되는 대화에서는 원본 텍스트와 지침을 구분하고 관련 컨텍스트에 확정된 사실을 보존해야 합니다. 역할극에서는 각 캐릭터를 누가 제어하는지와 확정된 사건을 지정하세요. 코드에서는 바뀌는 동작과 유지되는 계약을 명시하세요. 대화 내내 원하는 산출물을 명확히 유지하세요.
해당 모델 카드는 도구 정의 표현 안의 함수 시그니처와 함수 이름 및 인수에 대한 필수 응답 스키마를 문서화합니다. 모델은 태그가 붙은 JSON 호출 객체를 생성합니다. 애플리케이션이 선택된 작업을 파싱하고 실행한 다음 이름이 붙은 도구 응답으로 결과를 반환합니다. 다음 어시스턴트 답변은 실제 데이터를 설명할 수 있습니다.
각 함수에 명확한 목적과 정확한 매개변수 설명을 제공하세요. 제안된 조회가 반환된 원본을 대신하게 두지 마세요. 최종 결론의 근거를 식별할 수 있도록 관찰 결과를 선택된 작업과 연결해 유지하세요. 생성된 코드도 의도한 환경에서 검토하고 실행하기 전까지 제안입니다.
Hermes 3의 JSON 모드는 원하는 스키마를 담은 시스템 지침으로 학습되었으며 답변으로 JSON 객체를 요청합니다. 필드와 누락되거나 충돌하는 원본 값의 표현 방식을 정의하세요. 객체가 스키마를 따르더라도 구조를 검증하고 사실을 검토하세요.
공개된 설정은 max_position_embeddings를 131,072로 지정합니다. 지침, 문서, 기록, 도구 결과, 응답을 함께 배분하세요. 이 필드는 별도의 보편적인 출력 상한을 확립하지 않습니다. 제조사의 전체 모델과 별도로 공개된 양자화 변형은 각자의 정밀도 구분이 있으므로 명명된 405B 카탈로그 버전을 이들 변형으로 알리지 않고 대체해서는 안 됩니다.
유용한 산출물은 가정과 원본의 연결이 명확한 텍스트 또는 코드 결과물입니다. 제공된 요구 사항과 실제 관찰 결과에 대조해 검토하세요. Hermes 3의 ChatML, 함수 호출, JSON 워크플로는 이후 Hermes 4의 하이브리드 사고 및 교차 추론 제어와 구분됩니다.
POST /v1/chat/completionstexttext| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 nousresearch/hermes-3-llama-3.1-405b | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 예시: system, user, assistant, tool, function 조건: 이 역할들은 소스 코드의 호환 타입에 명시적으로 표현됩니다. 정확한 모델 역할 집합은 모델별로 다릅니다. 모델에 따라 다름 | 기본값— |
필드messages[].content | 유형string|content_part[]|null | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_calls | 유형tool_call[] | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_call_id | 유형string | 요건선택 사항 | 값과 한도 적용 조건: role=tool. 실제 반환된 ID를 사용하세요 | 기본값— |
필드messages[].name | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].reasoning_content | 유형string | 요건선택 사항 | 값과 한도 적용 조건: 이 모델이 추론을 사용하는 경우 실제 반환된 추론을 그대로 다음 요청에 다시 전달하세요 | 기본값— |
필드messages[].reasoning_details | 유형object|array | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드max_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드max_completion_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
필드stream_options.include_usage | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드temperature | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드top_p | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드stop | 유형string|string[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools | 유형function_tool[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools[].type | 유형string | 요건선택 사항 | 값과 한도 function 모델에 따라 다름 | 기본값— |
필드tools[].function.name | 유형string | 요건필수 | 값과 한도 적용 조건: 함수 도구 지정됨 | 기본값— |
필드tools[].function.description | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드tools[].function.parameters | 유형JSON_schema | 요건선택 사항 | 값과 한도 | 기본값— |
필드tool_choice | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드parallel_tool_calls | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드response_format | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning_effort | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드service_tier | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드instructions | 유형string | 요건선택 사항 | 값과 한도 호환성 필드 | 기본값— |
필드functions | 유형function[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드function_call | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드prompt_cache_options | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드modalities | 유형string[] | 요건선택 사항 | 값과 한도 text | 기본값— |
필드provider | 유형object | 요건선택 사항 | 값과 한도 조건: 이 Ultra 텍스트 경로에서는 provider.options가 거부됩니다 | 기본값— |
필드cache_control.ttl | 유형string | 요건선택 사항 | 값과 한도 조건: 실제 프롬프트 캐시 지정 위치에서는 1h가 거부됩니다 | 기본값— |
텍스트 · UTF8 텍스트
messages[].content
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages |
매개변수material_types | 명세text |
매개변수messages | 명세role/content 형식의 메시지 배열 |
매개변수file_material | 명세실제 UTF-8 문서를 텍스트로 그대로 삽입합니다. 파일 ID는 추정하지 않습니다 |
매개변수optional_controls | 명세stream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
매개변수control_scope | 명세모델별로 다름. 사용자 함수 도구와 호스팅 도구는 서로 다릅니다 |
매개변수output_modalities | 명세text |
매개변수hosted_operations | 명세false |
매개변수multimodal_input_binding | 명세null |
수명 주기: synchronous_or_streamed
정확한 모델 ID를 messages와 함께 보내세요.
컨텍스트 길이는 출력 상한이 아닙니다.
텍스트 파일은 텍스트를 그대로 제공할 수 있습니다. 이미지/오디오/파일 객체 입력에는 정확한 바인딩이 필요합니다.
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.002 / 1K 토큰 출력 · 출력 토큰 $0.002 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.002 / 1K 토큰 출력 · 출력 토큰 $0.002 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
각 선택지와 그 콘텐츠·도구 호출·추론을 모두 보존하세요. SSE에서는 선택지/도구 인덱스별로 증분을 조합하고 최종 종료 사유와 사용량을 유지하세요.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드choices[].index | 유형integer |
필드choices[].message.content | 유형string|null |
필드choices[].message.tool_calls | 유형tool_call[] |
필드choices[].message.reasoning_content | 유형string |
필드choices[].message.reasoning_details | 유형object|array |
필드choices[].finish_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
위에 표시된 메서드 경로를 사용하세요.
nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B는 전체 파라미터를 파인 튜닝한 Nous Research의 405B 범용 텍스트 모델입니다. 조정 가능한 ChatML 대화, 스키마 기반 JSON, 함수 호출 형식으로 원본 분석, 글쓰기, 코드, 애플리케이션 도구가 반환한 관찰 결과를 활용하는 다단계 작업을 지원합니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Hermes 3 Llama 3.1 405B는 Llama 3.1 405B의 전체 파라미터 파인 튜닝으로 개발한 Nous Research의 대형 범용 텍스트 모델입니다. 제조사는 사용자 지침에 대한 정렬, 제어 가능성, 역할극, 추론, 여러 턴의 대화, 긴 컨텍스트의 일관성을 강조합니다. 출력은 답변, 글, 코드, 구조화된 레코드, 함수 호출 정보 등이 포함된 텍스트입니다.
이 모델은 대형 Hermes 3 카탈로그 버전이며 함께 제공되는 70B 모델 및 이후 Hermes 4 추론 릴리스와 구분됩니다. 제조사는 개선된 함수 호출, 구조화된 출력, 코드 생성으로 기존 Hermes 기능을 확장합니다. 모델 규모가 누락된 출처나 완료 기준을 제공한다고 가정하지 말고 작업에 실제 근거와 필요한 최종 형식을 제공하세요.
문서 분석에서는 구절에 레이블을 붙이고 비교 기준을 지정하세요. 각 결론 옆에 관련 원본을 요청하고 없는 정보의 처리 방식을 지정하세요. 글쓰기 과제에서는 독자, 어조, 수정 후에도 유지해야 할 사실을 제공하세요. 예를 들어 “명시된 독자를 위해 이 설명을 다시 작성하고 정의된 용어를 유지하며 명확한 확인이 필요한 근거 없는 주장을 식별하세요.”라고 요청할 수 있습니다.
Hermes 3는 ChatML로 시스템 지침, 사용자 메시지, 어시스턴트 답변을 구분합니다. 자체 템플릿으로 대화를 구성하고 어시스턴트 생성 접두사를 덧붙일 수 있습니다. 시스템 지침은 역할, 규칙, 스타일을 조정하며 작업에 특별한 서문이 필요하지 않으면 선택 사항입니다.
계속되는 대화에서는 원본 텍스트와 지침을 구분하고 관련 컨텍스트에 확정된 사실을 보존해야 합니다. 역할극에서는 각 캐릭터를 누가 제어하는지와 확정된 사건을 지정하세요. 코드에서는 바뀌는 동작과 유지되는 계약을 명시하세요. 대화 내내 원하는 산출물을 명확히 유지하세요.
해당 모델 카드는 도구 정의 표현 안의 함수 시그니처와 함수 이름 및 인수에 대한 필수 응답 스키마를 문서화합니다. 모델은 태그가 붙은 JSON 호출 객체를 생성합니다. 애플리케이션이 선택된 작업을 파싱하고 실행한 다음 이름이 붙은 도구 응답으로 결과를 반환합니다. 다음 어시스턴트 답변은 실제 데이터를 설명할 수 있습니다.
각 함수에 명확한 목적과 정확한 매개변수 설명을 제공하세요. 제안된 조회가 반환된 원본을 대신하게 두지 마세요. 최종 결론의 근거를 식별할 수 있도록 관찰 결과를 선택된 작업과 연결해 유지하세요. 생성된 코드도 의도한 환경에서 검토하고 실행하기 전까지 제안입니다.
Hermes 3의 JSON 모드는 원하는 스키마를 담은 시스템 지침으로 학습되었으며 답변으로 JSON 객체를 요청합니다. 필드와 누락되거나 충돌하는 원본 값의 표현 방식을 정의하세요. 객체가 스키마를 따르더라도 구조를 검증하고 사실을 검토하세요.
공개된 설정은 max_position_embeddings를 131,072로 지정합니다. 지침, 문서, 기록, 도구 결과, 응답을 함께 배분하세요. 이 필드는 별도의 보편적인 출력 상한을 확립하지 않습니다. 제조사의 전체 모델과 별도로 공개된 양자화 변형은 각자의 정밀도 구분이 있으므로 명명된 405B 카탈로그 버전을 이들 변형으로 알리지 않고 대체해서는 안 됩니다.
유용한 산출물은 가정과 원본의 연결이 명확한 텍스트 또는 코드 결과물입니다. 제공된 요구 사항과 실제 관찰 결과에 대조해 검토하세요. Hermes 3의 ChatML, 함수 호출, JSON 워크플로는 이후 Hermes 4의 하이브리드 사고 및 교차 추론 제어와 구분됩니다.
POST /v1/messagestextjson, sse| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 nousresearch/hermes-3-llama-3.1-405b | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 user, assistant | 기본값— |
필드messages[].content | 유형string | 요건필수 | 값과 한도 | 기본값— |
필드max_tokens | 유형integer | 요건필수 | 값과 한도 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
텍스트 · UTF-8 텍스트
messages[].content 문자열
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages, max_tokens |
매개변수optional_controls | 명세stream |
매개변수material_types | 명세text |
매개변수text_file_material | 명세실제 UTF-8 문서를 읽고 그 텍스트를 지정된 입력 또는 메시지 콘텐츠 문자열에 넣으세요. |
수명 주기: synchronous_or_streamed
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.002 / 1K 토큰 출력 · 출력 토큰 $0.002 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.002 / 1K 토큰 출력 · 출력 토큰 $0.002 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
{\n "model": "nousresearch/hermes-3-llama-3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
모든 콘텐츠 블록, 사고 서명, 실제 도구 사용 ID를 보존하세요. 모든 SSE 블록 증분을 조합하세요. 첫 텍스트 블록이 전체 출력은 아닙니다.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드id | 유형string |
필드model | 유형string |
필드content[] | 유형text|thinking|tool_use|other content block |
필드stop_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
위에 표시된 메서드 경로를 사용하세요.
영어 기술 예제
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.