Trinity-Large-Thinking은 Arcee AI의 Trinity Large 제품군에서 추론에 최적화한 릴리스입니다. 일반적인 텍스트 생성 기능을 유지하면서 여러 단계로 계획하고 도구를 호출하며 긴 대화에서도 일관된 작업을 유지하는 에이전트를 위해 설계되었습니다. 텍스트를 받아 명시적 추론과 도구 요청을 포함한 텍스트를 생성합니다. 추론 체인, 도구 호출 경로, 다단계 에이전트 작업에 대한 지시 튜닝과 강화 학습으로 Trinity-Large-Base 모델의 학습을 확장했습니다.
모델 카드는 총 약 3980억 매개변수와 토큰당 활성 매개변수 130억 개를 갖춘 희소 전문가 혼합 아키텍처를 설명합니다. 전문가 256개, 공유 전문가 1개, 활성 전문가 4개, 사전 학습 컨텍스트 8,192토큰에서 확장한 512K 컨텍스트 창이 명시되어 있습니다. 이는 제작사 모델 속성이며 응답 속도의 예측값이 아닙니다. Thinking 체크포인트는 가벼운 후처리 학습을 거친 대화용 Trinity-Large-Preview와 구분됩니다. Preview는 reasoning_content를 제공하지 않습니다. 또한 Base 및 TrueBase 사전 학습 체크포인트와도 구분됩니다.
명시적인 사고 내용은 최종 응답 전에 <think>...</think> 블록으로 나타납니다. 문서의 구조화 응답에서 reasoning_content는 추론을 content 및 tool_calls와 분리해 담습니다. 어시스턴트의 전체 차례를 보존하는 것은 이 모델 사용의 실질적인 일부입니다. 다음 단계 전에 답변 및 도구 호출과 함께 추론도 다시 전달하세요. 채팅 템플릿은 다음 입력을 구성할 때 사고 블록을 복원합니다. 이력을 줄여야 한다면 Arcee는 최근 차례의 사고 내용을 벗겨내기보다 오래된 차례를 통째로 제거할 것을 권장합니다.
제작사의 에이전트 루프 패턴은 사용자 작업과 도구 정의로 시작하고, 추론, 답변 또는 도구 요청을 받은 뒤 모델 외부에서 요청 도구를 실행하며, 어시스턴트 차례와 실제 도구 결과를 추가한 후 이어갑니다. 도구 호출 없는 최종 답변이 반환될 때까지 반복합니다. 도구 호출은 있지만 답변 텍스트는 없는 어시스턴트 차례에서는 content가 null이 아니라 빈 문자열이어야 한다고 가이드는 요구합니다. 추론 필드도 서빙 인터페이스와 일치해야 합니다. Arcee 가이드는 reasoning_content와 reasoning을 기대하는 연동을 구분합니다.
이 모델은 먼저 기록을 조회하고 제공된 정책을 적용한 뒤 적절한 다음 행동을 요청하는 지원 작업이나, 파일을 살펴보고 변경을 제안하고 실행 결과를 해석하는 코딩 에이전트에 유용합니다. 실제 목표, 도구 이름, 인수 스키마, 제약, 완료 조건을 제공하세요. 예시 지시서는 관찰된 도구 결과와 아직 계획 중인 행동을 구분하면서 결함을 찾고 근거를 설명하고 최소 패치를 제안하도록 요청할 수 있습니다. 도구 호출은 실행 계층에 보내는 요청이며 모델이 이미 파일을 바꾸거나 외부 행동을 완료했다는 증거가 아닙니다.
모델 카드는 추론 시 temperature 0.45~0.6, top_p 0.95, top_k 50을 권장합니다. 이는 권장 설정이며 고정 출력 한도가 아닙니다. 제작사 가이드의 중요한 실패 유형은 앞선 차례에서 추론이 없어지거나 메시지 형태가 잘못되어 다단계 도구 사용이 비정상적으로 이루어지는 것입니다. 구조화된 도구 호출 출력 대신 추론 필드 안에 도구 호출 마크업이 나타날 수 있습니다. 전체 차례를 보존하고 답변 content를 null이 아닌 값으로 유지하며 최종 결과물과 저장 추론 이력을 구분하세요. 이 에디션은 관찰, 추론, 후속 행동 사이의 연속성이 중요한 작업에 특히 적합합니다.
", "aboutText": "Trinity-Large-Thinking은 Arcee AI의 Trinity Large 제품군에서 추론에 최적화한 릴리스입니다. 일반적인 텍스트 생성 기능을 유지하면서 여러 단계로 계획하고 도구를 호출하며 긴 대화에서도 일관된 작업을 유지하는 에이전트를 위해 설계되었습니다. 텍스트를 받아 명시적 추론과 도구 요청을 포함한 텍스트를 생성합니다. 추론 체인, 도구 호출 경로, 다단계 에이전트 작업에 대한 지시 튜닝과 강화 학습으로 Trinity-Large-Base 모델의 학습을 확장했습니다.\n\n모델 카드는 총 약 3980억 매개변수와 토큰당 활성 매개변수 130억 개를 갖춘 희소 전문가 혼합 아키텍처를 설명합니다. 전문가 256개, 공유 전문가 1개, 활성 전문가 4개, 사전 학습 컨텍스트 8,192토큰에서 확장한 512K 컨텍스트 창이 명시되어 있습니다. 이는 제작사 모델 속성이며 응답 속도의 예측값이 아닙니다. Thinking 체크포인트는 가벼운 후처리 학습을 거친 대화용 Trinity-Large-Preview와 구분됩니다. Preview는 reasoning_content를 제공하지 않습니다. 또한 Base 및 TrueBase 사전 학습 체크포인트와도 구분됩니다.\n\n명시적인 사고 내용은 최종 응답 전에영어 기술 예제
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.arcee-ai/trinity-large-thinkingTrinity-Large-Thinking은 다단계 에이전트와 도구 호출을 위한 Arcee AI의 추론 모델입니다. 답변 전에 명시적인 사고 내용을 생성하며 대화 차례와 도구 중심 작업 전반에서 그 추론을 보존해야 합니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Trinity-Large-Thinking은 Arcee AI의 Trinity Large 제품군에서 추론에 최적화한 릴리스입니다. 일반적인 텍스트 생성 기능을 유지하면서 여러 단계로 계획하고 도구를 호출하며 긴 대화에서도 일관된 작업을 유지하는 에이전트를 위해 설계되었습니다. 텍스트를 받아 명시적 추론과 도구 요청을 포함한 텍스트를 생성합니다. 추론 체인, 도구 호출 경로, 다단계 에이전트 작업에 대한 지시 튜닝과 강화 학습으로 Trinity-Large-Base 모델의 학습을 확장했습니다.
모델 카드는 총 약 3980억 매개변수와 토큰당 활성 매개변수 130억 개를 갖춘 희소 전문가 혼합 아키텍처를 설명합니다. 전문가 256개, 공유 전문가 1개, 활성 전문가 4개, 사전 학습 컨텍스트 8,192토큰에서 확장한 512K 컨텍스트 창이 명시되어 있습니다. 이는 제작사 모델 속성이며 응답 속도의 예측값이 아닙니다. Thinking 체크포인트는 가벼운 후처리 학습을 거친 대화용 Trinity-Large-Preview와 구분됩니다. Preview는 reasoning_content를 제공하지 않습니다. 또한 Base 및 TrueBase 사전 학습 체크포인트와도 구분됩니다.
명시적인 사고 내용은 최종 응답 전에 <think>...</think> 블록으로 나타납니다. 문서의 구조화 응답에서 reasoning_content는 추론을 content 및 tool_calls와 분리해 담습니다. 어시스턴트의 전체 차례를 보존하는 것은 이 모델 사용의 실질적인 일부입니다. 다음 단계 전에 답변 및 도구 호출과 함께 추론도 다시 전달하세요. 채팅 템플릿은 다음 입력을 구성할 때 사고 블록을 복원합니다. 이력을 줄여야 한다면 Arcee는 최근 차례의 사고 내용을 벗겨내기보다 오래된 차례를 통째로 제거할 것을 권장합니다.
제작사의 에이전트 루프 패턴은 사용자 작업과 도구 정의로 시작하고, 추론, 답변 또는 도구 요청을 받은 뒤 모델 외부에서 요청 도구를 실행하며, 어시스턴트 차례와 실제 도구 결과를 추가한 후 이어갑니다. 도구 호출 없는 최종 답변이 반환될 때까지 반복합니다. 도구 호출은 있지만 답변 텍스트는 없는 어시스턴트 차례에서는 content가 null이 아니라 빈 문자열이어야 한다고 가이드는 요구합니다. 추론 필드도 서빙 인터페이스와 일치해야 합니다. Arcee 가이드는 reasoning_content와 reasoning을 기대하는 연동을 구분합니다.
이 모델은 먼저 기록을 조회하고 제공된 정책을 적용한 뒤 적절한 다음 행동을 요청하는 지원 작업이나, 파일을 살펴보고 변경을 제안하고 실행 결과를 해석하는 코딩 에이전트에 유용합니다. 실제 목표, 도구 이름, 인수 스키마, 제약, 완료 조건을 제공하세요. 예시 지시서는 관찰된 도구 결과와 아직 계획 중인 행동을 구분하면서 결함을 찾고 근거를 설명하고 최소 패치를 제안하도록 요청할 수 있습니다. 도구 호출은 실행 계층에 보내는 요청이며 모델이 이미 파일을 바꾸거나 외부 행동을 완료했다는 증거가 아닙니다.
모델 카드는 추론 시 temperature 0.45~0.6, top_p 0.95, top_k 50을 권장합니다. 이는 권장 설정이며 고정 출력 한도가 아닙니다. 제작사 가이드의 중요한 실패 유형은 앞선 차례에서 추론이 없어지거나 메시지 형태가 잘못되어 다단계 도구 사용이 비정상적으로 이루어지는 것입니다. 구조화된 도구 호출 출력 대신 추론 필드 안에 도구 호출 마크업이 나타날 수 있습니다. 전체 차례를 보존하고 답변 content를 null이 아닌 값으로 유지하며 최종 결과물과 저장 추론 이력을 구분하세요. 이 에디션은 관찰, 추론, 후속 행동 사이의 연속성이 중요한 작업에 특히 적합합니다.
POST /v1/chat/completionstexttext| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 arcee-ai/trinity-large-thinking | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 최소 항목 수: 1 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 예시: system, user, assistant, tool, function 조건: 이 역할들은 소스 코드의 호환 타입에 명시적으로 표현됩니다. 정확한 모델 역할 집합은 모델별로 다릅니다. 모델에 따라 다름 | 기본값— |
필드messages[].content | 유형string|content_part[]|null | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_calls | 유형tool_call[] | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].tool_call_id | 유형string | 요건선택 사항 | 값과 한도 적용 조건: role=tool. 실제 반환된 ID를 사용하세요 | 기본값— |
필드messages[].name | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드messages[].reasoning_content | 유형string | 요건선택 사항 | 값과 한도 적용 조건: 이 모델이 추론을 사용하는 경우 실제 반환된 추론을 그대로 다음 요청에 다시 전달하세요 | 기본값— |
필드messages[].reasoning_details | 유형object|array | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드max_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드max_completion_tokens | 유형integer | 요건선택 사항 | 값과 한도 최솟값: 1 모델에 따라 다름 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
필드stream_options.include_usage | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드temperature | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드top_p | 유형number | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드stop | 유형string|string[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools | 유형function_tool[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드tools[].type | 유형string | 요건선택 사항 | 값과 한도 function 모델에 따라 다름 | 기본값— |
필드tools[].function.name | 유형string | 요건필수 | 값과 한도 적용 조건: 함수 도구 지정됨 | 기본값— |
필드tools[].function.description | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드tools[].function.parameters | 유형JSON_schema | 요건선택 사항 | 값과 한도 | 기본값— |
필드tool_choice | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드parallel_tool_calls | 유형boolean | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드response_format | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning_effort | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드reasoning | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드service_tier | 유형string | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드instructions | 유형string | 요건선택 사항 | 값과 한도 호환성 필드 | 기본값— |
필드functions | 유형function[] | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드function_call | 유형string|object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드prompt_cache_options | 유형object | 요건선택 사항 | 값과 한도 모델에 따라 다름 | 기본값— |
필드modalities | 유형string[] | 요건선택 사항 | 값과 한도 text | 기본값— |
필드provider | 유형object | 요건선택 사항 | 값과 한도 조건: 이 Ultra 텍스트 경로에서는 provider.options가 거부됩니다 | 기본값— |
필드cache_control.ttl | 유형string | 요건선택 사항 | 값과 한도 조건: 실제 프롬프트 캐시 지정 위치에서는 1h가 거부됩니다 | 기본값— |
텍스트 · UTF8 텍스트
messages[].content
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages |
매개변수material_types | 명세text |
매개변수messages | 명세role/content 형식의 메시지 배열 |
매개변수file_material | 명세실제 UTF-8 문서를 텍스트로 그대로 삽입합니다. 파일 ID는 추정하지 않습니다 |
매개변수optional_controls | 명세stream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
매개변수control_scope | 명세모델별로 다름. 사용자 함수 도구와 호스팅 도구는 서로 다릅니다 |
매개변수output_modalities | 명세text |
매개변수hosted_operations | 명세false |
매개변수multimodal_input_binding | 명세null |
수명 주기: synchronous_or_streamed
정확한 모델 ID를 messages와 함께 보내세요.
컨텍스트 길이는 출력 상한이 아닙니다.
텍스트 파일은 텍스트를 그대로 제공할 수 있습니다. 이미지/오디오/파일 객체 입력에는 정확한 바인딩이 필요합니다.
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0005 / 1K 토큰 출력 · 출력 토큰 $0.0016 / 1K 토큰 입력 · 캐시 읽기 $0.00012 / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0005 / 1K 토큰 출력 · 출력 토큰 $0.0016 / 1K 토큰 입력 · 캐시 읽기 $0.00012 / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "arcee-ai/trinity-large-thinking", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
각 선택지와 그 콘텐츠·도구 호출·추론을 모두 보존하세요. SSE에서는 선택지/도구 인덱스별로 증분을 조합하고 최종 종료 사유와 사용량을 유지하세요.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드choices[].index | 유형integer |
필드choices[].message.content | 유형string|null |
필드choices[].message.tool_calls | 유형tool_call[] |
필드choices[].message.reasoning_content | 유형string |
필드choices[].message.reasoning_details | 유형object|array |
필드choices[].finish_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra arcee-ai/trinity-large-thinking
위에 표시된 메서드 경로를 사용하세요.
arcee-ai/trinity-large-thinkingTrinity-Large-Thinking은 다단계 에이전트와 도구 호출을 위한 Arcee AI의 추론 모델입니다. 답변 전에 명시적인 사고 내용을 생성하며 대화 차례와 도구 중심 작업 전반에서 그 추론을 보존해야 합니다.
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Trinity-Large-Thinking은 Arcee AI의 Trinity Large 제품군에서 추론에 최적화한 릴리스입니다. 일반적인 텍스트 생성 기능을 유지하면서 여러 단계로 계획하고 도구를 호출하며 긴 대화에서도 일관된 작업을 유지하는 에이전트를 위해 설계되었습니다. 텍스트를 받아 명시적 추론과 도구 요청을 포함한 텍스트를 생성합니다. 추론 체인, 도구 호출 경로, 다단계 에이전트 작업에 대한 지시 튜닝과 강화 학습으로 Trinity-Large-Base 모델의 학습을 확장했습니다.
모델 카드는 총 약 3980억 매개변수와 토큰당 활성 매개변수 130억 개를 갖춘 희소 전문가 혼합 아키텍처를 설명합니다. 전문가 256개, 공유 전문가 1개, 활성 전문가 4개, 사전 학습 컨텍스트 8,192토큰에서 확장한 512K 컨텍스트 창이 명시되어 있습니다. 이는 제작사 모델 속성이며 응답 속도의 예측값이 아닙니다. Thinking 체크포인트는 가벼운 후처리 학습을 거친 대화용 Trinity-Large-Preview와 구분됩니다. Preview는 reasoning_content를 제공하지 않습니다. 또한 Base 및 TrueBase 사전 학습 체크포인트와도 구분됩니다.
명시적인 사고 내용은 최종 응답 전에 <think>...</think> 블록으로 나타납니다. 문서의 구조화 응답에서 reasoning_content는 추론을 content 및 tool_calls와 분리해 담습니다. 어시스턴트의 전체 차례를 보존하는 것은 이 모델 사용의 실질적인 일부입니다. 다음 단계 전에 답변 및 도구 호출과 함께 추론도 다시 전달하세요. 채팅 템플릿은 다음 입력을 구성할 때 사고 블록을 복원합니다. 이력을 줄여야 한다면 Arcee는 최근 차례의 사고 내용을 벗겨내기보다 오래된 차례를 통째로 제거할 것을 권장합니다.
제작사의 에이전트 루프 패턴은 사용자 작업과 도구 정의로 시작하고, 추론, 답변 또는 도구 요청을 받은 뒤 모델 외부에서 요청 도구를 실행하며, 어시스턴트 차례와 실제 도구 결과를 추가한 후 이어갑니다. 도구 호출 없는 최종 답변이 반환될 때까지 반복합니다. 도구 호출은 있지만 답변 텍스트는 없는 어시스턴트 차례에서는 content가 null이 아니라 빈 문자열이어야 한다고 가이드는 요구합니다. 추론 필드도 서빙 인터페이스와 일치해야 합니다. Arcee 가이드는 reasoning_content와 reasoning을 기대하는 연동을 구분합니다.
이 모델은 먼저 기록을 조회하고 제공된 정책을 적용한 뒤 적절한 다음 행동을 요청하는 지원 작업이나, 파일을 살펴보고 변경을 제안하고 실행 결과를 해석하는 코딩 에이전트에 유용합니다. 실제 목표, 도구 이름, 인수 스키마, 제약, 완료 조건을 제공하세요. 예시 지시서는 관찰된 도구 결과와 아직 계획 중인 행동을 구분하면서 결함을 찾고 근거를 설명하고 최소 패치를 제안하도록 요청할 수 있습니다. 도구 호출은 실행 계층에 보내는 요청이며 모델이 이미 파일을 바꾸거나 외부 행동을 완료했다는 증거가 아닙니다.
모델 카드는 추론 시 temperature 0.45~0.6, top_p 0.95, top_k 50을 권장합니다. 이는 권장 설정이며 고정 출력 한도가 아닙니다. 제작사 가이드의 중요한 실패 유형은 앞선 차례에서 추론이 없어지거나 메시지 형태가 잘못되어 다단계 도구 사용이 비정상적으로 이루어지는 것입니다. 구조화된 도구 호출 출력 대신 추론 필드 안에 도구 호출 마크업이 나타날 수 있습니다. 전체 차례를 보존하고 답변 content를 null이 아닌 값으로 유지하며 최종 결과물과 저장 추론 이력을 구분하세요. 이 에디션은 관찰, 추론, 후속 행동 사이의 연속성이 중요한 작업에 특히 적합합니다.
POST /v1/messagestextjson, sse| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 arcee-ai/trinity-large-thinking | 기본값— |
필드messages | 유형message[] | 요건필수 | 값과 한도 | 기본값— |
필드messages[].role | 유형string | 요건필수 | 값과 한도 user, assistant | 기본값— |
필드messages[].content | 유형string | 요건필수 | 값과 한도 | 기본값— |
필드max_tokens | 유형integer | 요건필수 | 값과 한도 | 기본값— |
필드stream | 유형boolean | 요건선택 사항 | 값과 한도 | 기본값false |
텍스트 · UTF-8 텍스트
messages[].content 문자열
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, messages, max_tokens |
매개변수optional_controls | 명세stream |
매개변수material_types | 명세text |
매개변수text_file_material | 명세실제 UTF-8 문서를 읽고 그 텍스트를 지정된 입력 또는 메시지 콘텐츠 문자열에 넣으세요. |
수명 주기: synchronous_or_streamed
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0005 / 1K 토큰 출력 · 출력 토큰 $0.0016 / 1K 토큰 입력 · 캐시 읽기 $0.00012 / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.0005 / 1K 토큰 출력 · 출력 토큰 $0.0016 / 1K 토큰 입력 · 캐시 읽기 $0.00012 / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
{\n "model": "arcee-ai/trinity-large-thinking",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON 또는 SSE
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
모든 콘텐츠 블록, 사고 서명, 실제 도구 사용 ID를 보존하세요. 모든 SSE 블록 증분을 조합하세요. 첫 텍스트 블록이 전체 출력은 아닙니다.
요청/응답 ID와 헤더를 보존하세요. 텍스트 작업을 조회하는 범용 URL은 제공되지 않습니다.
| 필드 | 유형 |
|---|---|
필드id | 유형string |
필드model | 유형string |
필드content[] | 유형text|thinking|tool_use|other content block |
필드stop_reason | 유형string|null |
필드usage | 유형object |
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 자료 표현 방식 또는 파라미터 값이 올바르지 않음 | 다음 단계새 생성 요청 전에 표시된 필드를 수정하세요. |
Ailoot Ultra arcee-ai/trinity-large-thinking
위에 표시된 메서드 경로를 사용하세요.
영어 기술 예제
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.