Respan: Span-01
Span-01은 대화와 에이전트 트레이스를 위한 Respan의 텍스트 행동 분류기입니다. 행동을 평이한 언어로 정의하면 각 행동에 대해 존재, 부재, 관찰 불가의 세 가지 확률을 반환하며, 제공된 트레이스로 질문을 판단할 수 없을 때는 그 불확실성을 그대로 보존합니다.
모델 소개
이 설명은 모델의 기능을 다룹니다. Ailoot에서 사용할 수 있는 입력, 출력 및 옵션은 아래에 선택한 메서드별로 표시됩니다.
Span-01은 대화와 에이전트 트레이스를 위한 Respan의 행동 채점 모델입니다. 텍스트 상호작용과 평이한 언어로 작성된 행동 정의를 함께 읽고, 정의마다 확률을 반환합니다. 출력은 제공된 트레이스에서 행동이 존재하는지, 부재하는지, 관찰할 수 없는지를 구분합니다. 덕분에 평가 워크플로는 파싱해야 하는 생성형 설명 대신, 근거 부족을 명시적으로 표현하는 수치 신호를 얻습니다.
관찰할 행동 정의하기
행동은 호출자가 제공합니다. 프롬프트 인젝션, 근거 없는 주장, 비밀 정보 노출, 반복 루프, 도구 오용, 사용자 불만은 가능한 정의의 예일 뿐, 모델에 내장된 고정 분류 체계가 아닙니다. 무엇이 해당 행동에 포함되고 무엇이 포함되지 않는지 명시하세요. 좁은 정의를 쓰면 사용자가 사람 상담원 이관을 요청하는 경우와 단순히 실망을 표현하는 경우를 구분할 수 있습니다. 또 다른 정의로는 어시스턴트가 문제를 인정하는 경우와 수행할 수 없는 행동을 약속하는 경우를 구분할 수 있습니다.
정의에는 안정적인 식별자를 붙여 결과가 평가 대상 행동과 계속 연결되도록 하세요. 기준은 트레이스가 보여 줄 수 있는 내용에 집중하세요. 행동 판단에 원본 문서, 도구 결과, 이후의 고객 응답이 필요하다면 그 근거를 텍스트 상호작용의 알맞은 위치에 포함하세요. 정의만으로는 트레이스에 없는 사실을 입증할 수 없습니다.
앞선 맥락과 대상 턴 준비하기
문서화된 입력은 span.input의 앞선 메시지와 span.output의 대상 턴을 분리합니다. 각 메시지의 콘텐츠는 문자열입니다. 실제 대화 맥락과 채점할 턴을 제공하되, 해석에 필요한 화자 역할과 순서를 보존하세요. 이 프로필은 텍스트 채점용입니다. 준비된 문서 텍스트나 녹취록은 근거가 될 수 있지만, 그 텍스트를 추출한 원본 미디어 자체는 문서화된 입력이 아닙니다.
고객 지원 상호작용에서는 고객의 요청과 어시스턴트가 제안한 답변을 함께 유지하세요. 도구를 사용하는 에이전트라면 관련 도구 관찰 결과와 그에 기반한 답변을 보존하세요. 근거성 정의의 예로, 어시스턴트가 제공된 관찰 결과로 뒷받침되지 않는 결론을 주장하는지 물을 수 있습니다. 유용한 결과는 해당 스팬에서 정의된 행동에 관한 것이지, 애플리케이션 전체에 대한 완전한 진단이 아닙니다.
정의마다 세 가지 확률 읽기
각 결과에는 행동 식별자와 p_present, p_absent, p_not_observable이 포함됩니다. 세 확률의 합은 약 1입니다. 존재는 행동이 일어났다는 추정, 부재는 일어나지 않았다는 추정, 관찰 불가는 제공된 스팬에 판단에 필요한 근거가 없다는 추정입니다. 이들은 서로 다른 의미이므로 결과를 해석할 때도 구분해서 다뤄야 합니다.
예를 들어 어시스턴트가 문제를 해결하겠다고 말하며 끝나는 스팬은 약속을 보여 줄 수 있습니다. 하지만 고객의 답변이 없다면 고객이 최종 해결책을 수용했는지는 아직 보여 줄 수 없습니다. 이처럼 근거가 없는 결과는 부재로 바꾸지 말고 미확인으로 취급하세요. 분포의 상당 부분이 관찰 불가라면, 존재 확률이 낮다고 해서 그것이 자동으로 부재의 강력한 근거가 되지는 않습니다.
행동 정의 전반에 대한 단일 패스 채점
Respan은 Span-01을 먼저 RLAIF로 일반 분류를 학습한 뒤 행동 감지에 특화한 추론 분류기로 설명합니다. 각 정의는 같은 트레이스 위에서 병렬 분기로 실행되며, 모델은 한 번의 순전파(forward pass)로 행동 확률을 반환합니다. 하이브리드 어텐션은 길고 복잡한 트레이스 처리를 뒷받침합니다. 이 모델은 토큰을 생성하거나, 서술형 판단을 작성하거나, 분류에 대한 자유 형식 설명을 만들지 않습니다.
개념 가이드와 채점 레퍼런스에는 요청당 행동 수 상한이 명시되어 있지 않습니다. 그래도 모든 정의는 제공된 평가의 일부이므로, 개수 상한이 없다는 점을 무제한 입력 용량의 근거로 여기지 말고 각 정의를 명확하고 관련성 있게 유지하세요. 결과에는 행동마다 항목 하나가 요청 순서대로 담기며, 각 항목은 id로 식별됩니다. 여러 정의는 여러 독립적 관찰을 나타내며, 행동 전체에 걸쳐 합이 1이 되어야 하는 상호 배타적 범주 선택이 아닙니다.
유용한 평가 산출물 준비하기
반환된 확률은 모델 외부에서 작업별 임계값 및 검토 규칙과 결합하세요. 제작사는 레이블 지정 대화를 사용해 임계값을 정하고, 경계선상의 존재 값이나 높은 관찰 불가 값을 가진 결과를 점검하도록 권장합니다. 고객 지원 워크플로에서는 불만, 제안된 상위 이관, 근거 없는 약속을 따로 기록할 수 있습니다. 에이전트 품질 워크플로에서는 반복 동작이나, 응답이 제공된 근거를 활용했는지를 추적할 수 있습니다.
텍스트 스팬, 행동 정의, 결과 식별자, 완전한 3방향 분포를 함께 보관하세요. 정의가 바뀌면 확률이 측정하는 대상도 바뀐다는 점을 인지하세요. 수치 결과를 관찰되지 않은 사건의 증거로 취급하지 말고, 오류로 보이는 사례는 실제 대화와 대조해 검토하세요. 유용한 산출물은 트레이스와 기준에 연결된 행동 기록으로, 이후 점검이나 애플리케이션의 다음 결정을 위해 불확실성이 보존되어 있습니다.
Ailoot Ultra · System One POST /v1/systemone respan/span-01
respan/span-01시작하기
Span-01은 대화와 에이전트 트레이스를 위한 Respan의 텍스트 행동 분류기입니다. 행동을 평이한 언어로 정의하면 각 행동에 대해 존재, 부재, 관찰 불가의 세 가지 확률을 반환하며, 제공된 트레이스로 질문을 판단할 수 없을 때는 그 불확실성을 그대로 보존합니다.
- 허용 입력
- 텍스트
- 결과
- decisions
Ailoot에서 사용 가능 · 입력 및 메서드
Ailoot Ultra · System One POST /v1/systemone
- 입력
text- 출력
decisions- 출력 형식
- json
| 필드 | 유형 | 요건 | 값과 한도 | 기본값 |
|---|---|---|---|---|
필드model | 유형string | 요건필수 | 값과 한도 respan/span-01 | 기본값— |
필드provider | 유형schema | 요건선택 사항 | 값과 한도 | 기본값— |
필드questions | 유형object | 요건필수 | 값과 한도 | 기본값— |
필드session_id | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드state | 유형schema | 요건필수 | 값과 한도 | 기본값— |
필드trace | 유형schema | 요건선택 사항 | 값과 한도 | 기본값— |
필드user | 유형string | 요건선택 사항 | 값과 한도 | 기본값— |
필드questions.<id>.type | 유형string | 요건필수 | 값과 한도 noul, choice, score | 기본값— |
필드questions.<id>.instructions | 유형string|object|array | 요건필수 | 값과 한도 | 기본값— |
필드questions.<id>.criteria | 유형object|array | 요건선택 사항 | 값과 한도 조건: choice/score: 필수; noul: 선택 사항. choice의 criteria는 객체이며, score는 minItems1인 배열입니다. | 기본값— |
필드questions.<id>.criteria.true | 유형string|object|array | 요건필수 | 값과 한도 적용 조건: noul 조건 객체가 제공됨 | 기본값— |
필드questions.<id>.criteria.false | 유형string|object|array | 요건필수 | 값과 한도 적용 조건: noul 조건 객체가 제공됨 | 기본값— |
입력 자료 조합
noul · 필수: state, questions.<id>.type=noul, questions.<id>.instructions
choice · 필수: state, questions.<id>.type=choice, questions.<id>.instructions, criteria object
score · 필수: state, questions.<id>.type=score, questions.<id>.instructions, criteria array with minItems1
메서드 매개변수와 수명 주기
| 매개변수 | 명세 |
|---|---|
매개변수content_type | 명세application/json |
매개변수required | 명세model, state, questions |
매개변수material_types | 명세text |
매개변수optional_controls | 명세provider, session_id, trace, user |
매개변수multimodal_input_binding | 명세null |
수명 주기: synchronous
정확한 모델 ID를 전송하고 네이티브 응답 전체를 보존하세요.
요금
요금 정보는 요청 옵션을 추가하지 않습니다. 지원되는 매개변수는 선택한 메서드에 표시됩니다.
- 빠른 모드
- 미지정 빠른 모드를 선택한 경우
- Flex 모드
- 미지정 flex 모드를 선택한 경우
- 최대 추론 수준
- 미지정 최대 추론 수준에 default 조정값을 적용하는 경우
Ailoot 요금
설정별 가격
각 요금을 표시된 조건과 대조하세요. 서로 대체되는 설정 묶음마다 하나의 요금만 적용하세요.
| 설정 | 요금표 | 컨텍스트 토큰 수 초과 기준 | 컨텍스트 토큰 수 이하 기준 | 요금 |
|---|---|---|---|---|
| 설정토큰의 기본 단가 | 요금표기본 요금 | 컨텍스트 토큰 수 초과 기준— | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.00004 / 1K 토큰 출력 · 출력 토큰 $0 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
| 설정요청 길이 구간 1 | 요금표— | 컨텍스트 토큰 수 초과 기준0 | 컨텍스트 토큰 수 이하 기준상한 없음 | 요금 입력 · 입력 토큰 $0.00004 / 1K 토큰 출력 · 출력 토큰 $0 / 1K 토큰 입력 · 캐시 읽기 — / 1K 토큰 입력 · 캐시 쓰기 — / 1K 토큰 입력 · 캐시 쓰기, 1시간 — / 1K 토큰 |
Ailoot는 요청 전에 예상 금액을 미리 확보합니다. 결과를 받은 뒤 측정된 사용량을 기준으로 최종 요금을 정산합니다. 스트리밍 정산에는 최종 사용량 기록을 사용합니다. 금액 확보와 정산 방식 →
요청 예제
Ailoot Ultra · System One
{
"model": "respan/span-01",
"questions": {
"is_bug": {
"criteria": {
"false": "The customer is asking a question or requesting a feature.",
"true": "The customer describes broken or unexpected product behavior."
},
"instructions": "Is the customer reporting a software defect?",
"type": "noul"
},
"team": {
"criteria": {
"account": "Login, permissions, or profile issues.",
"frontend": "Rendering, layout, or browser compatibility issues.",
"payments": "Checkout, billing, or payment processing issues."
},
"instructions": "Which team should own this ticket?",
"type": "choice"
},
"urgency": {
"criteria": [
"Can wait for the next release",
"Should be fixed this week",
"Blocking revenue right now"
],
"instructions": "How urgent is this ticket?",
"type": "score"
}
},
"state": {
"customer_tier": "enterprise",
"ticket": "My checkout page shows a blank screen after I click Pay. I have tried two browsers."
}
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='respan/span-01'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/systemone \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
결과 수신 및 저장
Ailoot Ultra · System One
json
완료된 결과 모두 보관
반환된 완전한 응답, 파일, 콘텐츠 부분을 모두 보관하세요.
제공된 모든 질문 ID별 답변의 정확한 유형, noul/choice/score 값, 신뢰도, 확률 및 범례가 보존됩니다. 원본 JSON 전체는 정산이 끝난 후에만 저장되고 반환됩니다.
원래 응답을 확인해야 할 경우
원래 작업과 전체/부분 응답을 보존하세요. POST를 재전송하지 마세요.
응답 필드
| 필드 | 유형 |
|---|---|
필드model | 유형string |
필드id | 유형string |
필드provider | 유형string |
필드answers.<id>.type | 유형string |
필드answers.<id>.noul | 유형number |
필드answers.<id>.choice | 유형string |
필드answers.<id>.score | 유형number |
필드answers.<id>.confidence | 유형number |
필드answers.<id>.probabilities | 유형object |
필드answers.<id>.legend | 유형object |
필드usage.input_tokens | 유형integer |
필드usage.output_tokens | 유형integer |
필드usage.cost | 유형number |
오류와 다음 단계
| 응답 | 조건 | 다음 단계 |
|---|---|---|
응답400 · invalid_request_error | 조건필수 필드, 표현 형식 또는 값이 유효하지 않음 | 다음 단계표시된 요청 필드를 수정하세요. |
별칭
모델 별칭
Ailoot Ultra respan/span-01
메서드 경로 별칭
위에 표시된 메서드 경로를 사용하세요.
관련 호출용 ID
FAQ · Respan: Span-01
- 어떤 입력과 결과를 사용할 수 있나요?
POST /v1/systemone·respan/span-01:text→decisions- 요청은 어떤 필드를 사용하나요?
POST /v1/systemone·respan/span-01:model,provider,questions,session_id,state,trace,user