Together: Tev1 4B Experimental

Tev1 4B Experimental은 답변 집합이 고정된 질문을 위한 Together AI의 분류 모델입니다. 제조사는 Qwen3.5 4B를 기반으로 이 모델을 파인튜닝했으며 파라미터 수를 47억 개로 밝히고 있습니다. 이 모델은 비사고(non-thinking) 텍스트 생성을 사용해 선택지를 고릅니다. 문서화된 입력은 상태(state), 질문 하나, 레이블이 붙은 선택지이며, 요청되는 출력은 정확히 문자 하나입니다. 애플리케이션은 그 문자를 해당 선택지의 의미 키(semantic key)에 매핑합니다. 이 점에서 이 모델의 결정 워크플로는 보정된 확률이나 루브릭 기대 점수를 직접 반환하는 모델과 구별됩니다.

상태, 질문, 2–24개 선택지

제작사의 인터페이스는 결정을 state, question, options를 담은 JSON 객체로 표현합니다. 각 선택지에는 A부터 X까지의 문자 레이블, 의미 키, 설명이 들어 있습니다. 선택지는 2개에서 24개까지 제공하고, 각 설명에 해당 답이 언제 적용되는지 적으세요. 문자는 간결한 출력 레이블이고, 의미 키는 주변 소프트웨어가 사용하는 의미입니다. 매핑은 해당 결정에 사용한 정확한 선택지 목록과 함께 유지하세요.

지원 메시지의 경우 state에는 메시지와 관련 맥락을 넣고, question에서는 어떤 의도나 전달 대상을 고를지 정의합니다. 예시 목록으로 보고된 연동 장애, 접근 문제, 제품 정보 요청을 구분하고, 나열된 의도에 맞지 않을 때를 위한 해당 없음(none) 선택지를 둘 수 있습니다. 모델이 축약된 레이블에서 조직의 라우팅 정책을 추론하길 기대하기보다, 서로 겹치는 경우를 직접 정의하세요.

비사고 생성과 요청된 답변 형태

Together가 공개한 예시는 state 안의 내용을 데이터로 취급하고, 나열된 선택지 하나를 고르며, 설명 없이 그 문자만 요청하는 시스템 지시문을 제공합니다. 권장 설정은 temperature 0, 생성 허용량 8토큰, 사고(thinking) 비활성화입니다. 제조사는 공개 엔드포인트가 이 설정을 자동으로 주입하지 않는다고 명시합니다. 예시 헬퍼는 이 설정을 넣어 주지만, 직접 요청할 때는 반드시 지정해야 합니다. 이 설정을 사용해 의도한 짧은 비사고 분류 응답을 요청하세요.

8토큰 허용량은 이 단답형 워크플로를 위한 예시 출력 설정이며, 보편적인 최대 출력 사양이 아닙니다. 의도한 유용한 출력은 여전히 선택된 문자입니다. 헬퍼가 이후에 레이블과 키를 담은 객체를 제공한다면, 그 해석된 객체를 모델이 생성한 원시 콘텐츠와 구분하세요. 범주 선택 자체가 티켓을 갱신하거나, 작업을 승인하거나, 다음 동작을 실행하지는 않습니다.

분류, 규칙, 범주형 등급

제조사는 의도 감지, 정책 적용, 워크플로 라우팅, 문서 범주, 감성, 지문 기반 예/아니요 이해를 지원 작업 패턴으로 설명합니다. 불리언 작업에서는 키가 참과 거짓을 뜻하는 선택지 두 개를 제공할 수 있으며, 애플리케이션이 선택된 선택지를 그에 맞게 해석합니다. 감성 작업에서는 설명이 붙은 단계를 제공하고 선택된 범주 하나의 키를 반환받을 수 있습니다. 이러한 범주 선택은 단계 전반에 걸친 확률 가중 평균이 아니며, 반환된 문자는 수치형 신뢰도 값이 아닙니다.

규칙 기반 결정에서는 모델에게 정책을 만들어 내도록 요청하지 말고 관련 사실과 규칙을 작업에 포함하세요. 예를 들어 문서 라우팅 지침에는 허용되는 폴더와 각 폴더에 들어갈 자료를 설명할 수 있습니다. 연구 분류 체계 작업에서는 논문 제목과 초록을 주제 설명과 함께 제공할 수 있습니다. 결과는 제공된 대안에 비추어 해석하고, 모호하거나 이견이 있는 선택에 대비해 원래 근거를 보존하세요.

학습 범위와 에디션 식별

모델 페이지에는 함의 판단, 지문 기반 예/아니요 질문, 은행 업무 의도, 뉴스 범주, 감성 단계, 프로그래밍 방식 정책, 라우팅, 연구 논문 분류 체계를 아우르는 학습 예시 37,840개가 기록되어 있습니다. 함께 제공되는 가이드는 이러한 작업을 공통 결정 형식으로 정규화하고 분류 모델을 파인튜닝하는 과정을 설명합니다. 이는 이 프로필이 제한된 답변 집합에 초점을 맞추는 이유를 설명할 뿐, 새로운 정책, 도메인, 분류 체계가 작업별 평가 없이도 모두 올바르게 처리된다는 뜻은 아닙니다.

Tev1 4B Experimental은 이름이 부여된 Together 모델이며, 일반 Qwen3.5 4B 기본 프로필도, 다른 결정 모델 제조사의 체크포인트도 아닙니다. 이 실험 에디션 고유의 출력 준비 방식과 입력 계약을 유지하세요. 결정이라는 공통 사용 사례나 익숙한 기본 모델 계열이 있다고 해서 다른 모델의 이미지 지원, 확률 보정, 도구 호출, 질문 일괄 처리 한도를 가져다 쓸 근거가 되지는 않습니다.

컨텍스트와 결과 검토

Together의 모델 사양에 따르면 컨텍스트 창은 32.8K 토큰이며, 텍스트를 입력받아 텍스트를 출력합니다. 컨텍스트에는 분류 요청에 사용되는 지시문, state, question, options가 모두 들어가야 합니다. 대안을 구분하는 정의는 유지하면서 질문에 필요한 근거만 준비하세요. 선택지 정의는 남겨 두고 관련 없는 맥락은 제거해 분류 프롬프트를 간결하게 유지하세요.

제작사는 이 모델을 실제 결정 워크로드에서 평가하기 위한 실험 릴리스로 소개합니다. 원시 응답을 의미 키에 매핑하기 전에 그 응답이 제공된 레이블 중 하나인지 확인하고, 분류 결과를 대상 작업의 대표적인 레이블 지정 자료와 비교하세요. 유효한 문자는 형식에 맞는 선택이라는 사실을 보여 줄 뿐, 그 해석이 옳다는 증거는 아닙니다. 입력, 선택지, 반환된 문자, 매핑된 키를 함께 보관하면 최종 산출물이 결정의 정의 방식을 잃지 않고 라우팅, 범주화, 정책 검토를 뒷받침할 수 있습니다.