Together: Tev1 4B Experimental
Tev1 4B Experimental 是 Together AI 推出的文字分類器,專為選項有限的決策而設計:提供一個狀態、一個問題以及 2–24 個帶標籤的選項,其文件所載的輸出即為單一字母。應用程式會將該字母對應到類別鍵;此輸出並非原生的機率分布,也不是期望分數回應。
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項,依所選方法列於下方。
Tev1 4B Experimental 是 Together AI 的分類模型,適用於答案集固定的問題。製造商以 Qwen3.5 4B 為基礎進行微調,並公布其參數量為 47 億。它透過非思考模式的文字生成來選出一個選項:文件所載的輸入為一個狀態、一個問題以及帶標籤的選項,要求的輸出則恰好是一個字母。應用程式再將該字母對應到選項的語意鍵。這使它的決策工作流程有別於直接回傳校準後機率或評分準則期望分數的模型。
狀態、問題與 2–24 個選項
開發商的介面將決策表示為一個包含狀態(state)、問題(question)與選項(options)的 JSON 物件。每個選項都包含一個從 A 到 X 的字母標籤、一個語意鍵以及一段說明。請提供兩個到 24 個選項,並讓每段說明清楚交代該答案適用的情況。字母是精簡的輸出標籤;語意鍵則是周邊軟體所使用的含義。請讓這份對應關係始終與該次決策所用的確切選項清單綁定。
以客服訊息為例,狀態應包含該訊息及相關脈絡,問題則定義要選擇哪一種意圖或轉送目的地。一份示範清單可以區分回報的整合故障、存取問題與產品資訊詢問,並在所列意圖都不符合時提供一個表示「皆不符合」的 none 選項。請明確定義彼此重疊的情況,而不是期待模型從縮寫標籤推斷出組織的分流政策。
非思考模式生成與要求的答案形式
Together 公布的範例提供一段系統指令:將狀態內的內容視為資料、從列出的選項中選出一個,並只要求回傳其字母、不附任何解釋。建議設定為溫度 0、8 個 token 的生成額度,以及停用思考模式。製造商明確指出,公開端點不會自動套用這些設定;範例輔助程式會帶入這些設定,而直接發出的請求則必須自行指定。請使用這些設定來取得預期中簡短、非思考模式的分類回應。
8 個 token 的額度是這種簡答工作流程的範例輸出設定,並非通用的最大輸出規格。預期的有用輸出仍是被選中的字母。若輔助程式之後提供包含標籤與鍵的物件,請將這個經過解讀的物件與模型原始生成的內容區分開來。選出類別本身並不會更新工單、核准操作或執行下一個動作。
分類、規則與類別式評等
製造商列出的支援任務模式包括意圖偵測、政策套用、工作流程分流、文件分類、情緒判斷,以及基於段落的是非題理解。布林任務可以提供兩個選項,其鍵分別代表真與假;應用程式再據此解讀被選中的選項。情緒任務可以提供附有說明的等級,並回傳所選類別的鍵。這種類別式選擇並不是跨等級的機率加權平均,回傳的字母也不是數值化的信心值。
進行以規則為依據的決策時,請把相關事實與規則一併寫入任務,而不是要求模型自行發明政策。例如,文件分流的說明可以描述允許使用的資料夾,以及各資料夾應收納的內容。研究分類任務則可以提供論文的標題與摘要,以及各主題的說明。結果應對照所提供的選項來解讀,並保留原始證據,以便處理模稜兩可或有爭議的選擇。
訓練範圍與版本識別
模型頁面記載了 37,840 筆訓練範例,涵蓋文字蘊含、段落是非題、銀行業務意圖、新聞類別、情緒等級、程式化政策、分流與研究論文分類體系。配套指南說明了如何將這些任務正規化為共用的決策格式,並微調出一個分類模型。這解釋了此模型設定為何聚焦於有限的答案集;但並不代表每一種新的政策、領域或分類體系,都能在未經針對任務評估的情況下被正確處理。
Tev1 4B Experimental 是 Together 具名發布的模型,既不是通用的 Qwen3.5 4B 基礎模型設定,也不是其他決策模型製造商的檢查點。請保留這個實驗版本本身的輸出處理方式與輸入規範。即使決策用途相同或基礎模型系列相似,也不能因此套用其他模型的影像支援、機率校準、工具呼叫或問題批次上限。
上下文與結果審查
Together 的模型規格標示上下文視窗為 32.8K 個 token,輸入與輸出皆為文字。上下文必須容納分類請求中使用的指令、狀態、問題與選項。只準備問題所需的證據,同時保留能區分各選項的定義。移除不相關的上下文、保留選項定義,讓分類提示保持精簡。
開發商將此版本定位為實驗性發布,供在真實決策工作負載上進行評估。在將原始回應對應到語意鍵之前,請先確認它是所提供的標籤之一,並將分類結果與目標任務中具代表性的已標註資料進行比對。有效的字母只代表選擇的格式正確,不能證明其解讀正確無誤。請將輸入、選項、回傳的字母與對應的鍵一併保存,讓最終成果能支援分流、分類或政策審查,同時不遺失決策的定義方式。
Ailoot Ultra · System One POST /v1/systemone togethercomputer/tev1-4b-experimental
togethercomputer/tev1-4b-experimental
togethercomputer/tev1-4b-experimental入門
Tev1 4B Experimental 是 Together AI 推出的文字分類器,專為選項有限的決策而設計:提供一個狀態、一個問題以及 2–24 個帶標籤的選項,其文件所載的輸出即為單一字母。應用程式會將該字母對應到類別鍵;此輸出並非原生的機率分布,也不是期望分數回應。
- 接受的輸入
- 文字
- 結果
- decisions
Ailoot 可用 · 輸入與方法
Ailoot Ultra · System One POST /v1/systemone
- 輸入
text- 輸出
decisions- 輸出格式
- json
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 togethercomputer/tev1-4b-experimental | 預設值— |
欄位provider | 類型schema | 要求選填 | 值與限制 | 預設值— |
欄位questions | 類型object | 要求必填 | 值與限制 | 預設值— |
欄位session_id | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位state | 類型schema | 要求必填 | 值與限制 | 預設值— |
欄位trace | 類型schema | 要求選填 | 值與限制 | 預設值— |
欄位user | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位questions.<id>.type | 類型string | 要求必填 | 值與限制 noul, choice, score | 預設值— |
欄位questions.<id>.instructions | 類型string|object|array | 要求必填 | 值與限制 | 預設值— |
欄位questions.<id>.criteria | 類型object|array | 要求選填 | 值與限制 條件: choice/score:必填;noul:選填。choice 的條件為物件;score 為陣列,並要求 minItems1。 | 預設值— |
欄位questions.<id>.criteria.true | 類型string|object|array | 要求必填 | 值與限制 適用條件: 已提供 noul criteria 物件 | 預設值— |
欄位questions.<id>.criteria.false | 類型string|object|array | 要求必填 | 值與限制 適用條件: 已提供 noul criteria 物件 | 預設值— |
輸入素材組合
noul · 必填: state, questions.<id>.type=noul, questions.<id>.instructions
choice · 必填: state, questions.<id>.type=choice, questions.<id>.instructions, criteria object
score · 必填: state, questions.<id>.type=score, questions.<id>.instructions, criteria array with minItems1
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, state, questions |
參數material_types | 規格text |
參數optional_controls | 規格provider, session_id, trace, user |
參數multimodal_input_binding | 規格null |
生命週期: synchronous
請傳送完全相符的模型 ID,並保留完整的原生回應。
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 未指定 選取快速模式時
- flex 模式
- 未指定 選取 flex 模式時
- 最高推理強度
- 未指定 最高推理強度採用 default 調整值時
Ailoot 費率
各設定的價格
請逐一核對各項費用與所列條件。每組互為替代選項的設定只套用一種費率。
| 設定 | 費率表 | 上下文 Token 數大於 | 上下文 Token 數小於或等於 | 費用 |
|---|---|---|---|---|
| 設定詞元基本費率 | 費率表基本費率 | 上下文 Token 數大於— | 上下文 Token 數小於或等於無上限 | 費用 輸入 · 輸入 Token $0.000084 / 1K Token 輸出 · 輸出 Token $0 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取,1 小時 — / 1K Token |
| 設定請求長度級距 1 | 費率表— | 上下文 Token 數大於0 | 上下文 Token 數小於或等於無上限 | 費用 輸入 · 輸入 Token $0.000084 / 1K Token 輸出 · 輸出 Token $0 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取,1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後,依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · System One
{
"model": "togethercomputer/tev1-4b-experimental",
"questions": {
"is_bug": {
"criteria": {
"false": "The customer is asking a question or requesting a feature.",
"true": "The customer describes broken or unexpected product behavior."
},
"instructions": "Is the customer reporting a software defect?",
"type": "noul"
},
"team": {
"criteria": {
"account": "Login, permissions, or profile issues.",
"frontend": "Rendering, layout, or browser compatibility issues.",
"payments": "Checkout, billing, or payment processing issues."
},
"instructions": "Which team should own this ticket?",
"type": "choice"
},
"urgency": {
"criteria": [
"Can wait for the next release",
"Should be fixed this week",
"Blocking revenue right now"
],
"instructions": "How urgent is this ticket?",
"type": "score"
}
},
"state": {
"customer_tier": "enterprise",
"ticket": "My checkout page shows a blank screen after I click Pay. I have tried two browsers."
}
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='togethercomputer/tev1-4b-experimental'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/systemone \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
接收並儲存結果
Ailoot Ultra · System One
json
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
會保留每個已提供的問題 ID 答案,包括其確切型別、noul/choice/score 值、信心值、機率與圖例。完整的原始 JSON 會先儲存,並僅在結算後回傳。
需要檢查原始回應時
請保留原始操作與完整/部分回覆;切勿重送 POST。
回應欄位
| 欄位 | 類型 |
|---|---|
欄位model | 類型string |
欄位id | 類型string |
欄位provider | 類型string |
欄位answers.<id>.type | 類型string |
欄位answers.<id>.noul | 類型number |
欄位answers.<id>.choice | 類型string |
欄位answers.<id>.score | 類型number |
欄位answers.<id>.confidence | 類型number |
欄位answers.<id>.probabilities | 類型object |
欄位answers.<id>.legend | 類型object |
欄位usage.input_tokens | 類型integer |
欄位usage.output_tokens | 類型integer |
欄位usage.cost | 類型number |
錯誤與後續步驟
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、表示方式或值無效 | 下一步請修正指出的請求欄位。 |
別名
模型別名
Ailoot Ultra togethercomputer/tev1-4b-experimental
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · Together: Tev1 4B Experimental
- 可以使用哪些輸入與結果?
POST /v1/systemone·togethercomputer/tev1-4b-experimental:text→decisions- 請求使用哪些欄位?
POST /v1/systemone·togethercomputer/tev1-4b-experimental:model,provider,questions,session_id,state,trace,user