Together: Tev1 4B Experimental

Tev1 4B Experimental は、回答の集合が固定された質問のための Together AI の分類モデルです。メーカーは Qwen3.5 4B をベースにファインチューニングしており、パラメータ数を 47 億（4.7B）と公表しています。選択肢を選ぶ際には、思考モードを使わないテキスト生成を用います。ドキュメントに記載された入力は状態、1 つの質問、ラベル付きの選択肢で、要求される出力はちょうど 1 文字です。アプリケーションがその文字を選択肢のセマンティックキーに対応付けます。この点で、その意思決定ワークフローは、キャリブレーション済みの確率や期待ルーブリックスコアを直接返すモデルとは異なります。

状態、質問、2～24 個の選択肢

提供元のインターフェースは、意思決定を state、question、options を持つ JSON オブジェクトとして表現します。各選択肢には、A から X までの文字ラベル、セマンティックキー、説明が含まれます。選択肢は 2 個から 24 個の範囲で指定し、各説明にはその回答がどのような場合に当てはまるかを明記します。文字は簡潔な出力ラベルであり、セマンティックキーは周囲のソフトウェアが使う意味です。対応付けは、その意思決定で使った選択肢リストそのものと結び付けて保持します。

サポートメッセージの場合、状態にはメッセージと関連するコンテキストを含め、質問ではどの意図または振り分け先を選ぶかを定義します。例として、報告された連携の不具合、アクセスの問題、製品情報の問い合わせを区別し、列挙した意図のいずれにも当てはまらない場合に備えて「該当なし」の選択肢を加えたリストが考えられます。省略されたラベルから組織のルーティング方針をモデルが推測することを期待せず、重なり合うケースを明確に定義します。

思考モードを使わない生成と要求される回答形式

Together が公開しているサンプルでは、state 内の内容をデータとして扱い、列挙された選択肢から 1 つを選び、説明なしでその文字だけを返すよう求めるシステム指示を与えています。推奨設定は temperature 0、生成上限 8 トークン、思考の無効化です。メーカーは、これらの設定が公開エンドポイントで自動的に付与されるわけではないと明言しています。サンプルのヘルパーはこれらを指定しますが、直接リクエストする場合は自分で指定する必要があります。これらの設定を使って、意図どおりの短い、思考を伴わない分類応答を要求します。

8 トークンという上限は、この短答ワークフロー向けのサンプルの出力設定であり、汎用的な最大出力仕様ではありません。意図された有用な出力は、あくまで選ばれた文字です。ヘルパーが後からラベルとキーを含むオブジェクトを提供する場合は、その解釈済みオブジェクトと、モデルが生成した生のコンテンツを区別します。カテゴリの選択そのものが、チケットを更新したり、操作を承認したり、次のアクションを実行したりすることはありません。

分類、ルール、カテゴリ評価

メーカーは、意図検出、ポリシーの適用、ワークフローのルーティング、文書のカテゴリ分け、感情分析、文章に基づくはい/いいえの読解を、対応するタスクパターンとして挙げています。真偽判定のタスクでは、キーが真と偽を意味する 2 つの選択肢を与え、アプリケーションが選ばれた選択肢をそれに応じて解釈します。感情分析のタスクでは、説明付きのレベルを与え、選ばれた 1 つのカテゴリのキーを返させることができます。このカテゴリ選択はレベル全体にわたる確率加重平均ではなく、返された文字は数値的な信頼度でもありません。

ルールに基づく判定では、モデルにポリシーを考え出させるのではなく、関連する事実とルールをタスクに含めます。たとえば文書振り分けの指示では、許可されたフォルダーと、それぞれに属する資料を説明できます。研究分野の分類タスクでは、論文のタイトルとアブストラクトをトピックの説明とともに与えられます。結果は与えた選択肢に照らして解釈し、曖昧な選択や異論のある選択に備えて元の根拠を保持します。

学習範囲とエディションの識別

モデルページには、含意関係、文章に関するはい/いいえの質問、銀行業務の意図、ニュースのカテゴリ、感情のレベル、プログラムで定義されたポリシー、ルーティング、研究論文の分類体系にわたる 37,840 件の学習例が記載されています。付属のガイドでは、これらのタスクを共通の意思決定フォーマットに正規化し、分類モデルをファインチューニングする手順が説明されています。これは、このプロファイルが限定された回答集合に焦点を当てている理由を示すものですが、新しいポリシー、ドメイン、分類体系のすべてがタスク固有の評価なしに正しく処理されることを保証するものではありません。

Tev1 4B Experimental は Together の名前を冠したモデルであり、汎用の Qwen3.5 4B ベースプロファイルでも、他の意思決定モデルメーカーのチェックポイントでもありません。この実験版独自の出力の準備方法と入力仕様を守ります。用途が一般的な意思決定であることや、ベースファミリーが馴染みのあるものであることは、他のモデルの画像対応、確率キャリブレーション、ツール呼び出し、質問のバッチ処理上限を流用する根拠にはなりません。

コンテキストと結果の確認

Together のモデル仕様では、コンテキストウィンドウは 32.8K トークン、入力はテキスト、出力もテキストとされています。コンテキストには、分類リクエストで使う指示、状態、質問、選択肢がすべて収まる必要があります。選択肢を区別する定義は残しつつ、質問に必要な根拠だけを用意します。無関係なコンテキストを取り除き、選択肢の定義は保持したまま、分類プロンプトを簡潔に保ちます。

提供元は、本モデルを実際の意思決定ワークロードで評価するための実験的リリースと位置付けています。生の応答をセマンティックキーに対応付ける前に、それが与えたラベルのいずれかであることを確認し、想定タスクの代表的なラベル付きデータと分類結果を比較します。有効な文字は選択が正しい形式であることを示すだけで、その解釈が正しいことの証明にはなりません。入力、選択肢、返された文字、対応付けたキーをまとめて保持すれば、意思決定がどう定義されたかを失うことなく、最終成果物をルーティング、カテゴリ分け、ポリシーレビューに活用できます。