Together: Tev1 4B Experimental

Tev1 4B Experimental är Together AI:s klassificeringsmodell för frågor med en fast svarsmängd. Tillverkaren har finjusterat den från Qwen3.5 4B och anger 4,7 miljarder parametrar. Den använder textgenerering utan tankeläge för att välja ett alternativ: den dokumenterade indatan är ett tillstånd, en fråga och märkta alternativ, och den begärda utdatan är exakt en bokstav. Applikationen mappar bokstaven till alternativets semantiska nyckel. Det skiljer modellens beslutsflöde från en modell som direkt returnerar kalibrerade sannolikheter eller en förväntad poäng enligt en bedömningsmatris.

Tillstånd, fråga och 2–24 alternativ

Producentens gränssnitt representerar beslutet som ett JSON-objekt med fälten state, question och options. Varje alternativ innehåller en bokstavsetikett från A till och med X, en semantisk nyckel och en beskrivning. Ange mellan två och 24 alternativ och låt varje beskrivning förklara när just det svaret gäller. Bokstaven är den kompakta utdataetiketten; den semantiska nyckeln är den betydelse som den omgivande programvaran använder. Håll mappningen kopplad till exakt den alternativlista som användes för beslutet.

För ett supportmeddelande ska tillståndet innehålla meddelandet och relevant kontext, medan frågan anger vilken avsikt eller destination som ska väljas. En illustrativ lista kan skilja mellan ett rapporterat integrationsfel, ett åtkomstproblem och en förfrågan om produktinformation, med ett alternativ för ”ingen av dessa” när de listade avsikterna inte passar. Definiera överlappande fall i stället för att förvänta dig att modellen ska härleda organisationens routningspolicy ur förkortade etiketter.

Generering utan tankeläge och den begärda svarsformen

Togethers publicerade exempel innehåller en systeminstruktion som behandlar innehållet i state som data, väljer ett av de listade alternativen och begär endast dess bokstav utan förklaring. De rekommenderade inställningarna är temperatur 0, ett genereringsutrymme på åtta token och avstängt tankeläge. Tillverkaren anger uttryckligen att den publika slutpunkten inte lägger till dessa inställningar automatiskt; exemplets hjälpfunktion anger dem, medan en direkt begäran måste ange dem själv. Använd dessa inställningar för att begära det avsedda korta klassificeringssvaret utan tankeläge.

Utrymmet på åtta token är en exempelinställning för utdata i detta kortsvarsflöde, inte en universell specifikation av maximal utdata. Den avsedda användbara utdatan är fortfarande den valda bokstaven. Om en hjälpfunktion därefter exponerar ett objekt med etikett och nyckel, håll isär det tolkade objektet och modellens råa genererade innehåll. Ett kategorival uppdaterar inte i sig ett ärende, godkänner inte en åtgärd och utför inte nästa steg.

Klassificering, regler och kategoriska bedömningar

Tillverkaren beskriver avsiktsdetektering, tillämpning av policyer, routning av arbetsflöden, dokumentkategorier, sentiment och ja/nej-förståelse baserad på textavsnitt som stödda uppgiftsmönster. En boolesk uppgift kan ange två alternativ vars nycklar betyder sant och falskt; applikationen tolkar det valda alternativet därefter. En sentimentuppgift kan ange beskrivna nivåer och returnera nyckeln för en vald kategori. Det kategoriska valet är inte ett sannolikhetsviktat medelvärde över nivåerna, och en returnerad bokstav är inte ett numeriskt konfidensvärde.

För ett regelbaserat beslut tar du med relevanta fakta och regeln i uppgiften i stället för att be modellen hitta på policyn. En instruktion för dokumentroutning kan till exempel beskriva de tillåtna mapparna och vilket material som hör hemma i var och en. En uppgift med forskningstaxonomi kan ange en artikels titel och sammanfattning tillsammans med ämnesbeskrivningar. Resultatet ska tolkas mot de angivna alternativen, och det ursprungliga underlaget sparas för ett tvetydigt eller omtvistat val.

Träningsomfång och utgåvans identitet

Modellsidan anger 37 840 träningsexempel som omfattar textuell implikation, ja/nej-frågor om textavsnitt, bankrelaterade avsikter, nyhetskategorier, sentimentnivåer, programmatiska policyer, routning och taxonomi för forskningsartiklar. Den medföljande guiden dokumenterar hur uppgifterna normaliseras till ett gemensamt beslutsformat och hur en klassificeringsmodell finjusteras. Det förklarar profilens inriktning på en avgränsad svarsmängd; det visar inte att varje ny policy, domän eller taxonomi hanteras korrekt utan uppgiftsspecifik utvärdering.

Tev1 4B Experimental är den namngivna modellen från Together, inte den allmänna basprofilen Qwen3.5 4B och inte en checkpoint från en annan tillverkare av beslutsmodeller. Behåll den experimentella utgåvans egen förberedelse av utdata och dess eget indatakontrakt. Ett vanligt användningsfall för beslut eller en välbekant basfamilj motiverar inte att man lånar en annan modells bildstöd, sannolikhetskalibrering, verktygsanrop eller gränser för batchning av frågor.

Kontext och granskning av resultatet

Togethers modellspecifikation anger ett kontextfönster på 32,8K token samt textindata och textutdata. Kontexten måste rymma instruktionerna, tillståndet, frågan och alternativen som används i klassificeringsbegäran. Förbered bara det underlag som frågan behöver, men behåll de definitioner som skiljer alternativen åt. Håll klassificeringsprompten kompakt genom att ta bort irrelevant kontext och behålla alternativens definitioner.

Producenten betecknar detta som en experimentell version avsedd för utvärdering på verkliga beslutsarbetslaster. Kontrollera att det råa svaret är en av de angivna etiketterna innan det mappas till en semantisk nyckel, och jämför klassificeringarna med representativt märkt material från den avsedda uppgiften. En giltig bokstav visar att valet är välformat, inte att tolkningen är korrekt. Håll ihop indata, alternativ, returnerad bokstav och mappad nyckel så att den slutliga artefakten kan stödja routning, kategorisering eller policygranskning utan att det går förlorat hur beslutet definierades.