LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B är den eftertränade textmodellen i Liquids kompakta LFM2.5-familj, utformad för agenter på enheten och praktiska arbetsflöden. Dess exakta modellkort anger 2,69B parametrar och 30 lager: 22 kortkonvolutionsblock med dubbla grindar och åtta grouped-query-attention-block. Hybridkonstruktionen är inriktad på effektiv textbearbetning. Modellen tar emot text och returnerar text, inklusive ett underbyggt svar eller en begäran om att använda en definierad funktion.

Tillverkaren rekommenderar den för agentbaserade arbetsuppgifter, verktygsanvändning, dataextraktion, generering förstärkt med informationshämtning och arbetsflöden med lång kontext. Utgåvans träningspipeline kombinerar övervakad finjustering, specialiserade lärarmodeller, on-policy-destillation över flera domäner och förstärkningsinlärning i agentmiljöer. Detta hjälper till att förklara dess fokus på att följa uppgiftsinstruktioner, använda verktygsobservationer och gå vidare genom flera steg. Ge den det faktiska materialet och ett exakt mål i stället för att förlita dig på bred inlärd kunskap för att fylla luckor.

För extraktion definierar du fälten och källreglerna innan du tillhandahåller materialet. En praktisk begäran är: ”Läs dessa serviceuppdateringar, extrahera varje posts identifierare, angivna status och nästa nödvändiga åtgärd och behåll meningen som stöder varje fält. Returnera null när ett fält saknas.” Ange om ett värde ska kopieras exakt, normaliseras eller härledas. Detta gör utdata granskningsbara och hindrar en rimlig tolkning från att tyst ersätta information som faktiskt finns i källan.

För RAG tillhandahåller du relevanta avsnitt med stabila etiketter och ber om ett svar som är förankrat i dessa avsnitt. Ett exempel är: ”Använd endast dessa installationsinstruktioner, förklara vilka steg som gäller för den angivna miljön och lista de förutsättningar som ännu är okända.” Behåll dokumentversioner och villkor med texten. Be modellen identifiera en saknad eller motstridig uppgift i stället för att hitta på en fullständig procedur. Detta passar tillverkarens rekommendation för källförankrade uppgifter bättre än att be den kompakta modellen fungera som ett uttömmande lager av specialistkunskap.

LFM2.5-2.6B är en ren resonemangsmodell: dess chattmall börjar assistentens svar med en tänkmarkör, och den resonerar före det slutliga svaret. Tillverkarens modellkort rekommenderar temperature 0.1, top-k 50 och repetition penalty 1.1 för generering. Detta är inställningar i den namngivna modellens recept. Håll slutleveransen åtskild från resonemangstexten och lämna utrymme för båda i en arbetsbegäran. Kontroller eller direktsvarslägen som tillhör andra LFM-instruktionsutgåvor bör inte förutsättas för denna modell.

Modellen använder ett ChatML-liknande samtalsformat med rollerna system, user, assistant och tool. Dess dokumenterade funktionsflöde har fyra steg: definiera verktygen, låt modellen begära en funktion, kör funktionen i den omgivande applikationen och returnera det faktiska resultatet så att modellen kan svara. Inbyggda anrop är Python-liknande listor inneslutna i markörer för verktygsanrop; tillverkaren beskriver även hur JSON-format för anrop kan begäras genom systeminstruktionen. Använd rätt parser, kontrollera funktionsnamn och argument mot de tillhandahållna definitionerna och behåll resultatet tillsammans med anropet som producerade det.

För ett kompakt agentflöde exponerar du endast funktioner som är relevanta för den aktuella uppgiften, med korta beskrivningar och uttryckliga argumenttyper. Verktygsdefinitionerna tar själva kontextutrymme. En användbar sekvens kan slå upp statusen för en tillhandahållen post, jämföra den returnerade statusen med en regel och förklara om uppföljning behövs. Ange postens identifierare som underlag och be om ett slutligt svar kopplat till den returnerade observationen. Modellen föreslår och tolkar operationen; applikationen tillhandahåller dess faktiska körning och resultat.

Tillverkarens aktuella modellkort anger en modellkontext på 131 072 token, och utgåvan beskriver ett särskilt steg för kontextutökning. Arbeta inom fönstret för den konfiguration som används och bevara källgränser, relevant historik och utrymme för fortsättningen. För flera dokument ber du om en särskild jämförelse eller ett beroende som ska spåras. Modellens ursprungliga checkpoint samt GGUF-, ONNX- och MLX-filerna tillgodoser olika driftsättningsbehov, och en utkastmodell för spekulativ avkodning är en separat kompletterande fil. Resurs- eller hastighetsvärden från en konfiguration beskriver inte automatiskt varje modellformat och arbetsfönster.

Liquid rekommenderar uttryckligen inte LFM2.5-2.6B för agentbaserad programmering eller kunskapsintensiva uppgifter. Håll den fokuserad på konkreta arbetsflöden med tillhandahållna belägg, extraktionsregler och verktygsobservationer. Den förtränade Base-checkpointen är också en separat modellfil avsedd för anpassning, medan denna eftertränade utgåva är agentmodellen. För slutresultatet granskar du extraherade värden mot källan, kontrollerar att ett citerat avsnitt stöder svaret och skiljer ett begärt verktygsanrop från en operation med registrerat utfall. Bevara olöst information där den påverkar slutsatsen i stället för att låta flytande text dölja den.