LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B is het verder getrainde tekstmodel uit de compacte LFM2.5-familie van Liquid, ontworpen voor agents op het apparaat en praktische processen. De exacte modelkaart vermeldt 2,69 miljard parameters en 30 lagen: 22 dubbel gestuurde blokken met korte convoluties en acht grouped-query-attentionblokken. Het hybride ontwerp richt zich op efficiënte tekstverwerking. Het model aanvaardt tekst en geeft tekst terug, waaronder een beredeneerd antwoord of een verzoek om een vastgelegde functie te gebruiken.

De fabrikant beveelt het aan voor agenttaken, hulpmiddelgebruik, gegevensextractie, retrieval-augmented generation en processen met lange context. Het trainingsproces van de release combineert gesuperviseerde finetuning, gespecialiseerde teachermodellen, on-policy-distillatie over meerdere domeinen en reinforcement learning binnen agentomgevingen. Dit helpt de nadruk op het volgen van taakinstructies, het gebruiken van hulpmiddelwaarnemingen en het doorlopen van meerdere stappen te verklaren. Geef het de werkelijke materialen en een precies doel in plaats van op brede aangeleerde kennis te rekenen om leemten op te vullen.

Definieer voor extractie de velden en bronregels voordat u het materiaal aanlevert. Een praktisch verzoek is: “Lees deze service-updates, haal de identificatie, vermelde status en volgende vereiste actie van elk record eruit en behoud de zin die ieder veld ondersteunt. Geef null terug wanneer een veld ontbreekt.” Geef aan of een waarde exact gekopieerd, genormaliseerd of afgeleid moet worden. Zo wordt de uitvoer controleerbaar en wordt voorkomen dat een aannemelijke interpretatie ongemerkt informatie vervangt die werkelijk in de bron staat.

Lever voor RAG relevante passages met stabiele labels aan en vraag om een antwoord dat op die passages gebaseerd is. Een voorbeeld is: “Gebruik uitsluitend deze installatie-instructies om uit te leggen welke stappen voor de opgegeven omgeving gelden en som de nog onbekende vereisten op.” Bewaar documentversies en voorwaarden bij de tekst. Vraag het model een ontbrekend of tegenstrijdig feit te benoemen in plaats van een volledige procedure te verzinnen. Dit sluit beter aan bij de aanbeveling van de maker voor brononderbouwde taken dan het compacte model te vragen als een uitputtende opslagplaats van specialistische kennis te fungeren.

LFM2.5-2.6B is een zuiver redeneermodel: het chatsjabloon begint het assistentantwoord met een denkmarkering en het redeneert vóór het eindantwoord. De modelkaart van de fabrikant beveelt voor generatie temperature 0.1, top-k 50 en repetition penalty 1.1 aan. Dit zijn instellingen voor het recept van het benoemde model. Houd het eindresultaat gescheiden van de redeneertekst en laat in een werkverzoek ruimte voor beide. Regelaars of modi voor directe antwoorden uit andere LFM-instructie-edities mogen niet voor dit model verondersteld worden.

Het model gebruikt een ChatML-achtig gespreksformaat met de rollen system, user, assistant en tool. De gedocumenteerde functiewerkwijze heeft vier fasen: de hulpmiddelen definiëren, het model een functie laten aanvragen, die functie in de omringende toepassing uitvoeren en het werkelijke resultaat teruggeven zodat het model kan antwoorden. Ingebouwde aanroepen zijn Python-achtige lijsten tussen markeringen voor hulpmiddelaanroepen; de maker beschrijft ook hoe via de systeeminstructie JSON als aanroepformaat gevraagd kan worden. Gebruik de passende parser, toets de functienaam en argumenten aan de aangeleverde definities en bewaar het resultaat bij de aanroep die het opleverde.

Stel voor een compact agentproces alleen de functies beschikbaar die voor de huidige taak relevant zijn, met beknopte beschrijvingen en expliciete argumenttypes. Hulpmiddeldefinities nemen zelf context in. Een bruikbare reeks kan de status van een aangeleverd record opzoeken, de teruggegeven status met een regel vergelijken en uitleggen of opvolging nodig is. Lever de recordidentificatie als bewijs aan en vraag om een eindantwoord dat aan de teruggegeven waarneming gekoppeld is. Het model stelt de bewerking voor en interpreteert haar; de toepassing levert de werkelijke uitvoering en het resultaat.

De huidige modelkaart van de fabrikant specificeert een modelcontext van 131.072 tokens en de release beschrijft een afzonderlijke fase voor contextuitbreiding. Werk binnen het venster van de gebruikte configuratie, met behoud van brongrenzen, relevante geschiedenis en ruimte voor de voortzetting. Vraag bij meerdere documenten om een specifieke vergelijking of te volgen afhankelijkheid. Het oorspronkelijke checkpoint, GGUF-, ONNX- en MLX-bestanden dienen verschillende implementatiebehoeften; een draftmodel voor speculative decoding is een afzonderlijk begeleidend bestand. Cijfers over middelen of snelheid uit één configuratie beschrijven niet automatisch ieder modelformaat en werkvenster.

Liquid beveelt LFM2.5-2.6B uitdrukkelijk niet aan voor agentgestuurd programmeren of kennisintensieve taken. Richt het op concrete processen met aangeleverd bewijs, extractieregels en hulpmiddelwaarnemingen. Het vooraf getrainde Base-checkpoint is eveneens een afzonderlijk bestand voor aanpassingen, terwijl deze verder getrainde editie het agentmodel is. Inspecteer voor het eindresultaat geëxtraheerde waarden aan de hand van hun bron, controleer of een aangehaalde passage het antwoord ondersteunt en onderscheid een gevraagde hulpmiddelaanroep van een bewerking met een vastgelegd resultaat. Behoud onopgeloste informatie waar die de conclusie beïnvloedt, in plaats van ze door vlotte tekst te laten verhullen.