LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B er den eftertrænede tekstmodel i Liquids kompakte LFM2.5-familie, udviklet til agenter på lokale enheder og praktiske arbejdsgange. Dens præcise modelkort angiver 2,69 mia. parametre og 30 lag: 22 korte konvolutionsblokke med dobbelt gating og otte grouped-query attention-blokke. Det hybride design sigter mod effektiv tekstbehandling. Modellen modtager tekst og returnerer tekst, herunder et begrundet svar eller en anmodning om at bruge en defineret funktion.

Producenten anbefaler den til agentopgaver, værktøjsbrug, dataudtræk, generering understøttet af informationshentning og arbejdsgange med lang kontekst. Udgivelsens træningspipeline kombinerer superviseret finjustering, specialiserede lærermodeller, on-policy-distillation på tværs af domæner og forstærkningslæring i agentmiljøer. Det er med til at forklare dens fokus på at følge opgaveinstruktioner, bruge værktøjsobservationer og komme videre gennem flere trin. Giv den de faktiske materialer og et præcist mål frem for at stole på, at bred tillært viden udfylder huller.

Ved udtræk skal du definere felterne og kildereglerne, før du leverer materialet. En praktisk anmodning er: »Læs disse serviceopdateringer, udtræk hver posts identifikator, angivne status og næste krævede handling, og bevar den sætning, der understøtter hvert felt. Returner null, når et felt mangler.« Angiv, om en værdi skal kopieres præcist, normaliseres eller udledes. Det gør outputtet muligt at undersøge og forhindrer, at en plausibel fortolkning ubemærket erstatter oplysninger, der faktisk står i kilden.

Ved RAG skal du levere relevante passager med stabile betegnelser og bede om et svar, der er forankret i disse passager. Et eksempel er: »Brug kun disse installationsinstruktioner til at forklare, hvilke trin der gælder for det angivne miljø, og oplist de forudsætninger, der stadig er ukendte.« Bevar dokumentversioner og betingelser sammen med teksten. Bed modellen identificere en manglende eller modstridende oplysning frem for at opfinde en komplet fremgangsmåde. Det passer bedre til producentens anbefaling om kildeforankrede opgaver end at bede den kompakte model fungere som et udtømmende lager af specialistviden.

LFM2.5-2.6B er en ren ræsonneringsmodel: dens chatskabelon indleder assistentens svar med en tænkemarkør, og den ræsonnerer før det endelige svar. Producentens modelkort anbefaler temperature 0.1, top-k 50 og gentagelsesstraf 1.1 til generering. Det er indstillinger for den navngivne models opskrift. Hold det endelige resultat adskilt fra ræsonneringsteksten, og efterlad plads til begge i en arbejdsanmodning. Indstillinger eller tilstande med direkte svar fra andre LFM-instruktionsudgaver bør ikke antages at gælde for denne model.

Modellen bruger et ChatML-lignende samtaleformat med rollerne system, user, assistant og tool. Dens dokumenterede funktionsarbejdsgang har fire trin: definer værktøjerne, lad modellen anmode om en funktion, udfør funktionen i den omgivende applikation, og returner det faktiske resultat, så modellen kan svare. Indbyggede kald er lister i Python-stil omgivet af værktøjskaldsmarkører; producenten beskriver også, hvordan systeminstruktionen kan anmode om kald i JSON-format. Brug den passende parser, kontroller funktionsnavn og argumenter mod de angivne definitioner, og bevar resultatet sammen med det kald, der producerede det.

Til en kompakt agentarbejdsgang skal du kun stille de funktioner til rådighed, der er relevante for den aktuelle opgave, med korte beskrivelser og udtrykkelige argumenttyper. Værktøjsdefinitionerne optager selv kontekst. En nyttig sekvens kan slå status op for en angivet post, sammenligne den returnerede status med en regel og forklare, om opfølgning er nødvendig. Lever postidentifikatoren som dokumentation, og bed om et endeligt svar knyttet til den returnerede observation. Modellen foreslår og fortolker handlingen; applikationen leverer dens faktiske udførelse og resultat.

Producentens aktuelle modelkort angiver en modelkontekst på 131.072 tokens, og udgivelsen beskriver et særskilt trin til kontekstudvidelse. Arbejd inden for vinduet for den konfiguration, der bruges, og bevar kildeafgrænsninger, relevant historik og plads til fortsættelsen. Ved flere dokumenter skal du bede om en bestemt sammenligning eller afhængighed, der skal spores. Det oprindelige checkpoint samt GGUF-, ONNX- og MLX-artefakterne dækker forskellige driftsbehov, og en kladdemodel til spekulativ afkodning er et separat ledsagende artefakt. Tal for ressourcer eller hastighed fra én konfiguration beskriver ikke automatisk alle modelformater og arbejdsvinduer.

Liquid anbefaler udtrykkeligt ikke LFM2.5-2.6B til agentbaseret programmering eller videnstunge opgaver. Hold den fokuseret på konkrete arbejdsgange med leveret dokumentation, udtræksregler og værktøjsobservationer. Det fortrænede Base-checkpoint er også et separat artefakt beregnet til tilpasning, mens denne eftertrænede udgave er agentmodellen. Ved slutresultatet skal du kontrollere udtrukne værdier mod deres kilde, kontrollere, at en citeret passage understøtter svaret, og skelne mellem et anmodet værktøjskald og en handling med et registreret udfald. Bevar uafklarede oplysninger, når de påvirker konklusionen, frem for at lade flydende tekst skjule dem.