LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B er den ettertrente tekstmodellen i Liquids kompakte LFM2.5-familie, utviklet for agenter på enheten og praktiske arbeidsflyter. Modellkortet for akkurat denne modellen oppgir 2,69 milliarder parametere og 30 lag: 22 kortkonvolusjonsblokker med doble porter og åtte grouped-query attention-blokker. Den hybride utformingen sikter mot effektiv tekstbehandling. Modellen tar imot tekst og returnerer tekst, inkludert et begrunnet svar eller en forespørsel om å bruke en definert funksjon.

Produsenten anbefaler den til agentoppgaver, verktøybruk, datauttrekking, generering støttet av innhenting og arbeidsflyter med lang kontekst. Utgivelsens treningsløp kombinerer veiledet finjustering, spesialiserte lærermodeller, on-policy-destillering på flere domener og forsterkningslæring i agentmiljøer. Dette forklarer vekten på å følge oppgaveinstruksjoner, bruke verktøyobservasjoner og gå gjennom flere trinn. Gi modellen det faktiske materialet og et presist mål fremfor å stole på at bred innlært kunnskap fyller hullene.

Ved uttrekking definerer du feltene og kildereglene før du legger ved materialet. En praktisk forespørsel er: «Les disse serviceoppdateringene, hent ut hver posts identifikator, oppgitte status og neste nødvendige handling, og behold setningen som underbygger hvert felt. Returner null når et felt mangler.» Angi om en verdi skal kopieres nøyaktig, normaliseres eller utledes. Dette gjør utdataene etterprøvbare og hindrer at en plausibel tolkning ubemerket erstatter informasjon som faktisk finnes i kilden.

For RAG legger du ved relevante utdrag med stabile merker og ber om et svar forankret i dem. Et eksempel er: «Bruk bare disse installasjonsinstruksjonene til å forklare hvilke trinn som gjelder for det angitte miljøet, og list opp forutsetningene som fortsatt er ukjente.» Behold dokumentversjoner og betingelser sammen med teksten. Be modellen identifisere et manglende eller motstridende faktum fremfor å finne på en fullstendig prosedyre. Dette passer bedre til produsentens anbefaling om kildeforankrede oppgaver enn å be den kompakte modellen fungere som et uttømmende lager av spesialistkunnskap.

LFM2.5-2.6B er en ren resonneringsmodell: samtalemalen begynner assistentsvaret med en resonneringsmarkør, og modellen resonnerer før sluttsvaret. Produsentens modellkort anbefaler temperature 0.1, top-k 50 og repetisjonsstraff 1.1 ved generering. Dette er innstillinger i oppskriften for den navngitte modellen. Hold sluttleveransen atskilt fra resonneringsteksten, og sett av plass til begge i en arbeidsforespørsel. Innstillinger eller direktesvarmoduser fra andre LFM-instruksjonsutgaver skal ikke forutsettes for denne modellen.

Modellen bruker et ChatML-lignende samtaleformat med system-, bruker-, assistent- og verktøyroller. Den dokumenterte funksjonsflyten har fire stadier: definer verktøyene, la modellen be om en funksjon, utfør funksjonen i applikasjonen rundt modellen og returner det faktiske resultatet slik at modellen kan svare. Innebygde kall er Python-lignende lister omsluttet av verktøykallmarkører; produsenten beskriver også hvordan systeminstruksjonen kan be om JSON-format for kall. Bruk riktig parser, kontroller funksjonsnavn og argumenter mot de oppgitte definisjonene, og behold resultatet sammen med kallet som produserte det.

Ved en kompakt agentflyt eksponerer du bare funksjonene som er relevante for den aktuelle oppgaven, med korte beskrivelser og uttrykkelige argumenttyper. Verktøydefinisjonene tar selv plass i konteksten. En nyttig sekvens kan slå opp statusen til en oppgitt post, sammenligne den returnerte statusen med en regel og forklare om oppfølging trengs. Oppgi postidentifikatoren som belegg og be om et sluttsvar knyttet til den returnerte observasjonen. Modellen foreslår og tolker operasjonen; applikasjonen leverer den faktiske utførelsen og resultatet.

Produsentens gjeldende modellkort angir en modellkontekst på 131 072 tokener, og utgivelsen beskriver et eget trinn for kontekstutvidelse. Arbeid innenfor vinduet til konfigurasjonen som brukes, og bevar kildegrenser, relevant historikk og plass til fortsettelsen. Ved flere dokumenter ber du om en bestemt sammenligning eller avhengighet som skal spores. Det opprinnelige modellkontrollpunktet og GGUF-, ONNX- og MLX-variantene dekker ulike driftsbehov, og en utkastmodell for spekulativ dekoding er et separat tilleggsprodukt. Ressurs- eller hastighetstall fra én konfigurasjon beskriver ikke automatisk alle modellformater og arbeidsvinduer.

Liquid fraråder uttrykkelig LFM2.5-2.6B til agentbasert koding og kunnskapstunge oppgaver. Hold modellen rettet mot konkrete arbeidsflyter med oppgitte belegg, uttrekkingsregler og verktøyobservasjoner. Det forhåndstrente Base-kontrollpunktet er også et separat produkt beregnet på tilpasning, mens denne ettertrente utgaven er agentmodellen. Ved sluttresultatet kontrollerer du verdier som er hentet ut, mot kilden, undersøker om et sitert utdrag underbygger svaret, og skiller et forespurt verktøykall fra en operasjon med registrert resultat. Bevar uavklart informasjon når den påvirker konklusjonen, fremfor å la flytende tekst skjule den.