LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B – tai papildomai išmokytas tekstinis modelis kompaktiškoje Liquid LFM2.5 šeimoje, skirtas įrenginyje veikiantiems agentams ir praktinėms darbo eigoms. Tikslioje jo modelio kortelėje nurodyta 2,69 mlrd. parametrų ir 30 sluoksnių: 22 trumpųjų sąsūkų blokai su dvigubu vartų mechanizmu (double-gated) ir aštuoni grouped-query attention blokai. Hibridine konstrukcija siekiama efektyvaus teksto apdorojimo. Modelis priima tekstą ir grąžina tekstą, įskaitant pagrįstą atsakymą ar prašymą naudoti apibrėžtą funkciją.

Gamintojas jį rekomenduoja agentinėms užduotims, įrankių naudojimui, duomenų išgavimui, informacijos gavimu papildytam generavimui ir ilgo konteksto darbo eigoms. Leidimo mokymo grandinė jungia prižiūrimą papildomą mokymą, specializuotus mokytojus, kelių sričių distiliavimą pagal dabartinę politiką ir mokymą su pastiprinimu agentų aplinkose. Tai paaiškina dėmesį užduoties instrukcijų vykdymui, įrankių pastebėjimų naudojimui ir kelių žingsnių eigai. Pateikite tikrą medžiagą ir tikslų tikslą, užuot spragas pildę plačiomis išmoktomis žiniomis.

Išgavimui prieš pateikdami medžiagą apibrėžkite laukus ir šaltinio taisykles. Praktinė užklausa: „Perskaityk šiuos paslaugos atnaujinimus, išgauk kiekvieno įrašo identifikatorių, nurodytą būseną ir kitą reikalingą veiksmą bei išsaugok kiekvieną lauką pagrindžiantį sakinį. Kai lauko nėra, grąžink null.“ Nurodykite, ar reikšmę reikia tiksliai nukopijuoti, normalizuoti ar išvesti. Taip išvestį galima patikrinti ir tikėtina interpretacija tyliai nepakeičia šaltinyje iš tikrųjų esančios informacijos.

RAG atveju pateikite susijusias ištraukas su stabiliomis žymomis ir paprašykite jomis pagrįsto atsakymo. Pavyzdys: „Remdamasis tik šiomis diegimo instrukcijomis, paaiškink, kurie žingsniai taikomi nurodytai aplinkai, ir išvardyk vis dar nežinomas būtinas sąlygas.“ Su tekstu išsaugokite dokumentų versijas ir sąlygas. Paprašykite modelio nustatyti trūkstamą ar prieštaringą faktą, užuot išgalvojus visą procedūrą. Tai geriau atitinka gamintojo rekomendaciją dėl šaltiniais pagrįstų užduočių nei prašymas kompaktiškam modeliui būti išsamia specializuotų žinių saugykla.

LFM2.5-2.6B yra grynasis samprotavimo modelis: jo pokalbio šablonas asistento atsakymą pradeda mąstymo žyma, o prieš galutinį atsakymą jis samprotauja. Gamintojo kortelė generavimui rekomenduoja temperature 0.1, top-k 50 ir repetition penalty 1.1. Tai įvardyto modelio parengimo būdo nustatymai. Galutinį rezultatą atskirkite nuo samprotavimo teksto ir darbinėje užklausoje palikite vietos abiem. Nereikėtų šiam modeliui priskirti kitų LFM instrukcijų leidimų valdiklių ar tiesioginio atsakymo režimų.

Modelis naudoja į ChatML panašų pokalbio formatą su sistemos, naudotojo, asistento ir įrankio vaidmenimis. Dokumentuota funkcijų darbo eiga turi keturis etapus: apibrėžti įrankius, leisti modeliui paprašyti funkcijos, įvykdyti ją išorinėje programoje ir grąžinti tikrą rezultatą, kad modelis galėtų atsakyti. Natyvūs iškvietimai yra Python stiliaus sąrašai tarp įrankių iškvietimo žymų; gamintojas taip pat aprašo JSON iškvietimų formato prašymą sistemos instrukcija. Naudokite tinkamą analizatorių, funkcijos pavadinimą ir argumentus tikrinkite pagal pateiktas apibrėžtis bei išsaugokite rezultatą kartu su jį sukūrusiu iškvietimu.

Kompaktiško agento darbo eigai atverkite tik dabartinei užduočiai svarbias funkcijas su glaustais aprašais ir aiškiais argumentų tipais. Pačios įrankių apibrėžtys užima kontekstą. Naudinga seka galėtų gauti pateikto įrašo būseną, palyginti ją su taisykle ir paaiškinti, ar reikia tolesnių veiksmų. Įrašo identifikatorių pateikite kaip įrodymą ir paprašykite galutinio atsakymo, susieto su grąžintu pastebėjimu. Modelis siūlo ir interpretuoja operaciją; programa užtikrina tikrą jos vykdymą ir rezultatą.

Dabartinėje gamintojo kortelėje nurodytas 131 072 žetonų modelio kontekstas, o leidime aprašytas atskiras konteksto išplėtimo etapas. Dirbkite naudojamos konfigūracijos lange, išsaugodami šaltinių ribas, svarbią istoriją ir vietos tęsiniui. Keliems dokumentams paprašykite atsekti konkretų palyginimą ar priklausomybę. Natyvus kontrolinis taškas, GGUF, ONNX ir MLX failai skirti skirtingiems diegimo poreikiams, o spekuliatyvaus dekodavimo juodraštinis modelis yra atskiras pagalbinis artefaktas. Vienos konfigūracijos išteklių ar greičio skaičiai automatiškai neaprašo kiekvieno modelio formato ir darbinio lango.

Liquid aiškiai nerekomenduoja LFM2.5-2.6B agentiniam programavimui ar daug žinių reikalaujančioms užduotims. Sutelkite jį į konkrečias darbo eigas su pateiktais įrodymais, išgavimo taisyklėmis ir įrankių pastebėjimais. Iš anksto išmokytas Base kontrolinis taškas taip pat yra atskiras pritaikymui skirtas artefaktas, o šis papildomai išmokytas leidimas – agento modelis. Galutiniame rezultate išgautas reikšmes patikrinkite pagal jų šaltinį, įsitikinkite, kad cituojama ištrauka pagrindžia atsakymą, ir atskirkite prašomą įrankio iškvietimą nuo operacijos su užfiksuotu rezultatu. Išsaugokite neišspręstą informaciją, kai ji veikia išvadą, užuot leidę sklandžiam tekstui ją užgožti.