LiquidAI: LFM2.5-2.6B (free)

A Liquid AI LFM2.5-2.6B a Liquid tömör LFM2.5 családjának utótanított szövegmodellje, eszközön futó ügynökökhöz és gyakorlati munkafolyamatokhoz tervezve. Pontos modellkártyája 2,69 milliárd paramétert és 30 réteget sorol fel: 22 kettős kapuzású rövid konvolúciós blokkot és nyolc csoportosított lekérdezési figyelmi blokkot. A hibrid kialakítás hatékony szövegfeldolgozást céloz. A modell szöveget fogad és szöveget ad vissza, például indokolt választ vagy meghatározott függvény használatára vonatkozó kérést.

A gyártó ügynöki feladatokhoz, eszközhasználathoz, adatkinyeréshez, visszakereséssel kiegészített generáláshoz és hosszú kontextusú munkafolyamatokhoz ajánlja. A kiadás tanítási folyamata felügyelt finomhangolást, szakosodott tanítómodelleket, többterületes on-policy desztillációt és ügynöki környezetekben végzett megerősítéses tanulást egyesít. Ez magyarázza a feladatutasítások követésére, eszközmegfigyelések használatára és több lépésen át tartó előrehaladásra helyezett hangsúlyt. Tényleges anyagokat és pontos célt adj neki ahelyett, hogy a hiányok kitöltését széles körű tanult tudásra bíznád.

Adatkinyerésnél az anyag megadása előtt határozd meg a mezőket és a forrásszabályokat. Gyakorlati kérés: „Olvasd el ezeket a szolgáltatási frissítéseket, nyerd ki minden rekord azonosítóját, közölt állapotát és következő szükséges műveletét, és őrizd meg az egyes mezőket alátámasztó mondatot. Hiányzó mezőnél null értéket adj vissza.” Határozd meg, hogy az értéket pontosan másolni, normalizálni vagy kikövetkeztetni kell-e. Ez vizsgálhatóvá teszi a kimenetet, és megakadályozza, hogy egy hihető értelmezés észrevétlenül felváltsa a forrásban ténylegesen szereplő információt.

RAG-hoz adj releváns részleteket állandó címkékkel, és kérj ezekre alapozott választ. Példa: „Kizárólag e telepítési utasítások alapján magyarázd el, mely lépések vonatkoznak a megadott környezetre, és sorold fel a továbbra is ismeretlen előfeltételeket.” A dokumentumverziókat és feltételeket tartsd a szöveg mellett. Kérd a modelltől a hiányzó vagy ellentmondó tény azonosítását, ne teljes eljárás kitalálását. Ez jobban illik a gyártó forrásokra támaszkodó feladatokra vonatkozó ajánlásához, mint a tömör modellt teljes körű szaktudástárként használni.

Az LFM2.5-2.6B tisztán következtető modell: csevegési sablonja gondolkodási jelölővel indítja az asszisztens válaszát, és a végső válasz előtt következtet. A gyártó modellkártyája temperature 0.1, top-k 50 és repetition penalty 1.1 generálási beállítást ajánl. Ezek a megnevezett modell receptjének beállításai. A végső eredményt tartsd külön a következtetési szövegtől, és a munkakérésben mindkettőnek hagyj helyet. Más LFM utasításkiadások vezérlőit vagy közvetlenválasz-módjait nem szabad ennél a modellnél feltételezni.

A modell ChatML-szerű beszélgetési formátumot használ system, user, assistant és tool szerepkörökkel. Dokumentált függvényfolyamata négy szakaszból áll: eszközök meghatározása, függvény kérése a modell által, a függvény végrehajtása a környező alkalmazásban, majd a tényleges eredmény visszaadása a modell válaszához. A natív hívások eszközhívási jelölők közé zárt, Python-szerű listák; a gyártó JSON-hívásformátum rendszerutasításon keresztüli kérését is leírja. Használd a megfelelő elemzőt, ellenőrizd a függvénynevet és argumentumokat a megadott definíciókhoz mérten, és őrizd meg az eredményt az azt létrehozó hívással együtt.

Tömör ügynöki munkafolyamatnál csak az aktuális feladathoz kapcsolódó függvényeket tedd elérhetővé rövid leírásokkal és kifejezett argumentumtípusokkal. Maguk az eszközdefiníciók is kontextust foglalnak. Hasznos sorozat lehet egy megadott rekord állapotának lekérdezése, a visszaadott állapot összevetése egy szabállyal, majd annak magyarázata, szükséges-e további lépés. A rekordazonosítót bizonyítékként add meg, és a visszaadott megfigyeléshez kapcsolt végső választ kérj. A modell javasolja és értelmezi a műveletet; tényleges végrehajtását és eredményét az alkalmazás biztosítja.

A jelenlegi gyártói modellkártya 131 072 tokenes modellkontextust határoz meg, a kiadás pedig külön kontextusbővítési szakaszt ír le. A használt konfiguráció ablakán belül dolgozz, megőrizve a forráshatárokat, a releváns előzményeket és a folytatáshoz szükséges helyet. Több dokumentumnál konkrét összehasonlítást vagy függőségkövetést kérj. A natív checkpoint, GGUF-, ONNX- és MLX-állományok eltérő telepítési igényeket szolgálnak, a spekulatív dekódolás vázlatmodellje pedig külön kísérőállomány. Egy konfiguráció erőforrás- vagy sebességadatai nem írnak le automatikusan minden modellformátumot és munkaablakot.

A Liquid kifejezetten nem ajánlja az LFM2.5-2.6B-t ügynöki programozáshoz vagy nagy tudásigényű feladatokhoz. Konkrét munkafolyamatokra összpontosíts, megadott bizonyítékokkal, adatkinyerési szabályokkal és eszközmegfigyelésekkel. Az előtanított Base checkpoint szintén külön, testreszabásra szánt állomány, ez az utótanított kiadás pedig az ügynökmodell. A végső eredménynél a kinyert értékeket a forrásuk alapján vizsgáld, ellenőrizd, hogy az idézett részlet alátámasztja-e a választ, és különböztesd meg a kért eszközhívást a rögzített eredménnyel rendelkező művelettől. A következtetést befolyásoló tisztázatlan információt őrizd meg, ne hagyd, hogy a gördülékeny szöveg elfedje.