LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B je naknadno učeni besedilni model iz kompaktne družine LFM2.5 podjetja Liquid, zasnovan za agente na napravi in praktične poteke. Njegova konkretna kartica modela navaja 2,69 milijarde parametrov in 30 plasti: 22 kratkih konvolucijskih blokov z dvojnimi vrati in osem blokov pozornosti z združenimi poizvedbami. Hibridna zasnova je usmerjena v učinkovito obdelavo besedila. Model sprejme besedilo in vrne besedilo, vključno s premišljenim odgovorom ali zahtevo za uporabo določene funkcije.

Proizvajalec ga priporoča za agentske obremenitve, uporabo orodij, izluščanje podatkov, generiranje s pridobivanjem virov in poteke z dolgim kontekstom. Učni cevovod izdaje združuje nadzorovano dodatno učenje, specializirane učiteljske modele, večdomensko destilacijo na podlagi lastne politike in spodbujevalno učenje znotraj agentskih okolij. To pomaga pojasniti osredotočenost na sledenje navodilom naloge, uporabo opažanj orodij in napredovanje skozi več korakov. Podajte mu dejansko gradivo in natančen cilj, namesto da se pri zapolnjevanju vrzeli zanašate na široko naučeno znanje.

Pri izluščanju pred predložitvijo gradiva določite polja in pravila za vire. Praktična zahteva je: »Preberi te posodobitve storitve, izlušči identifikator vsakega zapisa, navedeno stanje in naslednje potrebno dejanje ter ohrani poved, ki podpira vsako polje. Kadar polje manjka, vrni null.« Določite, ali naj se vrednost natančno prekopira, normalizira ali sklepa. Tako je izhod preverljiv in prepreči, da bi verjetna interpretacija tiho nadomestila podatke, dejansko prisotne v viru.

Za RAG predložite ustrezne odlomke s stalnimi oznakami in zahtevajte odgovor, utemeljen v teh odlomkih. Primer: »Samo na podlagi teh navodil za namestitev razloži, kateri koraki veljajo za navedeno okolje, in naštej predpogoje, ki ostajajo neznani.« Različice dokumentov in pogoje hranite ob besedilu. Od modela zahtevajte prepoznavanje manjkajočega ali protislovnega dejstva, namesto da izmisli celoten postopek. To bolje ustreza proizvajalčevemu priporočilu za naloge, utemeljene z viri, kot zahteva, naj kompaktni model deluje kot izčrpna shramba strokovnega znanja.

LFM2.5-2.6B je model, namenjen izključno sklepanju: njegova pogovorna predloga začne odgovor pomočnika z oznako razmišljanja in pred končnim odgovorom sklepa. Proizvajalčeva kartica modela za generiranje priporoča temperature 0.1, top-k 50 in kazen za ponavljanje 1.1. To so nastavitve postopka za poimenovani model. Končni izdelek ločite od besedila sklepanja in v delovni zahtevi pustite prostor za oba. Za ta model ne predpostavljajte nastavitev ali načinov neposrednega odgovarjanja, ki pripadajo drugim izdajam LFM za sledenje navodilom.

Model uporablja pogovorni format, podoben ChatML, z vlogami system, user, assistant in tool. Njegov dokumentirani funkcijski potek ima štiri faze: opredelite orodja, pustite modelu zahtevati funkcijo, izvedite funkcijo v okoliški aplikaciji in vrnite dejanski rezultat, da model lahko odgovori. Nativni klici so seznami v slogu Python, obdani z oznakami klica orodja; proizvajalec opisuje tudi zahtevo za format klica JSON prek sistemskega navodila. Uporabite ustrezen razčlenjevalnik, ime funkcije in argumente preverite glede na predložene definicije ter rezultat ohranite s klicem, ki ga je ustvaril.

Pri kompaktnem agentskem poteku razkrijte le funkcije, pomembne za trenutno nalogo, z jedrnatimi opisi in izrecnimi tipi argumentov. Tudi definicije orodij zasedajo kontekst. Uporabno zaporedje lahko poišče stanje predloženega zapisa, primerja vrnjeno stanje s pravilom in razloži, ali je potrebno nadaljnje ukrepanje. Identifikator zapisa predložite kot dokaz in zahtevajte končni odgovor, povezan z vrnjenim opažanjem. Model operacijo predlaga in razlaga; aplikacija zagotovi njeno dejansko izvedbo in rezultat.

Trenutna proizvajalčeva kartica modela določa kontekst modela 131.072 žetonov, objava pa opisuje namensko fazo razširitve konteksta. Delajte znotraj okna uporabljene konfiguracije ter ohranite meje virov, pomembno zgodovino in prostor za nadaljevanje. Pri več dokumentih zahtevajte določeno primerjavo ali sledenje odvisnosti. Nativna kontrolna točka ter izdelki GGUF, ONNX in MLX služijo različnim potrebam namestitve, osnutkovni model za špekulativno dekodiranje pa je ločen spremljevalni izdelek. Podatki o virih ali hitrosti ene konfiguracije ne opisujejo samodejno vsakega formata modela in delovnega okna.

Liquid izrecno ne priporoča LFM2.5-2.6B za agentsko programiranje ali naloge z velikimi zahtevami po znanju. Osredotočite ga na konkretne poteke s predloženimi dokazi, pravili izluščanja in opažanji orodij. Tudi predhodno učena kontrolna točka Base je ločen izdelek, namenjen prilagajanju, ta naknadno učena izdaja pa je agentski model. Pri končnem rezultatu preverite izluščene vrednosti glede na njihov vir, preverite, ali navedeni odlomek podpira odgovor, in ločite zahtevani klic orodja od operacije z zabeleženim izidom. Nerazrešene podatke ohranite tam, kjer vplivajo na sklep, namesto da jih tekoče besedilo zakrije.