LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B je dotrénovaný textový model z kompaktnej rodiny Liquid LFM2.5, navrhnutý pre agentov bežiacich priamo na zariadení a praktické postupy. Presná karta modelu uvádza 2,69 miliardy parametrov a 30 vrstiev: 22 blokov krátkej konvolúcie s dvojitým hradlovaním a osem blokov pozornosti so zoskupenými dopytmi. Hybridný návrh sa zameriava na efektívne spracovanie textu. Model prijíma text a vracia text vrátane odôvodnenej odpovede alebo požiadavky na použitie definovanej funkcie.

Výrobca ho odporúča na agentové úlohy, používanie nástrojov, extrakciu údajov, generovanie rozšírené vyhľadávaním a postupy s dlhým kontextom. Tréningový proces vydania spája supervidované jemné doladenie, špecializovaných učiteľov, viacdoménovú destiláciu on-policy a učenie posilňovaním v agentových prostrediach. To pomáha vysvetliť jeho zameranie na nasledovanie pokynov úlohy, používanie pozorovaní nástrojov a postup cez viacero krokov. Dodajte mu skutočné materiály a presný cieľ, namiesto spoliehania sa na široké naučené znalosti pri vypĺňaní medzier.

Pri extrakcii pred dodaním materiálu definujte polia a pravidlá práce so zdrojom. Praktická požiadavka znie: „Prečítaj tieto aktualizácie služby, extrahuj identifikátor každého záznamu, uvedený stav a ďalší požadovaný krok a zachovaj vetu podporujúcu každé pole. Keď pole chýba, vráť null.“ Určte, či sa hodnota má presne skopírovať, normalizovať alebo odvodiť. Výstup sa tak dá kontrolovať a vierohodná interpretácia nemôže potichu nahradiť informácie skutočne prítomné v zdroji.

Pri RAG dodajte relevantné pasáže so stabilnými označeniami a žiadajte odpoveď založenú na týchto pasážach. Príklad: „Iba podľa týchto inštalačných pokynov vysvetli, ktoré kroky platia pre uvedené prostredie, a vypíš predpoklady, ktoré zostávajú neznáme.“ Verzie dokumentov a podmienky uchovávajte spolu s textom. Žiadajte model identifikovať chýbajúci alebo konfliktný fakt, namiesto vymýšľania úplného postupu. To lepšie zodpovedá odporúčaniu výrobcu pre úlohy podložené zdrojmi než požiadavka, aby kompaktný model slúžil ako úplné úložisko odborných znalostí.

LFM2.5-2.6B je čisto uvažujúci model: jeho konverzačná šablóna začína odpoveď asistenta značkou premýšľania a pred konečnou odpoveďou model uvažuje. Karta modelu výrobcu odporúča pri generovaní temperature 0.1, top-k 50 a penalizáciu opakovania 1.1. Ide o nastavenia receptu pomenovaného modelu. Konečný výstup odlišujte od textu uvažovania a v pracovnej požiadavke nechajte priestor pre oba. Pri tomto modeli nepredpokladajte ovládacie prvky ani režimy priamej odpovede patriace iným inštrukčným edíciám LFM.

Model používa formát konverzácie podobný ChatML s rolami system, user, assistant a tool. Jeho zdokumentovaný postup funkcií má štyri etapy: definovať nástroje, nechať model vyžiadať funkciu, vykonať ju v okolitej aplikácii a vrátiť skutočný výsledok, aby model mohol odpovedať. Natívne volania sú zoznamy v štýle Pythonu ohraničené značkami volania nástroja; výrobca opisuje aj vyžiadanie formátu volania JSON systémovým pokynom. Použite príslušný parser, skontrolujte názov funkcie a argumenty podľa dodaných definícií a výsledok uchovajte s volaním, ktoré ho vytvorilo.

Pri kompaktnom agentovom postupe sprístupnite iba funkcie relevantné pre aktuálnu úlohu, so stručnými opismi a výslovnými typmi argumentov. Samotné definície nástrojov zaberajú kontext. Užitočná postupnosť môže vyhľadať stav dodaného záznamu, porovnať vrátený stav s pravidlom a vysvetliť, či je potrebný ďalší krok. Identifikátor záznamu dodajte ako dôkaz a žiadajte konečnú odpoveď viazanú na vrátené pozorovanie. Model operáciu navrhuje a interpretuje; aplikácia zabezpečuje jej skutočné vykonanie a výsledok.

Aktuálna karta výrobcu určuje kontext modelu 131 072 tokenov a vydanie opisuje vyhradenú etapu rozšírenia kontextu. Pracujte v rámci okna používanej konfigurácie pri zachovaní hraníc zdrojov, relevantnej histórie a priestoru na pokračovanie. Pri viacerých dokumentoch žiadajte vysledovanie konkrétneho porovnania alebo závislosti. Natívny checkpoint a súbory GGUF, ONNX a MLX slúžia odlišným potrebám nasadenia a návrhový model na špekulatívne dekódovanie je samostatným sprievodným artefaktom. Údaje o zdrojoch či rýchlosti jednej konfigurácie automaticky neopisujú každý formát modelu a pracovné okno.

Liquid výslovne neodporúča LFM2.5-2.6B na agentové programovanie ani úlohy náročné na znalosti. Zamerajte ho na konkrétne postupy s dodanými dôkazmi, pravidlami extrakcie a pozorovaniami nástrojov. Predtrénovaný checkpoint Base je tiež samostatný artefakt určený na prispôsobovanie, zatiaľ čo táto dotrénovaná edícia je agentový model. Pri konečnom výsledku kontrolujte extrahované hodnoty podľa zdroja, overte, že citovaná pasáž podporuje odpoveď, a odlišujte vyžiadané volanie nástroja od operácie so zaznamenaným výsledkom. Nevyriešené informácie zachovajte tam, kde ovplyvňujú záver, namiesto toho, aby ich zakryl plynulý text.