LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B je dodatečně trénovaný textový model kompaktní rodiny LFM2.5 od Liquid určený pro agenty běžící na zařízení a praktické postupy. Jeho konkrétní modelová karta uvádí 2,69 miliardy parametrů a 30 vrstev: 22 krátkých konvolučních bloků s dvojitým hradlováním a osm bloků pozornosti se seskupenými dotazy. Hybridní návrh se zaměřuje na efektivní zpracování textu. Model přijímá text a vrací text včetně odůvodněné odpovědi nebo požadavku na použití definované funkce.

Výrobce jej doporučuje pro agentní úlohy, používání nástrojů, extrakci dat, generování rozšířené získáváním informací a práci s dlouhým kontextem. Trénovací postup vydání spojuje řízené jemné doladění, specializované učitelské modely, destilaci z více oblastí na datech vlastní politiky a učení posilováním v prostředích agentů. To pomáhá vysvětlit zaměření na následování instrukcí úlohy, používání pozorování z nástrojů a postup v několika krocích. Dodejte skutečné materiály a přesný cíl, místo spoléhání na doplnění mezer širokými naučenými znalostmi.

Před dodáním materiálů k extrakci definujte pole a zdrojová pravidla. Praktický požadavek: „Přečti tyto aktualizace služeb, extrahuj identifikátor každého záznamu, uvedený stav a další požadovanou akci a zachovej větu podporující každé pole. Pokud pole chybí, vrať null.“ Určete, zda se má hodnota přesně kopírovat, normalizovat nebo odvozovat. Výstup je pak kontrolovatelný a věrohodná interpretace nemůže tiše nahradit informace skutečně přítomné ve zdroji.

Pro RAG dodejte relevantní pasáže se stabilními označeními a požádejte o odpověď podloženou těmito pasážemi. Příklad: „Pouze s použitím těchto instalačních pokynů vysvětli, které kroky platí pro uvedené prostředí, a vypiš předpoklady, které zůstávají neznámé.“ S textem zachovejte verze dokumentů a podmínky. Požádejte model, aby označil chybějící či konfliktní fakt, místo vymýšlení úplného postupu. To lépe odpovídá doporučení výrobce pro úlohy podložené zdroji než požadavek, aby kompaktní model fungoval jako vyčerpávající zásobárna odborných znalostí.

LFM2.5-2.6B je čistý model pro uvažování: jeho chatová šablona začíná odpověď asistenta značkou přemýšlení a model před konečnou odpovědí uvažuje. Modelová karta výrobce doporučuje pro generování temperature 0.1, top-k 50 a penalizaci opakování 1.1. Jde o nastavení postupu tohoto pojmenovaného modelu. Konečný výstup oddělujte od textu uvažování a v pracovním požadavku ponechte prostor pro obojí. Ovládací prvky či režimy přímé odpovědi jiných instrukčních edic LFM nelze u tohoto modelu předpokládat.

Model používá konverzační formát podobný ChatML s rolemi systému, uživatele, asistenta a nástroje. Zdokumentovaný postup funkcí má čtyři fáze: definovat nástroje, nechat model požádat o funkci, provést ji v okolní aplikaci a vrátit skutečný výsledek, aby model mohl odpovědět. Nativní volání jsou seznamy v syntaxi Pythonu uzavřené značkami volání nástroje; výrobce také popisuje vyžádání formátu volání JSON pomocí systémového pokynu. Použijte vhodný parser, název funkce a argumenty ověřte vůči dodaným definicím a výsledek zachovejte u volání, které jej vytvořilo.

V kompaktním postupu agenta zpřístupněte pouze funkce relevantní pro aktuální úlohu, se stručnými popisy a výslovnými typy argumentů. Samotné definice nástrojů zabírají kontext. Užitečná posloupnost může vyhledat stav dodaného záznamu, porovnat vrácený stav s pravidlem a vysvětlit, zda je potřeba další krok. Identifikátor záznamu dodejte jako důkaz a požadujte konečnou odpověď navázanou na vrácené pozorování. Model operaci navrhuje a interpretuje; aplikace zajišťuje skutečné provedení a výsledek.

Aktuální karta výrobce specifikuje kontext modelu 131 072 tokenů a vydání popisuje vyhrazenou fázi rozšíření kontextu. Pracujte v okně používané konfigurace a zachovejte hranice zdrojů, relevantní historii a prostor pro pokračování. U několika dokumentů požadujte konkrétní srovnání nebo sledování závislosti. Nativní checkpoint, výstupy GGUF, ONNX a MLX slouží odlišným potřebám nasazení a návrhový model pro spekulativní dekódování je samostatným doprovodným výstupem. Údaje o prostředcích či rychlosti jedné konfigurace automaticky nepopisují každý formát modelu a pracovní okno.

Liquid výslovně nedoporučuje LFM2.5-2.6B pro agentní programování ani znalostně náročné úlohy. Zaměřte jej na konkrétní postupy s dodanými důkazy, pravidly extrakce a pozorováními nástrojů. Předtrénovaný checkpoint Base je také samostatným výstupem určeným k přizpůsobování, zatímco tato dodatečně trénovaná edice je agentním modelem. U konečného výsledku porovnejte extrahované hodnoty se zdroji, ověřte, že citovaná pasáž podporuje odpověď, a odlište požadované volání nástroje od operace se zaznamenaným výsledkem. Nevyřešené informace zachovejte tam, kde ovlivňují závěr, místo aby je plynulý text zastřel.