LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B to poddany dalszemu treningowi model tekstowy z kompaktowej rodziny LFM2.5 firmy Liquid, zaprojektowany dla agentów działających na urządzeniu i praktycznych procesów pracy. Jego dokładna karta modelu podaje 2,69 mld parametrów i 30 warstw: 22 bloki krótkiej konwolucji z podwójnym bramkowaniem oraz osiem bloków grouped-query attention. Hybrydowa konstrukcja ma zapewniać wydajne przetwarzanie tekstu. Model przyjmuje tekst i zwraca tekst, w tym odpowiedź po rozumowaniu lub żądanie użycia zdefiniowanej funkcji.

Producent zaleca go do obciążeń agentowych, korzystania z narzędzi, ekstrakcji danych, generowania wspomaganego wyszukiwaniem i procesów z długim kontekstem. Potok treningowy wydania łączy nadzorowane dostrajanie, wyspecjalizowane modele nauczycielskie, wielodziedzinową destylację on-policy i uczenie ze wzmocnieniem w środowiskach agentowych. Pomaga to wyjaśnić skupienie modelu na wykonywaniu instrukcji, korzystaniu z obserwacji narzędzi i przechodzeniu przez kilka kroków. Dostarczaj rzeczywiste materiały i precyzyjny cel, zamiast polegać na szerokiej wyuczonej wiedzy w uzupełnianiu luk.

Dla ekstrakcji zdefiniuj pola i reguły źródłowe przed przekazaniem materiału. Praktyczne polecenie: „Przeczytaj te aktualizacje serwisowe, wyodrębnij identyfikator każdego rekordu, podany status i następne wymagane działanie oraz zachowaj zdanie wspierające każde pole. Zwróć null, gdy pole jest nieobecne”. Określ, czy wartość należy skopiować dokładnie, znormalizować czy wywnioskować. Ułatwia to sprawdzenie wyjścia i zapobiega cichej zamianie informacji rzeczywiście obecnej w źródle na wiarygodnie brzmiącą interpretację.

Dla RAG dostarczaj istotne fragmenty ze stabilnymi oznaczeniami i proś o odpowiedź na nich opartą. Przykład: „Korzystając wyłącznie z tych instrukcji instalacji, wyjaśnij, które kroki dotyczą podanego środowiska, i wymień wymagania wstępne, które pozostają nieznane”. Zachowuj wersje dokumentów i warunki wraz z tekstem. Proś model o wskazanie brakującego lub sprzecznego faktu, zamiast wymyślania kompletnej procedury. Lepiej odpowiada to zaleceniu producenta dotyczącemu zadań opartych na źródłach niż wymaganie od kompaktowego modelu roli wyczerpującego magazynu wiedzy specjalistycznej.

LFM2.5-2.6B jest modelem wyłącznie rozumującym: jego szablon rozmowy rozpoczyna odpowiedź asystenta znacznikiem rozumowania, a model rozumuje przed odpowiedzią końcową. Karta producenta zaleca do generowania temperature 0.1, top-k 50 i karę za powtórzenia 1.1. Są to ustawienia przepisu tego nazwanego modelu. Oddzielaj rezultat końcowy od tekstu rozumowania i pozostawiaj miejsce na oba w żądaniu roboczym. Nie zakładaj dla tego modelu ustawień ani trybów odpowiedzi bezpośredniej należących do innych instrukcyjnych edycji LFM.

Model stosuje format rozmowy podobny do ChatML z rolami system, user, assistant i tool. Udokumentowany proces funkcji ma cztery etapy: zdefiniowanie narzędzi, umożliwienie modelowi zażądania funkcji, wykonanie jej w aplikacji i zwrócenie rzeczywistego wyniku, aby model mógł odpowiedzieć. Natywne wywołania to listy w stylu Pythona otoczone znacznikami wywołania narzędzia; producent opisuje też żądanie formatu wywołań JSON przez instrukcję systemową. Używaj odpowiedniego parsera, sprawdzaj nazwę funkcji i argumenty względem przekazanych definicji i zachowuj wynik wraz z wywołaniem, które go wytworzyło.

Dla kompaktowego procesu agentowego udostępniaj tylko funkcje istotne dla bieżącego zadania, ze zwięzłymi opisami i jednoznacznymi typami argumentów. Same definicje narzędzi zajmują kontekst. Użyteczna sekwencja może pobrać status przekazanego rekordu, porównać zwrócony status z regułą i wyjaśnić, czy potrzebne jest dalsze działanie. Dostarcz identyfikator rekordu jako dowód i poproś o końcową odpowiedź powiązaną ze zwróconą obserwacją. Model proponuje i interpretuje operację; aplikacja zapewnia jej rzeczywiste wykonanie i wynik.

Bieżąca karta producenta określa kontekst modelu na 131 072 tokeny, a opis wydania wskazuje dedykowany etap rozszerzania kontekstu. Pracuj w oknie używanej konfiguracji, zachowując granice źródeł, istotną historię i miejsce na kontynuację. Dla kilku dokumentów proś o konkretne porównanie lub prześledzenie zależności. Natywny checkpoint oraz pliki GGUF, ONNX i MLX odpowiadają różnym potrzebom wdrożeniowym, a model draft do dekodowania spekulatywnego jest osobnym materiałem towarzyszącym. Dane o zasobach lub szybkości jednej konfiguracji nie opisują automatycznie każdego formatu modelu i okna roboczego.

Liquid wyraźnie nie zaleca LFM2.5-2.6B do programowania agentowego ani zadań wymagających rozległej wiedzy. Skupiaj go na konkretnych procesach z dostarczonymi dowodami, regułami ekstrakcji i obserwacjami narzędzi. Wstępnie wytrenowany checkpoint Base to także osobny materiał przeznaczony do dostosowywania, natomiast ta edycja po dalszym treningu jest modelem agentowym. Dla wyniku końcowego sprawdzaj wyodrębnione wartości względem źródła, kontroluj, czy cytowany fragment wspiera odpowiedź, i rozróżniaj żądane wywołanie narzędzia od operacji z zapisanym wynikiem. Zachowuj nierozstrzygnięte informacje wpływające na wniosek, zamiast pozwalać płynnemu tekstowi je ukryć.