LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B ist das nachtrainierte Textmodell aus Liquids kompakter LFM2.5-Familie, ausgelegt für Agenten auf lokalen Geräten und praktische Arbeitsabläufe. Seine genaue Modellkarte nennt 2,69B Parameter und 30 Schichten: 22 doppelt gegatete Kurzfaltungsblöcke und acht Blöcke mit Grouped-Query Attention. Das hybride Design zielt auf effiziente Textverarbeitung. Das Modell nimmt Text entgegen und liefert Text zurück, darunter eine begründete Antwort oder eine Anfrage zur Nutzung einer definierten Funktion.

Der Hersteller empfiehlt es für agentische Aufgaben, Werkzeugnutzung, Datenextraktion, Retrieval-Augmented Generation und Abläufe mit langem Kontext. Die Trainingspipeline der Veröffentlichung kombiniert überwachtes Fine-Tuning, spezialisierte Lehrermodelle, bereichsübergreifende On-Policy-Destillation und bestärkendes Lernen in Agentenumgebungen. Das erklärt den Schwerpunkt auf Aufgabenanweisungen, Werkzeugbeobachtungen und dem Fortschreiten über mehrere Schritte. Geben Sie ihm die tatsächlichen Materialien und ein präzises Ziel, statt sich zum Füllen von Lücken auf breites erlerntes Wissen zu verlassen.

Definieren Sie bei einer Extraktion Felder und Quellenregeln vor der Materialbereitstellung. Eine praktische Anfrage lautet: «Lesen Sie diese Servicemeldungen, extrahieren Sie Kennung, angegebenen Status und nächste erforderliche Handlung jedes Datensatzes und bewahren Sie den belegenden Satz zu jedem Feld. Geben Sie null zurück, wenn ein Feld fehlt.» Legen Sie fest, ob ein Wert exakt kopiert, normalisiert oder erschlossen werden soll. Das macht die Ausgabe überprüfbar und verhindert, dass eine plausible Interpretation stillschweigend tatsächlich vorhandene Quelleninformationen ersetzt.

Stellen Sie für RAG relevante Passagen mit stabilen Kennzeichnungen bereit und verlangen Sie eine darin begründete Antwort. Ein Beispiel lautet: «Erklären Sie ausschliesslich anhand dieser Installationsanweisungen, welche Schritte für die angegebene Umgebung gelten, und listen Sie weiterhin unbekannte Voraussetzungen auf.» Bewahren Sie Dokumentversionen und Bedingungen zusammen mit dem Text. Lassen Sie das Modell fehlende oder widersprüchliche Fakten benennen, statt eine vollständige Anleitung zu erfinden. Das entspricht der Herstellerempfehlung für quellengebundene Aufgaben besser, als das kompakte Modell als umfassenden Fachwissensspeicher einzusetzen.

LFM2.5-2.6B ist ein reines Schlussfolgerungsmodell: Seine Chatvorlage beginnt die Assistentenantwort mit einer Denkmarkierung, und es denkt vor der abschliessenden Antwort nach. Die Modellkarte des Herstellers empfiehlt temperature 0.1, top-k 50 und Wiederholungsstrafe 1.1 für die Generierung. Das sind Einstellungen für das Rezept des benannten Modells. Halten Sie das endgültige Ergebnis vom Denktext getrennt und lassen Sie in einer Arbeitsanfrage Platz für beide. Regler oder Direktantwortmodi anderer LFM-Anweisungseditionen dürfen für dieses Modell nicht vorausgesetzt werden.

Das Modell verwendet ein ChatML-ähnliches Gesprächsformat mit System-, Nutzer-, Assistenten- und Werkzeugrollen. Sein dokumentierter Funktionsablauf umfasst vier Stufen: Werkzeuge definieren, das Modell eine Funktion anfordern lassen, die Funktion in der umgebenden Anwendung ausführen und das tatsächliche Ergebnis zurückgeben, damit das Modell antworten kann. Native Aufrufe sind Python-artige Listen innerhalb von Werkzeugaufrufmarkierungen; der Hersteller beschreibt zudem die Anforderung von JSON-Aufrufformaten über die Systemanweisung. Verwenden Sie den passenden Parser, prüfen Sie Funktionsname und Argumente anhand der bereitgestellten Definitionen und bewahren Sie das Ergebnis mit dem zugehörigen Aufruf.

Stellen Sie für einen kompakten Agentenablauf nur die für die aktuelle Aufgabe relevanten Funktionen bereit, mit knappen Beschreibungen und ausdrücklichen Argumenttypen. Auch Werkzeugdefinitionen belegen Kontext. Eine nützliche Folge könnte den Status eines angegebenen Datensatzes abrufen, den zurückgegebenen Status mit einer Regel vergleichen und erklären, ob eine Nachbearbeitung nötig ist. Liefern Sie die Datensatzkennung als Beleg und verlangen Sie eine abschliessende Antwort mit Bezug zur zurückgegebenen Beobachtung. Das Modell schlägt den Vorgang vor und interpretiert ihn; die Anwendung liefert tatsächliche Ausführung und Ergebnis.

Die aktuelle Modellkarte des Herstellers gibt einen Modellkontext von 131’072 Tokens an, und die Veröffentlichung beschreibt eine eigene Kontexterweiterungsstufe. Arbeiten Sie innerhalb des Fensters der verwendeten Konfiguration und bewahren Sie Quellengrenzen, relevanten Verlauf und Platz für die Fortsetzung. Verlangen Sie bei mehreren Dokumenten einen konkreten Vergleich oder die Nachverfolgung einer Abhängigkeit. Der native Checkpoint sowie GGUF-, ONNX- und MLX-Dateien dienen unterschiedlichen Bereitstellungszwecken; ein Entwurfsmodell für spekulatives Decoding ist eine separate Begleitdatei. Ressourcen- oder Geschwindigkeitswerte einer Konfiguration beschreiben nicht automatisch jedes Modellformat und Arbeitsfenster.

Liquid empfiehlt LFM2.5-2.6B ausdrücklich nicht für agentische Programmierung oder wissensintensive Aufgaben. Konzentrieren Sie es auf konkrete Abläufe mit bereitgestellten Belegen, Extraktionsregeln und Werkzeugbeobachtungen. Auch der vortrainierte Base-Checkpoint ist eine eigene, zur Anpassung vorgesehene Datei, während diese nachtrainierte Edition das Agentenmodell ist. Prüfen Sie beim Endergebnis extrahierte Werte anhand ihrer Quelle, kontrollieren Sie, ob eine zitierte Passage die Antwort stützt, und unterscheiden Sie einen angeforderten Werkzeugaufruf von einem Vorgang mit dokumentiertem Ergebnis. Bewahren Sie ungeklärte Informationen, wenn sie die Schlussfolgerung beeinflussen, statt sie von flüssigem Text verdecken zu lassen.