LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B 是 Liquid 精簡 LFM2.5 系列中的後訓練文字模型，為裝置端代理與實用流程設計。其確切模型卡列出 2.69B 參數與 30 層：22 個雙門控短卷積區塊，以及八個分組查詢注意力區塊。混合設計以高效率文字處理為目標。模型接收文字並傳回文字，包括經推理的答案，或使用已定義函式的請求。

開發商建議將其用於代理工作負載、工具使用、資料擷取、檢索增強生成與長上下文流程。此版本的訓練流程結合監督式微調、專門教師模型、多領域同策略蒸餾，以及代理環境中的強化學習。這說明其重點為遵循任務指示、使用工具觀察，並推進多個步驟。提供實際資料與精確目標，不要依賴廣泛的已學知識填補缺口。

擷取任務應先定義欄位與來源規則，再提供資料。實用請求可以是：「閱讀這些服務更新，擷取每筆記錄的識別碼、明載狀態與下一項必要行動，並保留支持各欄位的句子。欄位缺少時傳回 null。」指定值應原樣複製、正規化或推論。這使輸出可供檢查，避免看似合理的詮釋暗中取代來源實際資訊。

RAG 任務應提供具有穩定標籤的相關段落，並要求答案以這些段落為依據。例如：「只使用這些安裝指示，說明哪些步驟適用於指定環境，並列出仍未知的先決條件。」將文件版本與條件隨文字保留。要求模型指出缺漏或衝突事實，而非編造完整程序。這更符合開發商對來源依據任務的建議，而非要求精簡模型充當包羅萬象的專業知識庫。

LFM2.5-2.6B 是純推理模型：其聊天範本以思考標記開啟助理答案，並在最終答案前進行推理。開發商模型卡建議生成使用 temperature 0.1、top-k 50 與重複懲罰 1.1。這些是此具名模型配置方案的設定。最終成果應與推理文字分開，實際請求中應為兩者預留空間。不要假設其他 LFM 指示版本的控制項或直接回答模式也適用於此模型。

模型使用類似 ChatML 的對話格式，包含 system、user、assistant 與 tool 角色。文件中的函式流程有四個階段：定義工具、讓模型要求函式、在周邊應用程式執行函式，再回傳實際結果，讓模型回答。原生呼叫是以工具呼叫標記包覆的 Python 風格清單；開發商也說明可透過系統指示要求 JSON 呼叫格式。應使用適當剖析器，依提供的定義檢查函式名稱與引數，並將結果與產生它的呼叫一併保留。

精簡代理流程應只開放目前任務相關函式，提供簡短說明與明確引數型別。工具定義本身也占用上下文。實用順序可先查詢指定記錄的狀態，再將傳回狀態與規則比較，最後說明是否需要後續處理。將記錄識別碼作為證據提供，並要求最終答案連結傳回觀察。模型提議並解讀操作；應用程式提供實際執行與結果。

開發商目前模型卡標示模型上下文為 131,072 token，發行說明也描述專門的上下文擴展階段。應在所用配置的視窗內工作，保留來源邊界、相關歷史與續寫空間。處理多份文件時，要求追蹤特定比較或相依關係。原生檢查點、GGUF、ONNX 與 MLX 成果服務不同部署需求；推測解碼草稿則是另一個配套成果。某一配置的資源或速度數字，不會自動代表每種模型格式與工作視窗。

Liquid 明確不建議 LFM2.5-2.6B 用於代理式程式設計或大量依賴知識的任務。應讓它聚焦於具體流程，搭配提供的證據、擷取規則與工具觀察。預訓練 Base 檢查點也是另供客製化的成果；此後訓練版本才是代理模型。檢查最終結果時，對照來源核對擷取值、確認引述段落支持答案，並區分要求的工具呼叫與具有記錄結果的實際操作。若未解資訊會影響結論，應保留它，不要讓流暢文字將其掩蓋。