LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B — дообученная текстовая модель компактного семейства LFM2.5 компании Liquid для агентов на устройствах и практических рабочих процессов. В точной карточке указаны 2,69 млрд параметров и 30 слоёв: 22 блока короткой свёртки с двойным механизмом управления и восемь блоков внимания с группировкой запросов. Гибридная архитектура нацелена на эффективную обработку текста. Модель принимает и возвращает текст, включая обоснованный ответ или запрос на использование определённой функции.

Производитель рекомендует её для агентных задач, работы с инструментами, извлечения данных, генерации с дополнением поиском и процессов с длинным контекстом. Обучение выпуска сочетает дообучение с учителем, специализированные модели-учителя, многодоменную дистилляцию на данных текущей стратегии и обучение с подкреплением внутри агентных сред. Это объясняет её направленность на выполнение инструкций, использование наблюдений инструментов и продвижение по нескольким шагам. Давайте модели реальные материалы и точную цель, не рассчитывая, что обширные усвоенные знания заполнят пробелы.

Для извлечения определите поля и правила работы с источником до передачи материала. Практический запрос: «Прочитай эти обновления сервиса, извлеки идентификатор каждой записи, указанный статус и следующее необходимое действие; сохрани предложение, подтверждающее каждое поле. Возвращай null, если поле отсутствует». Уточните, нужно ли точно копировать значение, нормализовать его или выводить из других сведений. Это делает результат проверяемым и не позволяет правдоподобной интерпретации незаметно заменить фактически присутствующую в источнике информацию.

Для RAG передайте нужные фрагменты со стабильными метками и запросите ответ с опорой на них. Например: «Используя только эти инструкции по установке, объясни, какие шаги применимы к указанной среде, и перечисли предпосылки, которые остаются неизвестными». Сохраняйте версии документов и условия вместе с текстом. Просите модель обнаружить недостающий или противоречивый факт, а не придумывать полную процедуру. Это лучше соответствует рекомендации разработчика по задачам с опорой на источники, чем попытка использовать компактную модель как исчерпывающее хранилище специальных знаний.

LFM2.5-2.6B — модель исключительно для рассуждений: шаблон диалога начинает ответ ассистента с маркера обдумывания, и модель рассуждает перед итоговым ответом. Карточка производителя рекомендует для генерации temperature 0.1, top-k 50 и штраф за повторение 1.1. Эти настройки относятся к рецепту именованной модели. Отделяйте итоговый результат от текста рассуждения и оставляйте место для обоих в рабочем запросе. Нельзя предполагать наличие элементов управления или режимов прямого ответа, относящихся к другим инструктивным редакциям LFM.

Модель использует формат диалога, похожий на ChatML, с ролями system, user, assistant и tool. Документированный процесс работы с функциями состоит из четырёх этапов: определить инструменты, позволить модели запросить функцию, выполнить её в приложении и вернуть фактический результат, чтобы модель могла ответить. Нативные вызовы — списки в стиле Python, заключённые в маркеры вызова инструмента; разработчик также описывает запрос формата вызовов JSON через системную инструкцию. Используйте подходящий парсер, проверяйте имя функции и аргументы по предоставленным определениям и сохраняйте результат вместе с породившим его вызовом.

Для компактного агентного процесса предоставляйте только функции, относящиеся к текущей задаче, с краткими описаниями и явными типами аргументов. Сами определения инструментов занимают контекст. Полезная последовательность может получить статус переданной записи, сравнить его с правилом и объяснить, нужно ли дальнейшее действие. Передайте идентификатор записи как исходное данное и запросите итоговый ответ, связанный с возвращённым наблюдением. Модель предлагает и интерпретирует операцию; приложение обеспечивает её реальное выполнение и результат.

Текущая карточка производителя указывает контекст модели 131 072 токена, а описание выпуска — отдельный этап расширения контекста. Работайте в окне используемой конфигурации, сохраняя границы источников, нужную историю и место для продолжения. Для нескольких документов попросите проследить конкретное сравнение или зависимость. Нативная контрольная точка, материалы GGUF, ONNX и MLX служат разным потребностям развёртывания, а черновая модель для спекулятивного декодирования — отдельный сопутствующий материал. Показатели ресурсов или скорости одной конфигурации не описывают автоматически все форматы модели и рабочие окна.

Liquid прямо не рекомендует LFM2.5-2.6B для агентного программирования и задач, требующих обширных знаний. Сосредоточьте её на конкретных процессах с переданными данными, правилами извлечения и наблюдениями инструментов. Предобученная контрольная точка Base также является отдельным материалом для настройки, тогда как эта дообученная редакция — модель для агентов. Проверяйте извлечённые значения по источникам, убеждайтесь, что процитированный фрагмент подтверждает ответ, и отличайте запрошенный вызов инструмента от операции с записанным результатом. Сохраняйте неразрешённую информацию, если она влияет на вывод, вместо того чтобы скрывать её за гладким текстом.