LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B는 Liquid의 소형 LFM2.5 계열에서 온디바이스 에이전트와 실용적인 작업 흐름을 위해 후속 학습한 텍스트 모델입니다. 정확한 모델 카드에는 매개변수 2.69B와 계층 30개가 명시되어 있습니다. 이중 게이트 단기 합성곱 블록 22개와 그룹 쿼리 어텐션 블록 8개로 구성됩니다. 하이브리드 설계는 효율적인 텍스트 처리를 목표로 합니다. 모델은 텍스트를 받아 추론한 답변이나 정의된 함수의 사용 요청을 포함한 텍스트를 반환합니다.

제조사는 에이전트 작업, 도구 사용, 데이터 추출, 검색 증강 생성, 긴 컨텍스트 작업 흐름에 이를 권장합니다. 릴리스의 학습 파이프라인은 지도 미세 조정, 전문 교사 모델, 다중 도메인 온폴리시 증류, 에이전트 환경 내 강화 학습을 결합합니다. 이는 작업 지시 따르기, 도구 관찰 사용하기, 여러 단계 진행하기에 초점을 둔 이유를 설명합니다. 폭넓은 학습 지식으로 빈틈을 메우게 하기보다 실제 자료와 정확한 목표를 제공하세요.

추출에는 자료를 제공하기 전에 필드와 원문 처리 규칙을 정의하세요. 실용적인 요청은 “이 서비스 업데이트를 읽고 각 레코드의 식별자, 명시된 상태, 다음 필수 조치를 추출하며 모든 필드를 뒷받침하는 문장을 유지하세요. 필드가 없으면 null을 반환하세요”입니다. 값을 그대로 복사할지, 정규화할지, 추론할지 지정하세요. 이렇게 하면 출력을 검토할 수 있고 그럴듯한 해석이 원문에 실제로 있는 정보를 조용히 대체하는 일을 막을 수 있습니다.

RAG에는 고정된 표기가 있는 관련 구절을 제공하고 그 구절에 근거한 답변을 요청하세요. 예를 들어 “이 설치 지침만 사용해 명시한 환경에 적용되는 단계를 설명하고, 아직 확인되지 않은 사전 요건을 나열하세요”라고 요청할 수 있습니다. 문서 버전과 조건을 텍스트와 함께 유지하세요. 완전한 절차를 지어내기보다 누락되거나 충돌하는 사실을 찾도록 요청하세요. 이는 소형 모델을 전문 지식의 빠짐없는 저장소처럼 사용하는 것보다 출처 기반 작업에 대한 제조사의 권고에 더 잘 맞습니다.

LFM2.5-2.6B는 순수 추론 모델입니다. 채팅 템플릿은 어시스턴트 답변을 사고 표식으로 시작하며 최종 답변 전에 추론합니다. 제조사의 모델 카드는 생성에 temperature 0.1, top-k 50, 반복 페널티 1.1을 권장합니다. 이는 해당 이름의 모델 실행 설정입니다. 최종 결과물과 추론 텍스트를 구분하고 작업 요청에 둘 모두를 위한 공간을 남기세요. 다른 LFM 지시 에디션의 제어나 직접 답변 모드가 이 모델에도 있다고 가정해서는 안 됩니다.

모델은 system, user, assistant, tool 역할이 있는 ChatML 유사 대화 형식을 사용합니다. 문서화된 함수 작업 흐름은 도구 정의, 모델의 함수 요청, 주변 애플리케이션의 함수 실행, 모델이 답할 수 있도록 실제 결과 반환이라는 네 단계로 구성됩니다. 네이티브 호출은 도구 호출 표식으로 둘러싼 Python 형태의 목록입니다. 제조사는 시스템 지시로 JSON 호출 형식을 요청하는 방법도 설명합니다. 적절한 파서를 사용하고, 함수 이름과 인수를 제공한 정의와 대조해 확인하며, 결과를 그 결과를 만든 호출과 함께 유지하세요.

소형 에이전트 흐름에서는 간결한 설명과 명시적인 인수 타입을 사용해 현재 작업에 필요한 함수만 노출하세요. 도구 정의 자체도 컨텍스트를 차지합니다. 예를 들어 제공된 레코드의 상태를 조회하고 반환된 상태를 규칙과 비교한 뒤 후속 조치가 필요한지 설명하는 순서를 만들 수 있습니다. 레코드 식별자를 근거로 제공하고 반환된 관찰에 연결된 최종 답변을 요청하세요. 모델은 작업을 제안하고 해석하며, 애플리케이션은 실제 실행과 결과를 제공합니다.

현재 제조사 모델 카드에는 모델 컨텍스트가 131,072토큰으로 명시되어 있으며 릴리스는 전용 컨텍스트 확장 단계를 설명합니다. 사용 중인 구성의 창 안에서 작업하고 원문 경계, 관련 이력, 이어지는 출력 공간을 유지하세요. 여러 문서에는 추적할 특정 비교나 의존 관계를 요청하세요. 네이티브 체크포인트, GGUF, ONNX, MLX 산출물은 서로 다른 배포 목적에 쓰이며, 추측 디코딩용 초안 모델은 별도 보조 산출물입니다. 한 구성의 자원이나 속도 수치가 모든 모델 형식과 작업 창을 자동으로 설명하지는 않습니다.

Liquid는 LFM2.5-2.6B를 에이전트 코딩이나 방대한 지식이 필요한 작업에 명시적으로 권장하지 않습니다. 제공된 근거, 추출 규칙, 도구 관찰이 있는 구체적인 흐름에 집중시키세요. 사전 학습된 Base 체크포인트 역시 맞춤화를 위한 별도 산출물이며, 이 후속 학습 에디션이 에이전트 모델입니다. 최종 결과에서는 추출 값을 원문과 대조하고, 인용한 구절이 답을 뒷받침하는지 확인하며, 요청된 도구 호출과 결과가 기록된 작업을 구분하세요. 결론에 영향을 주는 미해결 정보를 유창한 문장으로 가리지 말고 그대로 보존하세요.