# Малые языковые модели: размер, применение и компромиссы

> Всё, что нужно знать о малых языковых моделях: чем они отличаются от LLM, для каких задач подходят лучше всего и сколько стоят

Source: https://ailoot.ai/blog/ru/small-language-models-size-uses-and-tradeoffs/
Canonical: https://ailoot.ai/blog/ru/small-language-models-size-uses-and-tradeoffs/
Language: ru
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100060
Revision: sha256-25e8a2f827bb54bc22f04d76545b9047a74f7e9f2b38011d39cf9931d6d04878


## Что такое малые языковые модели?
Хотя самые впечатляющие LLM продолжают становиться больше и мощнее, существуют и более компактные большие языковые модели — малые языковые модели, — которые вполне способны эффективно работать в реальных условиях. И это ещё до того, как учитывать стоимость запуска больших языковых моделей. В большинстве случаев следует использовать самую компактную языковую модель, которая надёжно справится с нужной вам задачей, а не самую большую из доступных.

Давайте рассмотрим малые языковые модели, их отличия от больших языковых моделей и задачи, для которых они подходят.
## SLM и LLM: что такое малая языковая модель?

Малая языковая модель (SLM) — это языковая модель, которая меньше современных больших языковых моделей. Это обозначение описывает относительный размер, а не задаёт фиксированную границу.

## SLM и использование ресурсов

Увеличение числа параметров также обходится дороже. И снова: при прочих равных условиях чем больше параметров вы добавляете, тем выше будут затраты.

Для запуска меньшим моделям может требоваться меньше вычислительных ресурсов, хотя фактические требования зависят от модели и оборудования.

## Преимущества малых языковых моделей
### Малые языковые модели быстрее и дешевле в эксплуатации

Запуск малых языковых моделей может обходиться дешевле, а генерировать ответы они могут быстрее, чем более крупные модели. Фактические затраты и скорость зависят от модели, задачи и оборудования.

### Малые языковые модели быстрее и дешевле в обучении

При сравнении на аналогичном оборудовании для обучения или дообучения малым моделям может требоваться меньше вычислительных ресурсов.

### Некоторые малые языковые модели могут работать на локальных устройствах

Некоторые малые языковые модели предназначены для локального запуска на смартфонах, ноутбуках и других устройствах с невысокой производительностью.

- Локальная обработка позволяет избежать сетевого обмена туда и обратно, хотя общее время ответа зависит от модели и устройства.

- Если весь рабочий процесс выполняется локально, локальная обработка может сохранять входные данные на устройстве; проверьте, как приложение обрабатывает данные.

- Доступная локально модель может интегрироваться в рабочие процессы на устройстве — это зависит от приложения.
## Стоит ли использовать малую языковую модель?

И большие, и малые языковые модели находят своё применение.

Выбор модели зависит от требуемого для задачи качества и доступных ресурсов.

## Примените это руководство с Ailoot

Подключайте модели ИИ к приложениям, агентам и автоматизациям через единый API Ailoot. Выберите модель, подходящую для вашей задачи, и начните работу, следуя [документации Ailoot](https://ailoot.ai/docs/).


## Ailoot · Компания и портфель её проектов

Ailoot опирается на накопленный опыт работы, большую клиентскую базу, стабильный сервис и постоянный контроль KPI.

Компания и портфель её проектов: миллионы клиентов; продажи на миллиарды ежемесячно.

Этот опыт Ailoot использует для API-доступа к нейросетям в продуктах клиентов, агентах, приложениях и автоматизациях.
