# Malé jazykové modely: veľkosť, využitie a kompromisy

> Tu nájdete všetko, čo potrebujete vedieť o malých jazykových modeloch vrátane toho, ako sa líšia od LLM, na čo sa najlepšie hodia a koľko stoja.

Source: https://ailoot.ai/blog/sk/small-language-models-size-uses-and-tradeoffs/
Canonical: https://ailoot.ai/blog/sk/small-language-models-size-uses-and-tradeoffs/
Language: sk
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100060
Revision: sha256-d28b054e7fd5485bbd96386ae7c854809c10d13beb25da5fad0a2d8d1bb90e4a


## Čo sú malé jazykové modely?
Hoci sú tie najpôsobivejšie LLM čoraz väčšie a výkonnejšie, existujú aj menšie veľké jazykové modely — alebo malé jazykové modely — ktoré dokážu efektívne fungovať v reálnom svete. A to ešte predtým, než zohľadníte náklady na prevádzku veľkých jazykových modelov. Vo väčšine prípadov by ste mali používať najmenší jazykový model, ktorý spoľahlivo zvládne úlohu, ktorú potrebujete, a nie najväčší model, aký môžete použiť.

Pozrime sa teda na malé jazykové modely, na to, ako sa líšia od veľkých jazykových modelov, a na to, na čo sa hodia.
## SLM verzus LLM: Čo je malý jazykový model?

Malý jazykový model (SLM) je jazykový model, ktorý je menší ako súčasné veľké jazykové modely. Toto označenie vyjadruje relatívnu veľkosť, nie pevne stanovenú hranicu.

## SLM a využívanie zdrojov

Pridávanie ďalších parametrov má aj svoju cenu. A opäť platí, že pri rovnakých ostatných podmienkach budú náklady tým vyššie, čím viac parametrov pridáte.

Menšie modely môžu na svoju prevádzku vyžadovať menší výpočtový výkon, skutočné požiadavky však závisia od modelu a hardvéru.

## Výhody malých jazykových modelov
### Malé jazykové modely sa prevádzkujú rýchlejšie a lacnejšie

Prevádzka menších jazykových modelov môže stáť menej a tieto modely môžu generovať výstup rýchlejšie ako väčšie modely. Skutočné náklady a rýchlosť závisia od modelu, úlohy a hardvéru.

### Malé jazykové modely sa trénujú rýchlejšie a lacnejšie

Pri porovnaní na podobnom hardvéri môžu menšie modely vyžadovať menej výpočtového výkonu na trénovanie alebo dolaďovanie.

### Niektoré malé jazykové modely môžu fungovať na lokálnych zariadeniach

Niektoré malé jazykové modely sú navrhnuté tak, aby fungovali lokálne na smartfónoch, notebookoch alebo iných zariadeniach s nízkym výkonom.

- Lokálne spracovanie môže ušetriť spiatočný prenos cez sieť, celkový čas odozvy však závisí od modelu a zariadenia.

- Ak celý pracovný postup prebieha lokálne, lokálne spracovanie môže ponechať vstupy v zariadení; overte si, ako aplikácia nakladá s údajmi.

- Model dostupný lokálne sa môže integrovať do pracovných postupov v zariadení, v závislosti od aplikácie.
## Mali by ste používať malý jazykový model?

Veľké aj malé jazykové modely majú svoje využitie.

Výber modelu závisí od požadovanej kvality úlohy a dostupných zdrojov.

## Využite túto príručku s Ailoot

Prepojte modely umelej inteligencie so svojimi aplikáciami, agentmi a automatizáciami prostredníctvom jedného rozhrania API Ailoot. Vyberte model, ktorý vyhovuje vašej úlohe, a začnite podľa [dokumentácie Ailoot](https://ailoot.ai/docs/).


## Ailoot · Spoločnosť a jej portfólio projektov

Ailoot stavia na dlhodobých prevádzkových skúsenostiach, širokej klientskej základni, stabilných službách a priebežnom sledovaní KPI.

Spoločnosť a jej portfólio projektov: milióny zákazníkov; mesačné tržby v miliardách.

Ailoot využíva tieto prevádzkové skúsenosti na poskytovanie prístupu cez API k funkciám AI v produktoch zákazníkov, agentoch, aplikáciách a automatizáciách.
