# Malé jazykové modely: velikost, využití a kompromisy

> Tady najdete vše, co potřebujete vědět o malých jazykových modelech, včetně toho, jak se liší od LLM, k čemu se nejlépe hodí a kolik stojí.

Source: https://ailoot.ai/blog/cs/small-language-models-size-uses-and-tradeoffs/
Canonical: https://ailoot.ai/blog/cs/small-language-models-size-uses-and-tradeoffs/
Language: cs
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100060
Revision: sha256-38e0f538f93dcfa7199b7aeea7470a491fe5c5ba3a8a747a00aa96b243ed45fc


## Co jsou malé jazykové modely?
I když ty nejpůsobivější LLM stále rostou a jsou výkonnější, existují také menší velké jazykové modely — neboli malé jazykové modely — které dokážou účinně pracovat v reálném světě. A to ještě nebereme v úvahu náklady na provoz velkých jazykových modelů. Ve většině případů byste měli používat nejmenší jazykový model, který spolehlivě zvládne požadovaný úkol, nikoli ten největší, který můžete použít.

Podívejme se tedy na malé jazykové modely, na to, jak se liší od velkých jazykových modelů a k čemu se hodí.
## SLM vs. LLM: Co je malý jazykový model?

Malý jazykový model (SLM) je jazykový model, který je menší než současné velké jazykové modely. Toto označení popisuje relativní velikost, nikoli pevně stanovenou hranici.

## SLM a využívání zdrojů

Přidávání dalších parametrů také něco stojí. A opět platí, že za jinak stejných podmínek budou náklady tím vyšší, čím více parametrů přidáte.

Menší modely mohou k provozu vyžadovat nižší výpočetní kapacitu, skutečné nároky však závisí na modelu a hardwaru.

## Výhody malých jazykových modelů
### Provoz malých jazykových modelů je rychlejší a levnější

Provoz malých jazykových modelů může být levnější a mohou generovat výstupy rychleji než větší modely. Skutečné náklady a rychlost závisí na modelu, úloze a hardwaru.

### Trénování malých jazykových modelů je rychlejší a levnější

Ve srovnání na podobném hardwaru mohou menší modely vyžadovat méně výpočetní kapacity pro trénování nebo dolaďování.

### Některé malé jazykové modely mohou běžet na lokálních zařízeních

Některé malé jazykové modely jsou navrženy tak, aby běžely lokálně na chytrých telefonech, noteboocích nebo jiných zařízeních s nízkým výkonem.

- Lokální zpracování může eliminovat cestu tam a zpět po síti, celková doba odezvy však závisí na modelu a zařízení.

- Pokud celý pracovní postup probíhá lokálně, může lokální zpracování ponechat vstupní data v zařízení; ověřte, jak aplikace s daty nakládá.

- Lokálně dostupný model lze podle aplikace začlenit do pracovních postupů přímo v zařízení.
## Měli byste používat malý jazykový model?

Velké i malé jazykové modely mají své využití.

Výběr modelu závisí na kvalitě, kterou úloha vyžaduje, a na dostupných zdrojích.

## Využijte tento průvodce s Ailoot

Propojte modely AI se svými aplikacemi, agenty a automatizacemi prostřednictvím jediného API Ailoot. Vyberte model, který odpovídá vašemu úkolu, a začněte podle [dokumentace Ailoot](https://ailoot.ai/docs/).


## Ailoot · Společnost a její portfolio projektů

Ailoot staví na dlouhodobých provozních zkušenostech, široké klientské základně, stabilních službách a průběžném sledování KPI.

Společnost a její portfolio projektů: miliony zákazníků; měsíční tržby v miliardách.

Ailoot využívá tyto provozní zkušenosti k poskytování přístupu přes API k funkcím AI v produktech zákazníků, agentech, aplikacích a automatizacích.
