# Hermes Agent s lokálním modelem: připojení Ollamy

> Jak připojit lokální model k Hermes Agentovi: Local Models v desktopové aplikaci nebo Ollama, model s voláním nástrojů, kontext 64 000 a jak ověřit, že funguje.

Source: https://ailoot.ai/blog/cs/hermes-local-model-ollama-context/
Canonical: https://ailoot.ai/blog/cs/hermes-local-model-ollama-context/
Language: cs
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-115
Revision: sha256-33441f0461d0a0cf8c53f4d4788734886b4f21e1b1c2eb2ce443bddb8c2f9615


Lokální model můžete připojit k Hermes Agentovi v desktopové aplikaci přes Nastavení → Poskytovatelé → Local Models na čtyři kliknutí, nebo ručně přes Ollamu. V obou případech není potřeba žádný klíč, neplatíte za každý požadavek a konverzace neopouští váš počítač.

Provoz lokálního modelu nic nestojí a Hermes s ním může pracovat. Hlavní je vybrat model, který umí pracovat se soubory a příkazy, a nastavit mu kontext alespoň na 64 000; jinak se agent změní v obyčejný chat.

Podívejme se, k čemu se dnes hodí lokální model, jak ho připojit a jak ověřit, že agent pracuje se soubory. Jdeme na to.

Referenční dokumentace Ailoot: [ailoot.ai/docs/](https://ailoot.ai/docs/).



<div class="aside" data-semantic="key-takeaway" role="note" aria-label="Key points in this section">

Hlavní poznatek

Nejjednodušší je to v desktopové aplikaci Hermes: Settings → Providers → Local Models, Install runtime, vyberte model, Download a Use. Aplikace sama zvolí velikost kontextu. V Ollamě stáhněte model s voláním nástrojů (z tabulky Hermes tuto funkci podporuje pouze `gemma4:31b`, který potřebuje 24+ GB paměti), nastavte kontext na 64 000 místo výchozích 2 048 a v `hermes setup` zvolte Custom Endpoint s adresou `http://localhost:11434/v1` a bez klíče. Ověřte funkčnost úkolem, jehož výsledek se uloží na disk, ne podle textu odpovědi.

</div>

## Kdy provozovat Hermes Agent na lokálním modelu?





Kde už se lokální model hodí:

- **Přepis řeči.** Existují bezplatné modely s otevřeným zdrojovým kódem: jsou malé a dobře rozpoznávají zvuk. Váš hlas neuniká do cloudu, takže všechny vaše chytré plány zůstanou u vás. Návod, jak to nastavit, najdete [v samostatném článku](https://ailoot.ai/blog/cs/free-voice-input-whisper/).
- **Rutinní úkoly.** Na rutinní úkoly už můžete použít malé hloupé modely: zvládnou je.
- **Data, která se bojíte posílat ven.** Pokud máte opravdu obavy, můžete model spustit na vlastním počítači. Kvalita ale bude nízká.

Příští rok budou lokální modely pravděpodobně zabírat ještě méně místa. Už existují výkonné metody komprese a místo videopaměti můžete použít RAM. Myslím, že zhruba za rok bude mít každý malou krabičku s malým hloupým modelem, který bude zvládat úkoly na úrovni Sonnet 5. Uvidíme.

Při nastavování se hodí mít po ruce tabulku „který model na který úkol“ a PDF s příkazy k instalaci Hermes.

## Nejjednodušší způsob: Local Models v desktopové aplikaci Hermes

Pokud máte desktopovou aplikaci Hermes, nemusíte nic instalovat ručně. Hermes nainstaluje lokální server llama.cpp, stáhne model a sám zvolí velikost kontextu:

1. Otevřete **Settings → Providers → Local Models** nebo při prvním spuštění vyberte **Run models locally**.
2. Klikněte na **Install runtime**: Hermes stáhne sestavení llama.cpp pro váš hardware; má několik set megabajtů.
3. Vyberte model z katalogu a klikněte na **Download**.
4. Klikněte na **Use**: nové chaty budou používat lokální model.

Každý model v katalogu má barevné označení: zelená znamená, že se celý vejde do videopaměti, žlutá, že poběží přes RAM a bude pomalejší, červená, že je pro váš počítač příliš velký. Aplikace nastaví u doporučených modelů kontext na 64 000 nebo více. Grafická karta s 8+ GB zvládne malé modely z katalogu; karta s 16+ GB zvládne modely 27-35B. Pokud model 15 minut nepoužíváte, aplikace ho uvolní z paměti; po odeslání další zprávy ho znovu načte.

Tato sekce je součástí testovacích (canary) sestavení aplikace; v ostatních sestaveních ji otevřete pomocí spouštěcího příznaku `--local`. Pokud v nastavení Local Models nevidíte, nejspíš je to důvod. V terminálu je cesta stejná: `hermes model` → **Local models**.

Po výběru model ověřte úkolem, který pracuje se souborem, jak je popsáno v části níže.

Pokud vytváříte vlastní projekty s AI agenty, ověřte výsledek na malém skutečném úkolu.



## Použití Ollamy: jaký hardware potřebujete

Ollamu potřebujete, pokud je Hermes nainstalovaný na serveru nebo nemáte sekci Local Models. Hardwarové požadavky podle příručky Hermes:

| Co | Minimum | Lepší |
|----|----|----|
| RAM | 8 GB (modely 3B) | 32+ GB (modely 27B+) |
| Místo na disku | 5 GB | 30+ GB, pokud máte několik modelů |
| Procesor | 4 jádra | 8+ jader |
| Grafická karta | Není potřeba | NVIDIA s 8+ GB videopaměti představuje znatelné zrychlení |

8 GB stačí pouze pro malý model, který odpovídá jen textem. Aby model fungoval jako agent, potřebujete 24 GB nebo více; podrobnosti najdete v kroku 2. Všechno funguje i bez grafické karty, ale pomalu: model 9B na 8jádrovém procesoru generuje přibližně 10 tokenů za sekundu; model 31B pak 2-5 a každá odpověď trvá 30-120 sekund.

## Krok 1. Nainstalujte Ollamu

Ollama spouští modely přímo ve vašem počítači. Na Macu a Linuxu ji nainstalujete jedním příkazem v terminálu:

```bash
curl -fsSL https://ollama.com/install.sh | sh
```

Ve Windows zadejte tento příkaz PowerShellu:

```powershell
irm https://ollama.com/install.ps1 | iex
```

Ověřte, že je program nainstalovaný a server odpovídá:

```bash
ollama --version
curl http://localhost:11434/api/tags
```

Pokud zatím nemáte žádné modely, druhý příkaz vrátí prázdný seznam. Zapamatujte si port 11434: Hermes ho používá pro přístup k modelu.

## Krok 2. Stáhněte model, který umí provádět akce

Co model dělá? Generuje text. Práci se soubory, příkazy terminálu a vyhledáváním obstarává jeho nadstavba, Hermes. Aby nadstavba fungovala, model musí umět volat nástroje. Bez toho agent pouze odpovídá a nic nedělá.

| Model         | Na disku | Paměť | Volání nástrojů |
|---------------|----------|--------|--------------------|
| `gemma4:31b`  | ~20 GB   | 24+ GB | ano                |
| `gemma2:27b`  | ~16 GB   | 20+ GB | ne                 |
| `gemma2:9b`   | ~5 GB    | 8+ GB  | ne                 |
| `llama3.2:3b` | ~2 GB    | 4+ GB  | ne                 |

Z těchto čtyř modelů může jako agent fungovat pouze `gemma4:31b`. Pokud máte méně než 24 GB paměti, agenta nespustíte: modely v tabulce budou pouze odpovídat textem. V knihovně Ollama se neustále objevují nové modely; u každého nejprve ověřte, zda umí volat nástroje.

```bash
ollama pull gemma4:31b
```

Můžete stáhnout několik modelů a přepínat mezi nimi v Hermes příkazem `/model`.

## Krok 3. Zvětšete kontext na 64 000

Ollama ve výchozím nastavení dává modelu kontext o velikosti 2 048 tokenů, zatímco Hermes potřebuje pro práci s nástroji alespoň 64 000. Při výchozí velikosti se úkol nevejde a agent bude hlásit chyby.

Vytvořte variantu modelu s větším kontextem. Spusťte tento příkaz v terminálu:

```bash
cat > Modelfile << 'EOF'
FROM gemma4:31b
PARAMETER num_ctx 64000
EOF

ollama create gemma4-64k -f Modelfile
```

Nyní máte model `gemma4-64k`. Od této chvíle ho používejte všude místo původního.

## Krok 4. Připojte model k Hermes

Spusťte průvodce nastavením:

```bash
hermes setup
```

Až se průvodce zeptá na poskytovatele, vyberte **Custom Endpoint** a zadejte:

- adresa: `http://localhost:11434/v1`;
- klíč: nechte prázdný nebo zadejte `no-key`;
- model: `gemma4-64k`.

Stejnou konfiguraci můžete zadat ručně v souboru `~/.hermes/config.yaml`:

```yaml
model:
  default: "gemma4-64k"
  provider: "custom"
  base_url: "http://localhost:11434/v1"
```

## Jak ověřit, že Hermes Agent s lokálním modelem funguje?

Spusťte `hermes` a zadejte mu úkol, jehož výsledek bude viditelný na disku. Například: „Vypiš všechny soubory Pythonu v této složce a u každého spočítej počet řádků“ a potom „Vytvoř soubor s názvem test.txt“. Pomocí příkazu `ls` nebo v samotné složce ověřte, zda se soubor objevil. Model bez nástrojů může klidně vytvořit věrohodně vypadající seznam, aniž by otevřel jediný soubor.

Čím levnější neuronovou síť používáte, tím vyspělejší kožený editor potřebuje. Tím jste vy. Čím chytřejší je vaše neuronová síť, tím méně musíte používat vlastní hlavu, ale pracovat musíte pořád.

Video o kompletním nastavení Hermes Agentu od nuly:

<figure>
Video will load when you scroll
<figcaption>Kompletní průvodce Hermes Agentem od nuly pro automatizaci podnikání</figcaption>
</figure>

Video ukazuje, jak nainstalovat Hermes od nuly, vytvořit prvního AI zaměstnance a porovnat platby za jednotlivé požadavky s předplatným.

## Proč první odpověď trvá několik minut

Při každém požadavku Hermes odešle neměnnou část: systémové instrukce a popisy všech aktivních nástrojů. Bez grafické karty model tuto část nejprve dlouho zpracovává a pak píše obvyklou rychlostí. Je to normální.

Co pomáhá:

- `hermes prompt-size` ukáže velikost neměnné části;
- `hermes tools` vypne nepotřebné sady nástrojů a `hermes skills` pomůže odstranit nadbytečné dovednosti. Každé připojené MCP (externí služba) zvětšuje každý požadavek: pokud ho nepoužíváte, vypněte ho;
- `ollama ps` ukáže, kolik vrstev modelu bylo přesunuto na grafickou kartu. I částečné přesunutí zrychlí zpracování: model 31B na grafické kartě s 12 GB na ni umístí přibližně 40 vrstev; zbytek zpracuje procesor;
- na pomalém počítači nastavte `HERMES_API_TIMEOUT=1800` v `~/.hermes/.env`, aby Hermes neukončil požadavek po vypršení časového limitu.

Pokud agent běží na serveru nepřetržitě nebo odpovídá v Telegramu, mějte na paměti: Ollama uvolní model po 5 minutách nečinnosti a další odpověď začne jeho opětovným načítáním. Nastavení Ollamy `OLLAMA_KEEP_ALIVE=24h` ponechá model v paměti. Návod, jak agenta přesunout na server s nepřetržitým provozem, najdete [v článku o nepřetržitém provozu Hermes Agentu na serveru](https://ailoot.ai/blog/cs/hermes-agent-vps-24-7/) a návod na nastavení bota [v příručce k nastavení Hermes v Telegramu](https://ailoot.ai/blog/cs/hermes-agent-telegram-setup/).

## Když se něco pokazí

| Co vidíte | Co dělat |
|----|----|
| Při spuštění se objeví „Connection refused“ | Ollama neběží: `ollama serve` nebo `sudo systemctl start ollama` |
| `provider 'ollama' has no endpoint configured` | Zadejte adresu Ollamy do `providers.ollama.base_url` nebo `model.base_url` |
| Agent odpovídá, ale nic nedělá | Model neumí volat nástroje; nainstalujte `gemma4:31b` a nastavte kontext na 64 000 |
| Chyby způsobené kontextem | Neprovedli jste krok 3 |
| Dlouhé konverzace jsou pomalé | Pravidelně spouštějte `/compress` |

## Záložní cloudový model

Dokumentace Hermes doporučuje ponechat lokální model jako primární a připojit cloudový model jako záložní. Uděláte to tak, že vedle sekce `model` v souboru `~/.hermes/config.yaml` přidáte blok z dokumentace:

[Najděte návody k nástrojům v dokumentaci Ailoot](https://ailoot.ai/docs/)

Pokud lokální model třikrát selže, Hermes odešle úkol cloudovému modelu. Tyto požadavky jsou zpoplatněné a putují do cloudu.

Další možností je nechat výkonný model na předplatném, aby přemýšlel a rozhodoval, zatímco lokální model bude zvládat rutinní úkoly. Cílem je zachovat kvalitu a postupně snižovat náklady na tokeny. Tento přístup používá levnější modely pro jednotlivé kroky, přičemž lokální modely mohou být možnou volbou později. Článek „Kolik stojí AI agent pro podnikání?“ popisuje cenu agentů na předplatném. Pokud jste Hermes ještě nenainstalovali, začněte návodem [jak nainstalovat Hermes Agent](https://ailoot.ai/blog/cs/hermes-agent-install-setup/).

Už jste zkoušeli nastavit lokální model? Co na něm provozujete? Napište nám, zajímá nás to.

<div class="section" role="doc-bibliography" aria-label="Sources">

### Zdroje

- [Hermes Agent: Run Hermes Locally with Ollama](https://raw.githubusercontent.com/NousResearch/hermes-agent/357f51c49106f47136caf9b01015467b7b633fe8/website/docs/guides%2Flocal-ollama-setup.md) - hardwarové požadavky, instalace a ověření Ollamy, tabulka modelů a volání nástrojů, velikosti kontextu 2 048 a 64 000, připojení přes Custom Endpoint, první odpověď a časový limit, uvolnění po 5 minutách, řešení problémů, záložní poskytovatel (ověřeno 7. října 2026, odpovídá aktuální verzi).
- [Hermes Agent: Local Models](https://raw.githubusercontent.com/NousResearch/hermes-agent/main/website/docs/user-guide/local-models.md) - Local Models v desktopové aplikaci, označení podle paměti, kontext 64K, uvolnění po 15 minutách, `hermes model`, příznak `--local` (získáno 7. října 2026).
- [Ollama: download for Windows](https://ollama.com/download/windows) - příkazy k instalaci na Macu, Linuxu a ve Windows (získáno 7. října 2026).

</div>








Pokračujte v objevování Ailoot na [ailoot.ai](https://ailoot.ai/).

## Časté otázky

### Jak ověřit použití nástrojů místo věrohodně znějící odpovědi?

Zadejte Hermes malý úkol se soubory a pak sami prohlédněte skutečnou složku a obsah souborů. Seznam vygenerovaný v chatu nedokazuje čtení souborů ani vytvoření artefaktu.

### Udrží záložní místní model všechny požadavky na mém počítači?

Jen pokud požadavky zůstanou u místního modelu. Zde popsaná volitelná záloha po opakovaných místních selháních odešle úkol cloudovému poskytovateli; takové požadavky opouštějí počítač a mohou být placené.


## Ailoot · Společnost a její portfolio projektů

Ailoot staví na dlouhodobých provozních zkušenostech, široké klientské základně, stabilních službách a průběžném sledování KPI.

Společnost a její portfolio projektů: miliony zákazníků; měsíční tržby v miliardách.

Ailoot využívá tyto provozní zkušenosti k poskytování přístupu přes API k funkcím AI v produktech zákazníků, agentech, aplikacích a automatizacích.