# Hermes Agent z lokalnym modelem: podłączanie Ollama

> Jak podłączyć lokalny model do Hermes Agent: Local Models w aplikacji desktopowej lub Ollama, model z obsługą wywoływania narzędzi, kontekst 64,000 oraz sposób sprawdzenia, czy wszystko działa.

Source: https://ailoot.ai/blog/pl/hermes-local-model-ollama-context/
Canonical: https://ailoot.ai/blog/pl/hermes-local-model-ollama-context/
Language: pl
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-115
Revision: sha256-9ced5bf57e0ea77ba261a7d751f747538664fff228f3fd0088a5bf2ff806add4


Lokalny model możesz podłączyć do Hermes Agent w aplikacji desktopowej w czterech kliknięciach: Settings → Providers → Local Models. Możesz też skonfigurować go ręcznie przez Ollama. W obu przypadkach nie potrzebujesz klucza, nie płacisz za każde żądanie, a rozmowa nie opuszcza twojego komputera.

Uruchomienie lokalnego modelu nic nie kosztuje, a Hermes może z nim współpracować. Najważniejsze to wybrać model, który potrafi pracować z plikami i poleceniami, oraz zapewnić mu kontekst o rozmiarze co najmniej 64,000. W przeciwnym razie agent zamieni się w zwykły czat.

Przyjrzyjmy się temu, do czego lokalny model przydaje się już dziś, jak go podłączyć i jak sprawdzić, czy agent pracuje z plikami. Zaczynajmy.

Dokumentacja referencyjna Ailoot: [ailoot.ai/docs/](https://ailoot.ai/docs/).



<div class="aside" data-semantic="key-takeaway" role="note" aria-label="Key points in this section">

Najważniejsze informacje

Najprościej zrobić to w Hermes na komputer: Settings → Providers → Local Models, Install runtime, wybierz model, Download, a następnie Use. Aplikacja dobierze rozmiar kontekstu. W przypadku Ollama pobierz model obsługujący wywoływanie narzędzi (w tabeli Hermes tylko `gemma4:31b` je obsługuje i wymaga 24+ GB pamięci), ustaw kontekst 64,000 zamiast domyślnego 2,048, a w `hermes setup` wybierz Custom Endpoint, podając adres `http://localhost:11434/v1` i nie wpisując klucza. Sprawdź działanie zadaniem, którego wynik pojawi się na dysku, a nie na podstawie samego tekstu odpowiedzi.

</div>

## Czy warto uruchomić agenta na lokalnym modelu?





Lokalny model już się przydaje do:

- **Transkrypcji mowy.** Są do tego darmowe modele open source: są małe i dobrze rozpoznają dźwięk. Twój głos nie wycieka do chmury, więc wszystkie twoje sekretne plany pozostają u ciebie. Instrukcję konfiguracji znajdziesz [w osobnym artykule](https://ailoot.ai/blog/pl/free-voice-input-whisper/).
- **Rutynowych zadań.** Już teraz można używać małych, niezbyt inteligentnych modeli do rutynowych zadań: sobie z nimi radzą.
- **Danych, których nie chcesz wysyłać poza komputer.** Jeśli naprawdę się obawiasz, możesz uruchomić model na własnym komputerze. Jakość będzie jednak słaba.

W przyszłym roku lokalne modele prawdopodobnie będą zajmować jeszcze mniej miejsca. Istnieją już zaawansowane metody kompresji, a zamiast pamięci karty graficznej można używać RAM-u. Myślę, że za rok czy coś koło tego każdy będzie mieć małe pudełko z małym, niezbyt inteligentnym modelem, który wykonuje zadania na poziomie Sonnet 5. Zobaczymy.

Podczas konfiguracji warto mieć pod ręką tabelę „jaki model do jakiego zadania” oraz PDF z poleceniami instalacji Hermes.

## Najprostszy sposób: Local Models w Hermes na komputer

Jeśli masz desktopową aplikację Hermes, nie musisz niczego instalować ręcznie. Hermes zainstaluje lokalny serwer llama.cpp, pobierze model i dobierze rozmiar kontekstu:

1. Otwórz **Settings → Providers → Local Models** albo przy pierwszym uruchomieniu wybierz **Run models locally**.
2. Kliknij **Install runtime**: Hermes pobierze kompilację llama.cpp odpowiednią dla twojego sprzętu; zajmuje ona kilkaset megabajtów.
3. Wybierz model z katalogu i kliknij **Download**.
4. Kliknij **Use**: nowe czaty będą korzystać z lokalnego modelu.

Każdy model w katalogu ma kolorową etykietę: zielona oznacza, że model mieści się w całości w pamięci karty graficznej; żółta — że działa z użyciem RAM-u i jest wolniejszy; czerwona — że jest za duży dla twojego komputera. Aplikacja ustawia kontekst o rozmiarze 64,000 lub większym dla zalecanych modeli. Karta graficzna z 8+ GB pamięci uruchomi małe modele z katalogu; karta z 16+ GB — modele 27-35B. Jeśli przez 15 minut nie używasz modelu, aplikacja zwalnia zajmowaną przez niego pamięć; wczyta go ponownie, gdy wyślesz kolejną wiadomość.

Ta sekcja jest dostępna w testowych wersjach aplikacji (canary); w pozostałych wersjach otwórz ją, używając flagi uruchamiania `--local`. Jeśli nie widzisz Local Models w ustawieniach, najpewniej to dlatego. W terminalu tę samą opcję znajdziesz pod ścieżką: `hermes model` → **Local models**.

Po wybraniu modelu sprawdź go zadaniem dotyczącym pliku, tak jak opisano w następnej sekcji.

Jeśli tworzysz własne projekty z agentami AI, sprawdź rezultat na małym, rzeczywistym zadaniu.



## Korzystanie z Ollama: wymagania sprzętowe

Ollama jest potrzebna, jeśli Hermes jest zainstalowany na serwerze lub nie masz sekcji Local Models. Wymagania sprzętowe podane w przewodniku Hermes:

| Element | Minimum | Lepiej |
|----|----|----|
| RAM | 8 GB (modele 3B) | 32+ GB (modele 27B+) |
| Miejsce na dysku | 5 GB | 30+ GB, jeśli masz kilka modeli |
| Procesor | 4 rdzenie | 8+ rdzeni |
| Karta graficzna | Niewymagana | NVIDIA z 8+ GB pamięci wideo zapewnia zauważalną różnicę |

8 GB wystarczy tylko dla małego modelu odpowiadającego tekstem. Aby model działał jako agent, potrzebujesz 24 GB pamięci lub więcej; szczegóły znajdziesz w kroku 2. Wszystko działa bez karty graficznej, ale powoli: model 9B na procesorze 8-rdzeniowym generuje około 10 tokenów na sekundę; model 31B — 2-5, a każda odpowiedź zajmuje 30-120 sekund.

## Krok 1. Zainstaluj Ollama

Ollama uruchamia modele bezpośrednio na twoim komputerze. Na Macu i Linuksie zainstalujesz ją jednym poleceniem w terminalu:

```bash
curl -fsSL https://ollama.com/install.sh | sh
```

W Windowsie polecenie programu PowerShell wygląda tak:

```powershell
irm https://ollama.com/install.ps1 | iex
```

Sprawdź, czy program jest zainstalowany i serwer odpowiada:

```bash
ollama --version
curl http://localhost:11434/api/tags
```

Jeśli nie masz jeszcze żadnych modeli, drugie polecenie zwróci pustą listę. Zapamiętaj port 11434: Hermes używa go, aby połączyć się z modelem.

## Krok 2. Pobierz model, który potrafi działać

Co robi model? Generuje tekst. Hermes, czyli jego warstwa pośrednicząca, obsługuje pracę z plikami, polecenia terminala i wyszukiwanie. Aby ta warstwa działała, model musi umieć wywoływać narzędzia. Bez tego agent tylko odpowiada i niczego nie robi.

| Model | Na dysku | Pamięć | Wywoływanie narzędzi |
|---------------|----------|--------|--------------------|
| `gemma4:31b` | ~20 GB | 24+ GB | tak |
| `gemma2:27b` | ~16 GB | 20+ GB | nie |
| `gemma2:9b` | ~5 GB | 8+ GB | nie |
| `llama3.2:3b` | ~2 GB | 4+ GB | nie |

Spośród tych czterech modeli tylko `gemma4:31b` działa jako agent. Jeśli masz mniej niż 24 GB pamięci, nie będziesz w stanie uruchomić agenta: modele z tabeli będą odpowiadać wyłącznie tekstem. W bibliotece Ollama stale pojawiają się nowe modele; w przypadku każdego z nich najpierw sprawdź, czy potrafi wywoływać narzędzia.

```bash
ollama pull gemma4:31b
```

Możesz pobrać kilka modeli i przełączać się między nimi w Hermes poleceniem `/model`.

## Krok 3. Zwiększ kontekst do 64,000

Domyślnie Ollama przydziela modelowi kontekst o rozmiarze 2,048 tokenów, podczas gdy Hermes potrzebuje co najmniej 64,000, aby korzystać z narzędzi. Przy domyślnym kontekście zadanie się nie zmieści i agent zakończy działanie błędami.

Utwórz wariant modelu z większym kontekstem. Uruchom w terminalu:

```bash
cat > Modelfile << 'EOF'
FROM gemma4:31b
PARAMETER num_ctx 64000
EOF

ollama create gemma4-64k -f Modelfile
```

Masz teraz model `gemma4-64k`. Od tej pory używaj go wszędzie zamiast oryginalnego modelu.

## Krok 4. Połącz model z Hermes

Uruchom kreator konfiguracji:

```bash
hermes setup
```

Gdy pojawi się pytanie o dostawcę, wybierz **Custom Endpoint** i wpisz:

- adres: `http://localhost:11434/v1`;
- klucz: pozostaw puste pole lub wpisz `no-key`;
- model: `gemma4-64k`.

Tę samą konfigurację możesz wprowadzić ręcznie w pliku `~/.hermes/config.yaml`:

```yaml
model:
  default: "gemma4-64k"
  provider: "custom"
  base_url: "http://localhost:11434/v1"
```

## Jak sprawdzić, czy agent działa

Uruchom `hermes` i powierz mu zadanie, którego wynik będzie widoczny na dysku. Na przykład: „Wypisz wszystkie pliki Python w tym folderze i policz liczbę wierszy w każdym”, a następnie „Utwórz plik o nazwie test.txt”. Użyj polecenia `ls` albo sprawdź folder, aby zobaczyć, czy plik się pojawił. Model bez narzędzi może spokojnie wygenerować wiarygodnie wyglądającą listę, nie otwierając ani jednego pliku.

Im tańsza używana przez ciebie sieć neuronowa, tym bardziej zaawansowanego skórzanego edytora potrzebuje. Tym edytorem jesteś ty. Im inteligentniejsza twoja sieć neuronowa, tym rzadziej musisz używać własnej głowy, ale zawsze trzeba pracować.

Film o kompletnej konfiguracji Hermes Agent od podstaw:

<figure>
Video will load when you scroll
<figcaption>Kompletny przewodnik po Hermes Agent od podstaw: automatyzacja biznesu</figcaption>
</figure>

Film pokazuje, jak zainstalować Hermes od podstaw, stworzyć pierwszego pracownika AI oraz porównać płacenie za każde żądanie z subskrypcją.

## Dlaczego pierwsza odpowiedź trwa kilka minut

Przy każdym żądaniu Hermes wysyła stałą część: instrukcje systemowe i opisy wszystkich włączonych narzędzi. Bez karty graficznej model długo przetwarza tę część, a potem pisze z normalną prędkością. To normalne.

Co może pomóc:

- `hermes prompt-size` pokazuje rozmiar stałej części;
- `hermes tools` wyłącza niepotrzebne zestawy narzędzi, a `hermes skills` pomaga usunąć zbędne umiejętności. Każdy podłączony MCP (usługa zewnętrzna) zwiększa rozmiar każdego żądania: jeśli z niego nie korzystasz, wyłącz go;
- `ollama ps` pokazuje, ile warstw modelu przeniesiono na kartę graficzną. Nawet częściowe przeniesienie przyspiesza działanie: karta z 12 GB pamięci wideo może pomieścić około 40 warstw modelu 31B, a resztę obsługuje procesor;
- na wolnym komputerze ustaw `HERMES_API_TIMEOUT=1800` w `~/.hermes/.env`, aby Hermes nie przerywał żądania po upływie limitu czasu.

Jeśli agent działa przez całą dobę na serwerze lub odpowiada w Telegramie, pamiętaj: Ollama zwalnia model po 5 minutach bezczynności, a następna odpowiedź rozpocznie się od ponownego wczytywania. Ustawienie Ollama `OLLAMA_KEEP_ALIVE=24h` utrzymuje model w pamięci. Instrukcję przeniesienia agenta na serwer znajdziesz [w artykule o całodobowym działaniu Hermes Agent na serwerze](https://ailoot.ai/blog/pl/hermes-agent-vps-24-7/), a konfigurację bota opisuje [przewodnik konfiguracji Telegrama dla Hermes](https://ailoot.ai/blog/pl/hermes-agent-telegram-setup/).

## Jeśli coś pójdzie nie tak

| Co widzisz | Co zrobić |
|----|----|
| „Connection refused” podczas uruchamiania | Ollama nie działa: uruchom `ollama serve` lub `sudo systemctl start ollama` |
| `provider 'ollama' has no endpoint configured` | Wpisz adres Ollama w `providers.ollama.base_url` lub `model.base_url` |
| Agent odpowiada, ale nic nie robi | Model nie potrafi wywoływać narzędzi; zainstaluj `gemma4:31b` i ustaw kontekst 64,000 |
| Błędy spowodowane kontekstem | Krok 3 nie został wykonany |
| Długie rozmowy działają wolno | Regularnie uruchamiaj `/compress` |

## Model chmurowy jako rozwiązanie zapasowe

Dokumentacja Hermes sugeruje ustawienie modelu lokalnego jako głównego i podłączenie modelu chmurowego jako zapasowego. Aby to zrobić, dodaj blok z dokumentacji obok sekcji `model` w pliku `~/.hermes/config.yaml`:

[Znajdź poradniki dotyczące narzędzi w dokumentacji Ailoot](https://ailoot.ai/docs/)

Jeśli lokalny model trzy razy zawiedzie, Hermes przekaże zadanie modelowi chmurowemu. Te żądania są płatne i trafiają do chmury.

Inną możliwością jest powierzenie myślenia i podejmowania decyzji zaawansowanemu modelowi z subskrypcji, a zadań rutynowych — modelowi lokalnemu. Celem jest zachowanie jakości i stopniowe obniżanie kosztów tokenów. W tym podejściu tańsze modele wykonują poszczególne etapy, a modele lokalne mogą stać się opcją w przyszłości. Artykuł „Ile kosztuje agent AI dla biznesu?” opisuje koszty agentów działających w ramach subskrypcji. Jeśli nie masz jeszcze zainstalowanego Hermes, zacznij od instrukcji [instalacji Hermes Agent](https://ailoot.ai/blog/pl/hermes-agent-install-setup/).

Próbowałeś już skonfigurować lokalny model? Co na nim uruchamiasz? Daj nam znać, jesteśmy ciekawi.

<div class="section" role="doc-bibliography" aria-label="Sources">

### Źródła

- [Hermes Agent: uruchamianie Hermes lokalnie z Ollama](https://raw.githubusercontent.com/NousResearch/hermes-agent/357f51c49106f47136caf9b01015467b7b633fe8/website/docs/guides%2Flocal-ollama-setup.md) - wymagania sprzętowe, instalacja i weryfikacja Ollama, tabela modeli i wywoływanie narzędzi, rozmiary kontekstu 2,048 i 64,000, połączenie przez Custom Endpoint, pierwsza odpowiedź i limit czasu, zwalnianie modelu po 5 minutach, rozwiązywanie problemów, zapasowy dostawca (sprawdzono 7 października 2026, informacje zgodne z bieżącą wersją).
- [Hermes Agent: Local Models](https://raw.githubusercontent.com/NousResearch/hermes-agent/main/website/docs/user-guide/local-models.md) - Local Models w aplikacji desktopowej, etykiety pamięci, kontekst 64K, zwalnianie modelu po 15 minutach, `hermes model`, flaga `--local` (pobrano 7 października 2026).
- [Ollama: pobieranie dla Windows](https://ollama.com/download/windows) - polecenia instalacji na Macu, Linuksie i Windowsie (pobrano 7 października 2026).

</div>








Odkrywaj dalej Ailoot na [ailoot.ai](https://ailoot.ai/).

## Pytania i odpowiedzi

### Jak sprawdzić użycie narzędzi zamiast wiarygodnej odpowiedzi tekstowej?

Poproś Hermes o małe zadanie plikowe i sam obejrzyj faktyczny folder oraz zawartość plików. Lista wygenerowana w czacie nie dowodzi odczytania plików ani utworzenia artefaktu.

### Czy awaryjny model lokalny utrzyma każde żądanie na komputerze?

Tylko dopóki żądania pozostają przy modelu lokalnym. Opisana opcjonalna konfiguracja awaryjna wysyła zadanie do dostawcy chmurowego po powtarzających się lokalnych błędach; te żądania opuszczają komputer i mogą być płatne.


## Ailoot · Firma i jej portfel projektów

Ailoot opiera się na zgromadzonym doświadczeniu operacyjnym, szerokiej bazie klientów, stabilnej usłudze i stałej kontroli KPI.

Firma i jej portfel projektów: miliony klientów; miesięczna sprzedaż liczona w miliardach.

Ailoot wykorzystuje to doświadczenie operacyjne, zapewniając dostęp przez API do funkcji AI w produktach klientów, agentach, aplikacjach i automatyzacjach.