# Mahalliy model bilan Hermes Agent: Ollama’ni ulash

> Mahalliy modelni Hermes Agentga qanday ulash mumkin: desktop ilovasidagi Local Models yoki Ollama orqali, vositalardan foydalana oladigan model, 64 000 kontekst va uning ishlashini qanday tekshirish haqida.

Source: https://ailoot.ai/blog/uz/hermes-local-model-ollama-context/
Canonical: https://ailoot.ai/blog/uz/hermes-local-model-ollama-context/
Language: uz
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-115
Revision: sha256-4a08000001bf1b5e107d23ef1e91ab77058e86c97660d07d41a6b8a83420bc7d


Mahalliy modelni Hermes Agentga desktop ilovasi orqali Settings → Providers → Local Models bo‘limida to‘rt marta bosib yoki Ollama orqali qo‘lda ulashingiz mumkin. Har ikkala holatda ham kalit kerak emas, har bir so‘rov uchun pul to‘lamaysiz va suhbat qurilmangizdan tashqariga chiqmaydi.

Mahalliy modelni ishga tushirish bepul, Hermes esa u bilan ishlay oladi. Asosiysi, fayllar va buyruqlar bilan ishlay oladigan modelni tanlash va unga kamida 64 000 kontekst berish; aks holda agent oddiy chatga aylanadi.

Keling, bugun mahalliy model qayerda foydali ekanini, uni qanday ulashni va agent fayllar bilan ishlayotganini qanday tekshirishni ko‘rib chiqamiz. Boshladik.

Ailoot ma’lumotnoma hujjatlari: [ailoot.ai/docs/](https://ailoot.ai/docs/).



<div class="aside" data-semantic="key-takeaway" role="note" aria-label="Ushbu bo‘limning asosiy xulosasi">

Asosiy xulosalar

Eng oson yo‘li — Hermes desktop ilovasida: Settings → Providers → Local Models, Install runtime, modelni tanlash, Download, so‘ng Use. Ilova kontekst hajmini o‘zi tanlaydi. Ollama bilan: vositalardan foydalana oladigan modelni yuklab oling (Hermes jadvalidagilardan faqat `gemma4:31b` buni qo‘llab-quvvatlaydi va unga 24+ GB xotira kerak), standart 2,048 o‘rniga kontekstni 64,000 qilib belgilang, so‘ng `hermes setup` ichida Custom Endpoint’ni tanlab, `http://localhost:11434/v1` manzilini kiriting va kalit qoldirmang. Javob matni bilangina emas, diskda natija hosil qiladigan vazifa bilan tekshiring.

</div>

## Agentni mahalliy modelda ishlatish kerakmi?





Mahalliy model hozirdanoq foydali bo‘ladigan holatlar:

- **Nutqni matnga aylantirish.** Buning uchun bepul, ochiq modellar bor: ular kichik va audioni yaxshi taniydi. Ovozingiz bulutga chiqmaydi, demak, barcha maxfiy rejalaringiz o‘zingizda qoladi. Buni qanday sozlash haqida [alohida maqolada](https://ailoot.ai/blog/uz/free-voice-input-whisper/) bosqichma-bosqich yo‘riqnoma bor.
- **Muntazam vazifalar.** Oddiy vazifalar uchun hozirdanoq sodda, kichik modellardan foydalanishingiz mumkin: ular bunday ishlarning uddasidan chiqadi.
- **Tashqariga yuborishdan xavotirlanadigan ma’lumotlar.** Haqiqatan xavotirda bo‘lsangiz, modelni o‘z qurilmangizda ishlatishingiz mumkin. Ammo sifati past bo‘ladi.

Kelasi yili mahalliy modellar, ehtimol, yanada kam joy egallaydi. Kuchli siqish usullari allaqachon bor, videoxotira o‘rniga operativ xotiradan foydalanish mumkin. Menimcha, bir yilcha ichida hammada Sonnet 5 darajasida vazifalarni bajaradigan sodda, kichik model o‘rnatilgan mitti quti bo‘ladi. Ko‘ramiz.

Sozlash uchun “qaysi vazifaga qaysi model” jadvali va Hermes’ni o‘rnatish buyruqlari yozilgan PDF faylni yoningizda tutish foydali.

## Eng oson yo‘li: Hermes desktop ilovasidagi Local Models

Agar sizda Hermes desktop ilovasi bo‘lsa, hech narsani qo‘lda o‘rnatishingiz shart emas. Hermes mahalliy llama.cpp serverini o‘rnatadi, modelni yuklab oladi va kontekst hajmini o‘zi tanlaydi:

1. **Settings → Providers → Local Models** bo‘limini oching yoki ilk ishga tushganda **Run models locally** bandini tanlang.
2. **Install runtime** tugmasini bosing: Hermes qurilmangizga mos llama.cpp yig‘ilmasini yuklab oladi; uning hajmi bir necha yuz megabayt.
3. Katalogdan model tanlang va **Download** tugmasini bosing.
4. **Use** tugmasini bosing: yangi chatlar mahalliy model orqali ishlaydi.

Katalogdagi har bir model rangli yorliq bilan ko‘rsatiladi: yashil — model videoxotiraga to‘liq sig‘adi, sariq — operativ xotira orqali ishlaydi va sekinroq, qizil — kompyuteringiz uchun haddan tashqari katta. Ilova tavsiya etilgan modellar uchun 64,000 yoki undan ko‘p kontekst o‘rnatadi. 8+ GB xotirali videokarta katalogdagi kichik modellarni, 16+ GB xotiralisi esa 27-35B modellarni ishlata oladi. Modeldan 15 daqiqa foydalanilmasa, ilova uni xotiradan chiqaradi; keyingi xabarni yuborganingizda qayta yuklaydi.

Bu bo‘lim ilovaning sinov (canary) yig‘ilmalariga kiritilgan; boshqa yig‘ilmalarda uni `--local` ishga tushirish bayrog‘i bilan oching. Sozlamalarda Local Models ko‘rinmasa, ehtimol sababi shu. Terminaldan ayni yo‘l: `hermes model` → **Local models**.

Modelni tanlaganingizdan so‘ng, quyidagi bo‘limda ko‘rsatilganidek, fayl bilan ishlaydigan vazifa orqali tekshiring.

Agar AI agentlar bilan o‘z loyihalaringizni qursangiz, natijani kichik, haqiqiy vazifada tekshirib ko‘ring.



## Ollama’dan foydalanish: qanday uskuna kerak

Agar Hermes serverga o‘rnatilgan bo‘lsa yoki sizda Local Models bo‘limi bo‘lmasa, Ollama kerak bo‘ladi. Hermes qo‘llanmasidagi uskuna talablari:

| Nima | Minimal | Yaxshiroq |
|----|----|----|
| RAM | 8 GB (3B modellar) | 32+ GB (27B+ modellar) |
| Diskdagi joy | 5 GB | Bir nechta modelingiz bo‘lsa, 30+ GB |
| Protsessor | 4 yadro | 8+ yadro |
| Videokarta | Shart emas | 8+ GB videoxotirali NVIDIA sezilarli farq qiladi |

8 GB faqat matnli javob beradigan kichik model uchun yetarli. Model agent sifatida ishlashi uchun 24 GB yoki undan ko‘p kerak; tafsilotlar uchun 2-bosqichga qarang. Videokartasiz hammasi ishlaydi, ammo sekin: 8 yadroli protsessorda 9B model soniyasiga taxminan 10 ta token, 31B model esa 2-5 ta token hosil qiladi va har bir javob 30-120 soniya oladi.

## 1-bosqich. Ollama’ni o‘rnating

Ollama modellarni bevosita kompyuteringizda ishga tushiradi. Mac va Linux’da uni terminalda bitta buyruq bilan o‘rnating:

```bash
curl -fsSL https://ollama.com/install.sh | sh
```

Windows’da PowerShell buyrug‘i:

```powershell
irm https://ollama.com/install.ps1 | iex
```

Dastur o‘rnatilganini va server javob berayotganini tekshiring:

```bash
ollama --version
curl http://localhost:11434/api/tags
```

Hali birorta ham model bo‘lmasa, ikkinchi buyruq bo‘sh ro‘yxat qaytaradi. 11434 portini yodda tuting: Hermes modelga shu port orqali ulanadi.

## 2-bosqich. Harakat qila oladigan modelni yuklab oling

Model nima qiladi? U matn hosil qiladi. Uning ustidagi qatlam — Hermes — fayllar, terminal buyruqlari va qidiruv bilan ishlaydi. Bu qatlam ishlashi uchun model vositalarni chaqira olishi kerak. Bu imkoniyatsiz agent faqat javob beradi, hech narsa bajarmaydi.

| Model         | Diskda | Xotira | Vositalarni chaqirish |
|---------------|----------|--------|--------------------|
| `gemma4:31b`  | ~20 GB   | 24+ GB | ha                |
| `gemma2:27b`  | ~16 GB   | 20+ GB | yo‘q                 |
| `gemma2:9b`   | ~5 GB    | 8+ GB  | yo‘q                 |
| `llama3.2:3b` | ~2 GB    | 4+ GB  | yo‘q                 |

Ushbu to‘rtta model ichida faqat `gemma4:31b` agent sifatida ishlaydi. Xotirangiz 24 GB dan kam bo‘lsa, agentni ishga tushira olmaysiz: jadvaldagi modellar faqat matn bilan javob beradi. Ollama kutubxonasida doim yangi modellar paydo bo‘lib turadi; har birida avval vositalarni chaqira olishini tekshiring.

```bash
ollama pull gemma4:31b
```

Bir nechta modelni yuklab olishingiz va Hermes’da `/model` buyrug‘i bilan ular orasida almashishingiz mumkin.

## 3-bosqich. Kontekstni 64,000 gacha oshiring

Odatiy holatda Ollama modelga 2,048 tokenlik kontekst beradi, Hermes esa vositalar bilan ishlashi uchun kamida 64,000 kerak. Standart kontekstda vazifa sig‘maydi, agent esa xatolar bilan ishlamay qoladi.

Kattaroq kontekstli model variantini yarating. Buni terminalda bajaring:

```bash
cat > Modelfile << 'EOF'
FROM gemma4:31b
PARAMETER num_ctx 64000
EOF

ollama create gemma4-64k -f Modelfile
```

Endi sizda `gemma4-64k` modeli bor. Bundan buyon asl modelni emas, shu modelni hamma joyda ishlating.

## 4-bosqich. Uni Hermes’ga ulang

Sozlash ustasini ishga tushiring:

```bash
hermes setup
```

Provayder haqida so‘ralganda, **Custom Endpoint**ni tanlang va quyidagilarni kiriting:

- manzil: `http://localhost:11434/v1`;
- kalit: bo‘sh qoldiring yoki `no-key` deb kiriting;
- model: `gemma4-64k`.

Xuddi shu sozlamani `~/.hermes/config.yaml` fayliga qo‘lda kiritishingiz mumkin:

```yaml
model:
  default: "gemma4-64k"
  provider: "custom"
  base_url: "http://localhost:11434/v1"
```

## Agent ishlayotganini qanday tekshirish mumkin

`hermes` buyrug‘ini ishga tushirib, natijasi diskda ko‘rinadigan vazifa bering. Masalan: “Ushbu jilddagi barcha Python fayllarini sanab, har biridagi satrlarni hisobla”, so‘ng “`test.txt` nomli fayl yarat”. Fayl paydo bo‘lganini `ls` buyrug‘i bilan yoki jildning ichidan tekshiring. Vositalardan foydalana olmaydigan model birorta faylni ochmasdan ham ishonarli ko‘rinadigan ro‘yxatni bemalol tuzib beradi.

Qanchalik arzon neyron tarmoqdan foydalansangiz, unga shunchalik mohir muharrir kerak bo‘ladi. Bu — siz. Neyron tarmog‘ingiz qanchalik aqlli bo‘lsa, o‘z boshingizni shunchalik kam ishlatishingizga to‘g‘ri keladi, ammo baribir ishlash kerak.

Hermes Agentni noldan to‘liq sozlash haqida video:

<figure>
Video will load when you scroll
<figcaption>Biznesni avtomatlashtirish uchun Hermes Agentni noldan sozlash bo‘yicha to‘liq qo‘llanma</figcaption>
</figure>

Videoda Hermes’ni noldan o‘rnatish, birinchi AI xodimingizni yaratish va har bir so‘rov uchun haq to‘lashni obuna bilan solishtirish ko‘rsatiladi.

## Nega birinchi javobga bir necha daqiqa ketadi

Har bir so‘rovda Hermes o‘zgarmas bir qismini yuboradi: tizim ko‘rsatmalari va yoqilgan barcha vositalar tavsiflarini. Videokartasiz model avval bu qismni uzoq qayta ishlaydi, keyin odatdagi tezligida yozadi. Bu normal holat.

Nimalar yordam beradi:

- `hermes prompt-size` o‘zgarmas qismning hajmini ko‘rsatadi;
- `hermes tools` keraksiz vositalar to‘plamlarini o‘chiradi, `hermes skills` esa ortiqcha ko‘nikmalarni olib tashlashga yordam beradi. Ulangan har bir MCP (tashqi xizmat) har bir so‘rovni kattalashtiradi: foydalanmasangiz, o‘chirib qo‘ying;
- `ollama ps` videokartaga qancha model qatlami ko‘chirilganini ko‘rsatadi. Qisman ko‘chirish ham tezlikni oshiradi: 12 GB videoxotirali videokartada 31B modelning taxminan 40 qatlami ishlaydi; qolganini protsessor bajaradi;
- sekin kompyuterda `~/.hermes/.env` ichida `HERMES_API_TIMEOUT=1800` o‘rnating, shunda Hermes vaqt tugagani uchun so‘rovni uzmaydi.

Agar agent serverda kecha-kunduz ishlasa yoki Telegram’da javob bersa, yodda tuting: Ollama 5 daqiqa harakatsizlikdan keyin modelni xotiradan chiqaradi, keyingi javob esa uni qayta yuklashdan boshlanadi. Ollama’ning `OLLAMA_KEEP_ALIVE=24h` sozlamasi modelni xotirada saqlaydi. Agentni kecha-kunduz serverga ko‘chirish bo‘yicha yo‘riqnoma [Hermes Agentni serverda kecha-kunduz ishlatish haqidagi maqolada](https://ailoot.ai/blog/uz/hermes-agent-vps-24-7/), bot sozlash bo‘yicha esa [Hermes Telegram sozlash qo‘llanmasida](https://ailoot.ai/blog/uz/hermes-agent-telegram-setup/) bor.

## Biror narsa noto‘g‘ri ketsa

| Ko‘rinayotgan holat | Nima qilish kerak |
|----|----|
| Ishga tushganda “Connection refused” | Ollama ishlamayapti: `ollama serve` yoki `sudo systemctl start ollama` |
| `provider 'ollama' has no endpoint configured` | Ollama manzilini `providers.ollama.base_url` yoki `model.base_url` ichiga kiriting |
| Agent javob beradi-yu, hech narsa bajarmaydi | Model vositalarni chaqira olmaydi; `gemma4:31b`ni o‘rnating va unga 64,000 kontekst bering |
| Kontekst sababli xatolar | 3-bosqich bajarilmagan |
| Uzoq suhbatlar sekin | `/compress` buyrug‘ini muntazam bajaring |

## Zaxira variant sifatida bulut modeli

Hermes hujjatlari mahalliy modelni asosiy model sifatida qoldirib, bulut modelini zaxira variant sifatida ulashni tavsiya qiladi. Buning uchun `~/.hermes/config.yaml` ichidagi `model` bo‘limi yoniga hujjatlardagi blokni qo‘shing:

[Ailoot hujjatlaridan vositalar bo‘yicha qo‘llanmalarni toping](https://ailoot.ai/docs/)

Mahalliy model uch marta ishlamasa, Hermes vazifani bulut modeliga yuboradi. Bunday so‘rovlar pulli va bulutga yuboriladi.

Yana bir imkoniyat — kuchli obuna modeliga fikrlash va qaror qabul qilishni topshirib, muntazam vazifalarni mahalliy modelga berish. Maqsad — sifatni saqlab, token xarajatlarini asta-sekin kamaytirish. Bu yondashuv ayrim bosqichlarda arzonroq modellardan foydalanadi, keyinroq esa mahalliy modellar ham variant bo‘lishi mumkin. “Biznes uchun AI agent qancha turadi?” maqolasida obuna asosidagi agentlar narxi tasvirlangan. Hermes’ni hali o‘rnatmagan bo‘lsangiz, [Hermes Agentni qanday o‘rnatish haqidagi](https://ailoot.ai/blog/uz/hermes-agent-install-setup/) yo‘riqnomadan boshlang.

Mahalliy modelni sozlab ko‘rganmisiz? Unda nimani ishga tushiryapsiz? Bizga ayting, qiziqyapmiz.

<div class="section" role="doc-bibliography" aria-label="Manbalar">

### Manbalar

- [Hermes Agent: Hermes’ni Ollama bilan mahalliy ishga tushirish](https://raw.githubusercontent.com/NousResearch/hermes-agent/357f51c49106f47136caf9b01015467b7b633fe8/website/docs/guides%2Flocal-ollama-setup.md) - uskuna talablari, Ollama’ni o‘rnatish va tekshirish, model jadvali va vositalarni chaqirish, 2,048 va 64,000 kontekst hajmlari, Custom Endpoint orqali ulash, birinchi javob va vaqt tugashi, 5 daqiqadan so‘ng xotiradan chiqarish, muammolarni bartaraf etish va zaxira provayder (2026-yil 7-oktabrda tekshirilgan, joriy versiyaga mos).
- [Hermes Agent: Local Models](https://raw.githubusercontent.com/NousResearch/hermes-agent/main/website/docs/user-guide/local-models.md) - desktop ilovasidagi Local Models, xotira yorliqlari, 64K kontekst, 15 daqiqadan so‘ng xotiradan chiqarish, `hermes model`, `--local` bayrog‘i (2026-yil 7-oktabrda olingan).
- [Ollama: Windows uchun yuklab olish](https://ollama.com/download/windows) - Mac, Linux va Windows uchun o‘rnatish buyruqlari (2026-yil 7-oktabrda olingan).

</div>








Ailoot’ni [ailoot.ai](https://ailoot.ai/) saytida o‘rganishda davom eting.

## Ko‘p beriladigan savollar

### Ishonarli matndan vosita haqiqatan ishlatilganini qanday ajrataman?

Hermes’ga kichik fayl vazifasini bering, keyin haqiqiy papka va fayl mazmunini o‘zingiz tekshiring. Chatda yaratilgan ro‘yxat model fayllarni o‘qigani yoki natija faylini yaratganini isbotlamaydi.

### Mahalliy modelga zaxira yo‘l barcha so‘rovlarni kompyuterimda saqlaydimi?

So‘rovlar mahalliy modelda qolganidagina. Bu yerda tasvirlangan ixtiyoriy fallback takroriy mahalliy xatolardan keyin vazifani bulut provayderiga yuboradi. Bunday so‘rovlar kompyuterdan chiqadi va pulli bo‘lishi mumkin.


## Ailoot · Kompaniya va uning loyihalar portfeli

Ailoot to‘plangan faoliyat tajribasi, keng mijozlar bazasi, barqaror xizmat va doimiy KPI nazoratiga tayanadi.

Kompaniya va uning loyihalar portfeli: millionlab mijozlar; oylik sotuvlar hajmi milliardlarda.

Ailoot bu faoliyat tajribasini mijozlar mahsulotlari, agentlar, ilovalar va avtomatlashtirishlarda AI imkoniyatlariga API orqali kirishni ta’minlashda qo‘llaydi.