Kaip užtikrinti, kad Hermes Agent veiktų serveryje visą parą

Įdiegus Hermes Agent nešiojamajame kompiuteryje kyla klausimas: kas atsakinės „Telegram“ ir rengs rytines suvestines, kai kompiuteris bus išjungtas? Prie darbo stalo agentas veikia tik tol, kol kompiuteris įjungtas. Norint, kad botas visada būtų prisijungęs ir suplanuotos užduotys būtų vykdomos automatiškai, agentą reikia perkelti į serverį.

Toliau paaiškinta, kaip įdiegti Hermes įprastame „Linux“ serveryje, paversti gateway nuolat veikiančia tarnyba, kuri automatiškai paleidžiama iš naujo paleidus serverį, ir apriboti prieigą, kad nepažįstami žmonės negalėtų patekti į terminalą. Šis vadovas parengtas remiantis oficialia dokumentacija.

Jei Hermes dar visai neįdiegėte, pradėkite nuo atskiros apžvalgos apie tai, kas yra šis agentas ir kaip jį įdiegti. Šiame vadove daroma prielaida, kad agentas jau veikia jūsų kompiuteryje, ir aptariamas tik jo perkėlimas į serverį.

Informacijos apie darbą su Ailoot rasite dokumentacijoje.

Kodėl Hermes Agent verta perkelti iš nešiojamojo kompiuterio į serverį?#

Nešiojamajame kompiuteryje Hermes veikia tik tada, kai jo dangtis atidarytas ir esate netoliese. Uždarykite jį, ir botas nutils; rytinė suvestinė taip ir neateis. Tai netinka tokiai užduočiai kaip „atsakinėti žmonėms žinučių programėlėje ir pasirūpinti reikalais pagal tvarkaraštį“.

Serveris tuo ir skiriasi: jis niekada nemiega ir nuo nieko kito nepriklauso. Įdiegiate jame tą patį Hermes, ir jis veikia be jūsų: atsakinėja „Telegram“ trečią valandą nakties, kiekvieną rytą renka naujienas jus dominančiomis temomis ir išsaugo sesijas tarp paleidimų.

Perkėlimas prasmingas, kai agentas turi nuolatinę užduotį: botas jums ar jūsų komandai, rytinės suvestinės, automatiniai atsakymai arba reguliarus darbas su dokumentais. Jei tik bandote Hermes konkrečiam projektui ir esate šalia, serverio dar nereikia; tai būtų papildomas žingsnis.

Ką reikia pasiruošti prieš diegiant Hermes VPS serveryje?#

Prieš diegdami pasiruoškite tris dalykus.

Serveris. Tiks įprastas „Linux“ VPS. Dokumentacijoje nurodoma, kad pirmojo lygio palaikymas teikiamas „Linux“ ir WSL2 sistemoms, o bandymai atliekami su naujausia „Ubuntu“ versija. Jei sistema turi glibc, systemd ir įprastą katalogų struktūrą, Hermes įsidiegs tinkamai. Tai svarbu serveryje, nes visi toliau aprašyti automatinio paleidimo veiksmai priklauso nuo systemd, kuris įtrauktas į „Ubuntu“ ir „Debian“ sistemas.

SSH prieiga. Prie serverio jungiamasi per terminalą naudojant SSH; ten pelės nenaudosite. Visos toliau pateiktos komandos vykdomos šioje SSH sesijoje. Jei kuriate programinį kodą pasitelkdami vibe coding ir dar nesijaučiate patogiai naudodamiesi terminalu, nesijaudinkite: komandų tik kelios ir kiekvieną galite nukopijuoti visą.

Pasirinktas modelis. Agentas nemąsto savarankiškai; jis kreipiasi į modelį. Jei serveris veikia be jūsų, svarbu, kad prieiga prie modelio nenutrūktų. Paprasčiausias variantas – Nous Portal prenumerata per hermes setup --portal: prisijungimui naudojamas OAuth, o tokenas atnaujinamas automatiškai. Tinka ir jūsų pačių API raktai, tačiau tuomet pasirūpinkite, kad paskyroje būtų lėšų – headless agentas su tuščiu balansu tiesiog nutils. Modelio konteksto langas turi būti bent 64 000 tokenų, kitaip Hermes atsisakys su juo paleistis. Visi sąraše esantys debesijos modeliai šį reikalavimą atitinka.

Kaip vienu nurodymu įdiegti Hermes Agent serveryje?#

Diegimas serveryje beveik toks pat kaip nešiojamajame kompiuteryje, tik yra vienas skirtumas: agentui ten paprastai nereikia naršyklės. Be to, naršyklės automatizavimui reikia daug išteklių naudojančio Chromium. Todėl naudojama vėliavėlė --skip-browser.

1. Prisijunkite prie serverio per SSH

   ssh root@your-server-address
   

   Visas toliau pateiktas komandas vykdykite šioje sesijoje, pačiame serveryje.

2. Paleiskite diegimo programą be naršyklės

   curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash -s -- --skip-browser
   

   Skriptas atsisiunčia reikiamą aplinką ir įdiegia komandą hermes. Vėliavėlė --skip-browser praleidžia naršyklės automatizavimo diegimą; serveryje be grafinės sąsajos jis tik užimtų vietą. Jei naršyklės prireiks vėliau, galėsite ją įdiegti atskirai.

3. Iš naujo paleiskite shell ir pasirinkite modelį

   source ~/.bashrc
   hermes setup --portal
   

   Pirmoji eilutė įkelia naują PATH, kad būtų galima rasti komandą hermes. Antroji atidaro prisijungimo prie Nous Portal langą: patvirtinkite prisijungimą, ir agentas gaus modelį bei paslaugas be atskirų raktų kiekvienai iš jų.

4. Patikrinkite diegimą

   hermes doctor
   

   Komanda parodo, kas įdiegta, ko trūksta ir kaip tai sutaisyti. Žali žymėjimai reiškia, kad viskas paruošta.

Prieš pridėdami botą ir tvarkaraštį, pirmiausia sėkmingai užmegzkite paprastą pokalbį tiesiai serveryje: paleiskite hermes ir pateikite paprastą užduotį, kurios atsakymą galima patikrinti. Dokumentacijoje aiškiai patariama nepridėti funkcijų, kol neveikia įprastas pokalbis – tai pagrįsta rekomendacija.

Kaip užtikrinti, kad Hermes veiktų visą parą?#

Gateway yra vienas fone veikiantis Hermes procesas, palaikantis ryšius su visomis žinučių programomis, valdantis sesijas ir vykdantis suplanuotas užduotis. Nuo jo priklauso visas veikimas visą parą. Tikslas – kad šis procesas pasileistų pats ir veiktų nuolat.

Pirmiausia sukonfigūruokite gateway ir prijunkite žinučių programą:

hermes gateway setup

Sąrankos vedlys padės pasirinkti platformas, įvesti boto tokeną ir prieigos sąrašą. „Telegram“ prijungimo veiksmai (boto sukūrimas naudojant BotFather, savo ID suradimas ir tokeno įvedimas) aprašyti pagrindiniame diegimo vadove; čia jų nekartosiu.

Toliau – spąstai, apie kuriuos žmonės dažniausiai pamiršta. Jei tiesiog paleisite hermes gateway, procesas veiks tik tol, kol bus atidaryta SSH sesija. Uždarykite terminalą, ir gateway sustos. Kad ji veiktų nuolat, reikia perduoti ją sistemos valdymui. Tam yra viena komanda:

hermes gateway install

Ji įdiegia gateway kaip tarnybą: „Linux“ sistemoje – kaip naudotojo systemd tarnybą, o macOS sistemoje – per launchd. Sistema stebi procesą ir jam užstrigus paleidžia iš naujo.

Serveryje dažniau prireikia antrojo varianto: sistemos tarnybos, kuri paleidžiama įsijungus kompiuteriui, dar prieš prisijungiant bet kuriam naudotojui:

sudo hermes gateway install --system

Būtent to reikia VPS: serveris paleidžiamas iš naujo, tarnyba pasileidžia pati, o botas vėl prisijungia. Valdykite ją šiomis paprastomis komandomis:

hermes gateway start     # start
hermes gateway stop      # stop
hermes gateway status    # check status

Jei naudojate sistemos tarnybą, prie šių komandų pridėkite sudo ir vėliavėlę --system. Be jų komandos bus taikomos naudotojo tarnybai, o ne tai, kuri paleidžiama įsijungus serveriui:

sudo hermes gateway start --system
sudo hermes gateway stop --system
sudo hermes gateway status --system

Kodėl reikia linger ir kas neveiks be jo?#

Tai dažniausia kliūtis: įdiegėte tarnybą, bet botas naktį vis tiek nutyla. Taip nutinka dėl „Linux“ naudotojo tarnybų veikimo principo.

Naudotojo systemd tarnyba pagal numatytuosius nustatymus susieta su jūsų sesija. Prisijungiate per SSH, paleidžiama jūsų naudotojo tvarkyklė ir tarnyba veikia. Atsijungiate, ir sistema laiko naudotoją neaktyviu, todėl kartu su jūsų gateway išjungia to naudotojo tarnybas. Serveryje, prie kurio prisijungiate ir nuo kurio atsijungiate, tai tampa problema: botas prisijungęs tik tada, kai esate SSH sesijoje.

Tai ištaisyti galima linger režimu, kuris leidžia sistemai palaikyti veikiančią naudotojo tvarkyklę net tada, kai tas naudotojas nėra prisijungęs:

sudo loginctl enable-linger username

Paleidus šią komandą, naudotojo tarnyba veikia savarankiškai ir paleidžiama įsijungus serveriui, nelaukdama jūsų prisijungimo. Be linger grįžtama prie pradinio elgesio: atsijungus nuo SSH gateway išsijungia ir nepasileidžia įsijungus serveriui. Dokumentacijoje tai aiškiai nurodyta.

Kaip paleisti Hermes Docker serveryje su automatiniais paleidimais iš naujo?#

Docker – dar vienas veikiantis būdas laikyti agentą serveryje, ypač jei jau esate įpratę prie konteinerių arba norite izoliuoti agentą nuo pagrindinės sistemos. Vieną kartą sukonfigūruokite jį naudodami docker run ... setup, tada paleiskite konteinerį fone:

docker run -d \
  --name hermes \
  --restart unless-stopped \
  -v ~/.hermes:/opt/data \
  -p 8642:8642 \
  nousresearch/hermes-agent gateway run

Toliau nurodyta, ką daro eilutės, atsakingos už veikimą visą parą:

• -d – konteineris veikia fone ir nepalieka atidaryto terminalo.
• --restart unless-stopped – Docker atkuria konteinerį po serverio paleidimo iš naujo arba strigties. Jis nepaleidžiamas iš naujo tik tuo atveju, jei sustabdėte jį rankiniu būdu.
• -v ~/.hermes:/opt/data – nustatymai, raktai, sesijos ir atmintis laikomi serveryje, už konteinerio ribų, ir išlieka jį sukūrus iš naujo.

Atvaizde yra dar viena apsaugos priemonė: gateway procesą prižiūri s6. Jei gateway užstringa, per kelias sekundes ji paleidžiama iš naujo, o pats konteineris neprarandamas. Tai dviguba apsauga: Docker iš išorės palaiko veikiantį konteinerį, o s6 stebi procesą jo viduje.

Atminkite vieną Docker naudojimo skirtumą: šie diegimai neatnaujinami komanda hermes update. Norėdami atnaujinti Docker, pakeiskite atvaizdą nauju – atsisiųskite naujausią ir iš naujo sukurkite konteinerį.

Kaip patikrinti, ar viskas veikia ir ar atlaikys paleidimą iš naujo?#

Naudotojo tarnybos būseną ir žurnalus patikrinkite taip:

hermes gateway status
journalctl --user -u hermes-gateway -f

VPS rekomenduojamai sistemos tarnybai naudokite sistemos sritį:

sudo hermes gateway status --system
sudo journalctl -u hermes-gateway -f

Pirmoji komanda tikrina pasirinktą tarnybą, antroji seka tos pačios srities žurnalą. Šie tarnybų pavadinimai taikomi numatytajam ~/.hermes diegimui. Kiti Hermes namų aplankai gali turėti tarnybos pavadinimą su priesaga: patikrinkite būsenos išvestį ir naudokite tikslų pavadinimą. Bandydami sistemos diegimą nestebėkite naudotojo tarnybos. Hermes žurnalai saugomi ~/.hermes/logs/, o paslaptys juose automatiškai pašalinamos, todėl juos saugu siųsti pagalbos tarnybai.

Dabar paleiskite serverį iš naujo ir įsitikinkite, kad agentas vėl pasileidžia pats. Tai pagrindinis serverio bandymas, kurį žmonės dažniausiai pamiršta:

sudo reboot

Kai serveris vėl pasiekiamas, prisijunkite per SSH. Sistemos diegimui patikrinkite sudo hermes gateway status --system ir sistemos žurnalą; naudotojo diegimui su linger — hermes gateway status ir naudotojo žurnalą. Tada parašykite botui „Telegram“. Jei jis atsako jums nedalyvaujant, automatinis paleidimas sukonfigūruotas tinkamai. To ir siekėme.

Nereikia jaudintis, kad prarasite pokalbį. Hermes įrašo sesijas į diską, ir jos išlieka gateway paleidus iš naujo. Be to, jei gateway užstringa tuo metu, kai siunčia atsakymą, po veiklos atkūrimo tą atsakymą pristatys, o ne vykdys užduotį dar kartą. Tai svarbu visą parą veikiančiam botui: netikėtas paleidimas iš naujo pokalbio nenutrauks.

Kaip apsaugoti agentą, turintį prieigą prie terminalo serveryje?#

Serveryje veikiantis agentas – tai terminalo prieigą turinti programa, veikianti be jūsų priežiūros. Pirmiausia patikrinkite šiuos tris nustatymus.

Uždaryta boto prieiga. Pagal numatytuosius nustatymus gateway atsako tik prieigos sąraše esantiems žmonėms arba tiems, kurie asmeninėje žinutėje užbaigė susiejimą kodu. Taip turi veikti botas, turintis prieigą prie terminalo: atsitiktinis žmogus, parašęs botui, nieko negali padaryti. Sąrašas nustatomas naudojant skaitinius ID, pavyzdžiui, „Telegram“ atveju:

TELEGRAM_ALLOWED_USERS=123456789,987654321

Pavojingų komandų patvirtinimas. Prieš atlikdamas ką nors destruktyvaus agentas prašo jūsų leidimo. Yra YOLO režimas, kuris išjungia patvirtinimus; geriausia jo neįjungti serveryje, veikiančiame be jūsų. Patvirtinimai skirti būtent tam, kad be jūsų žinios neįvyktų nieko negrįžtamo.

Smėlio dėžė visiškai izoliacijai. Jei norite, kad agentas fiziškai negalėtų pasiekti pagrindinės serverio sistemos, jo komandas vykdykite Docker konteineryje:

hermes config set terminal.backend docker

Tuomet viskas, ką agentas daro terminale, vyksta izoliuotoje smėlio dėžėje ir negali pasiekti veikiančio serverio. Tai protinga apsaugos priemonė, kai leidžiate agentui veikti savarankiškai.

Ką daryti, jei botas tyli arba gateway sugenda?#

Kai botas nustoja atsakyti, atlikite šiuos veiksmus nurodyta tvarka. Pirmiausia tikrinkite įdiegtą sritį: sistemos tarnybai — sudo hermes gateway status --system ir sistemos žurnalą, naudotojo tarnybai — hermes gateway status ir naudotojo žurnalą. Jei gateway veikia, bet pranešimai nepraeina, beveik visada kalta platformos konfigūracija: neteisingas boto tokenas arba asmuo neįtrauktas į prieigos sąrašą. Dar kartą paleiskite hermes gateway setup tame pačiame Hermes namų aplanke, tada pasirinktą tarnybą patikrinkite su hermes gateway status --system sistemos sričiai arba hermes gateway status naudotojo sričiai. Sėkminga sąranka neįrodo, kad veikia tinkamas gateway.

Jei modelis pateikia tuščius arba keistus atsakymus, patikrinkite jį komanda hermes model ir patvirtinkite paslaugos teikėją bei prisijungimą. Bendroji atkūrimo seka, kuri grąžina sistemą iš būsenos „viskas sugedo“ į veikiančią, yra tokia: hermes doctor, hermes model, hermes setup, tada hermes gateway status --system sistemos diegimui arba hermes gateway status naudotojo diegimui.

Dar vienas dalykas apie retą, bet nemalonų atvejį, kai visas procesas užstringa, nors iš tikrųjų nesugenda. systemd tarnyba turi watchdog laikmatį: pridėkite šią eilutę prie ~/.hermes/config.yaml ir iš naujo įdiekite tarnybą.

gateway:
  systemd_watchdog_seconds: 120

# VPS sistemos tarnybai (tas pats Hermes namų aplankas kaip pradiniame diegime):
sudo hermes gateway install --system --force
sudo hermes gateway status --system

Naudotojo tarnybos atveju atkurkite tik tą sritį su hermes gateway install --force ir patikrinkite hermes gateway status. Pasirinkite vieną sritį; vienam gateway taisyti neįdiekite abiejų.

Po to gateway reguliariai siunčia sistemai signalą „veikiu“, o signalams nustojus ateiti, systemd automatiškai paleidžia procesą iš naujo. Tai veikia tik „Linux“ sistemoje su systemd ir tik procesui užstrigus. Watchdog laikmatis neturi įtakos įprastam ryšio nutrūkimui tarp serverio ir žinučių programos.

Ko dar klausiama apie Hermes Agent serveryje?#

Susipažinkite su Ailoot.