První obcí v České republice, která do komunikace s občany zapojila umělou inteligenci, je Mokrá-Horákov na Drahanské vrchovině poblíž Brna. O fungování, nástrahách a okolnostech AI podrobně mluví starosta Matyáš Charvát.

Jak vás vlastně napadlo využít umělou inteligenci při komunikaci s občany?

Ještě před příchodem na radnici jsme si s kolegy dali za cíl kompletně předělat webové stránky naší obce Mokrá-Horákov, neboť signál od občanů byl jasný, web je nepřehledný, informace nejsou logicky seřazeny a spousta dalších informací chybí. A tak jsme v létě 2023 spustili zbrusu nový obecní web ve zcela moderním a uživatelsky přívětivém hávu. A to byl nutný začátek všeho. Již při tvorbě webu jsem se v kanceláři potkal s jedním ze zakladatelů v té době vznikajícího studentského startupu Citymind solutions a dohodli jsme se, že zkusíme vymyslet ještě něco navíc na bázi generativní AI, co by ještě více zjednodušilo a zpříjemnilo komunikaci občanů s úřadem 21. století. Důvod je jednoduchý. V dnešní době probíhá běžná komunikace i získávání informací převážně v digitálním prostředí a veřejná správa by neměla stát stranou.

Můžete stručně popsat, jak celý systém funguje?

Umělá inteligence našla uplatnění v podobě AI chatbota na webových stránkách naší obce Mokrá-Horákov. Dostala jméno Tessa. Je to taková naše virtuální pomocnice. Funguje tak, že když se na náš web dostanete z mobilu nebo z klasické obrazovky počítače, bude vám vždy ve spodní části obrazovky svítit taková bublinka, do které můžete napsat doslova jakýkoliv dotaz. A Tessa vám odpoví včetně kontextu, pokud se dotaz týká samotné obce a odpověď dokáže najít kdekoliv na webu obce například z textů, obrázků či strojově čitelných dokumentů. Když se jí zeptáte na cokoliv jiného mimo fungování obce, tak se omluví, že odpověď nezná. Nelže, nemlží, je slušná a přívětivá.

Tessa má určený prostor, ve kterém pracuje

Kdo přišel se jménem Tessa?

To je dobrá otázka. Pojmenování umělé inteligence učinili přímo vývojáři ze startupu. Je údajně po hrdince slavného románu Thomase Hardyho Tess of the d’Urbervilles. A já si celou dobu myslel, že jméno dostala po vývojářce a spoluzakladatelce startupu Tereze Hrbkové.

Jak probíhalo oživování Tessy a zavedení celého systému?

Alfa a omega úspěchu Tessy spočívá v množství a kvalitě informací dostupných na webových stránkách naší obce. Má určený prostor, ve kterém pracuje a informace zpracovává. A to je právě náš web. Zásadní rozdíl oproti jiným chatbotům je ten, že Tessu informacemi nekrmíte, ona si je sama bere a učí se z nich, ať už jsou na webu uloženy kdekoli a v jakékoli podobě. Zatímco jiné chatboty fungují jen pasivně, kdy otázky kladete jen z přednastavených variant a takový chatbot vám přednastavené odpovědi následně poskytne. A nic dalšího nesvedete. Před spuštěním Tessy bylo nutné si s ní opakovaně povídat a klást nespočet dotazů. Díky tomu jsme z odpovědí získali zpětnou vazbu, že něco na webu není a občan by takovou informaci mohl hledat. Takže jsme vzápětí na web informace doplňovali. Tessa tedy jinými slovy významně zvýšila informační hodnotu našeho webu. Učila se zkrátka od nás a my zase od ní. Jsou to spojené nádoby.

Jaké jsou dosavadní zkušenosti? Nezlobí Tessa, nepostaví si občas Tessa hlavu a netrucuje? Může si něco takového vůbec dovolit?

Dosavadní zkušenost předčila naše očekávání. Už jen tím, jaký zájem médií vyvolala její implementace do praxe. Přidanou hodnotu si leckdo uvědomil již při spuštění, které proběhlo symbolicky 1. května 2024 na svátek práce, kdy má nejen obecní úřad zavřeno a zaměstnanci nabírají síly na další úkoly. Nikoli však Tessa, která neúnavně odpovídala na zvídavé dotazy v jakoukoliv denní i noční dobu. Ukažte mi jednoho jediného státního úředníka, který se vám v době svého volna a ještě k tomu na státní svátek bude nepřetržitě věnovat. Je nutné akceptovat, že AI je nekončící samoučící proces a musíte mu dovolit dělat chyby či nepřesnosti. Tessa se třeba stále učí správně pohybovat v čase, například při dotazu na aktuální kulturní akce totiž občas nabídne i nedávno proběhlé akce.

Pane starosto, řada lidí je dnes otrávená z odpovídajících automatů u bank nebo energetických společností. Nelíbí se jim odcizená komunikací bez člověka na druhé straně. Neobáváte se, že Tessa jen k těmto pocitům přispěje?

Ani se nedivím, že jsou lidé z webových či hlasových automatů u různých institucí otrávení. Obzvláště když s danou institucí nemají jak jinak komunikovat a automat jim nerozumí nebo zkrátka neumí požadavek zpracovat. Sám vím, o čem mluvím. A přesto když se rozhlédnete, zažíva mezi lidmi boom používání nejrůznějších digitálních novinek, jako například nakupování v e-shopech z pohodlí domova, využívání online výdejních boxů, placení kartou z chytrého mobilu nebo hodinek, používání samoobslužných digitálních scannerů a pokladen v obchodech apod. Proč asi? Protože taková technologie není vynucenou náhradou stávajícího zaběhlého procesu, ale je jeho perfektní alternativou. A také necílí na všechny klienty či občany, pouze na ty, kteří o takový způsob stojí. A to je rozdíl. Tessa také nenahrazuje živého člověka, nýbrž ho doplňuje. I když někteří lidé si možná v budoucnu vystačí pouze s Tessou.

Můžete popsat třeba na nějakém příkladu, jak komunikace s Tessou funguje?

Tessu občané ocení zejména v situaci, kdy potřebují získat nějakou informaci o obci či jejím fungování a nemají prostor či nechtějí hledat jen tak na webu obce či náhodně googlit. Třeba když potřebují praktické informace k registraci psa, placení poplatků nebo jak probíhá svoz odpadu, kolik se za něj platí, co dělat v případě nálezu potulné kočky, kde a jak řešit osobní doklady, kam na výlet a nespočet dalšího. Tessa nevyžaduje, abyste se jí ptali na přednastavené otázky. Jednoduše ji svou otázku napíšete. Je tolerantní a dokáže akceptovat gramatické chyby, žargon, chybějící diakritiku apod. Třeba když jí napíšete „kam pro ridicak“, tak vám odpoví úplně stejně, jako kdybyste jí položili květnatou otázku napsanou slohově na jedničku s hvězdičkou. A když má Tessa dobrou náladu, tak vám řekne i vtip. Samozřejmě pouze v případě, když o něj požádáte.

Kolik lidí Tessu využívá? Víte, na co se nejčastěji ptají?

Za první dva měsíce provozu zodpověděla na téměř pět tisíc dotazů. S ohledem na pravidla GDPR samozřejmě není možné zjistit, kdo konkrétně se ptá ani kolik otázek pokládá. Někteří se ptají třeba čistě ze zajímavosti, jiní jen Tessu testují. Někteří lidé kladou Tesse i nekorektní dotazy, ale Tessa je profesionální za každé situace. A vývojářský tým z dotazů a odpovědí dokáže identifikovat takové informace, které by bylo dobré doplnit na web.

Jaké byly pořizovací náklady a administrativní náročnost celého procesu?

Provoz chatbotu nás stojí ročně asi 50 tisíc korun. V ceně jsou obsaženy i předchozí náklady na vývoj. Jednoduchou matematickou operací si můžete spočítat denní náklad a posoudit, zda byste za takovou mzdu dokázali vůbec někoho zaměstnat, aby pro vás pracoval navíc 24 hodin denně sedm dní v týdnu a 365 dnů v roce. Přiznejme si, že růstu produktivity a atraktivity nedocílíme odmítáním všeho nového a už vůbec ne nijak nepodmíněným zvyšováním mezd, nýbrž zvýšenou efektivitou díky zavádění inovací do praxe.

Jakou systém nyní vyžaduje údržbu?

Je to jednoduché. Údržbě chatbotu od samotného spuštění do dnešního dne jsem já se svým týmem věnoval přesně nula minut. Ano, sylšíte správně. Nebudeme přece zavádět do praxe něco, co nám následně přinese zbytečnou práci.

Probíhají nějaké nezávislé testy, zda Tessa funguje správně?

Princip AI je založen na permanentním testování a neustálém zdokonalování. Čím více se Tessy ptáte, tím více ji učíte odpovídat co nejpřesněji.

Uvažujete v současné době o rozšíření celého systému? Případně jakým směrem nebo na jaké agendy?

Rádi bychom, kdyby chatbot uměl pomoci vyplnit formulář konkrétní žádosti, například na užívání veřejného prostranství, ohlášení akce nebo třeba pronájem obecních ploch a prostor. Zajímavostí je, že od spuštění Tessy se nám zvýšilo množství požadavků na pronájem obecních prostor, například pro soukromé oslavy nebo ploch pro reklamu na služby občanům.

Co byste doporučil ostatním starostům, kteří o umělé inteligenci rovněž uvažují, na co si dát pozor, čeho se vyvarovat, jak správně postupovat?

Těm starostům, kteří podobné řešení jako máme my chtějí, a přitom nechtějí investovat svůj čas do kompletního překopání a doplnění informací na webu, vzkazuji, nechoďte do toho. Musíte totiž být sami přesvědčeni o tom, že to má přidanou hodnotu, do které stojí na samotném začátku investovat vlastní čas a chuť. Pokud tomu nevěříte, raději do toho nechoďte, jinak budete zbytečně zklamaní, protože se výsledek nedostaví. Ostatním starostům vzkazuji, ať se nebojí dělat nové věci a třeba stejného nebo podobného chatbota na bázi generativní AI vyzkouší.

Jak se vlastně, pane starosto, díváte na umělou inteligenci? Nemůže se vymknout kontrole a neohrozí jednou celé lidstvo?

Vše je na tomto světě zneužitelné. U AI to však platí několikanásobně, neboť bude-li chtít někdo použít generativní umělou inteligenci, a už se tak i děje, pro šíření dezinformací a ještě mnohem horších věcí, tak to udělá a my to všichni uvidíme v přímém přenosu. Záleží, kam všude AI pustíte a kdo za ní stojí. My AI pustili do komunikace s občany, a to jen, když oni sami o to stojí.

Michal Šverdík