Využití chatbotů a voicebotů pro zefektivnění komunikace s občany zažívá v české samosprávě boom. Jejich nasazením však práce nekončí, naopak je třeba mít neustálý přehled o tom, co lidé s chatbotem řeší a jak jsou s ním spokojeni.
Taková analýza má i zásadní bezpečnostní význam. Veřejné instituce musí být totiž neustále ve střehu, neboť přibývají rizika spojená s umělou inteligencí (AI), která ohrožují města, obce, kraje i další úřady.
“Bezpečnost i přehled o tom, jaká témata uživatelé s naším chatbotem řeší, jsou pro nás klíčové. Tzv. Insights poskytují obojí, a navíc nám pomáhají chatbota průběžně zlepšovat,” říká Ondřej Šimíček, vedoucí Odboru digitalizace na Krajském úřadu Středočeského kraje.
Nekontrolovaný provoz chatbotů a voicebotů skrývá trojici klíčových hrozeb, které mohou zasáhnout jak občany, tak provoz úřadu:
- Únik citlivých dat a GDPR: Občané běžně zadávají do konverzací s úřadem své osobní údaje, čísla plateb, nebo dokonce citlivé informace o sociální, či zdravotní situaci. Pokud systém tato data nedokáže rozpoznat, omezit a ochránit, hrozí porušení GDPR a následné právní kauzy.
- Halucinace a poškození důvěry: AI, která „halucinuje“, si vymýšlí nepravdivé informace. V případě samosprávy může chatbot šířit dezinformace o místních vyhláškách, stavebních projektech, nebo dokonce negativně komentovat místní politiky. Jeden chybný výstup publikovaný na sociálních sítích pak může snadno zničit důvěru občanů.
- Zneužití chatbota: Uživatelé se stále častěji pokouší chatboty také „hacknout“, aby získali neveřejné informace, speciální přístupy k systémům, nebo aby bota přiměli k chování, které může narušit chod úřadu a způsobit např. finanční škody.
Řešením však není chatboty a voiceboty nenasazovat, ale průběžně auditovat každou konverzaci v plném provozu. Vedení úřadu musí mít přehled o tom, jak si chatbot vede, zda nešíří toxický obsah, nezpracovává nelegální požadavky a zda spolehlivě chrání citlivá data občanů. Bez takového aktivního dohledu se chatbot stává neřízenou střelou, která může veřejné správě způsobit nejprve neviditelnou, ale v důsledku zásadní škodu.
Zjistěte, co analytika ukáže u vás! Kontaktujte nás, nebo nezávazně vyzkoušejte plný potenciál analytiky včetně služby Defender na 14 dní zdarma. Více na evaplatform.ai.
KOMERČNÍ PREZENTACE
