Dlouholetý IT expert Krajského úřadu Kraje Vysočina Petr Pavlinec vysvětluje, proč je práce pro veřejný sektor fascinující
V době, kdy soukromý sektor láká IT odborníky na vysoké platy, existují i tací, kteří nacházejí větší výzvu a smysl ve veřejné správě. „V průmyslové výrobě je IT po čase nuda,“ říká bez okolků vedoucí odboru informatiky, krajského úřadu Vysočina Petr Pavlinec, který před lety vyměnil soukromý sektor za práci pro Kraj Vysočina. Ve veřejné správě podle něj nuda rozhodně nehrozí – a to ani v dlouhodobém horizontu. Když v roce 2000 kraj vznikal, musel si jako nový územní celek vydobýt své místo na mapě. Právě tato počáteční pozice však paradoxně pomohla nastartovat ambiciózní přístup k rozvoji kraje.
Velkou výhodou se ukázala možnost sestavit vlastní tým a především kontinuita práce – a to nejen úřednická, ale i politická. „To, co se nastavilo před více než dvaceti lety, se stále respektuje. Díky tomu můžeme realizovat projekty přesahující volební období, což není všude běžné,“ vysvětluje Pavlinec. Právě v tom vidí zásadní rozdíl mezi samosprávou a státní správou. „Naše pozice může být jednodušší. Krajský úřad Kraje Vysočina je v tomto ohledu specifický a možná i proto se k nám ostatní jezdí inspirovat,“ dodává s hrdostí. Kromě stability týmu a kontinuity práce je podle něj klíčová i schopnost inovovat a držet krok s technologickým vývojem. Veřejná správa totiž čelí stejným výzvám jako soukromý sektor – od kybernetické bezpečnosti přes digitalizaci až po zavádění umělé inteligence. Právě různorodost problémů a možnost podílet se na smysluplných projektech ve veřejném zájmu jsou podle něj tím, co dělá práci ve veřejné správě tak zajímavou.
Jedním z největších problémů Evropy je neschopnost marketingu. Máme špičkové odborníky i technologie a služby, ale neumíme je propagovat a prodávat tak dobře jako Amerika nebo Asie. Jako příklad vedoucí IT uvádí málo známý jazykový model Evropské komise, který už několik let nabízí pokročilé funkce pro práci s dokumenty. Model umí něco, co běžné modely nezvládají – překládá celé dokumenty včetně formátování. Nahrajete PDF nebo Word s obrázky a dostanete zpět přeložený dokument se zachovanou strukturou. Specifikem evropského řešení je nutnost identifikace uživatele přes EU login, což Petr Pavlinec považuje za výhodu: „Pro citlivé služby je dobré být jednoznačně identifikovaný. Tento trend následují i další státy.“ Model je navíc natrénován na evropské i národní legislativě a běží v datových centrech Evropské komise.
Pozor na data v AI modelech, varuje expert
„Většina velkých jazykových modelů funguje na principu, kdy nejen platíte za předplatné, ale také odevzdáváte svá data pro další využití,“ upozorňuje Petr Pavlinec. Málokdo si podle něj přečte podmínky použití až do konce, kde například OpenAI otevřeně přiznává, že uživatelská data předává třetím stranám bez kontroly nad jejich dalším využitím. Velké jazykové modely neběží v jednom datovém centru, ale globálně v desítkách center pod různými jurisdikcemi včetně Číny a USA. Proto si musíme dát extrémní pozor, jak tyto nástroje používáme ve veřejné správě. Řešením může být evropská regulace. „Evropa je v regulaci výborná, má to své logické důvody – jsme různorodé společenství států a potřebujeme jasná pravidla pro spolupráci. AI Act je klíčová legislativa, která popisuje hlavní bezpečnostní rizika umělé inteligence a bude závazná pro všechny členské státy,“ dodává.
„Pro úřady platí důležité pravidlo: dokumenty charakteru správního rozhodnutí může vytvořit AI, ale výstup musí zkontrolovat a podepsat člověk,“ vysvětluje Petr Pavlinec. Dodává, že toto opatření je správně nastaveno evropským nařízením AI Act. Pro bezpečné používání AI doporučuje architekturu RAG (Retrieval Augmented Generation). „Tato technologie umožňuje zpracovávat citlivá data lokálně, bez nutnosti je sdílet s velkými jazykovými modely jako GPT. Využívají se open source nástroje jako Langchain, které umí indexovat (tokenizovat) dokumenty a případně i filtrovat citlivé údaje,“ vysvětluje. Jako příklad uvádí zkušenost s implementací AI pro třídění došlé pošty, kde na úřadě narazili na problém s identifikací citlivých dat ve spisové službě. „Nemáme jasně identifikováno, které dokumenty v naší spisové službě jsou veřejné, a které nikoliv,“ přiznává Pavlinec. Přestože má úřad dokumenty pečlivě označené spisovými a skartačními znaky, chybí jednoznačné rozlišení citlivosti dokumentů z pohledu veřejného přístupu. To jim znemožnilo poskytnout kompletní spisovou službu pro trénování AI systému, protože tuší, že obsahuje značné množství citlivých a osobních údajů.
RAG: Bezpečné řešení pro práci s AI
Výše zmíněná architektura RAG představuje řešení pro bezpečnou práci s citlivými daty. Systém předává jazykovému modelu pouze vybrané části dat potřebné pro formulaci odpovědi, přičemž lze kontrolovat, jaký kontext model využije. Klíčovou roli hraje prompt engineering – vytváření přesných instrukcí pro AI. „Na úřadě již používáme systémy s prompty na dvě A4. Je fascinující, jak detailně lze pomocí promptů řídit chování jazykového modelu,“ vyzdvihuje Petr Pavlinec. Jako příklad uvádí nový chatbot, který nedávno spustili na webu úřadu Kraje Vysočina, který bude pracovat s rozsáhlou databází dokumentů z krajské samosprávy – včetně podkladů, zápisů z jednání rady a zastupitelstva za posledních 20 let. Tento obsáhlý archiv využijí k vytrénování chatbota, přičemž budou postupně optimalizovat jeho prompty tak, aby poskytoval přesné a relevantní odpovědi založené na skutečných datech kraje. „Díky RAG architektuře můžeme zajistit bezpečnost citlivých dat, kontrolovat odpovědi AI a současně dodržovat GDPR. Klíčovou předností architektury RAG je i možnost zpětně dohledat, jak AI dospěla ke své odpovědi,“ dodává. Na rozdíl od velkých jazykových modelů, kde proces rozhodování zůstává často nevysvětlitelný i pro jejich tvůrce, nabízí RAG transparentní cestu k pochopení vzniku konkrétní odpovědi.
Výzvy při zadávání IT zakázek
Tradiční model veřejných zakázek na IT systémy dle vedoucího IT naráží na rychlý vývoj AI technologií. „Během našeho interního vývoje s AI jsme každé dva týdny čelili zásadním změnám – nové verze GPT, vylepšená API, či změny v parametrech. S klasickou veřejnou zakázkou by tento dynamický vývoj byl nezvládnutelný,“ říká Pavlinec. Řešením může být podle něj agilní přístup – místo specifikace konkrétního systému soutěžit kapacitu programátorů (body shopping). „Soutěžíme přímo kapacitu a kvalitu programátorů, které pak sami řídíme. Je to sice riskantnější přístup, ale umožňuje nám lépe reagovat na rychlý technologický vývoj. Nyní řešíme, jak nejlépe nastavit kritéria pro hodnocení kvality těchto programátorských týmů,“ popisuje expert. Jeho kolega „bezpečák“ přišel s novým způsobem hodnocení kandidátů při výběrových řízeních na pozice manažerů kybernetické bezpečnosti pro jejich ORP. Vedle běžných kritérií, jako je hodinová sazba, přidali písemný test jako kvalitativní měřítko. „Je to experimentální přístup a jsme zvědaví na výsledky. Tento model má však své podmínky – vyžaduje silný projektový management a jasnou vizi. Pokud organizace nemá kapacity na řízení vlastního týmu, měla by zvážit externí projektové řízení nebo jiný přístup. Je důležité sdílet tyto zkušenosti ve veřejné správě a učit se z nich navzájem.“
Aktuálně Krajský úřad Kraje Vysočina připravuje zakázku na systém podpory úředního vyjadřování s využitím AI. Systém bude zpracovávat existující dokumenty, GIS data a historická vyjádření pro přípravu nových stanovisek, která úředník následně zkontroluje a finalizuje. Využívají přitom model výkonnostního odměňování – dodavatel bude hodnocen podle měřitelných KPI, především podle reálné časové úspory práce úředníků. Podle skutečných výsledků bude dodavatel buď bonifikován, nebo penalizován. Tento přístup podle Petra Pavlince představuje efektivní způsob, jak implementovat rychle se vyvíjející AI technologie do veřejné správy.
Gabriela Rezková
