AI Act je první unijní regulace, která harmonizuje trh s umělou inteligencí

Eva Kubálková z KPMG vysvětluje, co přinese poskytovatelům a uživatelům tzv. AI Act – nařízení, které reguluje umělou inteligenci.

KPMG je poradenská firma. Jak se stalo, že jste se začali zajímat o AI?

Začala být poptávka trhu. V současné době firmy AI používají, aby neztrácely konkurenceschopnost, nebo aby jim neujížděl vlak na trhu s inovacemi. Ale zároveň tu není platná regulace, která by upravovala postupy. Manažeři firem se nás nejčastěji obracejí s otázkou, jak mají umělou inteligenci řídit napříč celou firmou, a jak nastavit odpovědnost: kdo je a má být odpovědný za výstupy AI. Důležité je i to, že na začátku roku bude schvalováno první regulace, které harmonizuje umělou inteligenci. Je to velká komplexní regulace. Firmy se nás samozřejmě ptají i na to, jaké konkrétní povinnosti na ně s implementací regulace dopadnou a co mají dělat pro to, aby byly v souladu s nařízením.

Říkala jste, že AI je už běžnou součástí práce. Dá se říci, jaké firmy nejčastěji s AI pracují? Z jakých odvětví?

Zejména ty, které shromažďují velké množství dat. Jsou to především firmy z odvětví bankovnictví, finančního sektoru, automobilového průmyslu, energetiky, pak firmy, které aplikace založené na AI vyvíjejí nebo zprostředkovávají. Vlastně to dopadá na všechny.

Zabýváte se asi hlavně právními aspekty. Co se změní v tomto ohledu?

S regulací přichází celá řada povinností, které je třeba promítnout do firemních procesů, ale i samotných AI produktů. Nezáleží na tom, jestli systém AI užíváte, nebo jej poskytujete. Vždycky byste měli být schopni vysvětlit,  na základě čeho se daný systém rozhoduje. Proto musí být vývojáři transparentní vůči celému dodavatelskému řetězci, aby byl uživatel nejen dostatečně informován, ale věděl, jak daný produkt používat.

Že je třeba AI regulovat, na to by možná leckdo přitakal. Ale jaký argument nakonec převážil?

Nařízení člení AI do čtyř kategorií. První kategorie jsou systémy, které představují nepřijatelné riziko a budou úplně zakázané. Říkám tomu „příklady dobré praxe z Číny“ a jde hlavně o sociální skóring, biometrickou identifikaci, ale i využívání podprahových technik za účelem ovlivňování chování.  EU nás tak chrání proti systémům, které jsou v rozporu s evropskými hodnotami.

AI už postupně proniká i do veřejné správy.

Už jsme zvyklí na různé asistenty nebo chatboty, kteří odpovídají místo úředníka nebo rovnou tvoří jeho „digitální dvojče“. Takže na běžný dotaz občana dokáže AI nejen odpovědět, ale ihned vygenerovat předmětnou žádost. Dokážu si představit, že v následujících letech budou ve veřejné správě různé aplikace AI pro komunikaci s občany naprosto běžné.

Na úřadech je stále hodně manuální práce. I tam může AI pomoci?

Určitě. Takovéto systémy, které Vám dokumenty (například smlouvy) nejen digitalizují, ale umožňují v nich i jednoduše vyhledávat, dodáváme. Zároveň se eliminuje riziko chyb při ručním přepisování. Na úřadech je ještě velký prostor pro automatizaci.

Jste právnička, tak mi určitě zodpovíte dotaz, jak si taková chytrá aplikace rozumí s GDPR a kybernetickou bezpečností.

Samozřejmě nežijeme v právním vakuu. Umělá inteligence je závislá na datech – bez nich by nebyla. Proto je v kontextu dat GDPR zásadní regulací, neboť musím vědět, jestli je náhodou nepoužívám, a když ano, zdali mám na to svolení. Kybernetické hrozby a související povinnosti adresuje přímo směrnice NIS II (ozn red. najdete na našem webu), nicméně i AI Akt stanoví, že poskytovatelé AI musí tyto systémy dostatečně zabezpečit.

Nařízení asi také zavádí určité sankce…

Za porušení nařízení hrozí sankce ve výši 35 milionů Eur nebo 7 % celosvětového ročního obratu. Proto doporučujeme firmám, které už AI využívají, aby si udělaly kontrolu, zda jsou s regulací v souladu.

Starosta bude pravděpodobně v roli uživatele, to znamená, že na něj nebude kladen takový tlak jako na poskytovatele nebo vývojáře. Pokud bude využívat nějaký vysoce rizikový systém, tak jej musí například monitorovat.

AI a samosprávy – přes výše uvedené přináší více pozitiv než negativ.

Žijeme v 21. století a společnost si to žádá. V rámci digitalizace by obce měly jít s dobou a snažit se ulehčit život svým zaměstnancům i občanům. Umím si představit aplikaci, díky níž si vyřídím vše potřebné cestou vlakem do práce a na úřad nebudu muset chodit

Jaký servis byste mohli obcím poskytnout?

Kromě konkrétních řešení AI, a kontrolu toho, že jsou současně využívané systémy v souladu s regulací je pro nás důležitý i etický. Obcím tedy můžeme pomoci se soupisem etického kodexu, a to zejména v době kdy ještě není regulace účinná. V neposlední řadě můžeme pomoci s nastavením celé AI strategie. Nedává smysl, aby každý útvar úřadu používal jiné systémy nebo komponenty, které si spolu „nerozumí“ – byť jsou uměle inteligentní.

Pokud by obce chtěly vědět, jak si stojí mezi ostatními v oblasti AI, prosíme o vyplnění krátkého dotazníku