Evropský parlament začátkem března schválil nová pravidla pro fungování umělé inteligence. Akt o umělé inteligenci, který je podle expertů prvním svého druhu na světě a mohl by ovlivnit podobné normy také v zemích mimo Evropskou unii, připravil pro firmy a podnikatele využívající jakoukoli formu AI velkou výzvu. Ta jejich fungování změní možná ještě výrazněji než zavedení GDPR. Co konkrétně nařízení přináší?
„Akt“ v první řadě zavádí klasifikaci příslušných technologií podle způsobu využití a nastavuje různé úrovně omezení podle míry souvisejících rizik. Některé systémy chce EU zcela zakázat, další nástroje, jako algoritmy na rozpoznávání obličejů, budou podléhat silné regulaci. Nová pravidla by podle zákonodárců především měla zajistit, aby umělá inteligence byla důvěryhodná, bezpečná, respektovala základní práva EU a podporovala inovace. Pro normu hlasovala naprostá většina, 523 ze 705 europoslanců.
Legalizace plošného sledování lidí?
Jak informovala agentura ČTK, asi největší spory se v Evropském parlamentu (EP) vedly ohledně používání AI k biometrickému sledování v reálném čase, tedy o možnost využívání systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Někteří europoslanci, například z české strany Piráti, se obávali zneužití umělé inteligence v této oblasti autoritativními režimy. Právě Piráti s konečnou verzí spokojeni nebyli, a proto hlasovali proti aktu. Legislativa totiž podle nich legalizuje užití umělé inteligence k plošnému sledování lidí za pomoci biometrických kamer, které umí podle obličejových rysů rozpoznat identitu člověka. Podle pirátského europoslance Marcela Kolaji jde o velké zklamání a promarněnou příležitost jasně v celé Evropě odmítnout autoritářské praktiky, které známe z Číny či Ruska.
„Akt o umělé inteligenci měl mimo jiné zakázat ty nejvíce nebezpečné způsoby využití umělé inteligence a nastavit základní mantinely, za které technologii v zájmu lidských práv prostě pustit nemůžeme. Bohužel v případě biometrických kamer dělá pravý opak,“ upozornil Kolaja pro ČTK. „Programy umělé inteligence umí v reálném čase rozpoznávat obličeje a přiřazovat je ke konkrétním lidem. Umožňují v reálném čase sledovat, kdo, kdy a kde je a s kým. V nesprávných rukou jde o děsivý nástroj plošného sledování lidí, což vidíme třeba v dnešním Rusku. Tam jsou nainstalovány třeba v metru a zneužívány ke špehování těch, kdo si dovolí mít ,nesprávný‘ názor.“
Co je regulační pískoviště
Pískoviště jsou kontrolovaná prostředí, kde mohou společnosti testovat své výrobky a služby a zároveň spolupracovat s příslušnými regulačními orgány. Toto pískoviště má poskytnout právní jistotu decentralizovaným technologickým řešením, tím, že z právního a regulačního hlediska určí překážky jejich zavádění a poskytne právní poradenství, regulační zkušenosti a pokyny v bezpečném a důvěrném prostředí. Mělo by rovněž umožnit regulačním orgánům a orgánům dohledu rozšířit jejich znalosti o špičkových technologiích a sdílet osvědčené postupy prostřednictvím dialogů.
Například vloni Evropská komise spustila regulační pískoviště pro blockchain. V letech 2023 až 2026 bude pískoviště každoročně podporovat 20 projektů, včetně případů použití ve veřejném sektoru na evropské infrastruktuře blockchainových služeb (EBSI), což je projekt zahrnující více zemí v rámci digitální dekády podporovaný EK, všemi členskými státy, Norskem a Lichtenštejnskem.
Zákaz pro některé aplikace
Podle stanoviska, které vydali zpravodajové EP, nicméně nová pravidla zakazují některé aplikace umělé inteligence, které ohrožují práva občanů. Týká se to například systémů biometrické kategorizace, která je založená na citlivých charakteristikách, necíleného stahování snímků obličeje z internetu nebo kamerových záznamů za účelem vytvoření databází rozpoznávání obličeje.
Zakázány budou také systémy rozpoznávání emocí na pracovišti a ve školách, hodnocení sociálního kreditu osob, prediktivní policejní práce (je-li založena výhradně na profilování určité osoby nebo posouzení jejích charakteristik) a umělá inteligence, která manipuluje s lidským chováním nebo zneužívá zranitelnosti lidí.
Větší výzva než GDPR
Jak na konci loňského roku ve svém komentáři upozornil Jakub Tesař, vedoucí týmu inovací, digitálních řešení a nových technologií EY Česká republika, pro firmy a podnikatele je výzva spojená s chystaným nástupem aktu o umělé inteligenci jednou z největších v posledních letech. Přinejmenším srovnatelná třeba s tím, co museli podstoupit se zavedením obecného nařízení o ochraně osobních údajů známého hlavně pod anglickou zkratkou GDPR. A případné nesplnění nových pravidel s sebou má přinést ještě tvrdší finanční postihy, než je tomu v případě ochrany osobních údajů.
„Firmy pracující s jakoukoli formou umělé inteligence tak mají nejvyšší čas se na novou realitu – pokud tak už neučinily – připravit. Samozřejmostí pro podniky pracující s prakticky libovolnou formou umělé inteligence musí být třeba komplexní systémy ochrany potenciálně citlivých dat před kybernetickými útoky,“ uvedl Jakub Tesař.
Obavy o omezení podnikání
Podle Alexe Krasodomskiho, který působí jako vedoucí výzkumný pracovník v Digital Society Initiative, je „akt“ jasným vyjádřením toho, že Evropa věří, že může regulovat umělou inteligenci a zároveň zůstat otevřená pro podnikání. Významná debata kolem návrhu zákona se podle něj soustředila na riziko omezení podnikání v oblasti umělé inteligence na kontinentu. Zákon se opakovaně měnil, aby vyhověl obavám Francie, Německa, Itálie a dalších zemí, pro které je naprostá dominance amerických společností na počátečních trzích s digitálními technologiemi chybou, kterou nechtěly udělat dvakrát.
Zásadní úlohou, kterou podle Krasodomskiho v celosvětovém měřítku hraje regulace EU, je snad především zviditelnění tématu. V důsledku zákona o umělé inteligenci bude její uplatňování v oblasti dohledu, zdravotnictví, vzdělávání a vymáhání práva důkladněji zkoumáno, myslí si analytik. Ať už to bude pro vlády, které hledají řešení, nebo pro občany hledající východisko, norma podle něj jasně osvětlí některá rizika spojená s aplikacemi umělé inteligence.
Součástí schváleného Aktu o umělé inteligenci je také povinnost členských států zajistit, aby měly malé a střední podniky a startupy ještě před uvedením svých produktů na trh možnost vyvíjet a trénovat inovativní umělou inteligenci na tzv. regulačních pískovištích a mohly ji testovat v reálných podmínkách.
Jak europoslanci reagovali na schválení Aktu o umělé inteligenci
Kateřina Konečná (Left – GUE/NGL): „Byl zde potenciál udělat něco pozitivního. To se však nestalo. Biometrické sledování současný text povoluje a zisky nejbohatších zvítězily nad bezpečností.“
Karen Melchior (Renew): „Jsem hrdá na to, že se nám podařilo dosáhnout ochrany základních práv občanů, ale zároveň necháváme prostor pro inovace.“
Sergey Lagodinsky (Greens/EFA): „Je zapotřebí kontrolovat budoucí vývoj, než budoucí vývoj bude kontrolovat nás. Přijatá úprava je slabší, než jakou jsem si představoval, nicméně je to lepší než vůbec nic, v řadě ohledů jde o průkopnické nařízení.“
Dita Charanzová (Renew): „Akt o umělé inteligenci vytváří omezení pro vývoj, ale nesmí bránit ve vývoji. Neměli bychom se vzdávat tohoto nástroje z důvodu strachu, u každé inovace existují rizika. Unijní pravidla nastavením mantinelů v AI dávají jasné zadání vývojářům, aby cítili zodpovědnost za to, co vytvářejí.“
Zdroj: ČTK