Regulácia umelej inteligencie (UI)

S rýchlym pokrokom umelej inteligencie sa rozrastá aj diskusia o potrebe regulácií, ktoré by riadili jej využitie a vplyv na spoločnosť. V Európskej únii sa táto debata nedávno posunula do praktickej roviny, keď bola v marci 2024 prijatá prvá komplexná legislatíva na svete týkajúca sa umelej inteligencie – AI Act (AIA). V článku sa budeme venovať otázke, aký vplyv bude mať táto regulácia na budúci vývoj UI a jej aplikácií a pozrieme sa na regulácie UI vo svete.

Cieľ regulácie UI

Cieľom regulácie umelej inteligencie je využiť výhody UI a zároveň minimalizovať jej riziká a zabezpečiť, aby slúžila najlepším záujmom jednotlivcov i celej spoločnosti. Má garantovať, že systémy umelej inteligencie budú zabezpečené, transparentné, monitorované a nediskriminačné. Dozor nad UI by mal vykonávať ľudský faktor, nie automatizácia, s cieľom predchádzať možným negatívnym dôsledkom.

Dôležité je poznamenať, že aj pred prijatím tohto zákona existovali desiatky zákonov a smerníc, ktoré regulujú systémy UI – od ochrany osobných údajov a autorských práv po bezpečnosť a ďalšie. Odvetvia ako zdravotníctvo a financie majú vlastné špecifické regulácie používania UI.

Definovanie rizík UI

Zákon EÚ o umelej inteligencii (AIA) určuje povinnosti pre poskytovateľov a používateľov podľa stupňa rizika spojeného s používaním UI [1]. Zákon definuje štyri úrovne rizika:

  • neprijateľné riziko (unacceptable risk),
  • vysoké riziko (high risk),
  • obmedzené riziko (limited risk),
  • minimálne alebo žiadne riziko (minimal risk).

Neprijateľné riziko: Systémy UI, ktoré sa považujú za jasnú hrozbu pre bezpečnosť, živobytie a práva ľudí, sú zakázané. Zahŕňajú systémy na sociálne hodnotenie občanov, ako aj tie, ktoré manipulujú kognitívne správanie jednotlivcov alebo zraniteľných skupín, ako sú napríklad hlasom aktivované hračky podporujúce nebezpečné správanie detí.

Vysoké riziko: Do tejto kategórie patria systémy umelej inteligencie používané ako bezpečnostné prvky alebo súčasti výrobkov, ktoré podliehajú právnym predpisom EÚ. Tieto systémy sú aplikované v rôznych oblastiach vrátane biometrie, kritickej infraštruktúry, vzdelávania, zamestnanosti, prístupu k základným službám, presadzovania práva, imigrácie, výkonu spravodlivosti a demokratických procesov. Navyše, systémy UI, ktoré vytvárajú profily jednotlivcov, čo znamená automatizované spracúvanie osobných údajov na hodnotenie rôznych aspektov života osoby, ako sú pracovný výkon, ekonomická situácia, zdravotný stav, preferencie, záujmy, spoľahlivosť, správanie, poloha alebo pohyb, sú súčasťou tejto regulácie. Vývojári musia preukázať, že majú zavedené primerané systémy hodnotenia a zmierňovania rizík UI. Taktiež musia zabezpečiť, aby sa na učenie systému UI používali vysokokvalitné súbory údajov, pričom musia existovať záznamy o činnosti, aby sa zabezpečila interpretovateľnosť a dokumentovanie výsledkov. Majú viesť podrobnú dokumentáciu poskytujúcu všetky potrebné informácie o systéme a jeho účele, aby regulačné orgány mohli posúdiť jeho súlad.

Obmedzené riziko: Pri používaní systémov UI, ako sú chatboty, je dôležité, aby ľudia boli informovaní o tom, že komunikujú so strojom, aby mohli urobiť informované rozhodnutie o pokračovaní alebo ukončení interakcie. Zákon tiež požaduje, aby poskytovatelia týchto systémov zabezpečili, že obsah generovaný umelou inteligenciou bude identifikovateľný.

Minimálne alebo žiadne riziko: Zákon umožňuje používanie systémov UI s minimálnym rizikom, čo znamená, že vývojári všeobecne nemusia prijímať dodatočné opatrenia na zabezpečenie súladu systémov, ktoré nasadzujú. Sem patria napríklad videohry s umelou inteligenciou alebo filtre nevyžiadanej pošty.

Dosah regulácie

Nájdenie rovnováhy medzi podporou technologického pokroku a zároveň zabezpečením ochrany práv a bezpečnosti občanov je komplexná úloha. Panuje obava, že nadmerná regulácia by mohla spomaľovať inovačné snahy a tým oslabiť konkurencieschopnosť firiem, ktoré sa zaoberajú UI. To je obzvlášť dôležité v globálnom meradle, keďže firmy pôsobiace v krajinách s menej striktnou reguláciou by mohli mať konkurenčnú výhodu. Európske asociácie v oblasti IT na tento problém poukazujú [4]. Nemecké združenie pre umelú inteligenciu napríklad vydalo varovanie, že AIA by v súčasnej forme mohlo negatívne ovplyvniť európsky ekosystém UI a potenciálne by mohlo viesť ku konkurenčnej nevýhode hlavne voči súperom z USA a Číny [5].

Väčšina ustanovení sa začne uplatňovať 24 mesiacov po nadobudnutí účinnosti s výnimkou niektorých častí, ktoré budú uplatniteľné skôr:

  • Zákaz systémov UI, ktoré predstavujú neprijateľné riziko, sa bude uplatňovať 6 mesiacov po nadobudnutí účinnosti.
  • Kódexy postupov sa budú uplatňovať 9 mesiacov po nadobudnutí účinnosti.
  • Pravidlá týkajúce sa systémov UI na všeobecné účely, ktoré musia spĺňať požiadavky na transparentnosť, sa začnú uplatňovať 12 mesiacov po nadobudnutí účinnosti.

Vysoko rizikové systémy budú mať viac času na splnenie požiadaviek, pretože povinnosti týkajúce sa týchto systémov sa začnú uplatňovať 36 mesiacov po nadobudnutí účinnosti.

Implementácia zákona o umelej inteligencii prináša aj historicky najprísnejšie sankcie za jeho nedodržanie alebo porušenie. Tieto pokuty sa týkajú nielen výrobcov, ale aj poskytovateľov služieb v oblasti umelej inteligencie. AIA stanovuje pokuty od 250 000 € (s okamžitou splatnosťou, za drobné zistenia) až po 30 miliónov eur alebo 6 % z celkového celosvetového ročného obratu za predchádzajúci finančný rok (podľa toho, čo je vyššie), ak ide o porušenia zakázaných praktík alebo nedodržiavanie požiadaviek AIA. Tieto pokuty môžu dostať nielen firmy, ktoré v krajinách EÚ sídlia, prípadne obchodujú, ale aj tie, ktoré poškodili práva občanov EÚ kdekoľvek. Podobne ako zákon o ochrane osobných údajov (GDPR), môže sa AIA stať medzinárodným štandardom v obchodovaní a implementácii umelej inteligencie po celom svete. Preto sa globálni hráči musia pripraviť na audity produktov a služieb UI, ktoré prevádzkujú.

Regulácie UI vo svete

Nielen v EÚ, ale aj v ďalších krajinách je legislatíva ohľadom regulácie UI v platnosti v rôznych oblastiach už dávno. S nástupom generatívnej UI sa však zrodila požiadavka mať integrovaný systém, ktorý bude chrániť všetky spoločenské oblasti. Vlády, regulačné orgány a priemyselní lídri sa snažia vybudovať právny a etický rámec pri používaní UI. Pohľad na rôzne stratégie a odpovede rôznych krajín nám umožňuje pochopiť, ako svet reaguje na narastajúce výzvy a možnosti spojené s rýchlym pokrokom v oblasti umelej inteligencie.

V júli 2023 sa sedem najväčších výrobcov UI v spoločnom vyhlásení zaviazalo k tzv. samoregulácii. V októbri 2023 americký prezident J. Biden podpísal prezidentský výnos ohľadom vývoja UI Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence [2]. Ten sa však týkal len štátnej správy. V USA zakrátko vstúpi do platnosti zákon o algoritmickej zodpovednosti Algorithmic Accountability Act (AAA). Od fyzických a právnických osôb, ktoré používajú systémy generatívnej UI pri kritických rozhodnutiach týkajúcich sa bývania, zdravotnej starostlivosti, vzdelávania, zamestnania, plánovaného rodičovstva a osobných oblastí života, budú vyžadovať, aby určili vplyv na občanov pred použitím algoritmov a potom. Zákony Deep Fakes Accountability Act (DFAA) a Digital Services Oversight and Safety Act (DSOSA) budú od výrobcov generatívnej UI vyžadovať transparentnosť ohľadom vytvárania aj uverejňovania falošných osobností a dezinformácií, ktoré boli vytvorené týmito modelmi.

Kanada plánuje prijať Artificial Intelligence and Data Act (AIDA). Tento zákon má harmonizovať legislatívu ohľadom UI vo všetkých provinciách so zameraním na znižovanie jej rizík, ako aj transparentnosť.

Veľká Británia bola donedávna zástancom uvoľnenej regulácie v UI s ohľadom na podporu inovácií. Na druhej strane, aktívne reguluje UI. Napríklad Financial Conduct Authority (Úrad pre finančné správanie) testuje UI systémy vo finančnom sektore a Information Commissioner’s Office (Úrad komisára pre informácie) testuje dodržiavanie ochrany súkromia v UI modeloch [3]. Podľa zákona Online Safety Act (OSA), ktorý prednedávnom vstúpil do platnosti, je generovanie a zdieľanie sexuálne explicitných falošných fotiek a videí vytvorených UI trestné.

Úrad na dohľad nad kyberpriestorom v Číne (Cyberspace Administration of China) dohliada na to, aby verejne dostupné modely UI neodpovedali v rozpore s vládnou ideológiou a neposkytovali informácie, ktoré by vzbudzovali pochybnosti o režime.
V Indii donedávna odmietali akékoľvek striktné regulácie UI a volali po podpore inovácií. Série bezprecedentných útokov a dezinformačných kampaní pomocou UI podnietili iniciatívy na vznik regulačného rámca, ktorý by obmedzil škodlivý vplyv UI systémov domáceho i zahraničného pôvodu.

K lídrom v presadzovaní ucelenej legislatívy na reguláciu UI patrí aj Japonsko, Kórea a Singapur. Za zmienku stoja aj niektoré lokálne právne úpravy, napríklad v štátoch USA – Kalifornia, New York a Texas.

Záver

Regulácia umelej inteligencie predstavuje dôležitý krok smerom k jej bezpečnému a etickému využívaniu. Prvý komplexný zákon AI Act (AIA) prijatý Európskou úniou poskytuje rámec na minimalizovanie rizík a zabezpečenie transparentnosti pri jej využívaní. Systémy s vysokým a neprijateľným rizikom sú zakázané alebo podliehajú prísnym kontrolám, zatiaľ čo systémy s minimálnym alebo obmedzeným rizikom majú väčšiu flexibilitu.

Implementácia podobných regulácií vo svete, ako aj úsilie rôznych krajín a regulačných orgánov poukazujú na všeobecné povedomie o dôležitosti riadenia UI v spoločnosti. Aj keď existujú obavy o konkurencieschopnosť, pružnosť a úpravy v reguláciách by mali pomôcť minimalizovať negatívny vplyv na inovácie.

Napriek výzvam a rozdielnym prístupom je jasné, že regulácia UI sa stáva nevyhnutnou súčasťou globálneho technologického ekosystému. Jej úspešná implementácia bude kľúčom k tomu, že umelá inteligencia bude slúžiť najlepším záujmom spoločnosti a jednotlivcov.

Tento článok uzatvára sériu, ktorá sa venovala umelej inteligencii od histórie cez vplyv na Slovensko, monitorovanie, automatizáciu, bezpečnosť až po reguláciu. Ďakujeme všetkým čitateľom, ktorí sledovali túto sériu článkov. Veríme, že priniesla cenné poznatky o umelej inteligencii a jej rôznych aspektoch.

Literatúra

[1] Akt o umelej inteligencii. Európska komisia. [online]. 

[2] Harris, L., Jaikaran.: Highlights of the 2023 Executive Order on Artificial Intelligence for Congress. CRS Report, Congressinal Research Services. [online]. 

[3] The Artificial Intelligence (AI) global regulatory landscape. EY. [online]. Publikované september 2023. 

[4] Digitálna konkurencieschopnosť EÚ nesmie byť obmedzovaná reguláciami. IT Asociácia Slovenska. [online]. Publikované 24. 4. 2024. 

[5] Position Paper on the EU AI Act. German AI Association. [online]. 

Marián Možucha
marian.mozucha@dxc.com

Peter Hanzlík
peter.hanzlik@dxc.com


DXC Technology