Umelá inteligencia (AI) nie je úplne novinkou, ale jej aplikácia a rozsah sa v posledných rokoch dramaticky zmenila, rozšírila a stáva sa jednou z najdôležitejších technologických inovácií a jej používanie neoddeliteľnou súčasťou každodenného života, a to aj v dôsledku toho, že došlo k významnému pokroku v oblasti algoritmov, výpočtovej sily a dostupnosti dát, čo umožnilo dosiahnuť výsledky, ktoré sa predtým považovali za nepredstaviteľné. Jej prienik pociťujeme v rôznych oblastiach nášho života počnúc používaním AI asistentov, až po zložitejšie využitie, akými sú napríklad diagnostika chorôb alebo prediktívne modely v oblasti finančných trhov. Rýchly rozvoj AI však so sebou prináša veľké množstvo rizík a otázok súvisiacich so spôsobom jej použitia, ale najmä v súvislosti s jej právnou reguláciou. Preto v reakcii na túto situáciu prijala Európska únia Nariadenie o umelej inteligencii, ktoré je historicky prvým právnym predpisom svojho druhu.
Dôvody prijatia a účel Nariadenia o umelej inteligencii
Prijatie právneho predpisu jednotne regulujúceho používanie umelej inteligencie bolo otázkou času. Aj napriek skutočnosti, že existujúce právne predpisy poskytujú určitú mieru právnej ochrany, nie sú postačujúce na riešenie výziev, ktoré AI môže priniesť a už aj prináša. Účelom nariadenia je preto stanovenie jednotných pravidiel v súvislosti s vývojom AI, jej uvádzaním na trh a používaním jej systémov tak, aby boli v súlade s právom Európskej únie. Európska únia chce jednotnou právnou úpravou pre členské štáty chrániť občanov EÚ pred potenciálnymi negatívnymi účinkami umelej inteligencie, zabezpečiť ochranu ich základných práv a podporiť zavádzanie bezpečných a dôveryhodných systémov na celom jednotnom trhu EÚ. Súčasne chce nariadením zvýšiť gramotnosť v oblasti používania umelej inteligencie a podporiť jej rozvoj, ako základný predpoklad pre zlepšenie ekonomického rastu, zvýšenie životnej úrovne a podobne.
Ďalšími dôvodmi prijatia sú otázky súvisiace so zodpovednosťou za škody, ktoré umelá inteligencia môže spôsobiť, a to konkrétne do akej miery sú príslušné osoby v prípade spôsobených škôd zodpovedné. Zároveň bolo potrebné rovnako zohľadniť aj riziko, že AI môže napríklad ďalej viesť k porušovaniu pravidiel hospodárskej súťaže, a to najmä pri firmách, ktoré majú prístup k veľkému množstvu údajov, ktorými dokážu eliminovať svoju konkurenciu.
Čo to systém AI je a ako ho definuje Nariadenie o umelej inteligencii?
Nariadenie o umelej inteligencii, v článku 3, systém AI definuje ako : „strojový systém, ktorý je dizajnovaný na prevádzku s rôznymi úrovňami autonómnosti, ktorý môže po nasadení prejavovať adaptabilitu a ktorý pre explicitné alebo implicitné ciele odvodzuje zo vstupov, ktoré dostáva, spôsob generovania výstupov, ako sú predpovede, obsah, odporúčania alebo rozhodnutia, ktoré môžu ovplyvniť fyzické alebo virtuálne prostredie.“
Inými slovami povedané, je to technologický systém navrhnutý tak, aby vykonával úlohy autonómne, teda schopnosť konať bez ľudského zásahu, prispôsobovať sa a učiť sa na základe informácií, ktoré dostáva a na základe ktorých vyvodzuje rôzne výstupy, ako sú predpovede, odporúčania alebo rozhodnutia, ktoré môžu ovplyvniť reálny svet (napríklad v prípade autonómnych vozidiel) alebo virtuálne prostredie (ako v prípade online odporúčaní v obchodoch). Systém AI teda dokáže využívať schopnosti, ktoré sú podobné človeku (učenie sa, rozmýšľanie, tvorenie nových vecí a podobne).
S umelou inteligenciou sa pritom stretávame pri bežných veciach akými sú vyhľadávanie vecí na internete, personalizované nákupné odporúčania, inteligentné domácnosti, prekladače a ani si to častokrát neuvedomujeme. Jej uplatnenie však nachádzame aj vo verejnom sektore, napríklad pri autonómne riadených vlakoch, v zdravotníctve pri objavovaní nových medicínskych objavov alebo diagnostike chorôb, ktorú sme už v úvode článku spomínali. Moderné vozidlá tiež bežne využívajú AI pri funkciách na zvýšenie bezpečnosti alebo používaní navigácie.
Akých subjektov sa Nariadenie o umelej inteligencie dotýka?
Nariadenie o umelej inteligencii sa vzťahuje na verejné aj súkromné subjekty v rámci EÚ aj mimo nej, ak je systém umelej inteligencie uvedený na trh EÚ alebo ak jeho používanie má dopad na osoby nachádzajúce sa v EÚ. Nariadenie ich bližšie špecifikuje v článku 2 ako:
- poskytovateľov,
- subjekty nasadzujúce systémy AI,
- dovozcov,
- distribútorov systémov AI,
- výrobcov a dotknuté osoby, ktoré sa nachádzajú v EÚ.
Asi najvýznamnejším subjektom, ktorý nariadenie upravuje je poskytovateľ. Poskytovateľom sa rozumie fyzická alebo právnická osoba, orgán verejnej moci, alebo iný subjekt, ktorý vyvíja alebo má vyvinutý systém umelej inteligencie s cieľom uviesť ho na trh alebo do prevádzky pod vlastným menom alebo ochrannou známkou, a to buď za odplatu alebo bezodplatne.
Používateľom je v zmysle Nariadenia o umelej inteligencii pritom každá fyzická alebo právnická osoba, orgán verejnej moci, alebo iný subjekt, ktorý používa systém umelej inteligencie v rámci svojej právomoci, s výnimkou prípadov, keď sa systém umelej inteligencie používa v rámci osobnej neprofesionálnej činnosti.
Distribútorom je zasa fyzická alebo právnická osoba v dodávateľskom reťazci (s výnimkou poskytovateľa alebo dovozcu), ktorá systém AI na trhu EÚ sprístupňu
Posudzovanie nebezpečnosti systémov AI - 4 úrovne rizika pre systémy AI
Nariadenie zavádza prístup založený na miere rizika, ktoré jednotlivé systémy AI predstavujú pre spoločnosť. V závislosti od vyhodnotenia úrovne rizika, sa na systémy AI vzťahujú odlišné povinnosti. Úrovne rizika sú rozdelené do týchto kategórii:
- Neprijateľné riziko (II. kapitola nariadenia)
- Vysoké riziko (III. kapitola nariadenia)
- Osobitné riziko týkajúce sa transparentnosti (IV. kapitola nariadenia)
- Minimálne riziko
Neprijateľné riziko sa v zmysle Nariadenia o umelej inteligencii považuje za jasnú hrozbu pre bezpečnosť, živobytie a práva osôb, a preto je zakázané. Neprijateľné riziko predstavujú AI praktiky, ako sú: škodlivá manipulácia a klamanie založené na umelej inteligencii, škodlivé využívanie zraniteľností založené na umelej inteligencii, posúdenie alebo prognóza rizika jednotlivých trestných činov alebo rozpoznávanie emócií na pracoviskách a vo vzdelávacích inštitúciách. Akt tiež zakazuje používanie umelej inteligencie na prediktívne vykonávanie policajných úloh, ktoré sú založené na profilovaní. Zakázané praktiky bližšie definuje článok 5 nariadenia.
Vysokorizikové systémy podliehajú najprísnejším povinnostiam v súvislosti s ich prevádzkou, používaním, vývojom a uvádzaním na trh. Za vysokorizikovú úroveň sa považuje využitie systémov AI ako:
-
bezpečnostné komponenty umelej inteligencie v kritických infraštruktúrach (napr. v doprave), ktorých zlyhanie by mohlo ohroziť život a zdravie občanov,
-
riešenia umelej inteligencie používané vo vzdelávacích inštitúciách, ktoré môžu určovať prístup k vzdelávaniu a priebehu pracovného života (napr. bodovanie skúšok),
-
prípady použitia umelej inteligencie pri presadzovaní práva, ktoré môžu zasahovať do základných práv ľudí (napr. hodnotenie spoľahlivosti dôkazov) a podobne.
Ďalšie systémy AI, ktoré možno považovať za vysokorizikové vychádzajú z prílohy III Nariadenia o umelej inteligencii, ktorá bližšie špecifikuje oblasti, v ktorých používanie systémov AI môže znamenať vysoké riziko vzniku nejakej ujmy alebo priniesť nežiaduci stav.
Na systémy umelej inteligencie s obmedzeným rizikom sa nevzťahujú také prísne povinnosti ako pri vysokorizikových systémoch, avšak rovnako podliehajú určitým regulačným požiadavkám stanovených predmetným Nariadením o umelej inteligencii.
Aké povinnosti budú musieť dotknuté subjekty splniť?
V závislosti najmä od postavenia príslušného dotknutého subjektu, rizikovosti AI systému, oblasti, v ktorej sa AI systém používa, stanovuje Nariadenie o umelej inteligencii široké spektrum povinností, a to od informovania zamestnancov, resp. zástupcov zamestnancov až po zavedenie systému riadenia kvality, podrobenia posudzovaniu zhody, získania EÚ vyhlásenia o zhode, splnenia registračných povinností a iných, ktorým sa budeme podrobne venovať v ďalších článkoch.
Nadobudnutie účinnosti nariadenia
AI Act je účinný od 1. augusta 2024 a plnú účinnosť nadobúda 2. augusta 2026, s určitými výnimkami:
- od 2. februára 2025 sú účinné ustanovenia o povinnostiach a zákazoch súvisiacich s gramotnosťou v oblasti AI,
- od 2. augusta 2025 budú účinné pravidlá vzťahujúce sa na modely umelej inteligencie využívanej na všeobecné účely,
- od 2. augusta 2027 budú účinné pravidlá pre vysokorizikové systémy umelej inteligencie zabudované do regulovaných výrobkov.
Záver
Nariadenie o umelej inteligencii predstavuje prvý zásadný krok smerom k právnej regulácii umelej inteligencie v rámci Európskej únie. Ako priekopnícky legislatívny nástroj však obsahuje viaceré neurčité a všeobecné ustanovenia, čo je však vzhľadom na to, že ide o právnu oblasť v počiatočnom štádiu vývoja, prirodzené.
Z toho dôvodu možno očakávať, že prijatie samotného nariadenia nebude postačujúce na pokrytie všetkých praktických a právnych otázok, ktoré z používania umelej inteligencie vyplývajú. Bude nevyhnutné postupne dopĺňať právny rámec prostredníctvom ďalších sekundárnych právnych predpisov, usmernení, delegovaných aktov, ako aj prostredníctvom výkladu právnych noriem zo strany relevantných súdnych inštitúcií.
Zásadný význam v tomto smere nadobudne judikatúra Súdneho dvora Európskej únie, ktorá svojím výkladom ustanovení nariadenia prispeje k ich spresneniu, ustáleniu aplikačnej praxe a odstráneniu interpretačných nejasností.
V našej advokátskej kancelárii Hronček & Partners, s. r. o. aktívne sledujeme vývoj právnej regulácie v oblasti umelej inteligencie, aby sme našim klientom mohli poskytovať kvalitné, aktuálne a komplexné právne poradenstvo aj v tejto dynamicky sa rozvíjajúcej oblasti.
S cieľom zabezpečiť komplexný rozsah služieb sme pristúpili aj k partnerstvu so zahraničnými certifikačnými orgánmi, vďaka čomu vieme našim klientom zabezpečiť asistenciu počas celého procesu – od právnej analýzy a konzultácie, až po získanie certifikátu o splnení požiadaviek podľa Nariadenia o umelej inteligencii.
