Umelá inteligencia sa stala súčasťou našej každodennej reality – od osobných asistentov po algoritmy na sociálnych sieťach. Nástroj ChatGPT od spoločnosti OpenAI naberá na popularite a spoločnosť nedávno spustila nový nástroj SORA. S rastúcim vplyvom prichádzajú aj otázky týkajúce sa právnej regulácie. V tomto článku preskúmame, ako sa svet práva prispôsobuje novým výzvam umelej inteligencie, či boli na trénovanie umelej inteligencie používané videá zo sociálnych sietí a aké kroky pre ochranu osobných údajov pred zásahmi SORA vykonáva aktuálne Taliansko.
Nástroj SORA je program umelej inteligencie, za pomoci ktorého je užívateľ schopný vygenerovať video do dĺžky jedenej minúty s použitím jednoduchých slovných príkazov. SORA je momentálne dostupná pre niektorých vizuálnych umelcov, dizajnérov a filmárov, pre získanie spätnej väzby a následného vylepšenia modelu. Termín dostupnosti SORA pre všetkých užívateľov zatiaľ nie je známy.
V našom článku o právnom postavení umelej inteligencie sme sa venovali výhodám a rizikám, ktoré prichádzajú s používaním AI v každodennom živote. Tiež sme rozobrali vtedajšiu legislatívnu úpravu a možnosti regulácie. Čo sa od vtedy zmenilo? Sú výhody a riziká AI stále aktuálne? Aké podmienky regulácie platia pre nástroj SORA?
Na stránke spoločnosti OpenAI sú uvedené informácie o zámeroch spoločnosti podniknúť dôležité kroky pre zabezpečenie bezpečnosti ako napríklad tvorba nástrojov pre rozpoznanie zavádzajúceho obsahu, ako aj nástroj detekcie, ktorý dokáže zistiť kedy bolo video vygenerované SORA. Spoločnosť tiež uvádza, že ich text classifier skontroluje a odmietne textové výzvy, ktoré sú v rozpore s pravidlami používania spoločnosti. Jedná sa o výzvy, ktoré požadujú extrémne násilie, sexuálny obsah, nenávistné vyobrazenia, podobizne celebrít alebo duševného vlastníctva iných. Ako je to však s právnou reguláciou a ochranou práv naozaj?
Regulácia Európskej únie
Zámer Európskej únie je zabezpečiť aby umelá inteligencia bola bezpečná a dôveryhodná. Z tohto dôvodu pripravila EÚ nové Nariadenie, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie - AI Act. Zároveň Nariadenie predstavuje prvú celistvú právnu úpravu AI celosvetovo. V stredu, 13. marca 2024, Európsky parlament schválil toto Nariadenie. Nariadenie ešte podlieha záverečnej kontrole právnikmi, musí byť formálne schválené Radou a nadobudne platnosť dvadsať dní po jeho uverejnení v úradnom vestníku a plne sa uplatní 24 mesiacov po nadobudnutí platnosti, až na pár ustanovení.
Nariadenie rozdeľuje riziká umelej inteligencie do štyroch skupín a následne určuje povinnosti distribútorov pred sprístupnením na trh. Je dôležité pochopiť novú reguláciu EÚ pre lepšie uchopenie možností zásahu do výsledkov nástroja SORA. Schopnosť SORA generovať realistické videá ju zaraďuje do vysokorizikovej kategórie systémov podľa Nariadenia, najmä z dôvodu potencionálneho zneužitia pre tvorbu deepfake alebo misinformácií. Nová právna úprava môže nariadiť transparentnosť fungovania SORA ako napríklad vysvetlenie procesov generovania videí. Spoločnosť OpenAI bude musieť zaviesť prísne opatrenia na riadenie rizík na zmiernenie potencionálnych škôd, čo môže zahŕňať medzi inými aj odhaľovanie skreslenia (bias detenction). Nariadenie vyžaduje aby bol nad vysokorizikových systémami vykonávaný ľudský dohľad, ktorý sa zameriava na prevenciu alebo minimalizáciu rizík. Niektorí sa domnievajú, že by tento dohľad mohol predstavovať ľudskú kontrolu vytvorených videí pred ich zverejnením.
Zásah nielen do práv duševného vlastníctva
CTO spoločnosti OpenAI sa vyjadrila, že dáta, ktoré boli používané pri trénovaní nástroja SORA boli “verejne prístupné dáta a licencované dáta”, bližšie však nevedela potvrdiť, či boli používané aj videá verejne prístupné na Youtube alebo na sociálnych sieťach spoločnosti Meta, ako Facebook a Instagram.
Taliansky Úrad pre ochranu osobných údajov je známy svojou iniciatívou, keď z dôvodu údajného porušovania legislatívy zakázal ChatGPT v Taliansku. Neskôr bol prístup k nástroju ChatGPT opäť obnovený. Momentálne Úrad začal vyšetrovanie ohľadom služieb, ktoré SORA ponúka. Úrad žiada upresnenie od spoločnosti OpenAI v súvislosti s používaním osobných údajov s cieľom zistiť, či spoločnosť dodržiava európsku legislatívu a informuje používateľov aj nepoužívateľov o tom, ako sú ich dáta spracované. V rámci vyšetrovania Úrad žiada od spoločnosti poskytnútie informácií o algoritme, pomocou ktorého sú videá generované, údajoch zhromaždených a použitých, a tiež aj informáciu o dostupnosti služby pre používateľov v Taliansku a v EÚ.
Inštitúcie v krajinách EÚ prešetrujú zásahy umelej inteligencie do práv občanov a dozerajú na to, aby bol cieľ EÚ o bezpečnej a dôveryhodnej AI napĺňaný. EÚ plánuje vytvoriť Európsky úrad pre umelú inteligenciu, ktorý bude centrom odborných znalostí v oblasti umelej inteligencie v celej EÚ.
