V novembri internetom prebehla správa o spoločnosti, ktorá využíva technológiu na rozpoznávanie tvárí. Prečo sa o nej nehovorilo a prečo sa začalo sa dozviete v tomto článku.
Clearview AI
Clearview AI je americká spoločnosť pre rozpoznávanie tvárí, ktorá bola založená v roku 2017. Táto spoločnosť poskytuje aplikáciu, ktorá umožňuje používateľom nahrať fotografiu tváre jednotlivca a nájsť iné fotografie tváre daného jednotlivca, ktoré boli zozbierané na internete. Následne užívateľ obdrží odkaz na miesta, kde sa fotky objavili, aby daná osoba mohla byť identifikovaná.
Databáza spoločnosti obsahuje 3-10 biliónov (zdroje sa odlišujú v množstve) fotiek tvárí, ktoré boli zozbierané zo sociálnych sietí (Facebook, Instagram, LinkedIn, Youtube, Venmo a pod.).
Clearview AI predáva svoju technológiu federálnym i štátnym orgánom činným v trestnom konaní, ktoré ju využívajú na identifikáciu páchateľov pri zločinoch akými sú krádeže, krádeže identity, podvody s kreditnými kartami, vraždy, či prípady týkajúce sa sexuálneho zneužívania detí. Taktiež ju majú možnosť využívať niektoré spoločnosti na bezpečnostné účely, univerzity či jednotlivci.
O tejto spoločnosti sa doposiaľ veľa nehovorilo, vzhľadom na jej radikálne porušenie súkromia. Polícia San Francisca ako aj spoločnosť Google boli proti jej používaniu už od začiatku uvedenia aplikácie na trh. Ďalšie problémy sa objavili po tom, ako aplikácia prešla skúšobným obdobím v niekoľkých krajinách.
Prebiehajúce vyšetrovania spoločnosti
Anglický úrad informačného komisára (ICO) a úrad austrálskeho informačného komisára (OAIC), v júli 2020, začali spoločné vyšetrovanie ohľadom spracúvania osobných údajov spoločnosťou Clearview AI. Jednotlivé úrady spolupracovali na zbieraní dôkazov. Akékoľvek výsledky sú však posudzované samostatne, nakoľko oba orgány na ochranu osobných údajov operujú pod svojou vlastnou legislatívou. Taktiež, oba orgány samostatne vyšetrovali použitie technológie policajnými zložkami. Spojené vyšetrovanie sa skončilo a obe krajiny navrhli ďalšie postupy, ktoré by boli vhodné vzhľadom na jednotlivé zákony daných legislatív.
Čo sa zistilo?
Austrálsky OAIC našiel porušenia austrálskeho zákona o ochrane osobných údajov (Privacy Act 1988), a to konkrétne porušenia týkajúce sa:
- zbierania citlivých informácií bez súhlasu;
- zbierania osobných informácii nespravodlivými prostriedkami;
- nepodniknutých rozumných krokov na to, aby sa uistili, že osobné informácie, ktoré zverejnili boli presné, z ohľadom na účel ich zverejnenia;
- nepodniknutých rozumných krokov na implementáciu praktík, procesov a systémov, aby sa uistili, že spĺňajú náležitosti vyžadované austrálskym zákonom o ochrane osobných údajov.
Na základe zistených pochybení, nariadil spoločnosti Clearview AI, aby prestala zbierať a aby zničila už nazbierané fotografie a biometrické šablóny obyvateľov Austrálie.
Rozhodnosť OAIC zdôrazňuje nedostatok transparentnosti okolo postupov spoločnosti pri zbieraní fotografií, speňaženie údajov jednotlivcov na účel, ktorý úplne presahuje rozumné očakávania, a riziko nepriaznivého vplyvu na ľudí, ktorých fotografie sú zahrnuté v ich databáze. Takéto zbieranie citlivých informácií je nepriaznivé a nefér. Austrálska komisárka odôvodnila svoje rozhodnutie tým, že dané spracúvanie (citlivých) osobných údajov prináša značné riziko poškodenia jednotlivcov, vrátane zraniteľných skupín akými sú deti a obete zločinu, ktorých fotografie môžu byť vyhľadané v databáze spoločnosti. Biometrické údaje, v zásade, nemôžu byť zmenené a môžu byť replikované a použité na krádež identity. Komisárka taktiež zdôraznila, že vplyvy biometrického systému, ktorý spoločnosť vyvinula, na súkromie jednotlivcov nie sú nevyhnutné, legitímne ani primerané, so zreteľom na akékoľvek výhody vo verejnom záujme.
„Keď Austrálčania využívajú sociálne siete alebo profesionálne networkové stránky, neočakávajú, že ich fotky budú zozbierané bez ich súhlasu komerčným subjektom na vytvorenie biometrických šablón na úplne nesúvisiace účely identifikácie. Náhodné zbieranie fotografií jednotlivcov, len zlomok ktorých by bol niekedy spojený s vyšetrovaním orgánmi činnými v trestnom konaní, môže nepriaznivo ovplyvniť osobnú slobodu všetkých Austrálčanov, ktorí majú dojem, že sú pod neustálym dohľadom“, povedala komisárka Falková.
Nakoľko v období medzi októbrom 2019 a marcom 2020, Clearview AI poskytlo niektorým austrálskym policajným zložkám skúšobné obdobie pre svoj softvér na rozpoznávanie tvárí. Počas tohto obdobia bolo niekoľko Austrálčanov vyhľadaných pomocou databázy za účelom prebiehajúceho vyšetrovania. OAIC aktuálne finalizuje vyšetrovanie týkajúce sa využitia softvéru na rozpoznávanie tvárí austrálskou federálnou políciou. Predmetom vyšetrovanie je súlad využitia danej technológie s požiadavkami, ktoré kladie Kódex ochrany osobných údajov austrálskych vládnych agentúr na posúdenie a zmiernenie rizík ochrany osobných údajov.
Viac informácií o vyšetrovaní si môžete prečítať na tomto odkaze (EN verzia).
Anglické ICO, na základe vykonaného vyšetrovania, ktorého výsledkom bolo zistenie, že spoločnosť vážne porušila niekoľko zákonov týkajúcich sa ochrany osobných údajov, navrhlo uložiť spoločnosti pokutu vo výške £17 miliónov. Ide o stále prebiehajúce vyšetrovanie a aktuálne má spoločnosť možnosť vyjadriť sa k zisteným skutočnostiam. Navrhovaná pokuta, ako aj predbežné oznámenie o výkone rozhodnutia sa ešte môže zmeniť, poprípade sa môže rozhodnúť, že žiadne ďalšie kroky sa nepodstúpia.
Výsledkom vyšetrovania, vykonaným ICO, boli nájdené pochybenia –konkrétne pochybenia dodržiavania niekoľkých zákonov týkajúcich sa ochrany osobných údajov:
- osobné údaje sa nespracúvali za účelom, ktorý bol zo strany dotknutej osoby očakávaný;
- neboli nastavené procesy, ktoré by zamedzili uchovávanie údajov na neurčitú dobu;
- nebol zvolený právny základ pre dané spracúvanie osobných údajov;
- neboli splnené vyššie normy týkajúce sa ochrany osobných údajov potrebné na spracúvanie biometrických údajov (nakoľko ide o osobitnú kategóriu osobných údajov);
- dotknuté osoby neboli informované o tom, čo sa s ich údajmi deje; a
- spoločnosť si vyžadovala dodatočné osobné informácie, aj fotografie, čo pôsobilo odradzujúco voči osobám, ktoré chceli namietať proti spracúvaniu ich osobných údajov.
Situáciu budeme naďalej sledovať a o nových zisteniach vás budeme informovať.
ZDROJE:
https://ico.org.uk/about-the-ico/news-and-events/news-and-blogs/2021/11/clearview-statement/
https://www.oaic.gov.au/updates/news-and-media/clearview-ai-breached-australians-privacy
https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html
https://techcrunch.com/2021/11/29/clearview-ai-ico-view-to-fine/
