Rozpoznávanie tváre, umelá inteligencia a etika: diskusia naberá na obrátkach

Právne správy – október 2019.

Platenie tvárou namiesto kreditnej karty, používanie kamier Amazon na boj proti zločinu, ako to urobila polícia v Orlande v Spojených štátoch, riadenie pohybu športovcov a novinárov na olympijských hrách v Tokiu pomocou rozpoznávania tváre alebo bližšie k domovu, testovanie rozpoznávania tváre na verejných komunikáciách, ako v Nice, to všetko sú projekty, ktoré vo vás vyvolajú sny... alebo nespavosť.

Či už v Európe alebo širšie vo svete, perspektívy, ktoré odhaľuje vývoj umelej inteligencie v kombinácii najmä s rozpoznávaním tvárí, spracovaním hlasových odtlačkov alebo rozpoznávaním emócií, vyvolávajú čoraz viac reakcií.

Najmä etické otázky sú teraz na vrchole priorít novej predsedníčky Európskej komisie Ursuly Von der Leyenovej.

Oznámila, že má v úmysle predložiť legislatívny návrh v priebehu prvých 100 dní svojho mandátu s cieľom dosiahnuť koordinovaný európsky prístup k ľudským a etickým dôsledkom umelej inteligencie.

Taktiež preskúma spôsoby podpory inovácií pomocou veľkých dát.

Skupina expertov zriadená Európskou komisiou položila s cieľom rešpektovať ľudské práva základy „dôveryhodnej“ umelej inteligencie.

Vo svojej publikácii usmernení v apríli 2019 identifikovala tri charakteristiky: UI musí byť

1. Zákonné, zabezpečenie súladu s platnými zákonmi a predpismi;
2. Etika zabezpečením dodržiavania etických zásad a hodnôt; a
3. Robustný, „technicky aj sociálne, pretože aj s dobrými úmyslami môžu systémy umelej inteligencie spôsobiť nezamýšľanú škodu.“

Etika vo vzťahu k umelej inteligencii bola už témou poslednej medzinárodnej konferencie komisárov pre ochranu údajov a viedla k verejnému vyhláseniu.

Spomínajú sa v ňom výhody, ale aj riziká spojené s týmito novými technológiami, a najmä predsudky a diskriminácia, ktoré z nich môžu vyplynúť.

Pripomína niekoľko základných zásad zameraných na zaručenie individuálnej dôvery a zároveň na podporu inovácií vrátane zásady lojality a transparentnosti systémov umelej inteligencie.

Napokon sa zasadzuje za spoločné zásady riadenia na medzinárodnej úrovni.

Za zmienku tiež stojí, že 11. septembra Rada Európy vytvorila ad hoc výbor zodpovedný za analýzu podmienok pre právny rámec pre vývoj, návrh a aplikáciu umelej inteligencie.

Agentúra Európskej únie pre základné práva sa napokon zaoberala otázkou rozpoznávania tváre počas seminára, ktorý sa konal 19. a 20. septembra, s cieľom publikovať dokument na túto tému v novembri 2019.

A dnes?

Hoci je objasnenie etických aspektov samozrejme žiaduce, z čisto právneho hľadiska sa GDPR plne vzťahuje na systémy rozpoznávania tváre alebo hlasu, ktoré predstavujú spracovanie biometrických údajov.

Tieto údaje sú preto chránené prísnejšie a v zásade vyžadujú súhlas dotknutých osôb. Vzhľadom na citlivosť spracovania je potrebné vykonať aj posúdenie vplyvu. V tejto súvislosti by sa mala venovať osobitná pozornosť vyššie uvedeným aspektom, a najmä rizikám diskriminácie, primeraným očakávaniam dotknutých osôb a transparentnosti spracovania.

A tiež:

• Vo Francúzsku:

Október je mesiacom kybernetickej bezpečnosti.

Približne tridsať partnerov vrátane ANSSI a CNIL sa zaviazalo zvyšovať povedomie medzi odborníkmi a jednotlivcami o bezpečnosti a digitálnych otázkach.

Od 26. septembra schválila CNIL dva certifikačné orgány.

• V Európe:

Právo byť zabudnutý a platnosť online súhlasu: Tri dôležité rozhodnutia Súdneho dvora Európskej únie objasňujú právny rámec.

V rozsudku vo veci „Planet49“ z 1. októbra 2019Súdny dvor uvádza, že na zákonné zhromažďovanie informácií na základe súborov cookie nestačí vopred zaškrtnuté políčko: umiestnenie súborov cookie si vyžaduje aktívny a konkrétny súhlas používateľov internetu.

Používateľ internetu musí byť tiež informovaný o trvaní fungovania súborov cookie a o tom, či k nim majú prístup tretie strany.

Tento rozsudok podporuje nedávne oznámenia dozorných orgánov o podmienkach používania súborov cookie vrátane oznámenia CNIL.

V rozhodnutie v prípade „Google“ z 24. septembraSúdny dvor objasňuje, že právo byť zabudnutý sa systematicky neuplatňuje na vyhľadávače mimo Európskej únie.

V EÚ sa to vzťahuje napríklad na google.fr a ďalšie európske rozšírenia. Je však tiež na vyhľadávači, aby zaviedol opatrenia na odrádzanie používateľov internetu od prístupu k predmetným odkazom na verziách daného vyhľadávača mimo EÚ z jedného z členských štátov.

Záver rozsudku je dôležitý, pretože Súdny dvor zakotvuje diskrečnú právomoc dozorných orgánov: hoci nie je povinné odstrániť odkaz mimo EÚ, orgán si ponecháva právomoc nariadiť vyhľadávaču, aby ho odstránil úplne, po zvážení práv dotknutej osoby a slobody informácií.

Práve toto vyvažovacie hľadanie je jadrom druhého rozsudku 24. septembra Súdny dvor potvrdzuje v rozsudok GC ea proti CNIL že zásadný zákaz spracovania citlivých údajov sa vzťahuje aj na vyhľadávače, ale analýza sa musí vykonať individuálne v každom prípade medzi základnými právami osoby žiadajúcej o odstránenie odkazov a právami používateľov internetu, ktorí majú o tieto informácie potenciálny záujem.

Ak vyhľadávač neodstráni odkaz, súd uloží aspoň v prípade súdnych údajov povinnosť prezentovať výsledky v príkaze so zvýraznením aktuálnych informácií.