Prepoznavanje obrazov, umetna inteligenca in etika: razprava pridobiva na veljavi

Pravni pregled – oktober 2019.

Plačevanje z obrazom namesto s kreditno kartico, uporaba Amazonovih kamer za boj proti kriminalu, kot je to storila policija v Orlandu v Združenih državah Amerike, upravljanje gibanja športnikov in novinarjev na olimpijskih igrah v Tokiu z uporabo prepoznavanja obrazov ali bližje domu, testiranje prepoznavanja obrazov na javnih cestah, kot v Nici, so vse projekti, ki vas pustijo sanjati ... ali pa vas spravijo v nespečnost.

Tako v Evropi kot širše v svetu, perspektive, ki jih razkriva razvoj umetne inteligence, zlasti v kombinaciji s prepoznavanjem obrazov, obdelavo glasovnih odtisov ali prepoznavanjem čustev, sprožajo vse več odzivov.

Predvsem etična vprašanja so zdaj na vrhu prioritet nove predsednice Evropske komisije Ursule Von der Leyen.

Napovedala je, da namerava v prvih 100 dneh svojega mandata predstaviti zakonodajni predlog z namenom usklajenega evropskega pristopa k človeškim in etičnim posledicam umetne inteligence.

Preučila bo tudi načine za spodbujanje inovacij z uporabo velepodatkov.

Skupina strokovnjakov, ki jo je ustanovila Evropska komisija, je s tem v mislih postavila temelje za "zanesljivo" umetno inteligenco.

V svoji objavi smernic aprila 2019 je opredelila tri značilnosti: umetna inteligenca mora biti

1. Zakonito, zagotavljanje skladnosti z veljavnimi zakoni in predpisi;
2. Etika z zagotavljanjem spoštovanja etičnih načel in vrednot; in
3. Robustno, »tako tehnično kot socialno, saj lahko sistemi umetne inteligence, tudi z dobrimi nameni, povzročijo nenamerno škodo.«

Etika v povezavi z umetno inteligenco je bila že tema zadnje mednarodne konference pooblaščencev za varstvo podatkov in je privedla do javne izjave.

To omenja prednosti, pa tudi tveganja, povezana s temi novimi tehnologijami, zlasti pa predsodke in diskriminacijo, ki lahko iz njih izhajajo.

Opozarja na več bistvenih načel, katerih cilj je zagotavljanje individualnega zaupanja ob hkratnem spodbujanju inovacij, vključno z načelom zvestobe in preglednosti sistemov umetne inteligence.

Nenazadnje se zavzema za skupna načela upravljanja na mednarodni ravni.

Omeniti velja tudi, da je Svet Evrope 11. septembra ustanovil ad hoc odbor, odgovoren za analizo pogojev za pravni okvir za razvoj, načrtovanje in uporabo umetne inteligence.

Agencija Evropske unije za temeljne pravice je na seminarju 19. in 20. septembra obravnavala vprašanje prepoznavanja obrazov, s ciljem objave dokumenta na to temo novembra 2019.

In danes?

Čeprav je pojasnitev etičnih vidikov seveda zaželena, se GDPR s strogo pravnega vidika v celoti uporablja za sisteme za prepoznavanje obrazov ali glasu, ki predstavljajo obdelavo biometričnih podatkov.

Ti podatki so zato strožje zaščiteni in načeloma zahtevajo privolitev posameznikov, na katere se nanašajo osebni podatki. Glede na občutljivost obdelave je treba izvesti tudi oceno učinka. V tem kontekstu je treba posebno pozornost nameniti zgoraj omenjenim vidikom in zlasti tveganjem diskriminacije, razumnim pričakovanjem posameznikov, na katere se nanašajo osebni podatki, in preglednosti obdelave.

In tudi:

• V Franciji:

Oktober je mesec kibernetske varnosti.

Približno trideset partnerjev, vključno z ANSSI in CNIL, je zavezanih ozaveščanju strokovnjakov in posameznikov o varnostnih in digitalnih vprašanjih.

Od 26. septembra je CNIL odobril dva certifikacijska organa.

• V Evropi:

Pravica do pozabe in veljavnost spletne privolitve: Tri pomembne sodbe Sodišča Evropske unije pojasnjujejo pravni okvir.

V sodbi v zadevi »Planet49« z dne 1. oktobra 2019Sodišče pojasnjuje, da za zakonito zbiranje informacij na podlagi piškotkov predhodno označeno polje ni dovolj: namestitev piškotkov zahteva aktivno in izrecno soglasje uporabnikov interneta.

Uporabnik interneta mora biti obveščen tudi o trajanju delovanja piškotkov in o tem, ali lahko do njih dostopajo tretje osebe.

Ta sodba podpira nedavna sporočila nadzornih organov o pogojih uporabe piškotkov, vključno s sporočilom CNIL.

V odločitev v zadevi Google z dne 24. septembraSodišče pojasnjuje, da se pravica do pozabe ne uporablja sistematično za iskalnike zunaj Evropske unije.

V EU velja na primer za google.fr in druge evropske razširitve. Vendar pa je tudi iskalnik dolžan uvesti ukrepe, s katerimi bi odvrnil internetne uporabnike od dostopa do zadevnih povezav v različicah tega iskalnika, ki niso iz EU, iz ene od držav članic.

Konec sodbe je pomemben, ker Sodišče potrjuje diskrecijsko pravico nadzornih organov: čeprav odstranitev povezave zunaj EU ni obvezna, organ ohranja pooblastilo, da iskalniku naloži, naj jo v celoti odstrani, potem ko pretehta pravice zadevne osebe in svobodo obveščanja.

Prav to ravnotežje je v središču druge sodbe 24. septembra : Sodišče potrjuje v sodba GC ea proti CNIL da načelna prepoved obdelave občutljivih podatkov velja tudi za iskalnike, vendar je treba za vsak primer posebej opraviti analizo med temeljnimi pravicami osebe, ki zahteva odstranitev povezave, in pravicami uporabnikov interneta, ki jih te informacije morda zanimajo.

Če iskalnik ne odstrani sklicevanja, Sodišče vsaj za sodne podatke naloži obveznost predstavitve rezultatov v odredbi, v kateri so poudarjene trenutne informacije.