Prepoznavanje lica, umjetna inteligencija i etika: rasprava dobiva na zamahu

Pravni nadzor – listopad 2019.

Plaćanje licem umjesto kreditnom karticom, korištenje Amazon kamera za borbu protiv kriminala, kao što je to učinila policija Orlanda u Sjedinjenim Državama, upravljanje kretanjem sportaša i novinara na Olimpijskim igrama u Tokiju pomoću prepoznavanja lica ili bliže domu, testiranje prepoznavanja lica na javnim cestama, kao u Nici, sve su to projekti koji vas ostavljaju sanjarima... ili nesancima.

Bilo u Europi ili šire u svijetu, perspektive koje otkriva razvoj umjetne inteligencije, posebno u kombinaciji s prepoznavanjem lica, obradom glasovnih otisaka ili prepoznavanjem emocija, izazivaju sve više reakcija.

Etička pitanja, posebno, sada su na vrhu prioriteta nove predsjednice Europske komisije, Ursule Von der Leyen.

Najavila je da namjerava predstaviti zakonodavni prijedlog u prvih 100 dana svog mandata s ciljem koordiniranog europskog pristupa ljudskim i etičkim implikacijama umjetne inteligencije.

Također će ispitati načine poticanja inovacija korištenjem velikih podataka.

Skupina stručnjaka koju je osnovala Europska komisija, s ciljem poštivanja ljudskih prava, postavila je temelje za "pouzdanu" umjetnu inteligenciju.

U svojoj objavi smjernica u travnju 2019. godine, identificirala je tri karakteristike: umjetna inteligencija mora biti

1. Zakonit, osiguravajući poštivanje važećih zakona i propisa;
2. Etika, osiguravanjem pridržavanja etičkih načela i vrijednosti; i
3. Robustan, „i tehnički i društveno jer, čak i s dobrim namjerama, sustavi umjetne inteligencije mogu uzrokovati nenamjernu štetu.“

Etika, u odnosu na umjetnu inteligenciju, već je bila tema posljednje međunarodne konferencije povjerenika za zaštitu podataka i dovela je do javne deklaracije.

Spominju se prednosti, ali i rizici povezani s tim novim tehnologijama, a posebno predrasude i diskriminacija koje iz njih mogu proizaći.

Podsjeća na nekoliko bitnih načela usmjerenih na jamčenje individualnog povjerenja uz promicanje inovacija, uključujući načelo lojalnosti i transparentnosti sustava umjetne inteligencije.

Konačno, zalaže se za zajednička načela upravljanja na međunarodnoj razini.

Također vrijedi napomenuti da je Vijeće Europe 11. rujna osnovalo ad hoc odbor zadužen za analizu uvjeta za pravni okvir za razvoj, dizajn i primjenu umjetne inteligencije.

Konačno, Agencija Europske unije za temeljna prava bavila se pitanjem prepoznavanja lica tijekom seminara 19. i 20. rujna, s ciljem objave dokumenta o toj temi u studenom 2019.

A danas?

Iako je pojašnjenje etičkih aspekata naravno poželjno, s strogo pravnog gledišta GDPR se u potpunosti primjenjuje na sustave za prepoznavanje lica ili glasa, koji predstavljaju obradu biometrijskih podataka.

Ovi su podaci stoga strože zaštićeni i u načelu zahtijevaju privolu ispitanika. S obzirom na osjetljivost obrade, potrebno je provesti i procjenu učinka. U tom kontekstu treba posvetiti posebnu pozornost gore navedenim aspektima, a posebno rizicima diskriminacije, razumnim očekivanjima ispitanika i transparentnosti obrade.

I također:

• U Francuskoj:

Listopad je mjesec kibernetičke sigurnosti.

Oko trideset partnera, uključujući ANSSI i CNIL, posvećeno je podizanju svijesti među profesionalcima i pojedincima o sigurnosnim i digitalnim pitanjima.

Od 26. rujna CNIL je odobrio dva certifikacijska tijela.

• U Europi:

Pravo na zaborav i valjanost online privole: Tri važne presude Suda Europske unije pojašnjavaju pravni okvir.

U presudi „Planet49“ od 1. listopada 2019., Sud navodi da, za zakonito prikupljanje informacija na temelju kolačića, unaprijed označena kućica nije dovoljna: postavljanje kolačića zahtijeva aktivnu i specifičnu suglasnost korisnika interneta.

Korisnik interneta također mora biti obaviješten o trajanju rada kolačića i o tome mogu li im treće strane pristupiti ili ne.

Ova presuda podupire nedavne komunikacije nadzornih tijela o uvjetima korištenja kolačića, uključujući i onu CNIL-a.

U presuda u slučaju "Google" od 24. rujna, Sud pojašnjava da se pravo na zaborav ne primjenjuje sustavno na tražilice izvan Europske unije.

U EU se to odnosi, na primjer, na google.fr i druge europske ekstenzije. Međutim, na tražilici je također da provede mjere kako bi obeshrabrila korisnike interneta da pristupaju dotičnim poveznicama na verzijama te tražilice izvan EU-a iz jedne od država članica.

Kraj presude je važan jer Sud utvrđuje diskrecijsku ovlast nadzornih tijela: iako nije obvezno ukloniti poveznicu izvan EU-a, tijelo zadržava ovlast naložiti tražilici da je u potpunosti ukloni, nakon što uravnoteži prava dotične osobe i slobodu informiranja.

Upravo je taj čin balansiranja u srži druge presude 24. rujna : Sud potvrđuje u presuda GC ea protiv CNIL-a da se načelna zabrana obrade osjetljivih podataka odnosi i na tražilice, ali se analiza mora provesti od slučaja do slučaja između temeljnih prava osobe koja traži uklanjanje referenci i prava korisnika interneta koji su potencijalno zainteresirani za te informacije.

Ako tražilica ne ukloni referencu, Sud nameće barem za sudske podatke obvezu prikazivanja rezultata nalogom kojim se ističu aktualne informacije.