Umjetna inteligencija u skladu sa zakonom i društvenim pitanjima.

Pravni nadzor br. 34 – Travanj 2021.

Umjetna inteligencija u skladu sa zakonom i društvenim pitanjimaUmjetna inteligencija i sigurnost danas su povezane u političkom i pravnom diskursu. Ali U kojoj mjeri prilagodba našeg regulatornog okvira izazovima poput terorizma može – ili bi trebala – uključivati najnovija tehnološka dostignuća?

Kontroverze su obilovale početkom proljeća, s usvajanjem zakona o globalnom nadzoru i novim mjerama zakona protiv terorizma.

Ograničenja široko rasprostranjenog prikupljanja podataka

U trenutnom kontekstu primjećujemo utjecaj nekoliko aktera, uključujući Državno vijeće, udruge za građanske slobode i Sud Europske unije.

Potonji je 6. listopada 2020. donio dvije presude koje se tiču Francuske u vezi s njezinim zakonom o obavještajnim službama i njezinim praksama zadržavanja podataka o vezama.

Sud je zapravo podsjetio na nepoštivanje temeljnih prava široko rasprostranjenog i neselektivnog prikupljanja komunikacijskih podataka od operatoraSud navodi iznimnu prirodu koju takvo prikupljanje mora imati, za ciljeve nacionalne sigurnosti i za strogo ograničeno trajanje.

Na temelju tih presuda na koje su se pozvala udruženja, Državno vijeće je u svojoj odluci od 21. travnja provelo delikatnu vježbu usklađivanja prava Europske unije i nacionalnih ciljeva borbe protiv terorizma i kriminala, tražeći od vlade da napravi neke prilagodbe svojoj politici generaliziranog nadzora (periodično ponovno ispitivanje prijetnje koja opravdava prikupljanje podataka, obvezujući i više ne savjetodavni učinak mišljenja Nacionalne komisije za kontrolu obavještajnih tehnika – CNCTR).

Udruge oštro kritiziraju ove zaključke, ističući neadekvatnost potrebnih prilagodbi i vrlo široko tumačenje pojma "nacionalne sigurnosti" od strane Državnog vijeća izvan borbe protiv terorizma, uključujući na primjer ekonomsku špijunažu, trgovinu drogom ili organiziranje neprijavljenih demonstracija, što je kršenje europskog prava.

La Quadrature du Net i druge udruge također su 29. travnja uputile Ustavnom vijeću pitanje zakonitosti zakona o globalnom nadzoru, također na temelju nesrazmjerne prirode mnogih mjera nadzora predviđenih zakonom. 

Algoritmi zakona protiv terorizma

Rasprave koje je potaknuo zakon o sprječavanju terorističkih djela i obavještajnim aktivnostima nadovezuju se na ovu debatu i oživljavaju pitanja proporcionalnosti predviđenih mjera.

Posebno se pozivamo na dva aspekta zakona, koji je u početno objavljenoj verziji imao za cilj produžiti korištenje algoritama za praćenje, posebno, internetskih veza na temelju posjećenih web stranica i prikupljanje široko rasprostranjenih satelitskih komunikacijskih podataka.

Verzija nacrta objavljena 28. travnja u Nacionalnoj skupštini više ne sadrži te odredbe, koje bi trebalo prilagoditi – kako bi se uzele u obzir „prilagodbe“ koje je zatražilo Državno vijeće – u korektivnom pismu koje se očekuje tijekom svibnja.

Treba napomenuti da mišljenje CNIL-a od 8. travnja o ovom projektu nije objavljeno, kao ni mišljenje Nacionalne komisije za kontrolu obavještajnih tehnika.

Jasnija buduća regulacija umjetne inteligencije na europskoj razini?

Uz ove nacionalne događaje, Europska komisija objavila je 21. travnja prijedlog za regulaciju umjetne inteligencije., koji neki već smatraju previše restriktivnim, dok drugi osuđuju njegova ograničenja.

Komisija planira zabraniti korištenje umjetne inteligencije koja krši vrijednosti EU-a i ljudska prava, posebno "neprihvatljive" upotrebe namijenjene utjecaju na ponašanje ili ciljanju individualnih ranjivosti putem prediktivnih algoritama.

Prijedlog, na primjer, zabranjuje "socijalno bodovanje". kao što se vidi u Kini s razvojem aplikacija koje državi omogućuju procjenu društvenog kredita svakog pojedinca. Analizu rizika (posebno tretmana identificiranih kao "visokorizični") morat će provoditi programeri projekata koji koriste umjetnu inteligenciju.

Kršenje ovih načela može, kao i u GDPR-u, rezultirati novčanim kaznama do 4% prometa.

Međutim, restriktivne mjere predviđene prijedlogom ne primjenjuju se na vlade i javna tijela u Europskoj uniji koja koriste umjetnu inteligenciju za zaštitu javne sigurnosti.

Neki, uključujući Europskog nadzornika za zaštitu podataka, osuđuju nepostojanje moratorija na aktualna pitanja poput korištenja biometrijskih nadzornih kamera u stvarnom vremenu od strane države.

Iako prijedlog ograničava takvu upotrebu, ona je i dalje moguća, posebno u kontekstu terorističkih napada ili potrage za kriminalcima.

Drugi ističu teret odgovornosti prenesen s države na privatne investitore, koji će morati provesti vlastitu analizu usklađenosti sustava koje predlažu, na primjer u smislu prediktivnog policijskog rada, korištenja umjetne inteligencije u postupcima azila ili nadzora radnika.

Ovi različiti događaji naglašavaju osjetljivost rasprave koja mora uzeti u obzir i pitanja nacionalne sigurnosti, zaštićena područja djelovanja država, te aspekte gospodarskog poretka i temeljnih prava specificiranih europskim pravnim poretkom koji im je nametnut.

Europski prijedlog predviđa stvaranje Europskog odbora za umjetnu inteligenciju, sastavljen od različitih država članica EU-a, Europske komisije i Europskog nadzornika za zaštitu podataka. Ovaj će odbor biti odgovoran za odlučivanje o neovlaštenim ili visokorizičnim razvojima umjetne inteligencije.

Početak rješenja?

I također

Francuska:

ANSSI nastavlja svoj rad na podizanju svijesti o sigurnosnim rizicima, uz vodič za osiguranje web stranica.

Vodič specificira parametre koje treba navesti prilikom razvoja i integracije web stranice ili web aplikacije kako bi se jamčila njezina sigurnost.

CNIL objavljuje popis pitanja i odgovora u vezi s testovi sline u školama, korišten u kontekstu probira za Covid-19.

U svojoj osmoj bilježnici o inovacijama i predviđanjima, CNIL razvija razlozi koji potiču pojedinca da podnese pritužbu zbog nepoštivanja njegovih pravaOna navodi četiri glavna razloga:

• „Kada je ugled pojedinaca ugrožen informacijama dostupnim na internetu (gotovo trećina pritužbi);
• Kada su žrtve upada u njihovu privatnu sferu putem komercijalnog istraživanja (oko 20% pritužbi);
• U slučaju nadzora na njihovom radnom mjestu (10 do 15 pritužbi %); i konačno
• Kada su registrirani u nacionalnim dosjeima (bankarske nesreće, kazneni dosjei).

Europa:

Europska unija: Projekt zdravstvene putovnice predmet je rasprave na europskoj razini.

Nakon zajedničkog mišljenja Odbora i Europskog nadzornika za zaštitu podataka, sada je na redu Europski parlament da razmotri to pitanje.

Tako je bilo istaknuto,

• Potreba za integracijom „Privatnosti po dizajnu“ u sustav obrade podataka,
• Jamstvo nepostojanja centralizirane baze podataka,
• Jasna identifikacija kontrolora podataka,
• Informacije o dotičnim osobama i
• Ograničeno razdoblje čuvanja podataka.

Vijeće Europe: Dana 28. travnja Odbor ministara usvojio je Deklaraciju o zaštiti privatnosti djece u digitalnom okruženju.

Ova deklaracija ima za cilj ojačati zaštitu djece u onome što predstavlja sve veći dio njihovih života, bilo u školi, s prijateljima ili u kontekstu kulturnih ili sportskih aktivnosti, s trenutnim posebnim utjecajem zbog pandemije Covid-19 (online aktivnosti koje vode do većih rizika, uključujući i digitalnu isključenost).

Nizozemska Okružni sud u Limburgu razmatrao je višestruki postupci prava pristupa koje je pojedinac pokrenuo s ciljem dobivanja odštete kontrolorima podataka koji su sporo reagirali.

Uvijek na NizozemskaOkružni sud u Amsterdamu naložio je Uberu da vrati šest vozači otpušteni na temelju automatiziranih odlukaTvrtki je naloženo da plati 5000 eura kazne po danu kašnjenja i više od 100.000 eura odštete.

Prema informacijama objavljenim sredinom travnja, operater Huawei navodno je dobio pristup nizozemskoj telekomunikacijskoj mreži KPN, omogućujući pristup komunikacijama korisnika, uključujući mnoge donositelje političkih odluka u zemlji.

Španjolska: Ministarstvo obrane upozoreno je od strane tijela za zaštitu podataka.

Razlog tome je snimanje kamerama postavljenim oko ureda ministarstva – bez ikakve dokazane potrebe – slike parkirnih mjesta pripadaju susjednim kućama (zahvaljujemo GDPRhub wikiju na popisu odluka). 

Njemačka: Nadzorno tijelo države Hamburg objavilo je 13. travnja da pokreće Upravni postupak protiv Facebooka u vezi s promjenom pravila WhatsAppa u vezi s prikupljanjem osobnih podataka.

Dovodi se u pitanje valjanost privole korisnika, što opravdava tromjesečno zamrzavanje prikupljanja podataka od strane nadzornog tijela, dok je istraga u tijeku.

Međunarodno:

SJEDINJENE DRŽAVE : Prepoznavanje lica se razvija u bankama, koji koriste pametne kamere za identifikaciju svojih kupaca, zaposlenika, pa čak i „beskućnika“ koji se mogu nalaziti u blizini distributera. 

Iako korištenje umjetne inteligencije u kontekstu video nadzora nije regulirano na sličan način u svim američkim državama, FTC (Federalna trgovinska komisija) i dalje je nadležna za provjeru uvjeta korištenja ove tehnologije i sankcioniranje njezine upotrebe u diskriminatorne svrhe.

Anne Christine Lacoste

Partnerica u tvrtki Olivier Weber Avocat, Anne Christine Lacoste, odvjetnica je specijalizirana za pravo podataka; bila je voditeljica međunarodnih odnosa u Europskom nadzorniku za zaštitu podataka i radila je na provedbi GDPR-a u Europskoj uniji.