Umetna inteligenca v skladu z zakonom in družbenimi vprašanji.

Pravna ura št. 34 – April 2021

Umetna inteligenca v skladu z zakonom in družbenimi vprašanjiUmetna inteligenca in varnost sta danes povezani v političnem in pravnem diskurzu. Vendar V kolikšni meri lahko – ali bi moralo – prilagajanje našega regulativnega okvira izzivom, kot je terorizem, vključevati najnovejši tehnološki razvoj?

Na začetku pomladi je zaradi sprejetja zakona o globalnem nadzoru in novih ukrepov zakona o boju proti terorizmu prišlo do številnih polemik.

Omejitve široko razširjenega zbiranja podatkov

V trenutnih okoliščinah opažamo vpliv več akterjev, vključno z državnim svetom, združenja za državljanske svoboščine in Sodišče Evropske unije.

Slednji je 6. oktobra 2020 izdal dve sodbi, ki se nanašata na Francijo glede njenega zakona o obveščevalnih dejavnostih in njenih praks hrambe podatkov o povezavah.

Sodišče je dejansko opozorilo na nespoštovanje temeljnih pravic zaradi široko razširjenega in neselektivnega zbiranja komunikacijskih podatkov od operaterjevSodišče določa izjemno naravo, ki jo mora imeti takšno zbiranje, zaradi ciljev nacionalne varnosti in za strogo omejeno trajanje.

Državni svet, na katerega so se na podlagi teh sodb sklicevala združenja, je v svoji odločitvi z dne 21. aprila izvedel občutljivo usklajevanje med pravom Evropske unije in nacionalnimi cilji boja proti terorizmu in kriminalu ter vlado pozval k nekaterim prilagoditvam svoje politike splošnega nadzora (redno ponovno preučevanje grožnje, ki upravičuje zbiranje podatkov, zavezujoča in ne več posvetovalna mnenja Nacionalne komisije za nadzor obveščevalnih tehnik – CNCTR).

Združenja ostro kritizirajo te sklepe, saj poudarjajo neustreznost zahtevanih prilagoditev in zelo široko razlago pojma "nacionalne varnosti" s strani državnega sveta, ki presega boj proti terorizmu in vključuje na primer ekonomsko vohunjenje, trgovino z drogami ali organizacijo neprijavljenih demonstracij, kar je v nasprotju z evropskim pravom.

Tudi La Quadrature du Net in druga združenja so 29. aprila vprašanje zakonitosti zakona o globalnem nadzoru naslovila na ustavni svet, prav tako na podlagi nesorazmerne narave številnih nadzornih ukrepov, ki jih zakon določa. 

Algoritmi protiterorističnega zakona

Razprave, ki jih je sprožil zakon o preprečevanju terorističnih dejanj in obveščevalnih dejavnostih, se naslanjajo na to razpravo in oživljajo vprašanja sorazmernosti predvidenih ukrepov.

Zlasti se sklicujemo na dva vidika zakona, ki je bil v prvotno objavljeni različici namenjen ohranjanju uporabe algoritmov za spremljanje zlasti povezav internetnih uporabnikov na podlagi obiskanih spletnih mest in zbiranju široko razširjenih satelitskih komunikacijskih podatkov.

Različica osnutka, objavljena 28. aprila v državnem zboru, teh določb ne vsebuje več in bi jih bilo treba prilagoditi – da bi se upoštevale „prilagoditve“, ki jih je zahteval državni svet – v popravnem pismu, ki naj bi bilo objavljeno v mesecu maju.

Upoštevajte, da mnenje CNIL z dne 8. aprila o tem projektu ni bilo objavljeno, prav tako ne mnenje Nacionalne komisije za nadzor obveščevalnih tehnik.

Jasnejša prihodnja regulacija umetne inteligence na evropski ravni?

Vzporedno s tem nacionalnim razvojem, Evropska komisija je 21. aprila objavila predlog za regulacijo umetne inteligence., ki ga nekateri že zdaj smatrajo za preveč omejujočega, drugi pa obžalujejo njegove omejitve.

Komisija namerava prepovedati uporabo umetne inteligence, ki krši vrednote EU in človekove pravice, zlasti "nesprejemljivo" uporabo, namenjeno vplivanju na vedenje ali ciljanju na posamezne ranljivosti s pomočjo napovednih algoritmov.

Predlog na primer prepoveduje "socialno točkovanje". kot je bilo razvidno iz Kitajske z razvojem aplikacij, ki državi omogočajo oceno družbene bonitete vsakega posameznika. Analizo tveganja (zlasti zdravljenja, opredeljena kot "visoko tvegana") bodo morali izvesti razvijalci projektov, ki uporabljajo umetno inteligenco.

Kršitve teh načel lahko, tako kot v GDPR, povzročijo globe do 4% prometa.

Omejevalni ukrepi iz predloga pa se ne uporabljajo za vlade in javne organe v Evropski uniji, ki uporabljajo umetno inteligenco za zaščito javne varnosti.

Nekateri, vključno z evropskim nadzornikom za varstvo podatkov, obžalujejo odsotnost moratorija na aktualna vprašanja, kot je uporaba biometričnih nadzornih kamer v realnem času s strani države.

Čeprav predlog omejuje takšno uporabo, je še vedno mogoča, zlasti v kontekstu terorističnih napadov ali iskanja kriminalcev.

Drugi poudarjajo breme odgovornosti, preneseno z države na zasebne razvijalce, ki bodo morali opraviti lastno analizo skladnosti sistemov, ki jih predlagajo, na primer v smislu napovednega policijskega dela, uporabe umetne inteligence v azilnih postopkih ali nadzora delavcev.

Ti različni dogodki poudarjajo občutljivost razprave, ki mora upoštevati tako vprašanja nacionalne varnosti, ki so v pristojnosti držav, kot tudi vidike gospodarskega reda in temeljnih pravic, ki jih določa evropski pravni red, ki jim je naložen.

Evropski predlog določa, da ustanovitev Evropskega odbora za umetno inteligenco, sestavljajo ga različne države članice EU, Evropska komisija in Evropski nadzornik za varstvo podatkov. Ta odbor bo odgovoren za odločanje o nepooblaščenem ali visoko tveganem razvoju umetne inteligence.

Začetek rešitve?

In tudi

Francija:

ANSSI nadaljuje svoje delo za ozaveščanje o varnostnih tveganjih z vodnik za zaščito spletnih strani.

Priročnik določa parametre, ki jih je treba določiti pri razvoju in integraciji spletnega mesta ali spletne aplikacije, da se zagotovi njegova varnost.

CNIL objavlja seznam vprašanj in odgovorov v zvezi z testi sline v šolah, ki se uporablja v kontekstu presejalnih testov za Covid-19.

V svojem osmem zvezku o inovacijah in predvidevanju CNIL razvija razlogi, ki posameznika spodbudijo k vložitvi pritožbe zaradi nespoštovanja njegovih pravicNavaja štiri glavne razloge:

• „Ko je ugled posameznikov ogrožen zaradi informacij, ki so na voljo na spletu (skoraj tretjina pritožb);
• Ko so žrtve vdora v njihovo zasebno sfero s komercialnim iskanjem potencialnih strank (približno 20 % pritožb);
• V primeru nadzora na njihovem delovnem mestu (10 do 15 pritožb %); in končno
• Ko so registrirani v nacionalnih datotekah (bančne nesreče, kazenske evidence).

Evropa:

Evropska unija: Projekt zdravstvenih potnih listov je predmet razprave na evropski ravni.

Po skupnem mnenju odbora in evropskega nadzornika za varstvo podatkov je zdaj na vrsti Evropski parlament, da to vprašanje obravnava.

Tako je bilo poudarjeno,

• Potreba po vključitvi „vgrajene zasebnosti“ v sistem obdelave podatkov,
• Zagotavljanje odsotnosti centralizirane baze podatkov,
• Jasna identifikacija upravljavcev podatkov,
• Informacije o zadevnih osebah in
• Omejeno obdobje hrambe podatkov.

Svet Evrope: Odbor ministrov je 28. aprila sprejel Deklaracijo o varstvu zasebnosti otrok v digitalnem okolju.

Namen te deklaracije je okrepiti zaščito otrok v času, ki predstavlja vse večji del njihovega življenja, bodisi v šoli, s prijatelji ali v okviru kulturnih ali športnih dejavnosti, s trenutnim posebnim vplivom zaradi pandemije Covid-19 (spletne dejavnosti, ki vodijo do večjih tveganj, vključno z digitalno izključenostjo).

Nizozemska Okrožno sodišče v Limburgu je obravnavalo več postopkov v zvezi s pravico do dostopa, ki jih posameznik sproži z namenom pridobitve odškodnine upravljavcem podatkov, ki so se počasi odzvali.

Vedno pri NizozemskaOkrožno sodišče v Amsterdamu je Uberju naložilo, naj ponovno vzpostavi šest vozniki, odpuščeni na podlagi avtomatiziranih odločitevPodjetju je bilo naloženo plačilo 5000 evrov kazni na dan zamude in več kot 100.000 evrov odškodnine.

Glede na informacije, objavljene sredi aprila, je operater Huawei domnevno pridobil dostop do nizozemskega telekomunikacijskega omrežja KPN, kar je omogočilo dostop do komunikacij strank, vključno s številnimi političnimi odločevalci v državi.

Španija: Ministrstvo za obrambo je prejelo opozorilo organa za varstvo podatkov.

Razlog za to so snemanja s kamerami, nameščenimi okoli pisarn ministrstva – brez kakršne koli dokazane potrebe – slike parkirnega mesta pripadajo sosednjim hišam (zahvala wiki strani GDPRhub za popis odločitev). 

Nemčija: Hamburški državni nadzorni organ je 13. aprila sporočil, da bo začel upravni postopek proti Facebooku glede spremembe pravilnika WhatsAppa glede zbiranja osebnih podatkov.

Veljavnost soglasja uporabnikov je pod vprašajem, kar upravičuje trimesečno zamrznitev zbiranja podatkov s strani nadzornega organa, medtem ko preiskava še poteka.

Mednarodno:

ZDRUŽENE DRŽAVE AMERIKE : Prepoznavanje obrazov se razvija v bankah, ki uporabljajo pametne kamere za identifikacijo svojih strank, zaposlenih in celo "brezdomcev", ki so morda v bližini distributerjev. 

Čeprav uporaba umetne inteligence v kontekstu video nadzora ni v vseh ameriških zveznih državah urejena na podoben način, je FTC (Zvezna komisija za trgovino) še vedno pristojna za preverjanje pogojev uporabe te tehnologije in za sankcioniranje njene uporabe v diskriminatorne namene.

Anne Christine Lacoste

Anne Christine Lacoste, partnerica pri Olivier Weber Avocat, je odvetnica, specializirana za pravo podatkov; bila je vodja mednarodnih odnosov pri Evropskem nadzorniku za varstvo podatkov in delala na izvajanju GDPR v Evropski uniji.