Umelá inteligencia v súlade s právom a sociálnymi otázkami.

Právne upozornenie č. 34 – Apríl 2021

Umelá inteligencia v súlade s právom a sociálnymi otázkamiUmelá inteligencia a bezpečnosť sú dnes v politickej a právnej diskusii prepojené. Ale Do akej miery môže – alebo by malo – prispôsobenie nášho regulačného rámca výzvam, ako je terorizmus, zahŕňať najnovší technologický vývoj?

Začiatkom jari sa vyskytujú kontroverzie, najmä s prijatím zákona o globálnom sledovaní a nových opatrení zákona o boji proti terorizmu.

Obmedzenia rozsiahleho zberu údajov

V súčasnom kontexte si všímame vplyv viacerých aktérov vrátane Štátnej rady, združenia pre občianske slobody a Súdny dvor Európskej únie.

Tento súd vydal 6. októbra 2020 dva rozsudky, ktoré sa týkajú Francúzska v súvislosti s jeho zákonom o spravodajských službách a jeho praxou uchovávania údajov o pripojení.

Súdny dvor v skutočnosti pripomenul, že nedodržiavanie základných práv v dôsledku rozsiahleho a nediferencovaného zhromažďovania komunikačných údajov od operátorovSúd špecifikuje výnimočnú povahu, ktorú musí mať takýto zber údajov, z dôvodov národnej bezpečnosti a na prísne obmedzené trvanie.

Na základe týchto rozhodnutí sa na Štátnu radu odvolali združenia a vo svojom rozhodnutí z 21. apríla vykonala chúlostivý krok v oblasti zmierenia medzi právom Európskej únie a vnútroštátnymi cieľmi boja proti terorizmu a zločinu, pričom požiadala vládu o určité úpravy svojej politiky všeobecného dohľadu (pravidelné prehodnocovanie hrozby odôvodňujúcej zhromažďovanie údajov, záväzný a už nekonzultatívny účinok stanovísk Národnej komisie pre kontrolu spravodajských techník – CNCTR).

Tieto závery sú zo strany združení dôrazne kritizované a zdôrazňujú nedostatočnosť požadovaných úprav a veľmi široký výklad pojmu „národná bezpečnosť“ zo strany Štátnej rady nad rámec boja proti terorizmu, ktorý zahŕňa napríklad hospodársku špionáž, obchodovanie s drogami alebo organizovanie neohlásených demonštrácií, čo je v rozpore s európskym právom.

Združenie La Quadrature du Net a ďalšie združenia tiež 29. apríla postúpili otázku zákonnosti zákona o globálnom sledovaní Ústavnej rade, a to aj z dôvodu neprimeranej povahy mnohých sledovacích opatrení stanovených v zákone. 

Algoritmy protiteroristického zákona

Diskusie, ktoré vyvolal návrh zákona o predchádzaní teroristickým činom a spravodajských službách, sa prekrývajú s touto debatou a oživujú otázky primeranosti plánovaných opatrení.

Máme na mysli najmä dva aspekty návrhu zákona, ktorý v pôvodne zverejnenej verzii mal za cieľ zachovať používanie algoritmov na monitorovanie najmä pripojení používateľov internetu na základe navštívených webových stránok a na zhromažďovanie rozsiahlych údajov o satelitnej komunikácii.

Verzia návrhu zverejnená 28. apríla v Národnom zhromaždení už tieto ustanovenia neobsahuje a mali by sa upraviť – aby sa zohľadnili „úpravy“ požadované Štátnou radou – v opravnom liste, ktorý sa očakáva v priebehu mája.

Upozorňujeme, že stanovisko CNIL z 8. apríla k tomuto projektu nebolo zverejnené, ani stanovisko Národnej komisie pre kontrolu spravodajských techník.

Jasnejšia budúca regulácia umelej inteligencie na európskej úrovni?

Popri tomto národnom vývoji, Európska komisia zverejnila 21. apríla návrh na reguláciu umelej inteligencie., ktorý niektorí už považujú za príliš obmedzujúci, zatiaľ čo iní ľutujú jeho obmedzenia.

Komisia plánuje zakázať používanie umelej inteligencie, ktorá porušuje hodnoty EÚ a ľudské práva, najmä „neprijateľné“ použitie zamerané na ovplyvňovanie správania alebo cielenie na individuálne zraniteľnosti prostredníctvom prediktívnych algoritmov.

Návrh napríklad zakazuje „sociálne bodovanie“. ako je to vidieť v Číne s vývojom aplikácií, ktoré umožňujú štátu posúdiť sociálny kredit každého jednotlivca. Analýzu rizika (najmä liečby identifikovanej ako „vysoko riziková“) budú musieť vykonávať vývojári projektov využívajúcich umelú inteligenciu.

Porušenie týchto zásad môže, rovnako ako v GDPR, viesť k pokutám až do výšky 41 TP3T z obratu.

Obmedzujúce opatrenia stanovené v návrhu sa však nevzťahujú na vlády a verejné orgány v Európskej únii, ktoré používajú umelú inteligenciu na ochranu verejnej bezpečnosti.

Niektorí, vrátane Európskeho dozorného úradníka pre ochranu údajov, ľutujú absenciu moratória na aktuálne problémy, ako je napríklad používanie biometrických kamier v reálnom čase štátom.

Hoci návrh obmedzuje takéto použitie, zostáva možné, najmä v kontexte teroristických útokov alebo pátrania po zločincoch.

Iní poukazujú bremeno zodpovednosti prenesené zo štátu na súkromných developerov, ktorí budú musieť vykonať vlastnú analýzu súladu systémov, ktoré navrhujú, napríklad z hľadiska prediktívnej policajnej práce, využívania umelej inteligencie v azylových konaniach alebo sledovania pracovníkov.

Tieto rôzne udalosti zdôrazňujú citlivosť diskusie, ktorá musí brať do úvahy otázky národnej bezpečnosti, čo je v právomoci štátov, ako aj aspekty hospodárskeho poriadku a základných práv stanovených európskym právnym poriadkom, ktorý im je vnútený.

Európsky návrh stanovuje, že vytvorenie Európskeho výboru pre umelú inteligenciu, zložený z rôznych členských štátov EÚ, Európskej komisie a Európskeho dozorného úradníka pre ochranu údajov. Tento výbor bude zodpovedný za rozhodovanie o neoprávnenom alebo vysoko rizikovom vývoji v oblasti umelej inteligencie.

Začiatok riešenia?

A tiež

Francúzsko:

ANSSI pokračuje vo svojej práci na zvyšovaní povedomia o bezpečnostných rizikách s návod na zabezpečenie webových stránok.

Príručka špecifikuje parametre, ktoré je potrebné zadať pri vývoji a integrácii webovej stránky alebo webovej aplikácie, aby sa zaručila jej bezpečnosť.

CNIL zverejňuje zoznam otázok a odpovedí týkajúcich sa testy slín v školách, používaný v kontexte skríningu Covid-19.

Vo svojom ôsmom zošite Inovácie a prognózy CNIL rozvíja dôvody, ktoré vedú jednotlivca k podaniu sťažnosti pre porušenie jeho právUvádza štyri hlavné dôvody:

• „Keď je reputácia jednotlivcov ohrozená informáciami dostupnými online (takmer tretina sťažností);
• Keď sa stanú obeťami narušenia ich súkromia komerčným prieskumom (približne 20 % sťažností);
• V prípade sledovania na ich pracovisku (10 až 15 sťažností podľa %); a nakoniec
• Keď sú zaregistrované v národných súboroch (bankové nehody, záznamy o trestoch).

Európa:

Európska únia: Projekt zdravotných pasov je predmetom diskusie na európskej úrovni.

Po spoločnom stanovisku výboru a európskeho dozorného úradníka pre ochranu údajov je teraz rad na Európskom parlamente, aby sa touto otázkou zaoberal.

Takto bolo zdôraznené,

• Potreba integrovať „ochranu súkromia už v štádiu návrhu“ do systému spracovania údajov,
• Záruka absencie centralizovanej databázy,
• Jasná identifikácia prevádzkovateľov údajov,
• Informácie o dotknutých osobách a
• Obmedzená doba uchovávania údajov.

Rada Európy: Výbor ministrov prijal 28. apríla Deklaráciu o ochrane súkromia detí v digitálnom prostredí.

Cieľom tohto vyhlásenia je posilniť ochranu detí v období, ktoré predstavuje čoraz väčšiu časť ich života, či už v škole, s kamarátmi alebo v kontexte kultúrnych či športových aktivít, pričom v súčasnosti má mimoriadny vplyv pandémia Covid-19 (online aktivity vedúce k väčším rizikám vrátane digitálneho vylúčenia).

Holandsko Okresný súd v Limburgu zvážil viacero konaní o práve na prístup iniciovaných jednotlivcom s cieľom získať náhradu škody prevádzkovateľom údajov, ktorí reagovali pomaly.

Vždy na HolandskoOkresný súd v Amsterdame nariadil spoločnosti Uber obnoviť šesť vodiči prepustení na základe automatizovaných rozhodnutíSpoločnosti bolo nariadené zaplatiť penále vo výške 5 000 eur za každý deň omeškania a náhradu škody vo výške viac ako 100 000 eur.

Podľa informácií zverejnených v polovici apríla prevádzkovateľ Huawei údajne získal prístup k holandskej telekomunikačnej sieti KPN, čo umožnilo prístup ku komunikácii zákazníkov vrátane mnohých politických činiteľov s rozhodovacou právomocou v krajine.

Španielsko: Ministerstvo obrany bolo varované úradom na ochranu údajov.

Dôvodom je záznam z kamier nainštalovaných okolo kancelárií ministerstva – bez akejkoľvek preukázanej nevyhnutnosti – obrázky parkovacích miest patriace susedným domom (vďaka wiki GDPRhub za jej zoznam rozhodnutí). 

Nemecko: Hamburský štátny dozorný úrad 13. apríla oznámil, že začína správne konanie proti Facebooku týkajúce sa zmeny pravidiel WhatsAppu týkajúce sa zhromažďovania osobných údajov.

Platnosť súhlasu používateľov je spochybňovaná, čo odôvodňuje trojmesačné pozastavenie zhromažďovania údajov dozorným orgánom, kým prebieha vyšetrovanie.

Medzinárodné:

SPOJENÉ ŠTÁTY : Rozpoznávanie tvárí sa v bankách vyvíja, ktoré používajú inteligentné kamery na identifikáciu svojich zákazníkov, zamestnancov a dokonca aj „bezdomovcov“, ktorí sa môžu nachádzať v blízkosti distribútorov. 

Hoci používanie umelej inteligencie v kontexte video dohľadu nie je regulované rovnakým spôsobom vo všetkých amerických štátoch, FTC (Federálna obchodná komisia) má naďalej právomoc overovať podmienky používania tejto technológie a sankcionovať jej používanie na diskriminačné účely.

Anne Christine Lacoste

Anne Christine Lacoste, partnerka v spoločnosti Olivier Weber Avocat, je právnička špecializujúca sa na právo týkajúce sa údajov; bola vedúcou oddelenia medzinárodných vzťahov u Európskeho dozorného úradníka pre ochranu údajov a pracovala na implementácii GDPR v Európskej únii.