Dirbtinis intelektas, atitinkantis įstatymus ir socialinius klausimus.

Teisinis stebėjimas Nr. 34 – 2021 m. balandis

Dirbtinis intelektas atitinka įstatymus ir socialinius klausimusDirbtinis intelektas ir saugumas šiandien yra susieti politiniame ir teisiniame diskurse. Kiek mūsų reguliavimo sistemos pritaikymas tokiems iššūkiams kaip terorizmas gali – arba turėtų – apimti naujausius technologinius pokyčius?

Pavasario pradžioje, priėmus pasaulinio stebėjimo įstatymą ir naujas kovos su terorizmu įstatymo priemones, netrūksta ginčų.

Plačiai paplitusių duomenų rinkimo ribos

Dabartinėmis aplinkybėmis atkreipiame dėmesį į kelių veikėjų, įskaitant Valstybės tarybą, įtaką. pilietinių laisvių asociacijos ir Europos Sąjungos Teisingumo Teismas.

Pastaroji 2020 m. spalio 6 d. priėmė du sprendimus, susijusius su Prancūzija dėl jos žvalgybos įstatymų ir ryšio duomenų saugojimo praktikos.

Teisingumo Teismas iš tiesų priminė pagrindinių teisių pažeidimas dėl plačiai paplitusio ir beatodairiško ryšių duomenų rinkimo iš operatoriųTeismas nurodo išimtinį tokio rinkimo pobūdį – nacionalinio saugumo tikslais ir griežtai ribotą laikotarpį.

Remdamasi šiais asociacijų sprendimais, Valstybės Taryba balandžio 21 d. sprendime subtiliai suderino Europos Sąjungos teisę ir nacionalinius kovos su terorizmu ir nusikalstamumu tikslus, prašydama vyriausybės pakoreguoti savo bendros stebėsenos politiką (periodiškai pakartotinai nagrinėti grėsmę, pateisinančią duomenų rinkimą, Nacionalinės žvalgybos technikos kontrolės komisijos (CNCTR) nuomonės, kurios nebeturi konsultacinio poveikio).

Šias išvadas griežtai kritikuoja asociacijos, kurios pabrėžia reikiamų pakeitimų nepakankamumą ir labai platų Valstybės Tarybos „nacionalinio saugumo“ sąvokos aiškinimą, apimantį ne tik kovą su terorizmu, bet ir, pavyzdžiui, ekonominį šnipinėjimą, prekybą narkotikais ar nedeklaruotų demonstracijų organizavimą, pažeidžiant Europos teisę.

„La Quadrature du Net“ ir kitos asociacijos balandžio 29 d. taip pat perdavė pasaulinio stebėjimo įstatymo teisėtumo klausimą Konstitucinei tarybai, remdamosi daugelio įstatyme numatytų stebėjimo priemonių neproporcingumu. 

Kovos su terorizmu įstatymo algoritmai

Terorizmo aktų prevencijos ir žvalgybos įstatymo projekto sukeltos diskusijos užgožia šias diskusijas ir atgaivina numatytų priemonių proporcingumo klausimus.

Visų pirma, turime omenyje du įstatymo projekto aspektus, kurie iš pradžių paskelbtoje versijoje buvo skirti įtvirtinti algoritmų naudojimą, siekiant stebėti interneto vartotojų ryšius pagal lankomas svetaines ir rinkti plačiai paplitusius palydovinio ryšio duomenis.

Balandžio 28 d. Nacionalinėje Asamblėjoje paskelbtame projekto variante šių nuostatų nebėra, ir jos turėtų būti patikslintos – atsižvelgiant į Valstybės Tarybos prašomus „pataisymus“ – gegužės mėnesį numatomu pataisos laišku.

Atkreipiame dėmesį, kad CNIL balandžio 8 d. nuomonė dėl šio projekto nebuvo paskelbta, kaip ir Nacionalinės žvalgybos metodų kontrolės komisijos nuomonė.

Aiškesnis būsimas dirbtinio intelekto reguliavimas Europos lygmeniu?

Kartu su šiais nacionaliniais pokyčiais, Europos Komisija balandžio 21 d. paskelbė dirbtinio intelekto reguliavimo pasiūlymą., kurį kai kurie jau laiko pernelyg ribojančiu, o kiti smerkia jo apribojimus.

Komisija planuoja uždrausti dirbtinio intelekto naudojimą, kuris pažeidžia ES vertybes ir žmogaus teises, ypač „nepriimtiną“ jo naudojimą, skirtą paveikti elgesį arba nukreipti dėmesį į individualius pažeidžiamumus taikant nuspėjamuosius algoritmus.

Pavyzdžiui, pasiūlyme draudžiamas „socialinis taškų skaičiavimas“. kaip matyti Kinijoje, kai kuriamos programos, leidžiančios valstybei įvertinti kiekvieno asmens socialinį kreditą. Rizikos analizę (ypač gydymo, kuris laikomas „didelės rizikos“), turės atlikti projektų, kuriuose naudojamas dirbtinis intelektas, kūrėjai.

Už šių principų pažeidimus, kaip ir BDAR, gali būti skiriamos baudos iki 4% apyvartos.

Tačiau pasiūlyme numatytos ribojančios priemonės netaikomos Europos Sąjungos vyriausybėms ir valdžios institucijoms, kurios naudoja dirbtinį intelektą visuomenės saugumui užtikrinti.

Kai kurie, įskaitant Europos duomenų apsaugos priežiūros pareigūną, apgailestauja, kad nėra moratoriumo tokiems aktualiems klausimams kaip valstybės naudojamas biometrinių stebėjimo kamerų naudojimas realiuoju laiku.

Nors pasiūlymas riboja tokį naudojimą, jis išlieka įmanomas, ypač teroristinių išpuolių ar nusikaltėlių paieškos atveju.

Kiti atkreipia dėmesį atsakomybės našta, perkelta iš valstybės privatiems vystytojams, kurie turės atlikti savo siūlomų sistemų atitikties analizę, pavyzdžiui, atsižvelgiant į nuspėjamąją policijos veiklą, dirbtinio intelekto naudojimą prieglobsčio procedūrose ar darbuotojų stebėjimą.

Šie įvairūs įvykiai pabrėžia diskusijos jautrumą, nes jame reikia atsižvelgti tiek į nacionalinio saugumo, valstybių teisės, tiek į ekonominės tvarkos ir pagrindinių teisių aspektus, nustatytus joms privalomoje Europos teisinėje tvarkoje.

Europos pasiūlyme numatyta, kad Europos dirbtinio intelekto komiteto sukūrimas, sudarytas iš įvairių ES valstybių narių, Europos Komisijos ir Europos duomenų apsaugos priežiūros pareigūno. Šis komitetas bus atsakingas už sprendimus dėl neleistinų arba didelės rizikos dirbtinio intelekto plėtros.

Sprendimo pradžia?

Ir taip pat

Prancūzija:

ANSSI tęsia savo darbą, siekdama didinti informuotumą apie saugumo rizikas, teikdama Svetainių apsaugos vadovas.

Vadove nurodomi parametrai, kuriuos reikia nurodyti kuriant ir integruojant svetainę ar žiniatinklio programą, siekiant užtikrinti jos saugumą.

CNIL skelbia klausimų ir atsakymų sąrašą, susijusį su... seilių tyrimai mokyklose, naudojamas atliekant COVID-19 patikrą.

Aštuntajame inovacijų ir prognozavimo sąsiuvinyje CNIL plėtoja Priežastys, dėl kurių asmuo kreipiasi į teismą dėl savo teisių pažeidimo.Ji įvardija keturias pagrindines priežastis:

• „Kai asmenų reputacijai kyla grėsmė dėl internete prieinamos informacijos (beveik trečdalis skundų);
• Kai jie tampa komercinės paieškos ir įsibrovimo į jų privačią sferą aukomis (maždaug 20 % skundų);
• Stebėjimo jų darbo vietoje atveju (nuo 10 iki 15 % skundų); ir galiausiai
• Kai jie registruojami nacionalinėse bylose (bankų avarijos, teistumo registrai).

Europa:

Europos Sąjunga: Sveikatos paso projektas yra diskusijų objektas Europos lygmeniu.

Po bendros Komiteto ir Europos duomenų apsaugos priežiūros pareigūno nuomonės dabar atėjo Europos Parlamento eilė svarstyti šį klausimą.

Taip buvo pabrėžta,

• Poreikis integruoti „privatumo užtikrinimą projektuojant“ į duomenų tvarkymo sistemą,
• Centralizuotos duomenų bazės nebuvimo garantija,
• Aiškus duomenų valdytojų identifikavimas,
• Suinteresuotų asmenų informacija ir
• Ribotas duomenų saugojimo laikotarpis.

Europos Taryba: Balandžio 28 d. Ministrų Komitetas priėmė Deklaraciją dėl vaikų privatumo apsaugos skaitmeninėje aplinkoje.

Šia deklaracija siekiama sustiprinti vaikų apsaugą vis didėjančioje jų gyvenimo dalyje – mokykloje, su draugais, kultūrinėje ar sportinėje veikloje, o šiuo metu ypač didelę įtaką daro Covid-19 pandemija (veikla internete kelia didesnę riziką, įskaitant skaitmeninę atskirtį).

Nyderlandai Limburgo apylinkės teismas nagrinėjo kelios asmens inicijuotos teisės susipažinti su teise procedūros, kuriomis siekiama gauti žalos atlyginimą duomenų valdytojams, kurie lėtai reagavo.

Visada prie NyderlandaiAmsterdamo apygardos teismas įpareigojo „Uber“ atkurti šešis vairuotojai atleidžiami remiantis automatizuotais sprendimaisBendrovei buvo nurodyta mokėti 5000 eurų baudą už kiekvieną vėlavimo dieną ir daugiau nei 100 000 eurų žalos atlyginimui.

Remiantis balandžio viduryje paskelbta informacija, operatorius Huawei tariamai gavo prieigą prie Nyderlandų telekomunikacijų tinklo KPN, leisdamas pasiekti klientų, įskaitant daugelį šalies politinių sprendimų priėmėjų, komunikaciją.

Ispanija: Gynybos ministerija buvo įspėta duomenų apsaugos institucijos.

To priežastis – ministerijos biuruose įrengtų kamerų įrašymas – be jokio įrodyto poreikio – automobilių stovėjimo vietos vaizdų priklausantys kaimyniniams namams (dėkojame GDPRhub wiki už sprendimų sąrašą). 

Vokietija: Hamburgo žemės priežiūros institucija balandžio 13 d. paskelbė, kad pradeda... Administracinė byla prieš „Facebook“ dėl „WhatsApp“ politikos pakeitimo dėl asmens duomenų rinkimo.

Abejotina vartotojų sutikimo galiojimu, todėl priežiūros institucija tris mėnesius įšaldė duomenų rinkimą, kol vyksta tyrimas.

Tarptautinis:

JUNGTINĖS AMERIKOS VALSTIJOS : Bankuose vystoma veido atpažinimo technologija, kurios naudoja išmaniąsias kameras savo klientams, darbuotojams ir net „benamiams“, kurie gali būti šalia platintojų, identifikuoti. 

Nors dirbtinio intelekto naudojimas vaizdo stebėjimo kontekste ne visose Amerikos valstijose reguliuojamas panašiai, FTC (Federalinė prekybos komisija) išlieka kompetentinga tikrinti šios technologijos naudojimo sąlygas ir sankcionuoti jos naudojimą diskriminaciniais tikslais.

Anne Christine Lacoste

„Olivier Weber Avocat“ partnerė Anne Christine Lacoste yra teisininkė, kurios specializacija – duomenų teisė; ji buvo Europos duomenų apsaugos priežiūros pareigūno tarptautinių santykių vadovė ir dirbo įgyvendinant BDAR Europos Sąjungoje.