Mākslīgais intelekts visās tā formās

Juridiskā uzraudzība Nr. 52 — 2022. gada oktobris

2022. gada 17. oktobrī CNIL apstiprināja, piemērojot uzņēmumam Clearview AI 20 miljonu eiro sankcijas, savu kompetenci kā regulatoram mākslīgā intelekta jomā.

Šī sankcija seko oficiālam paziņojumam, uz kuru netika atbildēts, un uzņēmuma nesadarbošanās pārbaudes procedūras laikā.

Pēc apspriešanās procedūras Eiropas līmenī tas pievienojas sankcijām, ko vairāki tās partneri noteikuši pret šo pašu uzņēmumu.

• CNIL norāda, ka nav juridiska pamata sistemātiskai un plaši izplatītai divdesmit miljardu seju attēlu vākšanai, kas publiski pieejami miljoniem tīmekļa vietņu, un šos attēlus uzņēmums jo īpaši tirgo tiesībaizsardzības iestādēm.
• CNIL uzskata, ka, ņemot vērā datu īpaši uzmācīgo raksturu un biometrisko raksturu, to vākšanai bija nepieciešama attiecīgo personu iepriekšēja piekrišana.
• Tajā arī norādīts, ka uzņēmums neievēro attiecīgo personu piekļuves un dzēšanas tiesības.

Šis lēmums tiek pieņemts saistībā ar arvien precīzāku mākslīgā intelekta uzraudzību valsts un starptautiskā līmenī.

Valsts padome tādēļ vasaras beigās pieņēma divus dokumentus, kuros tā pauda viedokli par turpmākā Eiropas regulējuma par mākslīgo intelektu pārvaldību:

Valsts padome savā 2022. gada 30. augusta dokumentā pievēršas sabiedrisko pakalpojumu kvalitātes jautājumam un liek pamatus Francijas mākslīgā intelekta stratēģijai.

Cita starpā tas mudina stiprināt CNIL pilnvaras un oficiāli noteikt tai atbildību par mākslīgā intelekta sistēmu regulēšanu.

Tāpēc viņš iesaka pārveidot CNIL, kas kļūtu par "valsts uzraudzības iestādi, kas atbild par mākslīgā intelekta sistēmu, jo īpaši publisko sistēmu, regulēšanu, lai iemiesotu un internalizētu divējādo izaicinājumu – aizsargāt pamattiesības un brīvības, no vienas puses, un inovācijas un publisko sniegumu, no otras puses".

27. septembrī Valsts padome publicēja arī pētījumu par sociālo tīklu uzraudzību mākslīgā intelekta attīstības kontekstā, kurā sniegti 17 ieteikumi, kā no jauna līdzsvarot spēkus par labu lietotājiem, sagatavot valsts iestādes to regulatora lomai un domāt par rītdienas sociālajiem tīkliem.

No savas puses, Parlaments pēta videonovērošanas un sejas atpazīšanas jautājumu: Nacionālās asamblejas Juridiskā komisija 13. septembrī uzsāka faktu vākšanas misiju, kas tika uzticēta parlamenta deputātam un CNIL kolēģijas loceklim Filipam Latombe.

Parlamentāriešiem būs jāsaprot "drošības attēlu izmantošanas izaicinājumi publiskajā telpā, lai apkarotu nedrošību", un īpaši pievērsīsies sejas atpazīšanai.

Tas ietvers nesen autorizētu ierīču, piemēram, ķermeņa kameru un dronu, izvērtēšanu un iespējamo jauninājumu, piemēram, pastiprinātu kameru, apsvēršanu, lai izstrādātu likumdošanas priekšlikumu.

Pieminēsim arī sarunu sākšanu par konvenciju Eiropas Padome par mākslīgo intelektu, cilvēktiesībām, demokrātiju un tiesiskumu.

Tas būtu pirmais juridiski saistošais starptautiskais instruments mākslīgā intelekta jomā.

Šī konvencija papildinātu Eiropas Komisijas ierosināto mākslīgā intelekta regulu, stiprinot personu pamattiesību aizsardzību.

THE Eiropas Datu aizsardzības uzraudzītājs atzinīgi novērtēja šo iniciatīvu, vienlaikus atgādinot par mākslīgā intelekta sistēmām, kas, viņaprāt, rada nepieņemamus riskus un būtu jāaizliedz, proti:

• Sociālā vērtēšana,
• Biometriskā identifikācija sabiedriskās vietās,
• Personu kategorizācija, pamatojoties uz biometriskajiem datiem
• Personu kategorizācija, pamatojoties uz viņu uztvertajām emocijām.

Jāatceras, ka Eiropas Komisijas ierosinātā mākslīgā intelekta regula atbalsta šo pieeju, aizliedzot visierobežojošākās mākslīgā intelekta metodes, piemēram, tās, kas manipulē ar indivīdiem vai nodrošina sociālo vērtēšanu.

Joprojām nepietiekams brīvību aizstāvjiem un pārmērīgs tās nelabvēļiem.

Jāatzīmē, ka Amerikas Savienotās Valstis oktobra beigās nosūtīja neoficiālu dokumentu vairākām galvaspilsētām un Eiropas Komisijai, lai pārliecinātu tās ierobežot turpmāko noteikumu darbības jomu un paplašināt to izņēmumus, lai saglabātu lielāku elastību mākslīgā intelekta iespējamajos pielietojumos.

Amerikas Savienotās Valstis arī pašas gatavo mākslīgā intelekta noteikumus: 4. oktobrī prezidents Džo Baidens prezentēja “Mākslīgā intelekta tiesību billu”, kurā aprakstītas piecas garantijas, no kurām amerikāņiem vajadzētu gūt labumu:

• Drošas un efektīvas sistēmas,
• Aizsardzība pret algoritmisku diskrimināciju,
• Datu konfidencialitāte,
• Paziņojumi un skaidrojumi par mākslīgā intelekta darbību,

• Cilvēku alternatīvas automatizētiem lēmumiem.

Visbeidzot, jāatzīmē, ka datu aizsardzības regulatori no vairāk nekā 120 valstīm ir vienojušies par sejas atpazīšanas izmantošanas sistēmu. 44. Pasaules privātuma asambleja kas oktobra beigās notika Stambulā.

Rezolūcija paredz, ka tehnoloģiju izmantojošajai vienībai

• Noteikt “tā saprātīgo, nepieciešamo un samērīgo raksturu”,
• Novērtē indivīdu tiesību ievērošanu
• Nodrošina tehnoloģiju netraucētu lietošanu.

Ir jāievieš arī skaidri un efektīvi atbildības mehānismi.

Un arī

Francija:

Kibernoziegumi: Digitālo lietu deleģētais ministrs un veselības ministrs paziņoja par 20 miljonu eiro budžetu ANSSI labā, lai stiprinātu atbalstu veselības aprūpes iestādēm, kas cietušas no izspiedējvīrusa.

CNIL savā tīmekļa vietnē publicē izglītojošus resursus, lai labāk aizsargātu bērnus vecumā no 8 līdz 10 gadiem internetā.

Šie resursi ir paredzēti vecākiem, bērniem, skolotājiem un pedagogiem.

CNIL 17. oktobrī arī atjaunināja savu ieteikumu par paroles autentifikāciju.

Pieaugot apdraudējumam tiešsaistes drošībai, CNIL jo īpaši attīsta spēcīgu vai daudzfaktoru autentifikācijas risinājumu un elektronisko sertifikātu lietderību.

Eiropa:

Eiropas Datu aizsardzības kolēģija (EDAK) ir pieņēmusi atjauninātas vadlīnijas par datu pārkāpumu paziņošanu, atvērts publiskai apspriešanai līdz 2022. gada 29. novembrim.

Atjauninātā sadaļa attiecas uz paziņošanu par drošības pārkāpumu, ko veic vadītājs, kas reģistrēts ārpus Eiropas Savienības.

Tas, ka šis vadītājs ir iecēlis pārstāvi kādā no ES valstīm, saskaņā ar EDAK viedokli neatbrīvo viņu no plašiem pienākumiem: tekstā tagad ir precizēts, ka "pārstāvja klātbūtne dalībvalstī vien neaktivizē vienotās kontaktpersonas sistēmu".

Tāpēc par pārkāpumu būs jāpaziņo katrai iestādei, kuras teritorijā datu subjekti dzīvo savā dalībvalstī.

Eiropas Savienības Tiesa 20. oktobra spriedumā lēma, ka turpmāka apstrāde kas sastāv no datubāzes izveides no esošas datubāzes, lai veiktu testus un labotu kļūdas, ir atļauts, ja

1. pastāv “konkrēta, loģiska un pietiekami cieša saikne starp sākotnējās vākšanas mērķiem un turpmāko apstrādi”; un
2. turpmāka apstrāde neatkāpjas no abonentu leģitīmajām cerībām.

Konkrētajā lietā Tiesa uzskatīja, ka šāda cieša saikne pastāv. Tā atgādina, ka dati ir jādzēš, tiklīdz ir sasniegts (sekundārais) apstrādes mērķis.

27. oktobra spriedumā attiecībā uz Beļģijas uzņēmumu ProximusTiesa lemj par direktoriju pakalpojumu sniedzēju pienākumiem, kad abonents atsauc savu piekrišanu savu datu apstrādei.

Tiesa uzskata, ka datu aizsardzības iestāde var pieprasīt publiski pieejamu telefona grāmatu pakalpojumu sniedzējam kā datu pārzinim veikt atbilstošus pasākumus, lai informētu citus datu pārziņus (tostarp telekomunikāciju pakalpojumu sniedzēju, no kura dati tika pārsūtīti) par abonenta piekrišanas atsaukšanu.

Eiropas digitālo tirgu regula (DMA) tika publicēta 2022. gada 12. oktobrī.

Šis teksts, kura mērķis ir "izbeigt negodīgu praksi, ko īsteno uzņēmumi, kuri darbojas kā "vārtu sargi" tiešsaistes platformu ekonomikā", stāsies spēkā no 2023. gada 2. maija.

Tajā lielas tiešsaistes platformas tiek definētas kā “vārtu sargi” un ir izveidots aizliegumu un pienākumu saraksts, kuru mērķis ir “nodrošināt godīgus un atvērtus digitālos tirgus”.

Priekšlikums Eiropas regulai par bērnu seksuālu izmantošanu (CSAR) ir kas ir plaši kritizēta no pilsoniskās sabiedrības puses, un kampaņas “beidziet mani skenēt” uzsākšana.

Pēc attiecīgo NVO domām, priekšlikums, neskatoties uz tā slavējamajiem mērķiem, draud "fundamentāli apdraudēt drošu tiešsaistes saziņu un padarīt internetu mazāk drošu ikvienam".

Tiesībaizsardzības iestādes plāno izmantot automatizētu privātās saziņas tiešsaistes skenēšanu, lai mērķētu uz saturu, kas saistīts ar bērnu seksuālu izmantošanu.

Tomēr Īrijas Pilsoņu brīvību padomes (ICCL) veiktā izmeklēšana atklāj, ka Īrijas policija saglabā personas datus — e-pastu, ekrāna vārdu, IP adresi — pat viltus brīdinājumu gadījumā.

Milzīgais viltus pozitīvo rezultātu skaits — tiek uzskatīts, ka mazāk nekā 10 % ziņojumu ir izmantojami — varētu arī liegt policijai risināt problēmas būtību.

Itālijas Datu aizsardzības iestāde sāk izmeklēšanu par lietojumprogrammu, kas ģenerē mākslīgas balsis (“deep fake”).

Iestāde ir uzsākusi izmeklēšanu par lietotni Fakeyou, kas, iespējams, pārveido teksta failus balsīs, atdarinot slavenu cilvēku, īpaši itāļu, balsis.

Turklāt Itālijas patērētāju tiesību aizsardzības iestāde lēma, ka zīme, kurā attēlota stilizēta kamera, nav pietiekama, lai sniegtu informāciju par videonovērošanas kameru izmantošanu, un uzlika kontrolierim 2000 eiro naudas sodu.

Īrijas iestāde Datu aizsardzības iestāde savā tīmekļa vietnē ir publicējusi vairāk nekā 30 konkrētu gadījumu izpētes apkopojumu, ar kuriem tā ir strādājusi un kas nav iekļautas tās gada pārskatos. Publikācija sniedz labāku izpratni par iestādes pieeju tādiem jautājumiem kā darbinieku uzraudzība, videonovērošana, leģitīmo interešu jēdziens un apstrādes mērķu saderība.

Nīderlandes Apelācijas tiesa Arnhemā-Leuvardenā atstāja spēkā aizliegumu, kas noteica, ka autortiesību regulators nevar piespiest interneta pakalpojumu sniedzēju sūtīt brīdinājuma vēstules aizdomās turētajiem autortiesību pārkāpējiem: interneta pakalpojumu sniedzējam nav juridiska pamata apstrādāt personas datus, kas saistīti ar kriminālsodāmību un pārkāpumiem.

Apvienotās Karalistes Datu aizsardzības iestāde (ICO) paziņo par biometriskajām tehnoloģijām, piemēram, emociju analīzes tehnoloģijām, kuras, pēc tās teiktā, ir nenobriedušas un rada diskriminācijas risku.

Starp identificētajiem riskiem ir darbinieku fiziskās veselības uzraudzība, izmantojot pārnēsājamus skrīninga rīkus, un vizuālā un uzvedības novērošana, tostarp ķermeņa stājas, runas, acu kustību un galvas kustību novērošana, lai reģistrētu studentus eksāmeniem.

ICO publicē arī vadlīniju projektu par darbinieku uzraudzību.

Komisija īpaši norāda uz pieaugošo tendenci "strādāt no mājām" un produktivitātes uzraudzības problēmu, jo darbinieku prasības attiecībā uz privātumu, visticamāk, mājās ir augstākas nekā darbā.

ICO arī norāda, ka "taustiņu nospiešanas uzraudzība tiek klasificēta kā uzvedības biometriskie dati, ja darbinieks ir identificējams, pamatojoties uz viņa unikālo rakstīšanas modeli un ritmu." Projekts ir atvērts apspriešanai līdz 2023. gada 11. janvārim.

Starptautiskās:

Datu pārsūtīšana uz Amerikas Savienotajām ValstīmSvarīgs pagrieziena punkts tika sasniegts 7. oktobrī, kad prezidents Baidens parakstīja izpildrīkojumu par drošības pasākumu pastiprināšanu Amerikas Savienoto Valstu signālu izlūkošanas darbībās.

Šī dekrēta mērķis ir nodrošināt jauna datu aizsardzības regulējuma ieviešanu starp Eiropas Savienību un Amerikas Savienotajām Valstīm pēc EST sprieduma Schrems II lietā, kas padarīja Privātuma vairogu par novecojušu.

Vienošanās varētu tikt pabeigta 2023. gada sākumā pēc Eiropas Datu aizsardzības kolēģijas (EDPB) atzinuma saņemšanas un Eiropas Komisijas lēmuma par atbilstību pieņemšanas.

Ar nolīgumu saistītā nenoteiktība attiecas uz ASV iestāžu novērošanas pilnvaru apjomu un Eiropas pilsoņiem pieejamajām tiesiskās aizsardzības līdzekļiem pret ASV pasākumiem, kas pret viņiem veikti.

Piebildīsim, ka, tā kā tam nav likuma spēka, šo dekrētu var atcelt, kas palielina juridisko nenoteiktību.