Uber sankcija: algoritmiskā pārvaldība, kas pakļauta likuma pārbaudei.

Cik lielā mērā uzņēmums var deleģēt mašīnai pilnvaras pieņemt darbā, novērtēt, maksāt, sodīt vai izslēgt darbinieku? Nīderlandes datu aizsardzības iestādes nesen noteiktā sankcija pret braucienu pakalpojumu uzņēmumu Uber sniedz mums sākumpunktu atbildes meklēšanai.

Iestāde 21. augustā uzlika 824 990 000 eiro lielu naudas sodu. uzņēmumam, sadarbojoties ar CNIL, kas bija uzsākusi izmeklēšanas procedūru. 
Uber izmantoja programmatūru, lai uzraudzītu vadītāju uzvedību un analizētu klientu atsauksmes, un laikā no 2018. līdz 2022. gadam automātiski deaktivizēja noteiktus vadītāju kontus aizdomu par krāpšanu vai nepietiekamu atsauksmju gadījumā.

Varas iestāde nosodīja uzņēmumu par automatizēta lēmumu pieņemšana bez cilvēka uzraudzības.

Šis lēmums ilustrē, kā darbojas Eiropas sadarbība starp divām datu aizsardzības iestādēm, un dod mums iespēju izvērtēt algoritmiskās pārvaldības attīstību profesionālā kontekstā un tās tiesisko regulējumu.

Šajā konkrētajā gadījumā CNIL un Nīderlandes iestāde sadarbojās kopš 2020. gada, kad CNIL saņēma kolektīvo sūdzību no asociācijas La Ligue des droits de l'Homme, kas pārstāv vairāk nekā 170 UBER platformas autovadītājus. 

Uzņēmuma galvenais birojs atrodas Sanfrancisko (Uber technologies inc.) un Eiropas galvenā mītne atrodas Amsterdamā (Uber BV), tāpēc Nīderlandes iestāde veica izmeklēšanu un ieņēma nostāju pēc tam, kad kopā ar Franciju bija analizējusi iegūtos pierādījumus un kopīgi izskatījusi galīgā lēmuma projektu. 

Šis ir trešais lēmums, ko Nīderlande pieņēmusi lietā, kurā uzņēmums jau ir notiesāts par autovadītāju neinformēšanu un datu nelikumīgu pārsūtīšanu uz Amerikas Savienotajām Valstīm. 

Tajā galvenokārt tiek atgādināti noteikumi, kuriem jāreglamentē algoritmiskā pārvaldība, un uzsvērts, ka pirms jebkura lēmuma pieņemšanas, pamatojoties uz algoritmu, ir nepieciešama cilvēka veikta pārbaude.

Tas arī dod mums iespēju atgādināt, ka papildus šai nepieciešamajai cilvēka iejaukšanās un pienākumam informēt darbiniekus, algoritmiskā pārvaldība visbiežāk būs daļa no konteksta, kas ietver gan principa "privātums pēc integrācijas" apsvēršanu, gan darba devēja iepriekšēju datu aizsardzības ietekmes novērtējuma (DPIA) veikšanu. 

Pirms jaunu uzraudzības vai vadības tehnoloģiju ieviešanas darba vietā neatkarīgi no tā, vai tās saistītas ar darbinieku pieņemšanu darbā, cilvēkresursu pārvaldību, darbinieku efektivitātes mērīšanu vai uzdevumu sadali, darba devējiem jau no paša sākuma ir jāievieš tehniski un organizatoriski aizsardzības pasākumi. 

Šiem pasākumiem jābūt pielāgotiem attiecīgajiem riskiem, un tie var ietvert jo īpaši: apstrādāt mazāk datu, lai ķertos pie pseidonimizācija un uz ierobežot piekļuvi.

Rezumējot, Privātuma aizsardzība nevar būt sekundārs apsvērums. Tam jābūt integrētam jau no paša sākuma darba vietā izmantoto tehnoloģiju projektēšanā.

No otras puses, algoritmiskā pārvaldība vairumā gadījumu tiks uzskatīta par ārstēšanas metodi «"Augsts risks"» prasot ietekmes analīze jo tie atbilst vairākiem kritērijiem, kas uzskaitīti GDPR šādi rīki parasti ietver jaunus tehnoloģiskus risinājumus, automatizētu lēmumu pieņemšanu, uzraudzību, datu kopu apvienošanu, un darbinieki nonāk atkarībā no sava darba devēja.

Šī mērķa sasniegšana AIPD būs’lai identificētu, novērtētu un mazinātu riskus saistībā ar šīs jaunās tehnoloģijas ieviešanu, ņemot vērā ietekmi uz darbiniekiem un viņu viedokli.

Šos GDPR pamatprincipus drīz papildinās citi aizsardzības pasākumi.

Ja Mākslīgā intelekta regulējums jau ir stājusies spēkā; daži noteikumi par augsta riska mākslīgā intelekta sistēmām tiks piemēroti no 2027. gada decembris. 
L'9. pants unIII pielikums noteikumi pieprasīs darba devējiem ieviest riska pārvaldības sistēma kad viņi izmanto mākslīgo intelektu noteiktiem ar nodarbinātību un personāla vadību saistītiem uzdevumiem, piemēram, mērķtiecīgu darba piedāvājumu publicēšanai, pieteikumu analīzei un filtrēšanai vai kandidātu novērtēšanai.

Dažos īpašos gadījumos, kad risks ir īpaši augsts, ietekmes uz pamattiesībām novērtējums būs jāveic arī paralēli AIPD.

Turklāt jauni Eiropas noteikumi attiecībā uz darbs platformās stāsies spēkā, 2. decembris nākamais.

To mērķis ir regulēt algoritmu izmantošanu cilvēkresursu pārvaldībā digitālajās darba platformās.

Tāpēc darba devējiem būs informēt darbiniekus par mākslīgā intelekta izmantošanu, un šīs sistēmas būs jāuzrauga kvalificēts personāls, gūstot īpašu aizsardzību pret jebkādu nelabvēlīgu attieksmi.

A cilvēka uzraudzība Tas būs jāgarantē arī svarīgu lēmumu, piemēram, kontu apturēšanas, gadījumā.

Šajā pastāvīgi mainīgajā kontekstā Nīderlandes sankcijas Tas ir ļoti noderīgs atgādinājums, jo īpaši tāpēc, ka šķiet, ka tas ir tikai sākums.

Šī gada septembrī autovadītāji no vairākām Eiropas valstīm ir nolīguši kolektīvā prasība Amsterdamā pret Uber, šoreiz apstrīdot algoritma izmantošanu atlīdzībai un braucienu piešķiršanai.

Francijā

Tikai dažas nedēļas pēc tam, kad Parlaments pieņēma’sociālo mediju aizliegums personām, kas jaunākas par 15 gadiem, likums bija bloķēja Konstitucionālā padome.

Viņš lēsa, ka 14. augusts visbeidzot, šis aizliegums« pārkāptu nepilngadīgo vārda un saziņas brīvību un turklāt to aptraipītu pārmērīga kompetence.".

Konstitucionālā padome tālāk norāda, ka šim aizliegumam būtu sekas piespiešanai visiem lietotājiem, tostarp pieaugušajiem, ir jāpierāda savs vecums pirms piekļuves noteiktiem tiešsaistes pakalpojumiem.

Tomēr likums nenoteica šīs pārbaudes procedūras vai ierobežojumus: tāpēc likumdevējs neparedzēja pietiekamas garantijas lai aizsargātu tiesības uz privātās dzīves neaizskaramību, ko garantē’1789. gada deklarācijas 2. pants.

Padome neapšauba nepilngadīgo aizsardzības mērķi, bet pieprasa, lai vecuma pārbaudes sistēmas saskaņotu šo mērķi ar datu aizsardzību un visu lietotāju privātumu.

Valdība nav atteikusies no projekta, un premjerministram ir uzdots "pēc iespējas ātrāk izstrādāt juridiski pamatotu likumprojektu". Sākotnēji bija paredzēts, ka likums stāsies spēkā 2027. gada 1. janvāris. Valdība tagad tiecas uz to, lai 2027. gada pavasaris.

Tur DGFiP apstiprināts 14. augusts ka ļaunprātīgi dalībnieki bija ieguvuši nelikumīgu piekļuvi tās informācijas sistēmai un bija spējuši apskatīt un iegūt datus no tās. 678 000 privātpersonu un profesionāļu.

Šīs bažas nodokļu informācija (atsauces ienākumi, ģimenes koeficients, ieturējuma nodokļa likme, SIREN numurs un uzņēmuma nosaukums) un kadastra dati (nekustamo īpašumu adreses un platības).

Ielaušanās sākotnēji tika atklāta un bloķēta. jūnija beigās, tika atklāts pēc tam, kad uzbrucēji augusta vidū publiski uzņēmās atbildību.

Skartās personas tika informētas individuāli, un Par datu noplūdi ir paziņots CNIL..

Ielaušanos, domājams, padarīja iespējamu aģenta akreditācijas datu kompromitēšana, apvienojumā ar nepietiekami aizsargātu ārējo piekļuvi.

L'divfaktoru autentifikācijas trūkums Plaša piekļuve aģentiem ir vājums, kas tika konstatēts a posteriori: pēc uzbrukuma Bercy paziņoja par paātrinātu izvietošanu.

Ņemiet vērā, ka Francija ir tikusi saukta pie atbildības. Eiropas Savienības Tiesa (EST) Priekš nespēja transponēt Eiropas direktīvu NIS2 (Tīklu un informācijas drošība). Transponēšanai vajadzēja notikt ne vēlāk kā 2024. gada oktobris.

Tur CNIL publicēja 10. augusts atgādinājums par pasākumiem, kas jāveic, lai garantētu’datu aizsardzības speciālista (DPO) neatkarība.

Publikācijas mērķis ir palīdzēt uzņēmumiem identificēt un pārvaldīt interešu konfliktu riski saistībā ar šo funkciju. Tajā ir uzskaitītas apdraudētās funkcijas un piedāvāti interešu konfliktu risināšanas veidi.

Eiropā

Eiropas iestādes un struktūras

Tur Eiropas Komisija norīkots 31. augusts ChatGPT, Reddit un Roblox kā attiecīgi a ļoti liela tiešsaistes meklētājprogramma un divi ļoti lielas tiešsaistes platformas.

Kā zināms, ChatGPT ir mākslīgā intelekta (MI) sistēma, kas spēj mijiedarboties ar lietotājiem un atbildēt uz viņu pieprasījumiem un jautājumiem, jo īpaši veicot tīmekļa meklēšanu, kas, pēc Komisijas domām, padara to par hibrīdpakalpojums ietilpst darbības jomā Digitālo pakalpojumu likums (DPA).

Reddit ir platforma, kas ļauj lietotājiem veidot, kopīgot, skatīt un mijiedarboties ar saturu kopienās, kas sakārtotas pēc tēmas.

Roblox ir ieskaujoša spēļu un radīšanas platforma, kas ļauj lietotājiem veidot, publicēt un spēlēt citu lietotāju izstrādātas spēles.

Šie apzīmējumi piešķir Komisijai īpašas izmeklēšanas pilnvaras un pieprasa šos pakalpojumus no šejienes 2026. gada decembra beigās, lai izpildītu DSA noteiktās papildu saistības, jo īpaši attiecībā uz’sistēmiskā riska novērtēšana un mazināšana kas izriet no viņu algoritmiskajām sistēmām.

Atzinumā no 11. augusts pēdējais, Eiropas datu aizsardzības uzraudzītājs (EDAU) pauž bažas par reformu, kas ļautu Eiropols plašāk apstrādāt un uzglabāt datus cilvēki, kuriem nav pierādītas saistības ar kriminālizmeklēšanu.

Viņš ir īpaši noraizējies par to, ka Eiropola analītisko spēju paplašināšana varētu novest pie saikņu vai profilu izveidošanas starp personām un noziedzīgām darbībām bez pietiekami pamatota pamata.

EDAU norāda, ka, jo vairāk automatizētas analīzes iespēju ir Eiropolam, jo lielāks risks pāriet no vienas iekasēšana, pamatojoties uz aizdomām uz preventīvās masveida savākšanas loģika.

Viņš pieprasa stingrākas garantijas attiecībā uz nepieciešamība, samērīgums, derīguma termiņš un kontrole, lai cīņas pret noziedzību efektivitāte netiktu panākta uz privātuma un datu aizsardzības tiesību rēķina.

Ziņas no Eiropas Savienības dalībvalstīm.

Reklāma tagad ienāk arī automašīnās. Vācu ražotājs BMW šovasar uzsāka reklāmas kampaņu vietnē’galvenais ekrāns no saviem jaunākajiem automašīnu modeļiem.

Kad vadītāji iedarbināja savas automašīnas, ekrānā parādījās gaidāmās filmas "Zirnekļcilvēks" reklāmas animācija. Reklāma aizņēma lielāko daļu ekrāna. gandrīz 20 sekundes Un īslaicīgi atspējotas noteiktas funkcijas piemēram, navigāciju, multimediju un gaisa kondicionēšanu. 
Šis izmēģinājums aptver vairākus jaunākos modeļus un ir ieviests vairāk nekā 70 valstīs.

A Austrijas tiesa uzskatīja, ka valsts datu aizsardzības iestāde (DAI) varētu atteikties rīkoties pēc sūdzības attiecībā uz piekļuves pieprasījumu, ko iesniegusi asociācija fiziskas personas vārdā.

Tiesa norāda uz asociācijas ekonomiskais modelis, un fakts, ka tā gūst finansiālu labumu no labvēlīgiem tiesas lēmumiem, pat ja attiecīgā persona nav skaidri paudusi interesi iesniegt attiecīgo pieteikumu: "vispārēja pilnvara, kuras mērķis ir automātiski meklēt datu aizsardzības pārkāpumus un gūt finansiālu labumu, attaisno atteikumu izskatīt sūdzību saskaņā ar«GDPR 57. panta 4. punkts un attiecīgo EST, Augstākās Administratīvās tiesas (VwGH) un Federālās Administratīvās tiesas (BVwG) judikatūru.»  

THE 26. augusts, Amerikas Savienoto Valstu valdība ir reģistrējusi Autisti/Izgudrojumi (A/I), itāļu asociatīvās akomodācijas kolektīvs, uz Organizāciju un organizāciju biedru saraksts, kas tiek uzskatītas par teroristiskām.

Trampa administrācija apsūdz grupu par to, ka tā ir sniegusi "« materiālais atbalsts »"antifašistiskajām un kreiso spārnu grupām, izmantojot savus izmitināšanas pakalpojumus.".

Ar A/I saistītajām amerikāņu organizācijām ir jāpārtrauc visas attiecības pirms 25. septembrī, domēna vārds autistici.org tika apturēts ASV .org domēnu administratora nosūtījuma., pārtraucot piekļuvi kolektīva e-pastiem un pakalpojumiem saviem lietotājiem. 

Tur Norvēģija plāno stingri regulēt viedās brilles.

THE 25. augusts, Par digitalizāciju atbildīgā ministre paziņoja, ka vēlas, lai šīm brillēm tiktu piemēroti stingrāki noteikumi., jo īpaši aizliedzot sejas atpazīšanu sabiedriskās vietās.

Ministrs plāno iecelt amatā ekspertu grupa uzdevums izstrādāt ieteikumus par brillēs, austiņās un līdzīgās ikdienas ierīcēs integrēto kameru un mikrofonu regulējumu.

Starptautiski

Plkst. Apvienotā Karaliste, neliela britu elektroenerģijas ražošanas vienība bija četras dienas nebūs pieejams jūlijā pēc tam, kad Kiberuzbrukums, kas piedēvēts ar Irānu saistītiem hakeriem.

Šis incidents, kas tiek uzskatīts par Pirmie zināmie Irānas grupas panākumi pret Lielbritānijas enerģētikas infrastruktūru, neradīja nekādus traucējumus vai draudus valsts tīklam, jo objekts nebija kritiskā infrastruktūra.

Lielbritānijas valdība tomēr ir pastiprināti kiberdrošības pasākumi enerģētikas nozarē, Uzbrukums tiek uzskatīts par brīdinājumu par valsts infrastruktūras pieaugošo ievainojamību.

Arī pāri Lamanšam, Britu transporta policija (BTP) pagarināts līdz 2026. gada augusts viņa eksperimenti ar reāllaika sejas atpazīšana (LFR) noteiktās Londonas metro stacijās pēc sākotnējās izvietošanas februārī.

Tehnoloģija salīdzina ceļotāju sejas ar meklējamo personu saraksts, jo īpaši smagu pārkāpumu gadījumā, lai policija varētu ātri iejaukties.

Varas iestādes apgalvo, ka shēma ir mērķtiecīga, balstīta uz izlūkošanas datiem un ka Saraksta nesakritību attēlu dzēšanas process tiek pārtraukts..

Tests jāturpina līdz brīdim, kad 2026. gada novembris. Fakts, ka tūkstošiem ceļotāju tika skenēti šādā veidā, netiekot turēti aizdomās par jebkādiem pārkāpumiem, atkal uzkurina debates par samērīgums un biometriskās uzraudzības tiesiskais regulējums Apvienotajā Karalistē.

Plkst. Brazīlija, APD noteica 25. augusts ir ByteDance naudas sods 153,7 miljoni reālu (25,4 miljoni eiro) ārstēšanai dati par bērniem un pusaudžiem pakalpojumā TikTok, kopā ar izņemšanas rīkojums neregulāri apkopoti dati.

Lēmums attiecas uz diviem piekļuves veidiem, proti, ziņu plūsmu, kas pieejama visiem bez interneta savienojuma, un to, kas pieejama, izmantojot reģistrētu kontu, kuru apstrāde pārkāpj vairākus datu aizsardzības tiesību principus.

Abos gadījumos iestāde atzīmēja, ka derīga juridiskā pamata neesamība un efektīvus aizsardzības pasākumus.

Tur Dienvidkoreja šķēps "« Mākslīgais intelekts visiem »programma, kuras mērķis ir piedāvāt bezmaksas, neierobežota piekļuve ģeneratīvajiem mākslīgā intelekta pakalpojumiem visiem tās iedzīvotājiem.

Mērķis ir demokratizēt mākslīgā intelekta izmantošanu, vienlaikus stiprinot tehnoloģiskā suverenitāte valsts salīdzinājumā ar Amerikas Savienoto Valstu un Ķīnas modeļiem.

Mākslīgais intelekts tiks integrēts sabiedriskajos pakalpojumos, lai atvieglotu medicīnas, nodokļu, nekustamā īpašuma vai izglītības procedūras, kā arī palīdzētu mazajiem uzņēmumiem.

Valdība plāno mākslīgā intelekta budžetu 7,2 miljardi ASV dolāru 2026. gadā, ar valsts mēroga ieviešanu, kas plānota līdz gada beigām.

A Honkonga, Nacionālais kiberdrošības centrs ir publicējis aģentu mākslīgā intelekta vadlīnijas.

Dokumentā ir definēts piecas riska kategorijas (paplašināta piekļuve, sistēmas ievainojamības, neaizsargāti spraudņi vai prasmes, funkcionālās novirzes un ar vairākiem aģentiem saistītie riski), formula deviņi ieteikumi saskaņots ar datu aizsardzības principiem un ierosina pielikumu, kurā ietverts drošības kontrolsaraksts aptverot mākslīgā intelekta aģentu novērtēšanu, sagatavošanu, izvietošanu, lietošanu un atinstalēšanu.

Viņš arī atgādina, ka pēdējais nav juridiskas personas, un ka organizācija joprojām ir atbildīga par datiem.

Uz ASV, uzņēmuma novērošanas kameras Bara drošība Šīs kameras vairojas, neizraisot spēcīgas reakcijas. automātiski nolasīt numura zīmes ar it kā mērķi cīnīties pret noziedzību.

Tomēr vairākas pilsētas un iedzīvotāji ir noraizējušies par privātuma riskiem, jo īpaši par iespēju, ka datiem varētu piekļūt citi policijas dienesti vai izmanto migrācijas kontroles kontekstā.

Kiberdrošības pētnieki ir arī atklājuši ievainojamības, kas potenciāli ļauj piekļūt noteiktiem attēliem, Tas ir pastiprinājis bažas par datu drošību. Saskaroties ar šīm pretrunām, dažas pašvaldības ir lauzušas līgumus vai deaktivizējušas kameras.

Arī Amerikas Savienotajās Valstīs, Meta noslēdza vienošanās ar tieslietu sistēmu par pusaudžu drošību.

Šis līgums tika noslēgts ar 51 ģenerālprokurors izbeidz tiesas prāvu, kurā viņš tiek apsūdzēts Instagram un Facebook izstrādē veicināt kompulsīvu lietošanu jauniešu vidū un lai būtu līdz minimumam samazinājuši ar to saistītos riskus.

Līgums paredz līdz pat 17,1 miljards ASV dolāru maksāts valstīm desmit gadu laikā, kā arī jauni noteikumi par jaunāki par 18 gadiem.

Pasākumi ietver dienas lietošanas ierobežojums, A nakts blokāde, atspējojot paziņojumus noteiktos laika periodos, "Patīk" attēlošanas noņemšana«, kosmētiskās ķirurģijas filtru aizliegums un iespēja izmantot nepersonalizēta ziņu plūsma.

A vecuma pārbaude būs jāizslēdz arī jaunāki par 13 gadiem.

Visbeidzot, nolīgums paredz neatkarīgs auditors atbildīga par tās piemērošanas uzraudzību.

Ierobežojumus varētu pastiprināt, ja citas lielākās platformas pieņemtu līdzīgus noteikumus, padarot šo vienošanos par iespējamais modelis visai nozarei.

Par to pašu tēmu, un joprojām Amerikas Savienotajās Valstīs, TikTok un tā mātesuzņēmums ByteDance piekrita maksāt 400 miljoni ASV dolāru izbeigt tiesvedību par datu vākšanu un aizsardzību bērnu personas dati.

ASV Tieslietu ministrija viņus jo īpaši apsūdzēja nepietiekamā novērsumā jaunāki par 13 gadiem izmantot platformu un apkopot savus datus bez vecāku piekrišanas.