„Uber“ sankcija: algoritminis valdymas išbandytas įstatymu.

Kokiu mastu įmonė gali deleguoti mašinai įgaliojimus įdarbinti, vertinti, mokėti, bausti ar atleisti darbuotoją? Neseniai Nyderlandų duomenų apsaugos institucijos pritaikyta sankcija pavėžėjimo bendrovei „Uber“ suteikia mums atspirties tašką atsakymui.

Rugpjūčio 21 d. valdžios institucija skyrė 824 990 000 eurų baudą. bendrovei, bendradarbiaudama su CNIL, kuri pradėjo tyrimo procedūrą. 
„Uber“ naudojo programinę įrangą vairuotojų elgesiui stebėti ir klientų atsiliepimams analizuoti, o nuo 2018 iki 2022 m. automatiškai deaktyvavo tam tikras vairuotojų paskyras įtariamo sukčiavimo arba nepakankamo atsiliepimų skaičiaus atvejais.

Valdžia pasmerkė bendrovę už tai, kad automatizuotas sprendimų priėmimas be žmogaus priežiūros.

Šis sprendimas iliustruoja, kaip veikia dviejų duomenų apsaugos institucijų bendradarbiavimas Europoje, ir suteikia mums galimybę įvertinti algoritminio valdymo raidą profesiniame kontekste ir jo teisinę sistemą.

Šiuo konkrečiu atveju CNIL ir Nyderlandų valdžios institucija bendradarbiavo nuo 2020 m., kai CNIL gavo kolektyvinį skundą iš asociacijos „La Ligue des droits de l'Homme“, atstovaujančios daugiau nei 170 UBER platformos vairuotojų. 

Bendrovės pagrindinė būstinė yra San Franciske („Uber technologies inc.“), o Europos būstinė – Amsterdame („Uber BV“), todėl Nyderlandų valdžios institucija atliko tyrimus ir užėmė poziciją, kartu su Prancūzija išanalizavusi gautus įrodymus ir kartu išnagrinėjusi galutinio sprendimo projektą. 

Šis sprendimas yra trečiasis, kurį Nyderlandai priėmė byloje, kurioje bendrovė jau buvo nuteista už vairuotojų neinformavimą ir neteisėtą duomenų perdavimą į Jungtines Valstijas. 

Jame daugiausia primenamos taisyklės, kurios turi reglamentuoti algoritminį valdymą, ir pabrėžiama, kad prieš priimant bet kokį sprendimą remiantis algoritmu, būtinas žmogaus atliekamas patikrinimas.

Tai taip pat suteikia mums galimybę priminti, kad be šio būtino žmogaus įsikišimo ir pareigos informuoti darbuotojus, algoritminis valdymas dažniausiai bus konteksto, apimančio tiek «privatumo užtikrinimo projektuojant» principo svarstymą, tiek išankstinį darbdavio atliekamą duomenų apsaugos poveikio vertinimą (DPAV), dalis. 

Prieš diegdami naujas stebėsenos ar valdymo technologijas darbo vietoje, nesvarbu, ar jos susijusios su įdarbinimu, žmogiškųjų išteklių valdymu, darbuotojų efektyvumo matavimu ar užduočių paskirstymu, darbdaviai nuo pat pradžių privalo įdiegti technines ir organizacines apsaugos priemones. 

Šios priemonės turi būti pritaikytos prie kylančios rizikos ir gali apimti, visų pirma, apdoroti mažiau duomenų, griebtis pseudonimizacijos ir į apriboti prieigą.

Apibendrinant, Privatumo apsauga negali būti antraeilis dalykas. Jis turi būti integruotas nuo pat pradžių į darbo vietoje naudojamų technologijų projektavimą.

Kita vertus, algoritminis valdymas daugeliu atvejų bus laikomas gydymo metodu «Didelės rizikos» reikalaujantis poveikio analizė nes jie atitinka keletą kriterijų, išvardytų BDAR tokios priemonės paprastai apima naujus technologinius sprendimus, automatizuotą sprendimų priėmimą, stebėseną, duomenų rinkinių derinimą, o darbuotojai tampa priklausomi nuo savo darbdavio.

Šio tikslo AIPD bus’nustatyti, įvertinti ir sušvelninti riziką susiję su šios naujos technologijos diegimu, atsižvelgiant į poveikį darbuotojams ir jų požiūrį.

Šiuos esminius BDAR principus netrukus papildys kitos apsaugos priemonės.

Jei Dirbtinio intelekto reguliavimas jau įsigaliojo; tam tikros nuostatos, susijusios su didelės rizikos dirbtinio intelekto sistemomis, bus taikomos nuo 2027 m. gruodis. 
L'9 straipsnis irIII priedas reglamentuose bus reikalaujama, kad darbdaviai įgyvendintų rizikos valdymo sistema kai jie naudoja dirbtinį intelektą tam tikroms su įdarbinimu ir personalo valdymu susijusioms užduotims, pavyzdžiui, tikslinių darbo pasiūlymų skelbimui, paraiškų analizei ir filtravimui arba kandidatų vertinimui.

Tam tikrais konkrečiais atvejais, kai rizika yra ypač didelė, poveikio pagrindinėms teisėms vertinimas taip pat reikės atlikti kartu su AIPD.

Be to, naujos Europos taisyklės, susijusios su darbas platformose įsigalios m. Gruodžio 2 d. toliau.

Jais siekiama reguliuoti žmogiškųjų išteklių valdymo algoritmų naudojimą skaitmeninėse darbo platformose.

Todėl darbdaviai turės informuoti darbuotojus apie dirbtinio intelekto naudojimą, ir šias sistemas turės prižiūrėti kvalifikuotas personalas, pasinaudojant specialia apsauga nuo bet kokio neigiamo elgesio.

A žmogaus priežiūra Tai taip pat turės būti garantuojama priimant svarbius sprendimus, pavyzdžiui, sustabdyti sąskaitų atidarymą.

Šiame nuolat kintančiame kontekste, Nyderlandų sankcija Tai labai naudingas priminimas, ypač turint omenyje, kad tai, regis, tik pradžia.

Šį rugsėjį vairuotojai iš kelių Europos šalių pasamdė kolektyvinis ieškinys Amsterdame prieš „Uber“, šį kartą ginčijant algoritmo naudojimą atlygiui ir kelionių paskirstymui.

Prancūzijoje

Vos po kelių savaičių nuo to laiko, kai Parlamentas priėmė 2006 m.’draudimas naudotis socialiniais tinklais asmenims iki 15 metų, įstatymas buvo Konstitucinės tarybos blokuotas.

Jis įvertino, Rugpjūčio 14 d. galiausiai, šis draudimas« pažeistų nepilnamečių saviraiškos ir bendravimo laisvę ir, be to, būtų pažeista kompetencijos pertekliaus».

Konstitucinė Taryba taip pat pažymi, kad šis draudimas priverstų visi vartotojai, įskaitant suaugusiuosius, privalo įrodyti savo amžių prieš prisijungiant prie tam tikrų internetinių paslaugų.

Tačiau įstatymas neapibrėžė šio patikrinimo procedūrų ar ribų: todėl įstatymų leidėjas nenumatė... pakankamos garantijos siekiant apsaugoti teisę į privatų gyvenimą, garantuojamą’1789 m. deklaracijos 2 straipsnis.

Taryba nekvestionuoja tikslo apsaugoti nepilnamečius, tačiau reikalauja, kad amžiaus tikrinimo sistemos suderintų šį tikslą su duomenų apsauga ir visų naudotojų privatumu.

Vyriausybė neatsisakė šio projekto, o Ministrui Pirmininkui pavesta «kuo greičiau parengti teisiškai pagrįstą įstatymo projektą». Iš pradžių buvo numatyta, kad įstatymas įsigalios 2023 m. 2027 m. sausio 1 d.. Vyriausybė dabar siekia, kad 2027 m. pavasaris.

Ten DGFiP patvirtintas Rugpjūčio 14 d. kad kenkėjiški veikėjai neteisėtai gavo prieigą prie jos informacinės sistemos ir galėjo peržiūrėti bei išgauti duomenis iš jos. 678 000 asmenų ir specialistų.

Šie rūpesčiai mokesčių informacija (referencinės pajamos, šeimos koeficientas, išskaičiuojamojo mokesčio tarifas, SIREN numeris ir įmonės pavadinimas) ir kadastriniai duomenys (adresai ir nekilnojamojo turto plotai).

Iš pradžių įsilaužimas buvo aptiktas ir užblokuotas. birželio pabaigoje, buvo atskleista po to, kai užpuolikai rugpjūčio viduryje viešai prisiėmė atsakomybę.

Nukentėję asmenys buvo informuoti individualiai ir Apie duomenų saugumo pažeidimą pranešta CNIL..

Teigiama, kad įsilaužimas tapo įmanomas dėl to, kad agento įgaliojimų pažeidimas, kartu su nepakankamai apsaugota išorine prieiga.

L'dviejų veiksnių autentifikavimo nebuvimas Platus agentų prieinamumas yra a posteriori nustatytas trūkumas: po išpuolio Bercy paskelbė apie pagreitintą jų dislokavimą.

Atkreipkite dėmesį, kad Prancūzija buvo kreipta į teismą Europos Sąjungos Teisingumo Teismas (ESTT) Už neperkėlus Europos direktyvos NIS2 (Tinklų ir informacijos saugumas). Perkėlimas turėjo įvykti ne vėliau kaip iki 2024 m. spalis.

Ten CNIL paskelbė Rugpjūčio 10 d. priminimas apie priemones, kurių reikia imtis siekiant užtikrinti’duomenų apsaugos pareigūno (DAP) nepriklausomumas.

Leidinio tikslas – padėti įmonėms atpažinti ir valdyti interesų konfliktų rizika susijusios su šia funkcija. Jame išvardijamos funkcijos, kurioms kyla pavojus, ir siūlomi interesų konfliktų sprendimo būdai.

Europoje

Europos institucijos ir įstaigos

Ten Europos Komisija paskirtas Rugpjūčio 31 d. „ChatGPT“, „Reddit“ ir „Roblox“ kaip atitinkamai a labai didelė internetinė paieškos sistema ir du labai didelės internetinės platformos.

„ChatGPT“, kaip visi žino, yra dirbtinio intelekto (DI) sistema, galinti bendrauti su vartotojais ir atsakyti į jų prašymus bei užklausas, visų pirma atliekant paieškas internete, todėl, anot Komisijos, ji yra... hibridinė paslauga patenka į taikymo sritį Skaitmeninių paslaugų įstatymas (DSA).

„Reddit“ yra platforma, leidžianti vartotojams kurti, bendrinti, peržiūrėti ir sąveikauti su turiniu bendruomenėse, suskirstytose pagal temas.

„Roblox“ yra įtraukianti žaidimų ir kūrybos platforma, leidžianti vartotojams kurti, publikuoti ir žaisti kitų vartotojų sukurtus žaidimus.

Šie paskyrimai suteikia Komisijai konkretūs tyrimo įgaliojimai ir reikalauti šių paslaugų iš čia 2026 m. gruodžio pabaigoje, laikytis papildomų DSA nustatytų įsipareigojimų, ypač susijusių su’sisteminės rizikos vertinimas ir mažinimas kylančius iš jų algoritminių sistemų.

Nuomonėje iš Rugpjūčio 11 d. paskutinis, Europos duomenų apsaugos priežiūros pareigūnas (EDAPP) yra susirūpinęs dėl reformos, kuri leistų Europolas plačiau apdoroti ir saugoti duomenis asmenys, neturintys nustatyto ryšio su baudžiamuoju tyrimu.

Jis ypač nerimauja, kad plečiant Europolo analitinius pajėgumus, gali būti nustatyti ryšiai ar profiliai tarp asmenų ir nusikalstamos veiklos be pakankamai pagrįsto pagrindo.

EDAPP atkreipia dėmesį, kad kuo daugiau automatizuotos analizės pajėgumų turi Europolas, tuo didesnė rizika pereiti nuo vienos įtarimu pagrįstas surinkimas į a prevencinio masinio surinkimo logika.

Jis reikalauja griežtesnių garantijų dėl būtinybė, proporcingumas, galiojimo laikas ir kontrolė, kad kovos su nusikalstamumu veiksmingumas nebūtų pasiektas privatumo ir duomenų apsaugos teisės sąskaita.

Naujienos iš Europos Sąjungos šalių narių.

Reklama dabar skinasi kelią į automobilius. Vokiečių gamintojas BMW Šią vasarą pradėjo reklamos kampaniją’pagrindinis ekranas savo naujausių automobilių modelių.

Vairuotojams užvedus automobilius, ekrane pasirodė reklaminė animacija apie būsimą filmą „Žmogus-voras“. Reklama užėmė didžiąją ekrano dalį. beveik 20 sekundžių Ir laikinai išjungė tam tikras funkcijas pavyzdžiui, navigaciją, multimediją ir oro kondicionierių. 
Šis bandymas apima kelis naujausius modelius ir buvo įdiegtas daugiau nei 70 šalių.

A Austrijos teismas manė, kad nacionalinė duomenų apsaugos institucija (DAI) galėtų atsisakyti imtis veiksmų dėl skundo dėl asociacijos pateikto prašymo susipažinti su duomenimis asmens vardu.

Teismas atkreipia dėmesį į asociacijos ekonominis modelis, ir tai, kad ji gauna finansinės naudos iš palankių teismo sprendimų, nors atitinkamas asmuo aiškiai nepareiškia susidomėjimo pateikti atitinkamą prašymą: «bendrasis įgaliojimas, kuriuo siekiama automatiškai ieškoti duomenų apsaugos pažeidimų ir gauti finansinės naudos, pateisina atsisakymą nagrinėti skundą pagal’BDAR 57(4) straipsnis ir atitinkamą ESTT, Aukščiausiojo administracinio teismo (VwGH) ir Federalinio administracinio teismo (BVwG) praktiką.»  

THE Rugpjūčio 26 d., Jungtinių Valstijų vyriausybė užregistravo Autistai/Išradėjai (A/I), italų asociatyvios akomodacijos kolektyvas, Organizacijų ir organizacijų narių, laikomų teroristinėmis, sąrašas.

Trumpo administracija kaltina grupę, kad ji pateikė « materialinė parama »"antifašistinėms ir kairiųjų pažiūrų grupėms per savo apgyvendinimo paslaugas".

Su A/I susijusios Amerikos organizacijos privalo nutraukti visus ryšius iki Rugsėjo 25 d., domeno vardas autistici.org buvo sustabdytas JAV .org domenų administratoriaus., nutraukiant prieigą prie kolektyvo el. pašto ir paslaugų savo vartotojams. 

Ten Norvegija ketina griežtai reguliuoti išmanieji akiniai.

THE Rugpjūčio 25 d., Už skaitmeninimą atsakinga ministrė pareiškė norinti, kad šiems akiniams būtų taikomi griežtesni reglamentai., uždraudžiant, visų pirma, veido atpažinimą viešose vietose.

Ministras ketina paskirti ekspertų grupė pavesta parengti rekomendacijas dėl į akinius, ausines ir panašius kasdienius prietaisus integruotų kamerų ir mikrofonų reguliavimo.

Tarptautiniu mastu

Prie Jungtinė Karalystė, mažas britų elektros energijos gamybos blokas buvo keturias dienas negalės naudotis paslaugomis liepos mėnesį po to, kai Kibernetinė ataka, priskiriama su Iranu susijusiems programišiams.

Šis incidentas, laikomas pirmoji žinoma Irano grupuotės sėkmė prieš Britanijos energetikos infrastruktūrą, nesukėlė jokių sutrikimų ar grėsmės nacionaliniam tinklui, nes ši vieta nebuvo laikoma ypatingos svarbos infrastruktūra.

Britų vyriausybė vis dėlto sustiprintos kibernetinio saugumo priemonės energetikos sektoriuje, Šis išpuolis laikomas įspėjimu apie didėjantį nacionalinės infrastruktūros pažeidžiamumą.

Taip pat ir kitoje Lamanšo sąsiaurio pusėje, Britų transporto policija (BTP) išplėstas į 2026 m. rugpjūtis jo eksperimentas su veido atpažinimas realiuoju laiku (LFR) tam tikrose Londono metro stotyse po pradinio dislokavimo vasarį.

Technologija lygina keliautojų veidus su... ieškomų asmenų sąrašas, ypač sunkių nusikaltimų atveju, kad policija galėtų greitai įsikišti.

Pareigūnai teigia, kad schema yra tikslinė, paremta žvalgybos duomenimis ir kad... Žmonių, neatitinkančių sąrašo, nuotraukos ištrinamos..

Bandymas turi tęstis tol, kol 2026 m. lapkritis. Tai, kad tūkstančiai keliautojų buvo nuskenuoti tokiu būdu neįtariant jokių nusižengimų, vėl pakurstė diskusijas apie proporcingumas ir biometrinės stebėsenos teisinė sistema Jungtinėje Karalystėje.

Prie Brazilija, APD paskyrė Rugpjūčio 25 d. turi ByteDance bauda 153,7 mln. realų (25,4 mln. eurų) gydymui duomenys apie vaikus ir paauglius „TikTok“ platformoje, lydimas pašalinimo įsakymas nereguliariai renkami duomenys.

Sprendimas susijęs su dviem prieigos būdais, būtent naujienų srautu, prieinamu visiems be interneto ryšio, ir tuo, kuris prieinamas per registruotą paskyrą, kurių tvarkymas pažeidžia kelis duomenų apsaugos įstatymo principus.

Abiem atvejais institucija atkreipė dėmesį į tinkamo teisinio pagrindo nebuvimas ir veiksmingas apsaugos priemones.

Ten Pietų Korėja ietis "« Dirbtinis intelektas visiems »programa, skirta pasiūlyti nemokama, neribota prieiga prie generatyvinio dirbtinio intelekto paslaugų visiems savo piliečiams.

Tikslas – demokratizuoti dirbtinio intelekto naudojimą ir kartu stiprinti technologinis suverenitetas šalies, palyginti su Jungtinių Amerikos Valstijų ir Kinijos modeliais.

Dirbtinis intelektas bus integruotas į viešąsias paslaugas, siekiant palengvinti medicinines, mokesčių, nekilnojamojo turto ar švietimo procedūras, taip pat padėti mažoms įmonėms.

Vyriausybė planuoja dirbtinio intelekto biudžetą, kurio suma siekia 7,2 mlrd. dolerių 2026 m., o visoje šalyje diegimas planuojamas iki metų pabaigos.

A Honkongas, Nacionalinis kibernetinio saugumo centras paskelbė agentinio dirbtinio intelekto gairės.

Dokumente apibrėžiama penkios rizikos kategorijos (išplėstinė prieiga, sistemos pažeidžiamumai, pažeidžiami papildiniai ar įgūdžiai, funkcinis poslinkis ir su keliais agentais susijusi rizika), formulė devynios rekomendacijos suderinta su duomenų apsaugos principais ir siūlomas priedas, kuriame būtų saugumo kontrolinis sąrašas apimantis dirbtinio intelekto agentų vertinimą, parengimą, diegimą, naudojimą ir pašalinimą.

Jis taip pat primena, kad pastarasis nėra juridiniai asmenys, ir kad organizacija lieka atsakinga už duomenis.

Į JUNGTINĖS AMERIKOS VALSTIJOS, įmonės stebėjimo kameros Bandų saugumas Šių kamerų daugėja, tačiau tai nesukelia stiprių reakcijų. automatiškai nuskaito valstybinius numerius su tariamu tikslu kovoti su nusikalstamumu.

Vis dėlto keli miestai ir gyventojai yra susirūpinę dėl privatumo rizikos, ypač dėl galimybės, kad prie duomenų galėtų prisijungti kitos policijos tarnybos arba naudojamas migracijos kontrolės kontekste.

Kibernetinio saugumo tyrėjai taip pat atskleidė pažeidžiamumai, galintys suteikti prieigą prie tam tikrų vaizdų, Tai padidino susirūpinimą dėl duomenų saugumo. Susidūrusios su šiais ginčais, kai kurios savivaldybės nutraukė sutartis arba išjungė kameras.

Taip pat ir Jungtinėse Valstijose, Meta padarė išvadą susitarimas su teisingumo sistema dėl paauglių saugumo.

Šis susitarimas buvo sudarytas su 51 generalinis prokuroras užbaigia ieškinį, kuriame jis kaltinamas sukūręs „Instagram“ ir „Facebook“ skatinti jaunų žmonių kompulsyvų vartojimą ir sumažinti su tuo susijusią riziką.

Sutartyje numatyta iki 17,1 mlrd. dolerių sumokėta valstybėms per dešimt metų, taip pat naujos taisyklės dėl jaunesni nei 18 metų.

Priemonės apima dienos naudojimo limitas, A naktinė blokada, išjungiant pranešimus tam tikrais laikotarpiais, «patinka» rodymo pašalinimas», kosmetinės chirurgijos filtrų draudimas ir galimybė naudoti neasmeninis naujienų srautas.

A amžiaus patvirtinimas taip pat turės neįtraukti jaunesniems nei 13 metų.

Galiausiai susitarimas numato nepriklausomas auditorius atsakinga už jo taikymo stebėseną.

Apribojimai galėtų būti sugriežtinti, jei kitos didelės platformos priimtų panašias taisykles, todėl šis susitarimas taptų... galimas viso sektoriaus modelis.

Ta pačia tema, ir vis dar Jungtinėse Valstijose, TikTok ir jos patronuojančioji bendrovė ByteDance sutiko sumokėti 400 milijonų dolerių nutraukti teisinius procesus dėl duomenų rinkimo ir apsaugos vaikų asmens duomenys.

JAV Teisingumo departamentas juos apkaltino, visų pirma, nepakankamai užkirtus kelią jaunesniems nei 13 metų naudotis platforma ir surinkti savo duomenis be tėvų sutikimo.