Uberjeva sankcija: Algoritmično upravljanje na preizkušnji zakona.

V kolikšni meri lahko podjetje na stroj prenese pooblastilo za zaposlovanje, ocenjevanje, plačevanje, sankcioniranje ali izključitev delavca? Nedavna sankcija, ki jo je nizozemski organ za varstvo podatkov sprejel proti podjetju za prevoz Uber, nam ponuja izhodišče za odgovor.

Organ je 21. avgusta naložil globo v višini 824.990.000 evrov. podjetju v sodelovanju s CNIL, ki je sprožil postopek preiskave. 
Uber je uporabljal programsko opremo za spremljanje vedenja voznikov in analizo ocen strank, med letoma 2018 in 2022 pa je samodejno deaktiviral nekatere vozniške račune v primerih suma goljufije ali pomanjkanja zadostnih ocen.

Oblasti so podjetje obsodile zaradi avtomatizirano odločanje brez človeškega nadzora.

Ta odločitev ponazarja, kako deluje evropsko sodelovanje med dvema organoma za varstvo podatkov, in nam daje priložnost, da pregledamo razvoj algoritmičnega upravljanja v strokovnem kontekstu in njegov pravni okvir.

V tem konkretnem primeru sta CNIL in nizozemski organ sodelovala od leta 2020, ko je CNIL prejel kolektivno pritožbo od združenja La Ligue des droits de l'Homme, ki zastopa več kot 170 voznikov platforme UBER. 

Podjetje ima glavni sedež v San Franciscu (Uber technologies inc.) in evropski sedež v Amsterdamu (Uber BV), zato je nizozemski organ izvedel preiskave in zavzel stališče, potem ko je s Francijo analiziral pridobljene dokaze in skupaj preučil osnutek končne odločitve. 

To je tretja odločitev, ki jo je Nizozemska sprejela v primeru, v katerem je bilo podjetje že obsojeno zaradi neobveščanja voznikov in nezakonitega prenosa podatkov v Združene države. 

Predvsem opozarja na pravila, ki morajo urejati algoritmično upravljanje, in poudarja, da je človeško preverjanje bistvenega pomena, preden se na podlagi algoritma sprejme kakršna koli odločitev.

Prav tako nam daje priložnost, da se spomnimo, da bo poleg tega nujnega človeškega posredovanja in obveznosti obveščanja zaposlenih algoritmično upravljanje najpogosteje del konteksta, ki vključuje tako upoštevanje načela "vgrajene zasebnosti" kot tudi predhodno izvedbo ocene učinka na varstvo podatkov s strani delodajalca. 

Preden delodajalci uvedejo nove tehnologije spremljanja ali upravljanja na delovnem mestu, ne glede na to, ali se nanašajo na zaposlovanje, upravljanje s človeškimi viri, merjenje učinkovitosti zaposlenih ali dodeljevanje nalog, morajo že od samega začetka vzpostaviti tehnične in organizacijske zaščitne ukrepe. 

Ti ukrepi morajo biti prilagojeni vključenim tveganjem in lahko vključujejo zlasti obdelujejo manj podatkov, zateči se k psevdonimizacija in do omeji dostop.

Skratka, Varstvo zasebnosti ne sme biti drugotnega pomena. V zasnovo tehnologij, ki se uporabljajo na delovnem mestu, ga je treba vključiti že od samega začetka.

Po drugi strani pa algoritmično upravljanje v večini primerov se bo štelo za zdravljenje «"Visoko tveganje"» zahteva analiza vpliva ker izpolnjujejo številna merila, navedena v GDPR : takšna orodja običajno vključujejo nove tehnološke rešitve, avtomatizirano odločanje, spremljanje, kombiniranje naborov podatkov, zaposleni pa se znajdejo v odvisnosti od delodajalca.

Cilj tega AIPD bo’za prepoznavanje, oceno in zmanjšanje tveganj povezane z uvedbo te nove tehnologije, pri čemer je treba upoštevati vpliv na zaposlene in njihovo stališče.

Ta bistvena načela GDPR bodo kmalu dopolnjena z drugimi zaščitnimi ukrepi.

Če Regulacija umetne inteligence je že začel veljati; nekatere določbe v zvezi z visoko tveganimi sistemi umetne inteligence se bodo uporabljale od December 2027. 
L'Člen 9 inPriloga III Predpisi bodo od delodajalcev zahtevali, da izvajajo sistem upravljanja tveganj ko uporabljajo umetno inteligenco za določene naloge, povezane z zaposlovanjem in upravljanjem kadrov, na primer objavljanje ciljno usmerjenih ponudb za delo, analiziranje in filtriranje prijav ali ocenjevanje kandidatov.

V nekaterih posebnih primerih, kjer so tveganja še posebej visoka, ocena vpliva na temeljne pravice bo treba izvesti tudi vzporedno z AIPD.

Poleg tega nova evropska pravila v zvezi z delo na platformah bo začel veljati dne 2. decembra naslednji.

Njihov cilj je urediti uporabo algoritmov za upravljanje s človeškimi viri na digitalnih delovnih platformah.

Delodajalci bodo zato morali obveščati delavce o uporabi umetne inteligence, in te sisteme bo treba nadzorovati usposobljeno osebje, ki uživajo posebno zaščito pred kakršnim koli negativnim ravnanjem.

A človeški nadzor Zagotovljeno bo tudi za pomembne odločitve, kot je na primer začasna ustavitev računov.

V tem nenehno spreminjajočem se kontekstu, Nizozemska sankcija To je zelo koristen opomnik, še posebej ker se zdi, da je to šele začetek.

Septembra letos so vozniki iz več evropskih držav najeli Skupinska tožba v Amsterdamu proti Uberju, tokrat z izpodbijanjem uporabe algoritma za nagrajevanje in dodeljevanje voženj.

V Franciji

Le nekaj tednov po tem, ko je parlament sprejel’prepoved družbenih omrežij za osebe, mlajše od 15 let, zakon je bil blokiral ustavni svet.

Ocenil je, 14. avgust končno, da ta prepoved« bi kršilo svobodo izražanja in komunikacije mladoletnikov in bi ga poleg tega zaznamovala pretirana kompetenca.".

Ustavni svet nadalje ugotavlja, da bi ta prepoved imela za posledico prisiljevanje vsi uporabniki, vključno s odraslimi, morajo dokazati svojo starost preden dostopate do določenih spletnih storitev.

Vendar zakon ni opredelil postopkov ali meja tega preverjanja: zakonodajalec zato ni predvidel zadostna jamstva za zaščito pravice do spoštovanja zasebnega življenja, ki jo zagotavlja’2. člen Deklaracije iz leta 1789.

Svet ne dvomi o cilju zaščite mladoletnikov, vendar zahteva, da sistemi za preverjanje starosti ta cilj uskladijo z varstvom podatkov in zasebnosti vseh uporabnikov.

Vlada projekta ni opustila, saj je predsednik vlade zadolžen, da "čim prej pripravi pravno utemeljen zakon". Zakon naj bi sprva začel veljati 1. januar 2027. Vlada si zdaj prizadeva za Pomlad 2027.

Tam DGFiP potrjeno 14. avgust da so zlonamerni akterji pridobili nezakonit dostop do njegovega informacijskega sistema in si lahko ogledali ter iz njega izvlekli podatke 678.000 posameznikov in strokovnjakov.

Te skrbi davčne informacije (referenčni dohodek, družinski količnik, stopnja davčnega odtegljaja, številka SIREN in ime podjetja) in katastrski podatki (naslovi in površine nepremičnin).

Vdor je bil sprva zaznan in blokiran. konec junija, je bilo razkrito po tem, ko so napadalci sredi avgusta javno prevzeli odgovornost.

Prizadeti posamezniki so bili obveščeni individualno in Kršitev podatkov je bila obveščena CNIL..

Vdor naj bi bil omogočen zaradi ogrožanje poverilnic agenta, v kombinaciji z nezadostno zaščitenim zunanjim dostopom.

L'odsotnost dvofaktorske avtentikacije Širok dostop do agentov predstavlja slabost, ki je bila ugotovljena naknadno: Bercy je po napadu napovedal pospešeno namestitev.

Upoštevajte, da je bila Francija predložena Sodišče Evropske unije (SEU) Za neuspeh pri prenosu evropske direktive NIS2 (Varnost omrežij in informacij). Prenos bi moral biti izveden najkasneje leta Oktober 2024.

Tam CNIL objavil 10. avgust opomnik o ukrepih, ki jih je treba sprejeti za zagotovitev’neodvisnost pooblaščene osebe za varstvo podatkov (DPO).

Namen publikacije je pomagati podjetjem prepoznati in upravljati tveganja navzkrižja interesov povezane s to funkcijo. Navaja ogrožene funkcije in predlaga načine za reševanje navzkrižij interesov.

V Evropi

Evropske institucije in organi

Tam Evropska komisija imenovan 31. avgust ChatGPT, Reddit in Roblox kot da je a zelo velik spletni iskalnik in dva zelo velike spletne platforme.

ChatGPT je, kot vsi vemo, sistem umetne inteligence (UI), ki je sposoben interakcije z uporabniki in odzivanja na njihove zahteve in poizvedbe, zlasti z izvajanjem spletnih iskanj, zaradi česar je po mnenju Komisije hibridna storitev spadajo v področje uporabe Zakon o digitalnih storitvah (DSA).

Reddit je platforma, ki uporabnikom omogoča ustvarjanje, deljenje, ogled in interakcijo z vsebinami znotraj skupnosti, organiziranih po temah.

Roblox je platforma za poglobljeno igranje in ustvarjanje iger, ki uporabnikom omogoča ustvarjanje, objavljanje in igranje iger, ki so jih razvili drugi uporabniki.

Ta imenovanja Komisiji podeljujejo posebna preiskovalna pooblastila in zahtevajo te storitve od tukaj konec decembra 2026, da bi izpolnili dodatne obveznosti iz Zakona o digitalnih storitvah, zlasti glede’ocena in zmanjševanje sistemskih tveganj ki izhajajo iz njihovih algoritmičnih sistemov.

V mnenju iz 11. avgust zadnjič, Evropski nadzornik za varstvo podatkov (EDPS) je zaskrbljen zaradi reforme, ki bi omogočila Europol za širšo obdelavo in shranjevanje podatkov osebe brez ugotovljene povezave s kriminalno preiskavo.

Še posebej ga skrbi, da bi lahko širitev analitičnih zmogljivosti Europola privedla do vzpostavitve povezav ali profilov med posamezniki in kriminalnimi dejavnostmi brez zadostnih razlogov.

ENVP poudarja, da več avtomatiziranih analitičnih zmogljivosti kot ima Europol, večje je tveganje prehoda z enega zbiranje na podlagi suma do logika preventivnega množičnega zbiranja.

Zahteva strožja jamstva glede nujnost, sorazmernost, rok uporabnosti in nadzor, da učinkovitost boja proti kriminalu ne bi ogrozila pravice do zasebnosti in varstva podatkov.

Novice iz držav članic Evropske unije.

Oglaševanje si zdaj utira pot tudi v avtomobile. Nemški proizvajalec BMW je to poletje začel oglaševalsko kampanjo na’glavni zaslon svojih najnovejših modelov avtomobilov.

Ko so vozniki zagnali svoje avtomobile, se je na zaslonu prikazala promocijska animacija za prihajajoči film o Spider-Manu. Oglas je zasedel večino zaslona skoraj 20 sekund In začasno onemogočene nekatere funkcije kot so navigacija, multimedija in klimatska naprava. 
To preskušanje zajema več novejših modelov in je bilo uporabljeno v več kot 70 držav.

A Avstrijsko sodišče menil, da bi lahko nacionalni organ za varstvo podatkov zavrniti ukrepanje na podlagi pritožbe glede zahteve za dostop, ki jo je v imenu posameznika vložilo združenje.

Sodišče opozarja na ekonomski model združenja, in dejstvo, da ima finančno korist od ugodnih sodnih odločb, čeprav zadevna oseba ne izrazi izrecnega interesa za vložitev zadevne vloge: «splošno pooblastilo, katerega cilj je samodejno iskanje kršitev varstva podatkov in pridobivanje finančnih koristi, upravičuje zavrnitev obravnave pritožbe v skladu z’Člen 57(4) GDPR in ustrezno sodno prakso Sodišča EU, vrhovnega upravnega sodišča (VwGH) in zveznega upravnega sodišča (BVwG).»  

TA 26. avgusta, vlada Združenih držav Amerike je registrirala Avtisti/Izumitelji (A/I), italijanski kolektiv asociativne nastanitve, na Seznam organizacij in članov organizacij, ki veljajo za teroristične.

Trumpova administracija skupino obtožuje, da je zagotovila "« materialna podpora »"antifašističnim in levičarskim skupinam prek svojih nastanitvenih storitev.".

Ameriške organizacije, povezane z A/I, morajo prekiniti vse odnose, preden 25. septembra, ime domene avtistici.org je ameriški skrbnik domen .org začasno ustavil., prekinitev dostopa do e-poštnih sporočil in storitev kolektiva za svoje uporabnike. 

Tam Norveška namerava strogo regulirati pametna očala.

TA 25. avgusta, Ministrica, pristojna za digitalizacijo, je izjavila, da želi, da bi za ta očala veljali strožji predpisi., prepoved, zlasti, prepoznavanja obrazov na javnih mestih.

Minister namerava imenovati skupina strokovnjakov zadolžen za oblikovanje priporočil o regulaciji kamer in mikrofonov, vgrajenih v očala, slušalke in podobne vsakdanje naprave.

Mednarodno

Ob Združeno kraljestvo, majhna britanska enota za proizvodnjo električne energije je bila štiri dni ni v uporabi julija po Kibernetski napad pripisan hekerjem, povezanim z Iranom.

Incident, če upoštevamo Prvi znani uspeh iranske skupine proti britanski energetski infrastrukturi, ni povzročil nobenih motenj ali grožnje nacionalnemu omrežju, saj lokacija ni predstavljala kritične infrastrukture.

Britanska vlada je kljub temu okrepljeni ukrepi za kibernetsko varnost v energetskem sektorju, Napad je bil razumljen kot opozorilo o vse večji ranljivosti nacionalne infrastrukture.

Tudi čez Rokavski preliv, Britanska prometna policija (BTP) razširjeno v Avgust 2026 njegovo eksperimentiranje z prepoznavanje obrazov v realnem času (LFR) na nekaterih postajah londonske podzemne železnice, po začetni namestitvi februarja.

Tehnologija primerja obraze popotnikov z seznam iskanih oseb, zlasti pri hujših kaznivih dejanjih, da se omogoči hitro posredovanje policije.

Oblasti trdijo, da je shema ciljno usmerjena, temelji na obveščevalnih podatkih in da Slike oseb, ki ne ustrezajo seznamu, so izbrisane..

Preizkus se mora nadaljevati do November 2026. Dejstvo, da je bilo na ta način skeniranih na tisoče popotnikov, ne da bi bili osumljeni kakršnega koli prekrška, ponovno sproži razpravo o sorazmernost in pravni okvir za biometrični nadzor v Združenem kraljestvu.

Ob Brazilija, je APD povzročil 25. avgusta ima ByteDance globa v višini 153,7 milijona realov (25,4 milijona evrov) za zdravljenje podatki o otrocih in najstnikih na TikToku, skupaj z odredba o odstranitvi podatki, zbrani nepravilno.

Odločitev se nanaša na dva načina dostopa, in sicer na vir novic, ki je dostopen vsem brez povezave, in na vir, ki je dostopen prek registriranega računa, katerega obdelava krši več načel zakona o varstvu podatkov.

V obeh primerih je organ ugotovil odsotnost veljavne pravne podlage in učinkovite zaščitne ukrepe.

Tam Južna Koreja kopje "« Umetna inteligenca za vse »program, namenjen ponudbi brezplačen, neomejen dostop do generativnih storitev umetne inteligence za vse svoje državljane.

Cilj je demokratizirati uporabo umetne inteligence in hkrati okrepiti tehnološka suverenost države v primerjavi z modeli Združenih držav Amerike in Kitajske.

Umetna inteligenca bo integrirana v javne storitve za olajšanje zdravstvenih, davčnih, nepremičninskih ali izobraževalnih postopkov ter za pomoč malim podjetjem.

Vlada načrtuje proračun za umetno inteligenco 7,2 milijarde dolarjev leta 2026, z načrtovano vsedržavno uvedbo do konca leta.

A Hongkong, Nacionalni center za kibernetsko varnost je objavil smernice za agentno umetno inteligenco.

Dokument opredeljuje pet kategorij tveganja (razširjen dostop, sistemske ranljivosti, ranljivi vtičniki ali spretnosti, funkcionalno odstopanje in tveganja, povezana z več agenti), formula devet priporočil usklajeno z načeli varstva podatkov in predlaga prilogo, ki vsebuje varnostni kontrolni seznam ki zajema ocenjevanje, pripravo, uvajanje, uporabo in odstranitev agentov umetne inteligence.

Nadalje spominja, da je slednji niso pravne osebe, in to organizacija ostaja odgovorna za podatke.

Do ZDRUŽENE DRŽAVE AMERIKE, nadzorne kamere podjetja Varnost jate Teh kamer se množi, ne brez da bi to izzvalo burne reakcije. samodejno branje registrskih tablic z domnevnim ciljem boja proti kriminalu.

Vendar pa je več mest in prebivalcev zaskrbljenih zaradi tveganj za zasebnost, zlasti zaradi možnosti, da bi do podatkov lahko dostopale druge policijske službe ali uporablja se v kontekstu nadzora migracij.

Raziskovalci kibernetske varnosti so prav tako razkrili ranljivosti, ki potencialno omogočajo dostop do določenih slik, To je povečalo zaskrbljenost glede varnosti podatkov. Zaradi teh polemik so nekatere občine prekinile pogodbe ali deaktivirale kamere.

Tudi v Združenih državah Amerike, Meta sklenjeno sporazum s pravosodnim sistemom o varnosti najstnikov.

Ta sporazum je bil sklenjen z 51 generalnih državnih tožilcev konča tožbo, v kateri ga obtožujejo, da je zasnoval Instagram in Facebook za spodbujati kompulzivno uporabo med mladimi in da so bila s tem povezana tveganja čim bolj zmanjšana.

Sporazum predvideva do 17,1 milijarde dolarjev plačanih državam v desetih letih, pa tudi nova pravila za mlajši od 18 let.

Ukrepi vključujejo dnevna omejitev porabe, A nočna blokada, onemogočanjem obvestil v določenih obdobjih, odstranitev prikaza "všečkov"«, prepoved filtrov za kozmetično kirurgijo in možnost uporabe neosebni vir novic.

A preverjanje starosti bo treba izključiti tudi mlajši od 13 let.

Sporazum končno določa neodvisni revizor odgovoren za spremljanje njegove uporabe.

Omejitve bi se lahko okrepile, če bi druge večje platforme sprejele podobna pravila, s čimer bi ta sporazum postal možen model za celoten sektor.

Na isto temo in še vedno v Združenih državah Amerike, TikTok in njeno matično podjetje ByteDance strinjal se s plačilom 400 milijonov dolarjev končati sodne postopke v zvezi z zbiranjem in varstvom osebni podatki otrok.

Ameriško ministrstvo za pravosodje jih je obtožilo zlasti, da niso dovolj preprečili mlajši od 13 let uporabljati platformo in zbirati svoje podatke brez starševskega soglasja.