Uber sankcija: Algoritamsko upravljanje stavljeno na kušnju zakona.

U kojoj mjeri tvrtka može delegirati stroju ovlasti za zapošljavanje, ocjenjivanje, isplatu, sankcioniranje ili isključivanje radnika? Nedavna sankcija koju je nizozemsko tijelo za zaštitu podataka uvelo protiv tvrtke za prijevoz putnika Uber pruža nam početnu točku za odgovor.

Vlasti su 21. kolovoza izrekle kaznu od 824.990.000 eura. tvrtki, u suradnji s CNIL-om koji je pokrenuo istražni postupak. 
Uber je koristio softver za praćenje ponašanja vozača i analizu recenzija kupaca, a između 2018. i 2022. automatski je deaktivirao određene račune vozača u slučajevima sumnje na prijevaru ili nedostatka dovoljno recenzija.

Vlasti su osudile tvrtku zbog automatizirano donošenje odluka bez ljudskog nadzora.

Ova odluka ilustrira kako funkcionira europska suradnja između dvaju tijela za zaštitu podataka i pruža nam priliku da sagledamo razvoj algoritamskog upravljanja u profesionalnom kontekstu i njegov pravni okvir.

U ovom konkretnom slučaju, CNIL i nizozemsko tijelo surađivali su od 2020. godine, datuma kolektivne pritužbe koju je CNIL primio od udruženja La Ligue des droits de l'Homme, koje predstavlja više od 170 vozača platforme UBER. 

Tvrtka ima sjedište u San Franciscu (Uber technologies inc.) i europsko sjedište u Amsterdamu (Uber BV), zbog čega je nizozemsko tijelo provelo istrage i zauzelo stav, nakon što je s Francuskom analiziralo prikupljene dokaze i zajednički ispitalo nacrt konačne odluke. 

Ova je odluka treća koju je Nizozemska donijela u slučaju u kojem je tvrtka već osuđena zbog neinformiranja vozača i ilegalnog prijenosa podataka u Sjedinjene Države. 

Uglavnom podsjeća na pravila koja moraju regulirati algoritamsko upravljanje i naglašava da je ljudska provjera ključna prije donošenja bilo kakve odluke na temelju algoritma.

Također nam daje priliku da se podsjetimo da će, uz ovu nužnu ljudsku intervenciju i obvezu informiranja zaposlenika, algoritamsko upravljanje najčešće biti dio konteksta koji uključuje i razmatranje načela «privatnosti već u dizajnu» i prethodno dovršetak procjene utjecaja na zaštitu podataka (DPIA) od strane poslodavca. 

Prije implementacije novih tehnologija praćenja ili upravljanja na radnom mjestu, bilo da se one odnose na zapošljavanje, upravljanje ljudskim resursima, mjerenje učinkovitosti zaposlenika ili raspodjelu zadataka, poslodavci moraju od samog početka uvesti tehničke i organizacijske zaštitne mjere. 

Ove mjere moraju biti prilagođene uključenim rizicima i mogu uključivati, posebno, obrađivati manje podataka, pribjegavati pseudonimizacija i do ograničiti pristup.

Ukratko, Zaštita privatnosti ne može biti sporedna stvar. Mora biti integriran od samog početka u dizajn tehnologija koje se koriste na radnom mjestu.

S druge strane, algoritamsko upravljanje u većini slučajeva će se smatrati tretmanom «"Visok rizik"» zahtijevajući analiza utjecaja jer ispunjavaju niz kriterija navedenih u GDPR Takvi alati općenito uključuju nova tehnološka rješenja, automatizirano donošenje odluka, praćenje, kombiniranje skupova podataka, a zaposlenici se nalaze u situaciji ovisnosti o svom poslodavcu.

Cilj ovoga AIPD bit će’identificirati, procijeniti i ublažiti rizike vezano uz uvođenje ove nove tehnologije, uzimajući u obzir utjecaj na zaposlenike i njihovo gledište.

Ova bitna načela GDPR-a uskoro će biti dopunjena drugim zaštitnim mjerama.

Ako Regulacija umjetne inteligencije već je stupio na snagu; određene odredbe koje se odnose na visokorizične sustave umjetne inteligencije primjenjivat će se od Prosinac 2027.. 
L'Članak 9. iPrilog III. propisi će zahtijevati od poslodavaca da provedu sustav upravljanja rizicima kada koriste umjetnu inteligenciju za određene zadatke vezane uz zapošljavanje i upravljanje osobljem, na primjer, objavljivanje ciljanih ponuda za posao, analiziranje i filtriranje prijava ili ocjenjivanje kandidata.

U određenim specifičnim slučajevima gdje su rizici posebno visoki, a procjena utjecaja na temeljna prava također će se morati provesti paralelno s AIPD-om.

Nadalje, nova europska pravila koja se odnose na rad na platformama stupit će na snagu 2. prosinca sljedeći.

Cilj im je regulirati korištenje algoritama za upravljanje ljudskim resursima na digitalnim radnim platformama.

Poslodavci će stoga morati informirati radnike o korištenju umjetne inteligencije, i te će sustave trebati nadzirati kvalificirano osoblje, koji uživaju posebnu zaštitu od bilo kakvog nepovoljnog postupanja.

A ljudski nadzor Također će morati biti zajamčeno za važne odluke, poput suspenzije računa.

U ovom kontekstu koji se stalno mijenja, Nizozemska sankcija Ovo je vrlo koristan podsjetnik, posebno jer se čini da je tek početak.

Ovog rujna, vozači iz nekoliko europskih zemalja unajmili su kolektivna tužba u Amsterdamu protiv Ubera, ovaj put osporavajući korištenje algoritma za nagrađivanje i dodjelu vožnji.

U Francuskoj

Samo nekoliko tjedana nakon što je Parlament usvojio’zabrana korištenja društvenih mreža za osobe mlađe od 15 godina, zakon je bio blokirano od strane Ustavnog vijeća.

Procijenio je da 14. kolovoza konačno, ova zabrana« bi kršilo slobodu izražavanja i komunikacije maloljetnika i štoviše, bio bi okaljan viškom kompetencije.".

Ustavno vijeće nadalje primjećuje da bi ova zabrana imala posljedicu prisiljavanja svi korisnici, uključujući odrasle osobe, moraju dokazati svoju dob prije pristupa određenim online uslugama.

Međutim, zakon nije definirao postupke niti granice ove provjere: zakonodavac stoga nije predvidio dovoljna jamstva zaštititi pravo na poštovanje privatnog života, zajamčeno’Članak 2. Deklaracije iz 1789..

Vijeće ne dovodi u pitanje cilj zaštite maloljetnika, ali zahtijeva da sustavi za provjeru dobi usklade taj cilj sa zaštitom podataka i privatnošću svih korisnika.

Vlada nije odustala od projekta, a premijer je zadužen da "što je prije moguće sastavi pravno ispravan zakon". Zakon je prvotno trebao stupiti na snagu 1. siječnja 2027.. Vlada sada cilja na Proljeće 2027..

Tamo DGFiP potvrđeno 14. kolovoza da su zlonamjerni akteri dobili nezakonit pristup njegovom informacijskom sustavu te da su mogli pregledavati i izvlačiti podatke iz 678.000 pojedinaca i profesionalaca.

Ove brige porezne informacije (referentni dohodak, obiteljski kvocijent, stopa poreza po odbitku, SIREN broj i naziv tvrtke) i katastarski podaci (adrese i površine nekretnina).

Upad je u početku otkriven i blokiran. kraj lipnja, otkriveno je nakon što su napadači sredinom kolovoza javno preuzeli odgovornost.

Pogođene osobe su pojedinačno obaviještene i Kršenje podataka prijavljeno je CNIL-u.

Upad je navodno omogućen zahvaljujući kompromitiranje vjerodajnica agenta, u kombinaciji s nedovoljno zaštićenim vanjskim pristupom.

L'nedostatak dvofaktorske autentifikacije Široko rasprostranjen pristup agentima predstavlja slabost uočenu naknadno: Bercy je najavio ubrzano raspoređivanje nakon napada.

Imajte na umu da je Francuska dovedena pred Sud Europske unije (SEU) Za neuspjeh u prenošenju europske direktive NIS2 (Mrežna i informacijska sigurnost). Transpozicija se trebala dogoditi najkasnije do Listopad 2024..

Tamo CNIL objavio 10. kolovoza podsjetnik na mjere koje treba poduzeti kako bi se jamčilo’neovisnost službenika za zaštitu podataka (DPO).

Publikacija ima za cilj pomoći tvrtkama da identificiraju i upravljaju rizici sukoba interesa vezano uz ovu funkciju. Navodi funkcije koje su u riziku i predlaže načine rješavanja sukoba interesa.

U Europi

Europske institucije i tijela

Tamo Europska komisija odredio 31. kolovoza ChatGPT, Reddit i Roblox kao respektivno a vrlo velika online tražilica i dva vrlo velike online platforme.

ChatGPT, kao što svi znaju, sustav je umjetne inteligencije (AI) sposoban za interakciju s korisnicima i odgovaranje na njihove zahtjeve i upite, posebno pretraživanjem weba, što ga, prema Komisiji, čini hibridna usluga spada u opseg Zakon o digitalnim uslugama (DSA).

Reddit je platforma koja korisnicima omogućuje stvaranje, dijeljenje, pregledavanje i interakciju sa sadržajem unutar zajednica organiziranih po temama.

Roblox je impresivna platforma za igranje i stvaranje igara koja korisnicima omogućuje stvaranje, objavljivanje i igranje igara koje su razvili drugi korisnici.

Ove oznake daju Komisiji posebne istražne ovlasti i zahtijevaju ove usluge, odavde kraj prosinca 2026., kako bi se pridržavao dodatnih obveza utvrđenih u DSA-u, posebno u pogledu’procjena i ublažavanje sistemskog rizika koji proizlaze iz njihovih algoritamskih sustava.

U mišljenju iz 11. kolovoza posljednji, Europski nadzornik za zaštitu podataka (EDPS) zabrinut je zbog reforme koja bi omogućila Europol za obradu i pohranu podataka u širem smislu osobe bez utvrđene veze s kriminalističkom istragom.

Posebno ga brine da bi proširenje analitičkih mogućnosti Europola moglo dovesti do uspostavljanja veza ili profila između pojedinaca i kriminalnih aktivnosti bez dovoljno utvrđenih osnova.

EDPS ističe da što više automatiziranih analitičkih mogućnosti Europola ima, to je veći rizik prelaska s jednog prikupljanje na temelju sumnje do logika preventivnog masovnog prikupljanja.

On zahtijeva stroža jamstva u vezi s nužnost, proporcionalnost, rok trajanja i kontrola, kako učinkovitost borbe protiv kriminala ne bi bila na štetu prava na privatnost i zaštitu podataka.

Vijesti iz zemalja članica Europske unije.

Oglašavanje sada probija svoj put i u automobile. Njemački proizvođač BMW pokrenuo je reklamnu kampanju ovog ljeta na’glavni zaslon svojih najnovijih modela automobila.

Kad su vozači pokrenuli svoje automobile, na ekranu se pojavila promotivna animacija za nadolazeći film o Spider-Manu. Reklama je zauzimala veći dio ekrana gotovo 20 sekundi I privremeno onemogućene određene funkcije kao što su navigacija, multimedija i klima uređaj. 
Ovo ispitivanje obuhvaća nekoliko novijih modela i implementirano je u više od 70 zemalja.

A Austrijski sud smatralo se da bi nacionalno tijelo za zaštitu podataka (DPA) moglo odbiti postupiti po pritužbi u vezi sa zahtjevom za pristup koji je podnijela udruga u ime pojedinca.

Sud ukazuje na ekonomski model udruženja, i činjenicu da ostvaruje financijsku korist od povoljnih sudskih odluka iako dotična osoba ne izražava izričito interes za podnošenje predmetnog zahtjeva: «opća punomoć usmjerena na automatsko traženje povreda zaštite podataka i ostvarivanje financijske koristi opravdava odbijanje obrade pritužbe prema’Članak 57(4) GDPR-a i relevantnu sudsku praksu Suda pravde EU-a, Vrhovnog upravnog suda (VwGH) i Saveznog upravnog suda (BVwG).»  

THE 26. kolovoza, vlada Sjedinjenih Američkih Država registrirala je Autistični/Izumiteljski (A/I), talijanski kolektiv asocijativne akomodacije, na Popis organizacija i članova organizacija koje se smatraju terorističkim.

Trumpova administracija optužuje skupinu da je pružila "« materijalna podrška »antifašističkim i ljevičarskim skupinama putem svojih usluga smještaja.

Američke organizacije povezane s A/I moraju prekinuti sve odnose prije 25. rujna, naziv domene autistici.org suspendirao ga je američki administrator .org domena., prekid pristupa e-porukama i uslugama kolektiva za svoje korisnike. 

Tamo Norveška namjerava strogo regulirati pametne naočale.

THE 25. kolovoza, Ministrica zadužena za digitalizaciju izjavila je da želi da te naočale budu podložne strožim propisima., zabranjujući, posebno, prepoznavanje lica na javnim mjestima.

Ministar namjerava imenovati grupa stručnjaka zadužen za formuliranje preporuka o regulaciji kamera i mikrofona integriranih u naočale, slušalice i slične svakodnevne uređaje.

Međunarodno

Na Ujedinjeno Kraljevstvo, mala britanska jedinica za proizvodnju električne energije bila je izvan pogona četiri dana u srpnju nakon Kibernetički napad pripisan hakerima povezanim s Iranom.

Incident, smatran Prvi poznati uspjeh iranske skupine protiv britanske energetske infrastrukture, nije uzrokovao nikakve poremećaje ili prijetnju nacionalnoj mreži, budući da lokacija nije predstavljala kritičnu infrastrukturu.

Britanska vlada je ipak pojačane mjere kibernetičke sigurnosti u energetskom sektoru, napad se smatra upozorenjem na rastuću ranjivost nacionalne infrastrukture.

I s druge strane kanala, Britanska prometna policija (BTP) prošireno u Kolovoz 2026. njegovo eksperimentiranje s prepoznavanje lica u stvarnom vremenu (LFR) na određenim stanicama londonske podzemne željeznice, nakon početnog raspoređivanja u veljači.

Tehnologija uspoređuje lica putnika s popis traženih osoba, posebno za teška kaznena djela, kako bi se omogućila brza intervencija policije.

Vlasti tvrde da je shema ciljana, utemeljena na obavještajnim podacima i da je Slike osoba koje ne odgovaraju popisu brišu se..

Testiranje se mora nastaviti sve dok Studeni 2026.. Činjenica da su tisuće putnika skenirane na ovaj način bez sumnje da su počinili bilo kakav prekršaj ponovno potiče raspravu o proporcionalnost i pravni okvir za biometrijski nadzor u Ujedinjenom Kraljevstvu.

Na Brazil, APD je nanio 25. kolovoza ima ByteDance novčana kazna od 153,7 milijuna reala (25,4 milijuna eura) za liječenje podaci o djeci i tinejdžerima na TikToku, u pratnji sudski nalog za uklanjanje podaci prikupljeni nepravilno.

Odluka se odnosi na dva načina pristupa, i to na novosti dostupne svima bez internetske veze i one dostupne putem registriranog računa, čija obrada krši nekoliko načela zakona o zaštiti podataka.

U oba slučaja, vlasti su primijetile nedostatak valjane pravne osnove i učinkovite zaštitne mjere.

Tamo Južna Koreja koplje"« Umjetna inteligencija za sve »program usmjeren na ponudu besplatan, neograničen pristup generativnim uslugama umjetne inteligencije za sve svoje građane.

Cilj je demokratizirati korištenje umjetne inteligencije uz istovremeno jačanje tehnološki suverenitet zemlje u usporedbi s modelima Sjedinjenih Država i Kine.

Umjetna inteligencija bit će integrirana u javne usluge kako bi se olakšali medicinski, porezni, nekretninski ili obrazovni postupci, a također i kako bi se pomoglo malim poduzećima.

Vlada planira proračun za umjetnu inteligenciju 7,2 milijarde dolara u 2026. godini, s planiranim uvođenjem na nacionalnoj razini do kraja godine.

A Hong Kong, Nacionalni centar za kibernetičku sigurnost objavio je smjernice za agentnu umjetnu inteligenciju.

Dokument definira pet kategorija rizika (prošireni pristup, ranjivosti sustava, ranjivi dodaci ili vještine, funkcionalno pomicanje i rizici povezani s više agenata), formula devet preporuka usklađen s načelima zaštite podataka i predlaže prilog koji sadrži sigurnosna kontrolna lista koji obuhvaća evaluaciju, pripremu, implementaciju, korištenje i deinstalaciju AI agenata.

Nadalje podsjeća da potonji nisu pravne osobe, i to organizacija ostaje odgovorna za podatke.

Do SJEDINJENE DRŽAVE, nadzorne kamere tvrtke Sigurnost jata Ove kamere se množe, ne bez izazivanja snažnih reakcija. automatsko čitanje registarskih pločica s navodnim ciljem borbe protiv kriminala.

Međutim, nekoliko gradova i stanovnika zabrinuto je zbog rizika za privatnost, posebno zbog mogućnosti da bi podacima mogle pristupiti druge policijske službe ili koristi se u kontekstu kontrole migracija.

Istraživači kibernetičke sigurnosti također su otkrili ranjivosti koje potencijalno omogućuju pristup određenim slikama, To je povećalo zabrinutost oko sigurnosti podataka. Suočene s tim kontroverzama, neke su općine raskinule ugovore ili deaktivirale kamere.

I u Sjedinjenim Državama, Meta zaključen sporazum s pravosudnim sustavom o sigurnosti tinejdžera.

Ovaj sporazum sklopljen s 51 glavni državni odvjetnik okončava tužbu kojom ga se optužuje da je dizajnirao Instagram i Facebook za poticati kompulzivnu upotrebu među mladima i da su se povezani rizici sveli na minimum.

Sporazum predviđa do 17,1 milijardi dolara isplaćeno Državama tijekom deset godina, kao i nova pravila za mlađi od 18 godina.

Mjere uključuju dnevno ograničenje upotrebe, A noćna blokada, onemogućavanje obavijesti tijekom određenih razdoblja, uklanjanje prikaza "lajkova"«, zabrana filtera za kozmetičku kirurgiju i mogućnost korištenja nepersonalizirani feed vijesti.

A provjera dobi također će morati isključiti mlađi od 13 godina.

Sporazum konačno predviđa neovisni revizor odgovoran za praćenje njegove primjene.

Ograničenja bi se mogla pojačati ako i druge velike platforme usvoje slična pravila, čime bi ovaj sporazum bio mogući model za cijeli sektor.

Na istu temu, i još uvijek u Sjedinjenim Državama, TikTok i njezina matična tvrtka ByteDance pristao platiti 400 milijuna dolara okončati pravne postupke u vezi s prikupljanjem i zaštitom osobni podaci djece.

Ministarstvo pravosuđa SAD-a ih je posebno optužilo da nisu dovoljno spriječili mlađi od 13 godina koristiti platformu i prikupljati njihove podatke bez roditeljskog pristanka.