Uber Sankcia: Algoritmické riadenie podrobené skúške zákona.

Do akej miery môže spoločnosť delegovať na stroj právomoc prijímať, hodnotiť, platiť, sankcionovať alebo vylučovať pracovníka? Nedávna sankcia, ktorú holandský úrad na ochranu údajov uvalil na spoločnosť Uber, ktorá sa zaoberá zdieľanou jazdou, nám poskytuje východiskový bod pre odpoveď.

Úrad uložil 21. augusta pokutu vo výške 824 990 000 eur. spoločnosti v spolupráci s CNIL, ktorá začala vyšetrovacie konanie. 
Spoločnosť Uber používala softvér na monitorovanie správania vodičov a analýzu recenzií zákazníkov a medzi rokmi 2018 a 2022 automaticky deaktivovala určité účty vodičov v prípadoch podozrenia z podvodu alebo nedostatku dostatočných recenzií.

Úrad odsúdil spoločnosť za automatizované rozhodovanie bez ľudského dohľadu.

Toto rozhodnutie ilustruje, ako funguje európska spolupráca medzi dvoma orgánmi na ochranu údajov, a dáva nám príležitosť zhodnotiť vývoj algoritmického riadenia v profesionálnom kontexte a jeho právny rámec.

V tomto konkrétnom prípade CNIL a holandský úrad spolupracovali od roku 2020, dátumu kolektívnej sťažnosti, ktorú CNIL dostala od združenia La Ligue des droits de l'Homme, ktoré zastupuje viac ako 170 vodičov platformy UBER. 

Spoločnosť má sídlo v San Franciscu (Uber technologies inc.) a európske sídlo v Amsterdame (Uber BV), a preto holandský úrad vykonal vyšetrovania a zaujal stanovisko po analýze získaných dôkazov s Francúzskom a spoločnom preskúmaní návrhu konečného rozhodnutia. 

Toto rozhodnutie je tretie, ktoré Holandsko prijalo v prípade, v ktorom už bola spoločnosť odsúdená za neinformovanie vodičov a nezákonný prenos údajov do Spojených štátov. 

Pripomína najmä pravidlá, ktorými sa musí riadiť algoritmické riadenie, a zdôrazňuje, že pred akýmkoľvek rozhodnutím na základe algoritmu je nevyhnutné ľudské overenie.

Taktiež nám to dáva príležitosť pripomenúť si, že okrem tohto nevyhnutného ľudského zásahu a povinnosti informovať zamestnancov bude algoritmické riadenie najčastejšie súčasťou kontextu zahŕňajúceho zohľadnenie zásady «ochrany súkromia už v štádiu návrhu» a predchádzajúce vykonanie posúdenia vplyvu na ochranu údajov (DPIA) zo strany zamestnávateľa. 

Pred zavedením nových monitorovacích alebo riadiacich technológií na pracovisku, či už sa týkajú náboru, riadenia ľudských zdrojov, merania efektívnosti zamestnancov alebo prideľovania úloh, musia zamestnávatelia od začiatku zaviesť technické a organizačné ochranné opatrenia. 

Tieto opatrenia musia byť prispôsobené príslušným rizikám a môžu zahŕňať najmä spracovávať menej údajov, uchýliť sa k pseudonymizácia a k obmedziť prístup.

Stručne povedané, Ochrana súkromia nemôže byť druhoradá. Musí byť od začiatku integrovaný do návrhu technológií používaných na pracovisku.

Na druhej strane, algoritmické riadenie vo väčšine prípadov sa bude považovať za liečbu «Vysoké riziko» vyžadujúci analýza vplyvu pretože spĺňajú niekoľko kritérií uvedených v GDPR Takéto nástroje vo všeobecnosti zahŕňajú nové technologické riešenia, automatizované rozhodovanie, monitorovanie, kombináciu súborov údajov a zamestnanci sa ocitajú v situácii závislosti od svojho zamestnávateľa.

Cieľom tohto AIPD bude’identifikovať, posúdiť a zmierniť riziká súvisiace so zavedením tejto novej technológie, berúc do úvahy vplyv na zamestnancov a ich pohľad.

Tieto základné zásady GDPR budú čoskoro doplnené ďalšími ochrannými opatreniami.

Ak Regulácia umelej inteligencie už nadobudol účinnosť; niektoré ustanovenia týkajúce sa vysokorizikových systémov umelej inteligencie sa budú uplatňovať od December 2027. 
L'Článok 9 aPríloha III Tieto predpisy budú od zamestnávateľov vyžadovať zavedenie systém riadenia rizík keď používajú umelú inteligenciu na určité úlohy súvisiace so zamestnanosťou a personálnym riadením, napríklad zverejňovanie cielených pracovných ponúk, analýzu a filtrovanie žiadostí alebo hodnotenie kandidátov.

V určitých špecifických prípadoch, kde sú riziká obzvlášť vysoké, posúdenie vplyvu na základné práva bude tiež potrebné vykonať súbežne s AIPD.

Okrem toho nové európske pravidlá týkajúce sa práca na platformách nadobudne platnosť dňa 2. decembra ďalej.

Ich cieľom je regulovať používanie algoritmov na riadenie ľudských zdrojov na digitálnych pracovných platformách.

Zamestnávatelia preto budú musieť informovať pracovníkov o používaní umelej inteligencie, a tieto systémy bude potrebné dohliadať kvalifikovaný personál, ktorí požívajú osobitnú ochranu pred akýmkoľvek nepriaznivým zaobchádzaním.

A ľudský dohľad Bude to musieť byť garantované aj v prípade dôležitých rozhodnutí, ako je napríklad pozastavenie účtov.

V tomto neustále sa meniacom kontexte, Holandská sankcia Toto je veľmi užitočná pripomienka, najmä preto, že sa zdá, že je to len začiatok.

Tento september si vodiči z niekoľkých európskych krajín najali hromadná žaloba v Amsterdame proti Uberu, tentoraz spochybňujúc použitie algoritmu na odmeňovanie a prideľovanie jázd.

Vo Francúzsku

Len niekoľko týždňov po tom, čo parlament schválil’zákaz sociálnych médií pre osoby mladšie ako 15 rokov, zákon bol zablokované Ústavnou radou.

Odhadoval, že 14. augusta nakoniec, že tento zákaz« by porušovalo slobodu prejavu a komunikácie maloletých a navyše by bol poznačený nadmernou kompetenciou.».

Ústavná rada ďalej poznamenáva, že tento zákaz by mal za následok nútenie všetci používatelia vrátane dospelých musia preukázať svoj vek pred prístupom k určitým online službám.

Zákon však nedefinoval postupy ani hranice tohto overovania: zákonodarca preto nestanovil dostatočné záruky chrániť právo na rešpektovanie súkromného života, zaručené’Článok 2 Deklarácie z roku 1789.

Rada nespochybňuje cieľ ochrany maloletých, ale požaduje, aby systémy overovania veku zosúladili tento cieľ s ochranou údajov a súkromia všetkých používateľov.

Vláda sa projektu nezriekla a premiér dostal za úlohu «čo najrýchlejšie vypracovať právne podložený návrh zákona». Zákon mal pôvodne nadobudnúť účinnosť dňa 1. januára 2027. Vláda sa teraz zameriava na Jar 2027.

Tam DGFiP potvrdené 14. augusta že útočníci získali nelegálny prístup k jeho informačnému systému a boli schopní zobraziť a extrahovať údaje z neho 678 000 jednotlivcov a profesionálov.

Tieto obavy daňové informácie (referenčný príjem, rodinný kvocient, sadzba zrážkovej dane, číslo SIREN a názov spoločnosti) a katastrálne údaje (adresy a plochy nehnuteľností).

Narušenie bolo spočiatku detekované a zablokované. koniec júna, bolo odhalené po verejnom prihlásení sa k zodpovednosti útočníkov v polovici augusta.

Dotknuté osoby boli informované individuálne a Únik údajov bol oznámený CNIL.

Vniknutie bolo údajne umožnené tým, že ohrozenie poverení agenta, v kombinácii s nedostatočne chráneným vonkajším prístupom.

L'absencia dvojfaktorovej autentifikácie Široký prístup k agentom predstavuje slabinu identifikovanú dodatočne: Bercy po útoku oznámila ich zrýchlené nasadenie.

Všimnite si, že Francúzsko bolo postavené pred súd Súdny dvor Európskej únie (SDEÚ) Pre netransponovanie európskej smernice NIS2 (Bezpečnosť sietí a informácií). Transpozícia sa mala uskutočniť najneskôr v roku Október 2024.

Tam CNIL publikoval 10. augusta pripomienka opatrení, ktoré sa majú prijať na zaručenie’nezávislosť zodpovednej osoby (DPO).

Cieľom publikácie je pomôcť spoločnostiam identifikovať a riadiť riziká konfliktu záujmov súvisiace s touto funkciou. Uvádza zoznam rizikových funkcií a navrhuje spôsoby riešenia konfliktov záujmov.

V Európe

Európske inštitúcie a orgány

Tam Európska komisia určený 31. augusta ChatGPT, Reddit a Roblox ako súc veľmi veľký online vyhľadávač a dva veľmi veľké online platformy.

ChatGPT, ako každý vie, je systém umelej inteligencie (AI) schopný interagovať s používateľmi a reagovať na ich požiadavky a otázky, najmä vykonávaním webového vyhľadávania, čo z neho podľa Komisie robí hybridná služba spadajúce do rozsahu pôsobnosti Zákon o digitálnych službách (DSA).

Reddit je platforma, ktorá umožňuje používateľom vytvárať, zdieľať, prezerať a interagovať s obsahom v rámci komunít organizovaných podľa témy.

Roblox je pohlcujúca herná a tvorivá platforma, ktorá umožňuje používateľom vytvárať, publikovať a hrať hry vyvinuté inými používateľmi.

Tieto určenia udeľujú Komisii osobitné vyšetrovacie právomoci a vyžadujú si tieto služby odtiaľto koniec decembra 2026, splniť dodatočné povinnosti stanovené v DSA, najmä pokiaľ ide o’hodnotenie a zmierňovanie systémových rizík vyplývajúce z ich algoritmických systémov.

V stanovisku od 11. augusta posledný, ten Európsky dozorný úradník pre ochranu údajov (EDPS) má obavy z reformy, ktorá by umožnila Europol spracovávať a ukladať dáta v širšom zmysle osoby bez preukázanej súvislosti s vyšetrovaním trestného činu.

Obzvlášť ho znepokojuje, že rozšírenie analytických kapacít Europolu by mohlo viesť k vytvoreniu prepojení alebo profilov medzi jednotlivcami a trestnou činnosťou bez dostatočne preukázaných dôvodov.

EDPS poukazuje na to, že čím viac automatizovaných analytických možností má Europol, tým väčšie je riziko prechodu z jedného zbierka na základe podozrenia k logika preventívneho hromadného zberu.

Požaduje prísnejšie záruky týkajúce sa nevyhnutnosť, primeranosť, trvanlivosť a kontrola, aby účinnosť boja proti trestnej činnosti nebola na úkor práva na súkromie a ochranu údajov.

Správy z členských krajín Európskej únie.

Reklama si teraz nachádza cestu aj do automobilov. Nemecký výrobca BMW spustil toto leto reklamnú kampaň na’hlavná obrazovka svojich najnovších modelov automobilov.

Keď vodiči naštartovali svoje autá, na obrazovke sa objavila propagačná animácia k pripravovanému filmu o Spider-Manovi. Reklama zaberala väčšinu obrazovky počas takmer 20 sekúnd A dočasne deaktivované určité funkcie ako napríklad navigácia, multimédiá a klimatizácia. 
Táto skúšobná verzia zahŕňa niekoľko nedávnych modelov a bola nasadená v viac ako 70 krajín.

A Rakúsky súd usúdil, že národný orgán na ochranu údajov (DPA) by mohol odmietnuť konať na základe sťažnosti týkajúca sa žiadosti o prístup, ktorú predložilo združenie v mene jednotlivca.

Súd poukazuje na to, ekonomický model združenia, a skutočnosť, že z priaznivých súdnych rozhodnutí získava finančný prospech, aj keď dotknutá osoba výslovne neprejavuje záujem o podanie predmetnej žiadosti: «všeobecná plná moc zameraná na automatické vyhľadávanie porušení ochrany údajov a získanie finančných výhod odôvodňuje odmietnutie spracovania sťažnosti podľa’Článok 57 ods. 4 GDPR a príslušnú judikatúru Súdneho dvora EÚ, Najvyššieho správneho súdu (VwGH) a Spolkového správneho súdu (BVwG).»  

THE 26. augusta, vláda Spojených štátov zaregistrovala Autisti/Vynaliezaví (A/I), taliansky kolektív asociatívneho ubytovania, na Zoznam organizácií a členov organizácií považovaných za teroristických.

Trumpova administratíva obviňuje skupinu z poskytnutia « materiálna podpora »antifašistickým a ľavicovým skupinám prostredníctvom svojich ubytovacích služieb.“.

Americké organizácie spojené s A/I musia ukončiť všetky vzťahy predtým, ako... 25. septembra, názov domény autistici.org bola pozastavená správcom domén .org z USA., zablokovanie prístupu k e-mailom a službám kolektívu pre svojich používateľov. 

Tam Nórsko má v úmysle prísne regulovať inteligentné okuliare.

THE 25. augusta, Ministerka zodpovedná za digitalizáciu uviedla, že chce, aby tieto okuliare podliehali prísnejším predpisom., zákaz najmä rozpoznávania tváre na verejných miestach.

Minister má v úmysle vymenovať skupina expertov úlohou bolo formulovať odporúčania týkajúce sa regulácie kamier a mikrofónov integrovaných do okuliarov, slúchadiel a podobných bežných zariadení.

Medzinárodne

O Spojené kráľovstvo, malá britská jednotka na výrobu elektriny bola štyri dni mimo prevádzky v júli po Kybernetický útok pripisovaný hackerom prepojeným s Iránom.

Incident, považovaný za prvý známy úspech iránskej skupiny proti britskej energetickej infraštruktúre, nespôsobila žiadne narušenie ani ohrozenie národnej siete, keďže lokalita nepredstavovala kritickú infraštruktúru.

Britská vláda napriek tomu posilnené opatrenia v oblasti kybernetickej bezpečnosti v energetickom sektore, Útok sa vníma ako varovanie pred rastúcou zraniteľnosťou národnej infraštruktúry.

Aj za kanálom La Manche, Britská dopravná polícia (BTP) rozšírená do August 2026 jeho experimentovanie s rozpoznávanie tváre v reálnom čase (LFR) na niektorých staniciach londýnskeho metra po prvom nasadení vo februári.

Technológia porovnáva tváre cestujúcich s zoznam hľadaných osôb, najmä v prípade závažných trestných činov, aby sa umožnil rýchly zásah polície.

Úrady tvrdia, že schéma je cielená, založená na spravodajských informáciách a že Obrázky ľudí, ktoré nezodpovedajú zoznamu, sa vymažú..

Test musí pokračovať až do November 2026. Skutočnosť, že tisíce cestujúcich boli takto skenované bez toho, aby boli podozriví z akéhokoľvek priestupku, znovu oživuje diskusiu o... proporcionalita a právny rámec pre biometrický dohľad v Spojenom kráľovstve.

O Brazília, APD spôsobila 25. augusta má ByteDance pokuta vo výške 153,7 milióna realov (25,4 milióna eur) na liečbu údaje o deťoch a tínedžeroch na TikToku, sprevádzané súdny príkaz na odstránenie údaje zhromažďované nepravidelne.

Rozhodnutie sa týka dvoch spôsobov prístupu, a to spravodajského kanála prístupného všetkým bez pripojenia a kanála prístupného prostredníctvom registrovaného účtu, ktorého spracovanie porušuje niekoľko zásad zákona o ochrane údajov.

V oboch prípadoch úrad zaznamenal absencia platného právneho základu a účinné ochranné opatrenia.

Tam Južná Kórea kopija "« UI pre všetkých »program zameraný na ponuku bezplatný a neobmedzený prístup ku generatívnym službám umelej inteligencie pre všetkých svojich občanov.

Cieľom je demokratizovať používanie umelej inteligencie a zároveň posilniť technologická suverenita krajiny v porovnaní s modelmi Spojených štátov a Číny.

Umelá inteligencia bude integrovaná do verejných služieb s cieľom uľahčiť lekárske, daňové, realitné alebo vzdelávacie postupy a tiež pomôcť malým podnikom.

Vláda plánuje rozpočet na umelú inteligenciu 7,2 miliardy dolárov v roku 2026, s celoštátnym zavedením plánovaným do konca roka.

A Hongkong, Národné centrum kybernetickej bezpečnosti zverejnilo pokyny pre agentickú umelú inteligenciu.

Dokument definuje päť kategórií rizika (rozšírený prístup, zraniteľnosti systému, zraniteľné pluginy alebo zručnosti, funkčný posun a riziká spojené s viacerými agentmi), vzorec deväť odporúčaní v súlade so zásadami ochrany údajov a navrhuje prílohu obsahujúcu bezpečnostný kontrolný zoznam zahŕňajúce hodnotenie, prípravu, nasadenie, používanie a odinštalovanie agentov umelej inteligencie.

Ďalej pripomína, že tá druhá nie sú právnickými osobami, a to organizácia zostáva zodpovedná za údaje.

Do SPOJENÉ ŠTÁTY, bezpečnostné kamery spoločnosti Bezpečnosť kŕdľa Tieto kamery sa množia, čo vyvoláva silné reakcie. automaticky čítať evidenčné čísla vozidiel s údajným cieľom boja proti zločinu.

Niekoľko miest a obyvateľov sa však obáva rizík pre súkromie, najmä možnosti, že k údajom by mohli mať prístup iné policajné zložky alebo používané v kontexte kontroly migrácie.

Výskumníci v oblasti kybernetickej bezpečnosti tiež odhalili zraniteľnosti potenciálne umožňujúce prístup k určitým obrázkom, To zvýšilo obavy o bezpečnosť údajov. Kvôli týmto kontroverziám niektoré obce ukončili svoje zmluvy alebo deaktivovali kamery.

Aj v Spojených štátoch, Meta uzavretý dohoda s justičným systémom o bezpečnosti tínedžerov.

Táto dohoda bola uzavretá s 51 generálnych prokurátorov ukončuje súdny spor, v ktorom ho obviňujú z návrhu Instagramu a Facebooku pre podporovať kompulzívne užívanie medzi mladými ľuďmi a minimalizovať súvisiace riziká.

Dohoda umožňuje až 17,1 miliardy dolárov vyplácané štátom počas desiatich rokov, ako aj nové pravidlá pre mladšie ako 18 rokov.

Opatrenia zahŕňajú denný limit spotreby, A nočná blokáda, zakázanie upozornení počas určitých období, odstránenie zobrazovania «páči sa mi to», zákaz filtrov pre kozmetickú chirurgiu a možnosť použitia nepersonalizovaný spravodajský kanál.

A overenie veku bude tiež musieť vylúčiť mladšie ako 13 rokov.

Dohoda nakoniec ustanovuje nezávislý audítor zodpovedný za monitorovanie jeho uplatňovania.

Obmedzenia by sa mohli sprísniť, ak by podobné pravidlá prijali aj iné významné platformy, čím by sa táto dohoda stala možný model pre celý sektor.

Na tú istú tému a stále v Spojených štátoch, TikTok a jej materská spoločnosť ByteDance súhlasil so zaplatením 400 miliónov dolárov ukončiť súdne konania týkajúce sa zhromažďovania a ochrany osobné údaje detí.

Ministerstvo spravodlivosti USA ich obvinilo najmä z toho, že dostatočne nezabránili mladšie ako 13 rokov používať platformu a zhromažďovať svoje údaje bez súhlasu rodičov.