Uber-pakote: Algoritminen hallinta lain koetuksella.

Missä määrin yritys voi delegoida koneelle vallan rekrytoida, arvioida, maksaa, rangaista tai erottaa työntekijää? Alankomaiden tietosuojaviranomaisen äskettäin kyytipalvelu Uberille määräämä pakote tarjoaa meille lähtökohdan vastauksen löytämiseksi.

Viranomainen määräsi 824 990 000 euron sakon 21. elokuuta. yritykselle yhteistyössä tutkintamenettelyn aloittaneen CNIL:n kanssa. 
Uber käytti ohjelmistoa kuljettajien käyttäytymisen seurantaan ja asiakasarvostelujen analysointiin, ja vuosina 2018–2022 se deaktivoi automaattisesti tiettyjä kuljettajia epäiltyjen petosten tai riittämättömien arvostelujen tapauksissa.

Viranomaiset tuomitsivat yrityksen siitä, että automatisoitu päätöksenteko ilman ihmisen valvontaa.

Tämä päätös havainnollistaa, miten kahden tietosuojaviranomaisen välinen eurooppalainen yhteistyö toimii, ja antaa meille mahdollisuuden tarkastella algoritmisen hallinnan kehitystä ammatillisessa kontekstissa ja sen oikeudellista kehystä.

Tässä nimenomaisessa tapauksessa CNIL ja Alankomaiden viranomainen olivat tehneet yhteistyötä vuodesta 2020 lähtien, jolloin CNIL sai kollektiivisen valituksen La Ligue des droits de l'Homme -yhdistykseltä, joka edustaa yli 170:tä UBER-alustan kuljettajaa. 

Yrityksellä on pääkonttori San Franciscossa (Uber technologies inc.) ja Euroopan pääkonttori Amsterdamissa (Uber BV), minkä vuoksi Alankomaiden viranomainen suoritti tutkimukset ja otti kantaa analysoituaan ensin Ranskan kanssa saatuja todisteita ja tutkittuaan yhdessä lopullisen päätöksen luonnosta. 

Tämä on Alankomaiden kolmas päätös tapauksessa, jossa yritys on jo tuomittu kuljettajien tiedottamatta jättämisestä ja tietojen laittomasta siirtämisestä Yhdysvaltoihin. 

Se palauttaa pääasiassa mieleen algoritmisen hallinnan säännöt ja korostaa, että ihmisen suorittama tarkistus on välttämätöntä ennen kuin algoritmin perusteella tehdään päätöksiä.

Se antaa meille myös mahdollisuuden muistuttaa, että tämän välttämättömän ihmisen puuttumisen ja työntekijöiden tiedottamisvelvollisuuden lisäksi algoritminen hallinta on useimmiten osa asiayhteyttä, johon kuuluu sekä "sisäänrakennetun yksityisyyden suojan" periaatteen huomioon ottaminen että työnantajan etukäteen tekemä tietosuojaa koskeva vaikutustenarviointi. 

Ennen uusien valvonta- tai hallintateknologioiden käyttöönottoa työpaikalla, olipa kyse sitten rekrytoinnista, henkilöstöhallinnosta, työntekijöiden tehokkuuden mittaamisesta tai tehtävien jakamisesta, työnantajien on otettava käyttöön tekniset ja organisatoriset suojatoimenpiteet alusta alkaen. 

Näiden toimenpiteiden on oltava räätälöityjä kyseessä olevien riskien mukaan, ja niihin voi sisältyä erityisesti käsittele vähemmän dataa, turvautua pseudonymisointi ja rajoittaa pääsyä.

Yhteenvetona, Yksityisyyden suoja ei voi olla toissijainen näkökohta. Se on integroitava alusta alkaen työpaikalla käytettävien teknologioiden suunnitteluun.

Toisaalta, algoritminen hallinta pidetään useimmissa tapauksissa hoitona «"Suuri riski"» vaatien vaikutusanalyysi koska ne täyttävät useita luettelossa lueteltuja kriteerejä GDPR Tällaiset työkalut sisältävät yleensä uusia teknologisia ratkaisuja, automatisoitua päätöksentekoa, valvontaa, tietojoukkojen yhdistämistä, ja työntekijät ovat riippuvaisia työnantajastaan.

Tämän tavoite AIPD tulee olemaan’tunnistaa, arvioida ja lieventää riskejä tämän uuden teknologian käyttöönottoon liittyen ottaen huomioon sen vaikutukset työntekijöihin ja heidän näkökulmansa.

Näitä GDPR:n keskeisiä periaatteita täydennetään pian muilla suojatoimenpiteillä.

Jos Tekoälyasetus on jo tullut voimaan; tiettyjä korkean riskin tekoälyjärjestelmiin liittyviä säännöksiä sovelletaan Joulukuu 2027. 
L'9 artikla jaLiite III määräykset edellyttävät työnantajilta, että he panevat täytäntöön riskienhallintajärjestelmä kun he käyttävät tekoälyä tiettyihin työsuhteisiin ja henkilöstöhallintoon liittyviin tehtäviin, esimerkiksi kohdennettujen työpaikkailmoitusten julkaisemiseen, hakemusten analysointiin ja suodattamiseen tai ehdokkaiden arviointiin.

Tietyissä erityistapauksissa, joissa riskit ovat erityisen suuria, perusoikeuksiin kohdistuvien vaikutusten arviointi on myös suoritettava rinnakkain AIPD:n kanssa.

Lisäksi uudet eurooppalaiset säännöt, jotka koskevat työskentely alustoilla tulee voimaan päivänä 2. joulukuuta seuraava.

Näiden tarkoituksena on säännellä algoritmien käyttöä henkilöstöhallinnossa digitaalisilla työympäristöillä.

Työnantajien on siis tiedottaa työntekijöille tekoälyn käytöstä, ja näitä järjestelmiä on valvottava pätevä henkilöstö, ja he hyötyvät erityisestä suojasta kaikkea epäsuotuisaa kohtelua vastaan.

A ihmisen valvonta Se on taattava myös tärkeiden päätösten, kuten tilien sulkemisen, yhteydessä.

Tässä jatkuvasti muuttuvassa ympäristössä, Hollannin pakote Tämä on erittäin hyödyllinen muistutus, varsinkin kun se näyttää olevan vasta alkua.

Useiden Euroopan maiden kuljettajat ovat palkanneet syyskuussa ryhmäkanne Amsterdamissa Uberia vastaan, tällä kertaa kyseenalaistaen algoritmin käytön palkkioissa ja kyytien jakamisessa.

Ranskassa

Vain muutama viikko sen jälkeen, kun parlamentti hyväksyi’sosiaalisen median käyttökielto alle 15-vuotiaille, laki oli perustuslakineuvoston estämä.

Hän arvioi, että 14. elokuuta lopuksi, tämä kielto« loukkaisi alaikäisten sananvapautta ja kommunikaatiovapautta ja sitä lisäksi tahraisi liiallinen pätevyys.".

Perustuslakineuvosto toteaa lisäksi, että tällä kiellolla olisi se seuraus, että se pakottaisi kaikkien käyttäjien, myös aikuisten, on todistettava ikänsä ennen tiettyjen verkkopalveluiden käyttöä.

Laissa ei kuitenkaan määritelty tämän tarkastuksen menettelyjä tai rajoja: lainsäätäjä ei siksi säätänyt riittävät takuut suojellakseen oikeutta yksityiselämän kunnioittamiseen, joka on taattu’Vuoden 1789 julistuksen 2 artikla.

Neuvosto ei kyseenalaista alaikäisten suojelun tavoitetta, mutta edellyttää, että iänvarmistusjärjestelmät sovittavat tämän tavoitteen yhteen kaikkien käyttäjien tietojen ja yksityisyyden suojan kanssa.

Hallitus ei ole luopunut hankkeesta, ja pääministerin tehtävänä on "laatia mahdollisimman nopeasti oikeudellisesti pätevä lakiesitys". Lain oli alun perin määrä tulla voimaan ... 1. tammikuuta 2027. Hallitus pyrkii nyt siihen, että Kevät 2027.

Siellä DGFiP vahvistettu 14. elokuuta että pahantahtoiset toimijat olivat saaneet laittoman pääsyn sen tietojärjestelmään ja pystyneet tarkastelemaan ja poimimaan sieltä tietoja 678 000 yksityishenkilöä ja ammattilaista.

Nämä huolenaiheet verotiedot (viitetulo, perheosuus, ennakonpidätysprosentti, SIREN-numero ja yrityksen nimi) ja kiinteistörekisteritiedot (kiinteistöjen osoitteet ja pinta-alat).

Tunkeutuminen havaittiin aluksi ja estettiin. kesäkuun lopussa, paljastui hyökkääjien julkisen vastuunoton jälkeen elokuun puolivälissä.

Asianomaisille henkilöille ilmoitettiin henkilökohtaisesti ja Tietomurrosta on ilmoitettu CNIL:lle..

Tunkeutumisen väitettiin mahdollistuneen, koska agentin valtakirjojen vaarantaminen, yhdistettynä riittämättömästi suojattuun ulkoiseen pääsyyn.

L'kaksivaiheisen todennuksen puuttuminen Agenttien laajamittainen saatavuus on jälkikäteen havaittu heikkous: Bercy ilmoitti nopeutetusta käyttöönotosta hyökkäyksen jälkeen.

Huomaa, että Ranska on tuotu tuomioistuimen eteen Euroopan unionin tuomioistuin Sillä laiminlyönti saattaa EU-direktiivi NIS2 osaksi kansallista lainsäädäntöä (Verkko- ja tietoturva). Osaksi kansallista lainsäädäntöä olisi pitänyt tehdä viimeistään ... Lokakuu 2024.

Siellä CNIL julkaisi 10. elokuuta muistutus toimenpiteistä, joilla varmistetaan’tietosuojavastaavan riippumattomuus.

Julkaisun tarkoituksena on auttaa yrityksiä tunnistamaan ja hallitsemaan eturistiriitojen riskit liittyvät tähän toimintoon. Siinä luetellaan riskialttiit toiminnot ja ehdotetaan tapoja eturistiriitojen ratkaisemiseksi.

Euroopassa

Euroopan unionin toimielimet ja elimet

Siellä Euroopan komissio nimetty 31. elokuuta ChatGPT, Reddit ja Roblox olevan vastaavasti a erittäin suuri online-hakukone ja kaksi erittäin suuria verkkoalustoja.

Kuten kaikki tietävät, ChatGPT on tekoälyjärjestelmä, joka pystyy olemaan vuorovaikutuksessa käyttäjien kanssa ja vastaamaan heidän pyyntöihinsä ja tiedusteluihinsa, erityisesti tekemällä verkkohakuja, mikä komission mukaan tekee siitä hybridipalvelu kuuluvat soveltamisalaan Digitaalisten palveluiden laki (DSA).

Reddit on alusta, jonka avulla käyttäjät voivat luoda, jakaa, katsella ja olla vuorovaikutuksessa sisällön kanssa teemojen mukaan järjestetyissä yhteisöissä.

Roblox on mukaansatempaava peli- ja luomisalusta, jonka avulla käyttäjät voivat luoda, julkaista ja pelata muiden käyttäjien kehittämiä pelejä.

Nämä nimitykset antavat komissiolle erityiset tutkintavaltuudet ja tarvitsevat näitä palveluita täältä joulukuun 2026 loppuun mennessä, noudattaakseen DSA:ssa asetettuja lisävelvoitteita, erityisesti siltä osin kuin on kyse’systeemisten riskien arviointi ja lieventäminen jotka johtuvat heidän algoritmisista järjestelmistään.

Erään mielipiteen mukaan 11. elokuuta viimeksi, Euroopan tietosuojavaltuutettu (EDPS) on huolissaan uudistuksesta, joka mahdollistaisi Europol käsitellä ja tallentaa tietoja laajemmin ihmiset, joilla ei ole todettua yhteyttä rikostutkintaan.

Hän on erityisen huolissaan siitä, että Europolin analyyttisten valmiuksien laajentaminen voisi johtaa yksilöiden ja rikollisen toiminnan välisten yhteyksien tai profiilien luomiseen ilman riittäviä perusteita.

Euroopan tietosuojavaltuutettu huomauttaa, että mitä enemmän Europolilla on automatisoituja analyysivalmiuksia, sitä suurempi on riski siirtyä yhdestä epäilyyn perustuva keräys johonkin ennaltaehkäisevän massakeräyksen logiikka.

Hän vaatii tiukempia takuita mm. tarpeellisuus, suhteellisuus, säilyvyysaika ja valvonta, jotta rikollisuuden torjunnan tehokkuus ei tapahdu yksityisyyden ja tietosuojan kustannuksella.

Uutisia Euroopan unionin jäsenmaista.

Mainonta tekee nyt tuloaan autoihin. Saksalainen valmistaja BMW käynnisti mainoskampanjan tänä kesänä’päänäyttö sen uusimmista automalleista.

Kun kuljettajat käynnistivät autonsa, ruudulle ilmestyi tulevan Hämähäkkimies-elokuvan mainosanimaatio. Mainos täytti suurimman osan ruudusta lähes 20 sekuntia Ja poisti tiettyjä toimintoja tilapäisesti käytöstä kuten navigointi, multimedia ja ilmastointi. 
Tämä kokeilu kattaa useita viimeaikaisia malleja ja sitä on käytetty mm. yli 70 maassa.

A Itävallan tuomioistuin katsoi, että kansallinen tietosuojaviranomainen voisi kieltäytyä käsittelemästä valitusta yhdistyksen yksityishenkilön puolesta tekemää tiedonsaantipyyntöä koskien.

Oikeus viittaa siihen, yhdistyksen taloudellinen malli, ja se, että se saa taloudellista hyötyä suotuisista tuomioistuimen päätöksistä, vaikka asianomainen henkilö ei nimenomaisesti ilmaise kiinnostustaan kyseisen hakemuksen tekemiseen: "yleinen valtakirja, jonka tarkoituksena on automaattisesti etsiä tietosuojaloukkauksia ja saada taloudellista hyötyä, oikeuttaa valituksen käsittelystä kieltäytymisen"«GDPR:n 57(4) artikla ja Euroopan unionin tuomioistuimen, korkeimman hallinto-oikeuden (VwGH) ja liittovaltion hallinto-oikeuden (BVwG) asiaankuuluva oikeuskäytäntö.»  

THE 26. elokuuta, Yhdysvaltain hallitus on rekisteröinyt Autistit/Keksintöhenkilöt (A/I), italialainen assosiatiivisen akkommodaation kollektiivi, Luettelo terroristijärjestöiksi katsottavista järjestöistä ja niiden jäsenistä.

Trumpin hallinto syyttää ryhmää siitä, että se on tarjonnut "« aineellinen tuki »"antifasistisille ja vasemmistolaisille ryhmille majoituspalveluidensa kautta.".

A/I:hin kytköksissä olevien amerikkalaisten organisaatioiden on lopetettava kaikki suhteet ennen 25. syyskuuta, verkkotunnus autistici.org Yhdysvaltain .org-verkkotunnusten ylläpitäjä jäädytti sen., katkaisemalla pääsyn kollektiivin sähköposteihin ja palveluihin käyttäjilleen. 

Siellä Norja aikoo säännellä tiukasti älylasit.

THE 25. elokuuta, Digitalisaatiosta vastaava ministeri ilmoitti haluavansa, että näihin laseihin sovellettaisiin tiukempia määräyksiä., kieltää erityisesti kasvojentunnistuksen julkisilla paikoilla.

Ministeri aikoo nimittää asiantuntijaryhmä jonka tehtävänä on laatia suosituksia laseihin, kuulokkeisiin ja vastaaviin arkipäivän laitteisiin integroitujen kameroiden ja mikrofonien sääntelystä.

Kansainvälisesti

Klo Yhdistynyt kuningaskunta, pieni brittiläinen sähköntuotantoyksikkö oli pois käytöstä neljä päivää heinäkuussa erään Iraniin kytköksissä olevien hakkereiden tekemiä kyberhyökkäyksiä.

Tapahtumaa pidetään Iranilaisen ryhmän ensimmäinen tunnettu menestys brittiläistä energiainfrastruktuuria vastaan, ei aiheuttanut häiriöitä tai uhkaa kansalliselle verkolle, koska kohde ei ollut kriittistä infrastruktuuria.

Britannian hallitus on kuitenkin vahvistetut kyberturvallisuustoimenpiteet energia-alalla, Hyökkäystä pidetään varoituksena kansallisen infrastruktuurin kasvavasta haavoittuvuudesta.

Myös kanaalin toisella puolella, Britannian liikennepoliisi (BTP) laajennettu Elokuu 2026 hänen kokeilunsa reaaliaikainen kasvojentunnistus (LFR) tietyillä Lontoon metron asemilla helmikuussa tapahtuneen alustavan käyttöönoton jälkeen.

Teknologia vertaa matkustajien kasvoja etsintäkuulutettujen luettelo, erityisesti vakavien rikosten kohdalla, jotta poliisi voi puuttua asiaan nopeasti.

Viranomaisten mukaan suunnitelma on kohdennettu, tiedustelutietoihin perustuva ja että Listaa vastaamattomien henkilöiden kuvat poistetaan..

Testin on jatkuttava, kunnes Marraskuu 2026. Se, että tuhansia matkustajia skannattiin tällä tavalla ilman epäiltyjä väärinkäytöksiä, sytyttää uudelleen keskustelun suhteellisuusperiaate ja biometrisen valvonnan oikeudellinen kehys Yhdistyneessä kuningaskunnassa.

Klo Brasilia, APD aiheutti 25. elokuuta on ByteDance sakko 153,7 miljoonaa realia (25,4 miljoonaa euroa) hoitoon TikTokissa olevien lasten ja nuorten tiedot, mukanaan poistokielto epäsäännöllisesti kerättyjä tietoja.

Päätös koskee kahta käyttötapaa: kaikkien ilman internetyhteyttä saatavilla olevaa uutisvirtaa ja rekisteröidyn tilin kautta saatavilla olevaa järjestelmää, joiden käsittely rikkoo useita tietosuojalainsäädännön periaatteita.

Molemmissa tapauksissa viranomainen totesi, että pätevän oikeusperustan puuttuminen ja tehokkaita suojatoimenpiteitä.

Siellä Etelä-Korea keihäs "« Tekoäly kaikille »ohjelma, jonka tarkoituksena on tarjota ilmainen ja rajoittamaton pääsy generatiivisiin tekoälypalveluihin kaikille kansalaisilleen.

Tavoitteena on demokratisoida tekoälyn käyttöä ja samalla vahvistaa teknologinen suvereniteetti maan verrattuna Yhdysvaltojen ja Kiinan malleihin.

Tekoäly integroidaan julkisiin palveluihin helpottamaan lääketieteellisiä, vero-, kiinteistö- tai koulutusmenettelyjä ja auttamaan myös pienyrityksiä.

Hallitus suunnittelee tekoälybudjettia, jonka suuruus on 7,2 miljardia dollaria vuonna 2026, ja valtakunnallinen käyttöönotto on suunniteltu vuoden loppuun mennessä.

A Hongkong, Kansallinen kyberturvallisuuskeskus on julkaissut agenttisen tekoälyn ohjeet.

Asiakirja määrittelee viisi riskiluokkaa (laajennettu käyttöoikeus, järjestelmän haavoittuvuudet, haavoittuvat laajennukset tai taidot, toiminnallinen ajautuminen ja useisiin agentteihin liittyvät riskit), kaava yhdeksän suositusta tietosuojaperiaatteiden mukainen ja ehdottaa liitettä, joka sisältää turvallisuustarkistuslista kattaa tekoälyagenttien arvioinnin, valmistelun, käyttöönoton, käytön ja asennuksen poistamisen.

Hän muistuttaa edelleen, että jälkimmäinen eivät ole oikeushenkilöitä, ja että organisaatio pysyy vastuussa tiedoista.

Kohti YHDYSVALLAT, yrityksen valvontakamerat Parven turvallisuus Näiden kameroiden määrä lisääntyy, mutta se aiheuttaa voimakkaita reaktioita. lukee rekisterikilvet automaattisesti väitetyllä rikollisuuden torjuntatavoitteella.

Useat kaupungit ja asukkaat ovat kuitenkin huolissaan yksityisyyden suojaan kohdistuvista riskeistä, erityisesti mahdollisuudesta, että muut poliisipalvelut tai tahot voisivat päästä käsiksi tietoihin. käytetään muuttoliikkeen valvonnan yhteydessä.

Kyberturvallisuustutkijat ovat myös paljastaneet haavoittuvuuksia, jotka mahdollisesti mahdollistavat pääsyn tiettyihin kuviin, Tämä on lisännyt huolta tietoturvasta. Näiden kiistojen vuoksi jotkut kunnat ovat irtisanoneet sopimuksensa tai poistaneet kamerat käytöstä.

Myös Yhdysvalloissa, Meta päätteli sopimus oikeusjärjestelmän kanssa teini-ikäisten turvallisuudesta.

Tämä sopimus tehtiin 51 oikeusministeriä lopettaa oikeusjutun, jossa häntä syytetään Instagramin ja Facebookin suunnittelusta kannustaa nuorten pakonomaiseen käyttöön ja minimoimaan siihen liittyvät riskit.

Sopimus mahdollistaa jopa 17,1 miljardia dollaria maksetaan valtioille kymmenen vuoden aikana, sekä uudet säännöt alle 18-vuotias.

Toimenpiteisiin kuuluu päivittäinen käyttöraja, A yöllinen saarto, ilmoitusten poistaminen käytöstä tiettyinä aikoina, tykkäysten näytön poistaminen«, kosmeettisten kirurgisten suodattimien kielto ja mahdollisuus käyttää personoimaton uutisvirta.

A iän vahvistus joutuu myös sulkemaan pois alle 13-vuotiaille.

Sopimus määrää lopulta, että riippumaton tilintarkastaja vastuussa sen soveltamisen valvonnasta.

Rajoituksia voitaisiin tiukentaa, jos muut suuret alustat ottavat käyttöön samanlaisia sääntöjä, mikä tekisi tästä sopimuksesta mahdollinen malli koko toimialalle.

Samasta aiheesta, ja edelleen Yhdysvalloissa, TikTok ja sen emoyhtiö ByteDance suostui maksamaan 400 miljoonaa dollaria lopettaa oikeudenkäynnit, jotka koskevat tietojen keräämistä ja suojaamista lasten henkilötiedot.

Yhdysvaltain oikeusministeriö syytti heitä erityisesti siitä, etteivät he olleet riittävästi estäneet alle 13-vuotiaille käyttää alustaa ja kerätä tietojaan ilman vanhempien suostumusta.