Tekoäly lain ja yhteiskunnallisten kysymysten mukaisesti.

Oikeudellinen valvonta nro 34 – Huhtikuu 2021

Tekoäly lain ja yhteiskunnallisten kysymysten mukaisestiTekoäly ja turvallisuus yhdistetään nykyään poliittisessa ja oikeudellisessa keskustelussa. Kuinka pitkälle sääntelykehyksemme mukauttamisessa terrorismin kaltaisiin haasteisiin voidaan – tai pitäisi – ottaa huomioon uusimmat teknologiset kehitykset?

Kevään alussa on runsaasti kiistoja, kun globaali valvontalaki ja terrorismin vastaisen lain uudet toimenpiteet hyväksyttiin.

Laajan tiedonkeruun rajat

Nykytilanteessa panemme merkille useiden toimijoiden, kuten valtioneuvoston, vaikutuksen. kansalaisvapausjärjestöt ja Euroopan unionin tuomioistuin.

Jälkimmäinen antoi 6. lokakuuta 2020 kaksi tuomiota, jotka koskevat Ranskaa sen tiedustelulainsäädännön ja yhteystietojen säilyttämiskäytäntöjen osalta.

Yhteisöjen tuomioistuin on itse asiassa palauttanut mieleen, että operaattoreilta laajamittaisen ja valikoimattoman viestintätietojen keräämisen loukkaaminen perusoikeuksia vastaanTuomioistuin täsmentää, että tällaisen keräämisen on oltava poikkeuksellista, kansallisen turvallisuuden tavoitteiden mukaisesti ja tiukasti rajoitetun ajan.

Näiden yhdistysten päätösten perusteella valtioneuvosto toteutti 21. huhtikuuta antamassaan päätöksessä hienovaraisen sovittelun Euroopan unionin lainsäädännön ja terrorismin ja rikollisuuden torjunnan kansallisten tavoitteiden välillä pyytämällä hallitusta tekemään joitakin muutoksia yleiseen valvontapolitiikkaansa (tietojen keräämisen oikeuttavan uhan säännöllinen uudelleentarkastelu, tiedustelutekniikoiden valvontaa käsittelevän kansallisen komission – CNCTR:n lausuntojen sitova ja ei enää neuvoa-antava vaikutus).

Yhdistykset kritisoivat näitä johtopäätöksiä voimakkaasti ja korostavat vaadittujen mukautusten riittämättömyyttä sekä valtioneuvoston erittäin laajaa tulkintaa "kansallisen turvallisuuden" käsitteestä terrorismin vastaisen taistelun lisäksi, kattaen esimerkiksi talousvakoilun, huumekaupan tai ilmoittamattomien mielenosoitusten järjestämisen, mikä on vastoin eurooppalaista lainsäädäntöä.

Myös La Quadrature du Net ja muut yhdistykset saattoivat 29. huhtikuuta perustuslakineuvoston käsiteltäväksi globaalin valvontalain laillisuutta koskevan kysymyksen, myös siksi, että monet laissa säädetyistä valvontatoimenpiteistä ovat suhteettomia. 

Terrorismin vastaisen lain algoritmit

Terroritekojen ja tiedustelun estämisestä annetun lakiesityksen herättämät keskustelut ovat päällekkäisiä tämän keskustelun kanssa ja herättävät uudelleen kysymyksiä suunniteltujen toimenpiteiden oikeasuhteisuudesta.

Viittaamme erityisesti lakiesityksen kahteen osaan, jotka alkuperäisessä julkaistussa versiossa tähtäsivät algoritmien käytön jatkamiseen erityisesti internetin käyttäjien yhteyksien seuraamiseksi vierailtujen verkkosivustojen perusteella ja laajalle levinneen satelliittiviestintädatan keräämiseksi.

Kansalliskokouksessa 28. huhtikuuta julkaistussa luonnoksen versiossa ei enää ole näitä määräyksiä, jotka olisi mukautettava – valtioneuvoston pyytämien ”mukautusten” huomioon ottamiseksi – toukokuun aikana odotettavassa korjauskirjeessä.

Huomaa, että CNIL:n 8. huhtikuuta antamaa lausuntoa tästä hankkeesta ei ole julkaistu, eikä myöskään tiedustelutekniikoiden valvontakomission lausuntoa.

Selkeämpi tekoälyn sääntely tulevaisuudessa Euroopan tasolla?

Näiden kansallisten kehityskulkujen rinnalla Euroopan komissio julkaisi tekoälyn sääntelyä koskevan ehdotuksen 21. huhtikuuta., jota jotkut pitävät jo nyt liian rajoittavana, kun taas toiset paheksuvat sen rajoituksia.

Komissio aikoo kieltää tekoälyn käytön, joka loukkaa EU:n arvoja ja ihmisoikeuksia, erityisesti "hyväksymättömät" käyttötavat, joiden tarkoituksena on vaikuttaa käyttäytymiseen tai kohdistaa yksilöiden haavoittuvuuksiin ennakoivien algoritmien avulla.

Ehdotus esimerkiksi kieltää "sosiaalisen pisteytyksen". kuten Kiinassa on nähty sellaisten sovellusten kehittämisen myötä, joiden avulla valtio voi arvioida jokaisen yksilön sosiaalista luottokelpoisuutta. Tekoälyä käyttävien hankkeiden kehittäjien on suoritettava riskianalyysit (erityisesti "korkean riskin" hoidot).

Näiden periaatteiden rikkominen voi, kuten GDPR:ssä, johtaa sakkoihin, jotka ovat jopa 41 TP3T liikevaihdosta.

Ehdotuksessa säädetyt rajoittavat toimenpiteet eivät kuitenkaan koske Euroopan unionin hallituksia ja viranomaisia, jotka käyttävät tekoälyä yleisen turvallisuuden suojelemiseen.

Jotkut, mukaan lukien Euroopan tietosuojavaltuutettu, pahoittelevat sitä, ettei ajankohtaisiin kysymyksiin, kuten valtion biometristen valvontakameroiden reaaliaikaiseen käyttöön, ole asetettu moratoriota.

Vaikka ehdotus rajoittaa tällaista käyttöä, se on edelleen mahdollista, erityisesti terrori-iskujen tai rikollisten etsinnän yhteydessä.

Toiset huomauttavat vastuun siirtyminen valtiolta yksityisille rakennuttajille, joiden on tehtävä oma vaatimustenmukaisuusanalyysi ehdottamistaan järjestelmistä, esimerkiksi ennakoivan poliisitoiminnan, tekoälyn käytön turvapaikkamenettelyissä tai työntekijöiden valvonnan osalta.

Nämä erilaiset kehityskulut korostavat keskustelun arkaluonteisuutta, jossa on otettava huomioon sekä kansallisen turvallisuuden kysymykset, jotka ovat valtioiden yksinoikeus, että taloudellisen järjestyksen ja niille asetetun eurooppalaisen oikeusjärjestyksen määrittelemät perusoikeudet.

Eurooppalaisessa ehdotuksessa säädetään, että eurooppalaisen tekoälykomitean perustaminen joka koostuu EU:n eri jäsenvaltioista, Euroopan komissiosta ja Euroopan tietosuojavaltuutetusta. Tämä komitea vastaa tekoälyn luvattomista tai riskialttiista kehityshankkeista.

Ratkaisun alku?

Ja myös

Ranska:

ANSSI jatkaa työtään turvallisuusriskien tietoisuuden lisäämiseksi, mukaan lukien opas verkkosivustojen suojaamiseen.

Opas määrittelee parametrit, jotka on määriteltävä verkkosivustoa tai verkkosovellusta kehitettäessä ja integroitaessa sen turvallisuuden takaamiseksi.

CNIL julkaisee luettelon kysymyksistä ja vastauksista, jotka koskevat sylkikokeet kouluissa, käytetään Covid-19-seulonnan yhteydessä.

Kahdeksannessa innovaatio- ja ennakointivihkossaan CNIL kehittää syyt, jotka saavat yksilön tekemään valituksen oikeuksiensa loukkaamisestaHän mainitsee neljä pääasiallista syytä:

• ”Kun yksilöiden mainetta uhkaavat verkossa saatavilla olevat tiedot (lähes kolmannes valituksista);
• Kun heidän yksityisyyttään on loukattu kaupallisen etsinnän avulla (noin 20 % valituksista);
• Jos heidän työpaikallaan tapahtuu valvontaa (10–15 %-valitusta); ja lopuksi
• Kun ne rekisteröidään kansallisiin tiedostoihin (pankkionnettomuudet, rikosrekisterit).

Eurooppa:

Euroopan unioni: Terveyspassihanke on keskustelun kohteena Euroopan tasolla.

Komitean ja Euroopan tietosuojavaltuutetun yhteisen lausunnon jälkeen on nyt Euroopan parlamentin vuoro käsitellä asiaa.

Näin sitä korostettiin,

• Tarve integroida ”sisäänrakennettu yksityisyyden suoja” tietojenkäsittelyjärjestelmään,
• Keskitetyn tietokannan puuttumisen takuu,
• Rekisterinpitäjien selkeä tunnistaminen,
• Asianomaisten henkilöiden tiedot ja
• Rajoitettu tietojen säilytysaika.

Euroopan neuvosto: Ministerikomitea hyväksyi 28. huhtikuuta julistuksen lasten yksityisyyden suojasta digitaalisessa ympäristössä.

Tämän julistuksen tavoitteena on vahvistaa lasten suojelua yhä suuremmassa osassa heidän elämäänsä, olipa kyseessä sitten koulu, ystävien kanssa oleminen tai kulttuuri- tai urheilutoiminta, ja erityisesti Covid-19-pandemian aiheuttama nykyinen vaikutus (verkkotoiminta johtaa lisääntyneisiin riskeihin, mukaan lukien digitaalinen syrjäytyminen).

Alankomaat Limburgin käräjäoikeus käsitteli asiaa yksilön aloittamat useiden käyttöoikeuksien menettelyt vahingonkorvausten saamiseksi rekisterinpitäjille, jotka vastasivat hitaasti.

Aina paikalla AlankomaatAmsterdamin käräjäoikeus määräsi Uberin palauttamaan kuusi kuljettajia, jotka on erotettu automatisoitujen päätösten perusteellaYhtiö määrättiin maksamaan 5 000 euroa viivästysmaksuja jokaista viivästyspäivää kohden ja yli 100 000 euroa vahingonkorvauksia.

Huhtikuun puolivälissä julkaistujen tietojen mukaan operaattori Huawei väitetysti pääsi käsiksi hollantilaiseen KPN-televiestintäverkkoon, mikä mahdollisti pääsyn asiakkaiden, mukaan lukien monien maan poliittisten päätöksentekijöiden, viestintään.

Espanja: Tietosuojaviranomainen on varoittanut puolustusministeriötä.

Syynä tähän on ministeriön toimistojen ympärille asennettujen kameroiden tallenteet – ilman todistettua tarvetta – pysäköintipaikkojen kuvia naapuritalon omistuksessa (kiitos GDPRhub-wikille sen päätösluettelosta). 

Saksa: Hampurin osavaltion valvontaviranomainen ilmoitti 13. huhtikuuta käynnistävänsä hallinnollinen menettely Facebookia vastaan WhatsAppin käytäntömuutoksen johdosta henkilötietojen keräämistä koskien.

Käyttäjien suostumuksen pätevyyttä kyseenalaistetaan, mikä oikeuttaa valvontaviranomaisen kolmen kuukauden tiedonkeruun keskeytyksen tutkinnan ollessa kesken.

Kansainvälinen:

YHDYSVALLAT : Kasvojentunnistus kehittyy pankeissa, jotka käyttävät älykameroita asiakkaidensa, työntekijöidensä ja jopa jakelijoiden lähellä mahdollisesti olevien "kodittomien" tunnistamiseen. 

Vaikka tekoälyn käyttöä videovalvonnan yhteydessä ei ole säännelty samalla tavalla kaikissa Yhdysvaltain osavaltioissa, FTC:llä (Federal Trade Commission) on edelleen toimivalta tarkistaa tämän teknologian käyttöehdot ja määrätä seuraamuksia sen käytölle syrjiviin tarkoituksiin.

Anne Christine Lacoste

Olivier Weber Avocatin osakas Anne Christine Lacoste on tietosuojalainsäädäntöön erikoistunut lakimies. Hän toimi Euroopan tietosuojavaltuutetun kansainvälisten suhteiden päällikkönä ja työskenteli GDPR:n täytäntöönpanon parissa Euroopan unionissa.