Kasvojentunnistus, tekoäly ja etiikka: keskustelu vauhdittuu

Legal Watch – lokakuu 2019.

Kasvoilla maksaminen luottokortin sijaan, Amazonin kameroiden käyttö rikollisuuden torjunnassa, kuten Orlandon poliisi Yhdysvalloissa teki, urheilijoiden ja toimittajien liikkeiden hallinta Tokion olympialaisissa kasvojentunnistuksen avulla tai lähempänä kotia, kasvojentunnistuksen testaaminen julkisilla teillä, kuten Nizzassa, ovat kaikki projekteja, jotka saavat sinut unelmoimaan... tai kärsimään unettomuudesta.

Niin Euroopassa kuin laajemminkin maailmassa tekoälyn kehityksen paljastamat näkökulmat yhdistettynä erityisesti kasvojentunnistukseen, äänijälkien käsittelyyn tai tunteiden tunnistamiseen herättävät yhä enemmän reaktioita.

Erityisesti eettiset kysymykset ovat nyt Euroopan komission uuden puheenjohtajan Ursula von der Leyenin prioriteettien kärjessä.

Hän ilmoitti aikovansa esittää lainsäädäntöehdotuksen toimikautensa ensimmäisten 100 päivän aikana koordinoidusta eurooppalaisesta lähestymistavasta tekoälyn inhimillisiin ja eettisiin vaikutuksiin.

Se tutkii myös tapoja edistää innovaatioita massadatan avulla.

Euroopan komission asettama asiantuntijaryhmä on ihmisoikeuksien kunnioittamiseksi luonut perustan "luotettavalle" tekoälylle.

Huhtikuussa 2019 julkaisemissaan ohjeissa se tunnisti kolme ominaisuutta: Tekoälyn on oltava

1. Lainmukainen, varmistaen sovellettavien lakien ja määräysten noudattamisen;
2. Etiikka varmistamalla eettisten periaatteiden ja arvojen noudattamisen; ja
3. Kestävä, ”sekä teknisesti että sosiaalisesti, koska jopa hyvistä aikomuksista huolimatta tekoälyjärjestelmät voivat aiheuttaa tahatonta haittaa.”

Tekoälyyn liittyvä etiikka oli jo viimeisimmän tietosuojavaltuutettujen kansainvälisen konferenssin teemana ja johti julkiseen julistukseen.

Tässä mainitaan näihin uusiin teknologioihin liittyvät edut, mutta myös riskit, ja erityisesti niistä mahdollisesti johtuvat ennakkoluulot ja syrjintä.

Se palauttaa mieleen useita keskeisiä periaatteita, joilla pyritään takaamaan yksilöiden luottamus ja edistämään innovointia, mukaan lukien lojaalisuuden periaate ja tekoälyjärjestelmien läpinäkyvyys.

Lopuksi se puolustaa yhteisiä hallintoperiaatteita kansainvälisellä tasolla.

On myös syytä huomata, että Euroopan neuvosto perusti 11. syyskuuta tilapäisen komitean, jonka tehtävänä on analysoida tekoälyn kehittämistä, suunnittelua ja soveltamista koskevan oikeudellisen kehyksen edellytyksiä.

Lopuksi Euroopan unionin perusoikeusvirasto käsitteli kasvojentunnistusta 19. ja 20. syyskuuta pidetyssä seminaarissa tavoitteenaan julkaista aiheesta asiakirja marraskuussa 2019.

Ja tänään?

Vaikka eettisten näkökohtien selventäminen on tietenkin toivottavaa, puhtaasti oikeudellisesta näkökulmasta GDPR soveltuu täysin kasvojen- tai äänentunnistusjärjestelmiin, jotka ovat biometristen tietojen käsittelyä.

Näitä tietoja suojataan siksi tiukemmin ja ne edellyttävät periaatteessa rekisteröityjen suostumusta. Käsittelyn arkaluonteisuuden vuoksi on myös tehtävä vaikutustenarviointi. Tässä yhteydessä olisi kiinnitettävä erityistä huomiota edellä mainittuihin näkökohtiin ja erityisesti syrjintäriskeihin, rekisteröityjen kohtuullisiin odotuksiin ja käsittelyn läpinäkyvyyteen.

Ja myös:

• Ranskassa:

Lokakuu on kyberturvallisuuskuukausi.

Noin kolmekymmentä kumppania, mukaan lukien ANSSI ja CNIL, on sitoutunut lisäämään ammattilaisten ja yksityishenkilöiden tietoisuutta turvallisuus- ja digitaalisista kysymyksistä.

CNIL on hyväksynyt kaksi sertifiointilaitosta 26. syyskuuta lähtien.

• Euroopassa:

Oikeus tulla unohdetuksi ja verkkosuostumuksen pätevyys: Kolme tärkeää Euroopan unionin tuomioistuimen päätöstä selventävät oikeudellista kehystä.

1. lokakuuta 2019 annetussa ”Planet49”-tuomiossatuomioistuin täsmentää, että evästeiden avulla tapahtuvaan tietojen keräämiseen ei riitä pelkkä valmiiksi rastitettu ruutu: evästeiden sijoittaminen edellyttää internetin käyttäjien aktiivista ja nimenomaista suostumusta.

Internetin käyttäjälle on myös ilmoitettava evästeiden toiminta-ajasta ja siitä, voivatko kolmannet osapuolet käyttää niitä.

Tämä tuomio tukee valvontaviranomaisten, mukaan lukien CNIL:n, viimeaikaisia tiedonantoja evästeiden käyttöehdoista.

Sisään ”Googlen” päätös 24. syyskuutatuomioistuin selventää, että oikeus tulla unohdetuksi ei koske järjestelmällisesti Euroopan unionin ulkopuolisia hakukoneita.

EU:ssa se koskee esimerkiksi google.fr-verkkotunnusta ja muita eurooppalaisia verkkotunnuspäätteitä. Hakukoneen on kuitenkin myös toteutettava toimenpiteitä, joilla estetään internetin käyttäjiä käyttämästä kyseisiä linkkejä hakukoneen EU:n ulkopuolisilla versioilla jostakin jäsenvaltiosta.

Tuomion loppuosa on tärkeä, koska tuomioistuin vahvistaa valvontaviranomaisten harkintavallan: vaikka EU:n ulkopuolella olevan linkin poistaminen hakutuloksista ei ole pakollista, viranomaisella on edelleen valta määrätä hakukonetta poistamaan se kokonaisuudessaan punnittuaan ensin asianomaisen henkilön oikeuksia ja tiedonvälityksen vapautta.

Juuri tämä sama tasapainottelu on toisen tuomion ytimessä. 24. syyskuuta tuomioistuin vahvistaa tuomio GC ea v. CNIL että arkaluonteisten tietojen käsittelyn periaatekielto koskee myös hakukoneita, mutta hakutulosten luettelosta poistamista pyytävän henkilön perusoikeuksia ja näistä tiedoista mahdollisesti kiinnostuneiden internetin käyttäjien perusoikeuksia on analysoitava tapauskohtaisesti.

Jos hakukone ei poista viittausta, tuomioistuin asettaa ainakin oikeudellisille tiedoille velvollisuuden esittää tulokset määräyksellä, jossa korostetaan ajankohtaista tietoa.