Gezichtsherkenning, kunstmatige intelligentie en ethiek: het debat wint aan momentum

Legal Watch – oktober 2019.

Betalen met je gezicht in plaats van met een creditcard, misdaadbestrijding met behulp van camera's van Amazon, zoals de politie in Orlando in de Verenigde Staten deed, het regelen van de bewegingen van atleten en journalisten tijdens de Olympische Spelen in Tokio met behulp van gezichtsherkenning, of dichter bij huis het testen van gezichtsherkenning op de openbare weg, zoals in Nice, zijn allemaal projecten waar je van gaat dromen... of die je aan slapeloosheid doen lijden.

Zowel in Europa als wereldwijd roepen de ontwikkelingen op het gebied van kunstmatige intelligentie, in het bijzonder gezichtsherkenning, de verwerking van stemgeluid of het herkennen van emoties, steeds meer reacties op.

Vooral ethische kwesties staan nu bovenaan de prioriteitenlijst van de nieuwe voorzitter van de Europese Commissie, Ursula Von der Leyen.

Zij kondigde aan dat zij binnen de eerste 100 dagen van haar mandaat een wetsvoorstel wil indienen met het oog op een gecoördineerde Europese aanpak van de menselijke en ethische implicaties van kunstmatige intelligentie.

Ook wordt onderzocht hoe innovatie met behulp van big data kan worden bevorderd.

Een door de Europese Commissie opgerichte groep deskundigen heeft met het oog op de eerbiediging van de mensenrechten de basis gelegd voor ‘betrouwbare’ kunstmatige intelligentie.

In de publicatie van de richtlijnen in april 2019 werden drie kenmerken geïdentificeerd: AI moet

1. Rechtmatig, zorgen voor naleving van de toepasselijke wet- en regelgeving;
2. Ethiek, door ervoor te zorgen dat ethische principes en waarden worden nageleefd; en
3. Robuust, “zowel technisch als sociaal, want zelfs met goede bedoelingen kunnen AI-systemen onbedoelde schade aanrichten.”

Ethiek in relatie tot kunstmatige intelligentie was reeds het thema van de laatste internationale conferentie van gegevensbeschermingscommissarissen en gaf aanleiding tot een openbare verklaring.

Hierbij worden de voordelen maar ook de risico's van deze nieuwe technologieën genoemd, en met name de vooroordelen en discriminatie die eruit kunnen voortvloeien.

Er worden diverse essentiële principes in genoemd die erop gericht zijn het vertrouwen van individuen te garanderen en tegelijkertijd innovatie te bevorderen. Hiertoe behoren onder meer het principe van loyaliteit en de transparantie van systemen voor kunstmatige intelligentie.

Ten slotte pleit het voor gemeenschappelijke beginselen van bestuur op internationaal niveau.

Het is ook de moeite waard om te vermelden dat de Raad van Europa op 11 september een ad-hoccommissie heeft opgericht die verantwoordelijk is voor het analyseren van de voorwaarden voor een juridisch kader voor de ontwikkeling, het ontwerp en de toepassing van kunstmatige intelligentie.

Tot slot heeft het Bureau van de Europese Unie voor de grondrechten tijdens een seminar op 19 en 20 september aandacht besteed aan het onderwerp gezichtsherkenning, met als doel in november 2019 een document over dit onderwerp te publiceren.

En vandaag?

Hoewel verduidelijking van de ethische aspecten uiteraard wenselijk is, is de AVG vanuit strikt juridisch oogpunt volledig van toepassing op gezichts- en stemherkenningssystemen, die een verwerking van biometrische gegevens vormen.

Deze gegevens worden daarom strenger beschermd en vereisen in principe de toestemming van de betrokkenen. Gezien de gevoeligheid van de verwerking moet ook een impactbeoordeling worden uitgevoerd. In dit verband moet bijzondere aandacht worden besteed aan de bovengenoemde aspecten, met name de risico's op discriminatie, de redelijke verwachtingen van de betrokkenen en de transparantie van de verwerking.

En ook:

• In Frankrijk:

Oktober is de maand van de cyberbeveiliging.

Een dertigtal partners, waaronder ANSSI en CNIL, zetten zich in om professionals en particulieren bewust te maken van veiligheid en digitale kwesties.

Sinds 26 september zijn twee certificerende instanties door de CNIL erkend.

• In Europa:

Recht om vergeten te worden en geldigheid van online toestemming: drie belangrijke uitspraken van het Hof van Justitie van de Europese Unie verduidelijken het wettelijk kader.

In het arrest “Planet49” van 1 oktober 2019Het Hof stelt dat voor het legaal verzamelen van informatie op basis van cookies een vooraf aangevinkt vakje niet voldoende is: voor het plaatsen van cookies is de actieve en specifieke toestemming van de internetgebruikers vereist.

De internetgebruiker moet eveneens worden geïnformeerd over de duur van de werking van de cookies en of derden er al dan niet toegang toe hebben.

Deze uitspraak ondersteunt recente mededelingen van toezichthoudende autoriteiten over de voorwaarden voor het gebruik van cookies, waaronder die van de CNIL.

In de uitspraak van 24 september over “Google”Het Hof verduidelijkt dat het recht om vergeten te worden niet systematisch van toepassing is op zoekmachines buiten de Europese Unie.

In de EU geldt dit bijvoorbeeld voor google.fr en andere Europese extensies. Het is echter ook aan de zoekmachine om maatregelen te treffen om internetgebruikers te ontmoedigen de betreffende links te raadplegen via niet-EU-versies van die zoekmachine vanuit een van de lidstaten.

Het einde van het arrest is belangrijk omdat het Hof de discretionaire bevoegdheid van toezichthoudende autoriteiten bevestigt: hoewel het niet verplicht is om een link buiten de EU te verwijderen, behoudt de autoriteit de bevoegdheid om de zoekmachine te gelasten de link in zijn geheel te verwijderen, na een afweging van de rechten van de betrokkene en de vrijheid van informatie.

Het is deze zelfde evenwichtsoefening die centraal staat in het tweede oordeel van de 24 september : het Hof bevestigt in het vonnis GC ea v/ CNIL dat het principiële verbod op de verwerking van gevoelige gegevens ook geldt voor zoekmachines, maar dat per geval een analyse moet worden gemaakt tussen de fundamentele rechten van degene die om verwijdering verzoekt en die van internetgebruikers die mogelijk geïnteresseerd zijn in deze informatie.

Indien de zoekmachine de verwijzing niet verwijdert, legt de rechtbank ten minste voor gerechtelijke gegevens de verplichting op om de resultaten bij wege van vermelding van de actuele informatie te presenteren.