Kunstmatige intelligentie in lijn met wetgeving en maatschappelijke vraagstukken.

Juridische Watch nr. 34 – april 2021

Kunstmatige intelligentie in lijn met wetgeving en maatschappelijke vraagstukkenKunstmatige intelligentie en veiligheid worden tegenwoordig in het politieke en juridische discours met elkaar verbonden. Maar In hoeverre kunnen – of moeten – de nieuwste technologische ontwikkelingen worden meegenomen in de aanpassing van ons regelgevingskader aan uitdagingen zoals terrorisme?

Er is veel controverse aan het begin van de lente, met de goedkeuring van de wet op wereldwijde surveillance en de nieuwe maatregelen in de wet tegen terrorisme.

De grenzen van wijdverbreide gegevensverzameling

In de huidige context merken we de invloed op van verschillende actoren, waaronder de Raad van State, verenigingen voor burgerlijke vrijheden en het Hof van Justitie van de Europese Unie.

Laatstgenoemde heeft op 6 oktober 2020 twee uitspraken gedaan die betrekking hebben op Frankrijk met betrekking tot zijn inlichtingenwet en zijn praktijken op het gebied van het bewaren van verbindingsgegevens.

Het Hof van Justitie heeft immers herinnerd aan de niet-naleving van fundamentele rechten bij de wijdverbreide en willekeurige verzameling van communicatiegegevens van operatorenHet Hof specificeert het uitzonderlijke karakter dat een dergelijke verzameling moet hebben, omwille van nationale veiligheidsdoeleinden en voor een strikt beperkte duur.

Op basis van deze uitspraken van verenigingen voerde de Raad van State in zijn arrest van 21 april een delicate verzoeningsoefening uit tussen het recht van de Europese Unie en de nationale doelstellingen op het gebied van de strijd tegen terrorisme en criminaliteit, waarbij de regering werd verzocht enkele aanpassingen door te voeren in haar beleid van veralgemeende bewaking (periodieke herziening van de dreiging die het verzamelen van gegevens rechtvaardigt, bindende en niet langer raadgevende werking van de adviezen van de Nationale Commissie voor de controle op inlichtingentechnieken – CNCTR).

Deze conclusies worden door de verenigingen scherp bekritiseerd. Zij benadrukken dat de vereiste aanpassingen onvoldoende zijn en dat de Raad van State het begrip "nationale veiligheid" zeer ruim uitlegt, ook buiten de strijd tegen terrorisme. Zo zou het bijvoorbeeld ook economische spionage, drugshandel of de organisatie van niet-aangekondigde demonstraties kunnen omvatten, wat in strijd is met het Europees recht.

La Quadrature du Net en andere verenigingen hebben op 29 april de kwestie van de rechtmatigheid van de wet op het wereldwijde toezicht eveneens voorgelegd aan de Constitutionele Raad, eveneens op basis van het onevenredige karakter van veel van de in de wet voorziene toezichtmaatregelen. 

De algoritmen van de antiterrorismewet

De discussies die zijn ontstaan naar aanleiding van het wetsvoorstel over het voorkomen van terroristische aanslagen en het doen van inlichtingenwerk, zijn gekoppeld aan dit debat en roepen opnieuw vragen op over de proportionaliteit van de beoogde maatregelen.

We doelen hierbij met name op twee aspecten van het wetsvoorstel. In een oorspronkelijk gepubliceerde versie beoogden die het gebruik van algoritmes te bestendigen, met name voor het monitoren van de verbindingen van internetgebruikers op basis van de bezochte websites, en voor het verzamelen van grootschalige satellietcommunicatiegegevens.

De op 28 april in de Nationale Vergadering gepubliceerde versie van het ontwerp bevat deze bepalingen niet meer. Deze bepalingen zouden moeten worden aangepast – om rekening te houden met de door de Raad van State gevraagde ‘aanpassingen’ – in een corrigerende brief die in de loop van de maand mei wordt verwacht.

Wij wijzen erop dat het advies van de CNIL van 8 april over dit project niet is gepubliceerd, noch dat van de Nationale Commissie voor de controle op inlichtingentechnieken.

Duidelijkere toekomstige regelgeving voor AI op Europees niveau?

Naast deze nationale ontwikkelingen, Op 21 april publiceerde de Europese Commissie een voorstel voor de regulering van kunstmatige intelligentie., die sommigen al te beperkend vinden, terwijl anderen de beperkingen ervan betreuren.

De Commissie is van plan het gebruik van AI te verbieden dat de waarden en mensenrechten van de EU schendt, met name "onaanvaardbare" vormen van gebruik die bedoeld zijn om gedrag te beïnvloeden of individuele kwetsbaarheden aan te pakken via voorspellende algoritmen.

Het voorstel verbiedt bijvoorbeeld 'social scoring'. Zoals in China, waar applicaties worden ontwikkeld waarmee de overheid de maatschappelijke kredietwaardigheid van elk individu kan beoordelen. Risicoanalyses (met name behandelingen die als "hoog risico" worden aangemerkt) zullen moeten worden uitgevoerd door projectontwikkelaars die AI gebruiken.

Schendingen van deze beginselen kunnen, net als in de AVG, leiden tot boetes die kunnen oplopen tot 4% van de omzet.

De beperkende maatregelen waarin het voorstel voorziet, zijn echter niet van toepassing op regeringen en overheidsinstanties in de Europese Unie die AI gebruiken om de openbare veiligheid te beschermen.

Sommigen, waaronder de Europese Toezichthouder voor gegevensbescherming, betreuren het ontbreken van een moratorium op actuele kwesties zoals het real-time gebruik van biometrische bewakingscamera's door de staat.

Hoewel het voorstel dit gebruik beperkt, blijft het mogelijk, met name in het kader van terroristische aanslagen of de opsporing van criminelen.

Anderen wijzen erop de verantwoordelijkheidslast die van de staat naar particuliere ontwikkelaars wordt overgedragendie een eigen analyse moeten uitvoeren van de naleving van de systemen die zij voorstellen, bijvoorbeeld op het gebied van voorspellend politiewerk, het gebruik van AI in asielprocedures of toezicht op werknemers.

Deze verschillende ontwikkelingen benadrukken de gevoeligheid van een debat waarin rekening moet worden gehouden met zowel kwesties van nationale veiligheid, die voorbehouden zijn aan staten, als aspecten van de economische orde en fundamentele rechten die voortvloeien uit een Europese rechtsorde die aan hen wordt opgelegd.

Het Europese voorstel voorziet in de oprichting van een Europees AI-comité, bestaande uit de verschillende EU-lidstaten, de Europese Commissie en de Europese Toezichthouder voor gegevensbescherming. Deze commissie zal verantwoordelijk zijn voor de besluitvorming over ongeoorloofde of risicovolle ontwikkelingen op het gebied van AI.

Het begin van een oplossing?

En ook

Frankrijk:

ANSSI zet haar werk voort om het bewustzijn van veiligheidsrisico's te vergroten, met een handleiding voor het beveiligen van websites.

De gids specificeert de parameters die moeten worden opgegeven bij het ontwikkelen en integreren van een website of webapplicatie om de veiligheid ervan te garanderen.

De CNIL publiceert een lijst met vragen en antwoorden over speekseltesten op scholen, gebruikt in de context van Covid-19-screening.

In zijn achtste Innovatie- en Toekomstnotitieboek ontwikkelt de CNIL de redenen die een individu ertoe aanzetten een klacht in te dienen wegens het niet respecteren van zijn rechtenZe noemt vier belangrijke redenen:

• “Wanneer de reputatie van individuen wordt bedreigd door informatie die online beschikbaar is (bijna een derde van de klachten);
• Wanneer zij het slachtoffer zijn van inbreuk op hun privésfeer door commerciële prospectie (circa 20% van de klachten);
• Bij toezicht op de werkplek (10 tot 15 %-klachten); en tenslotte
• Wanneer ze in nationale bestanden worden geregistreerd (bankongevallen, strafregisters).

Europa:

Europese Unie: Het project voor het gezondheidspaspoort is onderwerp van debat op Europees niveau.

Naar aanleiding van het gezamenlijke standpunt van het Comité en de Europese Toezichthouder voor gegevensbescherming is het nu de beurt aan het Europees Parlement om zich over deze kwestie te buigen.

Zo werd benadrukt,

• De noodzaak om ‘Privacy by design’ te integreren in het gegevensverwerkingssysteem,
• De garantie van de afwezigheid van een gecentraliseerde database,
• Een duidelijke identificatie van de verwerkingsverantwoordelijken,
• Informatie van de betrokken personen en
• Een beperkte bewaartermijn van gegevens.

Raad van Europa: Op 28 april heeft het Comité van Ministers een verklaring aangenomen over de bescherming van de privacy van kinderen in de digitale omgeving.

Deze verklaring is bedoeld om de bescherming van kinderen te versterken in een steeds groter deel van hun leven, of het nu op school is, met hun vrienden of in het kader van culturele of sportieve activiteiten, die momenteel een bijzondere impact hebben als gevolg van de Covid-19-pandemie (onlineactiviteiten die leiden tot grotere risico's, waaronder die van digitale uitsluiting).

Nederland : De rechtbank Limburg heeft overwogen dat meerdere toegangsprocedures die door een individu zijn gestart met het doel schadevergoeding te verkrijgen aan de verwerkingsverantwoordelijken die traag reageerden.

Altijd bij de Nederlandheeft de rechtbank Amsterdam Uber bevolen zes chauffeurs ontslagen op basis van geautomatiseerde beslissingenHet bedrijf moest per dag vertraging een dwangsom van € 5.000,- betalen en ruim € 100.000,- aan schadevergoeding.

Volgens informatie die medio april werd gepubliceerd, zou de exploitant Huawei zou toegang hebben gekregen tot het Nederlandse telecommunicatienetwerk KPN, waardoor hij toegang kreeg tot de communicatie van klanten, waaronder veel politieke besluitvormers van het land.

Spanje: Het Ministerie van Defensie is gewaarschuwd door de Autoriteit Persoonsgegevens.

De reden hiervoor is de opname door camera's die rond de kantoren van het ministerie zijn geïnstalleerd – zonder dat daarvoor een noodzaak is aangetoond – van afbeeldingen van parkeerplaatsen die behoren tot aangrenzende huizen (met dank aan de GDPRhub-wiki voor de inventarisatie van beslissingen). 

Duitsland : De toezichthoudende autoriteit van de staat Hamburg heeft op 13 april aangekondigd dat zij een administratieve procedure tegen Facebook met betrekking tot de beleidswijziging van WhatsApp betreffende het verzamelen van persoonsgegevens.

Er is twijfel over de geldigheid van de toestemming van de gebruikers. Daarom is het gerechtvaardigd dat de toezichthoudende autoriteit de gegevensverzameling gedurende drie maanden bevriest, terwijl het onderzoek loopt.

Internationaal :

VERENIGDE STATEN : Gezichtsherkenning ontwikkelt zich in bankendie slimme camera's gebruiken om hun klanten, werknemers en zelfs de 'daklozen' die zich in de buurt van de distributeurs bevinden, te identificeren. 

Hoewel het gebruik van kunstmatige intelligentie in het kader van videobewaking niet in alle Amerikaanse staten op dezelfde wijze is gereguleerd, blijft de FTC (Federal Trade Commission) bevoegd om de gebruiksvoorwaarden van deze technologie te controleren en het gebruik ervan voor discriminerende doeleinden te bestraffen.

Anne Christine Lacoste

Anne Christine Lacoste is partner bij Olivier Weber Avocat en is een advocaat gespecialiseerd in gegevensrecht. Zij was hoofd internationale betrekkingen bij de Europese Toezichthouder voor gegevensbescherming en werkte aan de implementatie van de AVG in de Europese Unie.