Riconoscimento facciale, intelligenza artificiale ed etica: il dibattito si fa sempre più acceso

Legal Watch – ottobre 2019.

Pagare con il volto invece che con la carta di credito, usare le telecamere di Amazon per combattere la criminalità, come ha fatto la polizia di Orlando negli Stati Uniti, gestire gli spostamenti di atleti e giornalisti alle Olimpiadi di Tokyo usando il riconoscimento facciale o, più vicino a casa, testare il riconoscimento facciale sulle strade pubbliche, come a Nizza, sono tutti progetti che lasciano sognanti... o insonni.

Sia in Europa che nel resto del mondo, le prospettive aperte dagli sviluppi dell'intelligenza artificiale, in particolare con il riconoscimento facciale, l'elaborazione delle impronte vocali o il riconoscimento delle emozioni, suscitano sempre più reazioni.

In particolare, le questioni etiche sono ora in cima alle priorità della nuova presidente della Commissione europea, Ursula Von der Leyen.

Ha annunciato che intende presentare una proposta legislativa entro i primi 100 giorni del suo mandato, al fine di un approccio europeo coordinato alle implicazioni umane ed etiche dell'intelligenza artificiale.

Esaminerà inoltre i modi per promuovere l'innovazione utilizzando i big data.

Un gruppo di esperti istituito dalla Commissione europea ha gettato le basi per un'intelligenza artificiale "affidabile" nel rispetto dei diritti umani.

Nella pubblicazione delle linee guida nell’aprile 2019, sono state individuate tre caratteristiche: l’IA deve essere

1. Legale, garantendo il rispetto delle leggi e dei regolamenti applicabili;
2. Etica, garantendo l'aderenza ai principi e ai valori etici; e
3. Robusti, “sia tecnicamente che socialmente perché, anche con buone intenzioni, i sistemi di intelligenza artificiale possono causare danni involontari”.

L'etica, in relazione all'intelligenza artificiale, era già stata al centro dell'ultima conferenza internazionale dei Garanti della protezione dei dati e aveva dato luogo a una dichiarazione pubblica.

Vengono menzionati i vantaggi ma anche i rischi legati a queste nuove tecnologie, e in particolare i pregiudizi e le discriminazioni che possono derivarne.

Richiama alcuni principi essenziali volti a garantire la fiducia individuale promuovendo al contempo l'innovazione, tra cui il principio di lealtà e la trasparenza dei sistemi di intelligenza artificiale.

Infine, sostiene principi comuni di governance a livello internazionale.

Vale anche la pena di notare che l'11 settembre il Consiglio d'Europa ha creato un comitato ad hoc incaricato di analizzare le condizioni per un quadro giuridico per lo sviluppo, la progettazione e l'applicazione dell'intelligenza artificiale.

Infine, l'Agenzia dell'Unione europea per i diritti fondamentali ha affrontato la questione del riconoscimento facciale durante un seminario tenutosi il 19 e 20 settembre, con l'obiettivo di pubblicare un documento sull'argomento nel novembre 2019.

E oggi?

Sebbene sia ovviamente auspicabile un chiarimento degli aspetti etici, da un punto di vista strettamente giuridico il GDPR si applica pienamente ai sistemi di riconoscimento facciale o vocale, che costituiscono un trattamento di dati biometrici.

Tali dati sono pertanto tutelati in modo più rigoroso e, in linea di principio, richiedono il consenso degli interessati. Data la delicatezza del trattamento, è necessario effettuare anche una valutazione d'impatto. In tale contesto, occorre prestare particolare attenzione agli aspetti sopra menzionati e, in particolare, ai rischi di discriminazione, alle ragionevoli aspettative degli interessati e alla trasparenza del trattamento.

E inoltre:

• In Francia:

Ottobre è il mese della sicurezza informatica.

Una trentina di partner, tra cui ANSSI e CNIL, si impegnano a sensibilizzare professionisti e privati sulle problematiche della sicurezza e del digitale.

Dal 26 settembre, due organismi di certificazione sono stati approvati dalla CNIL.

• In Europa:

Diritto all'oblio e validità del consenso online: tre importanti sentenze della Corte di giustizia dell'Unione europea chiariscono il quadro giuridico.

Nella sentenza “Planet49” del 1° ottobre 2019, la Corte precisa che, per raccogliere legittimamente informazioni tramite cookie, non è sufficiente una casella preselezionata: l'installazione dei cookie richiede il consenso attivo e specifico degli utenti di Internet.

L'utente di Internet deve inoltre essere informato sulla durata di funzionamento dei cookie e se terzi possano o meno accedervi.

Questa sentenza corrobora le recenti comunicazioni delle autorità di controllo sulle condizioni di utilizzo dei cookie, tra cui quella della CNIL.

In la sentenza “Google” del 24 settembre, la Corte chiarisce che il diritto all'oblio non si applica sistematicamente ai motori di ricerca situati al di fuori dell'Unione europea.

Nell'UE, si applica, ad esempio, a google.fr e ad altre estensioni europee. Tuttavia, spetta anche al motore di ricerca attuare misure per scoraggiare gli utenti di Internet dall'accedere ai link in questione su versioni extra-UE di tale motore di ricerca da uno degli Stati membri.

La conclusione della sentenza è importante perché la Corte sancisce il potere discrezionale delle autorità di controllo: sebbene non sia obbligatorio dereferenziare un link al di fuori dell'UE, l'autorità conserva il potere di ordinare al motore di ricerca di dereferenziarlo nel suo complesso, dopo aver bilanciato i diritti della persona interessata e la libertà di informazione.

È questo stesso atto di bilanciamento che è al centro del secondo giudizio della 24 settembre : la Corte conferma in la sentenza GC ea contro CNIL che il principio di divieto di trattamento dei dati sensibili si applica anche ai motori di ricerca, ma occorre effettuare un'analisi caso per caso tra i diritti fondamentali del soggetto che richiede la deindicizzazione e quelli degli utenti di Internet potenzialmente interessati a tali informazioni.

Se il motore di ricerca non rimuove il riferimento, la Corte impone almeno per i dati giudiziari l'obbligo di presentare i risultati in un ordine che evidenzi le informazioni aggiornate.