Reconhecimento facial, inteligência artificial e ética: o debate ganha força

Legal Watch – Outubro de 2019.

Pagar com o rosto em vez de cartão de crédito, usar câmeras da Amazon para combater o crime, como fez a polícia de Orlando, nos Estados Unidos, gerenciar os movimentos de atletas e jornalistas nos Jogos Olímpicos de Tóquio usando reconhecimento facial ou, mais perto de casa, testar o reconhecimento facial em vias públicas, como em Nice, são todos projetos que deixam você sonhando... ou com insônia.

Seja na Europa ou em todo o mundo, as perspectivas reveladas pelos desenvolvimentos da inteligência artificial, combinadas em particular com o reconhecimento facial, o processamento de impressões vocais ou o reconhecimento de emoções, estão provocando cada vez mais reações.

Questões éticas, em particular, estão agora no topo das prioridades da nova presidente da Comissão Europeia, Ursula Von der Leyen.

Ela anunciou que pretende apresentar uma proposta legislativa nos primeiros 100 dias de seu mandato com vistas a uma abordagem europeia coordenada às implicações humanas e éticas da inteligência artificial.

Também examinará maneiras de promover a inovação usando big data.

Um grupo de especialistas criado pela Comissão Europeia, visando respeitar os direitos humanos, lançou as bases para uma inteligência artificial "confiável".

Na sua publicação de diretrizes em abril de 2019, identificou três características: a IA deve ser

1. Legal, garantindo a conformidade com as leis e regulamentos aplicáveis;
2. Ética, garantindo a adesão aos princípios e valores éticos; e
3. Robusto, “tanto técnica quanto socialmente porque, mesmo com boas intenções, os sistemas de IA podem causar danos não intencionais”.

A ética, em relação à inteligência artificial, já foi tema da última conferência internacional de Comissários de Proteção de Dados e deu origem a uma declaração pública.

Isso menciona as vantagens, mas também os riscos associados a essas novas tecnologias e, em particular, os preconceitos e a discriminação que podem resultar delas.

Ela relembra vários princípios essenciais que visam garantir a confiança individual e, ao mesmo tempo, promover a inovação, incluindo o princípio da lealdade e a transparência dos sistemas de inteligência artificial.

Por fim, defende princípios comuns de governança em nível internacional.

Vale destacar também que, em 11 de setembro, o Conselho da Europa criou um comitê ad hoc responsável por analisar as condições para um quadro jurídico para o desenvolvimento, o design e a aplicação da inteligência artificial.

Por fim, a Agência dos Direitos Fundamentais da União Europeia abordou a questão do reconhecimento facial durante um seminário nos dias 19 e 20 de setembro, com o objetivo de publicar um documento sobre o assunto em novembro de 2019.

E hoje?

Embora o esclarecimento dos aspectos éticos seja obviamente desejável, de um ponto de vista estritamente legal, o GDPR se aplica totalmente aos sistemas de reconhecimento facial ou de voz, que constituem o processamento de dados biométricos.

Esses dados são, portanto, protegidos de forma mais rigorosa e, em princípio, exigem o consentimento dos titulares dos dados. Dada a sensibilidade do tratamento, também deve ser realizada uma avaliação de impacto. Neste contexto, deve ser dada especial atenção aos aspetos acima mencionados, em particular aos riscos de discriminação, às expectativas razoáveis dos titulares dos dados e à transparência do tratamento.

E também:

• Na França:

Outubro é o mês da segurança cibernética.

Cerca de trinta parceiros, incluindo ANSSI e CNIL, estão comprometidos em conscientizar profissionais e indivíduos sobre questões de segurança e digitais.

Desde 26 de setembro, dois organismos de certificação foram aprovados pela CNIL.

• Na Europa:

Direito ao esquecimento e validade do consentimento online: Três decisões importantes do Tribunal de Justiça da União Europeia esclarecem o quadro jurídico.

No acórdão “Planet49” de 1 de outubro de 2019, o Tribunal especifica que, para recolher legalmente informações com base em cookies, não basta uma caixa pré-marcada: a colocação de cookies requer o consentimento ativo e específico dos utilizadores da Internet.

O internauta também deve ser informado sobre a duração do funcionamento dos cookies e se terceiros podem ou não acessá-los.

Este acórdão corrobora as comunicações recentes das autoridades de supervisão sobre as condições de utilização de cookies, incluindo a da CNIL.

Em a decisão “Google” de 24 de setembro, o Tribunal esclarece que o direito ao esquecimento não se aplica sistematicamente aos motores de busca fora da União Europeia.

Na UE, aplica-se, por exemplo, ao google.fr e a outras extensões europeias. No entanto, também cabe ao mecanismo de busca implementar medidas para desencorajar os internautas de acessar os links em questão em versões não pertencentes à UE desse mecanismo de busca de um dos Estados-Membros.

O final do julgamento é importante porque o Tribunal consagra o poder discricionário das autoridades de supervisão: embora não seja obrigatório desreferenciar um link fora da UE, a autoridade mantém o poder de ordenar que o mecanismo de busca o desreferencie em geral, após ponderar os direitos da pessoa em questão e a liberdade de informação.

É este mesmo acto de equilíbrio que está no cerne do segundo julgamento do 24 de setembro : o Tribunal confirma em o julgamento GC ea v/ CNIL que o princípio da proibição do tratamento de dados sensíveis também se aplica aos motores de busca, mas deve ser feita uma análise caso a caso entre os direitos fundamentais de quem solicita a desreferenciação e os dos utilizadores da Internet potencialmente interessados nestas informações.

Caso o mecanismo de busca não remova a referenciação, o Tribunal impõe, pelo menos para os dados judiciais, a obrigação de apresentar os resultados em uma ordem que destaque a informação atual.