Reconocimiento facial, inteligencia artificial y ética: el debate cobra fuerza

Legal Watch – Octubre de 2019.

Pagar con la cara en lugar de con tarjeta de crédito, utilizar cámaras de Amazon para combatir el crimen, como hizo la policía de Orlando en Estados Unidos, gestionar los movimientos de atletas y periodistas en los Juegos Olímpicos de Tokio mediante reconocimiento facial o, más cerca de casa, probar el reconocimiento facial en la vía pública, como en Niza, son proyectos que dejan soñando... o insomnes.

Ya sea en Europa o en todo el mundo, las perspectivas que revelan los avances en inteligencia artificial, en combinación especialmente con el reconocimiento facial, el procesamiento de huellas de voz o el reconocimiento de emociones, provocan cada vez más reacciones.

Las cuestiones éticas, en particular, están ahora entre las principales prioridades de la nueva presidenta de la Comisión Europea, Ursula von der Leyen.

Anunció que tiene la intención de presentar una propuesta legislativa dentro de los primeros 100 días de su mandato con vistas a un enfoque europeo coordinado sobre las implicaciones humanas y éticas de la inteligencia artificial.

También examinará formas de fomentar la innovación utilizando big data.

Un grupo de expertos creado por la Comisión Europea ha sentado las bases de una inteligencia artificial "fiable" con vistas al respeto de los derechos humanos.

En su publicación de directrices en abril de 2019, identificó tres características: La IA debe ser

1. Legal, garantizando el cumplimiento de las leyes y regulaciones aplicables;
2. Ética, garantizando la adhesión a los principios y valores éticos; y
3. Robusto, “tanto técnica como socialmente porque, incluso con buenas intenciones, los sistemas de IA pueden causar daños no deseados”.

La ética en relación con la inteligencia artificial ya fue tema de la última conferencia internacional de Comisarios de Protección de Datos y dio lugar a una declaración pública.

Se mencionan las ventajas pero también los riesgos vinculados a estas nuevas tecnologías, y en particular los prejuicios y la discriminación que pueden resultar de ellas.

Recuerda varios principios esenciales destinados a garantizar la confianza individual y promover la innovación, incluido el principio de lealtad y la transparencia de los sistemas de inteligencia artificial.

Por último, aboga por principios comunes de gobernanza a nivel internacional.

También cabe destacar que el 11 de septiembre el Consejo de Europa creó un comité ad hoc encargado de analizar las condiciones de un marco jurídico para el desarrollo, diseño y aplicación de la inteligencia artificial.

Por último, la Agencia de los Derechos Fundamentales de la Unión Europea abordó la cuestión del reconocimiento facial durante un seminario celebrado los días 19 y 20 de septiembre, con el objetivo de publicar un documento sobre el tema en noviembre de 2019.

¿Y hoy?

Si bien es deseable aclarar los aspectos éticos, desde un punto de vista estrictamente legal el RGPD se aplica plenamente a los sistemas de reconocimiento facial o de voz que constituyen un tratamiento de datos biométricos.

Por lo tanto, estos datos gozan de una protección más estricta y, en principio, requieren el consentimiento de los interesados. Dada la sensibilidad del tratamiento, también debe realizarse una evaluación de impacto. En este contexto, debe prestarse especial atención a los aspectos mencionados anteriormente, en particular a los riesgos de discriminación, las expectativas razonables de los interesados y la transparencia del tratamiento.

Y además:

• En Francia:

Octubre es el mes de la ciberseguridad.

Una treintena de socios, entre ellos la ANSSI y la CNIL, se comprometen a sensibilizar a los profesionales y a los particulares sobre la seguridad y los retos digitales.

Desde el 26 de septiembre, dos organismos de certificación han sido homologados por la CNIL.

• En Europa:

Derecho al olvido y validez del consentimiento en línea: tres importantes sentencias del Tribunal de Justicia de la Unión Europea aclaran el marco legal.

En la sentencia “Planet49” del 1 de octubre de 2019, el Tribunal precisa que, para recoger legalmente información mediante cookies, no basta con marcar previamente una casilla: la colocación de cookies requiere el consentimiento activo y específico de los internautas.

El usuario de Internet también deberá ser informado de la duración del funcionamiento de las cookies y de si terceros pueden acceder o no a ellas.

Esta sentencia respalda las comunicaciones recientes de las autoridades de control sobre las condiciones de uso de las cookies, incluida la de la CNIL.

En La sentencia “Google” del 24 de septiembre, el Tribunal aclara que el derecho al olvido no se aplica sistemáticamente a los motores de búsqueda fuera de la Unión Europea.

En la UE, se aplica, por ejemplo, a google.fr y otras extensiones europeas. Sin embargo, también corresponde al motor de búsqueda implementar medidas para disuadir a los usuarios de acceder a los enlaces en cuestión en versiones no pertenecientes a la UE de dicho motor de búsqueda desde un Estado miembro.

El final de la sentencia es importante porque el Tribunal consagra el poder discrecional de las autoridades de control: si bien no es obligatorio desreferenciar un enlace fuera de la UE, la autoridad conserva el poder de ordenar al motor de búsqueda que lo desreferencia globalmente, después de sopesar los derechos de la persona interesada y la libertad de información.

Es este mismo acto de equilibrio el que se encuentra en el centro de la segunda sentencia del Tribunal de Apelaciones. 24 de septiembre :la Corte confirma en la sentencia GC ea contra la CNIL que el principio de prohibición de tratamiento de datos sensibles se aplica también a los motores de búsqueda, pero debe realizarse un análisis caso por caso entre los derechos fundamentales de la persona que solicita la desreferenciación y los de los usuarios de Internet potencialmente interesados en esta información.

Si el buscador no elimina la referencia, el Tribunal impone al menos para los datos judiciales una obligación de presentar los resultados en un orden que destaque la información actual.