Αναγνώριση προσώπου, τεχνητή νοημοσύνη και ηθική: η συζήτηση κερδίζει έδαφος

Legal Watch – Οκτώβριος 2019.

Το να πληρώνεις με το πρόσωπό σου αντί για πιστωτική κάρτα, η χρήση καμερών της Amazon για την καταπολέμηση του εγκλήματος, όπως έκανε η αστυνομία του Ορλάντο στις Ηνωμένες Πολιτείες, η διαχείριση των κινήσεων αθλητών και δημοσιογράφων στους Ολυμπιακούς Αγώνες του Τόκιο χρησιμοποιώντας αναγνώριση προσώπου ή, πιο κοντά στο σπίτι, η δοκιμή αναγνώρισης προσώπου σε δημόσιους δρόμους, όπως στη Νίκαια, είναι όλα έργα που σε κάνουν να ονειρεύεσαι... ή να έχεις αϋπνίες.

Είτε στην Ευρώπη είτε ευρύτερα στον κόσμο, οι προοπτικές που αποκαλύπτονται από τις εξελίξεις στην τεχνητή νοημοσύνη, σε συνδυασμό ιδίως με την αναγνώριση προσώπου, την επεξεργασία φωνητικών αποτυπωμάτων ή την αναγνώριση συναισθημάτων, προκαλούν ολοένα και περισσότερες αντιδράσεις.

Τα ηθικά ζητήματα, ειδικότερα, βρίσκονται πλέον στην κορυφή των προτεραιοτήτων της νέας Προέδρου της Ευρωπαϊκής Επιτροπής, Ούρσουλα φον ντερ Λάιεν.

Ανακοίνωσε ότι σκοπεύει να υποβάλει νομοθετική πρόταση εντός των πρώτων 100 ημερών της θητείας της με στόχο μια συντονισμένη ευρωπαϊκή προσέγγιση στις ανθρώπινες και ηθικές επιπτώσεις της τεχνητής νοημοσύνης.

Θα εξετάσει επίσης τρόπους για την ενίσχυση της καινοτομίας χρησιμοποιώντας μεγάλα δεδομένα.

Μια ομάδα εμπειρογνωμόνων που συστάθηκε από την Ευρωπαϊκή Επιτροπή, με γνώμονα τον σεβασμό των ανθρωπίνων δικαιωμάτων, έθεσε τα θεμέλια για μια «αξιόπιστη» τεχνητή νοημοσύνη.

Στη δημοσίευση των κατευθυντήριων γραμμών τον Απρίλιο του 2019, εντόπισε τρία χαρακτηριστικά: Η Τεχνητή Νοημοσύνη πρέπει να είναι

1. Νόμιμο, διασφαλίζοντας τη συμμόρφωση με τους ισχύοντες νόμους και κανονισμούς·
2. Ηθική, διασφαλίζοντας την τήρηση των ηθικών αρχών και αξιών· και
3. Ισχυρό, «τόσο τεχνικά όσο και κοινωνικά, επειδή, ακόμη και με καλές προθέσεις, τα συστήματα Τεχνητής Νοημοσύνης μπορούν να προκαλέσουν ακούσια βλάβη».

Η δεοντολογία, σε σχέση με την τεχνητή νοημοσύνη, ήταν ήδη το θέμα της τελευταίας διεθνούς διάσκεψης των Επιτρόπων Προστασίας Δεδομένων και οδήγησε σε δημόσια δήλωση.

Αυτό αναφέρει τα πλεονεκτήματα αλλά και τους κινδύνους που συνδέονται με αυτές τις νέες τεχνολογίες, και ιδίως τις προκαταλήψεις και τις διακρίσεις που μπορούν να προκύψουν από αυτές.

Υπενθυμίζει αρκετές βασικές αρχές που αποσκοπούν στη διασφάλιση της ατομικής εμπιστοσύνης, προωθώντας παράλληλα την καινοτομία, συμπεριλαμβανομένης της αρχής της αφοσίωσης και της διαφάνειας των συστημάτων τεχνητής νοημοσύνης.

Τέλος, υποστηρίζει την υιοθέτηση κοινών αρχών διακυβέρνησης σε διεθνές επίπεδο.

Αξίζει επίσης να σημειωθεί ότι στις 11 Σεπτεμβρίου, το Συμβούλιο της Ευρώπης δημιούργησε μια ad hoc επιτροπή υπεύθυνη για την ανάλυση των προϋποθέσεων για ένα νομικό πλαίσιο για την ανάπτυξη, τον σχεδιασμό και την εφαρμογή της τεχνητής νοημοσύνης.

Τέλος, ο Οργανισμός Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης ασχολήθηκε με το ζήτημα της αναγνώρισης προσώπου κατά τη διάρκεια σεμιναρίου στις 19 και 20 Σεπτεμβρίου, με στόχο τη δημοσίευση εγγράφου επί του θέματος τον Νοέμβριο του 2019.

Και σήμερα;

Ενώ η διευκρίνιση των δεοντολογικών πτυχών είναι φυσικά επιθυμητή, από αυστηρά νομικής άποψης ο ΓΚΠΔ εφαρμόζεται πλήρως στα συστήματα αναγνώρισης προσώπου ή φωνής, τα οποία συνιστούν επεξεργασία βιομετρικών δεδομένων.

Συνεπώς, τα δεδομένα αυτά προστατεύονται αυστηρότερα και κατ' αρχήν απαιτούν τη συγκατάθεση των υποκειμένων των δεδομένων. Δεδομένης της ευαισθησίας της επεξεργασίας, πρέπει επίσης να διενεργηθεί εκτίμηση επιπτώσεων. Ιδιαίτερη προσοχή θα πρέπει να δοθεί, στο πλαίσιο αυτό, στις πτυχές που αναφέρθηκαν παραπάνω και ιδίως στους κινδύνους διακρίσεων, στις εύλογες προσδοκίες των υποκειμένων των δεδομένων και στη διαφάνεια της επεξεργασίας.

Και επίσης:

• Στη Γαλλία:

Ο Οκτώβριος είναι ο Μήνας Κυβερνοασφάλειας.

Περίπου τριάντα εταίροι, συμπεριλαμβανομένων των ANSSI και CNIL, έχουν δεσμευτεί να ευαισθητοποιήσουν τους επαγγελματίες και τα άτομα σχετικά με την ασφάλεια και τα ψηφιακά ζητήματα.

Από τις 26 Σεπτεμβρίου, δύο φορείς πιστοποίησης έχουν εγκριθεί από την CNIL.

• Στην Ευρώπη:

Δικαίωμα στη λήθη και εγκυρότητα της διαδικτυακής συγκατάθεσης: Τρεις σημαντικές αποφάσεις του Δικαστηρίου της Ευρωπαϊκής Ένωσης διευκρινίζουν το νομικό πλαίσιο.

Στην απόφαση «Planet49» της 1ης Οκτωβρίου 2019, το Δικαστήριο διευκρινίζει ότι, για τη νόμιμη συλλογή πληροφοριών που βασίζονται σε cookies, δεν αρκεί ένα προεπιλεγμένο πλαίσιο: η τοποθέτηση cookies απαιτεί την ενεργή και συγκεκριμένη συγκατάθεση των χρηστών του Διαδικτύου.

Ο χρήστης του Διαδικτύου πρέπει επίσης να ενημερώνεται για τη διάρκεια λειτουργίας των cookies και για το εάν τρίτοι έχουν πρόσβαση σε αυτά.

Η παρούσα απόφαση υποστηρίζει πρόσφατες ανακοινώσεις από εποπτικές αρχές σχετικά με τους όρους χρήσης των cookies, συμπεριλαμβανομένης αυτής της CNIL.

Σε η απόφαση της «Google» της 24ης Σεπτεμβρίου, το Δικαστήριο διευκρινίζει ότι το δικαίωμα στη λήθη δεν εφαρμόζεται συστηματικά στις μηχανές αναζήτησης εκτός της Ευρωπαϊκής Ένωσης.

Στην ΕΕ, ισχύει, για παράδειγμα, για το google.fr και άλλες ευρωπαϊκές επεκτάσεις. Ωστόσο, εναπόκειται επίσης στη μηχανή αναζήτησης να εφαρμόσει μέτρα για να αποθαρρύνει τους χρήστες του Διαδικτύου από την πρόσβαση στους εν λόγω συνδέσμους σε εκδόσεις της εν λόγω μηχανής αναζήτησης εκτός ΕΕ από ένα από τα κράτη μέλη.

Το τέλος της απόφασης είναι σημαντικό επειδή το Δικαστήριο κατοχυρώνει τη διακριτική ευχέρεια των εποπτικών αρχών: ενώ δεν είναι υποχρεωτική η διαγραφή ενός συνδέσμου εκτός ΕΕ, η αρχή διατηρεί την εξουσία να διατάξει τη μηχανή αναζήτησης να τον διαγράψει συνολικά, αφού εξισορροπήσει τα δικαιώματα του ενδιαφερόμενου προσώπου και την ελευθερία της πληροφόρησης.

Αυτή η ίδια πράξη εξισορρόπησης βρίσκεται στην καρδιά της δεύτερης κρίσης του 24 Σεπτεμβρίου : το Δικαστήριο επιβεβαιώνει η απόφαση GC ea εναντίον CNIL ότι η αρχή της απαγόρευσης επεξεργασίας ευαίσθητων δεδομένων ισχύει και για τις μηχανές αναζήτησης, αλλά πρέπει να διενεργείται ανάλυση κατά περίπτωση μεταξύ των θεμελιωδών δικαιωμάτων του ατόμου που ζητά τη διαγραφή συνδέσμων και εκείνων των χρηστών του Διαδικτύου που ενδεχομένως ενδιαφέρονται για αυτές τις πληροφορίες.

Εάν η μηχανή αναζήτησης δεν αφαιρέσει την παραπομπή, το Δικαστήριο επιβάλλει, τουλάχιστον για τα δικαστικά δεδομένα, την υποχρέωση παρουσίασης των αποτελεσμάτων σε διάταξη που επισημαίνει τις τρέχουσες πληροφορίες.