Τεχνητή νοημοσύνη σύμφωνα με το νόμο και τα κοινωνικά ζητήματα.

Νομική Παρακολούθηση Αρ. 34 – Απρίλιος 2021

Τεχνητή νοημοσύνη σύμφωνα με το νόμο και τα κοινωνικά ζητήματαΗ τεχνητή νοημοσύνη και η ασφάλεια συνδέονται σήμερα στον πολιτικό και νομικό διάλογο. Αλλά Σε ποιο βαθμό μπορεί – ή θα έπρεπε – η προσαρμογή του κανονιστικού μας πλαισίου σε προκλήσεις όπως η τρομοκρατία να ενσωματώσει τις τελευταίες τεχνολογικές εξελίξεις;

Οι αντιπαραθέσεις αφθονούν στις αρχές της άνοιξης, με την ψήφιση του νόμου περί παγκόσμιας επιτήρησης και τα νέα μέτρα του αντιτρομοκρατικού νόμου.

Τα όρια της εκτεταμένης συλλογής δεδομένων

Στο τρέχον πλαίσιο, σημειώνουμε την επιρροή αρκετών παραγόντων, συμπεριλαμβανομένου του Συμβουλίου της Επικρατείας, ενώσεις πολιτικών ελευθεριών και το Δικαστήριο της Ευρωπαϊκής Ένωσης.

Το τελευταίο εξέδωσε δύο αποφάσεις στις 6 Οκτωβρίου 2020, οι οποίες αφορούν τη Γαλλία όσον αφορά τον νόμο περί πληροφοριών και τις πρακτικές της για τη διατήρηση δεδομένων σύνδεσης.

Το Δικαστήριο υπενθύμισε πράγματι μη συμμόρφωση με τα θεμελιώδη δικαιώματα της εκτεταμένης και αδιάκριτης συλλογής δεδομένων επικοινωνιών από φορείς εκμετάλλευσηςΤο Δικαστήριο διευκρινίζει τον εξαιρετικό χαρακτήρα που πρέπει να έχει μια τέτοια συλλογή, για σκοπούς εθνικής ασφάλειας και για αυστηρά περιορισμένη διάρκεια.

Παραπέμποντας βάσει αυτών των αποφάσεων από ενώσεις, το Συμβούλιο της Επικρατείας πραγματοποίησε, στην απόφασή του της 21ης Απριλίου, μια λεπτή άσκηση συμφιλίωσης μεταξύ του δικαίου της Ευρωπαϊκής Ένωσης και των εθνικών στόχων της καταπολέμησης της τρομοκρατίας και του εγκλήματος, ζητώντας από την κυβέρνηση να προβεί σε ορισμένες προσαρμογές στην πολιτική της γενικευμένης επιτήρησης (περιοδική επανεξέταση της απειλής που δικαιολογεί τη συλλογή δεδομένων, δεσμευτική και όχι πλέον συμβουλευτική ισχύς των γνωμοδοτήσεων της Εθνικής Επιτροπής Ελέγχου των Τεχνικών Πληροφοριών – CNCTR).

Αυτά τα συμπεράσματα επικρίνονται έντονα από τις ενώσεις, οι οποίες υπογραμμίζουν την ανεπάρκεια των απαιτούμενων προσαρμογών και την πολύ ευρεία ερμηνεία από το Συμβούλιο της Επικρατείας της έννοιας της «εθνικής ασφάλειας» πέρα από την καταπολέμηση της τρομοκρατίας, ώστε να περιλαμβάνει για παράδειγμα την οικονομική κατασκοπεία, το εμπόριο ναρκωτικών ή την οργάνωση αδήλωτων διαδηλώσεων, κατά παράβαση του ευρωπαϊκού δικαίου.

Η La Quadrature du Net και άλλες ενώσεις παρέπεμψαν επίσης το ζήτημα της νομιμότητας του νόμου περί παγκόσμιας επιτήρησης στο Συνταγματικό Συμβούλιο στις 29 Απριλίου, επίσης βάσει της δυσανάλογης φύσης πολλών από τα μέτρα επιτήρησης που προβλέπονται από τον νόμο. 

Οι αλγόριθμοι του αντιτρομοκρατικού νόμου

Οι συζητήσεις που πυροδότησε το νομοσχέδιο για την πρόληψη τρομοκρατικών ενεργειών και την παροχή πληροφοριών επικαλύπτονται από αυτήν τη συζήτηση και αναζωπυρώνουν ζητήματα αναλογικότητας των προβλεπόμενων μέτρων.

Αναφερόμαστε συγκεκριμένα σε δύο πτυχές του νομοσχεδίου, το οποίο, σε μια αρχικά δημοσιευμένη έκδοση, είχε ως στόχο να διαιωνίσει τη χρήση αλγορίθμων για την παρακολούθηση, ιδίως, των συνδέσεων των χρηστών του Διαδικτύου με βάση τους ιστότοπους που επισκέπτονται, και για τη συλλογή εκτεταμένων δεδομένων δορυφορικών επικοινωνιών.

Η έκδοση του σχεδίου που δημοσιεύθηκε στις 28 Απριλίου στην Εθνοσυνέλευση δεν περιέχει πλέον αυτές τις διατάξεις, οι οποίες θα πρέπει να προσαρμοστούν – προκειμένου να ληφθούν υπόψη οι «προσαρμογές» που ζήτησε το Συμβούλιο της Επικρατείας – σε διορθωτική επιστολή που αναμένεται τον Μάιο.

Σημειώστε ότι η γνωμοδότηση της CNIL της 8ης Απριλίου σχετικά με αυτό το έργο δεν έχει δημοσιευτεί, ούτε αυτή της Εθνικής Επιτροπής για τον Έλεγχο των Τεχνικών Πληροφοριών.

Σαφέστερη μελλοντική ρύθμιση της Τεχνητής Νοημοσύνης σε ευρωπαϊκό επίπεδο;

Παράλληλα με αυτές τις εθνικές εξελίξεις, Η Ευρωπαϊκή Επιτροπή δημοσίευσε στις 21 Απριλίου πρόταση για τη ρύθμιση της τεχνητής νοημοσύνης., την οποία ορισμένοι θεωρούν ήδη υπερβολικά περιοριστική, ενώ άλλοι αποδοκιμάζουν τους περιορισμούς της.

Η Επιτροπή σχεδιάζει να απαγορεύσει τη χρήση τεχνητής νοημοσύνης που παραβιάζει τις αξίες της ΕΕ και τα ανθρώπινα δικαιώματα, ιδίως τις «απαράδεκτες» χρήσεις που αποσκοπούν στην επιρροή της συμπεριφοράς ή στη στόχευση ατομικών τρωτών σημείων μέσω προγνωστικών αλγορίθμων.

Η πρόταση, για παράδειγμα, απαγορεύει την «κοινωνική βαθμολόγηση». όπως παρατηρείται στην Κίνα με την ανάπτυξη εφαρμογών που επιτρέπουν στο Κράτος να αξιολογεί την κοινωνική πιστοληπτική ικανότητα κάθε ατόμου. Η ανάλυση κινδύνου (ειδικά οι θεραπείες που χαρακτηρίζονται ως «υψηλού κινδύνου») θα πρέπει να διεξάγεται από τους προγραμματιστές έργων που χρησιμοποιούν Τεχνητή Νοημοσύνη.

Οι παραβιάσεις αυτών των αρχών μπορούν, όπως και στον ΓΚΠΔ, να επιφέρουν πρόστιμα έως και 4% κύκλου εργασιών.

Τα περιοριστικά μέτρα που προβλέπονται στην πρόταση δεν ισχύουν, ωστόσο, για τις κυβερνήσεις και τις δημόσιες αρχές στην Ευρωπαϊκή Ένωση που χρησιμοποιούν την Τεχνητή Νοημοσύνη για την προστασία της δημόσιας ασφάλειας.

Ορισμένοι, συμπεριλαμβανομένου του Ευρωπαίου Επόπτη Προστασίας Δεδομένων, αποδοκιμάζουν την απουσία αναστολής σε τρέχοντα ζητήματα, όπως η χρήση βιομετρικών καμερών παρακολούθησης σε πραγματικό χρόνο από το κράτος.

Παρόλο που η πρόταση περιορίζει τη χρήση αυτή, παραμένει δυνατή, ιδίως στο πλαίσιο τρομοκρατικών επιθέσεων ή αναζήτησης εγκληματιών.

Άλλοι επισημαίνουν το βάρος της ευθύνης μεταφέρεται από το Κράτος σε ιδιώτες κατασκευαστές, οι οποίοι θα πρέπει να διενεργήσουν τη δική τους ανάλυση συμμόρφωσης των συστημάτων που προτείνουν, για παράδειγμα όσον αφορά την προγνωστική αστυνόμευση, τη χρήση τεχνητής νοημοσύνης στις διαδικασίες ασύλου ή την επιτήρηση των εργαζομένων.

Αυτές οι διάφορες εξελίξεις υπογραμμίζουν την ευαισθησία μιας συζήτησης που πρέπει να λαμβάνει υπόψη τόσο ζητήματα εθνικής ασφάλειας, που αποτελούν δικαίωμα των κρατών, όσο και πτυχές της οικονομικής τάξης και των θεμελιωδών δικαιωμάτων που καθορίζονται από μια ευρωπαϊκή έννομη τάξη που τους επιβάλλεται.

Η ευρωπαϊκή πρόταση προβλέπει την δημιουργία Ευρωπαϊκής Επιτροπής Τεχνητής Νοημοσύνης, αποτελούμενη από τα διάφορα κράτη μέλη της ΕΕ, την Ευρωπαϊκή Επιτροπή και τον Ευρωπαίο Επόπτη Προστασίας Δεδομένων. Η εν λόγω επιτροπή θα είναι υπεύθυνη για τη λήψη αποφάσεων σχετικά με μη εξουσιοδοτημένες ή υψηλού κινδύνου εξελίξεις στον τομέα της Τεχνητής Νοημοσύνης.

Η αρχή μιας λύσης;

Και επίσης

Γαλλία:

Η ANSSI συνεχίζει το έργο της για την ευαισθητοποίηση σχετικά με τους κινδύνους ασφαλείας, με Οδηγός για την ασφάλεια ιστοσελίδων.

Ο οδηγός καθορίζει τις παραμέτρους που πρέπει να καθορίζονται κατά την ανάπτυξη και την ενσωμάτωση ενός ιστότοπου ή μιας διαδικτυακής εφαρμογής, προκειμένου να διασφαλίζεται η ασφάλειά του.

Η CNIL δημοσιεύει μια λίστα ερωτήσεων και απαντήσεων σχετικά με εξετάσεις σάλιου στα σχολεία, που χρησιμοποιείται στο πλαίσιο του ελέγχου για Covid-19.

Στο όγδοο σημειωματάριό του για την Καινοτομία και την Προοπτική Διερεύνηση, το CNIL αναπτύσσει οι λόγοι που ωθούν ένα άτομο να υποβάλει καταγγελία για μη σεβασμό των δικαιωμάτων τουΑναφέρει τέσσερις βασικούς λόγους:

• «Όταν η φήμη των ατόμων απειλείται από πληροφορίες που είναι διαθέσιμες στο διαδίκτυο (σχεδόν το ένα τρίτο των καταγγελιών)»
• Όταν πέφτουν θύματα εισβολής στην ιδιωτική τους ζωή μέσω εμπορικής αναζήτησης (περίπου 20% των καταγγελιών)·
• Σε περίπτωση επιτήρησης στον χώρο εργασίας τους (10 έως 15 καταγγελίες %)· και τέλος
• Όταν είναι καταχωρημένα σε εθνικά αρχεία (τραπεζικά ατυχήματα, ποινικά μητρώα).

Ευρώπη:

Ευρωπαϊκή Ένωση: Το σχέδιο για το διαβατήριο υγείας αποτελεί αντικείμενο συζήτησης σε ευρωπαϊκό επίπεδο.

Μετά την κοινή γνώμη της Επιτροπής και του Ευρωπαίου Επόπτη Προστασίας Δεδομένων, είναι τώρα η σειρά του Ευρωπαϊκού Κοινοβουλίου να εξετάσει το ζήτημα.

Έτσι, τονίστηκε,

• Η ανάγκη ενσωμάτωσης της «Ιδιωτικότητας εκ σχεδιασμού» στο σύστημα επεξεργασίας δεδομένων,
• Η εγγύηση της απουσίας κεντρικής βάσης δεδομένων,
• Σαφής ταυτοποίηση των υπευθύνων επεξεργασίας δεδομένων,
• Πληροφορίες των ενδιαφερομένων προσώπων και
• Περιορισμένη περίοδος διατήρησης δεδομένων.

Συμβούλιο της Ευρώπης: Στις 28 Απριλίου, η Επιτροπή Υπουργών ενέκρινε Διακήρυξη σχετικά με την προστασία της ιδιωτικής ζωής των παιδιών στο ψηφιακό περιβάλλον.

Η παρούσα διακήρυξη στοχεύει στην ενίσχυση της προστασίας των παιδιών σε αυτό που αντιπροσωπεύει ένα αυξανόμενο μέρος της ζωής τους, είτε στο σχολείο, είτε με τους φίλους τους είτε στο πλαίσιο πολιτιστικών ή αθλητικών δραστηριοτήτων, με τις τρέχουσες ιδιαίτερες επιπτώσεις λόγω της πανδημίας Covid-19 (οι διαδικτυακές δραστηριότητες οδηγούν σε περισσότερους κινδύνους, συμπεριλαμβανομένου του ψηφιακού αποκλεισμού).

Η Ολλανδία Το Περιφερειακό Δικαστήριο του Λιμβούργου εξέτασε το διαδικασίες πολλαπλών δικαιωμάτων πρόσβασης που κινούνται από ένα άτομο με σκοπό την επιδίκαση αποζημίωσης στους υπεύθυνους επεξεργασίας δεδομένων οι οποίοι άργησαν να απαντήσουν.

Πάντα στο Η Ολλανδία, το Περιφερειακό Δικαστήριο του Άμστερνταμ διέταξε την Uber να επαναφέρει έξι οδηγοί που απολύθηκαν βάσει αυτοματοποιημένων αποφάσεωνΗ εταιρεία διατάχθηκε να καταβάλει πρόστιμο 5.000 ευρώ ανά ημέρα καθυστέρησης και αποζημίωση άνω των 100.000 ευρώ.

Σύμφωνα με πληροφορίες που δημοσιεύθηκαν στα μέσα Απριλίου, ο φορέας εκμετάλλευσης Huawei φέρεται να απέκτησε πρόσβαση στο ολλανδικό τηλεπικοινωνιακό δίκτυο KPN, επιτρέποντας την πρόσβαση στις επικοινωνίες πελατών, συμπεριλαμβανομένων πολλών από τους πολιτικούς υπεύθυνους λήψης αποφάσεων της χώρας.

Ισπανία: Το Υπουργείο Άμυνας έχει προειδοποιηθεί από την αρχή προστασίας δεδομένων.

Ο λόγος γι' αυτό είναι η καταγραφή από κάμερες που έχουν εγκατασταθεί γύρω από τα γραφεία του υπουργείου – χωρίς να αποδεικνύεται καμία αναγκαιότητα – εικόνες χώρου στάθμευσης που ανήκουν σε γειτονικά σπίτια (ευχαριστίες στο wiki του GDPRhub για την καταγραφή των αποφάσεων). 

Γερμανία: Η εποπτική αρχή του κρατιδίου του Αμβούργου ανακοίνωσε στις 13 Απριλίου ότι ξεκίνησε μια Διοικητικές διαδικασίες κατά του Facebook σχετικά με την αλλαγή πολιτικής του WhatsApp σχετικά με τη συλλογή προσωπικών δεδομένων.

Η εγκυρότητα της συγκατάθεσης των χρηστών αμφισβητείται, γεγονός που δικαιολογεί την τρίμηνη αναστολή της συλλογής δεδομένων από την εποπτική αρχή, ενόσω η έρευνα βρίσκεται σε εξέλιξη.

Διεθνές:

ΗΝΩΜΕΝΕΣ ΠΟΛΙΤΕΙΕΣ : Η αναγνώριση προσώπου αναπτύσσεται στις τράπεζες, οι οποίες χρησιμοποιούν έξυπνες κάμερες για να εντοπίζουν τους πελάτες τους, τους υπαλλήλους τους, ακόμη και τους «άστεγους» που ενδέχεται να βρίσκονται κοντά στους διανομείς. 

Παρόλο που η χρήση τεχνητής νοημοσύνης στο πλαίσιο της βιντεοεπιτήρησης δεν ρυθμίζεται με παρόμοιο τρόπο σε όλες τις αμερικανικές πολιτείες, η FTC (Ομοσπονδιακή Επιτροπή Εμπορίου) παραμένει αρμόδια για την επαλήθευση των όρων χρήσης αυτής της τεχνολογίας και την έγκριση της χρήσης της για σκοπούς που εισάγουν διακρίσεις.

Άννα Κριστίν Λακόστ

Η Anne Christine Lacoste, συνεργάτιδα της Olivier Weber Avocat, είναι δικηγόρος με εξειδίκευση στο δίκαιο των δεδομένων. Διετέλεσε επικεφαλής διεθνών σχέσεων στον Ευρωπαίο Επόπτη Προστασίας Δεδομένων και εργάστηκε για την εφαρμογή του GDPR στην Ευρωπαϊκή Ένωση.