50.000 ευρώ πρόστιμο σε Δήμο για έρευνα με τεχνητή νοημοσύνη σε δημόσιο χώρο

Ακριβά κόστισαν στον Δήμο του Τρέντο στην Ιταλία τα δύο ερευνητικά προγράμματα που είχε αναπτύξει για τη χρήση τεχνητής νοημοσύνης στην ασφάλεια των αστικών περιοχών. Η ιταλική αρχή προστασίας δεδομένων Garante έλεγξε τα δύο προγράμματα και επέβαλε στον Δήμο διοικητικό πρόστιμο 50.000 ευρώ για την παραβίαση πολλαπλών διατάξεων της νομοθεσίας για τα προσωπικά δεδομένα.

Το δελτίο τύπου της ιταλικής αρχής αναφέρει τα εξής:

Όχι της Garante στην επεξεργασία προσωπικών δεδομένων στο Δήμο του Τρέντο στο πλαίσιο των επιστημονικών ερευνητικών έργων Marvel και Protector: τα δικαιώματα σε κίνδυνο ελλείψει των απαραίτητων προϋποθέσεων νομιμότητας. Ο Δήμος θα πρέπει να καταβάλει πρόστιμο 50.000 ευρώ και να διαγράψει τα δεδομένα που επεξεργάστηκε κατά παράβαση του νόμου.

Τα έργα, που χρηματοδοτούνται από ευρωπαϊκά κονδύλια, αποσκοπούν στην ανάπτυξη τεχνολογικών λύσεων για τη βελτίωση της ασφάλειας στις αστικές περιοχές, σύμφωνα με το παράδειγμα των "smart cities".

Συγκεκριμένα, το έργο Marvel ("Multimodal Extreme Scale Data Analytics for Smart Cities Environments") προέβλεπε την απόκτηση υλικού από κάμερες βιντεοεπιτήρησης που έχουν ήδη εγκατασταθεί στο Δήμο για σκοπούς ασφάλειας, καθώς και ήχου που λαμβάνεται από μικρόφωνα που έχουν τοποθετηθεί ειδικά σε δημόσιους δρόμους.

Τα δεδομένα, τα οποία κατά την άποψη του δήμου θα ανωνυμοποιούνταν αμέσως μετά τη συλλογή τους, θα αναλύονταν για τον αυτόματο εντοπισμό συμβάντων δημοσίου κινδύνου με τη χρήση τεχνικών τεχνητής νοημοσύνης.

Από την άλλη πλευρά, το έργο Protector ("PROTECTing places of wORship") προέβλεπε, εκτός από τη λήψη υλικού βιντεοεπιτήρησης (χωρίς ηχητικό σήμα), τη συλλογή και ανάλυση μηνυμάτων και σχολίων μίσους που αναρτώνται στα κοινωνικά δίκτυα, την ανίχνευση τυχόν αρνητικών συναισθημάτων και την επεξεργασία πληροφοριών που ενδιαφέρουν την αστυνομία, προκειμένου να εντοπιστούν κίνδυνοι και απειλές για την ασφάλεια των χώρων λατρείας.

Μετά από ενδελεχή έρευνα, η Garante διαπίστωσε πολλαπλές παραβιάσεις της νομοθεσίας περί προστασίας της ιδιωτικής ζωής.

Ο Δήμος του Τρέντο, ο οποίος δεν περιλαμβάνει την επιστημονική έρευνα μεταξύ των θεσμικών του σκοπών, δεν απέδειξε την ύπαρξη οποιουδήποτε νομικού πλαισίου που να δικαιολογεί την επεξεργασία προσωπικών δεδομένων - που αφορούν επίσης ποινικά δεδομένα και ειδικές κατηγορίες δεδομένων - και τη συνακόλουθη παρέμβαση στα θεμελιώδη δικαιώματα και τις ελευθερίες των ανθρώπων. Δεδομένου ότι τα δεδομένα κοινοποιήθηκαν επίσης σε τρίτους, συμπεριλαμβανομένων των συνεργατών του έργου, η πραγματοποιηθείσα επεξεργασία κρίθηκε επομένως παράνομη.

Επιπλέον, οι τεχνικές ανωνυμοποίησης που χρησιμοποιήθηκαν για να μειωθούν οι πιθανοί κίνδυνοι επαναταυτοποίησης των υποκειμένων των δεδομένων αποδείχθηκαν ανεπαρκείς.

Προβλήματα εντοπίστηκαν και όσον αφορά τη διαφάνεια. Ο Δήμος δεν είχε περιγράψει πλήρως την επεξεργασία στις γνωστοποιήσεις πρώτου και δεύτερου επιπέδου, ειδικά ως προς το ενδεχόμενο να καταγράφονται οι συνομιλίες από μικρόφωνα που είναι εγκατεστημένα στο δημόσιο δρόμο.

Επιπλέον, παρά το γεγονός ότι τα δύο έργα αφορούσαν τη χρήση νέων τεχνολογιών και τη συστηματική επιτήρηση δημόσια προσβάσιμων χώρων, ο δήμος δεν απέδειξε ότι είχε διενεργήσει εκτίμηση αντικτύπου πριν από την έναρξη της επεξεργασίας.

Αν και αναγνώρισε ορισμένους ελαφρυντικούς παράγοντες, η Garante καταδικάζει τις μαζικές και επεμβατικές μεθόδους επεξεργασίας που εφαρμόστηκαν, οι οποίες συνεπάγονται σημαντικούς κινδύνους για τα δικαιώματα και τις ελευθερίες των υποκειμένων των δεδομένων.

Δεδομένου ότι τέτοιες μορφές επιτήρησης σε δημόσιους χώρους μπορούν να τροποποιήσουν τη συμπεριφορά των ανθρώπων και να επηρεάσουν την άσκηση των δημοκρατικών ελευθεριών, η Garante δήλωσε σε κάθε περίπτωση ότι είναι πάντα ανοικτή σε διάλογο, τόσο με τον Δήμο του Τρέντο όσο και με οποιαδήποτε άλλη διοικητική αρχή, προκειμένου να υποστηρίξει κάθε πιθανή μελλοντική πρωτοβουλία για τη χρήση της ΤΝ που θα πραγματοποιείται σύμφωνα με τους κανόνες προστασίας της ιδιωτικής ζωής.