Πρόταση Κανονισμού CSAM και παρακολούθηση επικοινωνιών: Το σημείο χωρίς επιστροφή;

Στις 11 Μαΐου 2022 η Ευρωπαϊκή Επιτροπή υπέβαλε Πρόταση Κανονισμού «για τη θέσπιση κανόνων με σκοπό την πρόληψη και την καταπολέμηση της σεξουαλικής κακοποίησης παιδιών», με τη νομοθετική παρέμβαση να γίνεται γνωστή ως Child Sexual Abuse Regulation (CSAR) ή Child Sexual Abuse Material (CSAM).

Η πρόταση δέχθηκε τα πυρά πάσης φύσεως ενδιαφερομένων μερών πρωτίστως για την πρόβλεψή της για παρακολούθηση των επικοινωνιών των Ευρωπαίων πολιτών, ως αποτέλεσμα των υποχρεώσεων που επιβάλλονται στους παρόχους υπηρεσιών φιλοξενίας, υπηρεσιών διαπροσωπικών επικοινωνιών και άλλων υπηρεσιών όσον αφορά τον εντοπισμό, την αναφορά, την αφαίρεση και τον αποκλεισμό γνωστού και νέου υλικού διαδικτυακής σεξουαλικής κακοποίησης παιδιών, καθώς και της άγρας παιδιών.

Μεταξύ αυτών που διατύπωσαν τις έντονες επιφυλάξεις τους για τις προτεινόμενες ρυθμίσεις ήταν ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων, η εποπτική αρχή προστασίας προσωπικών δεδομένων της Ευρωπαϊκής Ένωσης, και το Ευρωπαϊκό Συμβούλιο Προστασίας Δεδομένων, το κεντρικό ενωσιακό όργανο παρακολούθησης της εφαρμογής του Γενικού Κανονισμού Προστασίας Δεδομένων, που αποτελείται από τις εθνικές εποπτικές αρχές του ΓΚΠΔ. Τα δύο όργανα εξέδωσαν στις 28 Ιουλίου 2022 την Κοινή Γνωμοδότηση 4/2022 «σχετικά με την πρόταση κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση κανόνων με σκοπό την πρόληψη και την καταπολέμηση της σεξουαλικής κακοποίησης παιδιών», όπου, μεταξύ άλλων, παρατήρησαν ότι: «Όσον αφορά την αναγκαιότητα και την αναλογικότητα των προβλεπόμενων μέτρων εντοπισμού, το ΕΣΠΔ και ο ΕΕΠΔ εκφράζουν ιδιαίτερη ανησυχία σχετικά με τα μέτρα που προβλέπονται για τον εντοπισμό άγνωστου υλικού σεξουαλικής κακοποίησης παιδιών και για τον εντοπισμό της άγρας παιδιών [«προσεταιρισμός» («grooming»)] σε υπηρεσίες διαπροσωπικών επικοινωνιών. Λόγω της παρεμβατικότητας τέτοιου είδους τεχνολογιών, της πιθανολογικής φύσης τους και των ποσοστών σφάλματος που συνδέονται με αυτές, το ΕΣΠΔ και ο ΕΕΠΔ θεωρούν ότι η παρέμβαση που απορρέει από τα εν λόγω μέτρα υπερβαίνει το αναγκαίο και αναλογικό μέτρο. Επιπλέον, μέτρα τα οποία επιτρέπουν στις δημόσιες αρχές να έχουν γενικευμένη πρόσβαση στο περιεχόμενο μιας επικοινωνίας με σκοπό να εντοπίσουν άγρα παιδιών είναι πιθανότερο να θίξουν το βασικό περιεχόμενο των δικαιωμάτων που κατοχυρώνονται στα άρθρα 7 και 8 του Χάρτη. Ως εκ τούτου, οι σχετικές διατάξεις που αφορούν τον προσεταιρισμό θα πρέπει να αφαιρεθούν από την πρόταση. Επιπλέον, η πρόταση δεν αποκλείει από το πεδίο εφαρμογής της τη σάρωση ακουστικής επικοινωνίας. Το ΕΣΠΔ και ο ΕΕΠΔ πιστεύουν ότι η σάρωση ακουστικής επικοινωνίας είναι ιδιαίτερα παρεμβατική και, ως εκ τούτου, πρέπει να παραμείνει εκτός του πεδίου των υποχρεώσεων εντοπισμού που ορίζονται στον προτεινόμενο κανονισμό, όσον αφορά τόσο τα φωνητικά μηνύματα όσο και τη ζωντανή επικοινωνία.

Το ΕΣΠΔ και ο ΕΕΠΔ εκφράζουν επίσης αμφιβολίες σχετικά με την αποτελεσματικότητα των μέτρων αποκλεισμού και θεωρούν ότι θα ήταν δυσανάλογο να απαιτείται οι πάροχοι διαδικτυακών υπηρεσιών να αποκρυπτογραφούν διαδικτυακές επικοινωνίες προκειμένου να αποκλείσουν εκείνες που αφορούν υλικό σεξουαλικής κακοποίησης παιδιών.

Επιπλέον, το ΕΣΠΔ και ο ΕΕΠΔ επισημαίνουν ότι οι τεχνολογίες κρυπτογράφησης συμβάλλουν με θεμελιώδη τρόπο στον σεβασμό της ιδιωτικής ζωής και του απορρήτου των επικοινωνιών, στην ελευθερία της έκφρασης, καθώς και στην καινοτομία και την ανάπτυξη της ψηφιακής οικονομίας, η οποία βασίζεται στο υψηλό επίπεδο εμπιστοσύνης και σιγουριάς που παρέχουν οι εν λόγω τεχνολογίες. Η αιτιολογική σκέψη 26 της πρότασης θέτει ως προϋπόθεση ότι η επιλογή όχι μόνο των τεχνολογιών εντοπισμού, αλλά και των τεχνικών μέτρων για την προστασία του απορρήτου των επικοινωνιών, όπως η κρυπτογράφηση, πρέπει να πληροί τις απαιτήσεις του προτεινόμενου κανονισμού, πρέπει δηλαδή να επιτρέπει τον εντοπισμό. Αυτό υποστηρίζει το νόημα που απορρέει από το άρθρο 8 παράγραφος 3 και το άρθρο 10 παράγραφος 2 της πρότασης ότι ο πάροχος δεν μπορεί να αρνηθεί την εκτέλεση εντολής εντοπισμού λόγω τεχνικής αδυναμίας. Το ΕΣΠΔ και ο ΕΕΠΔ θεωρούν ότι θα πρέπει να υπάρχει καλύτερη ισορροπία μεταξύ των κοινωνικών αναγκών να υπάρχουν ασφαλείς και ιδιωτικοί δίαυλοι επικοινωνίας και να καταπολεμείται η κατάχρησή τους. Θα πρέπει να αναφέρεται ρητά στην πρόταση ότι καμία διάταξη του προτεινόμενου κανονισμού δεν θα πρέπει να ερμηνεύεται ως απαγόρευση ή αποδυνάμωση της κρυπτογράφησης».

Ο Ευρωπαίος Επόπτης επανήλθε επί του ζητήματος με τη διοργάνωση σεμιναρίου επί του Κανονισμού CSAΜ, δημοσιεύοντας παράλληλα και σχετικό ενημερωτικό σημείωμα, με το οποίο εκφράζει και πάλι ανοικτά την αντίθεσή του στην Πρόταση Κανονισμού.

Το πλήρες κείμενο του Επόπτη έχει ως εξής:

Η πρόταση CSAM

Η πρόταση για το υλικό σεξουαλικής κακοποίησης παιδιών (Child Sexual Abuse Material - CSAM) αποσκοπεί στην πρόληψη και την καταπολέμηση της σεξουαλικής κακοποίησης παιδιών εντός και εκτός διαδικτύου, μέσω της ανίχνευσης της διάδοσης υλικού σεξουαλικής κακοποίησης παιδιών και του «προσεταιρισμού» (grooming). Μολονότι υπάρχει συναίνεση σχετικά με την ύψιστη σημασία αυτής της υποχρέωσης, πολλά ενδιαφερόμενα μέρη αμφισβητούν την αποτελεσματικότητα, την αναγκαιότητα και την αναλογικότητα των προτεινόμενων μέτρων. Ισχυρές επιφυλάξεις έχουν εκφραστεί όχι μόνο από τις αρχές προστασίας δεδομένων της ΕΕ, αλλά και από εμπειρογνώμονες στα θεσμικά όργανα της ΕΕ, συμπεριλαμβανομένης της Νομικής Υπηρεσίας του Συμβουλίου και της Επιτροπής ρυθμιστικού ελέγχου της Ευρωπαϊκής Επιτροπής, καθώς και από μια ευρεία ομάδα άλλων ενδιαφερόμενων μερών, συμπεριλαμβανομένων οργανώσεων προστασίας παιδιών, ακαδημαϊκών, εμπειρογνωμόνων σε θέματα ασφάλειας στον κυβερνοχώρο και επιζώντων σεξουαλικής κακοποίησης παιδιών. Ορισμένα από τα βασικά σημεία της κριτικής είναι τα ακόλουθα.

Αναποτελεσματική

Η πρόταση CSAM αποτυγχάνει να προστατεύσει αυτούς που επιδιώκει να προστατεύσει. Οι ειδικοί θεωρούν ότι τα μέτρα εντοπισμού όχι μόνο μπορούν εύκολα να παρακαμφθούν, αλλά μπορούν επίσης να δημιουργήσουν ψευδώς θετικά αποτελέσματα. Ταυτόχρονα, οι διαπροσωπικές επικοινωνίες ενός τεράστιου αριθμού αθώων πολιτών θα υπόκεινται σε παρακολούθηση χωρίς ουσιαστικό όφελος για την ασφάλεια και την ευημερία των παιδιών ή την καταπολέμηση του εγκλήματος.

Η πρόταση κινδυνεύει να κατακλύσει το Κέντρο της ΕΕ[1] και τις αντίστοιχες εθνικές αρχές με ψευδώς θετικά αποτελέσματα, τα οποία προκύπτουν από υψηλά ποσοστά σφάλματος. Ακόμα και όταν θα ανιχνεύεται πραγματική σεξουαλική κακοποίηση παιδιών, ο αυξημένος αριθμός αναφορών από μόνος του δεν θα αυξήσει τις ποινικές διώξεις. Ήδη σήμερα, οι αρχές επιβολής του νόμου συχνά δεν διαθέτουν τους απαραίτητους πόρους για να ελέγξουν όλα τα στοιχεία με πλήρεις έρευνες. Αντίθετα, η πρόταση θα μπορούσε να ενέχει κινδύνους ποινικής δίωξης ανηλίκων λόγω της συναινετικής κοινοποίησης περιεχομένου που έχει δημιουργηθεί από τους ίδιους.

Τεχνικά ανεφάρμοστη

Είναι τεχνικά αδύνατο να εφαρμοστεί σάρωση για γνωστό ή νέο περιεχόμενο, καθώς και για τον εντοπισμό του grooming από έναν πάροχο υπηρεσιών χωρίς να αποδυναμωθεί η διατερματική (end-to-end) κρυπτογράφηση και να υπονομευθεί η ιδιωτικότητα των χρηστών. Αυτό είναι το αδιαμφισβήτητο συμπέρασμα εκατοντάδων κορυφαίων επιστημόνων και ερευνητών στον τομέα αυτό. Επιπλέον, πολλοί εμπειρογνώμονες συμφωνούν ότι οι τρέχουσες σύγχρονες τεχνολογικές λύσεις για τον εντοπισμό δεν είναι επαρκώς αξιόπιστες, ενώ είναι και ευάλωτες σε κυβερνοεπιθέσεις.

Η πρόταση CSAM δεν προσφέρει επίσης καμία λύση σχετικά με τον τρόπο μετριασμού του αναδυόμενου κινδύνου του «συνθετικού» υλικού, δηλαδή των εικόνων, βίντεο και κειμένου/φωνής που δημιουργούνται από υπολογιστή, μεταξύ άλλων με τη βοήθεια των διαθέσιμων στο κοινό εφαρμογών τεχνητής νοημοσύνης.

Κοινωνία της επιτήρησης

Η μεγάλης κλίμακας σάρωση των επικοινωνιών είναι πιθανό να δημιουργήσει το αίσθημα της συνεχούς επιτήρησης. Αυτό δεν επηρεάζει μόνο την άσκηση των θεμελιωδών δικαιωμάτων μας, αλλά παρεμβαίνει επίσης βαθιά στα δικαιώματα των παιδιών και των νέων, τα οποία θα πρέπει να μεγαλώνουν σε ένα δημοκρατικό περιβάλλον όπου η ελευθερία της έκφρασης και το απόρρητο των επικοινωνιών υποστηρίζονται και προστατεύονται.

Επιπλέον, θα πρέπει να έχουμε κατά νου και άλλες πιθανές αρνητικές συνέπειες, όπως τους κινδύνους που συνδέονται με τη συγκέντρωση μεγάλου όγκου δεδομένων επικοινωνίας και άλλων δεδομένων στο επίπεδο του προτεινόμενου Κέντρου της ΕΕ, μεγάλο μέρος των οποίων δεν έχει καμία αξία στο πλαίσιο ερευνών, είναι ωστόσο ελκυστικό για τις υπηρεσίες της ΕΕ, όπως η Ευρωπόλ και άλλες οντότητες για άλλους σκοπούς.

Η πρόταση CSAM θα πρέπει να εξεταστεί όχι μόνο από νομική άποψη, αλλά και από πολιτική και γεωπολιτική άποψη. Είναι η Ένωση και τα κράτη μέλη της έτοιμα να αποδεχθούν την παρακολούθηση των επικοινωνιών σε μεγάλη κλίμακα, θολώνοντας έτσι τη γραμμή που χωρίζει τις δημοκρατικές χώρες από τα αυταρχικά καθεστώτα;

Μελλοντική κατεύθυνση

Η παιδική κακοποίηση και η διαιώνισή της στο διαδίκτυο είναι πραγματικές και απαιτούν ισχυρή και αποτελεσματική αντιμετώπιση. Δεδομένων των πολλών αμφιβολιών που εκφράζονται σχετικά με την αποτελεσματικότητα, την αναγκαιότητα και την αναλογικότητα, είναι απίθανο η πρόταση CSAM να αποδώσει τα υποσχόμενα αποτελέσματα. Χρειαζόμαστε εναλλακτικούς τρόπους αντιμετώπισης που να είναι πραγματικά ικανοί να αντιμετωπίσουν ένα τόσο σύνθετο κοινωνικό πρόβλημα. Η μαζική σάρωση των επικοινωνιών σίγουρα δεν αποτελεί την απάντηση και δεν μπορεί να αντισταθμίσει την απουσία άλλων κρίσιμων μέτρων, όπως μια εναρμονισμένη προσέγγιση της ποινικής δικαιοσύνης όσον αφορά τα εγκλήματα σεξουαλικής κακοποίησης παιδιών στα κράτη μέλη, επαρκείς πόρους για τις αρμόδιες αρχές επιβολής του νόμου, αποτελεσματική πρόληψη και άλλα.

Συμπέρασμα

Ο ΕΕΠΔ, όπως και οι άλλοι επικριτές της πρότασης CSAM, δεν αμφισβήτησαν ποτέ την ανάγκη αποτελεσματικής προστασίας των παιδιών από ένα τόσο απεχθές έγκλημα. Ωστόσο, υπάρχει μια πολύ ευρεία και σχεδόν πρωτοφανής ομοφωνία μεταξύ των διαφόρων ομάδων ενδιαφερομένων μερών, συμπεριλαμβανομένων των φορέων προστασίας δεδομένων, των νομικών εμπειρογνωμόνων, της ακαδημαϊκής κοινότητας, της βιομηχανίας και της κοινωνίας των πολιτών, των εθνικών νομοθετών και των αρχών επιβολής του νόμου, ότι η πρόταση δεν είναι μόνο αναποτελεσματική, αλλά και επιβλαβής. Στην τρέχουσα μορφή της, η πρόταση CSAM θα αλλάξει ριζικά το διαδίκτυο και την ψηφιακή επικοινωνία όπως την ξέρουμε, και αυτό θα είναι ένα σημείο χωρίς επιστροφή.

 

[1] Σύμφωνα με το άρθρο 40 της Πρότασης Κανονισμού:

«1. Ιδρύεται οργανισμός της Ευρωπαϊκής Ένωσης για την πρόληψη και την καταπολέμηση της σεξουαλικής κακοποίησης παιδιών, το Κέντρο της ΕΕ κατά της σεξουαλικής κακοποίησης παιδιών.

2. Το Κέντρο της ΕΕ συμβάλλει στην επίτευξη του στόχου του παρόντος κανονισμού υποστηρίζοντας και διευκολύνοντας την εφαρμογή των διατάξεών του σχετικά με τον εντοπισμό, την καταγγελία, την αφαίρεση ή την απενεργοποίηση της πρόσβασης, καθώς και τον αποκλεισμό της διαδικτυακής σεξουαλικής κακοποίησης παιδιών, και τη συλλογή και ανταλλαγή πληροφοριών και εμπειρογνωσίας, και διευκολύνει τη συνεργασία μεταξύ των σχετικών δημόσιων και ιδιωτικών φορέων σε σχέση με την πρόληψη και την καταπολέμηση της σεξουαλικής κακοποίησης παιδιών, ιδίως στο διαδίκτυο».