logo-print

Η επιρροή των εταιριών του διαδικτύου στην ελευθερία του λόγου και στην πολιτική αντιπαράθεση: Πεδία σύγκρουσης και πιθανοί κίνδυνοι

Γενικός κανονισμός για την προστασία δεδομένων

ΔΙΟΙΚΗΤΙΚΟ ΔΙΚΑΙΟ - ΠΡΟΣΩΠΙΚΑ ΔΕΔΟΜΕΝΑ

ΚΟΜΝΙΟΣ ΚΟΜΝΗΝΟΣ

Γενικός κανονισμός για την προστασία δεδομένων

ΔΙΟΙΚΗΤΙΚΟ ΔΙΚΑΙΟ - ΠΡΟΣΩΠΙΚΑ ΔΕΔΟΜΕΝΑ

ΚΟΜΝΙΟΣ ΚΟΜΝΗΝΟΣ

του Παναγιώτη Μαντζούφα, Καθηγητή Συνταγματικού Δικαίου στη Νομική Σχολή του ΑΠΘ1

Στην εισήγησή μου θα προσπαθήσω θα θίξω ορισμένες καινοφανείς απειλές της ελευθερίας του λόγου που αναπτύσσονται στο περιβάλλον του διαδικτύου και ειδικότερα στα μέσα κοινωνικής δικτύωσης, απειλές που έχουν άμεσες πολιτικές επιπτώσεις και μπορούν να επηρεάσουν άμεσα και έμμεσα μια εκλογική διαδικασία2. Η επισήμανση των φαινομένων που έτσι και αλλιώς είναι περίπλοκα και παρουσιάζουν τεχνολογικές, νομικές και πολιτικές ιδιαιτερότητες θα είναι περιγραφική και η ανάλυση στοιχειώδης. Θα ολοκληρώσω την παρουσίαση με την νομική αποτίμηση, εντελώς αδρομερώς, των φαινομένων αυτών στην Ευρώπη και στις ΗΠΑ και με την σκιαγράφηση των χαρακτηριστικών του ψηφιακού δημόσιου χώρου.

Σε ένα περιβάλλον διαδικτυακής υπερδραστηριότητας τόσο τα κράτη όσο και οι διεθνείς οργανισμοί στην προσπάθειά τους να προστατεύσουν σημαντικά έννομα αγαθά όπως η προσωπικότητα και η δημόσια τάξη στην ευρύτερη της διάσταση θέτουν σε δοκιμασία την ίδια την ελευθερία του λόγου ενθαρρύνοντας πρακτικές άμεσης και έμμεσης λογοκρισίας που ασκούνται από τις ίδιες τις εταιρίες των διαδικτυακών υπηρεσιών.

Μορφές προσβολών της ελευθερίας του λόγου στο διαδίκτυο.

1. Οι μεγάλες διαδικτυακές εταιρίες, όπως η Google και η Facebook, σπεύδουν συχνά να συμμορφωθούν σε μέτρα και υποδείξεις κυβερνήσεων περιοριστικά της ελευθερίας της έκφρασης των χρηστών και προς αποφυγή κυρώσεων, όταν, μέσω των υπηρεσιών που παρέχουν, ασκείται από τους χρήστες κριτική σε κρατικές ενέργειες ή αναπτύσσονται αντιπολιτευτικές πρωτοβουλίες3. Η στάση αυτή δεν αποτελεί μια απλή συμμόρφωση στις επιταγές του εκάστοτε κρατικού αυταρχισμού, αλλά οι ίδιες οι εταιρίες την αντιλαμβάνονται ως το τίμημα που πληρώνουν προκειμένου να διατηρήσουν την θέση τους σε μεγάλες αγορές και την κερδοφόρα διαφημιστική αξιοποίηση των προσωπικών δεδομένων των χρηστών4. Χαρακτηριστική είναι η περίπτωση της συμπεριφοράς τους στην Κίνα, όταν η κινεζική κυβέρνηση επέβαλλε απαγορεύσεις αναρτήσεων χρηστών και η Yahoo τις αποδέχθηκε.

Επιπλέον, οι ίδιες αυτές εταιρίες συνεργάζονται συχνά με τις κυβερνήσεις, προωθώντας σε αυτές δεδομένα πολιτών, με την δικαιολογία ότι με τον τρόπο αυτό εντοπίζονται υποθέσεις τρομοκρατίας, διεθνούς εγκληματικότητας και γενικότερα απειλών της εθνικής ασφάλειας. Μια από τις συνέπειες αυτής της δωρεάν πρόσβασης των πολιτών στον μαγικό κόσμο των κοινωνικών δικτύων είναι η πιθανή ένταση της επιτήρησης που τους ασκείται από τα συνεργαζόμενα κράτη5. Είναι ενδεικτική έκφραση του ίδιου φαινομένου η σχετικά πρόσφατη εμπλοκή του Facebook στις έρευνες της εθνικής υπηρεσίας ασφάλειας των ΗΠΑ που περιλάμβανε τηλεφωνικές υποκλοπές. Χαρακτηριστικό είναι το παράδειγμα του προγραμματιστή Σνόουντεν ο οποίος κατηγορείται ότι αποκάλυψε τον τρόπο με τον οποίο δεδομένα πολιτών διοχετεύονταν στην υπηρεσία εθνικής ασφάλειας των ΗΠΑ (NSA) και έκτοτε διώκεται από τις αμερικάνικες αρχές.

Αυτή είναι μια πρώτη μορφή παρέμβασης των εταιριών που παρέχουν υπηρεσίες διαδικτύου στο πεδίο των δικαιωμάτων των πολιτών, που προσβάλλει την ελευθερία του λόγου και τα προσωπικά τους δεδομένα, ενώ επηρεάζει άμεσα και την πολιτική τους συμπεριφορά, καθώς τα κράτη επειδή τους μεταβιβάζονται λεπτομερείς πληροφορίες από τις εταιρίες, κυρίως των Μέσων Κοινωνικής Δικτύωσης (ΜΚΔ), για τις απόψεις, τα συναισθήματα και τις επιθυμίες του μέσου πολίτη, μπορούν είτε να προλαμβάνουν την όποια κοινωνική δυσαρέσκεια είτε να ασκούν αποδοτικότερα πολιτικές επιτήρησης.

Οι διαδικτυακές εταιρίες ως παραγωγοί πληροφοριών και ειδήσεων

2. Στην αρχική τους μορφή οι εταιρίες των ΜΚΔ επεδίωκαν να παρέχουν ένα περιβάλλον διασύνδεσης και επικοινωνίας, μια δίοδο πληροφοριών, μεταξύ των χρηστών, χωρίς να παρεμβαίνουν στο περιεχόμενο των μηνυμάτων που ανταλλάσσονταν. Στην πορεία όμως εξελίχθηκαν σε κύρια πηγή δημοσιεύσεως άμεσων πληροφοριών με δημοφιλία και αναγνωρισιμότητα συχνά μεγαλύτερη των κλασικών δημοσιογραφικών πηγών ενημέρωσης6, συνήθως αναπαράγοντας, κατ’ επιλογήν, ειδήσεις που αντλούσαν από τα παγκόσμια ειδησιογραφικά πρακτορεία, αλλά όχι μόνο. Ας θυμηθούμε ότι η είδηση του θανάτου του Bin Laden πρώτα διέρρευσε στο Twitter, ενώ ο πρόεδρος Trump συχνά ανακοίνωνε την παύση υπουργών και γενικότερα αξιωματούχων από το ίδιο μέσο7.

Εδώ, η αμεσότητα και η ταχύτητα της μετάδοσης ειδήσεων συχνά αντιστρατεύεται την θεμελιώδη δημοσιογραφική λειτουργία της διασταύρωσης και αξιολόγησης των μεταδιδόμενων πληροφοριών. Στην πράξη, οι συγκεκριμένες εταιρίες είτε με τις κατηγοριοποιήσεις και επιλογές των πληροφοριών, είτε με τις απαγορεύσεις που εισάγουν στις αναρτήσεις των χρηστών, ακολουθούν πολιτικές που προσομοιάζουν με μονομερείς συμβάσεις προσχώρησης στις οποίες οφείλουν να προσαρμοστούν οι χρήστες. Το δικαίωμά τους στις ανωτέρω πρακτικές οι εταιρίες ΜΚΔ το θεμελιώνουν στην δική τους ελευθερία της έκφρασης8.

Η πρακτική αυτή ευνοείται από τα ίδια τα κράτη διότι για τεχνολογικούς, οικονομικούς και διοικητικούς λόγους δεν επιθυμούν να αναλάβουν το κόστος των ελέγχων του διαδικτύου αφήνοντας ελεύθερες τις εταιρίες να διαμορφώσουν πολιτικές διαχείρισης που προσπαθούν να συμβιβάσουν αφενός το επιχειρηματικό τους μοντέλο που βασίζεται στην ανεμπόδιστη ροή πληροφοριών που παρέχουν άφθονα δεδομένα προς εμπορική αξιοποίηση, και αφετέρου την υποχρέωση για απαγόρευση κάθε επίμεμπτου περιεχομένου που προσβάλλει έννομα αγαθά, όπως προβλέπει η νομοθεσία των περισσοτέρων κρατών9 και οι αντίστοιχες διεθνείς συμβάσεις. Αυτοί οι στόχοι, που επιτυγχάνονται και μέσω της αξιοποίησης αλγορίθμων, συχνά συγκρούονται, με την πρόσθετη δυσκολία ως προς την επίτευξη συμβιβασμών, ότι οι διαδικτυακές εταιρίες πρέπει να εφαρμόσουν ενιαία πολιτική και κριτήρια ελέγχου που να ανταποκρίνονται σε ένα παγκόσμιο μέσο όρο προστασίας στον οποίο οι χρήστες οφείλουν να προσαρμοστούν, καθώς είναι δυσχερέστερο και ίσως ανέφικτο να διαμορφώσουν διαφορετική πολιτική ανά κράτος10.

Αυτή είναι μια δεύτερη μορφή εμπλοκής των εταιριών με την ελευθερία του λόγου, με αποτέλεσμα στην πράξη να ασκείται λογοκρισία από ιδιωτικούς φορέα11 δηλαδή από εταιρίες με χαρακτηριστικά ολιγοπωλιακής υπερσυγκέντρωσης, που υιοθετούν συχνά αδιαφανή κριτήρια κατά τρόπο που μπορεί να επηρεάσει τον πολιτικό ανταγωνισμό.

Οι αλγόριθμοι και η ελευθερία του λόγου

3. Μια τρίτη μορφή παρέμβασης στην πολιτική διαμάχη που απορρέει από την πρακτική των εταιριών του διαδικτύου είναι η εκτεταμένη χρήση αλγορίθμων μέσω των οποίων διαμορφώνεται, με αυτοματοποιημένο τρόπο, το καταναλωτικό ή/και το πολιτικό προφίλ των χρηστών προκειμένου να αξιοποιηθεί για τη διαφήμιση προϊόντων και υπηρεσιών και, σε ένα άλλο επίπεδο να επιτευχθεί ο επηρεασμός της πολιτικής τους συμπεριφοράς12. Υπάρχει πλέον η στοχευμένη διαφήμιση που είναι εξαιρετικά ανταποδοτική, καθώς στο Facebook, για παράδειγμα, με τα κατάλληλα εργαλεία διαμορφώνεται ένα πολύ αναλυτικό και στατιστικά έγκυρο προφίλ του κάθε χρήστη. Επίσης, οι υπηρεσίες ασφάλειας, όπως είδαμε, και οι εισαγγελείς ζητούν να έχουν πρόσβαση στα αρχεία των ΜΚΔ για λόγους δημόσιας ασφάλειας και καταπολέμησης της εγκληματικότητας και συχνά στις ΗΠΑ προκύπτουν ένδικες διαμάχες για παρόμοια αιτήματα όταν οι εταιρίες αρνούνται την παροχή των αρχείων13.

Σε ένα άλλο επίπεδο είναι χαρακτηριστικό το σκάνδαλο με την εταιρία Gambrige Analytica, όπου συγκεντρώθηκαν τα προσωπικά δεδομένα μερικών εκατομμυρίων χρηστών και των ακολούθων τους οι οποίοι με βάση το πολιτικό τους προφίλ -που σχηματίσθηκε από απαντήσεις που έδιναν σε ένα ψυχομετρικό τεστ- έγιναν αντικείμενο στοχευμένης πολιτικής προπαγάνδας, διοχετεύοντας στους χρήστες προσωποποιημένο περιεχόμενο βασιζόμενο σε προϋπάρχουσες προτιμήσεις τους14. Σκοπός της τακτικής αυτής ήταν να δεσμεύσουν την προσοχή των χρηστών και να επηρεάσουν τις απόψεις τους σε σχέση με συγκεκριμένες πολιτικές επιλογές, εν προκειμένω για λογαριασμό του υποψήφιου Προέδρου Trumb, διαδικασία που, κατ’ εκτιμήσεις, συνέβαλε στην νίκη του. Από αυτή την ιστορία συνάγεται ότι οι αλγόριθμοι που είναι προγραμματισμένοι να επιλέγουν το περιεχόμενο των μηχανών αναζήτησης μπορούν να χειραγωγούν τους χρήστες και να οδηγήσουν την συμπεριφορά τους σε προβλέψιμες κατευθύνσεις15. Προκύπτει, υπό αυτή την έννοια, μια «ευθύνη των αλγορίθμων» διότι μέσω αυτών επιταχύνεται και αυξάνεται η κυκλοφορία των μηνυμάτων και επομένως θα πρέπει να μας προβληματίσουν τα χαρακτηριστικά που αποκτούν οι αλγόριθμοι μέσω του προγραμματισμού που τους έχει γίνει και η μεγάλη επιρροή που μπορούν να ασκήσουν στον τρόπο με τον οποίο διεξάγεται ο πολιτικός διάλογος και η πολιτική διαφήμιση.

Διαδεδομένο επιπλέον είναι και το φαινόμενο των λεγόμενων fake news καθώς και των διαδικτυακών troll μέσω των οποίων δεν ασκείται βέβαια άμεση λογοκρισία, αλλά επιδιώκεται, συχνά, ο εξευτελισμός και η διαπόμπευση ενός προσώπου16, πρακτικές που φημολογείται ότι υιοθετήθηκαν από το ίδιο επιτελείο του Trump εις βάρος της συνυποψήφιάς του Χ. Κλίντον, γεγονός που, κατά εκτιμήσεις, επηρέασε καθοριστικά το αποτέλεσμα των προτελευταίων προεδρικών εκλογών στην ΗΠΑ. Παρόμοιες πρακτικές κατακερματισμού και πόλωσης εφαρμόστηκαν και στην περίπτωση της προεκλογικής περιόδου του δημοψηφίσματος για το Brexit σε έναν ακήρυχτο κυβερνοπόλεμο με μεγάλες πολιτικές και οικονομικές διαστάσεις, όπου ήταν πολύ εύκολο να διασπαρεί στο κοινό στρεβλό ή ακόμα και κατασκευασμένο περιεχόμενο, παρανοϊκές θεωρίες συνομωσία και ωμά ψεύδη17. Έχει παρατηρηθεί ότι οι εκστρατείες παραπληροφόρησης(bots) και της χρήσης trolling στο διαδίκτυο τροφοδοτείται από τις κρίσεις, θρέφεται από αυτές και τις ενισχύει σε ένα φαύλο κύκλο αλληλεξάρτησης. Κάθε θεσμός είναι πλέον ευάλωτος στην κλιμάκωση της παραπληροφόρησης και της ρητορικής μίσους.

4. Επιρροή στην ελευθερία του λόγου ασκούν, όπως επισημαίνεται, και οι ίδιες οι μηχανές αναζήτησης, όταν ο χρήστης αναζητά πληροφορίες, οι οποίες μολονότι αντλούνται με την χρήση αυτοματοποιημένων αλγορίθμων, ενσωματώνουν στο αποτέλεσμα της αναζήτησης τις βασικές επιλογές της πλατφόρμας και άρα επιτελούν, όπως αναγνώρισε η αμερικάνικη νομολογία, μια λειτουργία άσκησης ελευθερίας του λόγου18. Προς την αναγνώριση ευθύνης για την μετάδοση και φιλοξενία πληροφοριών κινείται με διστακτικά βήματα και η νομοθεσία της ΕΕ, ιδίως σε θέματα προστασίας της πνευματικής ιδιοκτησίας, και εφόσον διαπιστωθεί γνώση εκ μέρους των εταιριών της παραβατικότητας του περιεχομένου των ιστοσελίδων που φιλοξενούνται.

Στις περιπτώσεις αυτές εύλογα προτείνεται η θεωρία του συμβούλου, έναντι των θεωριών του εκδότη και του αγωγού19. Σύμφωνα με την θεωρία αυτή η μηχανή αναζήτησης -και συνακόλουθα όσοι είναι υπεύθυνοι για την λειτουργία της- δεν αποτελεί έναν απρόσωπο αγωγό του λόγου, αλλά δεν μπορεί να της αποδοθεί και η πλήρης ευθύνη του εκδότη του, αλλά φέρει ευθύνη και οφείλει να δεχθεί την κρατική παρέμβαση όταν περιορίζει την διαθεσιμότητα του περιεχομένου σε περιπτώσεις π.χ ιστοσελίδων διχαστικού λόγου ή λόγου που διαδίδει απόψεις και αναμεταδίδει εικόνες και βίντεο από ενέργειες τρομοκρατών.

Ένα πέμπτο σημείο παρέμβασης στην ελευθερία του λόγου αφορά στη σχέση μεταξύ ΜΚΔ και κυβερνητικών οργάνων.

Η κυβερνητική χρήση των μέσων κοινωνικής δικτύωσης και η ελευθερία του λόγου.

5. Τα κυβερνητικά όργανα συχνά εισέρχονται ως χρήστες στα ΜΚΔ, όταν χρησιμοποιούνται οι πλατφόρμες τους για ανακοινώσεις αλλά και δημοσιοποίηση των θέσεων των κυβερνητικών οργάνων πάνω σε ζητήματα της επικαιρότητας. Το γεγονός ότι η κάθε κυβέρνηση έχει επίσημους λογαριασμούς στο Facebook και στο Twitter δεν αποτελεί παρά πανηγυρική επιβεβαίωση της κυριαρχίας των νέων μέσων στο επίπεδο της επικοινωνίας20. Το ότι η πλατφόρμα ανήκει σε ιδιώτη δεν μεταβάλλει το επίπεδο της ευθύνης των οργάνων για δηλώσεις και τοποθετήσεις τους, ούτε τη λογοδοσία και την υποχρέωση διαφάνεια που οφείλουν να επιδεικνύουν21.

Μπορεί στα ΜΚΔ η φύση της επικοινωνίας να είναι περισσότερο άμεση και ταχεία, αλλά η αμεσότητα της μετάδοσης δεν μπορεί να μειώσει το επίπεδο της ευθύνης για πράξεις και παραλείψεις που έχουν εξαγγελθεί με αυτόν το μέσο από τους κυβερνώντες και που οπωσδήποτε δεσμεύουν τα κρατικά όργανα22. Στην ίδια λογική, εφόσον τούτο προβλέπεται, ο κάθε υπάλληλος που διαθέτει λογαριασμό της υπηρεσίας του είτε στα ΜΚΔ, είτε υπηρεσιακό mail, δικαιούται να κάνει χρήση τηρώντας την εχεμύθεια και διακριτικότητα που απαιτεί η θέση του στην ιεραρχία της δημόσιας διοίκησης. Το προϊόν της δραστηριότητας αυτής συνιστά δημόσιο αρχείο, κατά την έννοια του ν. 4610/2019, και πρέπει να διατηρείται στα δημόσια αρχεία του κράτους.

Εκτιμώ, ότι, υπό αυτούς τους όρους, το κράτος, δια των οργάνων του, δεν ασκεί το δικαίωμα της ελευθερίας του λόγου, αλλά ασκεί αρμοδιότητες ενημέρωση του κοινού που υπόκεινται σε έλεγχο και λογοδοσία, ορίζοντας ένα νέο χώρο ψηφιακών κυβερνητικών ανακοινώσεων. Το πρόβλημα βέβαια ξεκινάει όταν θα πρέπει να διαχωρίσουμε το προσωπικό φορέα του οργάνου που τυχόν διατυπώνει απόψεις επί γενικών θεμάτων κάνοντας χρήση του επίσημου λογαριασμού που του έχει διαθέσει η κυβέρνηση ή ακόμα και την περίπτωση όπου το ίδιο όργανο χρησιμοποιεί τον προσωπικό του λογαριασμό στα ΜΚΔ για να εξαγγείλει κυβερνητικές πρωτοβουλίες23. Εκεί, τίθενται ζητήματα ελευθερίας του λόγου και πιθανής σύγκρουσης μεταξύ της πολιτικής που ακολουθεί ένα ΜΚΔ σε σχέση π.χ με τα επιτρεπόμενα σχόλια των ακολούθων ή τρίτων επί των αναρτήσεων του κυβερνητικού οργάνου που ενίοτε διατυπώνει προσωπικές απόψεις.

Σε κάθε περίπτωση η λογική των συγκεκριμένων μέσων είναι συνυφασμένη με τον ζωντανό διαδικτυακό διάλογο, τον οποίο θα πρέπει να αποδεχθεί το κυβερνητικό όργανο, αποκλείοντας βέβαια υβριστικά, ρατσιστικά και προσβλητικά σχόλια. Όπως έχει κριθεί από το Ομοσπονδιακό Πολιτειακού Εφετείο της 4ης περιφέρειας των ΗΠΑ24, τα σχόλια επί κυβερνητικών απόψεων που διατυπώνονται σε επίσημο λογαριασμό ΜΚΔ δεν μπορούν να αποκλείονται διότι αποτελούν έκφραση της ελευθερίας του λόγου των χρηστών και ενάσκηση του νόμιμου δικαιώματος άσκησης κριτικής στην κυβερνητική εξουσία. Σε πρόσφατη μάλιστα απόφαση δικαστηρίου της Ν. Υόρκης25 κρίθηκε ότι ο αποκλεισμός χρηστών και η αποτροπή υποβολής σχολίων σε tweetαπό τον Πρόεδρο των ΗΠΑ(περίοδος της Προεδρίας του D.Trump) συνιστά παραβίαση του δικαιώματος τρίτων να πληροφορούνται για το περιεχόμενο αυτών των σχολίων, και ως εκ τούτου προστατευτέο είναι το διαδραστικό στοιχείο του λογαριασμού και όχι ο λογαριασμός στο σύνολό του26.

Σημαίνουσα είναι και η εντελώς πρόσφατη περίπτωση με το λογαριασμό του απερχόμενου Προέδρου Trump στο Twitter. Mε αφορμή τα επεισόδια στο Καπιτώλιο και την ενθάρρυνση που έδωσε ο Trumb σε οπαδούς του που αμφισβητούσαν το αποτέλεσμα των τελευταίων αμερικάνικων εκλογών για την Προεδρία, επέβαλε διακοπή -που ήρθη μετά από μερικές μέρεςστον προσωπικό του λογαριασμό στο Twitter και το ίδιο έκανε στην συνέχεια και το Facebook, το YouTube και το Instagram. Όταν ο D.Trump αποπειράθηκε την επομένη να απαντήσει, μετά την αναστολή του προσωπικού του λογαριασμού, μέσω του επίσημου λογαριασμού της προεδρίας (@POTUS), απευθυνόμενος στους «75 εκατομμύρια αμερικανούς πατριώτες» που τον ψήφισαν, τα μηνύματά του διαγράφτηκαν πάραυτα από τους διαχειριστές του Twitter.

«Το να χρησιμοποιείται άλλος λογαριασμός για να παρακάμπτεται η αναστολή αντίκειται στους κανόνες χρήσης μας», εξήγησε εκπρόσωπος της εταιρείας. Η επιλογή αυτή του Twitter επικρίθηκε σε Αμερική και Ευρώπη σε επίπεδο ηγετών27 αλλά και από Αμερικανούς συνταγματολόγους και σχολιαστές της επικαιρότητας. Εναλλακτική επιλογή, αντί της απαγόρευσης, θα μπορούσε να είναι, σε αυτή την οριακή περίπτωση, η αποσύνδεση του λογαριασμού που περιέχει το επίμεπτο μήνυμα από την ενεργό διάδοση του μέσω των προτάσεων της πλατφόρμας.

Αναφερόμενος σε αυτά τα φαινόμενα ο Ευρωπαίος Επίτροπος Τ. Μπρετόν28 κάνει λόγο για έναν «ισχυρό μα άνευ κανονισμών» ψηφιακό χώρο, που θυμίζει «Άγρια Δύση» και τονίζει πως «δεν μπορούμε να μένουμε άπραγοι και να βασιζόμαστε στην καλή θέληση αυτών των πλατφορμών ή την τεχνηέντως ερμηνεία του νόμου. Πρέπει να θέσουμε τους κανόνες του παιχνιδιού και να οργανώσουμε τον ψηφιακό χώρο με ξεκάθαρα δικαιώματα, υποχρεώσεις και δικλείδες ασφαλείας...είναι θέμα επιβίωσης των δημοκρατιών μας στον 21ο αιώνα». Στη συνέχεια υπογραμμίζει πως η Ευρώπη έχει δραστηριοποιηθεί προς αυτή την κατεύθυνση μέσω νομοθετικών πρωτοβουλιών (Digital Services Act, Digital Markets Act). Με τους προτεινόμενους κανονισμούς η Ευρωπαϊκή Επιτροπή φαίνεται να αναλαμβάνει την ευθύνη να ορίσει η ίδια το επιβλαβές περιεχόμενο, δυνατότητα που είχε εκχωρήσει μέχρι πρότινος στις ίδιες τις ψηφιακές εταιρείες.

Τα διαφορετικά επίπεδα προστασίας της ελευθερίας του λόγου σε Ευρώπη και Αμερική και πως αυτά επηρεάζουν την προστασία της στα ΜΚΔ.

Η ολιγοπωλιακή συγκέντρωση των ΜΚΔ σε λίγες εταιρίες -η ίδια η δομή του διαδικτύου ενθαρρύνει τα μονοπώλια29- οι οποίες δραστηριοποιούνται σε ένα υπερεθνικό περιβάλλον όπου απουσιάζει οποιαδήποτε ενιαία ρυθμιστική πρόβλεψη, θέτει δυσεπίλυτα ζητήματα προστασίας της ελευθερίας του λόγου και ευθύνης30, που αν δεν αντιμετωπιστούν σε παγκόσμιο επίπεδο με συμφωνίες και κώδικες συμπεριφοράς μεταξύ των συγκεκριμένων εταιριών και διεθνών οργανισμών και κρατών θα αναπαράγονται συνεχώς θεωρίες συνωμοσίας, κακόβουλα ψεύδη και δολοφονίες χαρακτήρων.

Στην νομοθεσία των περισσοτέρων κρατών το μοντέλο της ρύθμισης της ελευθερίας του λόγου στα Μέσα Μαζικής Ενημέρωσης(ΜΜΕ) βασίζεται, πέραν της ευθύνης του συντάκτη του δημοσιεύματος, στην αρχή της αντικειμενικής ευθύνης του ιδιοκτήτη, εκδότη και αρχισυντάκτη του ΜΜΕ στο οποίο φιλοξενείται το δημοσίευμα που τυχόν θίγει την τιμή και την υπόληψη παντός ατόμου, διότι αναγνωρίζεται ότι υπάρχει μια σχέση εξάρτησης μεταξύ δημοσιογράφου και ιδιοκτησίας του μέσου. Παρά το γεγονός ότι στα ΜΚΔ αυτή η εξάρτηση απουσιάζει31 και η νομοθεσία (Π.Δ 131/2003) δεν αναγνωρίζει εκ προοιμίου ευθύνη της πλατφόρμας για τις αναρτήσεις των χρηστών, η απειλή κυρώσεων εναντίων τους, αν δεν κατεβάσουν την παράνομη ανάρτηση, τα οδηγεί να εισάγουν μορφές προληπτικής λογοκρισίας32 που κατά το ελληνικό Σύνταγμα (άρθρο 14 παρ. 3) επιτρέπονται μόνο υπό αυστηρές προϋποθέσεις και για συγκεκριμένες μορφές προσβολών, υπό τον τελικό έλεγχο της δικαιοσύνης. Στην περίπτωση της Αμερικής, χαρακτηριστικό είναι το ζήτημα που έχει προκύψει σχετικά με την ανάκληση ή τροποποίηση του άρθρου § 230 του Communications Decensy Act , που απαλλάσσει τις διαδικτυακές εταιρίες των ΜΚΔ από την νομική ευθύνη ως προς το περιεχόμενο των αναρτήσεων των χρηστών33.

Οι περισσότερες από αυτές τις εταιρίες έχουν έδρα τις ΗΠΑ και υπάγονται στην δικαιοδοσία του Αμερικανικού δικαίου και της 1ης Τροπολογίας που προστατεύει την ελευθερία του λόγου. Σύμφωνα με αυτή και την αντίστοιχη νομολογία του Supreme Court η προστασία του δημόσιου πολιτικού λόγου είναι απόλυτη, εξαιρουμένης της δημοσιοποίησης ψευδών γεγονότων και λόγου μίσους που μπορεί να προκαλέσει συμπεριφορές απειλητικές για την κοινωνική ειρήνη34. Χωρίς να έχω την πρόθεση να αναλύσω το τεράστιο αυτό ζήτημα για την διευκόλυνση της συζήτησης θα πω ότι το Δικαστήριο έχει επεξεργαστεί αντικειμενικά κριτήρια που υιοθετούνται στην διαδικασία επίλυσης των σχετικών διαφορών και οι περιορισμοί που επιβάλλει ο νομοθέτης ελέγχονται με μεγάλη αυστηρότητα σε αντίθεση με την κοινή στα ευρωπαϊκά δικαστήρια πρακτική της ad hoc στάθμιση μεταξύ των αντικρουόμενων δικαιωμάτων35.

Από την άλλη, σύμφωνα με την 1η Τροπολογία του Αμερικανικού Συντάγματος, οι ιδιωτικοί φορείς που έχουν την κυριότητα των ΜΚΔ δεν δεσμεύονται από την ελευθερία του λόγου διότι στην αμερικάνικη θεωρία και νομολογία, τα δικαιώματα που περιέχονται στον Κατάλογο των Δικαιωμάτων του Αμερικάνικου Συντάγματος δεν τριτενεργούν και δεν δεσμεύουν ιδιώτες καθώς οι τελευταίοι έχουν, ως φορείς του ίδιου δικαιώματος, την διακριτική ευχέρεια να αποσύρουν ή να απαγορεύουν περιεχόμενο, κατά την κρίση τους36. Αντίθετα, στην Ευρώπη με αφορμή της τρομοκρατικές επιθέσεις σε Παρίσι και Βρυξέλες, η Ευρωπαϊκή Επιτροπή απαίτησε από τις πλατφόρμες, υπό την απειλή κυρώσεων, να κατεβάσουν αναρτήσεις που διαδίδουν μηνύματα τρομοκρατών και να δεσμευτούν οι ίδιες σε ένα κώδικα συμπεριφοράς για την καταπολέμηση του διχαστικού λόγου και της ρητορικής μίσους. Η γαλλική κυβέρνηση προσπάθησε το περασμένο χρόνο(2020) να περάσει νομοσχέδιο για να περιορίσει την δραστηριότητα όσων κηρύσσουν το μίσος -κυρίως αναρτήσεις φονταμενταλιστών ισλαμιστώνστο διαδίκτυο. Όμως, το Συνταγματικό Συμβούλιο απέρριψε το νόμο με το επιχείρημα ότι μια τέτοια απαγόρευση έρχεται σε αντίθεση με την ελευθερία του λόγου.

Βέβαια οι μεγάλες διαφορές μεταξύ των δύο δικαιοταξιών παραμένουν στο επίπεδο της προστασίας των προσωπικών δεδομένων με την ισχύ στο επίπεδο της Ευρωπαϊκής Ένωσης του ΓΚΠΔ και των σχετικών πρωτοβουλιών της Επιτροπής για νέες ρυθμίσεις.

Το τελευταίο σημείο που θα ήθελα να θίξω αφορά στην αντιμετώπιση των fake news τόσο από τις εταιρίες ΜΚΔ και από τον νομοθέτη.

Μέσα αντίδρασης απέναντι στα fake news από τις εταιρίες του διαδικτύου, από τη διεθνή κοινότητα και τα κράτη.

Χωρίς να ανοίξουμε την τεράστια συζήτηση για το τι συνιστά ψευδολογία, πρέπει να αποδεχθούμε ότι η ανωνυμία και η ψευδωνυμία των χρηστών ευνοεί την διάδοση ψευδών ειδήσεων στο διαδίκτυο και ειδικότερα στα ΜΚΔ. Είναι προφανές ότι η ψευδολογία δεν αφορά απόψεις αλλά γεγονότα τα οποία είτε εμφανίζονται παραποιημένα, είτε είναι εντελώς επινοημένα37. Αν ένα ψέμα δεν επηρεάζει την δράση των ανθρώπων ή τις επιλογές τους και δεν γίνεται πιστευτό τότε είναι πράξη νομικά αδιάφορη38. Εδώ, η αξιοπιστία μιας είδησης -στο βαθμό που δεν συνδέεται με την αξιοπιστία της πηγής και δεν υπάρχει ο μηχανισμός ελέγχου που εφαρμόζεται στην παραδοσιακή δημοσιογραφία39, λόγω ταχύτητας διάδοσης και ανεξέλεγκτης παραγωγής πληροφοριών απ’ τον καθένα- είναι πρακτικά δύσκολα ελέγξιμη, ενώ μπορεί, πιθανόν, να προκαλέσει πολιτικά και επικοινωνιακά αποτελέσματα ουσιαστικά μη αναστρέψιμα. Η δε επιβεβαίωση της αλήθειας, όταν και αν επισυμβεί, σπανίως θα αποκαταστήσει τη ζημιά που προκλήθηκε, όπως είδαμε με τα παραδείγματα της επικράτησης Trump και την προεκλογική εκστρατεία υπέρ του Brexit. Υπάρχει άραγε μηχανισμός ή ρυθμιστική παρέμβαση αποτροπής της διάδοσης της ψευδολογίας και μετριασμού των συνεπειών της, ιδιαίτερα στον πολιτικό στίβο και σε μια χρονικά περιορισμένη προεκλογική περίοδο; Εδώ ο προβληματισμός αφορά στο αν η ευθύνη του ελέγχου πρέπει να ανατίθεται σε ανεξάρτητες αρχές ή σε μηχανισμούς που θα εγκαθιστούν οι ίδιες οι εταιρίες ή στα ίδια τα κρατικά όργανα και βέβαια τις επιπτώσεις που θα έχει η μία ή η άλλα επιλογή ως προς το επίπεδο προστασίας της ελευθερίας του λόγου40.

Στο ζήτημα αυτό η Ευρωπαϊκή Επιτροπή αντιλαμβανόμενη, ότι λόγω του τεράστιου όγκου των αναρτήσεων και της απίστευτης γραφειοκρατικής επιβάρυνσης που θα προέκυπτε για οποιοδήποτε δημόσια υπηρεσία ή ανεξάρτητη αρχή αναλάμβανε αυτό το καθήκον, κατέληξε, στο παρελθόν, ότι πρέπει να υπάρχει συνεννόηση με τους μεγαλύτερους παρόχους υπηρεσιών προκειμένου να επιτύχει τη δική τους αυτοδέσμευση. Εδώ, προτείνονται διάφορα σχήματα ελέγχου, όπως είναι η επιλογή του Facebook για συνεργασία με ανεξάρτητους τρίτους ελεγκτές γεγονότων (fact checkers) και με αρμόδια ινστιτούτα που αναλαμβάνουν τον έλεγχο της αξιοπιστίας των γεγονότων που αναρτώνται. Το Facebook έτσι μεταθέτει την ευθύνη σε αυτά τα ανεξάρτητα όργανα41. Η διαδικασία συνήθως ξεκινά από αναφορές χρηστών ή με την διενέργεια αυτεπάγγελτου ελέγχου. Είναι δε χαρακτηριστικό ότι σε προεκλογικές περιόδους το Facebook αρνείται να ελέγξει την αξιοπιστία των πολιτικών διαφημίσεων, ενώ έχει δημιουργήσει μια Ανεξάρτητη Επιτροπή Επίβλεψης (Oversight Board) στο πλαίσιο μιας πολιτικής αυτορρύθμισης που αποτελείται από διεθνείς προσωπικότητες και πρώην δικαστές προκειμένου να προσδώσει κύρος στην διαδικασία. Το όργανο αυτό που εξέδωσε την πρώτη απόφαση στις 28/1/2021 αποτελεί ένα οιονεί ιδωτικοποιημένο ανώτατο «δικαστήριο» ως έκφραση αυτού που ονομάστηκε στην θεωρία ως «κοινωνιακός συνταγματισμός»42.

Επιπλέον, η τάση είναι να ανατίθεται ο έλεγχος σε αλγορίθμους43 -οπότε η ευθύνη αφορά στον προγραμματισμό τους και τα κριτήρια που υιοθετήθηκαν για την άσκηση ελέγχου- χωρίς αυτή η τακτική να αποσείει την ευθύνη των εταιριών. Αντιθέτως, το Twitter αναλαμβάνει το ίδιο με δικά του όργανα να κάνει τον σχετικό έλεγχο. Οι επιλογές αυτές ενέχουν τρεις σοβαρότατους κινδύνους: α) οι διαδικτυακές πλατφόρμες, υιοθετώντας οποιαδήποτε από τις αυτορρυθμιστικές λύσεις που είδαμε παραπάνω, ασκούν λογοκρισία στους χρήστες τους, χωρίς να διασφαλίζεται ότι τα όργανα αυτά έχουν τα εχέγγυα και τις προϋποθέσεις φερεγγυότητας να διατυπώσουν αμερόληπτες κρίσεις44 . β) Στην προσπάθειά τους να προσαρμοστούν στις αυστηρότερες απαιτήσεις και τους περιορισμούς στην ελευθερία της έκφρασης που θέτει η Ευρωπαϊκή Επιτροπή και ορισμένες νομοθεσίες κρατών ( βλέπε π.χ την περίπτωση παραβίασης του γερμανικού νόμου περί ρητορικής μίσους45), οι διαδικτυακές εταιρίες σπεύδουν να διαγράψουν αναρτήσεις χρηστών που περιέχουν προσβολές, ενώ δεν προβλέπεται νομική κύρωση σε περίπτωση διαγραφής περιεχομένου που εκ των υστέρων αποδεικνύεται ότι δεν ενέπιπτε στις απαγορεύσεις και ήταν τελικά νόμιμο. Σε αυτή την περίπτωση, ο χρήστης έχει μόνο ως δυνατότητα να ζητήσει την αναθεώρηση της αξιολόγησης, αποδεχόμενος ωστόσο αυτή την έμμεση λογοκρισία, ιδίως όταν η ανάρτησή του είναι στο μεταίχμιο μεταξύ αλήθειας και ψεύδους. γ) Είναι δυνατόν οι πλατφόρμες αυτές να εντάξουν τις περιοριστικές αυτές πρακτικές στους όρους χρήσης τους και στις πολιτικές που εξαγγέλλουν, όπως είπαμε, με αποτέλεσμα αυτές να ανταποκρίνονται σε παγκόσμια κριτήρια, δηλαδή να εφαρμόζονται όπου υπάρχει π.χ Facebook, υπονομεύοντας το επίπεδο προστασίας της ελεύθερης έκφρασης σε χώρες με πιθανόν υψηλότερο επίπεδο προστασίας (π.χ. ΗΠΑ ή Μεγάλη Βρετανία)46.

Στην πράξη, λόγω της πρωτοφανούς επιρροής, τους οι πλατφόρμες συγκροτούν την ίδια τη ψηφιακή δημόσια σφαίρα και δεν συνιστούν απλώς τα μέσα που παρεμβαίνουν σε αυτή. Η δυνατότητά τους να επιβάλουν όντως τον αποκλεισμό μιας άποψης είναι πολύ μεγαλύτερη και ασκεί μεγαλύτερη επιρροή στην διάδοση της από την άρνηση ενός εντύπου να τη δημοσιεύσει.

Συνοπτικά, αν θεωρήσουμε ότι οι ΜΔΚ δεν δεσμεύονται από την ελευθερία του λόγου και μπορούν να κρίνουν κατά το δοκούν ως ιδιωτικές εταιρίες ποιες απόψεις θα φιλοξενούν με βάση την πολιτική τους τότε το ζήτημα δεν έχει περαιτέρω διαστάσεις ως προς την ελευθερία του λόγου των χρηστών και τους περιορισμούς τους. Αντιθέτως, αν δεχθούμε ότι οι εταιρίες ορίζουν ένα νέο περιβάλλον δημοσίου χώρου47- αν και ιδιωτικές εταιρίες- εντός του οποίου τα δικαιώματα των χρηστών τριτενεργούν και δεσμεύουν τις εταιρίες, τότε πρέπει να αναζητηθούν άλλες εναλλακτικές λύσεις ελέγχου -ελεγχόμενου ως αλυσιτελούς, γραφειοκρατικού και λογοκριτικού του αποκλειστικά κρατικού ελέγχου-, όπως πιστοποιήσεις από ανεξάρτητους δημοσιογραφικούς φορείς, επιτροπές δεοντολογίας και σύνταξη κωδίκων σε Ευρωπαϊκό και προσφορότερα παγκόσμιο επίπεδο, όπου οι εταιρίες θα πρέπει να εξαναγκαστούν εμμέσως από τα κράτη στην τήρησή τους. Με άλλα λόγια, αυτή η νέα δημόσια σφαίρα δεν μπορεί να λειτουργήσει χωρίς να διέπετε από επαγγελματικούς και δημόσιου χαρακτήρα κανόνες ελέγχου48.

Ο στόχος της ρύθμισης του περιεχομένου που φιλοξενείται από τις εταιρίες κοινωνικής δικτύωσης θα επιτευχθεί εάν τους δοθούν κίνητρα προκειμένου να γίνουν υπεύθυνοι και αξιόπιστοι θεσμοί προάγοντας, έτσι, μια υγιή και ζωντανή ψηφιακή δημόσια σφαίρα. Όλα τα παραπάνω θέτουν επιτακτικά την αναγκαιότητα να ορίσουμε τον ψηφιακό δημόσιο χώρο49 και να εντοπίσουμε τις διαφορές του από το δημόσιο χώρο, όπως τον ορίζαμε μέχρι σήμερα. Μια τέτοια καταγραφή είναι αναγκαία, προκειμένου να αντιμετωπίσουμε με επάρκεια τους κινδύνους που αναδεικνύονται τόσο για την ελευθερία της λόγου, όσο και για τα προσωπικά δεδομένα, ουσιαστικά για την ίδια την λειτουργία της δημοκρατίας.

Τα Μέσα Κοινωνικής Δικτύωσης συγκροτούν μια νέα δημόσια σφαίρα.

Η δημόσια σφαίρα50 ορίζονταν ως το περιβάλλον εντός του οποίου διαμορφώνονταν οι απόψεις και οι αντιλήψεις της κοινής γνώμης επί τη βάση κανόνων πολιτικής αντιπαράθεσης που προέβλεπε το Σύνταγμα και η κοινή νομοθεσία. Το κράτος έθετε το πλαίσιο διεξαγωγής του διαλόγου και της αντιπαράθεσης διασφαλίζοντας, κατά το δυνατόν, συνθήκες ισότιμης συμμετοχής και ισηγορίας. Περιπτώσεις προσβολής της τιμής και της υπόληψης των συμμετεχόντων, χρήσης ρητορικής μίσους και ρατσιστικού λόγου, προτροπής σε εκδηλώσεις βίας, διάδοσης ψευδών γεγονότων αποτελούσαν ηθικά και νομικά αποδοκιμαστέες μορφές συμμετοχής. Ο δημόσιος χώρος ορίζονταν από τα έντυπα και τηλεοπτικά μέσα του 20ου αιώνα που δεν ήταν συμμετοχικά καθώς το κοινό αποτελούσε τον παθητικό ακροατή τους με περιορισμένη δυνατότητα πρόσβασης51. Αντίθετα, οι νέες τεχνολογίες και ιδίως ο χώρος του διαδικτύου με την κυριαρχία των ΜΚΔ ανέτρεψαν αυτό το καθεστώς. Τα μέσα της ψηφιακής εποχής του διαδικτύου είναι συμμετοχικά καθώς το περιεχόμενο συνδιαμορφώνεται από τους συμμετέχοντες, που είναι ταυτόχρονα αποδέκτες και παραγωγοί ειδήσεων. Το πεδίο με την μεγαλύτερη αναγνωρισιμότητα και ο χώρος του διαλόγου με την ευκολότερη πρόσβαση σε όλους, ανήκει στην ιδιοκτησία των ψηφιακών εταιριών, ιδίως αυτών της κοινωνικής δικτύωσης.

Τα βασικά χαρακτηριστικά αυτού του νέου δημόσιου χώρου των ΜΚΔ είναι: α) Τα ΜΚΔ διευκολύνουν την δημόσια συμμετοχή στην τέχνη, στην πολιτική, στην παιδεία, και γενικότερα σε οποιαδήποτε κοινωνική διεργασία β) τα ΜΚΔ οργανώνουν την δημόσια συζήτηση ώστε οι πολίτες να μπορούν εύκολα να αναγνωρίζονται και να επικοινωνούν μεταξύ τους52 και γ) τα ΜΚΔ ασκούν το ρόλο του διαμορφωτή της κοινής γνώμης, όχι μόνο με το να προσωποποιούν την επικοινωνία, αλλά επίσης με το να θέτουν τους κανόνες της κοινότητας των συμμετασχόντων και τους όρους των παρεχόμενων υπηρεσιών, ουσιαστικά ρυθμίζοντας τον τρόπο πρόσβασης στο περιεχόμενο και τον ρυθμό με τον οποίο θα μεταδοθεί μία πληροφορία ή ιδέα.

Τα ΜΚΔ διαμορφώνουν το δημόσιο διάλογο και αντί να παράγουν το δικό τους περιεχόμενο, δημοσιεύουν, πρωτίστως, το περιεχόμενο του λόγου που παράγει ο κάθε χρήστης. Και, όπως τα μαζικά μέσα του 20ου αιώνα53, οφείλουν να εφαρμόζουν ένα σύνολο από κανόνες και αρχές γύρω από το τι είναι επιτρεπτό ή μη να δημοσιεύεται στις ιστοσελίδες τους. Αυτοί πρέπει να είναι οι κανόνες κοινωνικής συμπεριφοράς και ασφάλειας που αφορούν ένα απροσδιόριστο ακροατήριο, διαφορετικοί από τους κανόνες των εφημερίδων, όμως εξίσου εγγυητικοί των δικαιωμάτων των χρηστών. Διαφορετικά ΜΚΔ υιοθετούν κανόνες προσαρμοσμένους στα τεχνικά τους χαρακτηριστικά, συχνά περιορίζοντας το λόγο σε μεγαλύτερο βαθμό από ότι απαιτεί η νομοθεσία από αυτά. Για παράδειγμα οι κανόνες περί ασέμνου και η έκθεση ενός γυμνού σώματος περιορίζεται περισσότερο στο Facebook σε σχέση με την συνταγματική προστασία στα περισσότερα κράτη54. Εδώ η αναζήτηση ενός κοινού παγκόσμιου μέσου όρου μοιάζει χιμαιρική και ως εκ τούτου προκύπτουν άνισες και διακριτικές πρακτικές απαγορεύσεων.

Τα κράτη προστατεύουν την ελευθερία του λόγου αφήνοντας ελεύθερους τους ενδιάμεσους θεσμούς επικοινωνίας που υφίστανται σε μια πλουραλιστική κοινωνία, να προσαρμόσουν την πρακτική τους στο επίπεδο προστασίας που ορίζει το Σύνταγμά τους και οι διεθνείς συνθήκες. Στην περίπτωση όμως του ψηφιακού περιβάλλοντος όπου υπάρχουν λίγοι τέτοιοι θεσμοί με ολιγοπωλιακή και κυρίαρχη θέση στην δημόσια σφαίρα της επικοινωνίας που θέτουν τους δικούς του κανόνες που είναι αυστηρότεροι ενδεχομένως από τους κρατικούς, τότε το πρόβλημα της ρύθμισης μπαίνει επιτακτικά, διότι αφορά στην αξιοπιστία τους και την δυνατότητα τους να προάγουν τον ανοιχτό διάλογο και τη διάδοση της γνώσης55. Ως εκ τούτου, για να προάγεις αυτές τις δύο αξίες χρειάζεσαι κάτι δραστικότερο από την τήρηση της ελευθερίας του λόγου και της απαγόρευσης της λογοκρισίας.

Στο πεδίο των ΜΚΔ απουσιάζουν οι ψηφιακοί θεσμοί που να καθοδηγούνται από δημόσια ελεγχόμενους επαγγελματικούς κανόνες συμπεριφοράς. Και το χειρότερο είναι ότι οι ΜΚΔ έχουν συμβάλει στην παρακμή των ήδη υπαρχόντων θεσμών για την παραγωγή και διανομή της γνώσης56. Στην πράξη οι ανταγωνιστικές πηγές πληροφόρησης δεν εξυπηρετούν τις αξίες της ελευθερίας του λόγου, όταν οι άνθρωποι δεν εμπιστεύονται κανένα επικοινωνιακό και ενημερωτικό θεσμό, τουλάχιστον με πλειοψηφικά ποσοστά, και οι επαγγελματικοί κανόνες διαλύονται. Έτσι ευνοείται η πόλωση, η εμπιστοσύνη καταστρέφεται, ενώ η πολιτική γίνεται ένας αγώνας μέχρις εσχάτων και οι πολιτιστικές συγκρούσεις των ταυτοτήτων ένας συνεχής ανελέητος ανταγωνισμός57. Η επικράτηση μόνο οικονομικών κινήτρων σε ένα περιβάλλον πανίσχυρων μονοπωλίων58, που βασίζεται στην δέσμευση της προσοχής των χρηστών αναπόφευκτα θα ευνοεί τις εντυπωσιοθηρικές θεωρίες συνομωσίας και γενικότερα ένα λόγο που υποτιμά τους δημοκρατικούς θεσμούς. Τα οικονομικά κίνητρα όταν δεν εναρμονίζονται με επαγγελματικούς κανόνες δεοντολογίας ωθούν τους χρήστες σε έναν ανεξέλεγκτο ανταγωνισμό διχαστικών αναρτήσεων που υπονομεύουν την πίστη που είναι αναγκαία για την ύπαρξη ενός υγιούς δημόσιου χώρου.

Τα ΜΚΔ έχουν πολλούς ρόλους να παίξουν στην ψηφιακή δημόσια σφαίρα, καθώς εμπλέκονται σε πολλά διαφορετικά επίπεδα ρυθμίσεων. Για παράδειγμα, η συνεργασία δημόσιου και ιδιωτικού φορέα, παρά τους κινδύνους που επισημάναμε παραπάνω, είναι αναγκαία, ανάμεσα στα άλλα, για την αντιμετώπιση της τρομοκρατίας, για τις αποτροπή ξένων παρεμβάσεων στις εκλογές, για τις παραβιάσεις της χρηματοδότησης μιας προεκλογικής καμπάνιας, για την παιδική πορνογραφία, για την εγκληματικότητα που συνδέεται με την εμπορία όπλων και ναρκωτικών. Επίσης, σημαντικά θέματα ασφάλειας και παραβιάσεων θέτει η βιομηχανική κατασκοπεία, ο ρατσιστικός λόγος ή ακόμα και ειδικά ζητήματα κρατικών περιορισμών και προπαγάνδας κυβερνήσεων με αυταρχικά χαρακτηριστικά(π.χ Κίνα). Ρυθμίσεις περιεχομένου που να είναι ταυτόχρονα ακριβείς και άμεσες θέτουν ένα ζήτημα ορίων στον τρόπο παρέμβασης59. Για να υπάρχει ακρίβεια και αξιοπιστία στους ελέγχους πρέπει να πολλαπλασιαστούν οι ελεγκτές σε βαθμό που ενδεχομένως δεν μπορούν να το αντέξουν οικονομικά οι εταιρίες, ενώ με τους ελέγχους δυσχεραίνεται αντικειμενικά η κυκλοφορία των πληροφοριών κάνοντας το σύστημα δυσκίνητο και γραφειοκρατικό. Τότε όμως προκαλούνται κίνδυνοι για τον πολιτικό ανταγωνισμό. Η απάντηση δεν είναι να αντικαταστήσουμε την ιδιωτική κυριαρχία των εταιριών με μία κρατική κυριαρχία και επιτήρηση με αυταρχικά χαρακτηριστικά60.

Είναι δύσκολο να υιοθετήσουμε για τα ΜΚΔ το μοντέλο των υπηρεσιών κοινής ωφέλειας, προκειμένου να αποφύγουμε διακρίσεις στον έλεγχο του περιεχομένου, διότι τότε θα αναπαράγουμε τα προβλήματα που προκαλούνται όταν μια τέτοια υπηρεσία παρέχεται από το κράτος61. Η πειστικότερη λύση είναι να υιοθετήσουμε και να επιβάλλουμε αντιμονοπωλιακούς κανόνες62, κανόνες προστασίας της ιδιωτικότητας και του δικαίου προστασίας του καταναλωτή στην λειτουργία των ΜΚΔ.

Οι εταιρίες του ψηφιακού κόσμου πρέπει να αποδεχθούν ότι αποτελούν πληροφοριακούς θεματοφύλακες απέναντι σε κάθε πρόσωπο τα δεδομένα του οποίου συλλέγουν στο πλαίσιο της επιχειρηματικής τους δραστηριότητας63. Όταν η αμερικάνικη νομοθεσία (Communications Decency Act §230) απαλλάσσει από την ευθύνη τις εταιρίες του διαδικτύου για το περιεχόμενο που αναρτούν οι χρήστες, αυτή η ιδιαίτερη κρατική διευκόλυνση πρέπει να έχει ως αντάλλαγμα δεσμεύσεις και υποχρεώσεις δημοσίου συμφέροντος οι οποίες απορρέουν από ένα συνδυασμό ρυθμίσεων του δικαίου του ανταγωνισμού, ρυθμίσεων που αφορούν την προστασία από την αθέμιτη επεξεργασία προσωπικών δεδομένων και του δικαίου προστασίας του καταναλωτή. Για το λόγο αυτό πρέπει να επιτρέπεται ο έλεγχος των αλγορίθμων τους, είτε από το κράτος, είτε από ανεξάρτητες αρχές. Ίσως θα πρέπει να αναμορφωθεί ή να επανασχεδιαστεί το επιχειρηματικό μοντέλο αυτών των εταιριών -που είναι αυστηρά επικεντρωμένο στην εκμετάλλευση των δεδομένων για διαφημιστικούς σκοπούς64-, προκειμένου να μειωθούν τα κίνητρα προς χειραγώγηση και ανεξέλεγκτη χρήση των προσωπικών δεδομένων των χρηστών.

Στο πεδίο της πολιτικής διαφήμισης τα πράγματα είναι διαφορετικά. Υπάρχουν πολύ ισχυροί λόγοι για τους οποίους το Facebook σε αντίθεση με το Twitter65, είναι πολύ διστακτικό στο να απαγορεύσει την ψευδή πολιτική διαφήμιση και αυτό συνδέεται με το επιχειρηματικό του μοντέλο66. Ο βασικός λόγος δεν είναι μόνο ότι οι εταιρίες των ΜΚΔ κερδίζουν χρήματα από την πολιτική διαφήμιση, αλλά ότι δεν επιθυμούν να έρθουν σε σύγκρουση με τους εκάστοτε κυβερνητικούς παράγοντες οι οποίοι μπορεί να ρυθμίσουν περιοριστικά ως προς το οικονομικό αντικείμενο τις δραστηριότητες της εταιρίας ή να τους ζητήσουν, στο πλαίσιο της αντιμονοπωλιακής πολιτικής, να διασπάσουν τις δραστηριότητές τους σε περισσότερες εταιρίες, ενισχύοντας τον ανταγωνισμό, αντί της συνεχούς εξαγοράς μικρότερων εταιριών με συναφές αντικείμενο που επιδιώκουν σήμερα67. Επιπλέον το Facebook, για παράδειγμα, είναι μια εταιρία επιρροής και για αυτό θέλει να προβάλλει τα πολιτικά πρόσωπα ώστε να προσελκύει διαρκώς την προσοχή του κοινού68, αυξάνοντας με τον τρόπο αυτό την δημοφιλία της ίδιας της πλατφόρμας.

Συμπερασματικά, αν θεωρήσουμε ότι ο νέος πλέον χώρος όπου επιτελείται η δημόσια λειτουργία της επικοινωνίας είναι ο εικονικός χώρος του διαδικτύου, δίπλα σε χώρους φυσικής επικοινωνίας, πρέπει να αποδεχθούμε ως συνέπεια ότι είναι αναγκαία η ρυθμιστική παρέμβαση, με την έννοια ότι εδώ παρέχεται μια τεχνολογική υποδομή ανταλλαγής απόψεων που θα μπορούσε να παρέχει το ίδιο το κράτος, όπως ένα πάρκο, μια πλατεία, μια δημόσια αίθουσα διαλέξεων, ένα πανεπιστημιακό αμφιθέατρο. Σκοπός της ρύθμισης θα πρέπει να είναι η προστασία της ελευθερίας της ανταλλαγής απόψεων υπό συνθήκες ασφάλειας και αξιοπιστίας ώστε να ενισχυθούν οι αξίες της δημοκρατίας και της γνώσης που είναι καθοριστικές για την λειτουργία μιας σύγχρονης κοινωνίας.

  • 1. Το άρθρο δημοσιεύθηκε στο constitutionalism και θα δημοσιευτεί στο Book's Journal(τεύχος Απριλίου 2021) σε έντυπη μορφή. Το κείμενο συνιστά τη γραπτή και ανεπτυγμένη μορφή -με τις βασικές παραπομπές- της προφορικής μου εισήγησης-συμμετοχής στην εκδήλωση που διοργάνωσαν διαδικτυακά το Lawspot, η ELSA Greece, η Athens Legal Tech και η Ένωση για την Προστασία Προσωπικών Δεδομένων και Ιδιωτικότητας (InfoLaw Conference 12-13 Μαρτίου, 2021) με γενική θεματική «Δεδομένα, Online διαφήμιση και ψηφιακή οικονομία» και ειδικότερη θεματική «Οnline διαφήμιση και εκλογικές διαδικασίες» https://www.youtube.com/channel/UCmiR7I9scRtv2FWBBugFZuA. Θέλω να ευχαριστήσω τον υπ.διδ. και δικηγόρο Α. Ασκητή για τη βοήθειά του.
  • 2. Είναι εκτός της θεματικής της εισήγησης οι πολύ συνηθισμένες στο διαδίκτυο εξατομικευμένες προσβολές που αφορούν στην προσωπικότητα των ατόμων (π.χ εξύβριση, συκοφαντική δυσφήμηση, προσβολή της τιμής).
  • 3. Βλ. Tim Wu, The Master Switch: The Rise and Fall of Information Empires, Vintage; Reprint edition (November 29, 2011), σελ. 249- 252.
  • 4. Βλ. Shoshana Zuboff, Η Εποχή Του Κατασκοπευτικού Καπιταλισμού: Ο Αγώνας Για Ένα Ανθρώπινο Μέλλον Στο Μεταίχμιο Της Νέας Εξουσίας, Εκδόσεις Καστανιώτη (2020).
  • 5. Βλ.Orin S. Kerr, The Case for the Third-Party Doctrine, 107 Michigan Law Review 561, (2009), σελ. 600, Cooperation Or Resistance?: The Role Of Tech Companies In Government Surveillance, Harvard Law Review [Vol. 131:1722, 2018].
  • 6. Βλ.Ph. Jougleux, Η παραπληροφόρηση στην ψηφιακή εποχή, ΔιΜΕΕ 4/2016, σελ. 504.
  • 7. Βλ. Α. Ασκητή, Ψηφιακή Ελεύθερη Έκφραση: Kράτος, Μέσα Κοινωνικής Δικτύωσης & Μηχανές Αναζήτησης μεταξύ ιδιωτικοποίησης του ελέγχου & ελέγχου του ιδιώτη, Νομική Βιβλιοθήκη (2020), σελ. 139.
  • 8. Βλ. Susan Crawford, First Amendment Common Sense, Harvard Law Review [Vol. 127:2343, 2014] σελ. 2363, Jack M. Balkin, Free Speech in the Algorithmic Society, University of California Davis Law Review [Vol. 51:1149, 2018], σελ. 1154 επ
  • 9. Για την απαγόρευση υποκίνησης βίας μέσω διαδικτύου υπάρχει, στην ελληνική νομοθεσία, ο νόμος 4285 του 2014 ΦΕΚ Α΄/191/10-09-2014, ο οποίος μεταξύ άλλων αναφέρει στο αρ.1: «Όποιος με πρόθεση, δημόσια, προφορικά ή δια του τύπου, μέσω του διαδικτύου ή με οποιοδήποτε άλλο μέσο ή τρόπο, υποκινεί, προκαλεί, διεγείρει ή προτρέπει σε πράξεις ή ενέργειες που μπορούν να προκαλέσουν διακρίσεις, μίσος ή βία κατά προσώπου ή ομάδας προσώπων, που προσδιορίζονται με βάση τη φυλή, το χρώμα, τη θρησκεία, τις γενεαλογικές καταβολές, την εθνική ή εθνοτική καταγωγή, το σεξουαλικό προσανατολισμό, την ταυτότητα φύλου ή την αναπηρία, κατά τρόπο που εκθέτει σε κίνδυνο τη δημόσια τάξη ή ενέχει απειλή για τη ζωή, την ελευθερία ή τη σωματική ακεραιότητα των ως άνω προσώπων, τιμωρείται με φυλάκιση τριών (3) μηνών έως τριών (3) ετών και με χρηματική ποινή πέντε έως είκοσι χιλιάδων (5.000 -20.000) ευρώ.»
  • 10. Βλ. K. Klonick, The New Governors: The People, Rules, And Processes Governing Online Speech, Harvard Law Review (Vol. 131:1598, 2018), σελ. 1599 επ.
  • 11. Βλ. Felix T. Wu, Collateral Censorship and the Limits of Intermediary Immunity, 87 Notre Dame Law Review (2013), σελ. 297
  • 12. Βλ.Andrew Tutt, The New Speech, 41 Hastings Constitutional Law Quarterly 235 (2014), σελ. 240.
  • 13. Βλ.Hannah Bloch-Wehba, Process Without Procedure: National Security Letters and First Amendment Rights, Suffolk University Law Review [Vol. XLIX:367, 2016], σελ. 367 επ., Ciara Torres-Spelliscy, A Locked Iphone; Unlocked Corporate Constitutional Rights, University of Pennsylvania Law Review Online [Vol. 164: 287, 2016], σελ. 289-291, με την Apple να αρνείται στις αστυνομικές αρχές την αποκρυπτογράφηση I-Phone για σκοπούς καταπολέμησης της τρομοκρατίας.
  • 14. Βλ. Elanor Colleoni et al., Echo Chamber or Public Sphere? Predicting Political Orientation and Measuring Political Homophily in Twitter Using Big Data, 64 Journal of Communication (2014), σελ. 321.
  • 15. Βλ.Tim Wu, Machine Speech, University of Pennsylvania Law Review (Vol 161: 1495, 2013), σελ. 1513 επ.
  • 16. Βλ.Björnstjern Baade, Fake News and International Law, The European Journal of International Law Vol. 29 no. 4 (2019), σελ. 1360 επ.
  • 17. Βλ.Ryan M. Walters, How To Tell A Fake: Fighting Back Against Fake News On The Front Lines Of Social Media, Texas Review Of Law & Politics Vol. 23 No. 1 (2019), σελ. 127.
  • 18. 8Βλ. Search King, Inc. v. Google Technology, Inc., Case No. CIV-02-1457-M (W.D. Okla. May 27, 2003), Christopher Langdon v. Google Inc., et al. 2007 WL 530156, Civ. Act. No. 06-319-JJF (D. Del. February 20, 2007).
  • 19. Βλ.James Grimmelmann, Speech Engines, Minnesota Law Review [98:868, 2014], σελ. 893-906
  • 20. Βλ.Α. Ασκητή, ό.π., σελ. 130-131.
  • 21. Βλ.Robert C. Post, Between Governance and Management: The History and Theory of the Public Forum, 34 UCLA Law Review (1987), σελ. 1825.
  • 22. Βλ.Danielle K. Citron & Helen Norton, Government Speech 2.0, 87 Denver Law Review 899 (2010), σελ. 908- 909.
  • 23. Βλ. Α. Ασκητή, ό.π., σελ. 133.
  • 24. Βλ. Brian Davison v. Phyllis Randall, No. 17-2002 (4th Cir. 2019),
  • 25. Βλ.Knight First Amendment Inst. at Columbia Univ. v. Trump, No. 1:17-cv-5205 (S.D.N.Y.), No. 18-1691 (2d Cir.) σε πρώτο βαθμό, Case 18-1691, Document 141-1, 07/09/2019.
  • 26. Βλ.Α. Ασκητή, ό.π., σελ. 137 επ.
  • 27. Βλ. «Ποιοι ευρωπαίοι πολιτικοί καταδικάζουν το μπλόκο Twitter σε Τραμπ. Ερωτηματικά εγείρει ο αποκλεισμός Τραμπ από το twitter». Το ΒΗΜΑ 11.01.2021(ψηφιακή έκδοση).
  • 28. Βλ. Thierry Breton: Capitol Hill — the 9/11 moment of social media – POLITICO
  • 29. Βλ. Christopher S. Yoo, When Antitrust Met Facebook, 19 George Mason Law Review 1147 (2012), σελ. 1148.
  • 30. Βλ. Philip M. Napoli, What If More Speech Is No Longer The Solution? First Amendment Theory Meets Fake News And The Filter Bubble, Federal Communications Law Journal (Vol. 70, Issue 1: 2018), σελ. 69-70
  • 31. Βλ. Jack M. Balkin, Free Speech Is A Triangle, Columbia Law Review, Vol. 118:2011 (2018), σελ. 2012
  • 32. Βλ. Ariel L. Bendor & Michal Tamir, Prior Restraint in the Digital Age, William & Mary Bill of Rights Journal, [Vol. 27:1155, 2019], σελ. 1159 επ.
  • 33. Βλ. Danielle Keats Citron & Benjamin Wittes, The Internet Will Not Break: Denying Bad Samaritans §230 Immunity, Fordham Law Review [Vol. 86: 2017], σελ. 406.
  • 34. Βλ.Ε. Zoller, The United States Supreme Court And The Freedom Of Expressiοn, Indiana Law Journal, vol. 84, issue 3, 2009, σελ. 898-899.
  • 35. Βλ. D. Farber,The Categorical Approach to Protecting Speech in American Constitutional Law, Indiana Law Journal, vol. 84 issue 3 (2009), σελ. 938. Για μια εμπεριστατωμένη παρουσίαση αυτής της προβληματικής βλ. Α.Φωτιάδου, Σταθμίζοντας την ελευθερία του λόγου, δικαστικές τεχνικές και ελευθερία του λόγου στις ΗΠΑ και στην Ελλάδα, Σάκκουλας, ΑθήναΘεσσαλονίκη, 2006.
  • 36. Βλ. Α. Ασκητή, ό.π., σελ. 120.
  • 37. Βλ. Frederick Schauer, Facts And The First Amendment, 57 UCLA Law Review (2010), σελ. 898-899
  • 38. Βλ. Louis W. Tompros, Richard A. Crudo, Alexis Pfeiffer, Rahel Boghossian, The Constitutionality Of Criminalizing False Speech Made On Social Networking Sites In APost-Alvarez, Social Media-Obsessed World, Harvard Journal of Law & Technology [Vol. 31 No. 1, Fall 2017], με αναφορά στην απόφαση United States v Alvarez567 U.S. 709 (2012) του Supreme Court των ΗΠΑ.
  • 39. Βλ. Jared Schroeder, Focusing on How Rather Than on Whom: Constructing a Process-Based Framework for Interpreting the Press Clause in the Network-Society Era, 19 Communication Law & Policy (2014), σελ. 510- 512.
  • 40. Βλ. Danielle Keats Citron, Reservoirs of Danger: The Evolution of Public and Private Law at the Dawn of the Information Age, 80 South California Law Review (2007), σελ. 273-276.
  • 41. Sarah Haan, Facebook’s Alternate Facts, Virginia Law Review [Vol. 105:18, 2019], σελ. 26 επ.
  • 42. 2Βλ. Κ. Γιαννακόπουλου,Το «Ανώτατο Δικαστήριο» του Facebookκαι η κρυφή γοητεία του ιδιωτικού ψηφιακού συνταγματισμού, διαθέσιμο σε https://www.constitutionalism.gr/2021-02-27-yannakopoulos-ob-facebook/, βλ. όμως και τις συναφείς γενικότερες αντιλήψεις για τον έλεγχο της συνταγματικότητας των νόμων από τον M. Tushnet, Taking the Constitution Away fromthe Courts, Princeton University Press (2000), με επιχειρήματα υπέρ της αναζήτησης νέων συνταγματικών δρόμων πέρα από τη δικαιοδοσία της δικαστικής εξουσίας.
  • 43. Βλ. Tim Wu, Will Artificial Intelligence Eat The Law? The Rise Of Hybrid Social-Ordering Systems, Columbia Law Review [Vol. 119:2019], σελ. 2017-2019.
  • 44. Βλ. Jeffrey Rosen, The Deciders: The Future of Privacy and Free Speech in the Age of Facebook and Google, 80 Fordham Law Review (2012), σελ. 1527-28.
  • 45. Βλ. Δ. Καραγκούνη, Η επιβολή περιορισμών στα μέσα κοινωνικής δικτύωσης μετά τον νέο γερμανικό Νόμο περί Βελτίωσης της Επιβολής της Νομοθεσίας στα Κοινωνικά Δίκτυα (Netzwerkdurchsetzungsgesetz) -Επίθεση στην ελευθερία έκφρασης ή αναγκαίο μέσο καταπολέμησης της διαδικτυακής εγκληματικότητας;, ΔιΜΕΕ 3/2018, σελ. 338 επ.
  • 46. Βλ. D. Kirkpatrick, Τhe Facebook Effect: The Inside Story Of The Company That Is Connecting The World, Simon & Schuster, 2010, σελ. 254.
  • 47. Βλ. Robert C. Post, Between Governance and Management: The History and Theory of the Public Forum, 34 UCLA Law Review (1987), σελ. 1825.
  • 48. Βλ. Lina M. Khan & David E. Pozen, A Skeptical View Of Information Fiduciaries, Harvard Law Review [Vol. 133:497, 2019].
  • 49. Βλ. Danielle Keats Citron, Cyber Civil Rights, Boston University Law Review [Vol. 89:61, 2009], σελ. 62 επ.
  • 50. Βλ. ένα θεμελιώδες έργο που επισημαίνει τις αλλαγές που έχουν συντελεσθεί στον δημόσιο χώρο πριν την εμφάνιση του διαδικτύου. J.Habermas, Αλλαγή δομής της δημοσιότητας, έρευνες πάνω σε μια κατηγορία της αστικής κοινωνίας, εκδ. ΝΗΣΟΣ, 1997.
  • 51. Βλ. Jack M. Balkin, The Future of Free Expression, 36 Pepp. L. Rev. 428 (2008-2009), σελ. 429-431.
  • 52. Βλ. Jack M. Balkin, Cultural Democracy And The First Amendment, Northwestern University Law Review, 110:1053 (2016).
  • 53. Βλ. Jerome A. Barron, Access to the Press—A New First Amendment Right, 80 Harvard Law Review (1967), σελ. 1642.
  • 54. Βλ.Α. Ασκητή, ό.π., σελ. 111-113
  • 55. Βλ. J.Balkin, How to regulate (and not regulate) social media 03152020(1) - SSRN-id3484114.pdf
  • 56. Βλ. Danielle K. Citron & Robert Chesney, Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security, 107 California Law Review 1753 (2019), σελ. 1776-1785.
  • 57. Βλ. Jack M. Balkin, Old-School/New-School Speech Regulation, 127 Harvard Law Review (2014), σελ. 2295 επ.
  • 58. Βλ. Tim Wu, The Master Switch: The Rise and Fall of Information Empires, Vintage Reprint edition (2011).
  • 59. Βλ.Sarah T. Roberts, Behind the Screen: Content Moderation in the Shadows of Social Media (2019); Casey Newton, The Trauma Floor: The Secret Lives of Facebook Moderators in America, The Verge (Feb. 25, 2019), https://www.theverge.com/2019/2/25/18229714/cognizant-facebook-content-m...
  • 60. Βλ. Lilian R. BeVier, An informed Public, an Informed Press: The Search For A Constitutional Principle, 68 California Law Review, 482 (1980).
  • 61. Βλ.K. Sabeel Rahman, Regulating Informational Infrastructure: Internet Platforms as the New Public Utilities, 2 Geo. L. Tech. Rev. 234 (2018).
  • 62. Βλ. Hillary Greene and Dennis A. Yao, Antitrust as Speech Control, 60 William & Mary Law Review 1215 (2019), σελ. 1247 επ.
  • 63. Βλ. Jack M. Balkin, Information Fiduciaries and the First Amendment, University of California Davis Law Review [Vol. 49:1183, 2016].
  • 64. Βλ. Jack M. Balkin, “Fixing Social Media’s Grand Bargin,” Hoover Working Group on National Security, Technology, and Law, Aegis Series Paper No. 1814 (October 16, 2018).
  • 65. Βλ. Rob Leathern, Expanded Transparency and More Controls for Political Ads, Facebook Newsroom (Jan. 9, 2020), https://about.fb.com/news/2020/01/political-ads/ [https://perma.cc/S8YE-BFUL]; Q&A on Transparency for Electoral and Issue Ads, Facebook Newsroom (May 24, 2018), https://about.fb.com/news/2018/05/q-and-aon-ads-transparency/ [https://perma.cc/5LWC-CUBP].
  • 66. Βλ. Sarah Haan, Facebook’s Alternate Facts, Virginia Law Review [Vol. 105:18, 2019], σελ. 34
  • 67. Βλ. Anupam Chander, Googling Freedom, California Law Review, (Vol. 99:1, 2011), σελ. 6-7.
  • 68. Βλ.Thomas Kadri & Kate Klonick, Facebook v. Sullivan: Public Figures and Newsworthiness in Online Speech, 93 S. Cal. L. Rev. 37 (2020)
Η αναίρεση κατά τον ΚΠολΔ - Δ΄ έκδοση

ΑΣΤΙΚΟ ΔΙΚΟΝΟΜΙΚΟ ΔΙΚΑΙΟ - ΕΝΔΙΚΑ ΜΕΣΑ ΚΑΙ ΑΝΑΚΟΠΕΣ

ΚΑΛΑΒΡΟΣ ΚΩΝΣΤΑΝΤΙΝΟΣ

Οι διεθνείς, υπερεθνικές και διεθνικές ρυθμίσεις του χρόνου ναυτικής εργασίας και οι επιπτώσεις του στη ναυτική ασφάλεια

ΔΗΜΟΣΙΟ & ΙΔΙΩΤΙΚΟ ΔΙΕΘΝΕΣ ΔΙΚΑΙΟ - ΝΑΥΤΙΚΟ ΔΙΚΑΙΟ

ΔΕΣΠΟΙΝΑ ΚΙΛΤΙΔΟΥ

send