AI Act: Τι προβλέπουν οι κανόνες για τη χρήση Τεχνητής Νοημοσύνης στην ΕΕ

Πριν λίγες ημέρες, και ύστερα από μαραθώνιες συνομιλίες διάρκειας 3 ημερών, η Προεδρία του Συμβουλίου και οι διαπραγματευτές του Ευρωπαϊκού Κοινοβουλίου κατέληξαν σε προσωρινή συμφωνία όσον αφορά την πρόταση για εναρμονισμένους κανόνες στον τομέα της τεχνητής νοημοσύνης (ΤΝ), δηλαδή τον κανονισμό για την τεχνητή νοημοσύνη - ΑΙ Act.

Το σχέδιο κανονισμού έχει στόχο να διασφαλίσει ότι τα συστήματα ΤΝ που διατίθενται στην ευρωπαϊκή αγορά και χρησιμοποιούνται στην Ένωση είναι ασφαλή και σέβονται τα θεμελιώδη δικαιώματα και τις αξίες της Ένωσης. Αυτή η πρόταση-ορόσημο αποσκοπεί επίσης στην τόνωση των επενδύσεων και της καινοτομίας στον τομέα της ΤΝ στην Ευρώπη.

Με δελτίο τύπου του το Συμβούλιο της Ευρωπαϊκής Ένωσης παρέχει περισσότερες πληφορορίες σχετικά με την εμβληματική νομοθετική πρωτοβουλία της ΕΕ, η οποία που έχει τη δυνατότητα να προωθήσει την ανάπτυξη και την υιοθέτηση ασφαλούς και αξιόπιστης ΤΝ σε ολόκληρη την ενιαία αγορά της ΕΕ τόσο από ιδιωτικούς όσο και από δημόσιους φορείς.

Σύμφωνα με το Συμβούλιο, η βασική ιδέα είναι να ρυθμιστεί η ΤΝ ανάλογα με την ικανότητά της να βλάψει την κοινωνία και σύμφωνα με μια προσέγγιση «βάσει κινδύνου»: όσο μεγαλύτερος ο κίνδυνος τόσο πιο αυστηροί οι κανόνες. Καθώς πρόκειται για την πρώτη νομοθετική πρόταση αυτού του είδους στον κόσμο, μπορεί να αποτελέσει ένα παγκόσμιο πρότυπο για τη ρύθμιση της ΤΝ σε άλλες δικαιοδοσίες, όπως έγινε με τον ΓΚΠΔ, προωθώντας έτσι στην παγκόσμια σκηνή την ευρωπαϊκή προσέγγιση της ρύθμιση της τεχνολογίας.

Κύρια στοιχεία της προσωρινής συμφωνίας

Σε σύγκριση με την αρχική πρόταση της Επιτροπής, τα κύρια νέα στοιχεία της προσωρινής συμφωνίας μπορούν να συνοψιστούν ως εξής:

• κανόνες για μοντέλα ΤΝ γενικού σκοπού υψηλού αντίκτυπου που ενδεχομένως συνεπάγονται συστημικό κίνδυνο μελλοντικά, καθώς και για τα συστήματα ΤΝ υψηλού κινδύνου
• αναθεωρημένο σύστημα διακυβέρνησης με ορισμένες εξουσίες επιβολής σε επίπεδο ΕΕ
• επέκταση του καταλόγου απαγορεύσεων, αλλά με τη δυνατότητα χρήσης εξ αποστάσεως βιομετρικής ταυτοποίησης από τις αρχές επιβολής του νόμου σε δημόσιους χώρους, με προϋπόθεση ορισμένες διασφαλίσεις
• καλύτερη προστασία των δικαιωμάτων μέσω της υποχρέωσης των φορέων που θέτουν σε εφαρμογή συστήματα ΤΝ υψηλού κινδύνου να διενεργούν εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα πριν θέσουν ένα σύστημα ΤΝ σε χρήση.

Πιο συγκεκριμένα, η προσωρινή συμφωνία καλύπτει τις ακόλουθες πτυχές:

Ορισμοί και πεδίο εφαρμογής

Για να διασφαλιστεί ότι ο ορισμός του συστήματος ΤΝ παρέχει επαρκώς σαφή κριτήρια για τη διάκριση της ΤΝ από απλούστερα συστήματα λογισμικού, η συμβιβαστική συμφωνία ευθυγραμμίζει τον ορισμό με την προσέγγιση που προτείνει ο ΟΟΣΑ.

Η προσωρινή συμφωνία διευκρινίζει επίσης ότι ο κανονισμός δεν εφαρμόζεται σε τομείς εκτός του πεδίου εφαρμογής του δικαίου της ΕΕ και δεν θα πρέπει, σε καμία περίπτωση, να θίγει τις αρμοδιότητες των κρατών μελών στον τομέα της εθνικής ασφάλειας ή οποιαδήποτε οντότητα στην οποία έχουν ανατεθεί καθήκοντα στον τομέα αυτό. Επιπλέον, ο κανονισμός για την ΤΝ δεν θα εφαρμόζεται σε συστήματα που χρησιμοποιούνται αποκλειστικά για στρατιωτικούς ή αμυντικούς σκοπούς. Ομοίως, η συμφωνία προβλέπει ότι ο κανονισμός δεν θα εφαρμόζεται σε συστήματα ΤΝ που χρησιμοποιούνται μόνο για σκοπούς έρευνας και καινοτομίας ή σε άτομα που χρησιμοποιούν ΤΝ για μη επαγγελματικούς λόγους.

Ταξινόμηση των συστημάτων ΤΝ ως υψηλού κινδύνου και απαγορευμένες πρακτικές ΤΝ

Η συμβιβαστική συμφωνία προβλέπει οριζόντιο επίπεδο προστασίας, περιλαμβανομένης της ταξινόμησης υψηλού κινδύνου, ώστε να διασφαλιστεί ότι δεν θα συμπεριληφθούν συστήματα ΤΝ που δεν είναι πιθανό να προκαλέσουν σοβαρές παραβιάσεις των θεμελιωδών δικαιωμάτων ή δεν ενέχουν άλλους σημαντικούς κινδύνους. Τα συστήματα ΤΝ που παρουσιάζουν απλά περιορισμένο κίνδυνο θα υπόκεινται σε πολύ ήπιες υποχρεώσεις διαφάνειας, για παράδειγμα θα πρέπει να γνωστοποιείται ότι το περιεχόμενο έχει παραχθεί από ΤΝ, ώστε οι χρήστες να μπορούν να λαμβάνουν αποφάσεις μετά λόγου γνώσης σχετικά με την περαιτέρω χρήση.

Θα επιτραπεί η χρήση μιας ευρείας γκάμας συστημάτων ΤΝ υψηλού κινδύνου, αλλά για την πρόσβαση στην αγορά της ΕΕ θα πρέπει να πληρείται μια σειρά απαιτήσεων και υποχρεώσεων. Οι απαιτήσεις αυτές διευκρινίστηκαν και τροποποιήθηκαν από τους συννομοθέτες έτσι ώστε η συμμόρφωση με αυτές να είναι περισσότερο εφικτή τεχνικά και λιγότερο επαχθής για τα ενδιαφερόμενα μέρη, για παράδειγμα όσον αφορά την ποιότητα των δεδομένων ή σε σχέση με τον τεχνικό φάκελο που θα πρέπει να καταρτίζουν οι ΜΜΕ προκειμένου να αποδείξουν ότι τα συστήματα ΤΝ υψηλού κινδύνου τους συμμορφώνονται με τις απαιτήσεις.

Δεδομένου ότι τα συστήματα ΤΝ αναπτύσσονται και διανέμονται μέσω πολύπλοκων αξιακών αλυσίδων, η συμβιβαστική συμφωνία περιλαμβάνει αλλαγές με τις οποίες αποσαφηνίζονται η κατανομή των αρμοδιοτήτων και οι ρόλοι των διαφόρων συντελεστών στις εν λόγω αλυσίδες, ιδίως των παρόχων και των χρηστών συστημάτων ΤΝ. Επίσης αποσαφηνίζεται η σχέση μεταξύ των αρμοδιοτήτων που απορρέουν από τον κανονισμό για την ΤΝ και των αρμοδιοτήτων που ήδη ισχύουν βάσει άλλης νομοθεσίας, όπως η σχετική ενωσιακή νομοθεσία για την προστασία των δεδομένων ή η τομεακή νομοθεσία.

Για ορισμένες χρήσεις της ΤΝ, ο κίνδυνος θεωρείται μη αποδεκτός και, ως εκ τούτου, τα συστήματα αυτά θα απαγορεύονται στην ΕΕ. Για παράδειγμα με την προσωρινή συμφωνία απαγορεύεται η γνωστική χειραγώγηση της συμπεριφοράς, η μη στοχευμένη συλλογή εικόνων προσώπου από το διαδίκτυο ή από κάμερες κλειστού κυκλώματος, η αναγνώριση συναισθημάτων στον χώρο εργασίας και σε εκπαιδευτικά ιδρύματα, η κοινωνική βαθμολόγηση, η βιομετρική κατηγοριοποίηση για τη συναγωγή ευαίσθητων δεδομένων όπως ο σεξουαλικός προσανατολισμός ή οι θρησκευτικές πεποιθήσεις, και ορισμένες περιπτώσεις προληπτικής αστυνόμευσης για τα άτομα.

Εξαιρέσεις από την επιβολή του νόμου

Λαμβανομένων υπόψη των ιδιαιτεροτήτων των αρχών επιβολής του νόμου και της ανάγκης να διατηρηθεί η ικανότητά τους να χρησιμοποιούν ΤΝ στο ζωτικό τους έργο, συμφωνήθηκαν μια σειρά αλλαγές στην πρόταση της Επιτροπής σχετικά με τη χρήση συστημάτων ΤΝ για σκοπούς επιβολής του νόμου. Με την επιφύλαξη κατάλληλων διασφαλίσεων, οι αλλαγές αυτές έχουν ως στόχο να αποτυπώσουν την ανάγκη σεβασμού της εμπιστευτικότητας των ευαίσθητων επιχειρησιακών δεδομένων που αφορούν τις δραστηριότητές τους. Για παράδειγμα, θεσπίστηκε διαδικασία έκτακτης ανάγκης που επιτρέπει στις υπηρεσίες επιβολής του νόμου να χρησιμοποιήσουν εργαλείο ΤΝ υψηλού κινδύνου που δεν έχει περάσει επιτυχώς τη διαδικασία αξιολόγησης της συμμόρφωσης σε περίπτωση έκτακτης ανάγκης. Ωστόσο, έχει επίσης θεσπιστεί ειδικός μηχανισμός για να διασφαλιστεί ότι τα θεμελιώδη δικαιώματα θα προστατεύονται επαρκώς από πιθανές κακές χρήσεις των συστημάτων ΤΝ.

Επιπλέον, όσον αφορά τη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους, η προσωρινή συμφωνία αποσαφηνίζει τους στόχους για τους οποίους η χρήση αυτή είναι απολύτως αναγκαία στο πλαίσιο της επιβολής του νόμου και για τους οποίους θα πρέπει, συνεπώς, να επιτρέπεται κατ’ εξαίρεση στις αρχές επιβολής του νόμου να χρησιμοποιούν τα εν λόγω συστήματα. Η συμβιβαστική συμφωνία προβλέπει πρόσθετες διασφαλίσεις και περιορίζει τις εξαιρέσεις αυτές σε περιπτώσεις θυμάτων ορισμένων εγκλημάτων, στην πρόληψη πραγματικών, υπαρχουσών ή προβλέψιμων απειλών (όπως οι τρομοκρατικές επιθέσεις) και σε αναζητήσεις ατόμων που είναι ύποπτα για τα πλέον σοβαρά εγκλήματα.

Συστήματα ΤΝ γενικού σκοπού και θεμελιώδη μοντέλα

Προστέθηκαν νέες διατάξεις ώστε να ληφθούν υπόψη καταστάσεις στις οποίες τα συστήματα ΤΝ μπορούν να χρησιμοποιηθούν για πολλούς διαφορετικούς σκοπούς (ΤΝ γενικού σκοπού) και για τις περιπτώσεις στις οποίες η τεχνολογία ΤΝ γενικού σκοπού ενσωματώνεται στη συνέχεια σε άλλο σύστημα υψηλού κινδύνου. Η προσωρινή συμφωνία εξετάζει επίσης τις ειδικές περιπτώσεις συστημάτων ΤΝ γενικού σκοπού (ΤΝΓΣ).

Έχουν επίσης συμφωνηθεί ειδικοί κανόνες για τα θεμελιώδη μοντέλα, μεγάλα συστήματα που είναι ικανά να εκτελούν με επάρκεια ευρύ φάσμα διακριτών λειτουργιών, όπως η παραγωγή βίντεο, κειμένου, εικόνων, η συζήτηση σε παράλληλη γλώσσα, η υπολογιστική ή η δημιουργία κώδικα υπολογιστή. Η προσωρινή συμφωνία προβλέπει ότι τα θεμελιώδη μοντέλα πρέπει να συμμορφώνονται με ειδικές υποχρεώσεις διαφάνειας πριν από τη διάθεσή τους στην αγορά. Θεσπίστηκε αυστηρότερο καθεστώς για τα θεμελιώδη μοντέλα «υψηλού αντίκτυπου». Πρόκειται για θεμελιώδη μοντέλα που εκπαιδεύονται με μεγάλο όγκο δεδομένων και χαρακτηρίζονται από προηγμένη πολυπλοκότητα, ικανότητες και επιδόσεις πολύ πάνω από τον μέσο όρο, τα οποία μπορούν να διαδώσουν συστημικούς κινδύνους σε ολόκληρη την αξιακή αλυσίδα.

Μια νέα αρχιτεκτονική διακυβέρνησης

Σύμφωνα με τους νέους κανόνες για τα μοντέλα ΤΝΓΣ και την προφανή ανάγκη επιβολής τους σε επίπεδο ΕΕ, συστήνεται Γραφείο ΤΝ εντός της Επιτροπής, επιφορτισμένο με την εποπτεία αυτών των πλέον προηγμένων μοντέλων ΤΝ, τη συμβολή στην προώθηση προτύπων και πρακτικών δοκιμών και την επιβολή των κοινών κανόνων σε όλα τα κράτη μέλη. Μια επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων θα συμβουλεύει το Γραφείο ΤΝ σχετικά με τα μοντέλα ΤΝΓΣ, συμβάλλοντας στην ανάπτυξη μεθοδολογιών για την αξιολόγηση των ικανοτήτων των θεμελιωδών μοντέλων, παρέχοντας συμβουλές σχετικά με τον ορισμό και την εμφάνιση θεμελιωδών μοντέλων υψηλού αντίκτυπου και παρακολουθώντας πιθανούς κινδύνους για την υλική ασφάλεια που σχετίζονται με τα μοντέλα θεμελίωσης.

Το συμβούλιο για την ΤΝ, το οποίο θα απαρτίζεται από εκπροσώπους των κρατών μελών, θα παραμείνει ως πλατφόρμα συντονισμού και συμβουλευτικό όργανο της Επιτροπής και θα δώσει σημαντικό ρόλο στα κράτη μέλη όσον αφορά την εφαρμογή του κανονισμού, συμπεριλαμβανομένου του σχεδιασμού κωδίκων πρακτικής για τα θεμελιώδη μοντέλα. Τέλος, θα δημιουργηθεί ένα συμβουλευτικό φόρουμ για τα ενδιαφερόμενα μέρη, όπως οι εκπρόσωποι του κλάδου, οι ΜΜΕ, οι νεοφυείς επιχειρήσεις, η κοινωνία των πολιτών και η ακαδημαϊκή κοινότητα, με σκοπό την παροχή τεχνικής εμπειρογνωσίας στο συμβούλιο για την ΤΝ.

Κυρώσεις

Τα πρόστιμα για παραβάσεις του κανονισμού για την ΤΝ καθορίστηκαν ως ποσοστό του παγκόσμιου ετήσιου κύκλου εργασιών της επιχείρησης που παρανομεί κατά το προηγούμενο οικονομικό έτος ή ως προκαθορισμένο ποσό, ανάλογα με το ποιο είναι υψηλότερο. Το ποσό αυτό θα ανέρχεται σε 35 εκατ. ευρώ ή 7 % για παραβιάσεις σχετικά με τις απαγορευμένες εφαρμογές ΤΝ, 15 εκατ. ευρώ ή 3 % για παραβιάσεις των υποχρεώσεων βάσει του κανονισμού για την ΤΝ και 7,5 εκατ. ευρώ ή 1,5 % για την παροχή εσφαλμένων πληροφοριών. Ωστόσο, η προσωρινή συμφωνία προβλέπει πιο αναλογικά ανώτατα όρια διοικητικών προστίμων για τις ΜΜΕ και τις νεοφυείς επιχειρήσεις σε περίπτωση παράβασης των διατάξεων του κανονισμού για την ΤΝ.

Η συμβιβαστική συμφωνία καθιστά επίσης σαφές ότι ένα φυσικό ή νομικό πρόσωπο μπορεί να υποβάλει καταγγελία στην αρμόδια αρχή εποπτείας της αγοράς σε περίπτωση μη συμμόρφωσης με τον κανονισμό για την ΤΝ και να αναμένει ότι η εν λόγω καταγγελία θα εξεταστεί σύμφωνα με τις ειδικές διαδικασίες της εν λόγω αρχής.

Διαφάνεια και προστασία των θεμελιωδών δικαιωμάτων

Η προσωρινή συμφωνία προβλέπει εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα προτού ένα σύστημα ΤΝ υψηλού κινδύνου διατεθεί στην αγορά από τους φορείς που το θέτουν σε εφαρμογή. Η συμβιβαστική συμφωνία προβλέπει επίσης αυξημένη διαφάνεια όσον αφορά τη χρήση συστημάτων ΤΝ υψηλού κινδύνου. Συγκεκριμένα, μερικές διατάξεις της πρότασης της Επιτροπής τροποποιήθηκαν ώστε να αναφέρουν ότι ορισμένοι χρήστες ενός συστήματος ΤΝ υψηλού κινδύνου που είναι δημόσιες οντότητες θα υποχρεούνται επίσης να εγγράφονται στη βάση δεδομένων της ΕΕ για τα συστήματα ΤΝ υψηλού κινδύνου. Επιπλέον, νέες διατάξεις δίνουν έμφαση στην υποχρέωση των χρηστών συστήματος αναγνώρισης συναισθημάτων να ενημερώνουν τα φυσικά πρόσωπα όταν αυτά εκτίθενται σε τέτοιο σύστημα.

Μέτρα για τη στήριξη της καινοτομίας

Με στόχο τη δημιουργία νομικού πλαισίου που θα είναι περισσότερο φιλικό προς την καινοτομία και προκειμένου να προωθηθεί η τεκμηριωμένη ρυθμιστική μάθηση, οι διατάξεις που αφορούν μέτρα για τη στήριξη της καινοτομίας τροποποιήθηκαν ουσιωδώς σε σχέση με την πρόταση της Επιτροπής.

Ειδικότερα, διευκρινίστηκε ότι τα ρυθμιστικά δοκιμαστήρια ΤΝ, τα οποία αναμένεται να δημιουργήσουν ένα ελεγχόμενο περιβάλλον για την ανάπτυξη, τη δοκιμή και την επικύρωση καινοτόμων συστημάτων ΤΝ, θα πρέπει επίσης να επιτρέπουν τη δοκιμή καινοτόμων συστημάτων ΤΝ σε πραγματικές συνθήκες. Επιπλέον, προστέθηκαν νέες διατάξεις που επιτρέπουν τη δοκιμή των συστημάτων ΤΝ σε πραγματικές συνθήκες, υπό συγκεκριμένες προϋποθέσεις και διασφαλίσεις. Προκειμένου να μετριαστεί ο διοικητικός φόρτος για τις μικρότερες εταιρείες, στην προσωρινή συμφωνία περιλαμβάνεται κατάλογος των δράσεων που πρέπει να αναληφθούν για τη στήριξη των εν λόγω φορέων εκμετάλλευσης, προβλέπονται δε ορισμένες περιορισμένες και σαφώς καθορισμένες παρεκκλίσεις.

Έναρξη ισχύος

Η προσωρινή συμφωνία προβλέπει ότι ο κανονισμός για την ΤΝ θα πρέπει να εφαρμοστεί δύο χρόνια μετά την έναρξη ισχύος του, με ορισμένες εξαιρέσεις για συγκεκριμένες διατάξεις.​

Γενικές πληροφορίες

Η πρόταση της Επιτροπής, που παρουσιάστηκε τον Απρίλιο του 2021, αποτελεί βασικό στοιχείο της πολιτικής της ΕΕ για την προώθηση της ανάπτυξης και της υιοθέτησης, στην ενιαία αγορά, ασφαλών και νόμιμων εφαρμογών ΤΝ που σέβονται τα θεμελιώδη δικαιώματα.

Στην πρόταση ακολουθείται μια προσέγγιση βάσει κινδύνου και θεσπίζεται ένα ενιαίο, οριζόντιο νομικό πλαίσιο για την ΤΝ, το οποίο αποσκοπεί να εξασφαλίσει ασφάλεια δικαίου. Στόχος του σχεδίου κανονισμού είναι να προωθηθούν οι επενδύσεις και η καινοτομία στην ΤΝ, να ενισχυθεί η διακυβέρνηση και η αποτελεσματική επιβολή της ισχύουσας νομοθεσίας για τα θεμελιώδη δικαιώματα και την ασφάλεια και να διευκολυνθεί η ανάπτυξη ενιαίας αγοράς για τις εφαρμογές ΤΝ. Ο εν λόγω κανονισμός συνδέεται με άλλες πρωτοβουλίες, όπως το συντονισμένο σχέδιο για την τεχνητή νοημοσύνη το οποίο αποσκοπεί στην επιτάχυνση των επενδύσεων στην ΤΝ στην Ευρώπη. Στις 6 Δεκεμβρίου 2022 το Συμβούλιο κατέληξε σε συμφωνία για γενική προσέγγιση (διαπραγματευτική εντολή) επί του φακέλου αυτού και άρχισε διοργανικές συνομιλίες με το Ευρωπαϊκό Κοινοβούλιο («τριμερείς διάλογοι») στα μέσα Ιουνίου του 2023.