Πράξη για την Τεχνητή Νοημοσύνη: Ερωτήσεις και απαντήσεις από την Ευρωπαϊκή Επιτροπή

Νέοι κανόνες για την Τεχνητή νοημοσύνη: Ερωτήσεις και απαντήσεις από την Ευρωπαϊκή Επιτροπή

Γιατί πρέπει να ρυθμίσουμε τη χρήση της τεχνητής νοημοσύνης;

Τα δυνητικά οφέλη της τεχνητής νοημοσύνης (ΤΝ) για τις κοινωνίες μας είναι πολλαπλά, από τη βελτιωμένη ιατρική περίθαλψη έως την καλύτερη εκπαίδευση. Η ΕΕ, αντιμετωπίζοντας την ταχεία τεχνολογική ανάπτυξη της ΤΝ, αποφάσισε να δράσει ως ενιαίο σύνολο για να αξιοποιήσει αυτές τις ευκαιρίες.

Η πράξη της ΕΕ για την ΤΝ είναι το πρώτο ολοκληρωμένο νομοθέτημα για την ΤΝ παγκοσμίως. Αποσκοπεί στην αντιμετώπιση των κινδύνων για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα. Ο κανονισμός αυτός προστατεύει επίσης τη δημοκρατία, το κράτος δικαίου και το περιβάλλον.

Αν και για τα περισσότερα συστήματα ΤΝ ο κίνδυνος θα είναι χαμηλός έως μηδενικός, ορισμένα συστήματα ΤΝ δημιουργούν κινδύνους που πρέπει να αντιμετωπιστούν για την αποφυγή ανεπιθύμητων αποτελεσμάτων.

Για παράδειγμα, η αδιαφάνεια πολλών αλγορίθμων μπορεί να δημιουργήσει αβεβαιότητα και να παρεμποδίσει την αποτελεσματική επιβολή της ισχύουσας νομοθεσίας για την ασφάλεια και τα θεμελιώδη δικαιώματα. Για την αντιμετώπιση αυτών των προκλήσεων, υπήρχε ανάγκη νομοθετικής δράσης για να διασφαλιστεί η εύρυθμη λειτουργία της εσωτερικής αγοράς για τα συστήματα ΤΝ, στο πλαίσιο της οποίας να λαμβάνονται επαρκώς υπόψη τόσο τα οφέλη όσο και οι κίνδυνοι.

Πρόκειται, μεταξύ άλλων, για εφαρμογές όπως συστήματα βιομετρικής ταυτοποίησης ή αποφάσεις τεχνητής νοημοσύνης που άπτονται σημαντικών προσωπικών συμφερόντων, όπως στους τομείς των προσλήψεων, της εκπαίδευσης, της ιατροφαρμακευτικής περίθαλψης ή της επιβολής του νόμου.

Από τις πρόσφατες εξελίξεις στην ΤΝ προέκυψε ολοένα και πιο ισχυρή παραγωγική ΤΝ. Τα λεγόμενα «μοντέλα ΤΝ γενικού σκοπού» που ενσωματώνονται σε πολλά συστήματα ΤΝ αποκτούν τόσο μεγάλη σημασία για την οικονομία και την κοινωνία που δεν γίνεται να μη ρυθμιστούν. Λαμβανομένων υπόψη των δυνητικών συστημικών κινδύνων, η ΕΕ θεσπίζει αποτελεσματικούς κανόνες και εποπτεία.

Ποιοι κίνδυνοι θα αντιμετωπιστούν με τους νέους κανόνες για την ΤΝ;

Η αποδοχή των συστημάτων ΤΝ έχει μεγάλες δυνατότητες να αποφέρει κοινωνικά οφέλη, να συμβάλει στην οικονομική ανάπτυξη και να ενισχύσει την καινοτομία της ΕΕ και την παγκόσμια ανταγωνιστικότητα. Ωστόσο, σε ορισμένες περιπτώσεις, τα ειδικά χαρακτηριστικά ορισμένων συστημάτων ΤΝ μπορεί να δημιουργήσουν νέους κινδύνους όσον αφορά την ασφάλεια των χρηστών και χρηστριών και τα θεμελιώδη δικαιώματα. Ορισμένα ισχυρά μοντέλα ΤΝ που χρησιμοποιούνται ευρέως θα μπορούσαν να ενέχουν ακόμη και συστημικούς κινδύνους.

Το γεγονός αυτό προκαλεί ανασφάλεια δικαίου για τις επιχειρήσεις και μπορεί να επιβραδύνει την υιοθέτηση των τεχνολογιών τεχνητής νοημοσύνης από τις επιχειρήσεις και τους πολίτες λόγω της έλλειψης εμπιστοσύνης. Σε περίπτωση που οι εθνικές αρχές ρυθμίσουν αυτό το ζήτημα διαφορετικά, υπάρχει ο κίνδυνος να κατακερματιστεί η εσωτερική αγορά.

Σε ποιους έχει εφαρμογή η πράξη για την ΤΝ;

Το νομικό πλαίσιο θα εφαρμόζεται τόσο για δημόσιους όσο και για ιδιωτικούς φορείς εντός και εκτός της ΕΕ, εφόσον το σύστημα ΤΝ διατίθεται στην αγορά της Ένωσης ή η χρήση του επηρεάζει άτομα που βρίσκονται στην ΕΕ.

Μπορεί να αφορά τόσο τους παρόχους (π.χ. έναν προγραμματιστή ενός εργαλείου αξιολόγησης βιογραφικών σημειωμάτων) όσο και τους φορείς χρήσης συστημάτων ΤΝ υψηλού κινδύνου (π.χ. μια τράπεζα που αγοράζει το εν λόγω εργαλείο αξιολόγησης).Οι εισαγωγείς συστημάτων ΤΝ θα πρέπει επίσης να βεβαιώνονται ότι ο αλλοδαπός πάροχος έχει ήδη διενεργήσει την κατάλληλη διαδικασία αξιολόγησης της συμμόρφωσης και διαθέτει την τεχνική τεκμηρίωση, φέρει σήμανση ευρωπαϊκής συμμόρφωσης (CE) και συνοδεύεται από την απαιτούμενη τεκμηρίωση και τις οδηγίες χρήσης.

Επιπλέον, προβλέπονται ορισμένες υποχρεώσεις για τους παρόχους μοντέλων ΤΝ γενικού σκοπού, συμπεριλαμβανομένων μεγάλων μοντέλων παραγωγικής ΤΝ.

Οι πάροχοι δωρεάν μοντέλων ανοικτού κώδικα απαλλάσσονται από τις περισσότερες από τις εν λόγω υποχρεώσεις. Η απαλλαγή αυτή δεν καλύπτει τις υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους.

Οι υποχρεώσεις δεν εφαρμόζονται επίσης σε δραστηριότητες έρευνας, ανάπτυξης και κατασκευής πρωτοτύπων που προηγούνται της διάθεσης στην αγορά, ενώ, επιπλέον, ο κανονισμός δεν εφαρμόζεται σε συστήματα ΤΝ που προορίζονται αποκλειστικά για στρατιωτικούς σκοπούς, αμυντικούς σκοπούς ή σκοπούς εθνικής ασφάλειας, ανεξάρτητα από το είδος της οντότητας που ασκεί τις εν λόγω δραστηριότητες.

Ποιες είναι οι κατηγορίες κινδύνου;

Η Επιτροπή προτείνει μια προσέγγιση με βάση τον κίνδυνο, με τέσσερα επίπεδα κινδύνου από συστήματα ΤΝ, καθώς και προσδιορισμό των κινδύνων που αφορούν ειδικά τα μοντέλα γενικού σκοπού:

• Ελάχιστος κίνδυνος: όλα τα υπόλοιπα συστήματα ΤΝ είναι δυνατό να αναπτυχθούν και να χρησιμοποιηθούν σύμφωνα με την ισχύουσα νομοθεσία χωρίς πρόσθετες νομικές υποχρεώσεις. Η μεγάλη πλειονότητα των συστημάτων ΤΝ που χρησιμοποιούνται επί του παρόντος ή ενδέχεται να χρησιμοποιηθούν στην ΕΕ εμπίπτουν σε αυτήν την κατηγορία. Προαιρετικά, οι πάροχοι των εν λόγω συστημάτων μπορούν να επιλέξουν να εφαρμόσουν τις απαιτήσεις για αξιόπιστη ΤΝ και να προσχωρήσουν σε προαιρετικούς κώδικες δεοντολογίας.
• Υψηλός κίνδυνος: περιορισμένος αριθμός συστημάτων ΤΝ που προσδιορίζονται στην πρόταση και έχουν δυνητικά αρνητικό αντίκτυπο στην ασφάλεια των ανθρώπων ή στα θεμελιώδη δικαιώματά τους (όπως προστατεύονται από τον Χάρτη των Θεμελιωδών Δικαιωμάτων της ΕΕ) θεωρούνται υψηλού κινδύνου. Στην πράξη επισυνάπτεται ο κατάλογος των συστημάτων ΤΝ υψηλού κινδύνου, ο οποίος μπορεί να αναθεωρηθεί ώστε να ευθυγραμμιστεί με την εξέλιξη των περιπτώσεων χρήσης ΤΝ.
• Στον κατάλογο περιλαμβάνονται επίσης τα κατασκευαστικά στοιχεία ασφάλειας των προϊόντων που καλύπτονται από την τομεακή νομοθεσία της Ένωσης, τα οποία θα θεωρούνται πάντοτε υψηλού κινδύνου όταν υπόκεινται σε αξιολόγηση της συμμόρφωσης από τρίτο μέρος βάσει της εν λόγω τομεακής νομοθεσίας.
• Μη αποδεκτός κίνδυνος: θα απαγορευτεί ένα πολύ περιορισμένο σύνολο ιδιαίτερα επιβλαβών χρήσεων της ΤΝ που αντιβαίνουν στις αξίες της ΕΕ διότι παραβιάζουν θεμελιώδη δικαιώματα:
  
  • κοινωνική βαθμολόγηση για δημόσιους και ιδιωτικούς σκοπούς·
  • εκμετάλλευση ευάλωτων χαρακτηριστικών των προσώπων, χρήση τεχνικών που απευθύνονται στο υποσυνείδητο·
  • βιομετρική ταυτοποίηση από απόσταση σε πραγματικό χρόνο σε δημόσιους χώρους από τις αρχές επιβολής του νόμου, με την επιφύλαξη επακριβώς προσδιορισμένων εξαιρέσεων (βλ. κατωτέρω)·
  • βιομετρική κατηγοριοποίηση φυσικών προσώπων με βάση βιομετρικά δεδομένα με σκοπό να συναχθεί η φυλή, τα πολιτικά φρονήματα, η συμμετοχή σε συνδικαλιστική οργάνωση, οι θρησκευτικές ή φιλοσοφικές πεποιθήσεις ή ο γενετήσιος προσανατολισμός τους. Θα εξακολουθήσει να επιτρέπεται το φιλτράρισμα συνόλων δεδομένων με βάση βιομετρικά δεδομένα στον τομέα της επιβολής του νόμου·
  • ατομική προληπτική αστυνόμευση·
  • αναγνώριση συναισθημάτων στον χώρο εργασίας και στα εκπαιδευτικά ιδρύματα, εκτός αν χρησιμοποιείται για ιατρικούς λόγους ή λόγους ασφάλειας (π.χ. παρακολούθηση των επιπέδων κόπωσης ενός πιλότου)·
  • μη στοχευμένη συγκομιδή δεδομένων από το διαδίκτυο ή τηλεόραση κλειστού κυκλώματος για εικόνες προσώπου με σκοπό τη δημιουργία ή την επέκταση βάσεων δεδομένων.

• Ειδικός κίνδυνος διαφάνειας: για ορισμένα συστήματα ΤΝ επιβάλλονται συγκεκριμένες απαιτήσεις διαφάνειας, για παράδειγμα όταν υπάρχει σαφής κίνδυνος παραποίησης (π.χ. μέσω της χρήσης διαλογικών ρομπότ). Οι χρήστες και οι χρήστριες θα πρέπει να γνωρίζουν ότι αλληλεπιδρούν με μηχάνημα. 

Επιπλέον, στην πράξη για την ΤΝ λαμβάνονται υπόψη οι συστημικοί κίνδυνοι που θα ήταν δυνατό να προκύψουν από μοντέλα ΤΝ γενικού σκοπού, συμπεριλαμβανομένων των μεγάλων μοντέλων παραγωγικής ΤΝ. Τα μοντέλα αυτά είναι δυνατό να χρησιμοποιηθούν για διάφορες εργασίες και καθίστανται βάση για πολλά συστήματα ΤΝ στην ΕΕ. Ορισμένα από αυτά τα μοντέλα θα μπορούσαν να ενέχουν συστημικούς κινδύνους αν είναι ιδιαίτερα ικανά ή χρησιμοποιούνται ευρέως. Για παράδειγμα, ισχυρά μοντέλα θα μπορούσαν να προκαλέσουν σοβαρά ατυχήματα ή να χρησιμοποιηθούν καταχρηστικά για εκτεταμένες κυβερνοεπιθέσεις. Αν ένα μοντέλο αναπαράγει επιβλαβείς προκαταλήψεις σε πολλές εφαρμογές θα μπορούσε να επηρεάσει πολλά άτομα.  

Πώς μπορώ να γνωρίζω αν ένα σύστημα ΤΝ είναι υψηλού κινδύνου;

Σε συνδυασμό με έναν σαφή ορισμό του «υψηλού κινδύνου», η πράξη καθορίζει μια αξιόπιστη μεθοδολογία που βοηθά στον προσδιορισμό συστημάτων ΤΝ υψηλού κινδύνου εντός του νομικού πλαισίου. Στόχος είναι η παροχή ασφάλειας δικαίου σε επιχειρήσεις και άλλους φορείς.

Η ταξινόμηση κινδύνου βασίζεται στον επιδιωκόμενο σκοπό του συστήματος ΤΝ, σύμφωνα με την ισχύουσα νομοθεσία της ΕΕ για την ασφάλεια των προϊόντων. Αυτό σημαίνει ότι η ταξινόμηση κινδύνου εξαρτάται από τη λειτουργία που επιτελεί το σύστημα ΤΝ και από τον συγκεκριμένο σκοπό και τις πρακτικές λεπτομέρειες για τις οποίες χρησιμοποιείται το σύστημα.

Στην πράξη επισυνάπτεται κατάλογος περιπτώσεων χρήσης οι οποίες θεωρούνται υψηλού κινδύνου. Η Επιτροπή θα μεριμνά για την επικαιροποίηση και ενημέρωση του καταλόγου αυτού. Συστήματα που περιλαμβάνονται στον κατάλογο υψηλού κινδύνου και εκτελούν στενές διαδικαστικές εργασίες, βελτιώνουν το αποτέλεσμα προηγούμενων ανθρώπινων δραστηριοτήτων, δεν επηρεάζουν ανθρώπινες αποφάσεις ή εκτελούν αμιγώς προπαρασκευαστικές εργασίες δεν θεωρούνται υψηλού κινδύνου. Ωστόσο, ένα σύστημα ΤΝ θεωρείται πάντα υψηλού κινδύνου αν διενεργεί κατάρτιση προφίλ φυσικών προσώπων.

Ποιες είναι οι υποχρεώσεις των παρόχων συστημάτων ΤΝ υψηλού κινδύνου;

Πριν από τη διάθεση στην αγορά της ΕΕ ενός συστήματος ΤΝ υψηλού κινδύνου ή την κατ' άλλον τρόπο θέση του σε λειτουργία, οι πάροχοι πρέπει να το υποβάλλουν σε αξιολόγηση της συμμόρφωσης. Η αξιολόγηση αυτή θα τους επιτρέπει να αποδείξουν ότι το σύστημά τους συμμορφώνεται με τις υποχρεωτικές απαιτήσεις για αξιόπιστη ΤΝ (π.χ. ποιότητα των δεδομένων, τεκμηρίωση και ιχνηλασιμότητα, διαφάνεια, ανθρώπινη εποπτεία, ακρίβεια, κυβερνοασφάλεια και αρτιότητα). Η εν λόγω αξιολόγηση πρέπει να επαναλαμβάνεται σε περίπτωση ουσιαστικής τροποποίησης του συστήματος ή του σκοπού του.

Τα συστήματα ΤΝ που αποτελούν κατασκευαστικά στοιχεία ασφάλειας προϊόντων τα οποία καλύπτονται από την τομεακή νομοθεσία της Ένωσης θα θεωρούνται πάντοτε υψηλού κινδύνου όταν υπόκεινται σε αξιολόγηση της συμμόρφωσης από τρίτο μέρος βάσει της εν λόγω τομεακής νομοθεσίας. Επίσης, για βιομετρικά συστήματα απαιτείται πάντοτε αξιολόγηση της συμμόρφωσης από τρίτο μέρος.

Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου θα πρέπει επίσης να εφαρμόζουν συστήματα ποιότητας και διαχείρισης κινδύνου για να διασφαλίζουν τη συμμόρφωσή τους με τις νέες απαιτήσεις και να ελαχιστοποιούν τους κινδύνους για τους χρήστες και τις χρήστριες και τα επηρεαζόμενα πρόσωπα, ακόμη και μετά τη διάθεση ενός προϊόντος στην αγορά.

Τα συστήματα ΤΝ υψηλού κινδύνου που χρησιμοποιούνται από δημόσιες αρχές ή οντότητες που ενεργούν για λογαριασμό τους θα πρέπει να καταχωρίζονται σε δημόσια βάση δεδομένων της ΕΕ, εκτός αν τα εν λόγω συστήματα χρησιμοποιούνται για την επιβολή του νόμου και τη μετανάστευση. Τα τελευταία αυτά συστήματα θα πρέπει να καταχωρίζονται σε μη δημόσιο τμήμα της βάσης δεδομένων στο οποίο θα έχουν πρόσβαση μόνο οι αρμόδιες εποπτικές αρχές.

Οι αρχές εποπτείας της αγοράς θα στηρίζουν την παρακολούθηση μετά τη διάθεση στην αγορά μέσω ελέγχων και δίνοντας στους παρόχους τη δυνατότητα να αναφέρουν σοβαρά συμβάντα ή παραβιάσεις των υποχρεώσεων στον τομέα των θεμελιωδών δικαιωμάτων που έχουν περιέλθει σε γνώση τους. Κάθε αρχή εποπτείας της αγοράς μπορεί να εγκρίνει τη διάθεση στην αγορά συγκεκριμένης ΤΝ υψηλού κινδύνου για εξαιρετικούς λόγους.

Σε περίπτωση παραβίασης, οι εθνικές αρχές θα μπορούν, σύμφωνα με τις απαιτήσεις, να έχουν πρόσβαση στις πληροφορίες που είναι αναγκαίες για να διερευνηθεί κατά πόσον η χρήση του συστήματος ΤΝ συμμορφώνεται με τη νομοθεσία.

Ποια είναι τα παραδείγματα περιπτώσεων χρήσης υψηλού κινδύνου, όπως ορίζονται στο παράρτημα III;

• Ορισμένες υποδομές ζωτικής σημασίας, για παράδειγμα, στους τομείς της οδικής κυκλοφορίας και της ύδρευσης, της παροχής αερίου, θέρμανσης και ηλεκτρικής ενέργειας·
• εκπαίδευση και επαγγελματική κατάρτιση, π.χ. για την αξιολόγηση των μαθησιακών αποτελεσμάτων και την καθοδήγηση της μαθησιακής διαδικασίας και της παρακολούθησης της εξαπάτησης·
• απασχόληση, διαχείριση εργαζομένων και πρόσβαση στην αυτοαπασχόληση, π.χ. για τη δημοσίευση στοχευμένων διαφημίσεων θέσεων εργασίας, για την ανάλυση και το φιλτράρισμα αιτήσεων εργασίας, καθώς και για την αξιολόγηση υποψηφίων·
• πρόσβαση σε βασικές ιδιωτικές και δημόσιες υπηρεσίες και παροχές (π.χ. ιατροφαρμακευτική περίθαλψη), αξιολόγηση της πιστοληπτικής ικανότητας φυσικών προσώπων και εκτίμηση κινδύνου και τιμολόγηση σε σχέση με την ασφάλιση ζωής και υγείας·
• ορισμένα συστήματα που χρησιμοποιούνται στο πεδίο της επιβολής του νόμου, του ελέγχου των συνόρων, της απονομής δικαιοσύνης και των δημοκρατικών διαδικασιών·
• αξιολόγηση και ταξινόμηση κλήσεων έκτακτης ανάγκης·
• συστήματα βιομετρικής ταυτοποίησης, κατηγοριοποίησης και αναγνώρισης συναισθημάτων (εκτός των απαγορευμένων κατηγοριών)·
• Τα συστήματα συστάσεων πολύ μεγάλων επιγραμμικών πλατφορμών δεν περιλαμβάνονται, διότι καλύπτονται ήδη από άλλη νομοθεσία (πράξη για τις ψηφιακές αγορές/πράξη για τις ψηφιακές υπηρεσίες).

Πώς ρυθμίζονται τα μοντέλα ΤΝ γενικού σκοπού;

Τα μοντέλα ΤΝ γενικού σκοπού, συμπεριλαμβανομένων των μεγάλων μοντέλων παραγωγικής ΤΝ, είναι δυνατό να χρησιμοποιηθούν για ποικίλες εργασίες. Μεμονωμένα μοντέλα είναι δυνατό να ενσωματωθούν σε μεγάλο αριθμό συστημάτων ΤΝ.

Είναι σημαντικό ένας πάροχος που επιθυμεί να αξιοποιήσει ένα μοντέλο ΤΝ γενικού σκοπού να διαθέτει όλες τις αναγκαίες πληροφορίες για να βεβαιωθεί ότι το σύστημά του είναι ασφαλές και συμμορφώνεται με την πράξη για την ΤΝ.

Ως εκ τούτου, η πράξη για την ΤΝ υποχρεώνει τους παρόχους τέτοιων μοντέλων να γνωστοποιούν ορισμένες πληροφορίες σε κατάντη παρόχους συστημάτων. Αυτού του είδους η διαφάνεια καθιστά δυνατή την καλύτερη κατανόηση των μοντέλων αυτών.

Οι πάροχοι μοντέλων πρέπει επιπλέον να διαθέτουν πολιτικές που να διασφαλίζουν ότι τηρούν τη νομοθεσία περί πνευματικής ιδιοκτησίας κατά την εκπαίδευση των μοντέλων τους.

Επιπλέον, ορισμένα από αυτά τα μοντέλα θα μπορούσαν να ενέχουν συστημικούς κινδύνους, επειδή είναι ιδιαίτερα ικανά ή χρησιμοποιούνται ευρέως.

Προς το παρόν, τα μοντέλα ΤΝ γενικού σκοπού που εκπαιδεύτηκαν με συνολική υπολογιστική ισχύ άνω των 10^25 FLOPS θεωρείται ότι ενέχουν συστημικούς κινδύνους, δεδομένου ότι μοντέλα που εκπαιδεύονται με μεγαλύτερη υπολογιστική ισχύ τείνουν να είναι ισχυρότερα. Η Υπηρεσία ΤΝ (που συστήνεται εντός της Επιτροπής) μπορεί να επικαιροποιήσει το όριο αυτό υπό το πρίσμα τεχνολογικών εξελίξεων και μπορεί, περαιτέρω, σε συγκεκριμένες περιπτώσεις να ορίσει άλλα μοντέλα ως τέτοια βάσει επιπλέον κριτηρίων (π.χ. αριθμός χρηστών ή βαθμός αυτονομίας του μοντέλου).

Ως εκ τούτου, οι πάροχοι μοντέλων με συστημικούς κινδύνους υποχρεούνται να αξιολογούν και να μετριάζουν τους κινδύνους, να αναφέρουν σοβαρά συμβάντα, να διενεργούν προηγμένες δοκιμές και αξιολογήσεις μοντέλων, να κατοχυρώνουν την κυβερνοασφάλεια και να παρέχουν πληροφορίες σχετικά με την κατανάλωση ενέργειας των μοντέλων τους.

Για τον σκοπό αυτό, καλούνται να συνεργαστούν με την Ευρωπαϊκή Υπηρεσία ΤΝ για την κατάρτιση κωδίκων δεοντολογίας ως κεντρικού εργαλείου για τη λεπτομερή περιγραφή των κανόνων σε συνεργασία με άλλους εμπειρογνώμονες. Μια επιστημονική ομάδα θα έχει κεντρικό ρόλο στην εποπτεία των μοντέλων ΤΝ γενικού σκοπού.

Γιατί τα 10^25 FLOPS αποτελούν κατάλληλο όριο για την ΤΝ γενικού σκοπού (ΤΝΓΣ) με συστημικούς κινδύνους;

Το όριο αυτό αντικατοπτρίζει τα πλέον προηγμένα επί του παρόντος μοντέλα ΤΝΓΣ, δηλαδή το GPT-4 της OpenAI και ενδεχομένως το Gemini της Google DeepMind.

Οι δυνατότητες των μοντέλων που υπερβαίνουν αυτό το όριο δεν είναι ακόμη επαρκώς αντιληπτές. Θα μπορούσαν να ενέχουν συστημικούς κινδύνους και, ως εκ τούτου, είναι εύλογο να υπόκεινται οι πάροχοι τους στο πρόσθετο σύνολο υποχρεώσεων.

Τα FLOP αποτελούν μια αρχική προσεγγιστική τιμή για τις ικανότητες των μοντέλων και το ακριβές όριο FLOP μπορεί να επικαιροποιείται προς τα πάνω ή προς τα κάτω από την Ευρωπαϊκή Υπηρεσία ΤΝ, π.χ. υπό το πρίσμα της προόδου στην αντικειμενική μέτρηση των ικανοτήτων των μοντέλων και των εξελίξεων στην υπολογιστική ισχύ που είναι αναγκαία για ένα δεδομένο επίπεδο επιδόσεων.

Η πράξη για την ΤΝ μπορεί να τροποποιείται ώστε να επικαιροποιείται το όριο FLOP (μέσω κατ' εξουσιοδότηση πράξης).

Είναι η πράξη για την ΤΝ ανθεκτική στις μελλοντικές εξελίξεις;

Ο κανονισμός εισάγει διαφορετικό επίπεδο κινδύνων και παρέχει σαφείς ορισμούς, μεταξύ άλλων για την ΤΝΓΣ.

Η νομοθεσία καθορίζει απαιτήσεις προσανατολισμένες στα αποτελέσματα για τα συστήματα ΤΝ υψηλού κινδύνου, αλλά αφήνει τις απτές τεχνικές λύσεις και την επιχειρησιακή εφαρμογή πρωτίστως σε πρότυπα που θα προέλθουν από τον κλάδο, τα οποία θα διασφαλίζουν ότι το νομικό πλαίσιο είναι ευέλικτο ώστε να προσαρμόζεται σε διαφορετικές περιπτώσεις χρήσης και να καθιστά δυνατές νέες τεχνολογικές λύσεις.

Επιπλέον, η πράξη για την ΤΝ μπορεί να τροποποιείται με κατ' εξουσιοδότηση και εκτελεστικές πράξεις, μεταξύ άλλων για την επικαιροποίηση του ορίου FLOP (κατ' εξουσιοδότηση πράξη), την προσθήκη κριτηρίων για την ταξινόμηση των μοντέλων ΤΝΓΣ όσον αφορά τον συστημικό κίνδυνο που ενέχουν (κατ' εξουσιοδότηση πράξη), την τροποποίηση των πρακτικών λεπτομερειών για τη θέσπιση ρυθμιστικών δοκιμαστηρίων και στοιχείων του σχεδίου δοκιμής σε πραγματικές συνθήκες (εκτελεστικές πράξεις).

Πώς ρυθμίζει η πράξη για την ΤΝ τη βιομετρική ταυτοποίηση;

Απαγορεύεται η χρήση βιομετρικής ταυτοποίησης από απόσταση σε πραγματικό χρόνο σε δημόσιους χώρους (π.χ. αναγνώριση προσώπου με χρήση CCTV) για σκοπούς επιβολής του νόμου, εκτός αν χρησιμοποιείται σε μία από τις ακόλουθες περιπτώσεις:

• δραστηριότητες επιβολής του νόμου που σχετίζονται με 16 συγκεκριμένα εγκλήματα·
• στοχευμένη αναζήτηση συγκεκριμένων θυμάτων, απαγωγής, εμπορίας και σεξουαλικής εκμετάλλευσης ανθρώπων, καθώς και αγνοουμένων· ή
• πρόληψη απειλής κατά της ζωής ή της σωματικής ασφάλειας προσώπων ή αντιμετώπιση ενεστώσας ή προβλέψιμης απειλής τρομοκρατικής επίθεσης.

Ο κατάλογος των 16 εγκλημάτων περιλαμβάνει:

• τρομοκρατία·
• εμπορία ανθρώπων·
• σεξουαλική εκμετάλλευση παιδιών και υλικό σεξουαλικής κακοποίησης παιδιών·
• παράνομη διακίνηση ναρκωτικών και ψυχοτρόπων ουσιών·
• παράνομη διακίνηση όπλων, πυρομαχικών και εκρηκτικών·
• ανθρωποκτονία από πρόθεση·
• βαριά σωματική βλάβη·
• παράνομο εμπόριο ανθρώπινων οργάνων και ιστών·
• παράνομη διακίνηση πυρηνικών ή ραδιενεργών ουσιών·
• απαγωγή, παράνομη κατακράτηση και αρπαγή και ομηρία·
• εγκλήματα που εμπίπτουν στην αρμοδιότητα του Διεθνούς Ποινικού Δικαστηρίου·
• αεροπειρατεία ή πειρατεία·
• βιασμός·
• περιβαλλοντικό έγκλημα·
• οργανωμένη ή ένοπλη ληστεία·
• δολιοφθορά, συμμετοχή σε εγκληματική οργάνωση που εμπλέκεται σε ένα ή περισσότερα από τα εγκλήματα που απαριθμούνται ανωτέρω.

Η βιομετρική ταυτοποίηση από απόσταση σε πραγματικό χρόνο από τις αρχές επιβολής του νόμου θα υπόκειται σε προέγκριση από δικαστική ή ανεξάρτητη διοικητική αρχή της οποίας η απόφαση θα είναι δεσμευτική. Σε επείγουσες περιπτώσεις, η έγκριση μπορεί να χορηγείται εντός 24 ωρών· αν απορριφθεί η έγκριση, όλα τα δεδομένα και τα αποτελέσματα πρέπει να διαγράφονται.

Θα πρέπει να προηγείται εκ των προτέρων εκτίμηση επιπτώσεων για τα θεμελιώδη δικαιώματα και η έγκριση θα πρέπει να κοινοποιείται στην αρμόδια αρχή εποπτείας της αγοράς και στην αρχή προστασίας δεδομένων. Σε επείγουσες περιπτώσεις, η χρήση του συστήματος μπορεί να αρχίζει χωρίς την καταχώριση.

Για τη χρήση συστημάτων ΤΝ για την εκ των υστέρων βιομετρική ταυτοποίηση από απόσταση (ταυτοποίηση προσώπων σε οπτικό υλικό που έχει συλλεχθεί προηγουμένως) προσώπων υπό έρευνα απαιτείται προέγκριση από δικαστική αρχή ή ανεξάρτητη διοικητική αρχή και κοινοποίηση στην αρχή προστασίας δεδομένων και την αρχή εποπτείας της αγοράς.

Γιατί απαιτούνται ειδικοί κανόνες για τη βιομετρική ταυτοποίηση από απόσταση; 

Η βιομετρική ταυτοποίηση μπορεί να λαμβάνει διάφορες μορφές. Μπορεί να χρησιμοποιείται για την ταυτοποίηση του χρήστη, για παράδειγμα για το ξεκλείδωμα ενός έξυπνου τηλεφώνου, ή για σκοπούς επαλήθευσης/ταυτοποίησης στα σημεία διέλευσης των συνόρων για τον έλεγχο της ταυτότητας ενός προσώπου με βάση τα ταξιδιωτικά του/της έγγραφα (μονοσήμαντη αντιστοίχιση).

Η βιομετρική ταυτοποίηση θα μπορούσε επίσης να χρησιμοποιείται από απόσταση για την ταυτοποίηση προσώπων μέσα σε ένα πλήθος, όπου, για παράδειγμα, η εικόνα ενός προσώπου αντιπαραβάλλεται με στοιχεία βάσης δεδομένων (αντιστοίχιση «ένα προς πολλά»).

Η ακρίβεια των συστημάτων αναγνώρισης προσώπου μπορεί να ποικίλλει σημαντικά με βάση ευρύ φάσμα παραγόντων, όπως η ποιότητα της κάμερας, το φως, η απόσταση, η βάση δεδομένων, ο αλγόριθμος, καθώς και η εθνοτική καταγωγή, η ηλικία ή το φύλο του ατόμου. Το ίδιο ισχύει για την αναγνώριση του τρόπου βάδισης και της φωνής, και για άλλα βιομετρικά συστήματα. Τα πολύ προηγμένα συστήματα μειώνουν συνεχώς τα ποσοστά εσφαλμένης αποδοχής τους.

Αν και ένα ποσοστό ακρίβειας 99 % μπορεί να κρίνεται γενικά ικανοποιητικό, ενέχει ωστόσο σημαντικό κίνδυνο όταν το αποτέλεσμα μπορεί να προκαλέσει υποψίες σε βάρος αθώου προσώπου. Ακόμη και ένα ποσοστό σφάλματος 0,1 % είναι σημαντικό αν αφορά δεκάδες χιλιάδες άτομα.

Πώς προστατεύουν οι κανόνες τα θεμελιώδη δικαιώματα;

Υπάρχει ήδη ισχυρή προστασία για τα θεμελιώδη δικαιώματα και την απαγόρευση των διακρίσεων σε επίπεδο ΕΕ και κρατών μελών, αλλά η πολυπλοκότητα και η αδιαφάνεια ορισμένων εφαρμογών ΤΝ (τα λεγόμενα «μαύρα κουτιά») αποτελούν πρόβλημα.

Μια ανθρωποκεντρική προσέγγιση της ΤΝ προϋποθέτει τη λήψη μέριμνας ώστε οι εφαρμογές ΤΝ να συμμορφώνονται με τη νομοθεσία για τα θεμελιώδη δικαιώματα. Χάρη στις απαιτήσεις για λογοδοσία και διαφάνεια όσον αφορά τη χρήση συστημάτων ΤΝ υψηλού κινδύνου, σε συνδυασμό με βελτιωμένες ικανότητες επιβολής, θα διασφαλιστεί ότι η συμμόρφωση προς τις κείμενες διατάξεις θα λαμβάνεται υπόψη κατά το στάδιο της ανάπτυξης.

Σε περίπτωση παραβάσεων, οι απαιτήσεις αυτές θα παρέχουν στις εθνικές αρχές τη δυνατότητα πρόσβασης στις πληροφορίες που χρειάζονται για να ερευνούν κατά πόσον η χρήση της ΤΝ υπήρξε σύμφωνη με το δίκαιο της ΕΕ.

Επιπλέον, η πράξη για την ΤΝ απαιτεί από τους φορείς εφαρμογής που είναι οργανισμοί δημοσίου δικαίου ή ιδιωτικοί φορείς εκμετάλλευσης που παρέχουν δημόσιες υπηρεσίες και φορείς εκμετάλλευσης που παρέχουν συστήματα υψηλού κινδύνου να διενεργούν εκτίμηση επιπτώσεων για τα θεμελιώδη δικαιώματα.

Τι είναι η εκτίμηση επιπτώσεων για τα θεμελιώδη δικαιώματα; Ποιος πρέπει να διενεργεί τέτοια εκτίμηση και πότε;

Η χρήση ενός συστήματος ΤΝ υψηλού κινδύνου μπορεί να έχει επιπτώσεις για τα θεμελιώδη δικαιώματα. Ως εκ τούτου, οι φορείς εφαρμογής που είναι οργανισμοί δημοσίου δικαίου ή ιδιωτικοί φορείς εκμετάλλευσης που παρέχουν δημόσιες υπηρεσίες, καθώς και φορείς εκμετάλλευσης που παρέχουν συστήματα υψηλού κινδύνου, διενεργούν εκτίμηση των επιπτώσεων για τα θεμελιώδη δικαιώματα και κοινοποιούν τα αποτελέσματα στην εθνική αρχή.

Η εκτίμηση συνίσταται σε περιγραφή των διαδικασιών του φορέα εφαρμογής στις οποίες θα χρησιμοποιείται το σύστημα ΤΝ υψηλού κινδύνου, του χρονικού διαστήματος και της συχνότητας με την οποία πρόκειται να χρησιμοποιείται το σύστημα ΤΝ υψηλού κινδύνου, των κατηγοριών φυσικών προσώπων και ομάδων που ενδέχεται να επηρεάζονται από τη χρήση του στο συγκεκριμένο πλαίσιο, των ειδικών κινδύνων βλάβης που ενδέχεται να πλήξει τις επηρεαζόμενες κατηγορίες προσώπων ή ομάδων προσώπων, καθώς και σε περιγραφή της εφαρμογής μέτρων ανθρώπινης εποπτείας και μέτρων που πρέπει να λαμβάνονται σε περίπτωση επέλευσης των κινδύνων.

Αν ο πάροχος έχει ήδη τηρήσει αυτήν την υποχρέωση μέσω της εκτίμησης επιπτώσεων για την προστασία δεδομένων, η εκτίμηση επιπτώσεων για τα θεμελιώδη δικαιώματα διενεργείται σε συνδυασμό με την εν λόγω εκτίμηση επιπτώσεων για την προστασία δεδομένων.

Πώς αντιμετωπίζει αυτός ο κανονισμός τις προκαταλήψεις λόγω φυλής και φύλου στην ΤΝ;

Είναι πολύ σημαντικό τα συστήματα ΤΝ να μη δημιουργούν ούτε να αναπαράγουν προκαταλήψεις. Απεναντίας, όταν σχεδιάζονται και χρησιμοποιούνται σωστά, τα συστήματα ΤΝ μπορούν να συμβάλουν στη μείωση των προκαταλήψεων και των υφιστάμενων διαρθρωτικών διακρίσεων και, επομένως, στη λήψη πιο δίκαιων και αμερόληπτων αποφάσεων (π.χ. όσον αφορά τις προσλήψεις).

Αυτόν ακριβώς τον σκοπό θα εξυπηρετούν οι νέες απαιτήσεις που θα είναι υποχρεωτικές για όλα τα συστήματα ΤΝ υψηλού κινδύνου. Τα συστήματα ΤΝ πρέπει να είναι άρτια από τεχνική άποψη ώστε να εγγυώνται ότι η τεχνολογία είναι κατάλληλη για τον σκοπό για τον οποίο προορίζεται και ότι τα ψευδώς θετικά/αρνητικά αποτελέσματα δεν επηρεάζουν δυσανάλογα τις προστατευόμενες ομάδες (π.χ. βάσει φυλετικής ή εθνοτικής καταγωγής, φύλου, ηλικίας κ.λπ.).

Τα συστήματα υψηλού κινδύνου θα πρέπει επίσης να εκπαιδεύονται και να υποβάλλονται σε δοκιμές με επαρκώς αντιπροσωπευτικά σύνολα δεδομένων, ώστε να ελαχιστοποιείται ο κίνδυνος αθέμιτων προκαταλήψεων που εμπεριέχονται στο μοντέλο και να διασφαλίζεται ότι αυτές είναι δυνατό να αντιμετωπίζονται μέσω κατάλληλων μέτρων ανίχνευσης, διόρθωσης και άλλων μέτρων μετριασμού των προκαταλήψεων.

Πρέπει επίσης να είναι ανιχνεύσιμα και ελέγξιμα, με τρόπο που διασφαλίζει ότι τηρείται κατάλληλη τεκμηρίωση, συμπεριλαμβανομένων των δεδομένων που χρησιμοποιούνται για την εκπαίδευση του αλγορίθμου που θα ήταν καίριας σημασίας για εκ των υστέρων έρευνες.

Το σύστημα συμμόρφωσης πριν και μετά τη διάθεσή τους στην αγορά θα πρέπει να διασφαλίζει την τακτική παρακολούθηση των συστημάτων αυτών και την άμεση αντιμετώπιση των δυνητικών κινδύνων.

Πότε θα τεθεί σε πλήρη εφαρμογή η πράξη για την ΤΝ;

Μετά την έκδοσή της από το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο, η πράξη για την ΤΝ τίθεται σε ισχύ την εικοστή ημέρα από τη δημοσίευσή της στην Επίσημη Εφημερίδα. Θα τεθεί σε πλήρη εφαρμογή 24 μήνες μετά την έναρξη ισχύος της, με σταδιακή προσέγγιση ως εξής:

• 6 μήνες μετά την έναρξη ισχύος, τα κράτη μέλη καταργούν σταδιακά τα απαγορευμένα συστήματα·
• 12 μήνες: τίθενται σε εφαρμογή οι υποχρεώσεις διακυβέρνησης της ΤΝ γενικού σκοπού·
• 24 μήνες: τίθενται σε εφαρμογή όλοι οι κανόνες της πράξης για την ΤΝ, συμπεριλαμβανομένων των υποχρεώσεων για τα συστήματα υψηλού κινδύνου που ορίζονται στο παράρτημα III (κατάλογος περιπτώσεων χρήσης υψηλού κινδύνου)·
• 36 μήνες: εφαρμόζονται οι υποχρεώσεις για τα συστήματα υψηλού κινδύνου που ορίζονται στο παράρτημα II (κατάλογος ενωσιακής νομοθεσίας εναρμόνισης).

Πώς θα επιβάλλεται η πράξη για την ΤΝ;

Τα κράτη μέλη έχουν καίριο ρόλο στην εφαρμογή και την επιβολή αυτού του κανονισμού. Στο πλαίσιο αυτό, κάθε κράτος μέλος θα πρέπει να ορίσει μία ή περισσότερες εθνικές αρμόδιες αρχές για την εποπτεία της εφαρμογής και της υλοποίησης, καθώς και για τη διεξαγωγή δραστηριοτήτων εποπτείας της αγοράς.

Για να αυξηθεί η αποτελεσματικότητα και να οριστεί ένα επίσημο σημείο επαφής με το κοινό και άλλους φορείς, κάθε κράτος μέλος θα πρέπει να ορίσει μία εθνική εποπτική αρχή, η οποία θα εκπροσωπεί επίσης τη χώρα στο Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης.

Πρόσθετη τεχνική εμπειρογνωσία θα παρέχεται από συμβουλευτικό φόρουμ, το οποίο εκπροσωπεί μια ισορροπημένη επιλογή ενδιαφερόμενων μερών, συμπεριλαμβανομένης της βιομηχανίας, των νεοφυών επιχειρήσεων, των ΜΜΕ, της κοινωνίας των πολιτών και της ακαδημαϊκής κοινότητας.

Επιπλέον, η Επιτροπή θα συστήσει νέα Ευρωπαϊκή Υπηρεσία ΤΝ, εντός της Επιτροπής, η οποία θα εποπτεύει τα μοντέλα ΤΝ γενικού σκοπού, θα συνεργάζεται με το Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης και θα υποστηρίζεται από επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων.

Γιατί χρειάζεται το Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης και τι θα κάνει;

Το Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης απαρτίζεται από υψηλού επιπέδου εκπροσώπους των αρμόδιων εθνικών εποπτικών αρχών, τον Ευρωπαίο Επόπτη Προστασίας Δεδομένων και την Επιτροπή. Ο ρόλος του είναι να διευκολύνει την ομαλή, αποτελεσματική και εναρμονισμένη εφαρμογή του νέου κανονισμού ΤΝ.

Το εν λόγω Συμβούλιο θα εκδίδει συστάσεις και γνώμες προς την Επιτροπή σχετικά με τα συστήματα ΤΝ υψηλού κινδύνου και σχετικά με άλλες πτυχές που αφορούν την αποτελεσματική και ομοιόμορφη εφαρμογή των νέων κανόνων. Τέλος, θα στηρίζει επίσης δραστηριότητες τυποποίησης στον τομέα αυτό.

Ποια είναι τα καθήκοντα της Ευρωπαϊκής Υπηρεσίας ΤΝ;

Η Υπηρεσία ΤΝ έχει ως αποστολή να αναπτύσσει ενωσιακή εμπειρογνωσία και ικανότητες στον τομέα της τεχνητής νοημοσύνης και να συμβάλλει στην εφαρμογή της ενωσιακής νομοθεσίας για την τεχνητή νοημοσύνη μέσα από μια συγκεντρωτική δομή.

Ειδικότερα, η Υπηρεσία ΤΝ επιβάλλει και εποπτεύει τους νέους κανόνες για τα μοντέλα ΤΝ γενικού σκοπού. Το καθήκον αυτό περιλαμβάνει την κατάρτιση κωδίκων πρακτικής για τη λεπτομερή περιγραφή των κανόνων, τον ρόλο της στην ταξινόμηση μοντέλων με συστημικούς κινδύνους και την παρακολούθηση της αποτελεσματικής εφαρμογής και συμμόρφωσης με τον κανονισμό. Η παρακολούθηση αυτή διευκολύνεται από τις εξουσίες να ζητεί τεκμηρίωση, να διενεργεί αξιολογήσεις μοντέλων, να διεξάγει έρευνες βάσει προειδοποιήσεων και να ζητεί από παρόχους να λάβουν διορθωτικά μέτρα.

Η Υπηρεσία ΤΝ διασφαλίζει τον συντονισμό όσον αφορά την πολιτική για την τεχνητή νοημοσύνη και τη συνεργασία μεταξύ των εμπλεκόμενων θεσμικών και λοιπών οργάνων και οργανισμών της Ένωσης, καθώς και με εμπειρογνώμονες και ενδιαφερόμενα μέρη. Ειδικότερα, θα δημιουργήσει έναν ισχυρό δεσμό με την επιστημονική κοινότητα για τη στήριξη της επιβολής της νομοθεσίας, θα χρησιμεύει ως διεθνές σημείο αναφοράς για ανεξάρτητους εμπειρογνώμονες και οργανώσεις εμπειρογνωμόνων και θα διευκολύνει τις ανταλλαγές και τη συνεργασία με παρόμοιους οργανισμούς σε ολόκληρο τον κόσμο.

Ποια είναι η διαφορά μεταξύ του Συμβουλίου ΤΝ, της Υπηρεσίας ΤΝ, του συμβουλευτικού φόρουμ και της επιστημονικής ομάδας ανεξάρτητων εμπειρογνωμόνων;

Το Συμβούλιο ΤΝ έχει διευρυμένα καθήκοντα όσον αφορά την παροχή συμβουλών και συνδρομής στην Επιτροπή και τα κράτη μέλη.

Η Υπηρεσία ΤΝ πρόκειται να συσταθεί εντός της Επιτροπής και θα εργάζεται για να αναπτύσσει ενωσιακή εμπειρογνωσία και ικανότητες στον τομέα της τεχνητής νοημοσύνης και να συμβάλλει στην εφαρμογή της ενωσιακής νομοθεσίας για την τεχνητή νοημοσύνη. Ειδικότερα, η Υπηρεσία ΤΝ επιβάλλει και εποπτεύει τους νέους κανόνες για τα μοντέλα ΤΝ γενικού σκοπού.

Το συμβουλευτικό φόρουμ θα απαρτίζεται από μια ισορροπημένη επιλογή ενδιαφερόμενων μερών, συμπεριλαμβανομένης της βιομηχανίας, των νεοφυών επιχειρήσεων, των ΜΜΕ, της κοινωνίας των πολιτών και της ακαδημαϊκής κοινότητας. Θα συσταθεί για να συμβουλεύει και να παρέχει τεχνική εμπειρογνωσία στο Συμβούλιο ΤΝ και στην Επιτροπή, ενώ τα μέλη του θα ορίζονται από το Συμβούλιο ΤΝ μεταξύ των ενδιαφερόμενων μερών.

Η επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων στηρίζει την εφαρμογή και την επιβολή του κανονισμού όσον αφορά τα μοντέλα και τα συστήματα ΤΝΓΣ, ενώ και τα κράτη μέλη θα έχουν πρόσβαση στη δεξαμενή εμπειρογνωμόνων.

Ποιες είναι οι κυρώσεις σε περίπτωση παράβασης;

Όταν διατίθενται στην αγορά ή χρησιμοποιούνται συστήματα ΤΝ που δεν τηρούν τις απαιτήσεις του κανονισμού, τα κράτη μέλη θα πρέπει να προβλέπουν αποτελεσματικές, αναλογικές και αποτρεπτικές κυρώσεις, συμπεριλαμβανομένων διοικητικών προστίμων, σε σχέση με παραβάσεις και να τις κοινοποιούν στην Επιτροπή.

Ο κανονισμός καθορίζει όρια που πρέπει να λαμβάνονται υπόψη:

• έως 35 εκατ. ευρώ ή το 7 % του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών του προηγούμενου οικονομικού έτους (όποιο είναι υψηλότερο) για παραβάσεις που αφορούν απαγορευμένες πρακτικές ή μη συμμόρφωση με τις απαιτήσεις σχετικά με τα δεδομένα·
• έως 15 εκατ. ευρώ ή το 3 % του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών του προηγούμενου οικονομικού έτους για μη συμμόρφωση με οποιαδήποτε από τις άλλες απαιτήσεις ή υποχρεώσεις του κανονισμού, συμπεριλαμβανομένων παραβάσεων των κανόνων για τα μοντέλα ΤΝ γενικού σκοπού·
• έως 7,5 εκατ. ευρώ ή το 1,5 % του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών του προηγούμενου οικονομικού έτους για την παροχή ανακριβών, ελλιπών ή παραπλανητικών πληροφοριών σε κοινοποιημένους οργανισμούς και εθνικές αρμόδιες αρχές ως απάντηση σε σχετικό αίτημα.
• Για κάθε κατηγορία παραβάσεων, το όριο θα είναι το χαμηλότερο από τα δύο ποσά για τις ΜΜΕ και το υψηλότερο για τις άλλες εταιρείες.

Για την εναρμόνιση των εθνικών κανόνων και πρακτικών όσον αφορά τον καθορισμό διοικητικών προστίμων, η Επιτροπή, βασιζόμενη στη γνωμοδότηση του Συμβουλίου ΤΝ, θα καταρτίσει κατευθυντήριες γραμμές.

Δεδομένου ότι τα θεσμικά και λοιπά όργανα και οργανισμοί της ΕΕ θα πρέπει να δίνουν το παράδειγμα, θα υπόκεινται επίσης στους κανόνες και σε ενδεχόμενες κυρώσεις· ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων θα έχει την εξουσία να τους επιβάλλει πρόστιμα.

Τι μπορούν να κάνουν άτομα που επηρεάζονται από παραβίαση κανόνα;

Η πράξη για την ΤΝ προβλέπει το δικαίωμα υποβολής καταγγελίας σε εθνική αρχή. Σε αυτή τη βάση, οι εθνικές αρχές μπορούν να δρομολογούν δραστηριότητες εποπτείας της αγοράς, σύμφωνα με τις διαδικασίες των κανονισμών για την εποπτεία της αγοράς.

Επιπλέον, η οδηγία περί ευθύνης για την ΤΝ έχει στόχο να παρέχει, σε πρόσωπα που ζητούν αποζημίωση για ζημία που προκλήθηκε από συστήματα ΤΝ υψηλού κινδύνου, αποτελεσματικά μέσα εντοπισμού των δυνητικά υπευθύνων και την απόκτηση αποδεικτικών στοιχείων σχετικών με την αξίωση αποζημίωσης. Για τον σκοπό αυτό, η προτεινόμενη οδηγία προβλέπει την αποκάλυψη αποδεικτικών στοιχείων σχετικά με συγκεκριμένα συστήματα ΤΝ υψηλού κινδύνου για τα οποία υπάρχουν υπόνοιες ότι έχουν προκαλέσει ζημία.

Επιπλέον, η αναθεωρημένη πρόταση οδηγίας για την ευθύνη λόγω ελαττωματικών προϊόντων θα διασφαλίζει ότι παρέχεται αποζημίωση για άτομα που πεθαίνουν, υφίστανται σωματική βλάβη ή υλική ζημία λόγω ελαττωματικού προϊόντος στην Ένωση και θα διευκρινίζει ότι τα συστήματα ΤΝ και τα προϊόντα που ενσωματώνουν συστήματα ΤΝ καλύπτονται επίσης από τους ισχύοντες κανόνες.

Πώς λειτουργούν οι προαιρετικοί κώδικες δεοντολογίας για τα συστήματα ΤΝ υψηλού κινδύνου;

Οι πάροχοι εφαρμογών μη υψηλού κινδύνου μπορούν να διασφαλίζουν ότι το σύστημα ΤΝ τους είναι αξιόπιστο καταρτίζοντας τους δικούς τους προαιρετικούς κώδικες δεοντολογίας ή τηρώντας κώδικες δεοντολογίας που έχουν εγκριθεί από άλλες αντιπροσωπευτικές ενώσεις.

Οι κώδικες αυτοί θα εφαρμόζονται ταυτόχρονα με τις υποχρεώσεις διαφάνειας που ισχύουν για ορισμένα συστήματα ΤΝ.

Η Επιτροπή θα ενθαρρύνει τις ενώσεις του κλάδου και άλλες αντιπροσωπευτικές οργανώσεις να εγκρίνουν προαιρετικούς κώδικες δεοντολογίας.

Πώς λειτουργούν οι κώδικες πρακτικών για μοντέλα ΤΝ γενικού σκοπού;

Η Επιτροπή καλεί τους παρόχους μοντέλων ΤΝ γενικού σκοπού και άλλους εμπειρογνώμονες να εργαστούν από κοινού για την κατάρτιση ενός κώδικα πρακτικής.

Όταν καταρτιστούν και εγκριθούν για τον σκοπό αυτό, οι εν λόγω κώδικες είναι δυνατό να χρησιμοποιούνται από τους παρόχους μοντέλων ΤΝ γενικού σκοπού για την απόδειξη της συμμόρφωσης με τις σχετικές υποχρεώσεις που απορρέουν από την πράξη για την ΤΝ, σύμφωνα με το παράδειγμα του ΓΚΠΔ.

Αυτό είναι ιδιαίτερα σημαντικό για τη λεπτομερή περιγραφή των κανόνων για τους παρόχους μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους, ώστε να διασφαλίζονται ανθεκτικοί στις μελλοντικές εξελίξεις και αποτελεσματικοί κανόνες για την εκτίμηση και τον μετριασμό των κινδύνων, καθώς και για άλλες υποχρεώσεις.

Η πράξη για την ΤΝ περιέχει διατάξεις σχετικά με την προστασία του περιβάλλοντος και τη βιωσιμότητα;

Ο στόχος της πρότασης για την ΤΝ είναι η αντιμετώπιση των κινδύνων για την ασφάλεια και τα θεμελιώδη δικαιώματα, συμπεριλαμβανομένου του θεμελιώδους δικαιώματος στην υψηλού επιπέδου προστασία του περιβάλλοντος. Το περιβάλλον είναι επίσης ένα από τα ρητώς αναφερόμενα και προστατευόμενα έννομα συμφέροντα.

Η Επιτροπή καλείται να ζητεί από τους ευρωπαϊκούς οργανισμούς τυποποίησης παραδοτέο τυποποίησης σχετικά με τις διαδικασίες υποβολής εκθέσεων και τεκμηρίωσης για τη βελτίωση των επιδόσεων των συστημάτων ΤΝ όσον αφορά τους πόρους, όπως η μείωση της κατανάλωσης ενέργειας και άλλων πόρων από το σύστημα ΤΝ υψηλού κινδύνου κατά τη διάρκεια του κύκλου ζωής του, καθώς και σχετικά με την ενεργειακά αποδοτική ανάπτυξη μοντέλων ΤΝ γενικού σκοπού.

Επιπλέον, η Επιτροπή, εντός δύο ετών από την ημερομηνία εφαρμογής του κανονισμού και στη συνέχεια κάθε τέσσερα έτη, καλείται να υποβάλλει έκθεση σχετικά με την επανεξέταση της προόδου όσον αφορά την ανάπτυξη παραδοτέων τυποποίησης για την ενεργειακά αποδοτική ανάπτυξη μοντέλων γενικού σκοπού και να αξιολογεί την ανάγκη για περαιτέρω μέτρα ή δράσεις, συμπεριλαμβανομένων δεσμευτικών μέτρων ή δράσεων.

Επιπλέον, οι πάροχοι μοντέλων ΤΝ γενικού σκοπού, τα οποία εκπαιδεύονται με μεγάλους όγκους δεδομένων και, ως εκ τούτου, τείνουν να εμφανίζουν υψηλή κατανάλωση ενέργειας, υποχρεούνται να δημοσιοποιούν την κατανάλωση ενέργειας.

Η Επιτροπή καλείται να εκπονήσει κατάλληλη μεθοδολογία για την αξιολόγηση αυτή.

Σε περίπτωση μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους, πρέπει επιπλέον να αξιολογείται η ενεργειακή απόδοση.

Πώς μπορούν οι νέοι κανόνες να στηρίξουν την καινοτομία;

Το κανονιστικό πλαίσιο μπορεί να ενισχύσει την υιοθέτηση της ΤΝ με δύο τρόπους. Αφενός, η αύξηση της εμπιστοσύνης των χρηστών και των χρηστριών θα αυξήσει τη ζήτηση για ΤΝ που χρησιμοποιείται από εταιρείες και δημόσιες αρχές. Από την άλλη πλευρά, με την αύξηση της ασφάλειας δικαίου και την εναρμόνιση των κανόνων, οι πάροχοι ΤΝ θα αποκτήσουν πρόσβαση σε μεγαλύτερες αγορές, με προϊόντα που εκτιμούν και αγοράζουν οι χρήστες/χρήστριες και οι καταναλωτές/καταναλώτριες. Οι κανόνες θα εφαρμόζονται μόνον όταν είναι απολύτως αναγκαίοι και κατά τρόπο που να ελαχιστοποιεί την επιβάρυνση των οικονομικών φορέων, με μια χαλαρή δομή διακυβέρνησης.

Η πράξη για την ΤΝ καθιστά επίσης δυνατή τη δημιουργία ρυθμιστικών δοκιμαστηρίων και τις δοκιμές σε πραγματικές συνθήκες, που παρέχουν ένα ελεγχόμενο περιβάλλον για τη δοκιμή καινοτόμων τεχνολογιών για περιορισμένο χρονικό διάστημα, προωθώντας έτσι την καινοτομία από εταιρείες, ΜΜΕ και νεοφυείς επιχειρήσεις σύμφωνα με την πράξη για την ΤΝ. Αυτά, σε συνδυασμό με άλλα μέτρα, όπως τα πρόσθετα δίκτυα κέντρων αριστείας στον τομέα της ΤΝ και η σύμπραξη δημόσιου-ιδιωτικού τομέα για την τεχνητή νοημοσύνη, τα δεδομένα και τη ρομποτική, καθώς και η πρόσβαση σε κόμβους ψηφιακής καινοτομίας και εγκαταστάσεις δοκιμών και πειραματισμών θα συμβάλουν στη δημιουργία του κατάλληλου πλαισίου προϋποθέσεων για την ανάπτυξη και την εφαρμογή της ΤΝ από τις εταιρείες.

Οι δοκιμές συστημάτων ΤΝ υψηλού κινδύνου σε πραγματικές συνθήκες είναι δυνατό να διενεργούνται για μέγιστο διάστημα 6 μηνών (το οποίο μπορεί να παραταθεί για άλλους 6 μήνες). Πριν από τις δοκιμές, πρέπει να καταρτίζεται και να υποβάλλεται σχέδιο στην αρχή εποπτείας της αγοράς, η οποία πρέπει να εγκρίνει το σχέδιο και τις ειδικές συνθήκες δοκιμών, με προκαθορισμένη τη διαδικασία σιωπηρής έγκρισης αν δεν δίνεται απάντηση εντός 30 ημερών. Οι δοκιμές μπορεί να υποβάλλονται σε αιφνιδιαστικές επιθεωρήσεις από την αρχή.

Οι δοκιμές σε πραγματικές συνθήκες είναι δυνατό να διενεργούνται μόνο εφόσον παρέχονται συγκεκριμένες διασφαλίσεις, π.χ. οι χρήστες των συστημάτων που υποβάλλονται σε δοκιμές σε πραγματικές συνθήκες πρέπει να παρέχουν τη συγκατάθεσή τους μετά από ενημέρωση, οι δοκιμές δεν πρέπει να έχουν αρνητικές επιπτώσεις στους χρήστες, τα αποτελέσματα πρέπει να είναι αναστρέψιμα ή αμελητέα, και τα δεδομένα τους πρέπει να διαγράφονται μετά την ολοκλήρωση των δοκιμών. Ειδική προστασία πρέπει να παρέχεται σε ευάλωτες ομάδες, δηλαδή λόγω ηλικίας, σωματικής ή διανοητικής αναπηρίας.

Εκτός από την πράξη για την ΤΝ, πώς θα διευκολύνει και θα στηρίξει η ΕΕ την καινοτομία στον τομέα της ΤΝ;

Η προσέγγιση της ΕΕ όσον αφορά την τεχνητή νοημοσύνη βασίζεται στην αριστεία και την εμπιστοσύνη, με στόχο την προώθηση της έρευνας και της βιομηχανικής ικανότητας, με παράλληλη κατοχύρωση της ασφάλειας και της προστασίας των θεμελιωδών δικαιωμάτων. Οι πολίτες και οι επιχειρήσεις θα πρέπει να μπορούν να δρέπουν τα οφέλη της ΤΝ και παράλληλα να αισθάνονται ασφαλείς και προστατευμένοι. Η ευρωπαϊκή στρατηγική για την ΤΝ έχει στόχο να καταστήσει την ΕΕ κόμβο παγκόσμιου επιπέδου για την ΤΝ και να διασφαλίσει ότι η ΤΝ είναι ανθρωποκεντρική και αξιόπιστη. Τον Απρίλιο του 2021, η Επιτροπή παρουσίασε τη δέσμη μέτρων της για την ΤΝ, η οποία περιλαμβάνει: 1) επανεξέταση του συντονισμένου σχεδίου για την τεχνητή νοημοσύνη και 2) την πρόταση κανονισμού για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την ΤΝ.

Με το συντονισμένο σχέδιο για την ΤΝ, η Ευρωπαϊκή Επιτροπή ενέκρινε ολοκληρωμένη στρατηγική για την προώθηση της ανάπτυξης και της υιοθέτησης της ΤΝ στην Ευρώπη. Επικεντρώνεται στη δημιουργία ευνοϊκών συνθηκών για την ανάπτυξη και την υιοθέτηση της ΤΝ, στη διασφάλιση της ανάπτυξης της αριστείας από το εργαστήριο έως την αγορά, στην αύξηση της αξιοπιστίας της ΤΝ και στη διαμόρφωση στρατηγικής ηγετικής θέσης σε τομείς με υψηλό αντίκτυπο.

Στόχος της Επιτροπής είναι να αξιοποιήσει τις δραστηριότητες των κρατών μελών συντονίζοντας και εναρμονίζοντας τις προσπάθειές τους, ώστε να προωθήσει μια συνεκτική και συνεργιστική προσέγγιση όσον αφορά την ανάπτυξη και την υιοθέτηση της ΤΝ. Η Επιτροπή δημιούργησε επίσης την πλατφόρμα της Ευρωπαϊκής Συμμαχίας για την ΤΝ, στην οποία συμμετέχουν ενδιαφερόμενα μέρη από την ακαδημαϊκή κοινότητα, τη βιομηχανία και την κοινωνία των πολιτών με σκοπό την ανταλλαγή γνώσεων και πληροφοριών σχετικά με τις πολιτικές για την ΤΝ.

Επιπλέον, το συντονισμένο σχέδιο προβλέπει διάφορα μέτρα που αποσκοπούν στην αποδέσμευση πόρων δεδομένων, στην προώθηση κρίσιμης υπολογιστικής ικανότητας, στην αύξηση των ερευνητικών ικανοτήτων, στη στήριξη ενός ευρωπαϊκού δικτύου εγκαταστάσεων δοκιμών και πειραματισμού (ΕΔΠ) και στη στήριξη των ΜΜΕ μέσω ευρωπαϊκών κόμβων ψηφιακής καινοτομίας (EDIH).

Ποια είναι η διεθνής διάσταση της προσέγγισης της ΕΕ;

Η πράξη για την ΤΝ και το συντονισμένο σχέδιο για την ΤΝ αποτελούν μέρος των προσπαθειών που καταβάλλει η Ευρωπαϊκή Ένωση με σκοπό να αναλάβει ηγετικό ρόλο παγκοσμίως στην προώθηση της αξιόπιστης ΤΝ σε διεθνές επίπεδο. Η ΤΝ έχει καταστεί τομέας στρατηγικής σημασίας στο σταυροδρόμι της γεωπολιτικής, των εμπορικών διακυβευμάτων και των ανησυχιών για την ασφάλεια.

Δεδομένης της χρησιμότητας της ΤΝ και των δυνατοτήτων που παρέχει, χώρες σε όλον τον κόσμο επιλέγουν να τη χρησιμοποιήσουν ως μέσο για να εκφράσουν την επιθυμία τους για τεχνική πρόοδο. Οι κανονιστικές ρυθμίσεις για την ΤΝ μόλις τώρα αρχίζουν να αναπτύσσονται και η ΕΕ θα λάβει μέτρα για την προώθηση της θέσπισης παγκόσμιων προτύπων για την ΤΝ σε στενή συνεργασία με τους διεθνείς της εταίρους, σύμφωνα με το βασιζόμενο σε κανόνες πολυμερές σύστημα και τις αξίες που προασπίζει. Η ΕΕ προτίθεται να εμβαθύνει τις εταιρικές σχέσεις, τους συνασπισμούς και τις συμμαχίες με εταίρους της ΕΕ (π.χ. την Ιαπωνία, τις ΗΠΑ, την Ινδία, τον Καναδά, τη Νότια Κορέα, τη Σινγκαπούρη ή την περιοχή της Λατινικής Αμερικής και της Καραϊβικής), καθώς και με πολυμερείς [π.χ. τον ΟΟΣΑ, την Ομάδα των 7 (G7) και την Ομάδα των 20 (G20)] και περιφερειακούς οργανισμούς (π.χ. το Συμβούλιο της Ευρώπης).

*Επικαιροποιήθηκε στις 14/12/2023