AI Act: Πράσινο φως στους νέους κανόνες για την Τεχνητή Νοημοσύνη

Σήμερα το Συμβούλιο της Ευρωπαϊκής Ένωσης ενέκρινε τη νέα νομοθεσία για την εναρμόνιση των κανόνων για την Τεχνητή Νοημοσύνη, τη λεγόμενη Πράξη για την Τεχνητή Νοημοσύνη (AI Act).

Η πρωτοποριακή αυτή νομοθεσία ακολουθεί μια προσέγγιση βάσει κινδύνου, που σημαίνει ότι όσο μεγαλύτερος είναι ο κίνδυνος για την κοινωνία, τόσο αυστηρότεροι είναι οι κανόνες.

Είναι η πρώτη του είδους της στον κόσμο και φιλοδοξεί να θέσει ένα παγκόσμιο πρότυπο για τη ρύθμιση της ΤΝ.

Ο νέος νόμος στοχεύει στην προώθηση της ανάπτυξης και υιοθέτησης ασφαλών και αξιόπιστων συστημάτων τεχνητής νοημοσύνης στην ενιαία αγορά της ΕΕ από ιδιωτικούς και δημόσιους φορείς.

Ταυτόχρονα, επιδιώκει να διασφαλίσει τον σεβασμό των θεμελιωδών δικαιωμάτων των πολιτών της ΕΕ και να ενθαρρύνει τις επενδύσεις και την καινοτομία στην τεχνητή νοημοσύνη στην Ευρώπη.

Διαβάστε επίσης: Τεχνητή Νοημοσύνη: Το Συμβούλιο της Ευρώπης υιοθέτησε την πρώτη διεθνή σύμβαση (Convention on AI)

Η Πράξη για την ΤΝ εφαρμόζεται μόνο σε τομείς εντός της νομοθεσίας της ΕΕ και παρέχει εξαιρέσεις, όπως για συστήματα που χρησιμοποιούνται αποκλειστικά για στρατιωτικούς και αμυντικούς σκοπούς καθώς και για ερευνητικούς σκοπούς.

Ταξινόμηση των συστημάτων τεχνητής νοημοσύνης ως υψηλού κινδύνου και απαγορευμένων πρακτικών ΤΝ

Ο νέος νόμος κατηγοριοποιεί διάφορους τύπους τεχνητής νοημοσύνης ανάλογα με τον κίνδυνο.

Τα συστήματα ΤΝ που παρουσιάζουν μόνο περιορισμένο κίνδυνο θα υπόκεινται σε πολύ ελαφρές υποχρεώσεις διαφάνειας, ενώ τα συστήματα ΤΝ υψηλού κινδύνου θα επιτρέπονται, αλλά θα υπόκεινται σε ένα σύνολο απαιτήσεων και υποχρεώσεων για να αποκτήσουν πρόσβαση στην αγορά της ΕΕ.

Συστήματα ΤΝ όπως, για παράδειγμα, η συμπεριφορική χειραγώγηση και η κοινωνική βαθμολόγηση θα απαγορεύονται στην ΕΕ λόγω του απαράδεκτου κινδύνου που παρουσιάζουν.

Ο νόμος επίσης απαγορεύει τη χρήση ΤΝ για προβλεπτική αστυνόμευση βάσει προφίλ και συστημάτων που χρησιμοποιούν βιομετρικά δεδομένα για την κατηγοριοποίηση ανθρώπων ανάλογα με συγκεκριμένες κατηγορίες όπως φυλή, θρησκεία ή σεξουαλικό προσανατολισμό.

Γενικής χρήσης μοντέλα ΤΝ

Η πράξη για την ΤΝ αντιμετωπίζει επίσης τη χρήση μοντέλων ΤΝ γενικής χρήσης (GPAI).

Τα μοντέλα GPAI που δεν θέτουν συστημικούς κινδύνους θα υπόκεινται σε ορισμένες περιορισμένες απαιτήσεις, για παράδειγμα όσον αφορά τη διαφάνεια, ενώ αυτά με συστημικούς κινδύνους θα πρέπει να συμμορφώνονται με αυστηρότερους κανόνες.

Νέα αρχιτεκτονική διακυβέρνησης

Για να διασφαλιστεί η σωστή επιβολή, δημιουργούνται διάφορα όργανα διακυβέρνησης:

• Ένα Γραφείο ΤΝ εντός της Επιτροπής για την επιβολή των κοινών κανόνων σε ολόκληρη την ΕΕ
• Ένα επιστημονικό πάνελ ανεξάρτητων εμπειρογνωμόνων για την υποστήριξη των δραστηριοτήτων επιβολής
• Ένα Συμβούλιο ΤΝ με εκπροσώπους των κρατών μελών για την παροχή συμβουλών και βοήθειας στην Επιτροπή και τα κράτη μέλη σχετικά με την συνεπή και αποτελεσματική εφαρμογή της πράξης για την ΤΝ
• Ένα συμβουλευτικό φόρουμ για τα ενδιαφερόμενα μέρη για την παροχή τεχνικής εμπειρογνωμοσύνης στο Συμβούλιο ΤΝ και την Επιτροπή

Κυρώσεις

Τα πρόστιμα για παραβάσεις της πράξης για την ΤΝ ορίζονται ως ποσοστό του παγκόσμιου ετήσιου κύκλου εργασιών της παραβατικής εταιρείας κατά το προηγούμενο οικονομικό έτος ή ένα προκαθορισμένο ποσό, όποιο είναι μεγαλύτερο.

Οι μικρομεσαίες και οι νεοφυείς επιχειρήσεις υπόκεινται σε αναλογικές διοικητικές κυρώσεις.

Διαφάνεια και προστασία των θεμελιωδών δικαιωμάτων

Πριν από την ανάπτυξη ενός συστήματος ΤΝ υψηλού κινδύνου από ορισμένους φορείς που παρέχουν δημόσιες υπηρεσίες, θα πρέπει να αξιολογείται ο αντίκτυπος στα θεμελιώδη δικαιώματα.

Ο κανονισμός προβλέπει επίσης αυξημένη διαφάνεια σχετικά με την ανάπτυξη και χρήση συστημάτων ΤΝ υψηλού κινδύνου. Τα συστήματα ΤΝ υψηλού κινδύνου, καθώς και ορισμένοι χρήστες συστημάτων ΤΝ υψηλού κινδύνου που είναι δημόσιοι φορείς θα πρέπει να εγγράφονται στη βάση δεδομένων της ΕΕ για συστήματα ΤΝ υψηλού κινδύνου και οι χρήστες ενός συστήματος αναγνώρισης συναισθημάτων θα πρέπει να ενημερώνουν τα φυσικά πρόσωπα όταν εκτίθενται σε τέτοιο σύστημα.​