logo-print

AI Act: Ένα βήμα πριν το πρώτο πλαίσιο κανόνων για την Τεχνητή Νοημοσύνη στην ΕΕ

Απαγορεύσεις για τη βιομετρική επιτήρηση, την αναγνώριση συναισθημάτων, τα συστήματα ΑΙ για προβλεπτική αστυνόμευση - Προσαρμοσμένος καθεστώς για ΑΙ γενικού σκοπού και μοντέλα όπως το GPT

Τεχνητή νοημοσύνη, μεταφορές & ευθύνη των μεταφορέων στο Ελληνικό Δίκαιο
Τεχνητή Νοημοσύνη & ανταγωνισμός
  • Μόλις εγκριθεί, η Πράξη για την Τεχνητή Νοημοσύνη θα αποτελέσει το πρώτο σύνολο κανόνων στον κόσμο για την Τεχνητή Νοημοσύνη.
  • Οι ευρωβουλευτές εισάγουν απαγορεύσεις στη βιομετρική επιτήρηση, την αναγνώριση συναισθημάτων, τα συστήματα τεχνητής νοημοσύνης για προβλεπτική αστυνόμευση
  • Προσαρμοσμένος καθεστώς για ΤΝ γενικού σκοπού και μοντέλα όπως το GPT
  • Δικαίωμα υποβολής καταγγελιών για τα συστήματα τεχνητής νοημοσύνης

Για να διασφαλιστεί μια ανθρωποκεντρική και ηθική ανάπτυξη της Τεχνητής Νοημοσύνης (ΤΝ) στην Ευρώπη, οι ευρωβουλευτές ενέκριναν νέους κανόνες διαφάνειας και διαχείρισης κινδύνων για τα συστήματα ΤΝ.

Την Πέμπτη, η Επιτροπή Εσωτερικής Αγοράς και η Επιτροπή Πολιτικών Ελευθεριών ενέκριναν σχέδιο διαπραγματευτικής εντολής σχετικά με τους πρώτους κανόνες για την Τεχνητή Νοημοσύνη με 84 ψήφους υπέρ, 7 κατά και 12 αποχές.

Στις τροπολογίες τους στην πρόταση της Επιτροπής, οι ευρωβουλευτές στοχεύουν να διασφαλίσουν ότι τα συστήματα τεχνητής νοημοσύνης εποπτεύονται από ανθρώπους, είναι ασφαλή, διαφανή, ανιχνεύσιμα, χωρίς διακρίσεις και φιλικά προς το περιβάλλον.

Θέλουν επίσης να υπάρξει ένας ενιαίος ορισμός για την τεχνητή νοημοσύνη, σχεδιασμένος να είναι τεχνολογικά ουδέτερος, ώστε να μπορεί να εφαρμοστεί στα συστήματα τεχνητής νοημοσύνης του σήμερα και του αύριο.

Προσέγγιση της ΤΝ με βάση τον κίνδυνο - Απαγορευμένες πρακτικές ΤΝ

Οι κανόνες ακολουθούν μια προσέγγιση με βάση τον κίνδυνο και θεσπίζουν υποχρεώσεις για τους παρόχους και τους χρήστες ανάλογα με το επίπεδο κινδύνου που μπορεί να δημιουργήσει η ΤΝ.

Τα συστήματα ΤΝ με απαράδεκτο επίπεδο κινδύνου για την ασφάλεια των ανθρώπων θα απαγορεύονται αυστηρά, συμπεριλαμβανομένων των συστημάτων που χρησιμοποιούν υποσυνείδητες ή σκόπιμα χειριστικές τεχνικές, εκμεταλλεύονται τα τρωτά σημεία των ανθρώπων ή χρησιμοποιούνται για κοινωνική βαθμολόγηση (ταξινόμηση των ανθρώπων με βάση την κοινωνική τους συμπεριφορά, την κοινωνικοοικονομική τους κατάσταση, τα προσωπικά τους χαρακτηριστικά).

Οι ευρωβουλευτές τροποποίησαν ουσιαστικά τον κατάλογο για να συμπεριλάβουν απαγορεύσεις για παρεμβατικές και χρήσεις των συστημάτων τεχνητής νοημοσύνης που εισάγουν διακρίσεις, όπως

  • συστήματα απομακρυσμένης βιομετρικής ταυτοποίησης "σε πραγματικό χρόνο" σε χώρους προσβάσιμους από το κοινό,
  • συστήματα βιομετρικής ταυτοποίησης από απόσταση εκ των υστέτων, με μόνη εξαίρεση τη δίωξη σοβαρών εγκλημάτων και μόνο μετά από δικαστική άδεια,
  • συστήματα βιομετρικής κατηγοριοποίησης με χρήση ευαίσθητων χαρακτηριστικών (π.χ. φύλο, φυλή, εθνικότητα, ιδιότητα του πολίτη, θρησκεία, πολιτικός προσανατολισμός),
  • συστήματα προληπτικής αστυνόμευσης (με βάση τη δημιουργία προφίλ, την τοποθεσία ή την προηγούμενη εγκληματική συμπεριφορά),
  • συστήματα αναγνώρισης συναισθημάτων στην επιβολή του νόμου, τη διαχείριση των συνόρων, το χώρο εργασίας και τα εκπαιδευτικά ιδρύματα- και
  • αδιάκριτη απόσπαση βιομετρικών δεδομένων από μέσα κοινωνικής δικτύωσης ή βίντεο από κάμερες κλειστού κυκλώματος παρακολούθησης για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου (παραβιάζοντας τα ανθρώπινα δικαιώματα και το δικαίωμα στην ιδιωτική ζωή).

Τεχνητή νοημοσύνη υψηλού κινδύνου

Οι ευρωβουλευτές διεύρυναν την ταξινόμηση των τομέων υψηλού κινδύνου ώστε να συμπεριλάβουν βλάβες στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα των ανθρώπων ή το περιβάλλον.

Πρόσθεσαν επίσης στον κατάλογο υψηλού κινδύνου τα συστήματα ΤΝ για τον επηρεασμό των ψηφοφόρων σε πολιτικές εκστρατείες και σε συστήματα συστάσεων που χρησιμοποιούνται από πλατφόρμες μέσων κοινωνικής δικτύωσης (με περισσότερους από 45 εκατομμύρια χρήστες βάσει του νόμου για τις ψηφιακές υπηρεσίες).

Τεχνητή νοημοσύνη γενικού σκοπού - μέτρα διαφάνειας

Οι ευρωβουλευτές συμπεριέλαβαν υποχρεώσεις για τους παρόχους μοντέλων βάσης (foundation models) - μια νέα και ταχέως εξελισσόμενη εξέλιξη στον τομέα της ΤΝ - οι οποίοι θα πρέπει να εγγυώνται ισχυρή προστασία των θεμελιωδών δικαιωμάτων, της υγείας και της ασφάλειας και του περιβάλλοντος, της δημοκρατίας και του κράτους δικαίου. Θα πρέπει να αξιολογούν και να περιορίζουν τους κινδύνους, να συμμορφώνονται με τις απαιτήσεις σχεδιασμού, πληροφόρησης και περιβάλλοντος και να εγγράφονται στη βάση δεδομένων της ΕΕ.

Μοντελα όπως το GPT, θα πρέπει να συμμορφώνονται με πρόσθετες απαιτήσεις διαφάνειας, όπως η γνωστοποίηση ότι το περιεχόμενο δημιουργήθηκε από ΤΝ, ο σχεδιασμός του μοντέλου ώστε να αποτρέπεται η δημιουργία παράνομου περιεχομένου και η δημοσίευση περιλήψεων των δεδομένων που προστατεύονται από πνευματικά δικαιώματα και χρησιμοποιήθηκαν για την εκπαίδευση.

Υποστήριξη της καινοτομίας και προστασία των δικαιωμάτων των πολιτών

Για να ενισχύσουν την καινοτομία της ΤΝ, οι ευρωβουλευτές πρόσθεσαν εξαιρέσεις σε αυτούς τους κανόνες για τις ερευνητικές δραστηριότητες και τα στοιχεία ΤΝ που παρέχονται με άδειες ανοικτού κώδικα.

Ο νέος νόμος προωθεί ρυθμιστικά sandboxes, ή ελεγχόμενα περιβάλλοντα, που δημιουργούνται από τις δημόσιες αρχές για τη δοκιμή της ΤΝ πριν από την ανάπτυξή της.

Οι ευρωβουλευτές θέλουν να ενισχύσουν το δικαίωμα των πολιτών να υποβάλλουν καταγγελίες για συστήματα ΤΝ και να λαμβάνουν εξηγήσεις για αποφάσεις που βασίζονται σε συστήματα ΤΝ υψηλού κινδύνου και επηρεάζουν σημαντικά τα δικαιώματά τους.

Οι ευρωβουλευτές αναμόρφωσαν επίσης τον ρόλο του Γραφείου Τεχνητής Νοημοσύνης της ΕΕ, το οποίο θα είναι επιφορτισμένο με την παρακολούθηση του τρόπου εφαρμογής του εγχειριδίου κανόνων για την ΤΝ.

Αναγκαία Ομοδικία - Δομή και λειτουργία της ομοδικιακής δίκης XXII & 390

ΑΣΤΙΚΟ ΔΙΚΟΝΟΜΙΚΟ ΔΙΚΑΙΟ / ΓΕΝΙΚΟ ΜΕΡΟΣ

Εγχειρίδιο Εργατικού Δικαίου - Ατομικές Εργασιακές Σχέσεις Η έκδοση
send