AI: Δέσμη δικαιωμάτων για την προστασία των καταναλωτών στα πλαίσια της τεχνητής νοημοσύνης ζητάει το Ευρωκοινοβούλιο

Επιμέλεια: Γεώργιος Π. Κανέλλος

• Επικαιροποίηση των ενωσιακών κανόνων ασφαλείας και ευθύνης ενόψει της δημιουργίας προϊόντων που λειτουργούν με τεχνητή νοημοσύνη 

• Χρήση αμερόληπτων αλγόριθμων και έλεγχος των δομών 

• Να διασφαλιστεί ότι ο άνθρωπος θα έχει τον τελευταίο λόγο 

Οι ευρωβουλευτές ζητούν δέσμη συγκεκριμένων δικαιωμάτων για την προστασία των καταναλωτών στα πλαίσια της τεχνητής νοημοσύνης και των αυτοματοποιημένων διαδικασιών λήψης αποφάσεων. 

Η Επιτροπή Εσωτερικής Αγοράς και Προστασίας των Καταναλωτών του Ευρωπαϊκού Κοινοβουλίου (ΕΚ) ενέκρινε την Πέμπτη, 23-01-2020, ψήφισμα το οποίο αφορά την αντιμετώπιση ορισμένων προκλήσεων που ανακύπτουν από την ταχεία ανάπτυξη των τεχνολογιών της τεχνητής νοημοσύνης («ΑΙ») και των αυτοματοποιημένων διαδικασιών λήψης αποφάσεων («ADM»).

Όταν οι καταναλωτές χρησιμοποιούν ένα σύστημα το οποίο βασίζεται σε αυτοματοποιημένες διαδικασίες λήψης αποφάσεων, θα πρέπει να «είναι κατάλληλα ενημερωμένοι σχετικά με τη λειτουργία του, σχετικά με τη δυνατότητα πρόσβασης σε άνθρωπο με αποφασιστικές εξουσίες, καθώς και σχετικά με τη δυνατότητα ελέγχου και διόρθωσης των αποφάσεων που λαμβάνει το σύστημα», δήλωσαν τα μέλη της επιτροπής του ΕΚ.

Σύμφωνα με το κείμενο του ψηφίσματος, τα εν λόγω συστήματα θα πρέπει να χρησιμοποιούν ομάδες δεδομένων αποκλειστικά υψηλής ποιότητας που εγγυώνται την αμεροληψία και «κατανοητούς και αμερόληπτους» αλγόριθμους προκειμένου να ενισχύσουν την εμπιστοσύνη και την αποδοχή εκ μέρους των καταναλωτών. Οι δομές ελέγχου θα πρέπει να ρυθμιστούν ούτως ώστε να αποκαθιστούν πιθανά σφάλματα κατά τις αυτοματοποιημένες διαδικασίες λήψης αποφάσεων. Θα πρέπει επίσης οι καταναλωτές να έχουν τη δυνατότητα να αναζητούν τον ανθρώπινο έλεγχο, καθώς και τρόπους επανόρθωσης, των αυτοματοποιημένων διαδικασιών λήψης αποφάσεων οι οποίες είναι οριστικές και παράγουν μόνιμα αποτελέσματα.

Οι ευρωβουλευτές υπογραμμίζουν ότι «ο άνθρωπος θα πρέπει να φέρει την ευθύνη σε τελευταίο βαθμό και ότι θα πρέπει να έχει τη δυνατότητα να ανατρέπει αποφάσεις» οι οποίες λαμβάνονται μέσω αυτοματοποιημένων διαδικασιών λήψης αποφάσεων, ιδίως σε σχέση με τα ιατρικά, νομικά και λογιστικά επαγγέλματα, αλλά και με τον τραπεζικό τομέα.

Προσαρμογή των κανόνων ασφαλείας και ευθύνης στις νέες τεχνολογίες

Τα προϊόντα που λειτουργούν μέσω τεχνητής νοημοσύνης μπορεί να εξελιχθούν και να επιδράσουν με τρόπους που δεν είχαν προβλεφθεί κατά τη στιγμή της πρώτης κυκλοφορίας τους στην αγορά. Οι ευρωβουλευτές παροτρύνουν την Επιτροπή να υποβάλλει προτάσεις με στόχο την προσαρμογή των ενωσιακών κανόνων ασφαλείας των προϊόντων (π.χ. οδηγίες για τον μηχανικό εξοπλισμό και την ασφάλεια των παιχνιδιών) προκειμένου να διασφαλιστεί ότι οι καταναλωτές προστατεύονται από οποιαδήποτε ζημία, ότι οι κατασκευαστές τηρούν τις υποχρεώσεις τους και ότι οι χρήστες έχουν ενημερωθεί σχετικά με τη χρήση των συγκεκριμένων προϊόντων.

Η οδηγία για θέματα ευθύνης λόγω ελαττωματικών προϊόντων, η οποία θεσπίστηκε πριν από 30 και πλέον χρόνια, θα πρέπει επίσης να αναθεωρηθεί προκειμένου έννοιες όπως «προϊόν, «ζημία» και «ελάττωμα» καθώς και οι κανόνες που αφορούν το βάρος αποδείξεως να προσαρμοστούν, δήλωσαν τα μέλη της αρμόδιας επιτροπής του ΕΚ.

Οι ευρωβουλευτές ζητούν ένα σχήμα αξιολόγησης των κινδύνων για την τεχνητή νοημοσύνη και τις αυτοματοποιημένες διαδικασίες λήψης αποφάσεων, καθώς και μία κοινή προσέγγιση σε επίπεδο ΕΕ προκειμένου να προστατευθούν τα πλεονεκτήματα από αυτές τις διαδικασίες και να περιοριστούν οι κίνδυνοι σε ολόκληρη την Ένωση. 

Έλεγχος διαφοροποιημένης τιμολόγησης και διακριτικής μεταχείρισης 

Οι ευρωβουλευτές υπενθυμίζουν ότι, δυνάμει του ενωσιακού δικαίου, οι έμποροι θα πρέπει να ενημερώνουν τους καταναλωτές σε περιπτώσεις που οι τιμές των προϊόντων ή των υπηρεσιών προσωποποιούνται βάσει αυτοματοποιημένων διαδικασιών λήψης αποφάσεων, ενώ ζητούν παράλληλα από την Ευρωπαϊκή Επιτροπή να παρακολουθεί στενά την εφαρμογή των συγκεκριμένων κανόνων. Θα πρέπει επίσης να ελέγχεται πώς το ρυθμιστικό πλαίσιο της Ένωσης όσον αφορά την απαγόρευση του αδικαιολόγητου γεωγραφικού αποκλεισμού («geo-blocking») εφαρμόζεται ούτως ώστε να διασφαλίζεται ότι οι αυτοματοποιημένες διαδικασίες λήψης αποφάσεων δεν χρησιμοποιούνται ως εργαλεία διακριτικής μεταχείρισης λόγω υπηκοότητας, τόπου κατοικίας ή προσωρινής διαμονής. 

Δήλωση

Η Petra De Sutter (Πράσινοι/Ευρωπαϊκήή Ελεύθερη Συμμαχία, Βέλγιο), Πρόεδρος της Επιτροπής Εσωτερικής Αγοράς και Προστασίας των Καταναλωτών του ΕΚ, δήλωσε τα εξής: «Η τεχνολογία στον τομέα της τεχνητής νοημοσύνης και των αυτοματοποιημένων διαδικασιών λήψης αποφάσεων εξελίσσεται με απίστευτους ρυθμούς. Η επιτροπή σήμερα καλωσορίζει τη μελλοντική χρήση αυτών των επιτευγμάτων, ενώ παράλληλα υπογραμμίζει τρία σημαντικά ζητήματα τα οποία χρήζουν ιδιαίτερης προσοχής. Θα πρέπει να διασφαλίσουμε ότι η προστασία και η εμπιστοσύνη των καταναλωτών δεν διακυβεύονται, ότι οι κανόνες της ΕΕ για την ασφάλεια και την ευθύνη σχετικά με τα προϊόντα και τις υπηρεσίες είναι προσαρμοσμένοι στην ψηφιακή εποχή, καθώς και ότι οι ομάδες δεδομένων που χρησιμοποιούνται στα συστήματα που βασίζονται σε αυτοματοποιημένες διαδικασίες λήψης αποφάσεων είναι υψηλής ποιότητας και δεν παραβιάζουν την απαίτηση της αμεροληψίας». 

Επόμενα βήματα

Το ψήφισμα, το οποίο εγκρίθηκε με 39 ψήφους υπέρ, κανένα κατά και τέσσερις αποχές, θα τεθεί σε ψηφοφορία στην ερχόμενη συνεδρίαση της Ολομέλειας του ΕΚ. Θα ενισχύσει το έργο του Κοινοβουλίου σε αυτό τον τομέα.  

Μετά την ψηφοφορία από την Ολομέλεια του ΕΚ, το ψήφισμα θα διαβιβαστεί στο Συμβούλιο της ΕΕ (εκπρόσωποι των κρατών μελών) και την Ευρωπαϊκή Επιτροπή, προκειμένου να ληφθούν υπόψη οι απόψεις των ευρωβουλευτών στα ζητήματα τεχνητής νοημοσύνης και αυτοματοποιημένων διαδικασιών λήψης αποφάσεων. Η Επιτροπή ανακοίνωσε ότι σκοπεύει να παρουσιάσει στις 19 Φεβρουαρίου 2020 τα σχέδιά της για μια ευρωπαϊκή προσέγγιση σε ζητήματα τεχνητής νοημοσύνης.