Τεχνητή Νοημοσύνη και προσωπικά δεδομένα: Οι επιπτώσεις των αποφάσεων Schufa του Δικαστηρίου της Ευρωπαϊκής Ένωσης

Με την απόφασή του της 7ης Δεκεμβρίου 2023, το Δικαστήριο της Ευρωπαϊκής Ένωσης (ΔΕΕ) ενίσχυσε τα δικαιώματα των υποκειμένων των δεδομένων. Προστατεύει τους πολίτες από το να καθίστανται αντικείμενο αδιαφανών εισηγήσεων για λήψη αποφάσεων. Ειδικότερα, το ΔΕΕ κατηγοριοποίησε  την αξιολόγηση οφειλετών από τη Schufa ως αυτοματοποιημένη απόφαση, την οποία τα υποκείμενα των δεδομένων επιτρέπεται να ανέχονται μόνο σε εξαιρετικές περιπτώσεις και εφόσον ξεπεραστούν υψηλοί πήχεις. Σύμφωνα με το άρθρο 22 του Γενικού Κανονισμού Προστασίας Δεδομένων (ΓΚΠΔ), ο καθένας έχει το δικαίωμα να μην τίθεται σε μειονεκτική θέση από αμιγώς αυτοματοποιημένες αποφάσεις. Αυτό που εφαρμόζεται εν προκειμένω για τις αλγοριθμικά υπολογιζόμενες βαθμολογήσεις της Schufa έχει συνέπειες ευρύτερες του πεδίου των παρόχων πιστοληπτικής αξιολόγησης – καθώς μπορεί να μεταφερθεί και στη χρήση πολλών συστημάτων τεχνητής νοημοσύνης.

Το ΔΕΕ έχει πλέον εντάξει ακόμη και την αφηρημένη αξιολόγηση του κινδύνου αθέτησης πληρωμών από τη Schufa στις αποφάσεις με έννομα αποτελέσματα. Η θέση αυτή είναι εύλογη, αν αναλογιστεί κανείς πόσο πολύ βασίζονται οι τράπεζες και οι εταιρείες γενικότερα σε αυτή την προκαταρκτική αξιολόγηση χωρίς να μπορούν να ελέγξουν τη βαθμολόγηση. Αντιθέτως, αυτοί που λαμβάνουν τελικά τις αποφάσεις είναι ουσιαστικά αναγκασμένοι να εμπιστεύονται τυφλά την αξιολόγηση της Schufa. Πολλές εφαρμογές τεχνητής νοημοσύνης είναι επίσης αδιαφανείς και, ως εκ τούτου, εξίσου σχετικές με την απόφαση του ΔΕΕ.

Το σκεπτικό του ΔΕΕ εφαρμόζεται και σε πολλά συστήματα ΤΝ

Αντίστοιχα με τους φορείς πιστοληπτικής αξιολόγησης, τα συστήματα ΤΝ επίσης χρησιμοποιούνται συχνά για τη διαμόρφωση προπαρασκευαστικών βάσεων αποφάσεων. Αυτές οι computer-generated εισηγήσεις μπορούν ήδη να χαρακτηριστούν ως ανεξάρτητες, σύμφωνα με τα κριτήρια του ΔΕΕ, εάν διαδραματίζουν καθοριστικό ρόλο στη διαδικασία λήψης αποφάσεων. Για παράδειγμα, εάν η τεχνητή νοημοσύνη χρησιμοποιείται για την προκαταρκτική ταξινόμηση αιτήσεων ή για την ανάλυση από ιατρικά ιδρύματα των ασθενών που είναι ιδιαίτερα κατάλληλοι για μια μελέτη, τα αποτελέσματα δεν αποτελούν, εκ πρώτης όψεως, παρά καθαρές εισηγήσεις.

Ωστόσο, εάν αυτές οι προπαρασκευαστικές παραστάσεις προκύπτουν βάσει ελάχιστα κατανοητών κριτηρίων που αναπτύσσονται ανεξαρτήτως μέσω ΤΝ, τότε αυτές μοιάζουν πολύ με τον τρόπο διενέργειας αξιολόγησης ενός πιστωτικού οργανισμού, όπως ορίζεται στην απόφαση του ΔΕΕ. Επομένως, ό,τι ισχύει για τη βαθμολόγηση της Schufa, ισχύει και για τα αποτελέσματα της τεχνητής νοημοσύνης. Σύμφωνα με την απόφαση, οι εν λόγω αξιολογήσεις με βάση την ΤΝ πρέπει να συνδέονται με μια ανθρώπινη αξιολόγηση.

Αυτό θέτει μια σειρά από προκλήσεις για τους χρήστες, καθώς το άτομο που λαμβάνει την τελική απόφαση χρειάζεται τεχνογνωσία και αρκετό χρόνο για να είναι σε θέση να ελέγξει τη machine-generated προκαταρκτική απόφαση. Ωστόσο, σύμφωνα με τα νέα κριτήρια του ΔΕE, αυτό ακριβώς είναι που καθίσταται πλέον αναγκαίο: να είναι σε θέση να κατανοήσει και, εφόσον χρειαστεί, να παρακάμψει τη λογική πίσω από την computer-generated πρόταση.

Οι άνθρωποι έχουν τον τελευταίο λόγο

Η απαίτηση αυτή βρίσκεται σε θεμελιώδη σύγκρουση με τη λειτουργία των αυτόνομων αξιολογήσεων μέσω τεχνητής νοημοσύνης και μπορεί να ικανοποιηθεί μόνο μέσω του στενού ανθρώπινου ελέγχου της εκπαίδευσης της ΤΝ. Οι διαδικασίες λήψης αποφάσεων μέσω τεχνητής νοημοσύνης μπορούν συχνά να γίνουν κατανοητές και να επηρεαστούν μόνο κατά τη φάση της ανάπτυξης. Επομένως, είναι καθήκον των προγραμματιστών να δημιουργήσουν διαφάνεια και καθήκον των χρηστών να εξοικειωθούν με τον τρόπο λειτουργίας και να τον ελέγχουν σε κάθε μεμονωμένη περίπτωση.

Εάν αυτή η διάκριση μεταξύ ανθρώπων και μηχανών δεν είναι επιτυχής, οι αξιολογήσεις ατόμων από την τεχνητή νοημοσύνη είναι επιτρεπτές μόνο εντός των στενών ορίων του άρθρου 22 ΓΚΠΔ.

Κατ' εξαίρεση, οι αυτόματες αποφάσεις μπορούν τότε να υιοθετηθούν μόνο στις ακόλουθες περιπτώσεις:

- εάν το υποκείμενο των δεδομένων έχει συγκατατεθεί ρητά

- εάν η αυτοματοποιημένη απόφαση είναι απαραίτητη σε εξαιρετικές περιπτώσεις για την εκτέλεση μιας σύμβασης, για παράδειγμα επειδή απαιτείται άμεση και δεσμευτική γνώμη σε μια ηλεκτρονική αίτηση

Ωστόσο, ακόμη και σε αυτές τις περιπτώσεις, τα υποκείμενα των δεδομένων δεν είναι ανυπεράσπιστα. Εάν θεωρούν ότι η ΤΝ έχει λάβει λανθασμένη απόφαση, έχουν το δικαίωμα να προβάλουν την προσωπική τους άποψη και να ζητήσουν επανεξέταση από άνθρωπο. Αυτό το δικαίωμα σε νέα απόφαση θα καταστεί πιο σημαντικό στο μέλλον σύμφωνα με τα νέα κριτήρια του ΔΕΕ.

Thomas Fuchs, Επίτροπος του Αμβούργου για την προστασία των δεδομένων και την ελευθερία της πληροφόρησης: "Η απόφαση έχει πρωτοποριακή σημασία για την ψηφιακή κοινωνία. Όσοι πλήττονται από μη διαφανείς αποφάσεις, τόσο από πιστωτικούς οργανισμούς όσο και από συστήματα βασισμένα στην τεχνητή νοημοσύνη, θα αποκτήσουν μεγαλύτερη δύναμη. Το Δικαστήριο συγκεκριμενοποίησε τους κανόνες για τη χρήση της τεχνητής νοημοσύνης. Τα συστήματα τεχνητής νοημοσύνης συχνά μοιάζουν με μαύρο κουτί στη λήψη αποφάσεων και αξιολογούν τους ανθρώπους με τρόπο που δεν είναι κατανοητός. Το ίδιο ισχύει για την τεχνητή νοημοσύνη όπως και για τους πιστωτικούς οργανισμούς: Δεν πρέπει να τους εμπιστεύεται κανείς τυφλά. Οι άνθρωποι πρέπει πάντα να έχουν τον τελευταίο λόγο και τα υποκείμενα των δεδομένων μπορούν να το απαιτήσουν αυτό. Οι υπεύθυνοι λήψης αποφάσεων πρέπει να είναι πραγματικά σε θέση να εξετάζουν τις προτάσεις μιας τεχνητής νοημοσύνης και πρέπει να λαμβάνουν υπόψη την ατομική κατάσταση των προσώπων. Αυτό απαιτεί εμπειρογνωσία, επαρκείς πόρους και διορατικότητα στις διαδικασίες λήψης αποφάσεων στο πλαίσιο της ΤΝ".

Από το δελτίο τύπου της γερμανικής εποπτικής αρχής.