Ολλανδία: Παράνομος έλεγχος επιδομάτων φοιτητών μέσω αλγορίθμου

Παράνομη κρίθηκε από την ολλανδική αρχή προστασίας δεδομένων Autoriteit Persoonsgegevens (AP) η χρήση αλγορίθμου από την εθνική υπηρεσία για τη φοιτητική μέριμνα (DUO), καθώς η χρήση αυτή οδηγούσε στη διακριτική μεταχείριση φοιτητών.

Ο αλγόριθμος χρησιμοποιήθηκε για να υπολογίζει τον «κίνδυνο απάτης» από φοιτητές που λαμβάνουν επίδομα διαμονής εκτός κατοικίας, βασιζόμενος σε κριτήρια όπως ο τύπος εκπαίδευσης, η ηλικία και η απόσταση της διαμονής τους από την κατοικία των γονέων τους. Με βάση τα αποτελέσματα του αλγορίθμου, η DUO πραγματοποιούσε επιτόπιες επισκέψεις στα σπίτια των φοιτητών.

Η AP διερεύνησε το ζήτημα και κατέληξε στο συμπέρασμα ότι η DUO δεν είχε τεκμηριώσει αντικειμενικά τα κριτήρια αυτά. Σύμφωνα με πρόεδρο της ολλανδικής εποπτικής αρχής, η αξιολόγηση κριτηρίων μέσω ενός αλγορίθμου δημιουργεί εγγενώς διακρίσεις μεταξύ ομάδων ανθρώπων, ως εκ τούτου απαιτεί αυστηρή αιτιολόγηση και συνεχή έλεγχο για την αποφυγή άδικης και διακριτικής μεταχείρισης. Στην περίπτωση της DUO, δεν υπήρξε τεκμηρίωση, ούτε αξιολόγηση των κριτηρίων που είχαν εισαχθεί.

Τα Κριτήρια του Αλγορίθμου

Τα κριτήρια του αλγορίθμου περιλάμβαναν:

Το επίπεδο εκπαίδευσης: Οι φοιτητές ανώτερης και επαγγελματικής εκπαίδευσης λάμβαναν υψηλότερη βαθμολογία κινδύνου σε σχέση με τους φοιτητές ανώτατης εκπαίδευσης.

Την απόσταση διαμονής: Οι φοιτητές που έμεναν πιο κοντά στο πατρικό τους λάμβαναν υψηλότερη βαθμολογία κινδύνου.

Την ηλικία: Οι νεότεροι φοιτητές λάμβαναν επίσης υψηλότερη βαθμολογία κινδύνου.

Άμεση και Έμμεση Διάκριση

Η χρήση αυτών των κριτηρίων χωρίς επαρκή τεκμηρίωση οδήγησε σε άμεση διάκριση σε σχέση με την ηλικία, τον τύπο εκπαίδευσης και την απόσταση, αφού απουσίαζε η τεκμηρίωση και αιτιολόγηση των κριτηρίων αυτών. Επιπλέον, έμμεση διακριτική μεταχείριση διαπιστώθηκε και σε βάρος των φοιτητών με μεταναστευτικό υπόβαθρο, οι οποίοι επιλέγονταν συχνότερα για έλεγχο βάσει των εν λόγω κριτηρίων. Το γεγονός αυτό επιβεβαιώθηκε από και από το Υπουργείο Παιδείας της Ολλανδίας, το οποίο παραδέχθηκε την ύπαρξη έμμεσης διάκρισης με βάση τη μεταναστευτική καταγωγή.

Η AP, αντιλαμβανόμενη τη σοβαρότητα της κατάστασης, αποφάσισε να ενημερώσει άμεσα το Υπουργείο, που εποπτεύει τη DUO, πριν καν ολοκληρώσει την έρευνά της και να ζητήσει τη λήψη άμεσων μέτρων για την αποκατάσταση της νομιμότητας. Στο πλαίσιο αυτό, το Υπουργείο Παιδείας της χώρας ανακοίνωσε τη λήψη μέτρων για την αντιμετώπιση του προβλήματος και την αποκατάσταση των φοιτητών που υπέστησαν διακριτική μεταχείριση από τη χρήση του αλγορίθμου.

Όπως παρατήρησε ο πρόεδρος της ΑΡ, η διακριτική μεταχείριση δεν γίνεται πάντοτε αντιληπτή. Συχνά πιστεύεται πως η διάκριση αφορά το φύλο, τη σεξουαλική προτίμηση ή το θρήσκευμα, διάκριση υπάρχει όμως και όταν χωρίζουμε τους ανθρώπους με άλλο τρόπο και χωρίς δικαιολογία. Αυτό ήταν κάτι που παρέβλεψε η DUO, η οποία μολονότι δεν είχε ως στόχο να ελέγξει με τρόπο διαφορετικό τους φοιτητές με μεταναστευτικό ιστορικό, εν τέλει κατέληξε να κάνει αυτό, με βάση τα δεδομένα που συνέλεγε και αξιολογούσε μέσω του αλγορίθμου της.

Με πληροφορίες από το δελτίο τύπου της ολλανδικής αρχής

Φωτογραφία: ChatGPT