Αλγόριθμοι και τεχνητή νοημοσύνη: Τι αναφέρει η νέα έκθεση της ολλανδικής αρχής προστασίας δεδομένων

Η ολλανδική αρχή προστασίας δεδομένων Autoriteit Persoonsgegevens έχει αναλάβει από τις αρχές του 2023 την παρακολούθηση των εξελίξεων στην τεχνητή νοημοσύνη και την εκπόνηση μελετών για τους κινδύνους και τις προκλήσεις από την ανάπτυξη των αλγορίθμων. Στο πλαίσιο αυτό, η AP έχει συστήσει ειδικό τμήμα εποπτείας αλγορίθμων και εκπονεί εξαμηνιαίες εκθέσεις σχετικά με τα συμπεράσματα της εποπτείας αυτής.

Στις 18-1-2024 δόθηκε στη δημοσιότητα από την AP η δεύτερη έκθεσή της, με τίτλο “AI & Algorithmic Risks Report Netherlands”. Σύμφωνα με το δελτίο τύπου της ολλανδικής αρχής:

«οι κίνδυνοι της τεχνητής νοημοσύνης και των αλγορίθμων αυξάνονται, ιδίως με την εμφάνιση της Generative AI. Ζητήματα όπως η παραπληροφόρηση, οι παραβιάσεις της ιδιωτικής ζωής και οι διακρίσεις γίνονται όλο και πιο συχνά. Οι τεχνολογικές καινοτομίες και η ταχεία υιοθέτηση της τεχνητής νοημοσύνης και των αλγορίθμων ξεπερνούν επί του παρόντος την ικανότητα της κοινωνίας μας να εντοπίζει και να διαχειρίζεται αυτούς τους κινδύνους μέσω της ρύθμισης και της εποπτείας. Από τις αρχές του 2023, η ολλανδική Αρχή Προστασίας Δεδομένων είναι η εθνική αρχή συντονισμού για την επισήμανση κινδύνων, τη συμβουλευτική και τη συνεργασία στην εποπτεία της ΤΝ και των αλγορίθμων. Στη δεύτερη έκθεση για τους κινδύνους ΤΝ και αλγορίθμων στην Ολλανδία, η AP υπογραμμίζει την επείγουσα ανάγκη για καλύτερη διαχείριση των κινδύνων και παρακολούθηση των συμβάντων. Η πρόοδος της δημιουργικής ΤΝ ασκεί πρόσθετη πίεση στην ανάπτυξη αποτελεσματικών δικλείδων ασφαλείας.

Η έκθεση συνιστά μια ολοκληρωμένη στρατηγική (ένα εθνικό γενικό σχέδιο) που περιλαμβάνει ανθρώπινο έλεγχο και εποπτεία, ασφαλείς εφαρμογές και συστήματα και αυστηρούς κανόνες για να διασφαλιστεί ότι οι οργανισμοί έχουν τον έλεγχο.

Είναι επίσης σημαντικό να επενδύσουμε στην εκπαίδευση των ανθρώπων όλων των ηλικιών σχετικά με τους αλγορίθμους και την ΤΝ. Όλοι πρέπει να κατανοήσουν πώς οι αλγόριθμοι και η ΤΝ επηρεάζουν τη ζωή τους και πώς μπορούν να διατηρήσουν τον έλεγχό τους. Αυτό είναι σημαντικό σε τομείς όπως η εκπαίδευση και ο χώρος εργασίας».

Αναλυτικότερα, στην εισαγωγή της έκθεσης παρατηρείται ότι:

Η παρούσα έκθεση αφορά συστήματα και εφαρμογές που χρησιμοποιούν αλγορίθμους και τεχνητή νοημοσύνη (ΤΝ)και μπορούν να επηρεάσουν άτομα ή ομάδες. Στον πυρήνα τους, αυτά τα συστήματα TN αυτοματοποιούν ενέργειες και αποφάσεις που προηγουμένως γίνονταν από ανθρώπους ή που δεν ήταν δυνατόν να γίνουν. Με απλά λόγια: πρόκειται για αλγόριθμους και ΤΝ.

Αυτό εκτείνεται από σχετικά απλές εφαρμογές, στις οποίες λειτουργεί ένας μόνο αλγόριθμος, έως πολύπλοκες εφαρμογές μηχανικής μάθησης ή νευρωνικών δικτύων. Η ανάλυση κινδύνου στην παρούσα έκθεση δεν κάνει καμία διάκριση. Το Τμήμα Συντονισμού της Αλγοριθμικής Εποπτείας (αναφέρεται στην παρούσα έκθεση με τα ολλανδικά αρχικά "DCA") της ολλανδικής Αρχής Προστασίας Δεδομένων (αναφέρεται στην παρούσα έκθεση με το ολλανδικό αρχικό "AP") παρακολουθεί τις πιθανές επιπτώσεις της χρήσης αλγορίθμων και ΤΝ στις αξίες και τα θεμελιώδη δικαιώματα. Η DCA θα υποβάλλει περιοδικά σχετική έκθεση στην έκθεση AI & Algorithmic Risks Report Netherlands (ARR). Με τον τρόπο αυτό, η AP συμβάλλει στην πιο υπεύθυνη χρήση των αλγορίθμων.

Η έκθεση AI & Algorithmic Risks Report Netherlands (ARR) περιγράφει τους κινδύνους και τις τάσεις και τις εξελίξεις σε αυτούς τους κινδύνους.

Σχετικοί αλγοριθμικοί κίνδυνοι είναι εκείνοι που μπορεί να επηρεάσουν άτομα, ομάδες ή την κοινωνία και θα μπορούσαν στη συνέχεια να διαταράξουν την τελευταία. Η DCA συνέταξε την παρούσα έκθεση AI & Algorithmic Risks Report Netherlands για να καταστήσει τα σχετικά ενδιαφερόμενα μέρη - ιδιωτικούς και δημόσιους οργανισμούς, πολιτικούς, υπεύθυνους χάραξης πολιτικής και το κοινό - ενήμερους για τους κινδύνους αυτούς εγκαίρως, ώστε να μπορούν να ληφθούν προληπτικά μέτρα.

Υπάρχουν δύο παρατηρήσεις που πρέπει να γίνουν κατά την περιγραφή των τάσεων και των εξελίξεων στους κινδύνους. Πρώτον, μπορεί να σημειωθεί ότι η χρήση των αλγορίθμων και της ΤΝ δεν ενέχει μόνο κινδύνους, αλλά μπορεί επίσης να συμβάλει θετικά στην κοινωνία, μεταξύ άλλων στην ενίσχυση των δημόσιων αξιών και των θεμελιωδών δικαιωμάτων. Ωστόσο, δεδομένου του ρόλου της AP στην παρακολούθηση των αλγορίθμων, η έμφαση δίνεται στον μετριασμό και τον έλεγχο των εν λόγω κινδύνων. Δεύτερον, η παρούσα περιοδική έκθεση επικεντρώνεται στις τάσεις και τις εξελίξεις στους κινδύνους αλγορίθμων και ΤΝ, πράγμα που σημαίνει ότι δίνεται έμφαση σε ορισμένα στοιχεία, εκτός από τους διαρθρωτικούς κινδύνους που υπάρχουν.

Η παρούσα έκθεση δεν περιλαμβάνει προβλέψεις.

Χρησιμοποιώντας τις τρέχουσες γνώσεις και τις διαθέσιμες πληροφορίες, η AP αποσκοπεί στην παροχή μιας συμπαγούς και κατανοητής επισκόπησης των τρεχόντων κινδύνων και των προκλήσεων ελέγχου που συνδέονται με τη χρήση αλγορίθμων. Όπου είναι δυνατόν, η AP προτείνει πολιτικές που μπορούν να μετριάσουν τους κινδύνους. Οι αναλύσεις και οι συστάσεις που παρουσιάζονται στην παρούσα έκθεση προσφέρουν στους οργανισμούς και τους υπεύθυνους χάραξης πολιτικής ιδέες για το πώς να μειωθεί η πιθανότητα η ανάπτυξη και η χρήση αλγορίθμων να έχει ανεπιθύμητες επιπτώσεις στα θεμελιώδη δικαιώματα, τις δημόσιες αξίες και τις θεμελιώδεις ελευθερίες. Επιπλέον, η παρούσα έκθεση παρέχει επίσης μια μέθοδο για τη βελτίωση της κατανόησης των αλγορίθμων και την ενίσχυση του διαλόγου σχετικά με τις ευκαιρίες και τους κινδύνους των αλγορίθμων στην κοινωνία.

Στην παρούσα έκθεση.

Το πρώτο κεφάλαιο της παρούσας έκθεσης περιγράφει τις πιο πρόσφατες γενικότερες εξελίξεις για τις Κάτω Χώρες όσον αφορά τη χρήση αλγορίθμων και τη διαχείριση των κινδύνων τους. Το δεύτερο κεφάλαιο περιγράφει τις εξελίξεις και τις προκλήσεις της δημιουργικής ΤΝ και των μοντέλων θεμελίωσης. Το τρίτο και το τέταρτο κεφάλαιο είναι θεματικά και εξετάζουν τους αλγορίθμους και την ΤΝ στο χώρο εργασίας και στην εκπαίδευση. Τέλος, το πέμπτο κεφάλαιο επικεντρώνεται στην ανάπτυξη πολιτικής και στα θεσμικά πλαίσια σε εθνικό και διεθνές επίπεδο.

Η έκθεση είναι διαθέσιμη εδώ.