Πρόστιμο 665.000 ευρώ σε τράπεζα για παράνομη χρήση τεχνολογίας Τεχνητής Νοημοσύνης για την ανάλυση συναισθημάτων των πελατών της

Πρόστιμο ύψους 665.000 ευρώ επέβαλε η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα της Ουγγαρίας για ηχογράφηση φωνής και συναισθηματική ανάλυση με τη χρήση Τεχνητής Νοημοσύνης.

Ειδικότερα, η Αρχή (National for Data Protection and Freedom of Information) επέβαλε το πρόστιμο σε τράπεζα για παραβίαση των υποχρεώσεων προστασίας δεδομένων αναφορικά με τη χρήση τεχνολογιών ΤΝ για την αξιολόγηση της συναισθηματικής κατάστασης των πελατών της.

Σύμφωνα με την απόφαση, η τράπεζα κατέγραφε αυτόματα τις κλήσεις των πελατών και στη συνέχεια, χρησιμοποιώντας αυτοματοποιημένα μέσα, αξιολογούσε το επίπεδο ικανοποίησης των πελατών.

Μετά την αξιολόγηση, το σύστημα κατέτασσε τους πελάτες και πρότεινε ποιος έπρεπε να κληθεί πρώτος.

Η τράπεζα υποστήριξε ότι οι σκοποί της επεξεργασίας ήταν ο ποιοτικός έλεγχος και η βελτίωση της ικανοποίησης των πελατών, ωστόσο δεν υπήρχε αναφορά στη διαδικασία αξιολόγησης μέσω φωνής στην πολιτική προστασίας προσωπικών δεδομένων.

Η τράπεζα υποστήριξε ότι νομική βάση για την επεξεργασία αποτελούσε το έννομο συμφέρον της, αλλά στη σχετική αξιολόγηση του έννομου συμφέροντος η τράπεζα δεν είχε αξιολογήσει την αναλογικότητα της επεξεργασίας και υποβάθμισε τους κινδύνους για τα θεμελιώδη δικαιώματα για τα υποκείμενα των δεδομένων.

Ενδιαφέρον παρουσιάζει το γεγονός ότι η Αρχή έκρινε πως μόνο η συγκατάθεση μπορεί να αποτελέσει κατάλληλη νομική βάση για αυτού του είδους την επεξεργασία.

Ενώ η τράπεζα πραγματοποίησε Εκτίμηση Αντικτύπου και εντόπισε υψηλούς κινδύνους, δεν παρείχε κανένα ουσιαστικό μέτρο για την αντιμετώπιση των κινδύνων που εντοπίστηκαν.

Μεταξύ άλλων, η Αρχή επεσήμανε πως λόγω του τρόπου λειτουργίας της, η τεχνητή νοημοσύνη καθιστά δύσκολη την παρακολούθησή της, συνεπώς υπάρχουν σημαντικοί κίνδυνοι για την προστασία δεδομένων.

Αυτός είναι ένας από τους λόγους για τους οποίους η χρήση της τεχνητής νοημοσύνης κατά την επεξεργασίας προσωπικών δεδομένων απαιτεί ιδιαίτερη προσοχή, όχι μόνο στη θεωρία αλλά και στην πράξη.

Στο πλαίσιο αυτό, η Αρχή διέταξε την τράπεζα να αλλάξει τις πρακτικές τς στην επεξεργασία δεδομένων ώστε να συμμορφώνεται με τον Γενικό Κανονισμό για την Προστασία Δεδομένων, δηλαδή να μην αναλύει συναισθήματα κατά την ανάλυση ήχου και να διασφαλίζει το δικαίωμα σε επαρκή ενημέρωση και εναντίωση.

Παράλληλα, επέβαλε πρόστιμο ύψους 250 εκατομμυρίων ουγγρικών φιορινίων (περίπου 668.000 ευρώ) ως κύρωση.