Μοντέλα Τεχνητής Νοημοσύνης γενικής χρήσης στο AI Act: Ερωτήσεις και απαντήσεις από την Υπηρεσία ΤΝ

Η Υπηρεσία Τεχνητής Νοημοσύνης της Ευρωπαϊκής Επιτροπής διευκολύνει την ερμηνεία ορισμένων διατάξεων του νόμου για την ΤΝ με ερωτήσεις και απαντήσεις.

Η Υπηρεσία ΤΝ, ωστόσο, επισημαίνει ότι μόνο τα δικαστήρια της ΕΕ μπορούν να ερμηνεύσουν τον νόμο για την ΤΝ.

Γιατί χρειαζόμαστε κανόνες για τα μοντέλα ΤΝ γενικής χρήσης;

Η τεχνητή νοημοσύνη υπόσχεται τεράστια οφέλη για την οικονομία και την κοινωνία μας. Εν προκειμένω, τα μοντέλα ΤΝ γενικής χρήσης διαδραματίζουν σημαντικό ρόλο, καθώς μπορούν να χρησιμοποιηθούν για ποικίλα καθήκοντα και, ως εκ τούτου, αποτελούν τη βάση για μια σειρά συστημάτων ΤΝ επόμενου σταδίου, τα οποία χρησιμοποιούνται στην Ευρώπη και παγκοσμίως.

Στόχος του νόμου για την ΤΝ είναι να διασφαλίσει ότι τα μοντέλα ΤΝ γενικής χρήσης είναι ασφαλή και αξιόπιστα.

Για την επίτευξη του στόχου αυτού, είναι ζωτικής σημασίας οι πάροχοι μοντέλων ΤΝ γενικής χρήσης να έχουν καλή κατανόηση των μοντέλων τους σε ολόκληρη την αλυσίδα αξίας της ΤΝ, τόσο για να καταστεί δυνατή η ενσωμάτωση των εν λόγω μοντέλων σε κατάντη συστήματα ΤΝ όσο και για την εκπλήρωση των υποχρεώσεών τους δυνάμει του νόμου για την ΤΝ. Όπως εξηγείται λεπτομερέστερα κατωτέρω, οι πάροχοι μοντέλων ΤΝ γενικής χρήσης πρέπει να καταρτίζουν και να παρέχουν τεχνική τεκμηρίωση των μοντέλων τους στο Γραφείο ΤΝ και στους μεταγενέστερους παρόχους, πρέπει να εφαρμόζουν πολιτική για τα δικαιώματα πνευματικής ιδιοκτησίας και να δημοσιεύουν περίληψη περιεχομένου κατάρτισης. Επιπλέον, οι πάροχοι μοντέλων ΤΝ γενικής χρήσης που ενέχουν συστημικούς κινδύνους, κάτι που μπορεί να συμβαίνει είτε επειδή είναι πολύ ικανά είτε επειδή έχουν σημαντικό αντίκτυπο στην εσωτερική αγορά για άλλους λόγους, πρέπει να ενημερώνουν την Επιτροπή, να αξιολογούν και να μετριάζουν τους συστημικούς κινδύνους, να διενεργούν αξιολογήσεις μοντέλων, να αναφέρουν σοβαρά περιστατικά και να διασφαλίζουν επαρκή κυβερνοασφάλεια των μοντέλων τους.

Με τον τρόπο αυτό, ο νόμος για την ΤΝ συμβάλλει στην ασφαλή και αξιόπιστη καινοτομία στην Ευρώπη.

Τι είναι τα μοντέλα τεχνητής νοημοσύνης γενικής χρήσης;

Ο νόμος για την ΤΝ ορίζει ένα μοντέλο ΤΝ γενικού σκοπού ως «μοντέλο ΤΝ, μεταξύ άλλων όταν ένα τέτοιο μοντέλο ΤΝ εκπαιδεύεται με μεγάλο όγκο δεδομένων με τη χρήση αυτοεπιτήρησης σε κλίμακα, το οποίο εμφανίζει σημαντική γενικότητα και είναι ικανό να εκτελεί με επάρκεια ευρύ φάσμα διακριτών καθηκόντων ανεξάρτητα από τον τρόπο με τον οποίο το μοντέλο διατίθεται στην αγορά και μπορεί να ενσωματωθεί σε διάφορα κατάντη συστήματα ή εφαρμογές» (άρθρο 3 παράγραφος 63).

Οι αιτιολογικές σκέψεις του νόμου για την ΤΝ διευκρινίζουν περαιτέρω ποια μοντέλα θα πρέπει να θεωρείται ότι παρουσιάζουν σημαντική γενικότητα και ότι είναι ικανά να εκτελούν ευρύ φάσμα διακριτών καθηκόντων.

Σύμφωνα με την αιτιολογική σκέψη 98, «η γενικότητα ενός μοντέλου θα μπορούσε, μεταξύ άλλων, να καθοριστεί από μια σειρά παραμέτρων, μοντέλα με τουλάχιστον ένα δισεκατομμύριο παραμέτρους και εκπαιδευμένα με μεγάλο όγκο δεδομένων με τη χρήση αυτοεπιτήρησης σε κλίμακα θα πρέπει να θεωρείται ότι παρουσιάζουν σημαντική γενικότητα και ότι εκτελούν με επάρκεια ευρύ φάσμα διακριτών καθηκόντων».

Η αιτιολογική σκέψη 99 προσθέτει ότι «τα μεγάλα παραγόμενα μοντέλα ΤΝ αποτελούν χαρακτηριστικό παράδειγμα για ένα μοντέλο ΤΝ γενικής χρήσης, δεδομένου ότι επιτρέπουν την ευέλικτη παραγωγή περιεχομένου, όπως με τη μορφή κειμένου, ήχου, εικόνων ή βίντεο, το οποίο μπορεί εύκολα να φιλοξενήσει ευρύ φάσμα διακριτών καθηκόντων».

Σημειώστε ότι σημαντική γενικότητα και ικανότητα να εκτελείτε με επάρκεια ένα ευρύ φάσμα διακριτών εργασιών μπορεί να επιτευχθεί με μοντέλα στο πλαίσιο μιας ενιαίας μεθόδου, όπως κείμενο, ήχος, εικόνες ή βίντεο, εάν η μέθοδος είναι αρκετά ευέλικτη. Αυτό μπορεί επίσης να επιτευχθεί με μοντέλα που αναπτύχθηκαν, προσαρμόστηκαν ή τροποποιήθηκαν με άλλο τρόπο ώστε να είναι ιδιαίτερα καλά σε μια συγκεκριμένη εργασία.

Η Υπηρεσία Τεχνητής Νοημοσύνης προτίθεται να παράσχει περαιτέρω διευκρινίσεις σχετικά με το τι θα πρέπει να θεωρείται μοντέλο ΤΝ γενικού σκοπού, αντλώντας πληροφορίες από το Κοινό Κέντρο Ερευνών της Επιτροπής, το οποίο επί του παρόντος εργάζεται για ένα έργο επιστημονικής έρευνας που εξετάζει αυτό και άλλα ζητήματα.

Τι είναι τα μοντέλα ΤΝ γενικής χρήσης με συστημικό κίνδυνο;

Οι συστημικοί κίνδυνοι είναι κίνδυνοι βλάβης μεγάλης κλίμακας από τα πλέον προηγμένα μοντέλα (δηλ. τελευταίας τεχνολογίας) σε κάθε δεδομένη χρονική στιγμή ή από άλλα μοντέλα που έχουν ισοδύναμο αντίκτυπο (βλ. άρθρο 3 παράγραφος 65). Οι κίνδυνοι αυτοί μπορούν να εκδηλωθούν, για παράδειγμα, μέσω της μείωσης των φραγμών για την ανάπτυξη χημικών ή βιολογικών όπλων, ακούσιων ζητημάτων ελέγχου των αυτόνομων μοντέλων ΤΝ γενικής χρήσης ή επιβλαβών διακρίσεων ή παραπληροφόρησης σε κλίμακα (αιτιολογική σκέψη 110). Τα πλέον προηγμένα μοντέλα σε κάθε δεδομένη χρονική στιγμή ενδέχεται να ενέχουν συστημικούς κινδύνους, συμπεριλαμβανομένων των νέων κινδύνων, καθώς προωθούν την εξέλιξη της τεχνολογίας. Ταυτόχρονα, ορισμένα μοντέλα κάτω από το όριο που αντικατοπτρίζει την εξέλιξη της τεχνολογίας μπορεί επίσης να ενέχουν συστημικούς κινδύνους, για παράδειγμα μέσω της εμβέλειας, της επεκτασιμότητας ή της σκαλωσιάς.

Ως εκ τούτου, ο νόμος για την ΤΝ ταξινομεί ένα μοντέλο ΤΝ γενικού σκοπού ως μοντέλο ΤΝ γενικής χρήσης με συστημικό κίνδυνο, εάν είναι ένα από τα πιο προηγμένα μοντέλα εκείνη τη χρονική στιγμή ή εάν έχει ισοδύναμο αντίκτυπο (άρθρο 51 παράγραφος 1). Ποια μοντέλα θεωρούνται μοντέλα γενικής χρήσης με συστημικό κίνδυνο μπορεί να αλλάξουν με την πάροδο του χρόνου, αντανακλώντας την εξελισσόμενη εξέλιξη της τεχνολογίας και τη δυνητική κοινωνική προσαρμογή σε όλο και πιο προηγμένα μοντέλα. Επί του παρόντος, μοντέλα ΤΝ γενικού σκοπού με συστημικό κίνδυνο αναπτύσσονται από λίγες εταιρείες, αν και αυτό μπορεί επίσης να αλλάξει με την πάροδο του χρόνου.

Για να αποτυπωθούν τα πιο προηγμένα μοντέλα, ο νόμος για την τεχνητή νοημοσύνη ορίζει αρχικά ένα όριο 10^25 πράξεων κινητής υποδιαστολής (FLOP) που χρησιμοποιούνται για την εκπαίδευση του μοντέλου [άρθρο 51 παράγραφος 1 στοιχείο α) και παράγραφος 2)]. Η κατάρτιση ενός μοντέλου που πληροί αυτό το όριο εκτιμάται επί του παρόντος ότι κοστίζει δεκάδες εκατομμύρια ευρώ (Epoch AI, 2024). Το Γραφείο ΤΝ θα παρακολουθεί συνεχώς τις τεχνολογικές και βιομηχανικές εξελίξεις και η Επιτροπή μπορεί να επικαιροποιεί το κατώτατο όριο για να διασφαλίσει ότι εξακολουθεί να διακρίνει τα πλέον προηγμένα μοντέλα καθώς εξελίσσεται η τεχνολογία μέσω κατ’ εξουσιοδότηση πράξης (άρθρο 51 παράγραφος 3). Για παράδειγμα, η αξία του ίδιου του κατώτατου ορίου θα μπορούσε να προσαρμοστεί ή/και να θεσπιστούν πρόσθετα όρια.

Για να αποτυπωθούν μοντέλα με αντίκτυπο ισοδύναμο με τα πλέον προηγμένα μοντέλα, ο νόμος για την ΤΝ εξουσιοδοτεί την Επιτροπή να ορίσει πρόσθετα μοντέλα ως ενέχοντα συστημικό κίνδυνο, βάσει κριτηρίων όπως ο αριθμός των χρηστών, η επεκτασιμότητα ή η πρόσβαση σε εργαλεία [άρθρο 51 παράγραφος 1 στοιχείο β), παράρτημα XIII].

Η Υπηρεσία Τεχνητής Νοημοσύνης σκοπεύει να παράσχει περαιτέρω διευκρινίσεις σχετικά με τον τρόπο με τον οποίο τα μοντέλα ΤΝ γενικού σκοπού θα ταξινομηθούν ως μοντέλα ΤΝ γενικού σκοπού με συστημικό κίνδυνο, αντλώντας στοιχεία από το Κοινό Κέντρο Ερευνών της Επιτροπής, το οποίο εργάζεται επί του παρόντος σε ένα έργο επιστημονικής έρευνας που εξετάζει αυτό και άλλα ζητήματα.

Τι είναι ο πάροχος ενός μοντέλου ΤΝ γενικής χρήσης;

Οι κανόνες του νόμου για την ΤΝ σχετικά με τα μοντέλα ΤΝ γενικού σκοπού εφαρμόζονται σε παρόχους που διαθέτουν τέτοια μοντέλα στην αγορά της Ένωσης, ανεξάρτητα από το αν οι εν λόγω πάροχοι είναι εγκατεστημένοι ή βρίσκονται εντός της Ένωσης ή σε τρίτη χώρα [άρθρο 2 παράγραφος 1 στοιχείο α)].

Ως πάροχος μοντέλου ΤΝ γενικού σκοπού νοείται το φυσικό ή νομικό πρόσωπο, η δημόσια αρχή, ο οργανισμός ή άλλος φορέας που αναπτύσσει μοντέλο ΤΝ γενικού σκοπού ή έχει αναπτυχθεί τέτοιο μοντέλο και το διαθέτει στην αγορά, είτε έναντι πληρωμής είτε δωρεάν ή με χρέωση (άρθρο 3 παράγραφος 3).

Η διάθεση ενός μοντέλου στην αγορά σημαίνει πρώτα να το καταστήσει διαθέσιμο στην αγορά της Ένωσης (άρθρο 3 παράγραφος 9), δηλαδή να το προμηθεύσει προς διανομή ή χρήση στην αγορά της Ένωσης στο πλαίσιο εμπορικής δραστηριότητας, είτε έναντι αντιτίμου είτε δωρεάν (άρθρο 3 παράγραφος 10). Επισημαίνεται ότι ένα μοντέλο ΤΝ γενικού σκοπού θεωρείται επίσης ότι διατίθεται στην αγορά εάν ο πάροχος του εν λόγω μοντέλου ενσωματώνει το μοντέλο στο δικό του σύστημα ΤΝ το οποίο διατίθεται στην αγορά ή τίθεται σε λειτουργία, εκτός εάν το μοντέλο χρησιμοποιείται α) για αμιγώς εσωτερικές διαδικασίες που δεν είναι απαραίτητες για την παροχή προϊόντος ή υπηρεσίας σε τρίτους, β) δεν θίγονται τα δικαιώματα των φυσικών προσώπων και γ) το μοντέλο δεν είναι μοντέλο γενικής χρήσης με συστημικό κίνδυνο (αιτιολογική σκέψη 97).

Ποιες είναι οι υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικής χρήσης;

Οι υποχρεώσεις για τους παρόχους μοντέλων ΤΝ γενικής χρήσης ισχύουν από τις 2 Αυγούστου 2025 [άρθρο 113 στοιχείο β)], με ειδικούς κανόνες για τα μοντέλα ΤΝ γενικής χρήσης που έχουν διατεθεί στην αγορά πριν από την εν λόγω ημερομηνία (άρθρο 111 παράγραφος 3).

Βάσει του άρθρου 53 του νόμου για την ΤΝ, οι πάροχοι μοντέλων ΤΝ γενικής χρήσης πρέπει να τεκμηριώνουν τις τεχνικές πληροφορίες σχετικά με το μοντέλο με σκοπό την παροχή των εν λόγω πληροφοριών κατόπιν αιτήματος στην Υπηρεσία ΤΝ και τις εθνικές αρμόδιες αρχές [άρθρο 53 παράγραφος 1 στοιχείο α)] και τη διάθεσή τους στους μεταγενέστερους παρόχους [άρθρο 53 παράγραφος 1 στοιχείο β)]. Πρέπει επίσης να εφαρμόζουν πολιτική συμμόρφωσης με το δίκαιο της Ένωσης για τα δικαιώματα πνευματικής ιδιοκτησίας και τα συγγενικά δικαιώματα (άρθρο 53 παράγραφος 1 στοιχείο γ)) και να καταρτίζουν και να δημοσιοποιούν επαρκώς λεπτομερή περίληψη σχετικά με το περιεχόμενο που χρησιμοποιείται για την κατάρτιση του υποδείγματος [άρθρο 53 παράγραφος 1 στοιχείο δ)].

Ο κώδικας ορθής πρακτικής για την ΤΝ γενικής χρήσης θα πρέπει να παρέχει περαιτέρω λεπτομέρειες σχετικά με τις υποχρεώσεις αυτές στα τμήματα που αφορούν τη διαφάνεια και τα δικαιώματα πνευματικής ιδιοκτησίας (με επικεφαλής την ομάδα εργασίας 1).

Βάσει του άρθρου 55 του νόμου για την ΤΝ, οι πάροχοι μοντέλων ΤΝ γενικού σκοπού με συστημικό κίνδυνο έχουν πρόσθετες υποχρεώσεις. Πρέπει να αξιολογούν και να μετριάζουν τους συστημικούς κινδύνους, ιδίως με τη διενέργεια αξιολογήσεων μοντέλων, την παρακολούθηση, την τεκμηρίωση και την αναφορά σοβαρών συμβάντων και τη διασφάλιση επαρκούς προστασίας της κυβερνοασφάλειας για το μοντέλο και τη φυσική του υποδομή.

Ο κώδικας ορθής πρακτικής για την ΤΝ γενικής χρήσης θα πρέπει να παρέχει περαιτέρω λεπτομέρειες σχετικά με τις εν λόγω υποχρεώσεις στις ενότητες που αφορούν την αξιολόγηση συστημικού κινδύνου, τον τεχνικό μετριασμό του κινδύνου και τον μετριασμό του κινδύνου διακυβέρνησης (με επικεφαλής τις ομάδες εργασίας 2, 3 και 4 αντίστοιχα).

Εάν κάποιος ανοικτός κώδικας είναι ένα μοντέλο, πρέπει να συμμορφώνεται με τις υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικής χρήσης;

Οι υποχρεώσεις κατάρτισης και παροχής τεκμηρίωσης στην Υπηρεσία ΤΝ, στις εθνικές αρμόδιες αρχές και στους μεταγενέστερους παρόχους [άρθρο 53 παράγραφος 1 στοιχεία α) και β)] δεν ισχύουν εάν το μοντέλο διατίθεται βάσει άδειας ελεύθερης και ανοικτής πηγής και οι παράμετροί του, συμπεριλαμβανομένων των συντελεστών στάθμισης, των πληροφοριών σχετικά με την αρχιτεκτονική του μοντέλου και των πληροφοριών σχετικά με τη χρήση του μοντέλου, δημοσιοποιούνται. Η εξαίρεση αυτή δεν εφαρμόζεται σε μοντέλα ΤΝ γενικού σκοπού με συστημικό κίνδυνο (άρθρο 53 παράγραφος 2). Οι αιτιολογικές σκέψεις 102 και 103 διευκρινίζουν περαιτέρω τι συνιστά άδεια ελεύθερης και ανοικτής πηγής και το Γραφείο ΤΝ προτίθεται να παράσχει περαιτέρω διευκρινίσεις σχετικά με ζητήματα που αφορούν τα μοντέλα ΤΝ γενικής χρήσης ανοικτής ανάθεσης.

Αντιθέτως, οι πάροχοι μοντέλων ΤΝ γενικής χρήσης με συστημικό κίνδυνο πρέπει να συμμορφώνονται με τις υποχρεώσεις τους βάσει του νόμου για την ΤΝ, ανεξάρτητα από το αν τα μοντέλα τους είναι ανοικτού κώδικα. Μετά την έκδοση του μοντέλου ανοικτού κώδικα, τα μέτρα που απαιτούνται για τη διασφάλιση της συμμόρφωσης με τις υποχρεώσεις των άρθρων 53 και 55 ενδέχεται να είναι δυσκολότερο να εφαρμοστούν (αιτιολογική σκέψη 112). Ως εκ τούτου, οι πάροχοι μοντέλων ΤΝ γενικής χρήσης με συστημικό κίνδυνο ενδέχεται να χρειαστεί να αξιολογήσουν και να μετριάσουν τους συστημικούς κινδύνους προτού απελευθερώσουν τα μοντέλα τους ως ανοικτού κώδικα.

Ο κώδικας ορθής πρακτικής για την ΤΝ γενικής χρήσης θα πρέπει να παρέχει περαιτέρω λεπτομέρειες σχετικά με το τι συνεπάγονται οι υποχρεώσεις των άρθρων 53 και 55 για διάφορους τρόπους απελευθέρωσης μοντέλων ΤΝ γενικής χρήσης, συμπεριλαμβανομένης της ανοικτής ανάθεσης.

Ένα σημαντικό αλλά δύσκολο ερώτημα που στηρίζει αυτή τη διαδικασία είναι η εξεύρεση ισορροπίας μεταξύ της επιδίωξης των οφελών και του μετριασμού των κινδύνων από την ανοικτή ανάθεση προηγμένων μοντέλων ΤΝ γενικής χρήσης: η ανοικτή ανάθεση προηγμένων μοντέλων ΤΝ γενικής χρήσης μπορεί πράγματι να αποφέρει σημαντικά κοινωνικά οφέλη, μεταξύ άλλων μέσω της προώθησης της έρευνας για την ασφάλεια της ΤΝ· ταυτόχρονα, όταν τα μοντέλα αυτά είναι ανοικτού κώδικα, οι μειώσεις κινδύνου καταστρατηγούνται ή καταργούνται ευκολότερα.

Ισχύουν οι υποχρεώσεις για τους παρόχους μοντέλων ΤΝ γενικής χρήσης κατά τη φάση έρευνας και ανάπτυξης;

Το άρθρο 2 παράγραφος 8 ορίζει ότι ο νόμος για την ΤΝ «δεν εφαρμόζεται σε καμία δραστηριότητα έρευνας, δοκιμής ή ανάπτυξης όσον αφορά συστήματα ΤΝ ή μοντέλα ΤΝ πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία».

Ταυτόχρονα, πολλές από τις υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικής χρήσης (με και χωρίς συστημικό κίνδυνο) αφορούν ρητά ή σιωπηρά τη φάση έρευνας και ανάπτυξης των μοντέλων που προορίζονται αλλά πριν από τη διάθεση στην αγορά. Για παράδειγμα, αυτό ισχύει για τις υποχρεώσεις των παρόχων να κοινοποιούν στην Επιτροπή ότι το μοντέλο ΤΝ γενικού σκοπού τους πληροί ή θα πληροί το κατώτατο όριο υπολογισμού της κατάρτισης (άρθρα 51 και 52), να τεκμηριώνουν πληροφορίες σχετικά με την κατάρτιση και τις δοκιμές (άρθρο 53) και να αξιολογούν και να μετριάζουν τον συστημικό κίνδυνο (άρθρο 55). Ειδικότερα, το άρθρο 55 παράγραφος 1 στοιχείο β) ορίζει ρητά ότι «οι πάροχοι μοντέλων ΤΝ γενικού σκοπού με συστημικό κίνδυνο αξιολογούν και μετριάζουν πιθανούς συστημικούς κινδύνους σε επίπεδο Ένωσης, συμπεριλαμβανομένων των πηγών τους, οι οποίοι ενδέχεται να απορρέουν από την ανάπτυξη (...) μοντέλων ΤΝ γενικού σκοπού με συστημικό κίνδυνο.»

Σε κάθε περίπτωση, η Υπηρεσία Τεχνητής Νοημοσύνης αναμένει ότι οι συζητήσεις με παρόχους μοντέλων ΤΝ γενικής χρήσης με συστημικό κίνδυνο θα ξεκινήσουν νωρίς στη φάση ανάπτυξης. Αυτό συνάδει με την υποχρέωση των παρόχων μοντέλων ΤΝ γενικού σκοπού που πληρούν το κατώτατο όριο υπολογισμού της εκπαίδευσης που ορίζεται στο άρθρο 51 παράγραφος 2 να «κοινοποιούν την Επιτροπή χωρίς καθυστέρηση και σε κάθε περίπτωση εντός δύο εβδομάδων από την εκπλήρωση της εν λόγω απαίτησης ή από τη στιγμή που καθίσταται γνωστό ότι θα εκπληρωθεί» (άρθρο 52 παράγραφος 1). Πράγματι, η κατάρτιση μοντέλων ΤΝ γενικού σκοπού απαιτεί σημαντικό σχεδιασμό, ο οποίος περιλαμβάνει την εκ των προτέρων κατανομή υπολογιστικών πόρων και, ως εκ τούτου, οι πάροχοι μοντέλων ΤΝ γενικής χρήσης είναι σε θέση να γνωρίζουν εάν το μοντέλο τους θα πληροί το κατώτατο όριο υπολογισμού της κατάρτισης πριν από την ολοκλήρωση της κατάρτισης (αιτιολογική σκέψη 112).

Η Υπηρεσία ΤΝ προτίθεται να παράσχει περαιτέρω διευκρινίσεις σχετικά με το ζήτημα αυτό.

Εάν κάποιος τελειοποιήσει ή τροποποιήσει με άλλο τρόπο ένα μοντέλο, πρέπει να συμμορφώνεται με τις υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικής χρήσης;

Τα μοντέλα τεχνητής νοημοσύνης γενικής χρήσης μπορούν να τροποποιηθούν περαιτέρω ή να προσαρμοστούν σε νέα μοντέλα (αιτιολογική σκέψη 97). Κατά συνέπεια, οι κατάντη οντότητες που ρυθμίζουν ή τροποποιούν με άλλο τρόπο υφιστάμενο μοντέλο ΤΝ γενικού σκοπού μπορούν να καταστούν πάροχοι νέων μοντέλων. Οι ειδικές συνθήκες υπό τις οποίες μια οντότητα επόμενου σταδίου καθίσταται πάροχος ενός νέου μοντέλου είναι ένα δύσκολο ζήτημα με δυνητικά μεγάλες οικονομικές επιπτώσεις, καθώς πολλοί οργανισμοί και άτομα τελειοποιούν ή τροποποιούν με άλλο τρόπο μοντέλα ΤΝ γενικού σκοπού που έχουν αναπτυχθεί από άλλη οντότητα. Η Υπηρεσία ΤΝ προτίθεται να παράσχει περαιτέρω διευκρινίσεις σχετικά με το ζήτημα αυτό.

Σε περίπτωση τροποποίησης ή τελειοποίησης υφιστάμενου μοντέλου ΤΝ γενικού σκοπού, οι υποχρεώσεις για τους παρόχους μοντέλων ΤΝ γενικής χρήσης στο άρθρο 53 θα πρέπει να περιορίζονται στην τροποποίηση ή την εξομάλυνση των βραχυχρόνιων διακυμάνσεων, για παράδειγμα, συμπληρώνοντας την ήδη υπάρχουσα τεχνική τεκμηρίωση με πληροφορίες σχετικά με τις τροποποιήσεις (αιτιολογική σκέψη 109). Οι υποχρεώσεις για τους παρόχους μοντέλων ΤΝ γενικού σκοπού με συστημικό κίνδυνο στο άρθρο 55 μπορεί να είναι περιορισμένες με παρόμοιους τρόπους. Ο κώδικας ορθής πρακτικής για την ΤΝ γενικής χρήσης θα μπορούσε να αντικατοπτρίζει τις διαφορές μεταξύ των παρόχων που αναπτύσσουν αρχικά μοντέλα ΤΝ γενικής χρήσης και εκείνων που τελειοποιούν ή τροποποιούν με άλλο τρόπο ένα υπάρχον μοντέλο.

Επισημαίνεται ότι, ανεξάρτητα από το αν μια κατάντη οντότητα που ενσωματώνει μοντέλο ΤΝ γενικής χρήσης σε σύστημα ΤΝ θεωρείται πάροχος του μοντέλου ΤΝ γενικού σκοπού, η εν λόγω οντότητα πρέπει να συμμορφώνεται με τις σχετικές απαιτήσεις και υποχρεώσεις του νόμου για την ΤΝ για τα συστήματα ΤΝ.

Τι είναι ο κώδικας ορθής πρακτικής για την τεχνητή νοημοσύνη γενικής χρήσης;

Με βάση το άρθρο 56 του νόμου για την ΤΝ, ο κώδικας ορθής πρακτικής για την ΤΝ γενικής χρήσης θα πρέπει να περιγράφει λεπτομερώς τον τρόπο με τον οποίο οι πάροχοι μοντέλων ΤΝ γενικής χρήσης και μοντέλων ΤΝ γενικής χρήσης με συστημικό κίνδυνο μπορούν να συμμορφώνονται με τις υποχρεώσεις τους δυνάμει του νόμου για την ΤΝ. Η Υπηρεσία Τεχνητής Νοημοσύνης διευκολύνει την κατάρτιση του παρόντος κώδικα δεοντολογίας, με τέσσερις ομάδες εργασίας υπό την προεδρία ανεξάρτητων εμπειρογνωμόνων και με τη συμμετοχή περίπου 1000 ενδιαφερόμενων μερών, εκπροσώπων των κρατών μελών της ΕΕ, καθώς και ευρωπαίων και διεθνών παρατηρητών.

Ακριβέστερα, ο κώδικας ορθής πρακτικής θα πρέπει να περιγράφει λεπτομερώς τουλάχιστον τον τρόπο με τον οποίο οι πάροχοι μοντέλων ΤΝ γενικής χρήσης μπορούν να συμμορφώνονται με τις υποχρεώσεις που ορίζονται στα άρθρα 53 και 55. Αυτό σημαίνει ότι ο κώδικας ορθής πρακτικής αναμένεται να περιλαμβάνει δύο μέρη: μία που εφαρμόζεται σε παρόχους όλων των μοντέλων ΤΝ γενικής χρήσης (άρθρο 53) και μία που εφαρμόζεται μόνο σε παρόχους μοντέλων ΤΝ γενικού σκοπού με συστημικό κίνδυνο (άρθρο 55). Μια άλλη υποχρέωση που μπορεί να καλύπτεται από τον κώδικα ορθής πρακτικής είναι η υποχρέωση κοινοποίησης στην Επιτροπή των παρόχων μοντέλων ΤΝ γενικού σκοπού που πληρούν ή αναμένεται να πληρούν τις προϋποθέσεις που απαριθμούνται στο άρθρο 51 για να ταξινομηθούν ως μοντέλο ΤΝ γενικού σκοπού με συστημικό κίνδυνο (άρθρο 52 παράγραφος 1).

Τι δεν αποτελεί μέρος του κώδικα ορθής πρακτικής;

Ο κώδικας ορθής πρακτικής δεν θα πρέπει να εξετάζει, μεταξύ άλλων, τα ακόλουθα ζητήματα: καθορισμός βασικών εννοιών και ορισμών από τον νόμο για την ΤΝ (όπως «μοντέλο ΤΝ γενικού σκοπού»), επικαιροποίηση των κριτηρίων ή των κατώτατων ορίων για την ταξινόμηση ενός μοντέλου ΤΝ γενικού σκοπού ως μοντέλου ΤΝ γενικού σκοπού με συστημικό κίνδυνο (άρθρο 51), περιγράφοντας τον τρόπο με τον οποίο η Υπηρεσία ΤΝ θα επιβάλει τις υποχρεώσεις για τους παρόχους μοντέλων ΤΝ γενικής χρήσης (κεφάλαιο IX τμήμα 5), και ερωτήσεις σχετικά με τα πρόστιμα, τις κυρώσεις και την ευθύνη.

Τα ζητήματα αυτά μπορούν αντ’ αυτού να αντιμετωπιστούν με άλλα μέσα (αποφάσεις, κατ’ εξουσιοδότηση πράξεις, εκτελεστικές πράξεις, περαιτέρω ανακοινώσεις από την Υπηρεσία ΤΝ κ.λπ.).

Ωστόσο, ο κώδικας ορθής πρακτικής μπορεί να περιλαμβάνει δεσμεύσεις από παρόχους μοντέλων ΤΝ γενικού σκοπού για την τεκμηρίωση και την υποβολή πρόσθετων πληροφοριών, καθώς και για τη συμμετοχή του Γραφείου ΤΝ και τρίτων καθ’ όλη τη διάρκεια του κύκλου ζωής του μοντέλου, στον βαθμό που αυτό κρίνεται αναγκαίο για την αποτελεσματική συμμόρφωση των παρόχων με τις υποχρεώσεις τους δυνάμει του νόμου για την ΤΝ.

Διαδραματίζουν τα συστήματα ΤΝ ρόλο στον κώδικα ορθής πρακτικής;

Ο νόμος για την ΤΝ κάνει διάκριση μεταξύ συστημάτων ΤΝ και μοντέλων ΤΝ, επιβάλλοντας απαιτήσεις για ορισμένα συστήματα ΤΝ (κεφάλαια II-IV) και υποχρεώσεις για τους παρόχους μοντέλων ΤΝ γενικής χρήσης (κεφάλαιο V). Ενώ οι διατάξεις του νόμου για την ΤΝ σχετικά με τα συστήματα ΤΝ εξαρτώνται από το πλαίσιο χρήσης του συστήματος, οι διατάξεις του νόμου για την ΤΝ σχετικά με τα μοντέλα ΤΝ γενικής χρήσης εφαρμόζονται στο ίδιο το μοντέλο, ανεξάρτητα από το τι είναι ή θα είναι η τελική χρήση του. Ο κώδικας ορθής πρακτικής θα πρέπει να αφορά μόνο τις υποχρεώσεις που προβλέπονται στον νόμο για την ΤΝ για τους παρόχους μοντέλων ΤΝ γενικής χρήσης.

Ωστόσο, υπάρχουν αλληλεπιδράσεις μεταξύ των δύο συνόλων κανόνων, καθώς τα μοντέλα ΤΝ γενικής χρήσης είναι συνήθως ενσωματωμένα και αποτελούν μέρος των συστημάτων ΤΝ. Εάν ένας πάροχος του μοντέλου ΤΝ γενικής χρήσης ενσωματώσει ένα μοντέλο ΤΝ γενικού σκοπού σε ένα σύστημα ΤΝ, ο εν λόγω πάροχος πρέπει να συμμορφώνεται με τις υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικής χρήσης και, εάν το σύστημα ΤΝ εμπίπτει στο πεδίο εφαρμογής του νόμου για την ΤΝ, πρέπει να συμμορφώνεται με τις απαιτήσεις για τα συστήματα ΤΝ. Εάν ένας μεταγενέστερος πάροχος ενσωματώνει ένα μοντέλο ΤΝ γενικού σκοπού σε ένα σύστημα ΤΝ, ο πάροχος του μοντέλου ΤΝ γενικού σκοπού πρέπει να συνεργάζεται με τον μεταγενέστερο πάροχο του συστήματος ΤΝ για να διασφαλίσει ότι ο τελευταίος μπορεί να συμμορφωθεί με τις υποχρεώσεις του δυνάμει του νόμου για την ΤΝ, εάν το σύστημα ΤΝ εμπίπτει στο πεδίο εφαρμογής του νόμου για την ΤΝ (για παράδειγμα παρέχοντας ορισμένες πληροφορίες στον μεταγενέστερο πάροχο).

Δεδομένων αυτών των αλληλεπιδράσεων μεταξύ μοντέλων και συστημάτων, καθώς και μεταξύ των υποχρεώσεων και των απαιτήσεων για το καθένα, ένα σημαντικό ζήτημα στο οποίο βασίζεται ο κώδικας ορθής πρακτικής αφορά τα μέτρα που είναι κατάλληλα στο επίπεδο του μοντέλου και τα οποία πρέπει να ληφθούν στο επίπεδο του συστήματος.

Πώς λαμβάνει υπόψη ο κώδικας ορθής πρακτικής τις ανάγκες των νεοφυών επιχειρήσεων;

Ο κώδικας ορθής πρακτικής θα πρέπει να καθορίζει τους στόχους, τα μέτρα και, κατά περίπτωση, τους βασικούς δείκτες επιδόσεων (ΒΔΕ) για τη μέτρηση της επίτευξης των στόχων του. Τα μέτρα και οι ΒΔΕ που σχετίζονται με τις υποχρεώσεις που ισχύουν για τους παρόχους όλων των μοντέλων ΤΝ γενικού σκοπού θα πρέπει να λαμβάνουν δεόντως υπόψη το μέγεθος του παρόχου και να επιτρέπουν απλουστευμένους τρόπους συμμόρφωσης για τις ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, οι οποίοι δεν θα πρέπει να αντιπροσωπεύουν υπερβολικό κόστος και να μην αποθαρρύνουν τη χρήση τέτοιων μοντέλων (αιτιολογική σκέψη 109). Επιπλέον, οι ΒΔΕ που σχετίζονται με τις υποχρεώσεις που ισχύουν για τους παρόχους μοντέλων ΤΝ γενικού σκοπού με συστημικό κίνδυνο θα πρέπει να αντικατοπτρίζουν τις διαφορές μεγέθους και δυναμικότητας μεταξύ των διαφόρων παρόχων (άρθρο 56 παράγραφος 5), διασφαλίζοντας παράλληλα ότι είναι αναλογικοί προς τους κινδύνους [άρθρο 56 παράγραφος 2 στοιχείο δ)].

Πότε θα οριστικοποιηθεί ο κώδικας ορθής πρακτικής;

Μετά τη δημοσίευση του πρώτου σχεδίου του κώδικα ορθής πρακτικής, αναμένεται ότι θα υπάρξουν τρεις ακόμη γύροι σύνταξης κατά τους επόμενους μήνες. Δεκατρείς πρόεδροι και αντιπρόεδροι, προερχόμενοι από διαφορετικά υπόβαθρα στους τομείς της επιστήμης των υπολογιστών, της διακυβέρνησης της τεχνητής νοημοσύνης και του δικαίου, είναι υπεύθυνοι για τη σύνθεση των υποβολών από πολυμερή διαβούλευση και συζητήσεις με την Ολομέλεια του Κώδικα Πρακτικής, η οποία αποτελείται από περίπου 1000 ενδιαφερόμενα μέρη. Αυτή η επαναληπτική διαδικασία θα οδηγήσει σε έναν τελικό κώδικα ορθής πρακτικής, ο οποίος θα πρέπει να αντικατοπτρίζει τις διάφορες παρατηρήσεις, διασφαλίζοντας παράλληλα την πειστική εφαρμογή του νομικού πλαισίου.

Ποια είναι τα έννομα αποτελέσματα του κώδικα ορθής πρακτικής;

Εάν εγκριθεί μέσω εκτελεστικής πράξης, ο κώδικας ορθής πρακτικής αποκτά γενική ισχύ, πράγμα που σημαίνει ότι η τήρηση του κώδικα ορθής πρακτικής καθίσταται μέσο απόδειξης της συμμόρφωσης με τον νόμο για την ΤΝ. Ωστόσο, η συμμόρφωση με τον νόμο για την ΤΝ μπορεί επίσης να αποδειχθεί με άλλους τρόπους.

Με βάση τον νόμο για την ΤΝ, πρόσθετα έννομα αποτελέσματα του κώδικα ορθής πρακτικής είναι ότι το Γραφείο ΤΝ μπορεί να επιβάλει την τήρηση του κώδικα ορθής πρακτικής (άρθρο 89 παράγραφος 1) και θα πρέπει να λαμβάνει υπόψη τις δεσμεύσεις που αναλαμβάνονται στον κώδικα ορθής πρακτικής κατά τον καθορισμό του ποσού των προστίμων (άρθρο 101 παράγραφος 1).

Πώς θα αναθεωρηθεί και θα επικαιροποιηθεί ο κώδικας ορθής πρακτικής;

Μολονότι το πρώτο σχέδιο του κώδικα ορθής πρακτικής δεν περιέχει ακόμη λεπτομέρειες σχετικά με την επανεξέταση και την επικαιροποίησή του, αναμένεται ότι οι περαιτέρω επαναλήψεις του σχεδίου και κάθε εκτελεστική πράξη που εκδίδεται για την έγκριση του τελικού κώδικα ορθής πρακτικής θα περιλαμβάνουν αυτές τις πληροφορίες.

Ποιες εξουσίες επιβολής έχει η Υπηρεσία Τεχνητής Νοημοσύνης;

Η Υπηρεσία ΤΝ θα επιβάλει τις υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικού σκοπού (άρθρο 88), καθώς και θα στηρίζει τους φορείς διακυβέρνησης εντός των κρατών μελών κατά την επιβολή των απαιτήσεων για τα συστήματα ΤΝ (άρθρο 75), μεταξύ άλλων καθηκόντων. Η επιβολή από την Υπηρεσία ΤΝ υποστηρίζεται από τις εξουσίες που της παρέχονται από τον νόμο για την ΤΝ, δηλαδή τις εξουσίες να ζητεί πληροφορίες (άρθρο 91), να διενεργεί αξιολογήσεις μοντέλων ΤΝ γενικού σκοπού (άρθρο 92), να ζητεί μέτρα από τους παρόχους, συμπεριλαμβανομένης της εφαρμογής μέτρων μετριασμού του κινδύνου και της ανάκλησης του μοντέλου από την αγορά (άρθρο 93), και να επιβάλλει πρόστιμα έως και 3 % του παγκόσμιου ετήσιου κύκλου εργασιών ή 15 εκατομμύρια ευρώ, ανάλογα με το ποιο από τα δύο είναι υψηλότερο (άρθρο 101).