logo-print

Τεχνητή Νοημοσύνη: Δημοσιεύθηκε η πρόταση Κανονισμού της Ευρωπαϊκής Επιτροπής

Ο συνδυασμός του πρώτου νομικού πλαισίου για την ΤΝ στην ιστορία και ενός νέου συντονισμένου σχεδίου με τα κράτη μέλη θα εγγυάται την ασφάλεια και τα θεμελιώδη δικαιώματα των πολιτών και των επιχειρήσεων

21/04/2021

15/06/2021

Η Ποιοτική Ιδιαιτερότητα της Ενωσιακής Έννομης Τάξης

ΕΥΡΩΠΑΪΚΟ ΔΙΚΑΙΟ

ΜΕΤΑΞΑΣ ΑΝΤΩΝΗΣ

Η ευρωπαϊκή διαταγή δέσμευσης λογαριασμού κατά τον κανονισμό 655/2014

ΑΣΤΙΚΟ ΔΙΚΟΝΟΜΙΚΟ ΔΙΚΑΙΟ - ΔΙΚΟΝΟΜΙΚΟ ΔΙΕΘΝΕΣ ΔΙΚΑΙΟ

ΤΖΟΥΝΑΚΟΥ ΕΛΕΝΗ

Η Ευρωπαϊκή Επιτροπή προτείνει σήμερα νέους κανόνες και δράσεις με στόχο να καταστεί η Ευρώπη παγκόσμιος κόμβος αξιόπιστης τεχνητής νοημοσύνης (ΤΝ).

Ο συνδυασμός του πρώτου νομικού πλαισίου για την ΤΝ στην ιστορία και ενός νέου συντονισμένου σχεδίου με τα κράτη μέλη θα εγγυάται την ασφάλεια και τα θεμελιώδη δικαιώματα των πολιτών και των επιχειρήσεων, ενισχύοντας παράλληλα την αποδοχή της ΤΝ, τις επενδύσεις και την καινοτομία σε ολόκληρη την ΕΕ. Οι νέοι κανόνες για τα μηχανήματα θα συμπληρώσουν την εν λόγω προσέγγιση, προσαρμόζοντας τους κανόνες ασφαλείας ώστε να ενισχυθεί η εμπιστοσύνη των χρηστών/χρηστριών στη νέα πολυδύναμη γενιά προϊόντων.

Η Μαργκρέιτε Βέστεϊγιερ, Εκτελεστική Αντιπρόεδρος για «Μια Ευρώπη έτοιμη για την ψηφιακή εποχή», δήλωσε σχετικά: «Όσον αφορά την τεχνητή νοημοσύνη, η εμπιστοσύνη σε αυτή είναι απολύτως αναγκαία και όχι απλώς ευκταία. Με αυτούς τους κανόνες-ορόσημο, η ΕΕ πρωτοστατεί στην ανάπτυξη νέων παγκόσμιων προτύπων ώστε να διασφαλιστεί ότι μπορούμε να έχουμε εμπιστοσύνη στην τεχνητή νοημοσύνη. Καθορίζοντας τα πρότυπα, μπορούμε να προετοιμάσουμε το έδαφος για μια τεχνολογία βασιζόμενη σε δεοντολογικές αρχές σε παγκόσμιο επίπεδο και να διασφαλίσουμε ότι η ΕΕ παραμένει ανταγωνιστική καθ' όλη τη διαδικασία. Οι κανόνες μας, διαχρονικοί και φιλικοί προς την καινοτομία, θα παρεμβαίνουν όπου είναι απολύτως αναγκαίο: όταν διακυβεύονται η ασφάλεια και τα θεμελιώδη δικαιώματα των πολιτών της ΕΕ.»

Ο Επίτροπος Εσωτερικής Αγοράς, Τιερί Μπρετόν δήλωσε: «Η ΤΝ είναι μέσο, όχι αυτοσκοπός. Έχει εφευρεθεί εδώ και δεκαετίες, αλλά πλέον έχει επιτύχει νέες ικανότητες χάρη στη μεγαλύτερη υπολογιστική ισχύ. Έτσι, προσφέρει τεράστιες δυνατότητες σε ποικίλους τομείς, από την υγεία και τις μεταφορές μέχρι την ενέργεια, τη γεωργία, τον τουρισμό και την κυβερνοασφάλεια. Συνεπάγεται, επίσης, ορισμένους κινδύνους. Στόχος των σημερινών προτάσεων είναι να ενισχυθεί η θέση της Ευρώπης ως παγκόσμιου κόμβου αριστείας στον τομέα της ΤΝ από το εργαστήριο στην αγορά, να διασφαλιστεί ότι η ΤΝ στην Ευρώπη σέβεται τις αξίες και τους κανόνες μας και να αξιοποιηθεί το δυναμικό της ΤΝ για βιομηχανική χρήση.» 

Ο νέος κανονισμός για την ΤΝ θα διασφαλίσει ότι οι Ευρωπαίοι μπορούν να εμπιστεύονται όλα όσα έχει να προσφέρει η ΤΝ. Οι αναλογικοί και ευέλικτοι κανόνες θα αντιμετωπίσουν τους ειδικούς κινδύνους που ενέχουν τα συστήματα ΤΝ και θα θέσουν τα πλέον υψηλά πρότυπα σε παγκόσμιο επίπεδο. Το συντονισμένο σχέδιο περιγράφει τις απαραίτητες αλλαγές πολιτικής και τις απαραίτητες επενδύσεις σε επίπεδο κρατών μελών για την ενίσχυση της ηγετικής θέσης της Ευρώπης στην ανάπτυξη ανθρωποκεντρικής, βιώσιμης, ασφαλούς και αξιόπιστης ΤΝ χωρίς αποκλεισμούς.

Η ευρωπαϊκή προσέγγιση για μια αξιόπιστη ΤΝ

Οι νέοι κανόνες θα εφαρμόζονται άμεσα και με τον ίδιο τρόπο σε όλα τα κράτη μέλη βάσει ενός διαχρονικού ορισμού της τεχνητής νοημοσύνης. Οι εν λόγω κανόνες ακολουθούν μια προσέγγιση με βάση τον κίνδυνο:

Μη αποδεκτός κίνδυνος: τα συστήματα ΤΝ που θεωρείται ότι συνιστούν σαφή απειλή για την ασφάλεια, τον βιοπορισμό και τα δικαιώματα των ατόμων θα απαγορεύονται. Εδώ περιλαμβάνονται συστήματα ή εφαρμογές ΤΝ που χειραγωγούν την ανθρώπινη συμπεριφορά για να παρακάμψουν την ελεύθερη βούληση των χρηστών/χρηστριών (παραδείγματος χάριν, παιχνίδια με φωνητικό βοηθό που παροτρύνουν ανηλίκους σε επικίνδυνη συμπεριφορά) και συστήματα που επιτρέπουν την «κοινωνική βαθμολόγηση» από τις κυβερνήσεις.

Υψηλός κίνδυνος: στα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου περιλαμβάνεται η τεχνολογία ΤΝ που χρησιμοποιείται:

  • στις υποδομές ζωτικής σημασίας (π.χ. μεταφορές), τεχνολογία ΤΝ που θα μπορούσε να θέσει σε κίνδυνο τη ζωή και την υγεία των πολιτών·
  • στην εκπαίδευση ή την επαγγελματική κατάρτιση, τεχνολογία ΤΝ που μπορεί να καθορίζει την πρόσβαση στην εκπαίδευση και την πορεία της επαγγελματικής ζωής ενός ατόμου (π.χ. βαθμολόγηση εξετάσεων)·
  • στα κατασκευαστικά στοιχεία ασφαλείας των προϊόντων (π.χ. εφαρμογή ΤΝ σε υποβοηθούμενη από ρομπότ χειρουργική)·
  • στην απασχόληση, στη διαχείριση εργαζομένων και στην πρόσβαση στην αυτοαπασχόληση (π.χ. λογισμικό διαλογής βιογραφικών σημειωμάτων για διαδικασίες πρόσληψης)·
  • στις βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. αξιολόγηση πιστοληπτικής ικανότητας που στερεί από τους πολίτες τη δυνατότητα να λαμβάνουν δάνεια)·
  • στην επιβολή του νόμου, τεχνολογία ΤΝ που μπορεί να παρεμβαίνει στα θεμελιώδη δικαιώματα των πολιτών (π.χ. αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων)·
  • στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων (π.χ. εξακρίβωση της γνησιότητας ταξιδιωτικών εγγράφων)·
  • στην απονομή δικαιοσύνης και στις δημοκρατικές διαδικασίες (π.χ. εφαρμογή του νόμου σε συγκεκριμένα πραγματικά περιστατικά).

Τα συστήματα ΤΝ υψηλού κινδύνου θα υπόκεινται σε αυστηρές υποχρεώσεις προτού επιτραπεί η διάθεσή τους στην αγορά:

  • Κατάλληλα συστήματα εκτίμησης και μετριασμού των κινδύνων·
  • Υψηλή ποιότητα των συνόλων δεδομένων που τροφοδοτούν το σύστημα ώστε να ελαχιστοποιούνται οι κίνδυνοι και οι διακρίσεις·
  • Καταγραφή των δραστηριοτήτων με σκοπό τη διασφάλιση της ιχνηλασιμότητας των αποτελεσμάτων·
  • Λεπτομερής τεκμηρίωση που παρέχει όλες τις απαραίτητες πληροφορίες σχετικά με το σύστημα και τον σκοπό του ώστε οι αρχές να αξιολογούν τη συμμόρφωσή του·
  • Σαφείς και επαρκείς πληροφορίες για τον χρήστη/χρήστρια·
  • Κατάλληλα μέτρα ανθρώπινης εποπτείας για την ελαχιστοποίηση του κινδύνου·
  • Υψηλό επίπεδο ανθεκτικότηταςασφάλειας και ακρίβειας.

Ειδικότερα, όλα τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης θεωρούνται υψηλού κινδύνου και υπόκεινται σε αυστηρές απαιτήσεις. Η χρήση τους σε πραγματικό χρόνο σε δημοσίως προσβάσιμους χώρους για σκοπούς επιβολής του νόμου καταρχήν απαγορεύεται. Οι ελάχιστες εξαιρέσεις σ' αυτόν τον κανόνα καθορίζονται και ρυθμίζονται αυστηρά (για παράδειγμα, όταν είναι απολύτως αναγκαίο για την αναζήτηση αγνοούμενου παιδιού, για την πρόληψη συγκεκριμένης και επικείμενης τρομοκρατικής απειλής ή για τον εντοπισμό, την επισήμανση, την ταυτοποίηση ή τη δίωξη δράστη ή υπόπτου σοβαρής αξιόποινης πράξης). Η χρήση αυτή υπόκειται στην έγκριση δικαστικής ή άλλης ανεξάρτητης αρχής και σε κατάλληλους περιορισμούς όσον αφορά το χρονικό διάστημα, τη γεωγραφική εμβέλεια και τις βάσεις δεδομένων όπου πραγματοποιείται αναζήτηση.

Περιορισμένος κίνδυνος, δηλαδή συστήματα ΤΝ που υπόκεινται σε συγκεκριμένες υποχρεώσεις διαφάνειας: όταν χρησιμοποιούν συστήματα ΤΝ όπως τα διαλογικά ρομπότ (chatbot), οι χρήστες θα πρέπει να γνωρίζουν ότι αλληλεπιδρούν με μηχάνημα, ώστε να μπορούν να λάβουν τεκμηριωμένη απόφαση να συνεχίσουν ή να διακόψουν την αλληλεπίδραση.

Ελάχιστος κίνδυνος: η νομική πρόταση επιτρέπει την ελεύθερη χρήση εφαρμογών όπως βιντεοπαιχνιδιών βασισμένων στην τεχνητή νοημοσύνη ή φίλτρων ανεπιθύμητης αλληλογραφίας. Η συντριπτική πλειονότητα των συστημάτων ΤΝ εμπίπτουν σε αυτή την κατηγορία. Το σχέδιο κανονισμού δεν παρεμβαίνει σε αυτή την κατηγορία, καθώς αυτά τα συστήματα ΤΝ συνεπάγονται μόνο ελάχιστο ή μηδενικό κίνδυνο για τα δικαιώματα και την ασφάλεια των πολιτών.

Όσον αφορά τη διακυβέρνηση, η Επιτροπή προτείνει οι εθνικές αρμόδιες αρχές εποπτείας της αγοράς να εποπτεύουν τους νέους κανόνες, ενώ η δημιουργία ενός Ευρωπαϊκού Συμβουλίου Τεχνητής Νοημοσύνης θα διευκολύνει την εφαρμογή τους και θα προωθήσει την ανάπτυξη προτύπων για την ΤΝ. Επιπλέον, προτείνονται εθελοντικοί κώδικες δεοντολογίας για την ΤΝ μη υψηλού κινδύνου, καθώς και ρυθμιστικά δοκιμαστήρια για τη διευκόλυνση της υπεύθυνης καινοτομίας.

Η ευρωπαϊκή προσέγγιση της αριστείας στην ΤΝ

Ο συντονισμός θα ενισχύσει την ηγετική θέση της Ευρώπης στον τομέα της ανθρωποκεντρικής, βιώσιμης, ασφαλούς και αξιόπιστης ΤΝ χωρίς αποκλεισμούς. Για να παραμείνει ανταγωνιστική σε παγκόσμιο επίπεδο, η Επιτροπή έχει δεσμευθεί να προωθήσει την καινοτομία στην ανάπτυξη και χρήση της τεχνολογίας ΤΝ σε όλες τις βιομηχανίες και σε όλα τα κράτη μέλη.

Το συντονισμένο σχέδιο για την τεχνητή νοημοσύνη, που δημοσιεύθηκε για πρώτη φορά το 2018 για τον καθορισμό δράσεων και χρηματοδοτικών μέσων με σκοπό την ανάπτυξη και την αποδοχή της τεχνητής νοημοσύνης, κατέστησε δυνατή τη διαμόρφωση ενός δυναμικού τοπίου εθνικών στρατηγικών και τη χρηματοδότηση της ΕΕ για συμπράξεις δημόσιου και ιδιωτικού τομέα και δίκτυα έρευνας και καινοτομίας. Με τη συνολική επικαιροποίηση του συντονισμένου σχεδίου προτείνονται συγκεκριμένες κοινές δράσεις συνεργασίας προκειμένου να διασφαλιστεί ότι όλες οι προσπάθειες εναρμονίζονται με την ευρωπαϊκή στρατηγική για την τεχνητή νοημοσύνη και την Ευρωπαϊκή Πράσινη Συμφωνία, λαμβάνοντας παράλληλα υπόψη τις νέες προκλήσεις που συνεπάγεται η πανδημία του κορονοϊού. Προτείνεται ένα όραμα για την επιτάχυνση των επενδύσεων στην ΤΝ, οι οποίες μπορούν να ωφελήσουν την ανάκαμψη. Σκοπός της είναι, επίσης, να δώσει ώθηση στην εφαρμογή εθνικών στρατηγικών ΤΝ, να εξαλείψει τον κατακερματισμό και να δώσει απάντηση σε παγκόσμιες προκλήσεις.

Το επικαιροποιημένο συντονισμένο σχέδιο θα χρησιμοποιήσει τη χρηματοδότηση που διατίθεται μέσω των προγραμμάτων «Ψηφιακή Ευρώπη» και «Ορίζων Ευρώπη», καθώς και του Μηχανισμού Ανάκαμψης και Ανθεκτικότητας που προβλέπει στόχο 20 % για ψηφιακές δαπάνες και των προγραμμάτων της πολιτικής συνοχής με σκοπό:

  • τη δημιουργία ευνοϊκών συνθηκών για την ανάπτυξη και την αποδοχή της ΤΝ μέσω ανταλλαγής γνώσεων περί πολιτικής, διαμοιρασμού δεδομένων και επενδύσεων σε ζωτικές υπολογιστικές ικανότητες·
  • την προώθηση της αριστείας στον τομέα της τεχνητής νοημοσύνης «από το εργαστήριο στην αγορά», με τη δημιουργία σύμπραξης δημόσιου-ιδιωτικού τομέα, τη δημιουργία και κινητοποίηση ικανοτήτων έρευνας, ανάπτυξης και καινοτομίας, και τη διάθεση εγκαταστάσεων δοκιμών και πειραματισμού, καθώς και κόμβων ψηφιακής καινοτομίας σε ΜΜΕ και δημόσιες διοικήσεις·
  • τη διασφάλιση ότι η τεχνητή νοημοσύνη χρησιμοποιείται προς όφελος των ανθρώπων και αποτελεί μια δύναμη για το καλό της κοινωνίας, καθώς η Ευρώπη βρίσκεται στην πρωτοπορία της ανάπτυξης και της ευρείας χρήσης αξιόπιστης τεχνητής νοημοσύνης, καλλιεργώντας ταλέντα και δεξιότητες με την παροχή στήριξης για περιόδους πρακτικής άσκησης, διδακτορικά δίκτυα και μεταδιδακτορικές υποτροφίες σε ψηφιακούς τομείς, ενσωματώνοντας την εμπιστοσύνη στις πολιτικές για την ΤΝ και προωθώντας το ευρωπαϊκό όραμα για μια βιώσιμη και αξιόπιστη ΤΝ σε παγκόσμιο επίπεδο·
  • τη δημιουργία στρατηγικής ηγετικής θέσης σε τομείς και τεχνολογίες υψηλού αντικτύπου, συμπεριλαμβανομένου του περιβάλλοντος, εστιάζοντας στη συμβολή της τεχνητής νοημοσύνης στη βιώσιμη παραγωγή, στην υγεία μέσω της επέκτασης της διασυνοριακής ανταλλαγής πληροφοριών, καθώς και στον δημόσιο τομέα, την κινητικότητα, τις εσωτερικές υποθέσεις και τη γεωργία, και τη ρομποτική.

Η ευρωπαϊκή προσέγγιση όσον αφορά τα νέα μηχανολογικά προϊόντα

Τα μηχανολογικά προϊόντα καλύπτουν ένα ευρύ φάσμα καταναλωτικών και επαγγελματικών προϊόντων, από ρομπότ έως χορτοκοπτικά, εκτυπωτές τρισδιάστατης εκτύπωσης, μηχανήματα κατασκευών, γραμμές βιομηχανικής παραγωγής. Η οδηγία για τα μηχανήματα, η οποία αντικαταστάθηκε από τον νέο κανονισμό για τα μηχανήματα, καθόρισε τις απαιτήσεις υγείας και ασφάλειας για τα μηχανήματα. Ο εν λόγω νέος κανονισμός για τα μηχανήματα θα διασφαλίζει ότι η νέα γενιά μηχανημάτων θα εγγυάται την ασφάλεια των χρηστών/χρηστριών και των καταναλωτών/καταναλωτριών, και ενθαρρύνει την καινοτομία. Ενώ ο κανονισμός για την τεχνητή νοημοσύνη αντιμετωπίζει τους κινδύνους ασφάλειας των συστημάτων ΤΝ, ο νέος κανονισμός για τα μηχανήματα θα διασφαλίζει την ασφαλή ενσωμάτωση του συστήματος ΤΝ στο σύνολο των μηχανημάτων. Οι επιχειρήσεις θα πρέπει να διενεργούν μία μόνο αξιολόγηση της συμμόρφωσης. 

Επιπλέον, ο νέος κανονισμός για τα μηχανήματα θα ανταποκρίνεται στις ανάγκες της αγοράς παρέχοντας μεγαλύτερη νομική σαφήνεια στις ισχύουσες διατάξεις, απλουστεύοντας τον διοικητικό φόρτο και το κόστος για τις εταιρείες μέσω των ψηφιακών μορφοτύπων για την τεκμηρίωση και της προσαρμογής των τελών αξιολόγησης της συμμόρφωσης για τις ΜΜΕ, διασφαλίζοντας παράλληλα τη συνοχή με το νομοθετικό πλαίσιο της ΕΕ για τα προϊόντα.

Επόμενα στάδια

Το Ευρωπαϊκό Κοινοβούλιο και τα κράτη μέλη θα πρέπει να εγκρίνουν τις προτάσεις της Επιτροπής με αντικείμενο την ευρωπαϊκή προσέγγιση της τεχνητής νοημοσύνης και τα μηχανολογικά προϊόντα στο πλαίσιο της συνήθους νομοθετικής διαδικασίας. Μόλις εγκριθούν, οι κανονισμοί θα είναι άμεσα εφαρμόσιμοι σε ολόκληρη την ΕΕ. Παράλληλα, η Επιτροπή θα συνεχίσει να συνεργάζεται με τα κράτη μέλη για την υλοποίηση των δράσεων που εξαγγέλλονται στο συντονισμένο σχέδιο.

Ιστορικό

Η Επιτροπή επί σειρά ετών διευκολύνει και ενισχύει τη συνεργασία στον τομέα της τεχνητής νοημοσύνης σε ολόκληρη την ΕΕ με σκοπό να τονώσει την ανταγωνιστικότητά της και να διασφαλίσει την εμπιστοσύνη με βάση τις αξίες της ΕΕ. 

Μετά τη δημοσίευση της ευρωπαϊκής στρατηγικής για την τεχνητή νοημοσύνη το 2018, και μετά από εκτενείς διαβουλεύσεις με τα ενδιαφερόμενα μέρη, η ομάδα εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη (HLEG) εκπόνησε τις «Κατευθυντήριες γραμμές για αξιόπιστη τεχνητή νοημοσύνη» το 2019, καθώς και κατάλογο αξιολόγησης της αξιοπιστίας της ΤΝ το 2020. Παράλληλα, το πρώτο συντονισμένο σχέδιο για την τεχνητή νοημοσύνη δημοσιεύτηκε τον Δεκέμβριο του 2018 ως κοινή δέσμευση με τα κράτη μέλη.

Η Λευκή Βίβλος για την Τεχνητή Νοημοσύνη της Επιτροπής, που δημοσιεύτηκε το 2020, παρουσιάζει ένα σαφές όραμα για την τεχνητή νοημοσύνη στην Ευρώπη: ένα οικοσύστημα αριστείας και εμπιστοσύνης, το οποίο διαμορφώνει το πλαίσιο για τη σημερινή πρόταση. Στη δημόσια διαβούλευση σχετικά με τη «Λευκή Βίβλο για την τεχνητή νοημοσύνη» υπήρξε αθρόα συμμετοχή από ολόκληρο τον κόσμο. Η Λευκή Βίβλος συνοδευόταν από την «Έκθεση σχετικά με τις συνέπειες της τεχνητής νοημοσύνης, του διαδικτύου των πραγμάτων και της ρομποτικής στην ασφάλεια και την ευθύνη», η οποία κατέληξε στο συμπέρασμα ότι η ισχύουσα νομοθεσία για την ασφάλεια των προϊόντων έχει ορισμένα κενά που έπρεπε να καλυφθούν, ιδίως στην οδηγία για τα μηχανήματα.

Περισσότερες πληροφορίες

Νέοι κανόνες για την τεχνητή νοημοσύνη — Ερωτήσεις και απαντήσεις

Νέοι κανόνες για την τεχνητή νοημοσύνη — Σελίδα πληροφοριών

Ανακοίνωση για την προώθηση της ευρωπαϊκής προσέγγισης της τεχνητής νοημοσύνης

Κανονισμός για την ευρωπαϊκή προσέγγιση της τεχνητής νοημοσύνης

Νέο συντονισμένο σχέδιο για την τεχνητή νοημοσύνη

Κανονισμός για τα μηχανολογικά προϊόντα

Έργα τεχνητής νοημοσύνης που χρηματοδοτούνται από την ΕΕ

Πολυκώδικας

ΑΣΤΙΚΟ ΔΙΚΟΝΟΜΙΚΟ ΔΙΚΑΙΟ / ΓΕΝΙΚΑ ΑΣΤΙΚΟ ΔΙΚΑΙΟ / ΓΕΝΙΚΑ ΕΜΠΟΡΙΚΟ ΔΙΚΑΙΟ / ΓΕΝΙΚΟ ΕΜΠΟΡΙΚΟ ΔΙΚΑΙΟ ΕΜΠΟΡΙΚΟ ΔΙΚΑΙΟ / ΔΙΚΑΙΟ ΕΜΠΟΡΙΚΩΝ ΕΤΑΙΡΕΙΩΝ ΔΙΟΙΚΗΤΙΚΟ ΔΙΚΑΙΟ / ΔΗΜΟΣΙΟΝΟΜΙΚΟ ΔΙΚΑΙΟ ΑΣΤΙΚΟ ΔΙΚΑΙΟ / ΚΤΗΜΑΤΟΛΟΓΙΟ ΚΩΔΙΚΕΣ / ΛΕΞΙΚΑ / ΣΥΛΛΟΓΕΣ ΝΟΜΟΘΕΣΙΑΣ / ΣΥΝΤΑΓΜΑΤΙΚΟ ΔΙΚΑΙΟ & ΘΕΜΕΛΙΩΔΗ ΔΙΚΑΙΩΜΑΤΑ / ΣΥΝΤΑΓΜΑΤΙΚΟ ΔΙΚΑΙΟ

ΣΥΓΧΡΟΝΗ ΝΟΜΟΘΕΣΙΑ
Ηγεσία, πολιτική και κορωνοϊός

ΠΟΛΙΤΙΚΕΣ ΕΠΙΣΤΗΜΕΣ

ΠΑΠΑΪΩΑΝΝΟΥ ΑΘΑΝΑΣΙΟΣ

ΓΕΩΡΓΟΠΟΥΛΟΥ ΒΑΡΒΑΡΑ

send