Ο Κανονισμός (EE) 2024/1689 για την τεχνητή νοημοσύνη (AI Act)

Ο Κανονισμός 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για την τεχνητή νοημοσύνη (AI Act) έχει ως σκοπό να βελτιώσει τη λειτουργία της εσωτερικής αγοράς και να προωθήσει την υιοθέτηση ανθρωποκεντρικής και αξιόπιστης τεχνητής νοημοσύνης, διασφαλίζοντας, παράλληλα, υψηλό επίπεδο προστασίας της υγείας, της ασφάλειας, των θεμελιωδών δικαιωμάτων που κατοχυρώνονται στον Χάρτη, και στηρίζοντας την καινοτομία.

Ο Κανονισμός θεσπίζει (α) ενιαίο νομικό πλαίσιο για την ανάπτυξη, τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων τεχνητής νοημοσύνης στην Ε.Ε., (β) απαγορεύσεις ορισμένων πρακτικών τεχνητής νοημοσύνης, (γ) ειδικές απαιτήσεις για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου και υποχρεώσεις για τους παρόχους και τους φορείς εκμετάλλευσης τέτοιων συστημάτων, (δ) εναρμονισμένους κανόνες διαφάνειας για ορισμένα συστήματα τεχνητής νοημοσύνης, (ε) εναρμονισμένους κανόνες για τη διάθεση στην αγορά μοντέλων τεχνητής νοημοσύνης γενικού σκοπού, (στ) κανόνες για την παρακολούθηση και εποπτεία της αγοράς, τη διακυβέρνηση και την επιβολή, (ζ) μέτρα για τη στήριξη της καινοτομίας, με ιδιαίτερη έμφαση στις μικρομεσαίες επιχειρήσεις (ΜΜΕ), συμπεριλαμβανομένων των νεοφυών επιχειρήσεων και (η) κυρώσεις.

Δυνάμει του Κανονισμού, απαγορευμένες πρακτικές στον τομέα της τεχνητής νοημοσύνης θεωρούνται όσες απειλούν τα δικαιώματα των πολιτών και, ιδίως: (α) οι τεχνικές που απευθύνονται στο υποσυνείδητο ενός προσώπου υπερκεράζοντας το συνειδητό του ή οι σκόπιμα χειριστικές ή παραπλανητικές τεχνικές, (β) η εκμετάλλευση οποιουδήποτε από τα τρωτά σημεία ενός φυσικού προσώπου ή μιας συγκεκριμένης ομάδας προσώπων λόγω της ηλικίας τους, της αναπηρίας τους ή συγκεκριμένης κοινωνικής ή οικονομικής τους κατάστασης, (γ) η αξιολόγηση ή ταξινόμηση φυσικών προσώπων ή ομάδων προσώπων για ορισμένο χρονικό διάστημα με βάση την κοινωνική τους συμπεριφορά ή χαρακτηριστικά της προσωπικότητάς τους, με κοινωνική βαθμολογία, (δ) η διενέργεια εκτιμήσεων κινδύνου φυσικών προσώπων προκειμένου να εκτιμηθεί ή να προβλεφθεί ο κίνδυνος τέλεσης αξιόποινης πράξης από φυσικό πρόσωπο, με βάση αποκλειστικά την κατάρτιση προφίλ ενός φυσικού προσώπου ή την αξιολόγηση των γνωρισμάτων και των χαρακτηριστικών της προσωπικότητάς του, (ε) η δημιουργία ή επέκταση βάσεων δεδομένων αναγνώρισης προσώπου μέσω της μη στοχευμένης εξαγωγής εικόνων προσώπου από το διαδίκτυο ή βίντεο CCTV, (στ) η συναγωγή συναισθημάτων φυσικού προσώπου στους τομείς του χώρου εργασίας και των εκπαιδευτικών ιδρυμάτων, εκτός εάν πρόκειται για ιατρικούς λόγους ή λόγους ασφαλείας, (ζ) η κατηγοριοποίηση με μεμονωμένο τρόπο φυσικών προσώπων με βάση τα βιομετρικά δεδομένα τους για να εξαχθούν ή να συναχθούν συμπεράσματα σχετικά με τη φυλή, τα πολιτικά φρονήματα, τη συμμετοχή σε συνδικαλιστική οργάνωση, τις θρησκευτικές ή φιλοσοφικές πεποιθήσεις, τη σεξουαλική ζωή ή τον γενετήσιο προσανατολισμό τους (υπάρχει εξαίρεση για τον τομέα της επιβολής του νόμου) και (η) η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο», σε δημόσια προσβάσιμους χώρους για τους σκοπούς της επιβολής του νόμου, η οποία επιτρέπεται, κατ’ εξαίρεση, υπό αυστηρές προϋποθέσεις, λ.χ. αν η βιομετρική ταυτοποίηση θα χρησιμοποιηθεί μόνο για περιορισμένο χρόνο και σε περιορισμένη γεωγραφική έκταση, με προηγούμενη ειδική άδεια από τις δικαστικές ή τις διοικητικές αρχές, για τη στοχευμένη αναζήτηση αγνοουμένου προσώπου ή την πρόληψη μιας τρομοκρατικής επίθεσης. Η χρήση συστημάτων βιομετρικής ταυτοποίησης «σε ύστερο χρόνο» θεωρείται υψηλού κινδύνου και απαιτεί δικαστική έγκριση που θα συνδέεται με κάποιο ποινικό αδίκημα.

Αναφορικά με τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου, ο Κανονισμός θέτει τους κανόνες ταξινόμησής τους, έχοντας ως κριτήριο τις σημαντικές επιβλαβείς επιπτώσεις που ενδέχεται να έχουν τα συστήματα τεχνητής νοημοσύνης στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα, το περιβάλλον, τη δημοκρατία και το κράτος δικαίου, και αναφέροντας ως τομείς, στους οποίους ενδέχεται να χρησιμοποιηθούν τέτοια συστήματα, τις κρίσιμες υποδομές, την εκπαίδευση και την επαγγελματική κατάρτιση, την απασχόληση, τις βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. υγειονομική περίθαλψη, τράπεζες), την επιβολή του νόμου, τη διαχείριση της μετανάστευσης και των συνόρων, καθώς και τις δικαστικές και δημοκρατικές διαδικασίες (π.χ. για τον επηρεασμό εκλογικών διαδικασιών). Επίσης, ο Κανονισμός (α) θεσπίζει ειδικές απαιτήσεις για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου (λ.χ. θέσπιση, υλοποίηση, τεκμηρίωση και διατήρηση συστήματος διαχείρισης κινδύνου, κατάρτιση τεχνικού φακέλου, τήρηση αρχείων καταγραφής, διαφάνεια της λειτουργίας τους, ανθρώπινη εποπτεία, επίτευξη κατάλληλου επιπέδου ακρίβειας, στιβαρότητας και κυβερνοασφάλειας), (β) θεσπίζει υποχρεώσεις για τους παρόχους (λ.χ. εφαρμογή συστήματος διαχείρισης ποιότητας, τήρηση εγγράφων τεκμηρίωσης, αυτόματη δημιουργία αρχείων καταγραφής, υποβολή συστήματος τεχνητής νοημοσύνης σε διαδικασία αξιολόγησης της συμμόρφωσης, διενέργεια εκτίμησης επιπτώσεων στα θεμελιώδη δικαιώματα, εκπόνηση δήλωσης συμμόρφωσης ΕΕ, τοποθέτηση σήμανσης CE, καταχώριση, λήψη διορθωτικών μέτρων, καθήκον ενημέρωσης, απόδειξη συμμόρφωσης, συνεργασία με τις αρμόδιες αρχές), τους εξουσιοδοτημένους αντιπροσώπους, τους εισαγωγείς, τους διανομείς, τους φορείς εκμετάλλευσης τέτοιων συστημάτων, (γ) ρυθμίζει τα σχετικά με τη δημιουργία και διατήρηση βάσης δεδομένων της ΕΕ για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου και (δ) θεσπίζει το δικαίωμα των πολιτών να υποβάλλουν καταγγελίες και να λαμβάνουν εξηγήσεις για τυχόν αποφάσεις που βασίστηκαν σε συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου και επηρεάζουν τα δικαιώματά τους.

Ο Κανονισμός θέτει, ακόμη, εναρμονισμένους κανόνες για τη διάθεση στην αγορά μοντέλων τεχνητής νοημοσύνης γενικού σκοπού (GPAI). Ειδικότερα, θεσπίζει (α) τους κανόνες ταξινόμησης των μοντέλων τεχνητής νοημοσύνης γενικού σκοπού ως μοντέλων τεχνητής νοημοσύνης γενικού σκοπού με υψηλό συστημικό κίνδυνο, (β) τις υποχρεώσεις των παρόχων (λ.χ. κατάρτιση και επικαιροποίηση τεχνικού φακέλου, παροχή πληροφοριών και τεκμηρίωσης, εφαρμογή πολιτική συμμόρφωσης με το ενωσιακό δίκαιο περί πνευματικής ιδιοκτησίας και των συναφών δικαιωμάτων, συνεργασία με αρμόδιες αρχές) και των εξουσιοδοτημένων αντιπροσώπων μοντέλων τεχνητής νοημοσύνης γενικού σκοπού και (γ) τις υποχρεώσεις των παρόχων μοντέλων τεχνητής νοημοσύνης γενικού σκοπού με υψηλό συστημικό κίνδυνο (λ.χ. κατάρτιση και επικαιροποίηση τεχνικού φακέλου, παροχή πληροφοριών και τεκμηρίωσης, εφαρμογή πολιτική συμμόρφωσης με το ενωσιακό δίκαιο περί πνευματικής ιδιοκτησίας και των συναφών δικαιωμάτων, συνεργασία με αρμόδιες αρχές και διενέργεια αξιολόγησης του μοντέλου σύμφωνα με τυποποιημένα πρωτόκολλα και εργαλεία, αξιολόγηση και μετριασμός πιθανών συστημικών κινδύνων, διασφάλιση κατάλληλου επιπέδου προστασίας της κυβερνοασφάλειας).

Επιπλέον, με τον Κανονισμό θεσπίζονται μέτρα για τη στήριξη της καινοτομίας, με ιδιαίτερη έμφαση στις μικρομεσαίες επιχειρήσεις (ΜΜΕ), συμπεριλαμβανομένων των νεοφυών επιχειρήσεων. Συγκεκριμένα, προβλέπεται η ίδρυση ρυθμιστικών δοκιμαστηρίων τεχνητής νοημοσύνης σε εθνικό επίπεδο προκειμένου να παρέχεται ελεγχόμενο περιβάλλον που προωθεί την καινοτομία και διευκολύνει την ανάπτυξη, την εκπαίδευση, τη δοκιμή και την επικύρωση καινοτόμων συστημάτων τεχνητής νοημοσύνης. Προβλέπεται, επίσης, η δοκιμή συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου σε πραγματικές συνθήκες εκτός ρυθμιστικών δοκιμαστηρίων τεχνητής νοημοσύνης και, τέλος, παρέχεται στις μικρομεσαίες επιχειρήσεις (ΜΜΕ), συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, κατά προτεραιότητα πρόσβαση στα ρυθμιστικά δοκιμαστήρια τεχνητής νοημοσύνης.

Ακόμη, ο Κανονισμός θεσπίζει κανόνες για την παρακολούθηση της αγοράς, την εποπτεία της αγοράς, τη διακυβέρνηση και την επιβολή, και, ιδίως, θεσπίζεται Υπηρεσία Τεχνητής Νοημοσύνης, συστήνεται το Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης και ορίζονται τα καθήκοντά του, συγκροτείται συμβουλευτικό φόρουμ για την παροχή τεχνικής εμπειρογνωμοσύνης και συμβουλών στο Συμβούλιο Τεχνητής Νοημοσύνης και την Επιτροπή, θεσπίζεται η δυνατότητα σύστασης επιστημονικής ομάδας ανεξάρτητων εμπειρογνωμόνων με σκοπό τη στήριξη των δραστηριοτήτων επιβολής, ορίζονται οι εθνικές αρμόδιες αρχές και ενιαία σημεία επαφής, θεσπίζονται κανόνες για την παρακολούθηση από τους παρόχους μετά τη διάθεση στην αγορά και σχέδιο παρακολούθησης μετά τη διάθεση στην αγορά για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου, θεσπίζονται κανόνες για την αναφορά και ανταλλαγή πληροφοριών σχετικά με σοβαρά περιστατικά και καθορίζονται τα μέσα έννομα προστασίας και δη το δικαίωμα υποβολής καταγγελίας σε αρχή εποπτείας της αγοράς, το δικαίωμα επεξήγησης της ατομικής λήψης αποφάσεων.

Η μη συμμόρφωση με τις διατάξεις του Κανονισμού για την τεχνητή νοημοσύνη επιφέρει κυρώσεις και δη διοικητικά πρόστιμα τα οποία καθορίστηκαν ως προκαθορισμένο ποσό ή ως ποσοστό του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών της επιχείρησης που παρανομεί κατά το προηγούμενο οικονομικό έτος, ανάλογα με το ποιο ποσό είναι μεγαλύτερο. Αναλυτικότερα, για παραβιάσεις σχετικά με τις απαγορευμένες πρακτικές τεχνητής νοημοσύνης, το πρόστιμο ανέρχεται έως το ποσό των 35.000.000 ευρώ ή, εάν ο παραβάτης είναι επιχείρηση, έως το 7% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών της για το προηγούμενο οικονομικό έτος, ανάλογα με το ποιο ποσό είναι μεγαλύτερο^. για παραβιάσεις των υποχρεώσεων που θεσπίζονται με τον Κανονισμό, το πρόστιμο ανέρχεται έως το ποσό των 15.000.000 ευρώ ή, εάν ο παραβάτης είναι επιχείρηση, έως το 3% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών της για το προηγούμενο οικονομικό έτος, ανάλογα με το ποιο ποσό είναι μεγαλύτερο^. και για την παροχή ανακριβών, ελλιπών ή παραπλανητικών πληροφοριών σε κοινοποιημένους οργανισμούς ή εθνικές αρμόδιες αρχές κατά την απάντηση σε αίτημα, το πρόστιμο ανέρχεται έως το ποσό των 7.500.000 ευρώ ή, εάν ο παραβάτης είναι επιχείρηση, έως το 1% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών της για το προηγούμενο οικονομικό έτος, ανάλογα με το ποιο ποσό είναι μεγαλύτερο. Ωστόσο, ο Κανονισμός προβλέπει «επιεικέστερα» όρια διοικητικών προστίμων για τις μικρομεσαίες επιχειρήσεις (ΜΜΕ), συμπεριλαμβανομένων των νεοφυών επιχειρήσεων.

Επιλογικά, σημειώνεται ότι, ο Κανονισμός (ΕΕ) 2024/1689 για την τεχνητή νοημοσύνη (AI Act), θα εμφανίσει σημαντικές προκλήσεις κατά την εφαρμογή του, όχι μόνο σε τεχνικό επίπεδο αλλά, κυρίως, σε επίπεδο ερμηνείας, καθώς αλληλεπιδρά με πολλά άλλα ενωσιακά νομοθετήματα, όπως τον Κανονισμό (ΕΕ) 2016/679 για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας των δεδομένων προσωπικού χαρακτήρα (GDPR), τον Κανονισμό (ΕΕ) 2022/868 σχετικά με την ευρωπαϊκή διακυβέρνηση δεδομένων (Data Governance Act) κλπ.