Το Ευρωπαϊκό Κοινοβούλιο ενέκρινε τον νόμο για την τεχνητή νοημοσύνη που διασφαλίζει την ασφάλεια και τη συμμόρφωση με τα θεμελιώδη δικαιώματα, ενισχύοντας παράλληλα την καινοτομία.

Ο κανονισμός, που συμφωνήθηκε σε διαπραγματεύσεις με τα κράτη μέλη τον Δεκέμβριο του 2023, εγκρίθηκε από τους ευρωβουλευτές με 523 ψήφους υπέρ, 46 κατά και 49 αποχές. Αποσκοπεί στην προστασία των θεμελιωδών δικαιωμάτων, της δημοκρατίας, του κράτους δικαίου και της περιβαλλοντικής βιωσιμότητας από την τεχνητή νοημοσύνη υψηλού κινδύνου, ενισχύοντας παράλληλα την καινοτομία και καθιερώνοντας την Ευρώπη ως ηγέτη στον τομέα. Ο κανονισμός θεσπίζει υποχρεώσεις για την τεχνητή νοημοσύνη με βάση τους δυνητικούς κινδύνους και το επίπεδο επίπτωσής της.

Οι νέοι κανόνες απαγορεύουν ορισμένες εφαρμογές τεχνητής νοημοσύνης που απειλούν τα δικαιώματα των πολιτών, συμπεριλαμβανομένων των συστημάτων βιομετρικής κατηγοριοποίησης βάσει ευαίσθητων χαρακτηριστικών και της μη στοχευμένης απόξεσης εικόνων προσώπου από το διαδίκτυο ή βίντεο CCTV για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου. Η αναγνώριση συναισθημάτων στον χώρο εργασίας και στα σχολεία, η κοινωνική βαθμολόγηση, η προληπτική αστυνόμευση (όταν βασίζεται αποκλειστικά στη δημιουργία προφίλ ενός ατόμου ή στην αξιολόγηση των χαρακτηριστικών του) και η τεχνητή νοημοσύνη που χειραγωγεί την ανθρώπινη συμπεριφορά ή εκμεταλλεύεται τα τρωτά σημεία των ανθρώπων θα απαγορεύονται επίσης.

Η χρήση βιομετρικών συστημάτων ταυτοποίησης (RBI) από τις αρχές επιβολής του νόμου απαγορεύεται καταρχήν, εκτός από εξαντλητικά απαριθμούμενες και στενά καθορισμένες περιπτώσεις. Η RBI «σε πραγματικό χρόνο» μπορεί να αναπτυχθεί μόνο εάν πληρούνται αυστηρές διασφαλίσεις, π.χ. η χρήση της είναι περιορισμένη χρονικά και γεωγραφικά και υπόκειται σε ειδική προηγούμενη δικαστική ή διοικητική άδεια. Οι χρήσεις αυτές μπορεί να περιλαμβάνουν, για παράδειγμα, στοχευμένη αναζήτηση αγνοούμενου προσώπου ή πρόληψη τρομοκρατικής επίθεσης. Η εκ των υστέρων χρήση τέτοιων συστημάτων («εκ των υστέρων εξ αποστάσεως RBI») θεωρείται περίπτωση χρήσης υψηλού κινδύνου, για την οποία απαιτείται δικαστική άδεια που συνδέεται με ποινικό αδίκημα.

Προβλέπονται, επίσης, σαφείς υποχρεώσεις για άλλα συστήματα ΤΝ υψηλού κινδύνου (λόγω της σημαντικής δυνητικής βλάβης που προκαλούν στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα, το περιβάλλον, τη δημοκρατία και το κράτος δικαίου). Παραδείγματα χρήσεων ΤΝ υψηλού κινδύνου περιλαμβάνουν υποδομές ζωτικής σημασίας, εκπαίδευση και επαγγελματική κατάρτιση, απασχόληση, βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. υγειονομική περίθαλψη, τράπεζες), ορισμένα συστήματα επιβολής του νόμου, διαχείριση της μετανάστευσης και των συνόρων, δικαιοσύνη και δημοκρατικές διαδικασίες (π.χ. επηρεασμός των εκλογών). Τα συστήματα αυτά πρέπει να αξιολογούν και να μειώνουν τους κινδύνους, να τηρούν αρχεία καταγραφής χρήσης, να είναι διαφανή και ακριβή και να διασφαλίζουν την ανθρώπινη εποπτεία. Οι πολίτες θα έχουν το δικαίωμα να υποβάλλουν καταγγελίες σχετικά με συστήματα ΤΝ και να λαμβάνουν εξηγήσεις σχετικά με αποφάσεις που βασίζονται σε συστήματα ΤΝ υψηλού κινδύνου και επηρεάζουν τα δικαιώματά τους.

Τα συστήματα τεχνητής νοημοσύνης γενικής χρήσης (GPAI) και τα μοντέλα GPAI στα οποία βασίζονται πρέπει να πληρούν ορισμένες απαιτήσεις διαφάνειας, συμπεριλαμβανομένης της συμμόρφωσης με τη νομοθεσία της ΕΕ για τα δικαιώματα πνευματικής ιδιοκτησίας και της δημοσίευσης λεπτομερών περιλήψεων του περιεχομένου που χρησιμοποιείται για την κατάρτιση. Τα ισχυρότερα μοντέλα GPAI που θα μπορούσαν να δημιουργήσουν συστημικούς κινδύνους θα αντιμετωπίσουν πρόσθετες απαιτήσεις, συμπεριλαμβανομένης της διενέργειας αξιολογήσεων μοντέλων, της αξιολόγησης και του μετριασμού των συστημικών κινδύνων και της αναφοράς περιστατικών.

Επιπλέον, οι τεχνητές ή παραποιημένες εικόνες, το περιεχόμενο ήχου ή βίντεο ("deepfakes") πρέπει να επισημαίνονται σαφώς ως τέτοια.

Θα πρέπει να θεσπιστούν ρυθμιστικά δοκιμαστήρια και δοκιμές σε πραγματικές συνθήκες σε εθνικό επίπεδο και να καταστούν προσβάσιμα στις ΜΜΕ και τις νεοφυείς επιχειρήσεις, ώστε να αναπτύξουν και να εκπαιδεύσουν καινοτόμο ΤΝ πριν από τη διάθεσή του στην αγορά.

Κατά τη διάρκεια της συζήτησης στην ολομέλεια την Τρίτη, ο συνεισηγητής της Επιτροπής Εσωτερικής Αγοράς Brando Benifei (Σοσιαλιστές, Ιταλία) δήλωσε: «Έχουμε επιτέλους τον πρώτο δεσμευτικό νόμο στον κόσμο για την τεχνητή νοημοσύνη, για τη μείωση των κινδύνων, τη δημιουργία ευκαιριών, την καταπολέμηση των διακρίσεων και την επίτευξη διαφάνειας. Χάρη στο Κοινοβούλιο, οι απαράδεκτες πρακτικές τεχνητής νοημοσύνης θα απαγορευτούν στην Ευρώπη και τα δικαιώματα των εργαζομένων και των πολιτών θα προστατευθούν. Το Γραφείο Τεχνητής Νοημοσύνης θα συσταθεί τώρα για να υποστηρίζει τις εταιρείες ώστε να αρχίσουν να συμμορφώνονται με τους κανόνες πριν τεθούν σε ισχύ. Διασφαλίσαμε ότι οι άνθρωποι και οι ευρωπαϊκές αξίες βρίσκονται στο επίκεντρο της ανάπτυξης της τεχνητής νοημοσύνης».

Ο συνεισηγητής της Επιτροπής Πολιτικών Ελευθεριών Dragos Tudorache (Renew, Ρουμανία) δήλωσε: «Η ΕΕ έχει επιτύχει αποτελέσματα. Έχουμε συνδέσει την έννοια της τεχνητής νοημοσύνης με τις θεμελιώδεις αξίες που αποτελούν τη βάση των κοινωνιών μας. Ωστόσο, υπάρχει πολλή δουλειά μπροστά μας που υπερβαίνει τον ίδιο τον νόμο για την τεχνητή νοημοσύνη. Η τεχνητή νοημοσύνη θα μας ωθήσει να επανεξετάσουμε το κοινωνικό συμβόλαιο στην καρδιά των δημοκρατιών μας, τα εκπαιδευτικά μας μοντέλα, τις αγορές εργασίας και τον τρόπο με τον οποίο διεξάγουμε τον πόλεμο. Ο νόμος για την τεχνητή νοημοσύνη αποτελεί σημείο εκκίνησης για ένα νέο μοντέλο διακυβέρνησης που βασίζεται στην τεχνολογία. Πρέπει τώρα να επικεντρωθούμε στην εφαρμογή αυτού του νόμου».

Ο κανονισμός εξακολουθεί να υπόκειται σε τελικό έλεγχο από γλωσσομαθείς νομικούς και αναμένεται να εγκριθεί οριστικά πριν από το τέλος της κοινοβουλευτικής περιόδου (μέσω της λεγόμενης διαδικασίας διορθωτικού). Ο νόμος πρέπει επίσης να εγκριθεί επίσημα από το Συμβούλιο. Θα τεθεί σε ισχύ είκοσι ημέρες μετά τη δημοσίευσή του στην Επίσημη Εφημερίδα και θα εφαρμοστεί πλήρως 24 μήνες μετά την έναρξη ισχύος του, εκτός από: απαγορεύσεις απαγορευμένων πρακτικών, οι οποίες θα ισχύουν έξι μήνες μετά την ημερομηνία έναρξης ισχύος· κώδικες πρακτικής (εννέα μήνες μετά την έναρξη ισχύος)· κανόνες ΤΝ γενικής χρήσης, συμπεριλαμβανομένης της διακυβέρνησης (12 μήνες μετά την έναρξη ισχύος)· και υποχρεώσεις για συστήματα υψηλού κινδύνου (36 μήνες).

Η πράξη για την τεχνητή νοημοσύνη ανταποκρίνεται άμεσα στις προτάσεις των πολιτών της Διάσκεψης για το Μέλλον της Ευρώπης (COFE), και ειδικότερα στην πρόταση 12(10) σχετικά με την ενίσχυση της ανταγωνιστικότητας της ΕΕ σε στρατηγικούς τομείς, στην πρόταση 33(5) για μια ασφαλή και αξιόπιστη κοινωνία, συμπεριλαμβανομένης της καταπολέμησης της παραπληροφόρησης και της διασφάλισης του τελικού ελέγχου των ανθρώπων, πρόταση 35 για την προώθηση της ψηφιακής καινοτομίας, (3) με παράλληλη διασφάλιση της ανθρώπινης εποπτείας και (8) αξιόπιστη και υπεύθυνη χρήση της ΤΝ, θέσπιση διασφαλίσεων και διασφάλιση της διαφάνειας, και πρόταση 37 (3) σχετικά με τη χρήση ΤΝ και ψηφιακών εργαλείων για τη βελτίωση της πρόσβασης των πολιτών σε πληροφορίες, συμπεριλαμβανομένων των ατόμων με αναπηρία.

* Δείτε το εγκριθέν κείμενο.