Ευρωκοινοβούλιο: συμφωνία για ολοκληρωμένους κανόνες για αξιόπιστη τεχνητή νοημοσύνη

[nnn]

Δελτίο Τύπου:

• Συμφωνήθηκαν διασφαλίσεις για την τεχνητή νοημοσύνη γενικού σκοπού
• Περιορισμός χρήσης βιομετρικών συστημάτων ταυτοποίησης από τις αρχές επιβολής του νόμου
• Απαγορεύσεις για τη βαθμολογία κοινωνικής δικτύωσης και την τεχνητή νοημοσύνη που χρησιμοποιούνται για τη χειραγώγηση ή την εκμετάλλευση τρωτών σημείων των χρηστών
• Δικαίωμα των καταναλωτών να υποβάλλουν παράπονα και να λαμβάνουν ουσιαστικές εξηγήσεις
• Πρόστιμα που κυμαίνονται από 35 εκατομμύρια ευρώ ή 7% του παγκόσμιου κύκλου εργασιών έως 7,5 εκατομμύρια ή 1,5% του κύκλου εργασιών

Οι ευρωβουλευτές κατέληξαν σε πολιτική συμφωνία με το Συμβούλιο για ένα νομοσχέδιο που διασφαλίζει ότι η τεχνητή νοημοσύνη στην Ευρώπη είναι ασφαλής, σέβεται τα θεμελιώδη δικαιώματα και τη δημοκρατία, ενώ οι επιχειρήσεις μπορούν να ευδοκιμήσουν και να επεκταθούν.

Την Παρασκευή, οι διαπραγματευτές του Κοινοβουλίου και του Συμβουλίου κατέληξαν σε προσωρινή συμφωνία για τον νόμο περί τεχνητής νοημοσύνης. Αυτός ο κανονισμός στοχεύει να διασφαλίσει ότι τα θεμελιώδη δικαιώματα, η δημοκρατία, το κράτος δικαίου και η περιβαλλοντική βιωσιμότητα προστατεύονται από την τεχνητή νοημοσύνη υψηλού κινδύνου, ενισχύοντας παράλληλα την καινοτομία και καθιστώντας την Ευρώπη ηγέτη στον τομέα. Οι κανόνες θεσπίζουν υποχρεώσεις για την τεχνητή νοημοσύνη με βάση τους πιθανούς κινδύνους και το επίπεδο επιπτώσεών της.

Απαγορευμένες εφαρμογές

Αναγνωρίζοντας την πιθανή απειλή για τα δικαιώματα των πολιτών και τη δημοκρατία που αποτελούν ορισμένες εφαρμογές της τεχνητής νοημοσύνης, οι συννομοθέτες συμφώνησαν να απαγορεύσουν:

βιομετρικά συστήματα κατηγοριοποίησης που χρησιμοποιούν ευαίσθητα χαρακτηριστικά (π.χ. πολιτικές, θρησκευτικές, φιλοσοφικές πεποιθήσεις, σεξουαλικός προσανατολισμός, φυλή).
μη στοχευμένη απόξεση εικόνων προσώπων από το διαδίκτυο ή πλάνα CCTV για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου.
αναγνώριση συναισθημάτων στο χώρο εργασίας και στα εκπαιδευτικά ιδρύματα.
κοινωνική βαθμολογία με βάση την κοινωνική συμπεριφορά ή τα προσωπικά χαρακτηριστικά.
Συστήματα τεχνητής νοημοσύνης που χειραγωγούν την ανθρώπινη συμπεριφορά για να παρακάμψουν την ελεύθερη βούλησή τους.
Η τεχνητή νοημοσύνη χρησιμοποιούσε για να εκμεταλλευτεί τα τρωτά σημεία των ανθρώπων (λόγω της ηλικίας, της αναπηρίας, της κοινωνικής ή οικονομικής κατάστασής τους).
Νόμοι εξαιρέσεις επιβολής

Οι διαπραγματευτές συμφώνησαν σε μια σειρά από διασφαλίσεις και στενές εξαιρέσεις για τη χρήση βιομετρικών συστημάτων ταυτοποίησης (RBI) σε χώρους προσβάσιμους στο κοινό για σκοπούς επιβολής του νόμου, υπό την προϋπόθεση προηγούμενης δικαστικής άδειας και για αυστηρά καθορισμένους καταλόγους εγκλημάτων. Το «μετα-απομακρυσμένο» RBI θα χρησιμοποιηθεί αυστηρά στη στοχευμένη έρευνα ατόμου που έχει καταδικαστεί ή είναι ύποπτο για διάπραξη σοβαρού εγκλήματος.

Η RBI «σε πραγματικό χρόνο» θα συμμορφώνεται με αυστηρούς όρους και η χρήση της θα είναι περιορισμένη σε χρόνο και τοποθεσία, για τους σκοπούς:

στοχευμένες έρευνες θυμάτων (απαγωγή, εμπορία ανθρώπων, σεξουαλική εκμετάλλευση),
πρόληψη συγκεκριμένης και παρούσας τρομοκρατικής απειλής, ή
εντοπισμός ή ταυτοποίηση ατόμου που είναι ύποπτο ότι έχει διαπράξει ένα από τα συγκεκριμένα εγκλήματα που αναφέρονται στον κανονισμό (π.χ. τρομοκρατία, σωματεμπορία, σεξουαλική εκμετάλλευση, δολοφονία, απαγωγή, βιασμός, ένοπλη ληστεία, συμμετοχή σε εγκληματική οργάνωση, περιβαλλοντικό έγκλημα).

Υποχρεώσεις για συστήματα υψηλού κινδύνου

Για συστήματα τεχνητής νοημοσύνης που ταξινομούνται ως υψηλού κινδύνου (λόγω της σημαντικής πιθανής βλάβης στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα, το περιβάλλον, τη δημοκρατία και το κράτος δικαίου), συμφωνήθηκαν σαφείς υποχρεώσεις. Οι ευρωβουλευτές κατάφεραν με επιτυχία να συμπεριλάβουν μια υποχρεωτική εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα, μεταξύ άλλων απαιτήσεων, που ισχύουν επίσης για τον ασφαλιστικό και τον τραπεζικό τομέα. Τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για να επηρεάσουν το αποτέλεσμα των εκλογών και τη συμπεριφορά των ψηφοφόρων, ταξινομούνται επίσης ως υψηλού κινδύνου. Οι πολίτες θα έχουν το δικαίωμα να υποβάλλουν καταγγελίες για συστήματα τεχνητής νοημοσύνης και να λαμβάνουν εξηγήσεις σχετικά με αποφάσεις που βασίζονται σε συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου που επηρεάζουν τα δικαιώματά τους.

Προστατευτικά κιγκλιδώματα για γενικά συστήματα τεχνητής νοημοσύνης

Για να ληφθεί υπόψη το ευρύ φάσμα εργασιών που μπορούν να επιτελέσουν τα συστήματα τεχνητής νοημοσύνης και η γρήγορη επέκταση των δυνατοτήτων του, συμφωνήθηκε ότι τα συστήματα τεχνητής νοημοσύνης γενικής χρήσης (GPAI) και τα μοντέλα GPAI στα οποία βασίζονται, θα πρέπει να συμμορφώνονται με τις απαιτήσεις διαφάνειας. που προτάθηκε αρχικά από το Κοινοβούλιο. Αυτά περιλαμβάνουν τη σύνταξη τεχνικής τεκμηρίωσης, τη συμμόρφωση με τη νομοθεσία της ΕΕ για τα πνευματικά δικαιώματα και τη διάδοση λεπτομερών περιλήψεων σχετικά με το περιεχόμενο που χρησιμοποιείται για την εκπαίδευση.

Για τα μοντέλα GPAI υψηλού αντίκτυπου με συστημικό κίνδυνο, οι διαπραγματευτές του Κοινοβουλίου κατάφεραν να εξασφαλίσουν πιο αυστηρές υποχρεώσεις. Εάν αυτά τα μοντέλα πληρούν ορισμένα κριτήρια, θα πρέπει να πραγματοποιήσουν αξιολογήσεις μοντέλων, να αξιολογήσουν και να μετριάσουν τους συστημικούς κινδύνους, να πραγματοποιήσουν δοκιμές αντιπαράθεσης, να αναφέρουν στην Επιτροπή σοβαρά συμβάντα, να διασφαλίσουν την ασφάλεια στον κυβερνοχώρο και να αναφέρουν την ενεργειακή τους απόδοση. Οι ευρωβουλευτές επέμειναν επίσης ότι, έως ότου δημοσιευθούν εναρμονισμένα πρότυπα της ΕΕ, οι GPAI με συστημικό κίνδυνο μπορούν να βασίζονται σε κώδικες πρακτικής για να συμμορφωθούν με τον κανονισμό.

Μέτρα για τη στήριξη της καινοτομίας και των ΜΜΕ

Οι ευρωβουλευτές ήθελαν να διασφαλίσουν ότι οι επιχειρήσεις, ειδικά οι ΜΜΕ, μπορούν να αναπτύξουν λύσεις τεχνητής νοημοσύνης χωρίς αδικαιολόγητη πίεση από τους γίγαντες του κλάδου που ελέγχουν την αλυσίδα αξίας. Για το σκοπό αυτό, η συμφωνία προωθεί τα λεγόμενα ρυθμιστικά sandboxes και πραγματικές δοκιμές, που έχουν δημιουργηθεί από τις εθνικές αρχές για την ανάπτυξη και την εκπαίδευση καινοτόμου τεχνητής νοημοσύνης πριν από τη διάθεση στην αγορά.

Κυρώσεις και έναρξη ισχύος

Η μη συμμόρφωση με τους κανόνες μπορεί να οδηγήσει σε πρόστιμα που κυμαίνονται από 35 εκατομμύρια ευρώ ή 7% του παγκόσμιου κύκλου εργασιών έως 7,5 εκατομμύρια ή 1,5 % του κύκλου εργασιών, ανάλογα με την παράβαση και το μέγεθος της εταιρείας.

Εισαγωγικά

Μετά τη συμφωνία, ο συνεισηγητής Brando Benifei (S&D, Ιταλία) δήλωσε: «Ήταν μακρά και έντονη, αλλά η προσπάθεια άξιζε τον κόπο. Χάρη στην ανθεκτικότητα του Ευρωπαϊκού Κοινοβουλίου, η πρώτη οριζόντια νομοθεσία στον κόσμο για την τεχνητή νοημοσύνη θα κρατήσει την ευρωπαϊκή υπόσχεση - διασφαλίζοντας ότι τα δικαιώματα και οι ελευθερίες βρίσκονται στο επίκεντρο της ανάπτυξης αυτής της πρωτοποριακής τεχνολογίας. Η σωστή εφαρμογή θα είναι το κλειδί - το Κοινοβούλιο θα συνεχίσει να παρακολουθεί στενά, να εξασφαλίζει υποστήριξη για νέες επιχειρηματικές ιδέες με sandboxes και αποτελεσματικούς κανόνες για τα πιο ισχυρά μοντέλα».

Ο συνεισηγητής Dragos Tudorache (Ανανέωση, Ρουμανία) δήλωσε: «Η ΕΕ είναι η πρώτη στον κόσμο που θέτει σε ισχύ αυστηρούς κανονισμούς για την τεχνητή νοημοσύνη, καθοδηγώντας την ανάπτυξη και την εξέλιξή της σε μια ανθρωποκεντρική κατεύθυνση. Ο νόμος για την τεχνητή νοημοσύνη ορίζει κανόνες για μεγάλα, ισχυρά μοντέλα τεχνητής νοημοσύνης, διασφαλίζοντας ότι δεν παρουσιάζουν συστημικούς κινδύνους για την Ένωση και προσφέρει ισχυρές διασφαλίσεις για τους πολίτες και τις δημοκρατίες μας έναντι οποιασδήποτε κατάχρησης τεχνολογίας από τις δημόσιες αρχές. Προστατεύει τις ΜΜΕ μας, ενισχύει την ικανότητά μας να καινοτομούμε και να ηγούμαστε στον τομέα της τεχνητής νοημοσύνης και προστατεύει τους ευάλωτους τομείς της οικονομίας μας. Η Ευρωπαϊκή Ένωση έχει κάνει εντυπωσιακές συνεισφορές στον κόσμο. ο νόμος AI είναι ένας άλλος νόμος που θα επηρεάσει σημαντικά το ψηφιακό μας μέλλον».

συνέντευξη Τύπου

Οι επικεφαλής ευρωβουλευτές Brando Benifei (S&D, Ιταλία) και Dragos Tudorache (Renew, Ρουμανία), η υπουργός Εξωτερικών για την ψηφιοποίηση και την τεχνητή νοημοσύνη Carme Artigas και ο Επίτροπος Thierry Breton βοηθούν σε μια κοινή συνέντευξη Τύπου μετά τις διαπραγματεύσεις. Η δήλωση του κ. Benifei είναι διαθέσιμη εδώ και ο κ. Tudorache εδώ . Περισσότερα αποσπάσματα είναι διαθέσιμα εδώ

Επόμενα βήματα

Το συμφωνηθέν κείμενο θα πρέπει τώρα να εγκριθεί επίσημα τόσο από το Κοινοβούλιο όσο και από το Συμβούλιο για να γίνει δίκαιο της ΕΕ. Οι επιτροπές Εσωτερικής Αγοράς και Πολιτικών Ελευθεριών του Κοινοβουλίου θα ψηφίσουν τη συμφωνία σε προσεχή συνεδρίαση.

[Φιλόσοφος_Στ@ρχίδας]

Έχουμε διάβασμα...
Το πρώτο που σημειώνω είναι πως έχουν συμπεριλάβει τα πρόστιμα από την αρχή (όπως έγινε και με τον ΓΚΠΔ) για να το πάρουν σοβαρά.

[BlueChris]

Eιλικρινά δεν πιστεύω πως μπορεί κάτι να σταματήσει ένα ΑΙ αν πάρει καλά μπροστά... τι δικλίδες ασφαλείας να βάλεις αν μόνο του εξελιχθεί τόσο όσο να μπορεί να αναπαραχθεί παντού

[konig]

Eιλικρινά δεν πιστεύω πως μπορεί κάτι να σταματήσει ένα ΑΙ αν πάρει καλά μπροστά... τι δικλίδες ασφαλείας να βάλεις αν μόνο του εξελιχθεί τόσο όσο να μπορεί να αναπαραχθεί παντού

εντωμεταξυ οι 5 νεοι υπερυπολογιστες της ευρωπης φτιαχνονται ακριβως για αυτο

[tsigarid]

Eιλικρινά δεν πιστεύω πως μπορεί κάτι να σταματήσει ένα ΑΙ αν πάρει καλά μπροστά... τι δικλίδες ασφαλείας να βάλεις αν μόνο του εξελιχθεί τόσο όσο να μπορεί να αναπαραχθεί παντού

Πολύ terminator βλέπεις. Δεν είναι ιός το ΑΙ για να αναπαράγει τον εαυτό του, ούτε γράφει κώδικα για να βελτιώσει τον εαυτό του.

[BlueChris]

Πολύ terminator βλέπεις. Δεν είναι ιός το ΑΙ για να αναπαράγει τον εαυτό του, ούτε γράφει κώδικα για να βελτιώσει τον εαυτό του.

Μαζι σου αλλα το βάζεις το χερακι στη φωτιά? Εγω όχι.

[ZaNteR]

το AI που προσπαθουν να πουλησουν δεν ειναι τιποτα αλλο απο αυτοματισμους και parsing δεδομενων. Καμια σχεση με terminator και ιστοριες. Επισης αμα κοψεις το ιντερνετ και το ρευμα τελος. Αμα γινει κανενα Carrington Event θελω να τους δω πως θα τρεχουν ολοι και δεν θα φτανουν που τα θελουν ολα ψηφιακα τρομαρα τους.

[BlueChris]

το AI που προσπαθουν να πουλησουν δεν ειναι τιποτα αλλο απο αυτοματισμους και parsing δεδομενων. Καμια σχεση με terminator και ιστοριες. Επισης αμα κοψεις το ιντερνετ και το ρευμα τελος. Αμα γινει κανενα Carrington Event θελω να τους δω πως θα τρεχουν ολοι και δεν θα φτανουν που τα θελουν ολα ψηφιακα τρομαρα τους.

Συμφωνώ αλλά γιατί η κωλοπιλάλα για κανόνες κλπ για το ΑΙ? μάλλον θα βλέπουν και αυτοί πολύ τηλεόραση σαν και εμένα

[ZaNteR]

Συμφωνώ αλλά γιατί η κωλοπιλάλα για κανόνες κλπ για το ΑΙ? μάλλον θα βλέπουν και αυτοί πολύ τηλεόραση σαν και εμένα

μπορει να νομιζουν οτι ειναι το επομενο "bitcoin" η δεν ξερω γω και προσπαθουν να το πιασουν απο νωρις για να προσκομίσουν τα κερδη.

[tsigarid]

Το πρόβλημα είναι ότι το ΑΙ όταν δεν ξέρει αυτοσχεδιάζει και προσφέρει απαντήσεις ως δεδομένα.

[Φιλόσοφος_Στ@ρχίδας]

Πολύ terminator βλέπεις. Δεν είναι ιός το ΑΙ για να αναπαράγει τον εαυτό του, ούτε γράφει κώδικα για να βελτιώσει τον εαυτό του.

Κοίτα, όπως έχει φανεί με τα LLMs, ένα μοντέλο μπορεί να γράψει κώδικα - όχι τέλειο αλλά μπορεί.
Επίσης, σίγουρα η έρευνα θα οδηγήσει σε αυτο-βελτιούμενα μοντέλα, βλέπε DeepMind Launches Its First-Ever Self-Improving AI Model.
Όλα αυτά, ενόσω τα LLMs (π.χ. GPTx) είναι προσβάσιμα μέσω APIs και όχι απλά μέσω ενός web prompt, το οποίο σημαίνει πως επικοινωνούν απευθείας με υπηρεσίες και όχι μόνο με χρήστες που κάθονται μπροστά σε μια οθόνη.
Τέλος, αυτά τα μοντέλα μπορεί να παρέμβουν και στον φυσικό κόσμο, αν π.χ. τρέχουν σε robots.

Ο κίνδυνος είναι υπαρκτός και πολύ ορθά (και πολύ καθυστερημένα επίσης) ξεκίνησε η προσπάθεια ρύθμισης από την ΕΕ και ελπίζω και από όλους στον κόσμο.

Σε ότι αφορά τις δικλείδες ασφαλείας, ας ρωτήσουμε το Bard

Καθώς η τεχνητή νοημοσύνη (AI) συνεχίζει να εξελίσσεται με πρωτοφανή ταχύτητα, η διασφάλιση της υπεύθυνης και ηθικής ανάπτυξής της είναι υψίστης σημασίας. Τα μέτρα ασφαλείας για την τεχνητή νοημοσύνη είναι ουσιώδεις ενέργειες που μπορούν να βοηθήσουν στην ελαχιστοποίηση των δυνητικών κινδύνων και να προωθήσουν την θετική επίδραση της AI στην κοινωνία.

Διαφάνεια: Η διαφάνεια και η ανοικτότητα είναι ουσιώδεις στην ανάπτυξη και την εφαρμογή συστημάτων AI. Οι προγραμματιστές πρέπει να εξηγούν σαφώς τους αλγόριθμους, τα σύνολα δεδομένων και τις υποθέσεις που αποτελούν τη βάση των συστημάτων AI τους. Αυτό επιτρέπει την εξέταση και την ταυτοποίηση δυνητικών μεροληψιών ή άδικα αποτελεσμάτων.

Εξηγήσιμοτητα: Οι μεθοδολογίες εξηγήσιμης AI (XAI) στοχεύουν να κάνουν τα συστήματα AI περισσότερο κατανοητά. Παρέχοντας σαφείς εξηγήσεις για τις αποφάσεις της AI, η XAI μπορεί να βοηθήσει τους χρήστες να εμπιστευτούν και να αποδεχτούν τις εφαρμογές που βασίζονται στην AI.

Αντιμετώπιση μεροληψίας: Τα συστήματα AI μπορούν να αντικατοπτρίζουν και να ενισχύουν τις μεροληψίες που υπάρχουν στα δεδομένα στα οποία εκπαιδεύονται. Αυτό μπορεί να οδηγήσει σε διακρωματικά αποτελέσματα, ιδιαίτερα για τις περιθωριοποιημένες ομάδες. Η καθαρισμός δεδομένων, τα εργαλεία ανίχνευσης μεροληψίας και οι διαλογισμοί δικαιοσύνης αλγορίθμων μπορούν να βοηθήσουν στη μείωσή τους.

Προστασία προσωπικών δεδομένων: Τα συστήματα AI συχνά συλλέγουν και αναλύουν τεράστιες ποσότητες προσωπικών δεδομένων. Αυτό εγείρει ανησυχίες για παραβιάσεις της ιδιωτικής ζωής και τη δυνητική κατάχρηση ευαίσθητων πληροφοριών. Ρεαλιστικές μέτρα προστασίας της ιδιωτικής ζωής, όπως η ανωνυμοποίηση, η ελαχιστοποίηση των δεδομένων και η κρυπτογράφηση, είναι απαραίτητα για τη διασφάλιση της ιδιωτικής ζωής των ατόμων.

Υπευθυνότητα και εποπτεία: Μηχανισμοί λογοδοσίας και εποπτείας αποτελούν κρίσιμους παράγοντες για να διασφαλιστεί ότι τα συστήματα AI χρησιμοποιούνται υπεύθυνα και ηθικά. Αυτό περιλαμβάνει τη δημιουργία σαφών κατευθυντήριων γραμμών και ευθυνών για προγραμματιστές, χρήστες και ρυθμιστικούς φορείς. Ανεξάρτητες διαλογισμοί, δημόσια αναφορά και μηχανισμοί αποζημιώσεων μπορούν να βοηθήσουν στο να διασφαλιστεί ότι τα άτομα και οι οργανισμοί είναι υπεύθυνοι για τα συστήματά τους AI.

Έλεγχος και εποπτεία από τον άνθρωπο: Τα συστήματα AI δεν πρέπει να λειτουργούν αυτόνομα χωρίς ανθρώπινο έλεγχο και εποπτεία. Πρέπει να θεσπιστούν σαφείς διαδικασίες λήψης αποφάσεων και ο άνθρωπος πρέπει να μπορεί να παρεμβαίνει και να υπερισχύει των αποφάσεων της AI όταν είναι απαραίτητο. Αυτό διασφαλίζει ότι τα συστήματα AI παραμένουν ευθυγραμμισμένα με τις ανθρώπινες αξίες και ηθικές αρχές.

Διεθνής συνεργασία: Η ανάπτυξη και η χρήση της AI ξεπερνούν τα εθνικά σύνορα, απαιτώντας διεθνή συνεργασία και τυποποιημένες προφυλάξεις. Η θέσπιση παγκόσμιων κατευθυντήριων γραμμών, η προώθηση υπεύθυνων πρακτικών έρευνας και η προώθηση της διασυνοριακής συνεργασίας είναι απαραίτητες για να εξασφαλιστεί ένα ασφαλές και ωφέλιμο οικοσύστημα AI για όλους.

Με τη θέσπιση αυτών των μέτρων ασφαλείας, μπορούμε να αξιοποιήσουμε τη δύναμη της AI ενώ ταυτόχρονα μειώνουμε τους δυνητικούς κινδύνους και διασφαλίζουμε ότι τα συστήματα AI λειτουργούν με δίκαιο, διαφανή, ελεγχόμενο και ευθυγραμμισμένο με τις ανθρώπινες αξίες τρόπο. Η AI έχει τη δυνατότητα να επαναστατήσει διάφορες πτυχές της ζωής μας και η υπεύθυνη προστασία της ανάπτυξής της είναι απαραίτητη για τη δημιουργία ενός θετικού και δίκαιου μέλλοντος.