Κουντουρά στην Κομισιόν: Πάρτε επιτέλους μέτρα για τα deepfakes

Mε προφορική παρέμβαση στην Ολομέλεια και με υποβολή γραπτής ερώτησης, η Ελληνίδα ευρωβουλεύτρια του ΣΥΡΙΖΑ Έλενα Κουντουρά άσκησε δριμεία κριτική στην Κομισιόν, στη συζήτηση στην Ολομέλεια του Ευρωκοινοβουλίου μετά την παγκόσμια κατακραυγή απέναντι στο σύστημα-ψηφιακό βοηθό, γνωστό ως Chatbox Grok του κοινωνικού δικτύου Χ, που δημιουργούσε ψεύτικες εικόνες deepfake σεξουαλικού περιεχομένου με πραγματικά πρόσωπα, χωρίς τη συγκατάθεση των εικονιζόμενων.

Η κ. Κουντουρά επέκρινε την χρήση εργαλείων τεχνητής νοημοσύνης που εμφανίζουν δήθεν γυμνές γυναίκες και παιδιά, με τα πραγματικά πρόσωπά τους, σε ψηφιακές πλατφόρμες, τονίζοντας την ανάγκη να αυστηροποιηθεί το νομοθετικό πλαίσιο στην Ευρωπαϊκή Ένωση και να επιβληθούν άμεσα κυρώσεις.

Για το ίδιο ζήτημα, κατέθεσε και γραπτή ερώτηση, ζητώντας μέτρα από την Κομισιόν για την άμεση απόσυρση του παράνομου υλικού, την αποτροπή νέων παρόμοιων περιστατικών και την προστασία των θυμάτων, ιδίως των ανηλίκων.

Αρκετές κυβερνήσεις σε διεθνές επίπεδο προχώρησαν σε μέτρα κατά της πλατφόρμας. Στην Ευρώπη η Κομισιόν βρίσκεται στο στάδιο διερεύνησης και το Ευρωπαϊκό Κοινοβούλιο, στη συζήτηση με το Συμβούλιο, στην Ολομέλεια του Στρασβούργου, ζητά πιο ισχυρή και γρήγορη εφαρμογή της νομοθεσίας της ΕΕ για να αποτρέψει τα εργαλεία τεχνητής νοημοσύνης από τη δημιουργία παράνομου σεξουαλικού περιεχομένου.

Στην ομιλία της στην Ολομέλεια η κ. Κουντουρά απευθυνόμενη προς την αρμόδια Ευρωπαία Επίτροπο Χένα Βερκούνεν τόνισε:

«Η ανεξέλεγκτη, κακόβουλη χρήση της τεχνητής νοημοσύνης, μέσω deepfakes, στις ψηφιακές πλατφόρμες, συνιστά σοβαρή παραβίαση θεμελιωδών δικαιωμάτων και κατάφορη απειλή για τα θύματα, που στη συντριπτική τους πλειοψηφία, είναι γυναίκες και ανήλικοι.

Δεν θα έπρεπε ποτέ να είναι δυνατή, η χρήση εργαλείων τεχνητής νοημοσύνης για την απογύμνωση γυναικών και ανηλίκων σε κράτη μέλη της Ευρωπαϊκής Ένωσης.

Και δεν είναι δυνατόν, να επιτρέπουμε σε εταιρίες να αποκομίζουν κέρδη προσβάλλοντας την ανθρώπινη αξιοπρέπεια.

Θα πρέπει να μας απαντήσετε για ποιον λόγο δεν έχει κινηθεί μέχρι στιγμής επίσημη διαδικασία κυρώσεων, ενάντια σε αυτές τις πλατφόρμες που παραβιάζουν την ευρωπαϊκή νομοθεσία; Τι περιμένετε;

Εάν υπάρχει κάποιο νομοθετικό κενό, να προτείνετε άμεσα την αναθεώρηση της Πράξης για την Τεχνητή Νοημοσύνη και της Πράξης για τις Ψηφιακές Υπηρεσίες και να αυστηροποιήσετε το υπάρχον νομοθετικό πλαίσιο, ώστε να απαγορευθεί η χρήση τέτοιων συστημάτων τεχνητής νοημοσύνης και να αποτραπούν παρόμοια περιστατικά στο μέλλον».

Η πλήρης ερώτηση της Έλενας Κουντουρά στην Κομισιόν:

«Ανάγκη παρέμβασης της Επιτροπής για την καταπολέμηση της μη συναινετικής παραγωγής σεξουαλικού και deepfake περιεχομένου ΤΝ σε μέσα κοινωνικής δικτύωσης.

Σύμφωνα με πρόσφατες αποκαλύψεις (1), το σύστημα ΤΝ Grok, που χρησιμοποιείται στην πλατφόρμα κοινωνικής δικτύωσης X, παρήγαγε μη συναινετικό γυμνό και σεξουαλικοποιημένο περιεχόμενο γυναικών και ανηλίκων, συμπεριλαμβανομένων deepfake εικόνων πραγματικών προσώπων.

Οι εν λόγω πρακτικές συνιστούν σοβαρή παραβίαση θεμελιωδών δικαιωμάτων, προσβάλλουν κατάφωρα την ανθρώπινη αξιοπρέπεια, και αποτελούν κίνδυνο για την ασφάλεια των πολιτών σε ψηφιακά περιβάλλοντα, ενώ είναι ιδιαίτερα επιβλαβείς για τα θύματα. Ως εκ τούτου, δεν θα έπρεπε να είναι τεχνικά εφικτές στην ΕE (2).

Λαμβάνοντας υπόψη τις διατάξεις του ευρωπαϊκού νομοθετικού πλαισίου, ιδιαίτερα:

• -της DSA, που επιβάλλουν την ταχεία αφαίρεση παράνομου περιεχομένου και την υποχρέωση εκτίμησης και μετριασμού συστημικών κινδύνων (3),
• -της AI Act, που προβλέπουν υποχρεώσεις διαφάνειας και απαγορεύουν παραπλανητικές πρακτικές (4),
• -του GDPR, ιδίως όταν γίνεται χρήση προσωπικών δεδομένων για τη δημιουργία deepfakes,
• -της Οδηγίας (ΕΕ)2024/1385 για την καταπολέμηση της βίας κατά των γυναικών (5),

ερωτάται η Επιτροπή:

• -Για ποιον λόγο δεν έχει κινηθεί μέχρι στιγμής επίσημη διαδικασία διερεύνησης ή κυρώσεων, παρά τη σοβαρότητα και συστημικότητα των παραβιάσεων;
• -Προτίθεται να λάβει μέτρα για την προστασία των θυμάτων, ιδίως των ανηλίκων, ώστε να εξασφαλιστεί η άμεση απόσυρση του παράνομου υλικού;
• -Σκοπεύει να προτείνει τη ρητή κατάταξη της μη συναινετικής δημιουργίας, χειραγώγησης ή αναπαραγωγής οικείων εικόνων μέσω συστημάτων ΤΝ ως απαγορευμένη πρακτική στο πλαίσιο του AI Act, προκειμένου να διασφαλιστεί η νομική σαφήνεια, να ενισχυθεί η αποτελεσματική επιβολή και να αποτραπούν παρόμοια περιστατικά»;