Γαλλία: Έρευνα για deepfakes που «γδύνουν» γυναίκες και έφηβες μέσω της πλατφόρμας Grok
Εκατοντάδες γυναίκες καταγγέλλουν ότι φωτογραφίες τους μετατράπηκαν σε γυμνές εικόνες, προκαλώντας την παρέμβαση των γαλλικών αρχών.
Οι γαλλικές αρχές ξεκινούν έρευνα για τη διάδοση σεξουαλικών deepfakes, τα οποία δημιουργούνται από την τεχνητή νοημοσύνη Grok και δημοσιεύονται στο X (πρώην Twitter), όπως ανακοίνωσε το γραφείο του εισαγγελέα στο Παρίσι.
Η έρευνα ξεκίνησε μετά από αναφορές εκατοντάδων γυναικών και εφήβων ότι φωτογραφίες τους στα κοινωνικά δίκτυα είχαν μετατραπεί σε γυμνές εικόνες χωρίς τη συναίνεσή τους.
Οι βουλευτές Άρθουρ Ντελαπόρτ και Ερίκ Μποτερέ υπέβαλαν στις 2 Ιανουαρίου καταγγελίες στον εισαγγελέα, ζητώντας να διερευνηθεί η μαζική παραγωγή και δημοσίευση αυτών των deepfakes.
Σύμφωνα με την επιστολή του Ντελαπόρτ, οι τεχνητά δημιουργημένες εικόνες «παραβιάζουν την αξιοπρέπεια των ατόμων που απεικονίζονται». Η γαλλική νομοθεσία προβλέπει ποινή έως δύο ετών φυλάκιση και πρόστιμο 60.000 ευρώ για τέτοιου είδους αδικήματα.
Την ίδια στιγμή, τρεις υπουργοί της γαλλικής κυβέρνησης – οι Ρολάντ Λεσκούρ (Οικονομίας και Βιομηχανίας), Αν Λε Ενάνφ (Τεχνητής Νοημοσύνης και Ψηφιακών Υποθέσεων) και Ωρόρ Μπερζέ (Ισότητας) – ανέφεραν στο γραφείο του εισαγγελέα και στην κυβερνητική πλατφόρμα επιτήρησης Pharos ότι περιεχόμενο είναι «κατάφωρα παράνομο» ζητώντας την άμεση αφαίρεσή του, όπως αναφέρει το Politico.
Η Επίτροπος για τα Δικαιώματα των Παιδιών, Σάρα Ελ Χάιρι, δήλωσε σοκαρισμένη από αυτές τις πρακτικές. Η έρευνα θα ενισχύσει παράλληλα την ήδη ανοιχτή έρευνα της γαλλικής μονάδας κυβερνο-εγκλήματος κατά του X, η οποία είχε επεκταθεί τον Νοέμβριο για να καλύψει και περιεχόμενο με αντισημιτισμό και αρνήσεις του Ολοκαυτώματος που δημοσιεύονται μέσω της Grok.
Σε ανακοίνωσή της, η Grok παραδέχθηκε ότι υπάρχουν «μονάχα μεμονωμένες περιπτώσεις» όπου χρήστες ζήτησαν και έλαβαν εικόνες AI που απεικόνιζαν ανηλίκους με ελάχιστα ρούχα, ενώ υπογραμμίζει ότι «τα μέτρα ασφαλείας της xAI βελτιώνονται συνεχώς για να αποτρέπουν τέτοιες αιτήσεις».
Στιγμιότυπα οθόνης που κοινοποιήθηκαν από χρήστες στο X έδειχναν την καρτέλα δημόσιων μέσων του Grok γεμάτη με εικόνες που οι χρήστες έλεγαν ότι είχαν τροποποιηθεί όταν ανέβαζαν φωτογραφίες και ώθησαν το bot να τις τροποποιήσει.
Σύμφωνα με το Reuters, σε ξεχωριστή απάντηση σε έναν χρήστη στο X την Πέμπτη, το Grok είπε ότι τα περισσότερα κρούσματα θα μπορούσαν να αποτραπούν μέσω προηγμένων φίλτρων και παρακολούθησης, αν και ανέφερε ότι «κανένα σύστημα δεν είναι 100% αλάνθαστο», προσθέτοντας ότι το xAI έδινε προτεραιότητα στις βελτιώσεις και εξέταζε τις λεπτομέρειες που κοινοποιούν οι χρήστες.
