To Grok «κόβει» το AI εργαλείο εικόνων μετά τη «θύελλα» με σεξουαλικά deepfakes - Οι περιορισμοί

Περιορισμούς στη δυνατότητα δημιουργίας εικόνων, βάζει το εργαλείο τεχνητής νοημοσύνης Grok στην πλατφόρμα X του Έλον Μασκ, μετά τον ορυμαγδό αντιδράσεων που υπήρξε για αμέτρητες ψεύτικες σεξουαλικές και βίαιες εικόνες οι οποίες κατέκλυσαν το διαδίκτυο.

Το εργαλείο χρησιμοποιήθηκε ευρέως για να «αφαιρούνται τα ρούχα» από διάφορα διάσημα πρόσωπα, κυρίως γυναίκες, και να τοποθετούνται σε εικόνες με σεξουαλικό περιεχόμενο. Θύμα έπεσε μάλιστα ακόμα και η πριγκίπισσα Κέιτ στην Αγγλία.

Πλέον η λειτουργία αυτή θα είναι διαθέσιμη επί πληρωμή, μόνο για συνδρομητές, προκειμένου να μην είναι τόσο εκτεθειμένη σε κακόβουλες ενέργειες.

Σύμφωνα με τον Guardian, η κίνηση αυτή έρχεται μετά τις απειλές που εκτοξεύτηκαν κατά του Έλον Μασκ με πρόστιμα, κανονιστικές ενέργειες ακόμα και με απαγόρευση του X στο Ηνωμένο Βασίλειο.

Σε ανάρτησή του στο X, το Grok ανέφερε: «Η δημιουργία και η επεξεργασία εικόνων περιορίζεται προς το παρόν στους συνδρομητές που πληρώνουν».

Χρήση μόνο με στοιχεία τραπεζικής κάρτας

Αυτό σημαίνει ότι η συντριπτική πλειοψηφία των χρηστών της πλατφόρμας δεν μπορεί να δημιουργήσει εικόνες χρησιμοποιώντας το Grok. Όσοι το κάνουν έχουν αποθηκεύσει τα πλήρη στοιχεία και τις πληροφορίες της τραπεζικής τους κάρτας στο X, ώστε να μπορούν να αναγνωριστούν σε περίπτωση που η λειτουργία χρησιμοποιηθεί με κακόβουλο και παράνομο τρόπο.

Ωστόσο, υπάρχει μια ακόμα ξεχωριστή εφαρμογή του Grok, η οποία δεν κοινοποιεί δημόσια εικόνες, αλλά δίνει δωρεάν τη δυνατότητα να δημιουργήσει κανείς σεξουαλικές εικόνες γυναικών και ανηλίκων.

Έρευνα που αποκάλυψε ο Guardian διαπίστωσε ότι είχε χρησιμοποιηθεί για τη δημιουργία πορνογραφικών βίντεο γυναικών χωρίς τη συγκατάθεσή τους, καθώς και εικόνων γυναικών που πυροβολούνται και δολοφονούνται.

Οργή Στάρμερ

Χιλιάδες σεξουαλικοποιημένες εικόνες γυναικών έχουν δημιουργηθεί χωρίς τη συγκατάθεσή τους τις τελευταίες δύο εβδομάδες, μετά την ενεργοποίηση της λειτουργίας δημιουργίας εικόνων από το Grok στα τέλη Δεκεμβρίου.

Ο Βρετανός πρωθυπουργός Κιρ Στάρμερ, απείλησε να λάβει αυστηρά μέτρα κατά του X, σε δηλώσεις του την Τετάρτη (7/1). Απαίτησε από την εταιρεία της δημοφιλούς κοινωνικής πλατφόρμας να «ελέγξει» τον καταιγισμό φωτογραφιών ημίγυμνων γυναικών και ανηλίκων που δημιουργούνται στην πλατφόρμα μέσω AI.

«Είναι παράνομο. Δεν πρόκειται να το ανεχθούμε. Έχω ζητήσει να εξεταστούν όλες οι επιλογές. Είναι αηδιαστικό. Το X πρέπει να συνέλθει και να κατεβάσει αυτό το υλικό. Θα αναλάβουμε δράση επ’ αυτού, επειδή απλώς δεν είναι ανεκτό», τόνισε ο Κιρ Στάρμερ.

Η επικίνδυνη χρήση του «Grok Imagine»

Μία από τις πιο επικίνδυνες εφαρμογές στο Grok, η οποία φέρεται να έχει χρησιμοποιηθεί κατά κόρον με κακόβουλο τρόπο, είναι το Grok Imagine.

Έρευνα της AI Forensics, ενός μη κερδοσκοπικού οργανισμού με έδρα το Παρίσι, εντόπισε περίπου 800 εικόνες και βίντεο που δημιουργήθηκαν από την εφαρμογή Grok Imagine και περιελάμβαναν πορνογραφικό και σεξουαλικά βίαιο περιεχόμενο. «Αυτά είναι πλήρως πορνογραφικά βίντεο και φαίνονται επαγγελματικά», δήλωσε ο Paul Bouchaud, ερευνητής της AI Forensics.

«Συνολικά, το περιεχόμενο είναι σημαντικά πιο σαφές από την ‘τάση μπικίνι’ που είχε παρατηρηθεί προηγουμένως στο X», ανέφερε ο Bouchaud.