1,2 εκατ. παιδιά θύματα deepfake σεξουαλικών εικόνων μέσα σε έναν χρόνο - Αποκαλυπτικά στοιχεία

Παιδική κακοποίηση και ΑΙ. Μια εξίσωση με μόνιμους χαμένους τα παιδιά και την αθωότητά τους. Οι αριθμοί και τα νέα στοιχεία που έρχονται στο φως μέσα από μελέτες της Unicef , της ECPAT και της INTERPOL σε 11 χώρες, επιβεβαιώνουν μια πραγματικότητα που προκαλεί ανατριχίλα και μάλιστα στη σκιά του σκανδάλου Τζέφρι Έπσταϊν. Η ψηφιακή απειλή αναπτύσσεται ταχύτατα, αφού τουλάχιστον 1,2 εκατομμύρια παιδιά αποκάλυψαν ότι οι εικόνες τους είχαν παραποιηθεί σε deepfakes ακατάλληλου σεξουαλικού περιεχομένου το τελευταίο έτος. Σε ορισμένες χώρες, αυτό αντιπροσωπεύει 1 στα 25 παιδιά, δηλαδή το ισοδύναμο ενός μαθητή ανά τάξη- γι αυτό κι ο κορυφαίος Διεθνής Οργανισμός κρούει τον κώδωνα του κινδύνου…

«Η UNICEF ανησυχεί όλο και περισσότερο εξαιτίας αναφορών στην ταχεία αύξηση του όγκου εικόνων σεξουαλικού περιεχομένου, οι οποίες έχουν δημιουργηθεί με χρήση εργαλείων τεχνητής νοημοσύνης και συμπεριλαμβάνουν περιπτώσεις όπου ακόμα και πραγματικές φωτογραφίες παιδιών έχουν υποστεί επεξεργασία προσδίδοντάς τους σεξουαλικά χαρακτηριστικά.

Τα deepfakes – εικόνες, βίντεο ή ηχητικά αρχεία που δημιουργούνται ή παραποιούνται με χρήση εργαλείων τεχνητής νοημοσύνης (AI) και έχουν σχεδιαστεί για να φαίνονται αληθινά – χρησιμοποιούνται όλο και περισσότερο για την παραγωγή σεξουαλικού περιεχομένου που αφορά παιδιά, μεταξύ άλλων μέσω της «απογύμνωσης», όπου χρησιμοποιούνται εργαλεία τεχνητής νοημοσύνης για να αφαιρεθούν ή να τροποποιηθούν τα ρούχα στις φωτογραφίες, ώστε να δημιουργηθούν ψεύτικες γυμνές ή σεξουαλικές εικόνες.»

Αξιοσημείωτο είναι δε το γεγονός πως τα παραπάνω στοιχεία αφορούν περιπτώσεις όπου τα θύματα έχουν αναγνωριστεί ή έχουν συμμετάσχει σε έρευνες, πολλά περιστατικά ωστόσο δεν καταγράφονται.

«Η κακοποίηση μέσω deepfake είναι κακοποίηση και δεν υπάρχει τίποτα ψεύτικο στον πόνο που προκαλεί»

Τα αποτελέσματα της μελέτης του Οργανισμού που εστιάζει αποκλειστικά στην προάσπιση των δικαιωμάτων των παιδιών, αποκαλύπτει ακόμα μια αλήθεια που οδηγεί με μαθηματική ακρίβεια στον κατήφορο, το παρόν, το μέλλον και τον ψυχισμό τους. Τα ίδια τα παιδιά, σημειώνεται, έχουν βαθιά συνείδηση αυτού του κινδύνου με ό,τι αυτό συνεπάγεται. Μάλιστα, σε ορισμένες από τις χώρες που συμμετείχαν στη μελέτη, έως και τα 2/3 των παιδιών δήλωσαν ότι ανησυχούν ότι η τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί για τη δημιουργία ψεύτικων σεξουαλικών εικόνων ή βίντεο. Όσο για τα επίπεδα ανησυχίας, αυτά ποικίλλουν σημαντικά μεταξύ των χωρών, υπογραμμίζοντας την επείγουσα ανάγκη για ισχυρότερα μέτρα ευαισθητοποίησης, πρόληψης και προστασίας…

«Πρέπει να είμαστε σαφείς. Οι σεξουαλικές εικόνες παιδιών που δημιουργούνται ή καθίστανται αντικείμενο επεξεργασίας με τη χρήση εργαλείων τεχνητής νοημοσύνης αποτελούν υλικό σεξουαλικής κακοποίησης παιδιών (Child Sexual Abuse Material-CSAM). Η κακοποίηση μέσω deepfake είναι κακοποίηση και δεν υπάρχει τίποτα ψεύτικο στον πόνο που προκαλεί. Όταν χρησιμοποιείται η εικόνα ή η ταυτότητα ενός παιδιού,

• το παιδί αυτό γίνεται άμεσα θύμα. Ακόμη και χωρίς αναγνωρίσιμο θύμα, το υλικό σεξουαλικής κακοποίησης παιδιών που δημιουργείται με τεχνητή νοημοσύνη κανονικοποιεί τη σεξουαλική εκμετάλλευση των παιδιών,
• τροφοδοτεί τη ζήτηση για κακοποιητικό περιεχόμενο και
• γεννά σημαντικές προκλήσεις για τις διωκτικές αρχές όσον αφορά στον εντοπισμό και στην προστασία των παιδιών που χρειάζονται βοήθεια.»

«Αυτά είναι τα μέτρα προστασίας που πρέπει να ληφθούν επειγόντως»

Στην ανακοίνωση που εξέδωσε ο Διεθνής Οργανισμός, επικροτεί τις προσπάθειες των προγραμματιστών τεχνητής νοημοσύνης που εφαρμόζουν προσεγγίσεις ασφάλειας στο σχεδιασμό και ισχυρά μέτρα προστασίας για την πρόληψη της κατάχρησης των συστημάτων τους. Ωστόσο, το τοπίο παραμένει άνισο και πάρα πολλά μοντέλα τεχνητής νοημοσύνης δεν αναπτύσσονται με επαρκείς διασφαλίσεις. Οι κίνδυνοι μπορούν να επιδεινωθούν όταν τα δημιουργικά εργαλεία τεχνητής νοημοσύνης ενσωματώνονται απευθείας σε πλατφόρμες κοινωνικών μέσων όπου οι παραποιημένες εικόνες διαδίδονται γρήγορα, σημειώνει...

«Η UNICEF καλεί επειγόντως να ληφθούν τα ακόλουθα μέτρα για την αντιμετώπιση της αυξανόμενης απειλής που αποτελεί το υλικό σεξουαλικής κακοποίησης παιδιών που παράγεται από τεχνητή νοημοσύνη:

• Όλες οι κυβερνήσεις να αναθεωρήσουν τους ορισμούς του υλικού σεξουαλικής κακοποίησης παιδιών (CSAM) ώστε να περιλαμβάνουν περιεχόμενο που παράγεται από τεχνητή νοημοσύνη και να ποινικοποιήσουν τη δημιουργία, την προμήθεια, την κατοχή και τη διανομή του.
• Οι προγραμματιστές τεχνητής νοημοσύνης να εφαρμόζουν προσεγγίσεις ασφάλειας από τα πρώτα στάδια σχεδιασμού και ισχυρά μέτρα προστασίας για την πρόληψη της κατάχρησης μοντέλων τεχνητής νοημοσύνης.
• Οι ψηφιακές εταιρείες και πλατφόρμες να αποτρέπουν την κυκλοφορία υλικού σεξουαλικής κακοποίησης παιδιών που δημιουργείται με τεχνητή νοημοσύνη – κι όχι απλώς να το αφαιρούν μετά την δημοσίευσή του – και να ενισχύσουν τον έλεγχο του περιεχομένου με επενδύσεις σε τεχνολογίες ανίχνευσης, ώστε το υλικό αυτό να μπορεί να αφαιρείται αμέσως – και όχι ημέρες μετά την αναφορά από το θύμα ή τους εκπροσώπους του.»

«Η βλάβη είναι επείγουσα - Τα παιδιά δεν μπορούν να περιμένουν»

«Η βλάβη από την κακοποίηση μέσω deepfakes είναι πραγματική και επείγουσα. Τα παιδιά δεν μπορούν να περιμένουν ο νόμος να συμβαδίσει με τις εξελίξεις», συμπληρώνει η Unicef και πάμε να δούμε γιατί το επισημαίνει αυτό.

2025. Η «Επιχείρηση Cumberland»,μια από τις πρώτες σχετικές επιχειρήσεις που στόχευε σ’ ένα παγκόσμιο δίκτυο που εμπλεκόταν στην παραγωγή μέσω ΑΙ και διανομή υλικού σεξουαλικής κακοποίησης παιδιών (CSAM) , είναι ίσως το πιο χαρακτηριστικό παράδειγμα. Ένα παράδειγμα που μας δείχνει προς τα που οδεύουμε αν δεν ληφθούν άμεσα μέτρα.

Συγκεκριμένα, πριν από ένα χρόνο η Europol με τη συμμετοχή δυνάμεων άλλων 18 χωρών, προχώρησαν στη σύλληψη τουλάχιστον 25 ανθρώπων για on line διανομή περιεχομένου παιδικής πορνογραφίας, το οποίο δημιουργήθηκε αποκλειστικά από τεχνητή νοημοσύνη (ΤΝ). Το έργο τους όμως, τότε, είχε χαρακτηριστεί ιδιαίτερα δύσκολο από την Ευρωπαϊκή Αστυνομική υπηρεσία, αφού απουσιάζει η εθνική νομοθεσία, σε ότι αφορά στα εγκλήματα αυτά.

Γιατί μπορεί η Ευρωπαϊκή Ένωση να έχει θεσπίσει τον Digital Services Act, που υποχρεώνει μεγάλες πλατφόρμες να αφαιρούν γρήγορα παράνομο περιεχόμενο σε μια προσπάθεια να ενισχύσει την προστασία των ανηλίκων στο διαδίκτυο, αυτό όμως δεν είναι αρκετό καθώς υπάρχουν κενά στο υφιστάμενο νομοθετικό πλαίσιο, παγκοσμίως. Ποια είναι αυτά;

Η ανωνυμία κι οι διεθνείς πλατφόρμες δυσκολεύουν τον εντοπισμό των δραστών. Κι αυτή είναι η βάση που τους επιτρέπει να δρουν -πολλές φορές- ανενόχλητοι. Ενώ ακόμα κι όταν εντοπιστούν, η ποινική δίωξη μπορεί να είναι δύσκολη όταν το παράνομο υλικό που έχει παραχθεί με τη βοήθεια ΤΝ, δεν είναι ξεκάθαρα σεξουαλικό. Μπορεί π.χ. να παρουσιάζει το παιδί σε ντροπιαστική/ εξευτελιστική σκηνή.

Το κυριότερο όμως απ’ όλα, είναι πως σε πολλές χώρες δεν γίνεται ρητή αναφορά στον ποινικό τους κώδικα στον όρο «deepfake», με αποτέλεσμα να μην ενεργοποιούνται σε αρκετές περιπτώσεις οι βαριές διατάξεις του νόμου. Έτσι η δίωξη μπορεί να βασίζεται σε διατάξεις όπως προσβολή προσωπικότητας, συκοφαντική δυσφήμιση, μη συναινετική διάδοση εικόνων ή παράνομη επεξεργασία προσωπικών δεδομένων, κατηγορίες ωστόσο που επισύρουν ελαφρύτερες ποινές και δεν προστατεύουν ουσιαστικά το ανήλικο θύμα.

Πάντως η Ε.Ε. φαίνεται να εντείνει τις προσπάθειές της για την καταπολέμηση της σεξουαλικής κακοποίησης των παιδιών. Τον περασμένο Νοέμβριο, οι αντιπρόσωποι των κρατών μελών της συμφώνησαν επί της θέσης του Συμβουλίου σχετικά με κανονισμό για την πρόληψη και την καταπολέμηση της σεξουαλικής κακοποίησης των παιδιών.

Με την έγκριση του νέου νομοθετήματος οι ψηφιακές εταιρείες θα υποχρεώνονται να αποτρέπουν τη διάδοση υλικού σεξουαλικής κακοποίησης παιδιών και την άγρα παιδιών. Οι αρμόδιες εθνικές αρχές θα έχουν την εξουσία να υποχρεώνουν τις εταιρείες να αποσύρουν υλικό και να αποκλείουν την πρόσβαση σε περιεχόμενο ή στην περίπτωση μηχανών αναζήτησης, να διαγράφουν αποτελέσματα αναζήτησης. Με τον κανονισμό θεσπίζεται επίσης ένας νέος οργανισμός, το Κέντρο της Ε.Ε. κατά της Σεξουαλικής Κακοποίησης Παιδιών, ο οποίος θα στηρίζει τα κράτη μέλη και τους παρόχους επιγραμμικών υπηρεσιών για την εφαρμογή του νομοθετήματος.