Apple και Google δέχονται πιέσεις για μεγαλύτερη επιτήρηση των «ενήλικων» εφαρμογών deepfake

Ο εισαγγελέας του Σαν Φρανσίσκο έδωσε εντολή σε Apple και Google να κινηθούν επιθετικά κατά των λεγόμενων «nudify» εφαρμογών, ζητώντας την άμεση απομάκρυνσή τους από τα app stores και τον τερματισμό της συνεργασίας με τους developers που τις αναπτύσσουν.

Τα «nudify» apps στο στόχαστρο

Οι επιστολές που απέστειλε ο εισαγγελέας David Chiu στις δύο εταιρείες αφορούν συνολικά 13 εφαρμογές που διατίθενται μέσω των App Store και Google Play και αξιοποιούν την τεχνητή νοημοσύνη για τη δημιουργία ψεύτικων (deepfake) γυμνών εικόνων πραγματικών ανθρώπων χωρίς τη συναίνεσή τους. Σύμφωνα με το ρεπορτάζ, τα συγκεκριμένα apps μπορούν να αφαιρέσουν τα ρούχα από οποιαδήποτε φωτογραφία ανθρώπου.

Κάτι τέτοιο θεωρείται πως διευκολύνει την παραγωγή και κυκλοφορία μη συναινετικών εικόνων γυμνού, παραβιάζοντας την πολιτειακή νομοθεσία της Καλιφόρνια. Οι επιστολές του εισαγγελέα κατηγορούν ευθέως την Apple και τη Google ότι συμβάλλουν και υποβοηθούν την εξάπλωση τέτοιου περιεχομένου, μέσω της φιλοξενίας και της εμπορικής εκμετάλλευσης αυτών των εφαρμογών στα ψηφιακά τους καταστήματα.

Νομικό πλαίσιο και επιπτώσεις

Ο Chiu επικαλείται διατάξεις του δικαίου της Καλιφόρνια που απαγορεύουν την εμπορική εκμετάλλευση ψεύτικων εικόνων που έχουν δημιουργηθεί με τη βοήθεια AI, υποστηρίζοντας ότι οι πλατφόρμες έχουν ευθύνη να εμποδίζουν την κυκλοφορία εργαλείων που διευκολύνουν τέτοιες παραβιάσεις.

Σε δηλώσεις του, ανέφερε ότι Apple και Google έχουν πιθανώς κερδίσει εκατομμύρια δολάρια από πληρωμές σε τέτοιες εφαρμογές, κάτι που ενισχύει την πίεση πριν εγκριθούν και διατεθούν στο ευρύ κοινό για χρήση.

Η απάντηση της Google

Εκπρόσωπος της Google δήλωσε ότι η εταιρεία έχει ήδη αφαιρέσει εκατοντάδες εφαρμογές με τέτοιες δυνατότητες από το Google Play, συμπεριλαμβανομένων πέντε που εντοπίστηκαν μέσα από τις επιστολές του Chiu. Η εταιρεία επανέλαβε ότι οι πολιτικές της απαγορεύουν το σεξουαλικό περιεχόμενο και ότι λαμβάνει άμεσα μέτρα όταν αναφερθεί εφαρμογή που παραβιάζει αυτούς τους κανόνες, επισημαίνοντας πως το ζήτημα είναι σε εξέλιξη και ότι βρίσκεται σε επικοινωνία με τις αρχές.

Η αναφορά σε «εκατοντάδες εφαρμογές» δείχνει ότι το πρόβλημα δεν περιορίζεται στα 13 apps που εντόπισε ο εισαγγελέας, αλλά σε ένα πολύ ευρύτερο οικοσύστημα AI εργαλείων που έχουν ήδη εμφανιστεί στο Play Store.

Η θέση της Apple και τα μέτρα που λαμβάνει

Η Apple τονίζει ότι το App Store έχει σχεδιαστεί ως ασφαλές και αξιόπιστο περιβάλλον και ότι απαγορεύει αυστηρά εφαρμογές που δημιουργούν ή διανέμουν πορνογραφικό υλικό (ασχέτως αν έχει φτιαχτεί με ΑΙ ή όχι). Η εταιρεία αναφέρει ότι τα εν λόγω apps παραβιάζουν τις οδηγίες για τις εφαρμογές και ότι έχει ήδη απορρίψει πολλές τέτοιες πριν καν δημοσιευθούν, ενώ έχει αφαιρέσει άλλες μετά από αναφορές χρηστών μέσω των διαθέσιμων εργαλείων.

Συγκεκριμένα, η Apple δηλώνει πως έχει αφαιρέσει τρεις από τις εφαρμογές που αναφέρει ο Chiu και βρίσκεται στη διαδικασία τερματισμού των λογαριασμών των δημιουργών τους, ενώ βρίσκεται σε επαφή με τέσσερις ακόμη προγραμματιστές ώστε να αντιμετωπίσουν παραβιάσεις πολιτικής.