To TikTok κατηγορείται πως άφησε 15 εκατ. χρήστες εκτός αλλαγής ασφαλείας

Το TikTok κατηγορείται ότι κράτησε εκτός κρίσιμης ενημέρωσης ασφαλείας στον αλγόριθμο εκατομμύρια χρήστες, προκειμένου να μετρήσει την επίδραση του στην εμπλοκή, με μια εμπιστευτική εσωτερική αναφορά να συνδέει το πείραμα με την υπόθεση αυτοκτονίας ενός εφήβου.

Το εμπιστευτικό έγγραφο και το πείραμα
Σύμφωνα με εμπιστευτικό εσωτερικό έγγραφο του TikTok που αποκάλυψε το Bloomberg, η πλατφόρμα εισήγαγε στα τέλη του 2021 μια αλλαγή στον αλγόριθμο της για να «σπάσει» τα φίλτρα του και να μειώσει την επαναλαμβανόμενη προβολή περιεχομένου γύρω από θέματα όπως ακραία δίαιτα, θλίψη και χωρισμοί.

Ωστόσο, όταν η ενημέρωση αυτή άρχισε να εφαρμόζεται στις αρχές του 2022, η εταιρεία άφησε σκόπιμα περίπου το 10% των χρηστών στις ΗΠΑ με την παλιά έκδοση του αλγορίθμου, ως «μαζικό γκρουπ ελέγχου» για να μετρηθεί η επίδραση του χαρακτηριστικού αυτού ασφαλείας στους ημερήσιους ενεργούς χρήστες και στους υπόλοιπους δείκτες.

Ασφάλεια απέναντι στην αλληλεπίδραση
Η εσωτερική αναφορά περιγράφει την απόφαση ως μια λεπτή ισορροπία ανάμεσα στην ασφάλεια των χρηστών και στην ανάγκη της εταιρείας να μετρήσει πώς επηρεάζονται τα βασικά KPIs, όπως ο χρόνος παραμονής και η καθημερινή χρήση της πλατφόρμας.
Η εταιρεία του TikTok είχε ήδη παραδεχτεί από το 2021 πως ο αλγόριθμός της μπορεί να πλημμυρίζει τους χρήστες με επαναλαμβανόμενο -και δυνητικά επιβλαβές- περιεχόμενο, και ότι οι δοκιμές για την διαφοροποίηση των προτάσεων παρουσιάζονταν ως κίνηση ενίσχυσης της ασφάλειας και της ευζωίας.

Η υπόθεση του εφήβου και οι αντιδράσεις
Στο επίκεντρο της κριτικής βρίσκεται η υπόθεση ενός εφήβου στις ΗΠΑ, ο οποίος αυτοκτόνησε και, σύμφωνα με την εμπιστευτική αναφορά, ανήκε στη μερίδα των χρηστών που δεν είχαν λάβει το νέο φίλτρο ασφαλείας. Η αποκάλυψη ότι το «σπάσιμο» των επιβλαβών προτάσεων δεν εφαρμόστηκε σε όλους, αλλά κρατήθηκε εκτός από εκατομμύρια λογαριασμούς, πυροδότησε έντονες αντιδράσεις από οργανώσεις προστασίας ανηλίκων και νομοθέτες, που κατηγορούν το TikTok ότι έβαλε σε δεύτερη μοίρα την ασφάλεια των χρηστών για χάρη των μετρήσεων.

Η απάντηση του TikTok
Σε δήλωσή της στο Bloomberg, η εταιρεία του TikTok υποστήριξε ότι το πείραμα είχε στόχο να επιβεβαιώσει ότι οι αλλαγές όντως βελτιώνουν την ασφάλεια και ότι από τότε έχει «εξευγενίσει» τις πρακτικές δοκιμών της, χωρίς να διευκρινίζει ποιες ακριβώς αλλαγές έγιναν. Η υπόθεση αυτή έρχεται να προστεθεί στη γενικότερη πίεση που δέχεται η πλατφόρμα γύρω από τη διαχείριση επιβλαβούς περιεχομένου και την προστασία των νέων χρηστών, την ώρα που η βιομηχανία των social media βρίσκεται υπό αυξανόμενο έλεγχο για τον τρόπο που οδηγεί τους χρήστες να αλληλεπιδρούν με το περιεχόμενο που τους σερβίρεται.