H Meta «παγώνει» το πρόγραμμα παρακολούθησης υπαλλήλων της μετά από σοβαρή διαρροή δεδομένων

Η Meta «πάγωσε» προσωρινά το εσωτερικό πρόγραμμα Model Capability Initiative (MCI), ένα εργαλείο που κατέγραφε την δραστηριότητα στους υπολογιστές των εργαζομένων (όπως τις πληκτρολογήσεις και τις κινήσεις του ποντικιού) με σκοπό την εκπαίδευση συστημάτων τεχνητής νοημοσύνης. Σύμφωνα με το ρεπορτάζ, η απόφαση δεν ελήφθη λόγω των έντονων αντιδράσεων για την παρακολούθηση ή λόγω κάποιας εξωτερικής ρυθμιστικής πίεσης, αλλά ως αποτέλεσμα ενός σοβαρού εσωτερικού περιστατικού διαρροής δεδομένων.

Η λειτουργία του MCI οδήγησε στην ακούσια έκθεση ευαίσθητων πληροφοριών εντός της εταιρείας, με αποτέλεσμα εργαζόμενοι να μπορούν να δουν δεδομένα που κανονικά δεν θα έπρεπε να είναι προσβάσιμα σε όλο το προσωπικό. Στο επίκεντρο βρέθηκαν ιδιωτικές συνομιλίες, στοιχεία απόδοσης και απομαγνητοφωνήσεις, τα οποία συγκεντρώνονταν αυτόματα από το εργαλείο και έγιναν ορατά σε ευρύτερο κοινό εντός της Meta από λάθος ρυθμίσεις.

Πώς λειτουργεί το Model Capability Initiative
Το Model Capability Initiative είχε σχεδιαστεί ως ένα εσωτερικό πρόγραμμα συλλογής πραγματικών δεδομένων εργασίας, ώστε τα AI μοντέλα της Meta (κυρίως agents που στοχεύουν στην αυτοματοποίηση ή υποβοήθηση εργασιών) να εκπαιδεύονται σε ρεαλιστικά σενάρια χρήσης. Η πλατφόρμα παρακολουθούσε τη δραστηριότητα στους επαγγελματικούς υπολογιστές των υπαλλήλων, καταγράφοντας κινήσεις ποντικιού, πληκτρολογήσεις, κλικ και, σε ορισμένες περιπτώσεις, screenshots από εφαρμογές και ιστοσελίδες που σχετίζονταν με την εργασία.

Η εταιρεία είχε επικοινωνήσει εσωτερικά ότι τα δεδομένα αυτά αξιοποιούνται για την ανάπτυξη και βελτίωση των AI συστημάτων και όχι για αξιολόγηση απόδοσης ή «micromanagement» του προσωπικού. Παράλληλα, γινόταν λόγος για τεχνικές δικλίδες ασφαλείας και μηχανισμούς ανωνυμοποίησης, οι οποίες όμως αποδείχθηκαν ανεπαρκείς για να αποτρέψουν την εσωτερική έκθεση ευαίσθητων πληροφοριών όταν προέκυψε το συμβάν.

Η εσωτερική διαρροή και η αντίδραση της Meta
Όταν ήρθε στο φως ότι τα δεδομένα που είχε συγκεντρώσει το MCI εμφανίζονταν σε εσωτερικά dashboards με ευρύτερη πρόσβαση, η Meta προχώρησε σε άμεση παύση της λειτουργίας του προγράμματος, προκειμένου να διεξαχθεί έρευνα για τα αίτια και την έκταση της διαρροής. Εκπρόσωπος της εταιρείας ανέφερε ότι, μέχρι στιγμής, δεν υπάρχουν ενδείξεις πως τα δεδομένα χρησιμοποιήθηκαν καταχρηστικά από εργαζομένους, ωστόσο αναγνώρισε ότι έγινε λάθος στη διαχείριση των δικαιωμάτων πρόσβασης.

Η παύση χαρακτηρίστηκε «προσωρινή», με τη Meta να δηλώνει ότι σκοπεύει να επαναφέρει το πρόγραμμα μόνο αφού διασφαλιστεί ότι έχουν διορθωθεί τα κενά ασφαλείας και έχουν ενισχυθεί οι μηχανισμοί προστασίας. Το περιστατικό ήρθε να προστεθεί σε μια σειρά συμβάντων που συνδέονται με την επιθετική ενσωμάτωση AI στο οικοσύστημα της Meta, εντείνοντας ερωτήματα για το πόσο ώριμα και ασφαλή είναι τα εσωτερικά της εργαλεία.

Επιπτώσεις σε ιδιωτικότητα και εμπιστοσύνη
Η υπόθεση του MCI έχει ήδη προκαλέσει έντονο διάλογο για τα όρια της παρακολούθησης εργαζομένων, ιδιαίτερα στην Ευρώπη, όπου η προστασία προσωπικών δεδομένων διέπεται από αυστηρό κανονιστικό πλαίσιο. Η μαζική καταγραφή κλικ, πληκτρολογήσεων και επαγγελματικής δραστηριότητας για σκοπούς εκπαίδευσης AI θεωρείται από πολλούς ότι ακροβατεί στα όρια της αποδεκτής πρακτικής, ειδικά όταν ακόμη και εσωτερικά συστήματα δεν μπορούν να εγγυηθούν ότι τα δεδομένα δεν θα εκτεθούν σε λάθος κοινό.

Η νέα αυτή διαρροή υπονομεύει επιπλέον την εμπιστοσύνη των ίδιων των εργαζομένων προς την εταιρεία, καθώς δείχνει πως ακόμη και όταν η συλλογή δεδομένων γίνεται με «ερευνητικό» πρόσχημα, η προστασία της ιδιωτικότητάς τους δεν είναι δεδομένη. Ταυτόχρονα, προσφέρει ένα χαρακτηριστικό παράδειγμα των κινδύνων που συνοδεύουν τη χρήση δεδομένων πρώτης γραμμής για την εκπαίδευση της AI, σε μια περίοδο όπου οι «μεγάλοι» της τεχνολογίας επιταχύνουν τέτοιες πρωτοβουλίες, χωρίς πάντα να έχουν λάβει τα απαραίτητα μέτρα.