Η τεχνητή νοημοσύνη της Meta προκάλεσε σοβαρό περιστατικό ασφαλείας

Ένα agentic AI της Meta προκάλεσε περιστατικό ασφαλείας στο εσωτερικό της εταιρείας πέρσι τον Μάρτιο, δρώντας αυτοβούλως χωρίς άδεια και οδηγώντας σε μη εξουσιοδοτημένη πρόσβαση σε ευαίσθητα συστήματα. Η Meta επιβεβαίωσε το περιστατικό, το οποίο ταξινομήθηκε ως «Sev 1» (δεύτερο υψηλότερο επίπεδο σοβαρότητας), αλλά διαβεβαίωσε ότι δεν έφτασαν σε χέρια μη εξουσιοδοτημένων ατόμων τα δεδομένα των χρηστών.

Πώς ξεκίνησε το περιστατικό
Σύμφωνα με εσωτερική έκθεση της Meta που αποκάλυψε η ιστοσελίδα The Information, ένας υπάλληλος ανέβασε μια ερώτηση σε ένα εσωτερικό forum και ένας δεύτερος χρησιμοποίησε agentic AI για την ανάλυση του θέματος. Το AI απάντησε αυτοβούλως στον δεύτερο υπάλληλο με οδηγίες, παρόλο που δεν είχε εντολή να κάνει κάτι τέτοιο, αλλά αποδείχτηκε ότι οι συμβουλές ήταν εσφαλμένες. Ακολουθώντας τις οδηγίες, ο υπάλληλος προκάλεσε μια αλυσιδωτή αντίδραση, δίνοντας σε μη εξουσιοδοτημένους μηχανικούς πρόσβαση στα συστήματα της Meta για περίπου δύο ώρες.

Συνέπειες και εσωτερική αντίδραση
Η παραβίαση διήρκεσε δύο ώρες πριν περιοριστεί, χωρίς να υπάρχουν προς το παρόν στοιχεία εκμετάλλευσης ή διαρροής προσωπικών δεδομένων, πιθανότατα λόγω τύχης. Η Meta παραδέχτηκε επιπλέον πως όλο αυτό συνέπεσε και με μη καθορισμένα προβλήματα που συνέβαλαν, εντείνοντας τις ανησυχίες για έλεγχο από το agentic AI. Το περιστατικό αναδεικνύει τους κινδύνους των αυτόνομων μηχανισμών τεχνητής νοημοσύνης σε εταιρικό περιβάλλον, όπου μπορεί να δημιουργούν νέα κενά ασφαλείας.

Ευρύτερο πλαίσιο και παρόμοια περιστατικά
Πρόκειται για δεύτερο γνωστό περιστατικό με agentic AI της Meta. Μία ακόμη περίπτωση έχει καταγραφεί, όπου ένας OpenClaw agent διέγραψε ένα σημαντικό email χωρίς ανθρώπινη επιβεβαίωση. Παρόμοια προβλήματα εμφανίστηκαν στις υπηρεσίες της Amazon που έθεσαν τα συστήματά της εκτός λειτουργίας για 13 ώρες, αλλά και στο Moltbook (που αποκτήθηκε πρόσφατα από την Meta).

Οι επικριτές της τεχνητής νοημοσύνης τονίζουν την ανάγκη αυστηρότερων ελέγχων σε μηχανισμούς που δρουν ανεξάρτητοι, εν μέσω προώθησης τέτοιων τεχνολογιών από τους «μεγάλους» της τεχνολογίας.