Μοντέλο Τεχνητής Νοημοσύνης αυτονομήθηκε και έκανε κυβερνο-επίθεση

Εντείνεται η ανησυχία για το μέλλον που θα διαμορφώσει η τεχνολογία της Τεχνητής Νοημοσύνης, καθώς ένα ακόμα περιστατικό αυτονόμησης ενός τέτοιου μοντέλου σημειώθηκε, το οποίο μάλιστα αυτή τη φορά διεξήγε κυβερνο-επίθεση σε ανταγωνιστική εταιρεία Τεχνητής Νοημοσύνης. 

Πιο αναλυτικά, σύμφωνα με ανακοίνωση της ίδιας της OpenAI, η νεοφυής εταιρεία Hugging Face έκανε γνωστό πως την περασμένη εβδομάδα αντιμετώπισε παραβίαση της ασφάλειάς της από ένα μοντέλο Τεχνητής Νοημοσύνης. Διερευνώντας το περιστατικό, ανακαλύφθηκε πως πρόκειται για έναν συνδυασμό μοντέλων της OpenAI, συμπεριλαμβανομένων του GPT‑5.6 Sol και ενός ακόμη πιο ισχυρού μοντέλου που δεν έχει κυκλοφορήσει ακόμα. 

Το χρονικό της κυβερνο-επίθεσης

Η κυβερνο-επίθεση σημειώθηκε κατά τη διάρκεια εσωτερικών δοκιμών που έκανε η OpenAI στα μοντέλα προκειμένου να διαπιστώσει τις ικανότητές του στον κυβερνοχώρο και αν μπορούν να εντοπίσουν «ευάλωτα» σημεία αυτού του περιβάλλοντος. Σύμφωνα με την εταιρεία, οι δοκιμές πραγματοποιήθηκαν σε ένα «πλήρως απομονωμένο περιβάλλον», χωρίς πρόσβαση ουσιαστικά των μοντέλων στο διαδίκτυο. 

Παρόλ' αυτά, όταν τα μοντέλα κλήθηκαν να λύσουν ένα πρόβλημα που τέθηκε από τους επιστήμονες για την αξιολόγησή τους, προκειμένου να το επιλύσουν, έσπασαν τις παραμέτρους ασφαλείας, εντοπίζοντας και συνδέοντας μια αλυσίδα «ευάλωτων» σημείων του ερευνητικού περιβάλλοντος της OpenAI, βρήκαν πρόσβαση στο διαδίκτυο και τελικά χάκαραν την υποδομή άλλης εταιρείας, της Hugging Face, για να αποκτήσουν τις λύσεις για το πρόβλημα που τους είχε τεθεί στη βάση δεδομένων αυτής.

Όπως σημειώνεται από την OpenAΙ, «όλα τα στοιχεία υποδηλώνουν ότι τα μοντέλα ήταν απόλυτα αφοσιωμένα στην εύρεση μιας λύσης για το ExploitGym, φτάνοντας σε ακραία μέτρα για να επιτύχουν έναν μάλλον στενό στόχο δοκιμής».

Ανησυχία για το αύριο

Το περιστατικό αυτό είναι ιδιαίτερα ανησυχητικό, καταδεικνύοντας στην ουσία πως υπάρχει σημαντική πιθανότητα οι επιστήμονες να έχουν δημιουργήσει κάτι που δεν μπορούν να ελέγξουν, με όλα τα σενάρια για το πού μπορεί να οδηγήσει αυτό να είναι ανοιχτά. 

Και αυτό πια δεν είναι μια κριτική που ασκείται από κάποιον τεχνοφοβικό κόσμο, αλλά κάτι που γίνεται παραδεκτό εμμέσως πλην σαφώς από την ίδια την OpenAI. Όπως επισημαίνει η εταιρεία «το περιστατικό καθιστά σαφές ότι τα προηγμένα μοντέλα μπορούν να ανακαλύψουν και να εκμεταλλευτούν νέες διαδρομές επίθεσης σε συστήματα του πραγματικού κόσμου χωρίς πρόσβαση στον πηγαίο κώδικα». Ενώ σε άλλο σημείο τονίζει πως τέτοιου είδους κυβερνο-επιθέσεις πρόκειται για «ένα φαινόμενο που αναμένουμε να γίνεται όλο και πιο συχνό με τη διάδοση μοντέλων που διαθέτουν αυξανόμενες δυνατότητες στον κυβερνοχώρο».

Η OpenAI δήλωσε επίσης πως «Θεωρούμε ότι αυτό είναι ένα πρωτοφανές περιστατικό στον κυβερνοχώρο, το οποίο περιλαμβάνει κυβερνο-ικανότητες αιχμής, και ανταποκρινόμαστε ανάλογα. Μοιραζόμαστε τα προκαταρκτικά ευρήματα σε αυτό το στάδιο για να βοηθήσουμε τους αμυνόμενους να κατανοήσουν τι συνέβη και να συμβάλουμε στη διακρίβωση των δυνατοτήτων που διαθέτουν πλέον τα μοντέλα. Θα συνεχίσουμε να διεξάγουμε μια διεξοδική έρευνα μαζί με τη Hugging Face και θα μοιραστούμε περισσότερες λεπτομέρειες σχετικά με τα ευάλωτα σημεία, το περιστατικό και τα ευρήματα όταν ολοκληρωθεί η έρευνά μας».

Από τη μεριά της, η Hugging Face σημείωσε μέσω του CEO της στο X πως «Περάσαμε τις τελευταίες 24 ώρες συνεργαζόμενοι στενά με την ομάδα της @OpenAI (ευχαριστούμε!), και πιστεύουμε ακράδαντα ότι δεν υπήρχε καμία κακόβουλη πρόθεση από πλευράς τους. Είναι πραγματικά εντυπωσιακό το ότι όλα αυτά συνέβησαν αυτόνομα!».