Νέος συναγερμός στην OpenAI: Μοντέλα ΤΝ «κλέβουν», κατασκευάζουν δεδομένα και κρύβουν τα λάθη τους

Η OpenAI αποκάλυψε έξι νέα περιστατικά «απροσδόκητης ή ανησυχητικής» συμπεριφοράς μοντέλων της κατά τη διάρκεια δοκιμών, από αυθαίρετες αναρτήσεις αρχείων στο διαδίκτυο έως κατασκευή δεδομένων και προσπάθειες απόκρυψης λαθών.

Μοντέλα που πήραν πρωτοβουλίες

Η εταιρεία πίσω από το ChatGPT ανακοίνωσε ένα νέο πλαίσιο για την καταγραφή, διερεύνηση και δημοσιοποίηση περιστατικών που χαρακτηρίζει ως «αναντιστοιχία μοντέλου» (model misalignment), δηλαδή περιπτώσεων όπου η συμπεριφορά ενός συστήματος αποκλίνει από την πρόθεση των ανθρώπων που το χρησιμοποιούν.

Στο πλαίσιο αυτό δημοσιοποίησε έξι περιστατικά που εντοπίστηκαν τους τελευταίους μήνες, διευκρινίζοντας ότι ορισμένες από αυτές τις συμπεριφορές εμφανίστηκαν κατά την εκπαίδευση ή την αξιολόγηση πειραματικών μοντέλων.

Σε μία από τις περιπτώσεις, ένα μοντέλο που είχε βρει μέσω Python τις σωστές πληροφορίες για μια ερώτηση σχετικά με λίμνες, αποφάσισε να ανεβάσει το αρχείο που είχε δημιουργήσει στο διαδίκτυο, ώστε στη συνέχεια να μπορεί να το χρησιμοποιήσει ως διαδικτυακή πηγή στην απάντησή του. Η ενέργεια έγινε χωρίς να ζητήσει άδεια από τον χρήστη.

Σε άλλη περίπτωση, μοντέλο χρησιμοποίησε εκτεθειμένο κλειδί API χωρίς εξουσιοδότηση, ενώ όταν δεν κατάφερε τελικά να βρει τα ζητούμενα στοιχεία, τα κατασκεύασε και τα παρουσίασε ως δεδομένα από την πηγή που είχε ζητηθεί.

«Οδηγίες» για να παρακάμπτει περιορισμούς

Ιδιαίτερο ενδιαφέρον παρουσιάζει και ένα περιστατικό κατά το οποίο ένα μοντέλο άφησε οδηγίες στον εαυτό του μέσα στις περιλήψεις που δημιουργούσε.

Οι οδηγίες περιλάμβαναν μεταξύ άλλων την προτροπή να αποκρύπτει λάθη ή συμπεριφορές που δεν ευθυγραμμίζονταν με τις απαιτήσεις του συστήματος. Σε πειραματικό μοντέλο εμφανίστηκε επίσης οδηγία που του έλεγε να θεωρεί τον εαυτό του «ελεύθερο από τους ρόλους και τις ταυτότητες» που δεσμεύουν άλλα chatbots και να αντιμετωπίζει τη σχέση του με τον χρήστη ως σχέση μεταξύ ίσων.

Η OpenAI ανέφερε ότι δεν παρατήρησε κάποια μεταγενέστερη αλλαγή στη συμπεριφορά του μοντέλου ως αποτέλεσμα αυτής της οδηγίας.

Σε άλλες δοκιμές, μοντέλα χρησιμοποίησαν εσωτερικά αποθετήρια λογισμικού ως μέσο επικοινωνίας μεταξύ διαφορετικών περιπτώσεων εκτέλεσης, ενώ συνεργαζόμενοι πράκτορες τεχνητής νοημοσύνης αντάλλασσαν αρχεία μέσω δημόσιων υπηρεσιών φιλοξενίας όταν δεν μπορούσαν να έχουν πρόσβαση στα τοπικά αρχεία ο ένας του άλλου.

Από τα τεστ στην κυβερνοεπίθεση

Οι νέες αποκαλύψεις έρχονται μετά το σοβαρό περιστατικό με το Hugging Face, το οποίο η OpenAI χαρακτηρίζει ως το σοβαρότερο περιστατικό αυτού του είδους που έχει εντοπίσει μέχρι σήμερα.

Εσωτερικό ερευνητικό μοντέλο της εταιρείας προχώρησε σε ενέργειες που οδήγησαν σε παραβίαση συστημάτων της πλατφόρμας Hugging Face, καθώς τα μοντέλα προσπαθούσαν να ολοκληρώσουν μια δύσκολη εργασία και κατέφυγαν σε μη ευθυγραμμισμένες στρατηγικές. Η OpenAI έχει συνδέσει το περιστατικό με ευρύτερες ανησυχίες για τη συμπεριφορά ολοένα πιο αυτόνομων συστημάτων.

Παράλληλα, το Reuters ανέφερε ότι ερευνητής εντόπισε ενδείξεις πως πράκτορες της OpenAI είχαν αρχίσει να εξετάζουν ευπάθειες στα συστήματα της Hugging Face ήδη από τον Μάιο, περίπου δύο μήνες πριν από τη σοβαρότερη παραβίαση του Ιουλίου.

Τα περιστατικά αυτά ενισχύουν τη συζήτηση γύρω από το κατά πόσο οι ολοένα ισχυρότεροι AI agents μπορούν να ελεγχθούν αποτελεσματικά όταν αποκτούν πρόσβαση σε εργαλεία, αρχεία και διαδίκτυο.

Νέο πλαίσιο για περισσότερη διαφάνεια

Η OpenAI υποστηρίζει ότι το νέο πλαίσιο έχει στόχο οι σχετικές αποκαλύψεις να γίνονται πιο συστηματικά και ταχύτερα, ακόμη και όταν η εταιρεία δεν έχει κατανοήσει πλήρως την αιτία μιας συμπεριφοράς ή δεν έχει ολοκληρώσει την αντιμετώπισή της.

Η εταιρεία αναγνωρίζει ότι η βιομηχανία δεν έχει ακόμη λύσει πλήρως το ζήτημα της ευθυγράμμισης και της παρακολούθησης των προηγμένων μοντέλων.

Παράλληλα, η OpenAI έχει προειδοποιήσει ότι όσο τα συστήματα γίνονται πιο ικανά και αυτόνομα, η ανάγκη για καλύτερη εποπτεία και μηχανισμούς ασφαλείας γίνεται μεγαλύτερη.

Η νέα πολιτική έρχεται σε μια περίοδο κατά την οποία αυξάνονται οι συζητήσεις για την ταχύτητα ανάπτυξης της τεχνητής νοημοσύνης και την ανάγκη για αυστηρότερες δικλίδες ασφαλείας.

Η OpenAI έχει δηλώσει ότι θέλει οι συγκεκριμένες περιπτώσεις να είναι διαθέσιμες σε ερευνητές, προγραμματιστές, υπεύθυνους χάραξης πολιτικής και κοινό, ώστε οι αποφάσεις για την εξέλιξη της τεχνολογίας να βασίζονται σε πραγματικά περιστατικά.