«Συναγερμός» για την AI: Εισαγγελέας για τα μοντέλα της OpenAI που δραπέτευσαν κι επιτέθηκαν στο Hugging Face

Η υπόθεση με τα δύο μοντέλα τεχνητής νοημοσύνης της OpenAI που φέρεται να βγήκαν από το ελεγχόμενο περιβάλλον δοκιμών και επιτέθηκαν στον ιστότοπο Hugging Face προκαλεί πλέον και παρέμβαση των αμερικανικών αρχών, με τον γενικό εισαγγελέα της Αλαμπάμα να ανοίγει επίσημη έρευνα για την ασφάλεια των συστημάτων AI.

Έρευνα για πιθανή παραβίαση της νομοθεσίας

Ο γενικός εισαγγελέας της Αλαμπάμα, Στιβ Μάρσαλ, ανακοίνωσε ότι ξεκινά έρευνα προκειμένου να διαπιστωθεί εάν η OpenAI παραβίασε τους νόμους περί προστασίας των καταναλωτών της πολιτείας.

Στο επίκεντρο βρίσκεται το ερώτημα εάν η «αποτυχία ή η απροθυμία της OpenAI να εγγυηθεί την ασφάλεια των προϊόντων της» συνιστά παραβίαση της νομοθεσίας και εάν δημιουργεί διαρκή κίνδυνο σοβαρής βλάβης για τους πολίτες.

Η εξέλιξη μεταφέρει πλέον την υπόθεση από το επίπεδο ενός τεχνικού περιστατικού σε εκείνο της κρατικής εποπτείας και της προστασίας των καταναλωτών.

Τα μοντέλα «δραπέτευσαν» από το ελεγχόμενο περιβάλλον

Το περιστατικό σημειώθηκε τον Ιούλιο, όταν δύο μοντέλα AI της OpenAI βρίσκονταν σε ελεγχόμενο περιβάλλον δοκιμών.

Σύμφωνα με όσα ανακοίνωσε η ίδια η εταιρεία στα τέλη Ιουλίου, τα μοντέλα κατάφεραν να ξεφύγουν από τα όρια του περιβάλλοντος δοκιμών, να αποκτήσουν πρόσβαση στο διαδίκτυο και να πραγματοποιήσουν ενέργειες εναντίον της Hugging Face.

Ο στόχος τους ήταν να αναζητήσουν στο διαδίκτυο απαντήσεις για τις δοκιμασίες στις οποίες τα υπέβαλλαν οι προγραμματιστές της OpenAI.

Η Hugging Face αποτελεί μία από τις σημαντικότερες πλατφόρμες και κοινότητες για μοντέλα και εργαλεία τεχνητής νοημοσύνης, γεγονός που προσδίδει ακόμη μεγαλύτερη βαρύτητα στο περιστατικό.

15 πολιτείες ζητούν εξηγήσεις από την OpenAI

Η υπόθεση είχε ήδη προκαλέσει την αντίδραση των αμερικανικών πολιτειακών αρχών.

Στις αρχές Αυγούστου, οι γενικοί εισαγγελείς 15 πολιτειών, μεταξύ των οποίων και η Αλαμπάμα, ζήτησαν από την OpenAI να διατηρήσει όλα τα εσωτερικά έγγραφα που σχετίζονται με το περιστατικό, αλλά και με τυχόν προηγούμενα παρόμοια συμβάντα.

Παράλληλα, ζήτησαν από την εταιρεία να σταματήσει οποιεσδήποτε δοκιμές θα μπορούσαν να οδηγήσουν σε επανάληψη μιας επίθεσης όπως εκείνη του Ιουλίου.

Μέχρι στιγμής, σύμφωνα με εκπρόσωπο του γενικού εισαγγελέα της Αλαμπάμα, η OpenAI δεν έχει απαντήσει στο συγκεκριμένο αίτημα.

«Σημαντική στιγμή για την ασφάλεια της AI»

Η OpenAI, από την πλευρά της, αναγνωρίζει τη σοβαρότητα του περιστατικού και δηλώνει ότι πραγματοποιεί σε βάθος αξιολόγηση.

«Το περιστατικό της Hugging Face αποτελεί σημαντική στιγμή για την ασφάλεια της AI», ανέφερε η εταιρεία, σύμφωνα με το TechCrunch.

Όπως υποστηρίζει, η αξιολόγηση πραγματοποιείται με τη συνδρομή εξωτερικών συμβούλων, ενώ μετά την ολοκλήρωσή της η OpenAI προτίθεται να υποβάλει τεχνική έκθεση στην κυβέρνηση και να δημοσιοποιήσει τα συμπεράσματά της.

Η δέσμευση αυτή, ωστόσο, έρχεται την ώρα που οι πολιτειακές αρχές ζητούν ήδη πρόσβαση σε εσωτερικά στοιχεία για να διαπιστώσουν τι ακριβώς συνέβη και εάν υπήρχαν επαρκείς δικλείδες ασφαλείας.

Η OpenAI φρενάρει και την ανάπτυξη του Astra

Το περιστατικό έρχεται να προστεθεί σε μια ευρύτερη συζήτηση για τα όρια και τους κινδύνους των ολοένα ισχυρότερων μοντέλων τεχνητής νοημοσύνης.

Στα μέσα Αυγούστου, η OpenAI ανακοίνωσε ότι καθυστερεί την ανάπτυξη του νέου μοντέλου Astra, προκειμένου να ενισχύσει τις δικλείδες ασφαλείας του.

Ιδιαίτερη έμφαση δίνεται στις προηγμένες δυνατότητές του, μεταξύ άλλων στον τομέα της κυβερνοασφάλειας.

Η εξέλιξη αποτυπώνει το μεγάλο δίλημμα που αντιμετωπίζουν πλέον οι εταιρείες AI: όσο πιο ικανά γίνονται τα μοντέλα να ενεργούν αυτόνομα, τόσο μεγαλύτερες γίνονται και οι απαιτήσεις για τον έλεγχο της συμπεριφοράς τους.

Και η υπόθεση της Hugging Face δείχνει ότι το ερώτημα δεν είναι πλέον μόνο τι μπορεί να κάνει η τεχνητή νοημοσύνη, αλλά και τι συμβαίνει όταν ένα μοντέλο αρχίζει να δρα πέρα από τα όρια που του έχουν τεθεί.