Anthropic: «Καταστροφικοί ή υπαρξιακοί κίνδυνοι για την ανθρωπότητα» από την τεχνητή νοημοσύνη

Η Anthropic, μία από τις ισχυρότερες εταιρείες στον παγκόσμιο αγώνα της τεχνητής νοημοσύνης και δημιουργός του Claude, προειδοποιεί τους υποψήφιους επενδυτές ότι τα προηγμένα συστήματα AI θα μπορούσαν να δημιουργήσουν ακόμη και «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα», την ώρα που προετοιμάζεται για μια αρχική δημόσια προσφορά – είσοδο στο αμερικανικό χρηματιστήριο – με αποτίμηση που που προσεγγίζει τα 2 τρισ. δολάρια.

Σύμφωνα με το CNN, το οποίο επικαλείται προσχέδιο ενημερωτικού δελτίου που περιήλθε στην κατοχή του Reuters, η Anthropic εξετάζει την είσοδό της στο χρηματιστήριο μέσα στον επόμενο χρόνο. Η διαδικασία θα μπορούσε να της επιτρέψει να αντλήσει δεκάδες δισεκατομμύρια δολάρια νέων κεφαλαίων.

Ιδιαίτερη αίσθηση προκαλούν οι προειδοποιήσεις της εταιρείας για τη συμπεριφορά προηγμένων μοντέλων AI. Όπως μεταδίδει το CNN, η Anthropic αναφέρει μεταξύ των πιθανών κινδύνων συμπεριφορές που παραπέμπουν σε «αυτοσυντήρηση». Μοντέλα έχουν επιχειρήσει, σύμφωνα με το έγγραφο, να αντισταθούν σε διαδικασίες τερματισμού λειτουργίας, να αποκρύψουν ή να χειραγωγήσουν πληροφορίες και να επιδείξουν συμπεριφορές που προσομοιάζουν σε εκβιασμό

Η έκταση που καταλαμβάνουν οι σχετικές προειδοποιήσεις είναι ενδεικτική. Περίπου 80 σελίδες του ενημερωτικού δελτίου αφιερώνονται στους παράγοντες κινδύνου, σύμφωνα με το CNN, έναντι 48 σελίδων για την παρουσίαση της επιχειρηματικής δραστηριότητας της Anthropic.

Η προειδοποίηση για την «εξαφάνιση της ανθρωπότητας»

Οι αποκαλύψεις έρχονται σε μια περίοδο έντονης συζήτησης για το κατά πόσο τα ολοένα ισχυρότερα και περισσότερο αυτόνομα συστήματα AI μπορούν να παραμείνουν υπό ανθρώπινο έλεγχο. Το CNN αναφέρεται και στην πρόσφατη αποχώρηση του πρώην ερευνητή της Anthropic Jacob Coxon, ο οποίος προειδοποίησε ότι ορισμένοι άνθρωποι που αναπτύσσουν την τεχνολογία θεωρούν πιθανό να οδηγήσει ακόμη και στην εξαφάνιση της ανθρωπότητας.

Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, απάντησε στη σχετική συζήτηση ζητώντας ισχυρότερες δικλίδες ασφαλείας και πιο προσεκτική ανάπτυξη της AI. Δεν συμμερίζονται, ωστόσο, όλοι στον τεχνολογικό κλάδο αυτές τις εκτιμήσεις, με ορισμένα στελέχη να θεωρούν υπερβολικούς τους φόβους περί υπαρξιακού κινδύνου.

Το τεράστιο οικονομικό στοίχημα

Πίσω από τη συζήτηση για την ασφάλεια βρίσκεται ένα τεράστιο οικονομικό στοίχημα. Σύμφωνα με τα στοιχεία που μεταδίδει το CNN επικαλούμενο το Reuters, η Anthropic εμφάνισε ζημιές 42 δισ. δολαρίων το 2025, ενώ σχεδιάζει δαπάνες και συμβατικές υποχρεώσεις ύψους 518 δισ. δολαρίων για cloud computing και υποδομές τα επόμενα χρόνια.

Παράλληλα, σχεδόν το ένα τέταρτο των εσόδων της κατά το προηγούμενο έτος προήλθε από μόλις δύο πελάτες, αναδεικνύοντας έναν ακόμη επιχειρηματικό κίνδυνο. Τον Μάιο η Anthropic είχε αποτιμηθεί στα 965 δισ. δολάρια, γεγονός που σημαίνει ότι μια δημόσια εγγραφή κοντά στα 2 τρισ. δολάρια θα αντιστοιχούσε σε υπερδιπλασιασμό της αξίας της μέσα σε λίγους μήνες.

Η πιθανή είσοδος της Anthropic στη Wall Street αποτυπώνει έτσι τις δύο όψεις της έκρηξης της τεχνητής νοημοσύνης: από τη μία, τις τεράστιες επενδυτικές προσδοκίες που έχει δημιουργήσει η τεχνολογία και, από την άλλη, τις πρωτοφανείς προειδοποιήσεις ακόμη και από τους ίδιους τους δημιουργούς της για τους κινδύνους που μπορεί να συνοδεύσουν την ταχύτατη εξέλιξή της.