«Το μέλλον μπορεί να εξελιχθεί πολύ άσχημα»: «Καμπανάκι» για την Τεχνητή Νοημοσύνη από τον Άλτμαν

Αυστηρή προειδοποίηση για τους κινδύνους που μπορεί να συνοδεύσουν τη ραγδαία ανάπτυξη της τεχνητής νοημοσύνης απηύθυνε ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, μέσα από σειρά αναρτήσεων στην πλατφόρμα X.

Όπως αναφέρει ο Guardian, ο επικεφαλής της αμερικανικής εταιρείας υποστήριξε ότι το μέλλον της τεχνητής νοημοσύνης θα μπορούσε να εξελιχθεί «πολύ άσχημα», εάν οι επιχειρήσεις και οι κυβερνήσεις δεν καταφέρουν να διατηρήσουν τον έλεγχο συστημάτων που αποκτούν ολοένα μεγαλύτερες δυνατότητες.

Οι κίνδυνοι που περιέγραψε εκτείνονται από το ενδεχόμενο η τεχνητή νοημοσύνη να ξεπεράσει την ανθρώπινη εποπτεία μέχρι τη δημιουργία ενός δυστοπικού περιβάλλοντος, στο οποίο μία εταιρεία, ένα πρόσωπο ή μία χώρα θα έχει συγκεντρώσει δυσανάλογα μεγάλη ισχύ.

«Η τεχνητή νοημοσύνη πρέπει να υπηρετεί πάντοτε τους ανθρώπους»

Ο Άλτμαν έγραψε ότι η ανθρωπότητα θα μπορούσε να «χάσει τον έλεγχο του μέλλοντος από την τεχνητή νοημοσύνη», εάν η εξέλιξη των δυνατοτήτων της πραγματοποιηθεί ταχύτερα από την ανάπτυξη των αναγκαίων μηχανισμών προστασίας.

Υπογράμμισε, παράλληλα, ότι η OpenAI τάσσεται απερίφραστα «με την πλευρά της ανθρωπότητας» και ότι η τεχνητή νοημοσύνη πρέπει σε κάθε περίπτωση να λειτουργεί προς όφελος των ανθρώπων.

Κατά τον επικεφαλής της εταιρείας, τα μέτρα ασφαλείας, τα συστήματα παρακολούθησης και οι τεχνικές ευθυγράμμισης των μοντέλων με τις ανθρώπινες αξίες και προθέσεις θα πρέπει να εξελίσσονται με τον ίδιο ρυθμό με τις δυνατότητες της τεχνολογίας.

Σε διαφορετική περίπτωση, προειδοποίησε, μπορεί να δημιουργηθεί ένα επικίνδυνο χάσμα: τα συστήματα τεχνητής νοημοσύνης θα γίνονται ισχυρότερα, χωρίς να υπάρχουν οι απαραίτητες εγγυήσεις ότι παραμένουν ελεγχόμενα και συμπεριφέρονται σύμφωνα με τους στόχους που τους έχουν τεθεί.

Ο κίνδυνος συγκέντρωσης υπερβολικής εξουσίας

Ο Σαμ Άλτμαν στάθηκε ιδιαίτερα και στον κίνδυνο συγκέντρωσης της τεχνολογικής ισχύος στα χέρια ενός περιορισμένου αριθμού προσώπων ή οργανισμών.

Όπως υποστήριξε, εάν ένα εξαιρετικά ισχυρό σύστημα τεχνητής νοημοσύνης χρησιμοποιηθεί από έναν άνθρωπο ή μία εταιρεία για να επιβάλει τη δική του αντίληψη στον υπόλοιπο κόσμο, τα αποτελέσματα θα μπορούσαν να είναι «εξαιρετικά δυστοπικά».

Ανάλογοι κίνδυνοι, σύμφωνα με τον ίδιο, θα μπορούσαν να προκύψουν εάν μία χώρα αποκτήσει υπερβολικά μεγάλο πλεονέκτημα ή εάν ένα μόνο εργαστήριο τεχνητής νοημοσύνης καταλήξει να ελέγχει τεχνολογία με τεράστια οικονομική, πολιτική και κοινωνική επιρροή.

Η αποφυγή τόσο της απώλειας ελέγχου από τα ίδια τα συστήματα όσο και της υπερβολικής συγκέντρωσης ανθρώπινης εξουσίας απαιτεί, όπως σημείωσε, μία ιδιαίτερα προσεκτική ισορροπία.

Κοινοί κανόνες ασφαλείας για τις εταιρείες

Ο επικεφαλής της OpenAI ζήτησε τη θέσπιση κοινών προτύπων ασφαλείας για τις εταιρείες που αναπτύσσουν τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης.

Τα πρότυπα αυτά θα πρέπει να καλύπτουν την αξιολόγηση των κινδύνων, τη συνεχή παρακολούθηση της συμπεριφοράς των μοντέλων και τον έγκαιρο εντοπισμό περιπτώσεων στις οποίες τα συστήματα αποκλίνουν από τους στόχους και τις ανθρώπινες οδηγίες.

Ο Άλτμαν τάχθηκε επίσης υπέρ ενός ενιαίου ομοσπονδιακού πλαισίου στις Ηνωμένες Πολιτείες, το οποίο θα καθορίζει συνεπείς απαιτήσεις ασφαλείας για τις εταιρείες του κλάδου.

Τόνισε ότι ο έντονος ανταγωνισμός για την αμερικανική πρωτοκαθεδρία στην τεχνητή νοημοσύνη δεν θα πρέπει να χρησιμοποιηθεί ως δικαιολογία για απερίσκεπτες επιλογές ή για την ανάπτυξη δυνατοτήτων που ξεπερνούν τους διαθέσιμους μηχανισμούς ελέγχου.

Δεν ζητά να σταματήσει η εξέλιξη της τεχνολογίας

Παρά τις προειδοποιήσεις του, ο επικεφαλής της OpenAI δεν υποστήριξε ότι η ανάπτυξη της τεχνητής νοημοσύνης πρέπει να διακοπεί.

Αντίθετα, εκτίμησε ότι η πρόοδος θα συνεχιστεί με ταχείς ρυθμούς, αλλά επισήμανε πως η ανάπτυξη των πιο ισχυρών συστημάτων θα πρέπει να γίνεται με μεγαλύτερη προσοχή, ώστε οι δυνατότητές τους να μην ξεπεράσουν τα μέτρα ασφαλείας.

Η αποτροπή καταστροφικών συνεπειών, σύμφωνα με τον ίδιο, προϋποθέτει συνεργασία μεταξύ κυβερνήσεων, ερευνητικών εργαστηρίων και εταιρειών του κλάδου. Παράλληλα, απαιτούνται μηχανισμοί που θα εμποδίζουν οποιοδήποτε κράτος ή ιδιωτικό εργαστήριο να αποκτήσει ανεξέλεγκτη δύναμη μέσω της προηγμένης τεχνητής νοημοσύνης.

Εντείνονται οι ανησυχίες στο εσωτερικό της βιομηχανίας

Οι δηλώσεις του Σαμ Άλτμαν προστίθενται στις ολοένα εντονότερες προειδοποιήσεις που διατυπώνονται από ερευνητές, στελέχη και πρώην εργαζομένους κορυφαίων εταιρειών τεχνητής νοημοσύνης.

Μέλη της επιστημονικής κοινότητας έχουν εκφράσει την ανησυχία ότι μελλοντικά συστήματα μπορεί να γίνουν εξαιρετικά δύσκολο να ελεγχθούν. Ορισμένοι προειδοποιούν ότι ένας ανεξέλεγκτος ανταγωνισμός για την κατασκευή ισχυρότερων μοντέλων θα μπορούσε να προκαλέσει σοβαρές οικονομικές και κοινωνικές αναταράξεις ή ακόμη και καταστροφικές συνέπειες για την ανθρωπότητα.

Στο επίκεντρο της συζήτησης βρίσκεται πλέον το ερώτημα εάν οι εταιρείες μπορούν να συνεχίσουν την τεχνολογική πρόοδο, διασφαλίζοντας ταυτόχρονα ότι ο άνθρωπος θα παραμείνει εκείνος που θέτει τους στόχους, καθορίζει τα όρια και διατηρεί τον τελικό έλεγχο.