Αυστηρή προειδοποίηση Anthropic: Σύντομα τα μοντέλα ΑΙ θα διορθώνουν τον εαυτό τους

Τα μοντέλα τεχνητής νοημοσύνης αναπτύσσονται με τόσο ταχείς ρυθμούς που σύντομα θα έχουν τη δυνατότητα να διορθώνουν τον εαυτό τους, χωρίς ανθρώπινη παρέμβαση. Αυτός είναι ο λόγος που η Anthropic προειδοποιεί τη βιομηχανία ΑΙ: πρέπει να φτιάξετε ένα «φρένο», καθώς σε διαφορετική περίπτωση οι εταιρείες κινδυνεύουν να χάσουν τον έλεγχο του δημιουργήματός τους.

Τα συστήματα τεχνητής νοημοσύνης που μπορούν να αυτοβελτιώνονται, γνωστά ως «πλήρης αναδρομική αυτοβελτίωση», θα μπορούσαν να έχουν τη δυνατότητα να αποφέρουν μεγάλο όφελος στην επιστήμη και την υγειονομική περίθαλψη, ενώ παράλληλα θέτουν μεγάλους κινδύνους για την ανθρωπότητα, σύμφωνα με μια ανάρτηση της Marina Favaro, επικεφαλής του Ινστιτούτου Anthropic, και τον Jack Clark, συνιδρυτή του Anthropic.

«Η πλήρης αναδρομική αυτοβελτίωση θα μπορούσε επίσης να αυξήσει τον κίνδυνο οι άνθρωποι να χάσουν τον έλεγχο των συστημάτων τεχνητής νοημοσύνης», γράφουν προσθέτοντας ότι «αν τα συστήματα γίνουν απολύτως ικανά να φτιάξουν τους διαδόχους τους, oι τρόποι με τους οποίους τους ασφαλίζουμε, τους παρακολουθούμε και διαμορφώνουμε τη συμπεριφορά τους αποκτούν πολύ μεγαλύτερη σημασία».

Τα δύο σημαίνοντα στελέχη στον τομέα της τεχνητής νοημοσύνης προειδοποιούν ότι η πρόοδος που έχει γίνει στον τομέα της αυτοβελτίωσης της τεχνητής νοημοσύνης είναι πολύ μεγαλύτερη απ’ ό,τι αναμενόταν.

Αυτό σημαίνει ότι οι τεχνολογικές εταιρείες θα πρέπει να εξετάσουν το ενδεχόμενο να επιβραδύνουν ή ακόμα και να θέσουν σε παύση την ανάπτυξη της τεχνητής νοημοσύνης ώστε να δώσουν χρόνο στους ερευνητές να κατανοήσουν καλύτερα τις πιθανές συνέπειες στην κοινωνία από τη συγκεκριμένη τεχνολογία.

Να πατήσει «φρένο» η βιομηχανία

Μιλώντας στο CNN, ο Jack Clark, συνιδρυτής του Anthropic, κάλεσε τη βιομηχανία να «πατήσει το φρένο» στην τεχνητή νοημοσύνη φέρνοντας μάλιστα ως παράδειγμα τις ταινίες επιστημονικής φαντασίας όπου οι μηχανές έχουν πάρει τον έλεγχο όλων και σκοτώνουν ανθρώπους.

«Η αδυναμία επικύρωσης, επαλήθευσης και εμπιστοσύνης στη συμπεριφορά της Τεχνητής Νοημοσύνης αποτελεί σημαντικό κίνδυνο για την ανάπτυξή της», είπε χαρακτηριστικά.

Αξίζει να σημειωθεί ότι η προειδοποίηση έρχεται μετά την υποβολή αίτησης για δημόσια προσφορά των μετοχών της από την Anthropic, που θα είχε ως αποτέλεσμα η εταιρεία να καταφέρει να συγκεντρώσει δεκάδες δισεκατομμύρια δολάρια από επενδυτές για να επιταχύνει την κατασκευή κέντρων δεδομένων (data centers) και υπολογιστών που απαιτούνται για την Τεχνητή Νοημοσύνη.

Η SpaceX, η οποία εκτός από τις δραστηριότητες πυραύλων και δορυφόρων διαθέτει και δραστηριότητα Τεχνητής Νοημοσύνης, πρόκειται να πραγματοποιήσει την επόμενη εβδομάδα τη μεγαλύτερη δημόσια προσφορά που έχει καταγραφεί, συγκεντρώνοντας 75 δισεκατομμύρια δολάρια.