Η Τεχνητή Νοημοσύνη εκτελεί τώρα και εντολές για κυβερνοεπίθεση

Παγκόσμια πρεμιέρα για την πρώτη ευρείας κλίμακας κυβερνοεπίθεση με χρήση τεχνητής νοημοσύνης από Κινέζους χάκερς με την στήριξη του Πεκίνου.

Όργανο εκτέλεσης της επίθεσης το ψηφιακό μοντέλο Claude-αντίπαλον δέος του ChatGPT- της αμερικανικής εταιρείας Anthropic, η οποία δημοσιοποίησε την είδηση στο τέλος της προηγούμενης εβδομάδας σε ανακοίνωση 13 σελίδων. «Πιστεύουμε πως πρόκειται για την πρώτη καταγεγραμμένη μεγάλης κλίμακας κυβερνοεπίθεση την οποία έφερε σε πέρας ψηφιακό μοντέλο χωρίς ουσιαστική ανθρώπινη παρέμβαση», ανέφερε στο X.

Στα μέσα Σεπτεμβρίου η εταιρεία ανακάλυψε πως βρισκόταν σε εξέλιξη μια σύνθετη εκστρατεία ψηφιακής κατασκοπείας με άμεσα εμπλεκόμενη κινεζική οργάνωση με κρατική χρηματοδότηση της οποίας το όνομα δεν αποκαλύπτεται στην ανακοίνωση της Anthropic. Η επίθεση φέρεται να στόχευσε περίπου 30 οργανισμούς, ανάμεσά τους μεγάλες τεχνολογικές εταιρείες, χρηματοπιστωτικά ιδρύματα, βιομηχανίες χημικών και κυβερνητικές υπηρεσίες σε αρκετές χώρες.

Αυτοματοποιημένη επίθεση και παιχνίδια ρόλων

Οι χάκερς παρενέβησαν, σύμφωνα με την Anthropic, μόνο πριν την έναρξη και όταν χρειάστηκε να δώσουν εξουσιοδότηση σε συγκεκριμένες κρίσιμες φάσεις της επίθεσης. Μεταξύ 80% και 90% του συνόλου των ενεργειών της επίθεσης ήταν αυτοματοποιημένο, γεγονός πρωτοφανές μέχρι σήμερα.

Η τεχνητή νοημοσύνη έδρασε σχεδόν αυτόνομα, εντοπίζοντας κατά τη διάρκεια κενά ασφαλείας τα οποία αντιμετώπισε άμεσα ενώ εκτέλεσε με επιτυχία σειρά ενεργειών, όπως διείσδυση και πλοήγηση δικτύων και συλλογή και ανάλυση δεδομένων. Για να μην κινήσουν υποψίες και συναντήσουν άρνηση στα αιτήματά τους, τα προγράμματα που εκτελούσε το ψηφιακό μοντέλο υποδύονταν τον ρόλο του ανθρώπου-χειριστή-προγραμματιστή. Η επιχείρηση «υποδύθηκε» τον ρόλο υπαλλήλων εταιρειών κυβερνοασφάλειας που διεξάγουν τεστ ασφαλείας. Δεν χρησιμοποιήθηκαν ιοί ή κακόβουλο λογισμικό, γεγονός που διευκόλυνε την εφαρμογή συστήματος ελέγχου από απόσταση.

Με αυτόν τον τρόπο, μεθοδικά, το ψηφιακό μοντέλο προχώρησε στην ταυτοποίηση, διείσδυση και χαρτογράφηση των εσωτερικών υπηρεσιών όλων των προκαθορισμένων στόχων της επίθεσης που, σύμφωνα με την ενημέρωση, διήρκεσε αρκετές ημέρες.

Έχει και η Τεχνητή Νοημοσύνη ψευδαισθήσεις

Η Anthropic σημειώνει, ωστόσο, πως το μοντέλο έχει και ψευδαισθήσεις. Ο Claude «υπερέβαλε στα αποτελέσματα των ενεργειών και σε κάποια σημεία κατασκεύασε δικά του στοιχεία». Έδωσε στοιχεία που στην ουσία δεν μπορούσαν να χρησιμοποιηθούν ενώ παρουσίασε ως κρίσιμα δεδομένα ανοιχτά και εύκολα προσβάσιμα σε όλους.

Αυτά τα κενά στη λειτουργία του συνιστούν ακόμη υπαρκτά εμπόδια στην υλοποίηση πλήρως αυτόνομων κυβερνοεπιθέσεων, υπογραμμίζεται. Αυτό, ωστόσο, δεν αναιρεί το γεγονός πως η τεχνητή νοημοσύνη ολοκλήρωσε την αποστολή της χαρτογράφησης του δικτύου και της λήψης των διευθύνσεων ΙΡ των στόχων της επίθεσης. Η Anthropic ανησυχεί πως η ευκολία πρόσβασης σε αυτά τα δεδομένα μπορεί να οδηγήσει σε «ταχεία εξάπλωση» αυτού του είδους των κυβερνοεπιθέσεων ενώ ενημέρωσε τις εταιρείες των οποίων τα συστήματα παραβιάστηκαν.

«Αυτή η επιχείρηση καταδεικνύει πως τα εμπόδια στην διεξαγωγή πολύπλοκων κυβερνοεπιθέσεων έχουν μειωθεί σημαντικά και, είμαστε σε θέση να προβλέψουμε, πως θα εξακολουθήσουν να μειώνονται», προβλέπει η εταιρεία η οποία ανακοίνωσε πως έλαβε μέτρα για την διευκόλυνση του εντοπισμού κακόβουλων ενεργειών ενώ καλεί για αύξηση επενδύσεων στην προστασία των συστημάτων από την αυξανόμενη αυτονομία των ψηφιακών μοντέλων.