Eρευνα TrendAI: Η βιαστική υιοθέτηση της Τεχνητής Νοημοσύνης δημιουργεί νέα κενά ασφαλείας

Η ταχεία και βιαστική υιοθέτηση της Τεχνητής Νοημοσύνης δημιουργεί νέα κενά ασφαλείας. Το 67% των επιχειρηματικών στελεχών δηλώνουν ότι δέχονται πιέσεις να υιοθετήσουν άμεσα την Τεχνητή Νοημοσύνη και δημιουργούνται κίνδυνοι ασφαλείας

Ερευνα της TrendAI αποκαλύπτει ότι η πίεση για την υιοθέτηση της Τεχνητής Νοημοσύνης με στόχο την επιτάχυνση των επιχειρηματικών διαδικασιών ξεπερνά την ικανότητα των οργανισμών να διασφαλίσουν τον απαραίτητο έλεγχο, τη διαφάνεια και τη λογοδοσία.

Η εταιρεία TrendAI, ηγέτιδα στον τομέα της ασφάλειας της Τεχνητής Νοημοσύνης παγκοσμίως, δημοσίευσε νέα έρευνα που αποκαλύπτει ότι οργανισμοί σε όλο τον κόσμο προχωρούν στην υιοθέτηση λύσεων ΤΝ, παρά τους γνωστούς κινδύνους που σχετίζονται με την ασφάλεια και τη συμμόρφωση.

Τα στελέχη δέχονται πίεση για να υιοθετήσουν την ΑΙ

Η νέα παγκόσμια μελέτη, στην οποία συμμετείχαν 3.700 στελέχη επιχειρήσεων και υπεύθυνοι λήψης αποφάσεων στον τομέα της πληροφορικής , διαπίστωσε ότι το 67% έχει δεχθεί πίεση να εγκρίνει την υιοθέτηση εφαρμογών Τεχνητής Νοημοσύνης, παρά τις ανησυχίες τους σχετικά με την ασφάλεια. Επιπλέον, περίπου 1 στους χαρακτήρισε τις ανησυχίες αυτές ως «εξαιρετικά σοβαρές», ωστόσο παρακάμφθηκαν προκειμένου οι οργανισμοί να συμβαδίσουν με τον ανταγωνισμό και να ανταποκριθούν στην αυξανόμενη εσωτερική ζήτηση.

Η Rachel Jin Chief Platform , Business Officer και επικεφαλής της TrendAI, δήλωσε:

«Οι οργανισμοί δεν στερούνται επίγνωσης των κινδύνων· στερούνται των προϋποθέσεων που απαιτούνται για τη διαχείρισή τους. Όταν η υιοθέτηση της Τεχνητής Νοημοσύνης καθοδηγείται από την πίεση του ανταγωνισμού και όχι από την ωριμότητα των μηχανισμών διακυβέρνησης, δημιουργείται μια συνθήκη στην οποία η ΤΝ ενσωματώνεται σε κρίσιμα συστήματα χωρίς τους απαραίτητους ελέγχους για την ασφαλή διαχείρισή της. Η έρευνα αυτή ενισχύει την εστίασή μας στο να βοηθάμε τους οργανισμούς να επιτυγχάνουν ουσιαστικά επιχειρηματικά αποτελέσματα με τη χρήση της ΤΝ, διατηρώντας παράλληλα υπό έλεγχο τον επιχειρηματικό κίνδυνο.»

Ο κίνδυνος από την πιεστικά επιταχυνόμενη υιοθέτηση της ΤΝ επιτείνεται από τις ασυνέπειες στη διακυβέρνηση και την ασαφή ανάληψη ευθύνης για τη διαχείριση των κινδύνων της ΤΝ, φαινόμενα που λαμβάνουν ολοένα και μεγαλύτερες διαστάσεις. Το ίδιο ισχύει και για τις ομάδες ασφαλείας οι οποίες συχνά καλούνται να λειτουργήσουν εκ των υστέρων, αντιδρώντας σε αποφάσεις για την υιοθέτηση της ΤΝ που λαμβάνονται από τη διοίκηση, γεγονός που συχνά οδηγεί σε εναλλακτικές παρακάμψεις και στην αυξημένη χρήση μη εγκεκριμένων ή «σκιωδών» εργαλείων ΤΝ.

Η πρόσφατη έρευνα απειλών της TrendAI ενισχύει αυτή την τάση , δείχνοντας πως οι επιτιθέμενοι χρησιμοποιούν ήδη την ΤΝ για να αυτοματοποιήσουν την αναγνώριση (reconnaissance), να επιταχύνουν τις εκστρατείες « ηλεκτρονικού ψαρέματος» (phishing ) και να μειώσουν το φράγμα εισόδου στο κυβερνοέγκλημα, αυξάνοντας τόσο την ταχύτητα όσο και την κλίμακα των επιθέσεων.

Η υιοθέτηση της ΤΝ ξεφεύγει από τον έλεγχο. Οι οργανισμοί χρησιμοποιούν την Τεχνητή Νοημοσύνη ταχύτερα από ό,τι μπορούν να διαχειριστούν τους σχετικούς κινδύνους, δημιουργώντας ένα διευρυνόμενο χάσμα μεταξύ φιλοδοξίας και εποπτείας. Το 57% των οργανισμών δηλώνει ότι η εξέλιξη της ΤΝ προχωρά ταχύτερα από την ικανότητά του να τη διασφαλίσει , ενώ περισσότεροι από τους μισούς (55%) αναφέρουν ότι διαθέτουν μόνο μέτρια κατανόηση των νομικών πλαισίων που διέπουν την ΤΝ.

Από την άλλη, η ωριμότητα της διακυβέρνησης παραμένει σε χαμηλά επίπεδα. Μόνο το ένα τρίτο (38%) των οργανισμών διαθέτει ολοκληρωμένες πολιτικές για την ΤΝ , με πολλούς να βρίσκονται ακόμη στο στάδιο της σύνταξης, ενώ το 41% αναφέρει την ασαφή νομοθεσία ή τα πρότυπα συμμόρφωσης ως εμπόδιο. Στην πράξη, η ΤΝ τίθεται σε λειτουργία προτού θεσπιστούν πλήρως οι κανόνες που διέπουν τη χρήση της.

Η εμπιστοσύνη στην αυτόνομη ΤΝ παραμένει αβέβαιη. Η εμπιστοσύνη σε πιο προηγμένα, αυτόνομα συστήματα βρίσκεται ακόμη σε στάδιο ωρίμανσης.

Το 44% των ερωτηθέντων πιστεύουν ότι η agentic AI θα βελτιώσει σημαντικά την κυβερνοάμυνα βραχυπρόθεσμα, καθώς εξακολουθούν να υπάρχουν ανησυχίες σχετικά με την πρόσβαση σε δεδομένα, την κακόβουλη χρήση και την έλλειψη εποπτείας.

Τα δεδομένα δείχνουν πού εντοπίζονται αυτές οι ανησυχίες. Περισσότεροι από τέσσερις στους δέκα οργανισμούς (42%) δηλώνουν ότι ο μεγαλύτερος κίνδυνος είναι η πρόσβαση των

AI agents σε ευαίσθητα δεδομένα. Πάνω από το ένα τρίτο (36%) προειδοποιεί ότι κακόβουλες εντολές θα μπορούσαν να θέσουν σε κίνδυνο την ασφάλεια, ενώ ένας στους τρεις (33%) επισημαίνει τη διεύρυνση της επιφάνειας επίθεσης για τους κυβερνοεγκληματίες. Αντίστοιχο ποσοστό (33%) ανησυχεί για την κατάχρηση της εμπιστoσύνης της ΤΝ και για τους κινδύνους που συνδέονται με την αυτόνομη ανάπτυξη κώδικα.

Ταυτόχρονα, σχεδόν το ένα τρίτο (31%) παραδέχεται ότι δεν διαθέτει επαρκή δυνατότητα παρακολούθησης ή ελέγχου καταγραφών για αυτά τα συστήματα, γεγονός που εγείρει σοβαρά.