Εικονική απαγωγή με τεχνητή νοημοσύνη: Τι είναι και πώς να μην πέσετε θύμα της

Δέχεστε εισερχόμενη κλήση από έναν άγνωστο αριθμό και στην άλλη άκρη της γραμμής ακούτε τη φωνή του παιδιού σας να φωνάζει βοήθεια. Στη συνέχεια, ο υποτιθέμενος «απαγωγέας» σάς ζητάει να πληρώσετε λύτρα, αλλιώς δεν θα ξαναδείτε ποτέ το παιδί σας. Πρόκειται για ένα περιστατικό εικονικής απαγωγής, όπου απατεώνες χρησιμοποιούν τεχνητή νοημοσύνη και κλωνοποιούν την ανθρώπινη φωνή για να εξαπατήσουν οικογένειες και να αποσπάσουν χρήματα από τα θύματά τους.

Υπάρχουν βασικά στάδια σε μια τυπική απάτη εικονικής απαγωγής, επισημαίνει η εταιρεία ψηφιακής ασφάλειας ESET. Οι απατεώνες αναζητούν τα υποψήφια θύματα, στα οποία θα μπορούσαν να τηλεφωνήσουν και να τα εκβιάσουν για να αποσπάσουν χρήματα. Αμέσως μετά, είναι έτοιμοι να εντοπίσουν το υποψήφιο θύμα «απαγωγής», πιθανότατα το παιδί του ατόμου που εντόπισαν στο προηγούμενο στάδιο. Αυτό μπορούν να το πετύχουν ψάχνοντας απλά στα μέσα κοινωνικής δικτύωσης ή εντοπίζοντας άλλες πληροφορίες που είναι δημόσια προσβάσιμες.

Στη συνέχεια, σκαρφίζονται ένα φανταστικό σενάριο, φροντίζοντας να το κάνουν να φαίνεται όσο το δυνατόν πιο πειστικό και τρομακτικό. Όσο πιο φοβισμένο είναι το θύμα, τόσο πιο δύσκολο θα είναι να πάρει λογικές αποφάσεις. Όπως κάθε καλή απόπειρα κοινωνικής μηχανικής, οι απατεώνες θέλουν να επισπεύσουν τη λήψη απόφασης από το θύμα. Οι απατεώνες μπορεί στη συνέχεια να πραγματοποιήσουν έρευνα σε ανοικτές πηγές για να υπολογίσουν πότε θα ήταν η καλύτερη στιγμή για να τηλεφωνήσουν. Μπορεί να σαρώσουν τα μέσα κοινωνικής δικτύωσης ή άλλες πηγές για να το αποφασίσουν αυτό.

Η ιδέα είναι να επικοινωνήσουν μαζί σας την ώρα που το αγαπημένο σας πρόσωπο βρίσκεται αλλού, ιδανικά σε διακοπές. Αμέσως μετά, οι απατεώνες δημιουργούν τα ηχητικά deepfakes και πραγματοποιούν την κλήση. Χρησιμοποιώντας εύκολα διαθέσιμο λογισμικό, οι απατεώνες θα δημιουργήσουν ηχητικό αρχείο με τη «φωνή» του θύματος και θα το χρησιμοποιήσουν για να προσπαθήσουν να σας πείσουν ότι έχουν απαγάγει κάποιον συγγενή. Μπορεί να χρησιμοποιήσουν και άλλες πληροφορίες που συλλέγουν από τα μέσα κοινωνικής δικτύωσης για να κάνουν την απάτη να ακούγεται πιο πειστική, για παράδειγμα αναφέροντας λεπτομέρειες για τον «απαχθέντα» που ένας ξένος μπορεί να μην γνωρίζει.

Υπάρχουν και άλλες παραλλαγές αυτής της μεθόδους και το πιο ανησυχητικό είναι το ενδεχόμενο εργαλεία τεχνητής νοημοσύνης, όπως το ChatGPT, να διευκολύνουν τους απατεώνες να βρουν τα ιδανικά θύματα, αναζητώντας ποιο είναι το προφίλ των ατόμων που είναι πιο πιθανό να πληρώσουν αν πέσουν θύματα μιας απάτης εικονικής απαγωγής. Θα μπορούσαν επίσης να αναζητήσουν άτομα εντός μιας συγκεκριμένης γεωγραφικής περιοχής, με δημόσια προφίλ στα μέσα κοινωνικής δικτύωσης και με συγκεκριμένο κοινωνικοοικονομικό υπόβαθρο.

Μια δεύτερη επιλογή θα ήταν να χρησιμοποιήσουν μια επίθεση SIM swapping (όταν ένας κυβερνοεγκληματίας αποκτά αντίγραφο της κάρτας SIM ενός χρήστη) για να υποκλέψουν τον αριθμό τηλεφώνου του υποτιθέμενου «απαχθέντος» πριν από την απάτη. Αυτό θα έκανε το τηλεφώνημα της «απαγωγής» να φαίνεται ακόμα πιο αληθοφανές.

Μια έκθεση που δημοσιεύθηκε τον Μάιο προειδοποιούσε για νόμιμα εργαλεία μετατροπής κειμένου σε ομιλία που θα μπορούσαν να χρησιμοποιηθούν καταχρηστικά, καθώς και για το αυξανόμενο ενδιαφέρον του ηλεκτρονικού εγκλήματος για την κλωνοποίηση φωνής ως υπηρεσία (VCaaS). Εάν αυτό το σενάριο υλοποιηθεί, θα μπορούσε να δώσει τη δυνατότητα στους κυβερνοεγκληματίες να εξαπολύουν τέτοιες επιθέσεις, ειδικά εάν χρησιμοποιείται σε συνδυασμό με εργαλεία GenAI.

Στην πραγματικότητα, εκτός από την παραπληροφόρηση,η τεχνολογία deepfake χρησιμοποιείται επίσης για την παραβίαση του ηλεκτρονικού ταχυδρομείου επιχειρήσεων και για σεξουαλικό εκβιασμό.

Συμβουλές από την ESET

H ενημέρωση μπορεί να συμβάλει σε μεγάλο βαθμό στη μείωση της απειλής των deepfakes γενικά, και των εικονικών απαγωγών ειδικότερα. Σύμφωνα με την ESET, υπάρχουν πράγματα που εάν κάνουν οι άνθρωποι, ελαχιστοποιούν τις πιθανότητες να αποτελέσουν υποψήφιο θύμα μιας τηλεφωνικής απάτης.

1. 1. Μη μοιράζεστε προσωπικές πληροφορίες στα μέσα κοινωνικής δικτύωσης. Αποφύγετε να δημοσιεύετε λεπτομέρειες, όπως διευθύνσεις και αριθμούς τηλεφώνου. Αν είναι δυνατόν, μην κοινοποιείτε φωτογραφίες ή βίντεο/ηχογραφήσεις της οικογένειάς σας και σίγουρα όχι λεπτομέρειες για τα σχέδια διακοπών των αγαπημένων σας προσώπων.
2.  Διατηρήστε τα προφίλ σας στα μέσα κοινωνικής δικτύωσης ιδιωτικά, προκειμένου να ελαχιστοποιήσετε τις πιθανότητες να σας βρουν οι φορείς απειλής στο διαδίκτυο.
3.  Να είστε σε επιφυλακή για μηνύματα ηλεκτρονικού «ψαρέματος» που θα μπορούσαν να έχουν σχεδιαστεί για να σας εξαπατήσουν, ώστε να δώσετε ευαίσθητες προσωπικές πληροφορίες ή κωδικούς σε λογαριασμούς κοινωνικών μέσων.
4.  Προτρέψτε τα παιδιά και τους στενούς συγγενείς σας να εγκαταστήσουν εφαρμογές γεωγραφικού εντοπισμού.
5. Εάν λάβετε κάποια κλήση, κρατήστε τους «απαγωγείς» στο τηλέφωνο. Ταυτόχρονα προσπαθήστε να καλέσετε το υποτιθέμενο θύμα στην άλλη γραμμή ή βάλτε κάποιον γνωστό σας να το κάνει.
6.  Μείνετε ψύχραιμοι, μη μοιραστείτε προσωπικές πληροφορίες και, αν είναι δυνατόν, βάλτε τους απατεώνες να απαντήσουν σε μια ερώτηση που μόνο ο απαχθέντας θα ήξερε και ζητήστε να μιλήσετε μαζί του.
7.  Ειδοποιήστε την αστυνομία το συντομότερο δυνατό. Η εικονική απαγωγή είναι μόνο η αρχή. Ενημερωθείτε για τις τελευταίες απάτες και έχετε πολλές πιθανότητες να αποκρούσετε τις επιθέσεις εν τη γενέσει τους πριν προκαλέσουν σοβαρή συναισθηματική δυσφορία.