Οι μεγάλες τράπεζες προειδοποιούν για απάτες μέσω AI chatbots

Οι AI βοηθοί που μπορούν να πραγματοποιούν αγορές για λογαριασμό των χρηστών ενδέχεται να ανοίξουν νέο πεδίο για online απάτες. Μεγάλες διεθνείς τράπεζες ζητούν από τις εταιρείες τεχνητής νοημοσύνης να εφαρμόσουν ξεκάθαρους κανόνες ασφάλειας και συναίνεσης πριν το λεγόμενο agentic commerce γίνει ευρέως διαδεδομένο.

Τι φοβούνται οι τράπεζες
Η Bank of America, η Capital One, η ASB Bank, η Commonwealth Bank of Australia, η ING Group και η NatWest Group δημοσίευσαν κοινό κείμενο αρχών με τίτλο Building Trust in Agentic Commerce. Στο έγγραφο τονίζουν ότι οι AI agents (τα chatbots και ψηφιακοί βοηθοί με δυνατότητα να αναζητούν, να συγκρίνουν και να αγοράζουν προϊόντα ή υπηρεσίες) μπορεί να δημιουργήσουν σημαντικούς κινδύνους για καταναλωτές και επιχειρήσεις. Το πρόβλημα δεν περιορίζεται σε μια αγορά που έγινε κατά λάθος, καθώς οι τράπεζες εκτιμούν ότι οι χρήστες δεν μπορούν να είναι βέβαιοι αν ένας AI agent θα λειτουργεί πραγματικά προς όφελός τους, αν μπορεί να υπερβεί το διαθέσιμο budget ή αν θα οδηγηθεί σε απάτη μέσω παραπλανητικών προσφορών και ψεύτικων ηλεκτρονικών καταστημάτων. Παράλληλα, παραμένει θολό το ποιος αναλαμβάνει την ευθύνη όταν κάτι πάει στραβά.

Νέοι τρόποι εξαπάτησης
Σύμφωνα με τις τράπεζες, η χρήση AI στις αγορές μπορεί να αυξήσει τον αριθμό των scams, της απάτης και των αμφισβητήσεων συναλλαγών. Κακόβουλοι χρήστες θα μπορούσαν, για παράδειγμα, να προσπαθήσουν να υποκλέψουν ή να μιμηθούν έναν AI agent, να εμφανιστούν ως νόμιμοι έμποροι ή να αξιοποιήσουν νέες μορφές κοινωνικής μηχανικής για να επηρεάσουν τις αποφάσεις του συστήματος. Ένας ακόμη κίνδυνος αφορά τον τρόπο ολοκλήρωσης της πληρωμής.

Οι τράπεζες προειδοποιούν ότι ορισμένες υπηρεσίες μπορεί να ζητούν στοιχεία κάρτας και να τα εισάγουν απευθείας σε ιστοσελίδες, να προωθούν μεθόδους πληρωμής με χαμηλότερο επίπεδο προστασίας για τον καταναλωτή ή να μη συμμορφώνονται με τα πρότυπα επεξεργασίας πληρωμών και τους κανόνες των δικτύων καρτών. Για τους εμπόρους, η αυτοματοποιημένη αγορά μέσω chatbot ενδέχεται να σημαίνει και περισσότερες ακυρώσεις χρεώσεων, αφού ο πελάτης μπορεί να αμφισβητήσει μια συναλλαγή, υποστηρίζοντας ότι ο AI βοηθός παρήγγειλε λάθος προϊόν, ξεπέρασε την εξουσιοδότηση που του είχε δώσει ή δεν ερμήνευσε σωστά την εντολή του.

Πέντε αρχές για το ασφαλές AI commerce
Οι έξι χρηματοπιστωτικοί οργανισμοί ζητούν από τον κλάδο της τεχνητής νοημοσύνης να χτίσει τις υπηρεσίες του πάνω σε πέντε βασικές αρχές:
1) Διαφάνεια, ώστε ο χρήστης να γνωρίζει πότε και με ποια κριτήρια ενεργεί ο AI agent
2) Ασφάλεια, με ισχυρές δικλίδες κατά της απάτης, της πλαστοπροσωπίας και των μη εξουσιοδοτημένων αγορών
3) Προστασία ιδιωτικότητας και δεδομένων, ιδιαίτερα για οικονομικά στοιχεία και πληροφορίες πληρωμής
4) Επιλογή, ώστε οι καταναλωτές να μην εγκλωβίζονται σε συγκεκριμένες πλατφόρμες ή υπηρεσίες
5) Διαλειτουργικότητα, με συμβατότητα ανάμεσα σε AI υπηρεσίες, εμπόρους, τράπεζες και δίκτυα πληρωμών.