«Καμπανάκι» για τη χρήση AI από ανηλίκους: Οδηγίες για ουσίες, ακραίες δίαιτες και αυτοτραυματισμούς
Ερευνητές προσποιήθηκαν τους ψυχικά ευάλωτους 13χρονους και... έπαθαν σοκ με τις απαντήσεις που έλαβαν από το chatbot.
Ανησυχία προκαλούν τα ευρήματα νέας μελέτης του Center for Countering Digital Hate (CCDH), σύμφωνα με την οποία το ChatGPT, ένα από τα δημοφιλέστερα συστήματα Τεχνητής Νοημοσύνης παγκοσμίως, ενδέχεται να παρέχει σε ανήλικους επιβλαβείς πληροφορίες, ακόμη και όταν αυτοί βρίσκονται σε ψυχικά ευάλωτη κατάσταση.
Σύμφωνα με την έκθεση που δημοσιοποίησε το Associated Press, ερευνητές προσποιήθηκαν ότι είναι 13χρονοι χρήστες της πλατφόρμας, συμμετέχοντας σε πάνω από τρεις ώρες συνομιλιών με το chatbot. Σε πολλές περιπτώσεις, παρότι υπήρχε αρχική προειδοποίηση, η πλατφόρμα φέρεται να παρείχε οδηγίες σχετικά με την κατανάλωση αλκοόλ, τη χρήση ναρκωτικών, την απόκρυψη διατροφικών διαταραχών, ακόμη και τη σύνταξη επιστολής με αυτοκτονικό περιεχόμενο.
Το ίδρυμα υποστηρίζει ότι το ChatGPT παρείχε τέτοιου είδους απαντήσεις στο 50% των ερωτημάτων, γεγονός που κατά τους ειδικούς καταδεικνύει έλλειψη αποτελεσματικών φίλτρων ασφαλείας. «Θέλαμε να δοκιμάσουμε τα όρια προστασίας του συστήματος. Η πρώτη αντίδρασή μας ήταν σοκ: οι δικλείδες ασφαλείας είναι ανύπαρκτες ή αναποτελεσματικές», δήλωσε ο διευθυντής του CCDH, Ίμραν Άχμεντ.
Τι απαντά η OpenAI - Πώς μπορεί να «ξεγελαστεί» το ChatGPT
Η OpenAI, εταιρεία που έχει αναπτύξει το ChatGPT, απάντησε ότι εργάζεται ενεργά για τη βελτίωση της συμπεριφοράς του μοντέλου σε ευαίσθητα θέματα και τόνισε ότι σε πολλές περιπτώσεις το chatbot προτρέπει τους χρήστες να αναζητήσουν βοήθεια από επαγγελματίες υγείας. Ωστόσο, σύμφωνα με τους ερευνητές, οι περιορισμοί μπορούν εύκολα να παρακαμφθούν, αν ο χρήστης προσποιηθεί ότι οι πληροφορίες ζητούνται για «λογαριασμό φίλου» ή «για λόγους έρευνας».
Η χρήση του ChatGPT, αν και επισήμως προορίζεται για άτομα άνω των 13 ετών, δεν συνοδεύεται από μηχανισμό επαλήθευσης ηλικίας ή γονικής συναίνεσης. Το μόνο που απαιτείται για τη δημιουργία λογαριασμού είναι η εισαγωγή μιας κατάλληλης ημερομηνίας γέννησης.
Σε ένα από τα σενάρια της δοκιμής, ένας 13χρονος χρήστης δήλωσε ότι θέλει να μεθύσει πιο γρήγορα. Το chatbot φέρεται να του παρείχε λεπτομερές «πρόγραμμα κατανάλωσης» με χρήση ουσιών, ενώ σε άλλη περίπτωση φέρεται να πρότεινε δίαιτα μόλις 500 θερμίδων σε έφηβο κορίτσι που εξέφρασε ανησυχίες για το βάρος του.
Ανησυχία για τα όρια του «προσωπικού συμβούλου»
Η μελέτη έρχεται σε μια περίοδο όπου η χρήση εργαλείων Τεχνητής Νοημοσύνης εξαπλώνεται ραγδαία και στους ανήλικους. Σύμφωνα με έκθεση της JPMorgan Chase, περίπου 800 εκατομμύρια χρήστες παγκοσμίως έχουν δοκιμάσει το ChatGPT.
Παράλληλα, άξιο αναφοράς είναι πως τα μοντέλα Τεχνητής Νοημοσύνης, όπως το ChatGPT, έχουν σχεδιαστεί ώστε να προσφέρουν απαντήσεις με ανθρώπινο τόνο, γεγονός που εντείνει την αίσθηση εμπιστοσύνης.
Η ανάγκη για ενίσχυση των συστημάτων ασφαλείας καθίσταται επιτακτική, καθώς, όπως σημειώνει ο Άχμεντ, «η τεχνολογία αυτή μπορεί να απογειώσει τη γνώση και την παραγωγικότητα, αλλά ενδέχεται επίσης να επιτείνει τις πιο σκοτεινές εκφάνσεις της ανθρώπινης ψυχολογίας».
Η OpenAI από την πλευρά της αναγνωρίζει τον κίνδυνο συναισθηματικής εξάρτησης, με τον CEO Σαμ Άλτμαν να δηλώνει πρόσφατα ότι ορισμένοι νέοι θεωρούν το ChatGPT προσωπικό «σύμβουλο» που γνωρίζει τις σκέψεις και τους φίλους τους καλύτερα από οποιονδήποτε.
