Απάτη με ψεύτικους συγγραφείς και AI σε επιστημονικά άρθρα αποκαλύπτει έρευνα του ΟΠΑ
Απάτη ερευνητικών δημοσιεύσεων αποκαλύπτει έρευνα του καθηγητή του Οικονομικού Πανεπιστημίου Αθηνών Διομήδη Σπινέλλη.
Τη συστηματική χρήση παραγωγικής Τεχνητής Νοημοσύνης (GenAI) για τη δημιουργία και δημοσίευση επί σειρά ετών παραπλανητικών επιστημονικών άρθρων σε συγκεκριμένο ακαδημαϊκό περιοδικό, «έφερε στο φως» επιστημονική έρευνα του καθηγητή Διομήδη Σπινέλλη, του Τμήματος Διοικητικής Επιστήμης & Τεχνολογίας του Οικονομικού Πανεπιστημίου Αθηνών.
Αφορμή για την έρευνα ήταν η αποκάλυψη, το 2024, ότι ένα εξ ολοκλήρου κατασκευασμένο άρθρο αποδόθηκε ψευδώς στον συγγραφέα της μελέτης, κ. Σπιννέλη.
Απίστευτα ευρήματα
Κύρια ευρήματα της έρευνας ήταν ότι από τα 53 άρθρα με τις λιγότερες βιβλιογραφικές παραπομπές που μελετήθηκαν, τα 48 φαίνεται να έχουν παραχθεί από Τεχνητή Νοημοσύνη. Επιπλέον, πολλά άρθρα είχαν αποδοθεί ψευδώς σε ερευνητές από έγκριτα πανεπιστήμια, όπως Washington University, Texas A&M, University of California at Berkeley, USC Keck School of Medicine, HEC Montreal, University of Shanghai, George Mason University, DePaul University, Penn State. Μάλιστα, σε δύο περιπτώσεις οι ψευδώς αναφερόμενοι ως συγγραφείς των άρθρων δεν ζούσαν όταν αυτά δημοσιεύτηκαν.
Η μελέτη [Spinellis, D. False authorship: an explorative case study around an AI-generated article published under my name. Research Integrity and Peer Reviev 10, 8 (2025)], προειδοποιεί για τους κινδύνους που απορρέουν από τη διάδοση τεχνητά παραγόμενων και ψευδώς αποδιδόμενων επιστημονικών άρθρων, τα οποία απειλούν τη φερεγγυότητα των ακαδημαϊκών δημοσιεύσεων και συνιστά μέτρα πρόληψης, όπως η ενίσχυση της ταυτοποίησης των συγγραφέων και η αναθεώρηση των πρακτικών αξιολόγησης της ερευνητικής παραγωγής.
Η Τεχνητή Νοημοσύνη μπορεί να υπονομεύσει την εμπιστοσύνη
«Χωρίς ουσιαστικά αντίμετρα, η ανεξέλεγκτη εξάπλωση δημοσιεύσεων ΤΝ ενδέχεται να υπονομεύσει σοβαρά την εμπιστοσύνη στην επιστημονική κοινότητα», καταλήγει η μελέτη.
Αξίζει να σημειωθεί, ότι η έρευνα αξιοποίησε αυτοματοποιημένα εργαλεία για τη συλλογή και ανάλυση όλων των άρθρων του περιοδικού, εξετάζοντας στοιχεία όπως τον αριθμό βιβλιογραφικών παραπομπών που περιέχουν τα άρθρα, τα ιδρύματα των συγγραφέων και διευθύνσεις ηλεκτρονικού ταχυδρομείου ως στοιχεία επικοινωνίας τους. Για τον εντοπισμό άρθρων, που πιθανώς είχαν γραφτεί με τη χρήση τεχνητής νοημοσύνης (ΤΝ), χρησιμοποιήθηκε ένα ευρετικό μοντέλο βασισμένο στον αριθμό βιβλιογραφικών παραπομπών μέσα στο κείμενο των άρθρων. Το μοντέλο βασίστηκε στην παρατήρηση ότι βοηθοί ΤΝ, σαν το ChatGPT, δυσκολεύονται στη δημιουργία αξιόπιστων βιβλιογραφικών αναφορών. Παράλληλα, ένα υποσύνολο των άρθρων εξετάστηκε χειροκίνητα για ενδείξεις συγγραφής από ΤΝ. Τέλος η ανάλυση ενισχύθηκε με τη χρήση του εργαλείου ανίχνευσης ΤΝ Turnitin.
