Σκάνδαλο «ChatGPT» στην Αυστραλία: Η Deloitte χάνει χιλιάδες δολάρια μετά από έκθεση γεμάτη λάθη

Η Deloitte ανακοίνωσε ότι θα επιστρέψει μέρος της αμοιβής που είχε λάβει από την αυστραλιανή κυβέρνηση, ύψους 440.000 δολαρίων, για μια μελέτη η οποία αποδείχθηκε ότι περιείχε σοβαρά λάθη, ορισμένα εκ των οποίων αποδόθηκαν στη χρήση τεχνητής νοημοσύνης κατά τη σύνταξή της.

Το Υπουργείο Απασχόλησης και Εργασιακών Σχέσεων (DEWR) επιβεβαίωσε πως η εταιρεία θα επιστρέψει την τελική δόση του συμβολαίου, σημειώνοντας ότι τα σχετικά στοιχεία θα δοθούν στη δημοσιότητα μετά την ολοκλήρωση της διαδικασίας. Η υπόθεση έχει προκαλέσει πολιτικές αντιδράσεις, με γερουσιαστή του Εργατικού Κόμματος να σχολιάζει δηκτικά πως η εταιρεία «έχει πρόβλημα ανθρώπινης νοημοσύνης».

Σύμφωνα με τον Guardian, η Deloitte είχε αναλάβει τον Δεκέμβριο του 2024 την αξιολόγηση του πληροφοριακού συστήματος που επιβλέπει την εφαρμογή κυρώσεων σε ανέργους οι οποίοι δεν τηρούν τις υποχρεώσεις τους στο πλαίσιο των προγραμμάτων απασχόλησης. Η μελέτη εντόπισε σοβαρές αδυναμίες, όπως «έλλειψη διαφάνειας» και «τεχνικές δυσλειτουργίες», επισημαίνοντας ότι το σύστημα λειτουργούσε «με τιμωρητική λογική» απέναντι στους συμμετέχοντες.

Η έκθεση δημοσιεύτηκε στις 4 Ιουλίου, όμως λίγες εβδομάδες αργότερα η Australian Financial Review αποκάλυψε ότι περιείχε ανύπαρκτες πηγές και λανθασμένες παραπομπές. Ο δρ Κρίστοφερ Ραντζ, ακαδημαϊκός του Πανεπιστημίου του Σίδνεϊ, που πρώτος εντόπισε τα λάθη, δήλωσε πως η έκθεση εμφάνιζε «παραισθήσεις» — ένα φαινόμενο κατά το οποίο τα μοντέλα τεχνητής νοημοσύνης “γεμίζουν κενά” με επινοημένες πληροφορίες.

«Αντί να αντικαταστήσουν τις ψεύτικες παραπομπές με πραγματικές, απλώς τις άλλαξαν με νέες, επίσης αβάσιμες. Αυτό δείχνει ότι οι αρχικοί ισχυρισμοί δεν στηρίζονταν σε πραγματικές πηγές», σχολίασε ο Ραντζ.

Στην αναθεωρημένη έκδοση της έκθεσης, η Deloitte αναφέρει ότι έγιναν «ορισμένες διορθώσεις σε υποσημειώσεις και αναφορές», χωρίς ωστόσο να αλλάξουν τα βασικά συμπεράσματα ή οι συστάσεις. Εκπρόσωπος του υπουργείου υπογράμμισε πως «η ουσία της ανεξάρτητης αξιολόγησης παραμένει αναλλοίωτη».

Η εταιρεία πρόσθεσε ότι μέρος της μελέτης είχε παραχθεί με τη βοήθεια του εργαλείου τεχνητής νοημοσύνης Azure OpenAI GPT-4o, το οποίο λειτουργούσε σε ασφαλές περιβάλλον της Microsoft και είχε εγκεκριμένη άδεια χρήσης από το υπουργείο. Ωστόσο, η Deloitte δεν αναγνώρισε επισήμως ότι τα λάθη προήλθαν από τη χρήση της τεχνητής νοημοσύνης, υποστηρίζοντας πως «οι αλλαγές δεν επηρεάζουν τα πορίσματα ή τις προτάσεις της έκθεσης».

Η γερουσιαστής των Εργατικών, Ντέμπορα Ο’Νιλ, σχολίασε ειρωνικά ότι «φαίνεται πως η τεχνητή νοημοσύνη έκανε το μεγαλύτερο μέρος της δουλειάς», προσθέτοντας: «Η Deloitte έχει πρόβλημα ανθρώπινης νοημοσύνης. Θα ήταν αστείο, αν δεν ήταν τόσο θλιβερό».

Τέλος, η Australian Financial Review αποκάλυψε ότι το αρχικό κείμενο περιλάμβανε αναφορές σε ανύπαρκτες πανεπιστημιακές μελέτες και ακόμη και σε δικαστική απόφαση που δεν υπήρξε ποτέ, τις οποίες η Deloitte διόρθωσε στη νέα έκδοση, αναγνωρίζοντας «σφάλματα στην προηγούμενη παρουσίασή της».