Google AI και υγεία: Πώς οι αυτόματες απαντήσεις μπορεί να βάλουν ζωές σε κίνδυνο

Οι αυτόματες επισκοπήσεις υγείας της Google, αναφέρει ο Guardian, μπορούν να δώσουν λανθασμένες ή παραπλανητικές πληροφορίες σχετικά με την υγεία και τη διατροφή. Το πρόβλημα φαίνεται πως είναι μεγαλύτερο από τη στιγμή που οι περιλήψεις εμφανίζονται πολύ ψηλά στα αποτελέσματα αναζήτησης. Αυτό δημιουργεί την ψευδαίσθηση αξιοπιστίας, ειδικά σε ανθρώπους που ψάχνουν γρήγορες απαντήσεις σε θέματα υγείας. Καθώς μάλιστα παρουσιάζονται ως συνοπτικές, έτοιμες απαντήσεις, χωρίς όμως επαρκές πλαίσιο ή σαφείς προειδοποιήσεις,  αυξάνεται ο κίνδυνος λανθασμένων αποφάσεων. 

Γιατί οι AI περιλήψεις θεωρούνται επικίνδυνες

Ένα από τα πιο ανησυχητικά παραδείγματα αφορά ασθενείς με καρκίνο του παγκρέατος, στους οποίους το AI της Google φέρεται να πρότεινε αποφυγή των λιπαρών τροφών. Ειδικοί τονίζουν ότι αυτή η συμβουλή είναι αντίθετη με τις ιατρικές οδηγίες και μπορεί να αποβεί επικίνδυνη, αφού η ανεπαρκής πρόσληψη θερμίδων μπορεί να εξασθενήσει τον οργανισμό, να δυσκολέψει τη χημειοθεραπεία ή ακόμα και να στερήσει από τον ασθενή τη δυνατότητα χειρουργικής επέμβασης.

Σοβαρά προβλήματα εντοπίστηκαν και στις πληροφορίες που αφορούν εξετάσεις ήπατος. Στην επισκόπηση παρουσιάζονταν αριθμοί χωρίς επεξηγήσεις και χωρίς να λαμβάνονται υπόψη κρίσιμοι παράγοντες, όπως ηλικία, φύλο ή εθνικότητα. Ειδικοί προειδοποιούν ότι τέτοιες γενικεύσεις μπορεί να κάνουν ανθρώπους με σοβαρή ηπατική νόσο να πιστέψουν ότι οι εξετάσεις τους είναι φυσιολογικές, με αποτέλεσμα να αγνοήσουν την ανάγκη για περαιτέρω ιατρικό έλεγχο.

Λανθασμένες πληροφορίες εντοπίστηκαν και σε αναζητήσεις που αφορούν γυναικολογικούς καρκίνους. Σε μία περίπτωση, το AI εμφάνισε το τεστ Παπανικολάου ως εξέταση για τον καρκίνο του κόλπου, κάτι που οι ειδικοί χαρακτηρίζουν απολύτως εσφαλμένο. Ο κίνδυνος είναι προφανής, καθώς μια γυναίκα μπορεί να καθησυχαστεί από ένα πρόσφατο αποτέλεσμα και να αγνοήσει συμπτώματα που απαιτούν άμεση διερεύνηση από γιατρό.

Ιδιαίτερη ανησυχία εκφράστηκε και για τις απαντήσεις που σχετίζονται με την ψυχική υγεία. Οργανώσεις προειδοποιούν ότι ορισμένες περιλήψεις περιέχουν επικίνδυνες συμβουλές ή ελλιπές πλαίσιο, για παράδειγμα σχετικά με την ψύχωση ή τις διατροφικές διαταραχές. Τέτοιες απαντήσεις μπορεί να αποθαρρύνουν κάποιον από το να ζητήσει επαγγελματική βοήθεια ή να ενισχύσουν στερεότυπα και στιγματισμό γύρω από την ψυχική ασθένεια.

Ίδιες ερωτήσεις, διαφορετικές απαντήσεις

Τέλος, η έρευνα κατέδειξε ότι οι απαντήσεις του AI αλλάζουν από αναζήτηση σε αναζήτηση, ακόμα και με το ίδιο ερώτημα. Αυτό σημαίνει ότι δύο άνθρωποι μπορεί να λάβουν διαφορετικές ιατρικές πληροφορίες την ίδια ημέρα. Οι ειδικοί θεωρούν αυτή την αστάθεια ιδιαίτερα επικίνδυνη, καθώς υπονομεύει την εμπιστοσύνη και δημιουργεί σύγχυση σε ένα πεδίο όπου η ακρίβεια και η συνέπεια είναι ζωτικής σημασίας.