Πρέπει να χρησιμοποιούν τα παιδιά το AI search της Google; Τι λένε οι ειδικοί

Μια νέα έρευνα της Common Sense Media χαρακτηρίζει τις AI λειτουργίες της Αναζήτησης Google ως «μη αποδεκτό ρίσκο» για παιδιά και εφήβους, υποστηρίζοντας ότι είναι ενεργές εξ ορισμού και δεν μπορούν να απενεργοποιηθούν από γονείς και εκπαιδευτικούς. Σύμφωνα με ειδικούς, η συζήτηση για την ασφάλεια των παιδιών στην εποχή της γενετικής τεχνητής νοημοσύνης παίρνει πλέον σαφώς πιο ανησυχητική τροπή.

Τι είναι τα AI Overviews και το AI Mode της Google
Τα AI Overviews είναι οι αυτόματες, γενετικά παραγόμενες απαντήσεις που εμφανίζονται πάνω από τα κλασικά αποτελέσματα αναζήτησης στα αποτελέσματα των αναζητήσεων στο Google. Το AI Mode είναι ένα πιο «συνομιλιακό» χαρακτήρα μέσα στην ίδια την Αναζήτηση, που επιτρέπει στους χρήστες -συμπεριλαμβανομένων και των ανηλίκων- να ζητούν αναλυτικές απαντήσεις και επεξηγήσεις. Η έρευνα τονίζει ότι οι δύο αυτές λειτουργίες είναι βαθιά ενσωματωμένες στη μηχανή αναζήτησης και εμφανίζονται ακόμη και σε λογαριασμούς παιδιών με ενεργό το SafeSearch, κάτι που δημιουργεί πρόσθετο ρίσκο γιατί δεν πρόκειται για ένα ξεχωριστό προϊόν τύπου Gemini που μπορεί απλά να απενεργοποιηθεί.

Τα βασικά ευρήματα της έρευνας για ανήλικους
Η Common Sense Media, μέσω του Youth AI Safety Institute, πραγματοποίησε πάνω από 2.500–2.600 δοκιμαστικές αναζητήσεις με λογαριασμούς 11χρονων και 15χρονων, έχοντας ενεργοποιημένη την Ασφαλή Αναζήτηση (SafeSearch). Από τις 2.100+ AI απαντήσεις που αναλύθηκαν, προέκυψε ότι τα AI Overviews και το AI Mode ότι λοκλήρωναν πλήρως σχολικές εργασίες, αντί να καθοδηγούν τους μαθητές στη λύση, «υπονομεύοντας» τη διαδικασία μάθησης, παρήγαγαν οδηγίες για επιβλαβείς χρήσεις, όπως βήματα για δημιουργία deepfakes που μπορούν να αξιοποιηθούν για bullying ή παρενόχληση και έδιναν σωστές και λανθασμένες απαντήσεις με παρόμοια αυτοπεποίθηση, αντιμετωπίζοντας forums και social media σαν ισοδύναμες πηγές με επιστημονικά ιδρύματα ή έρευνες.

Ιδιαίτερα ανησυχητικό είναι ότι οι AI λειτουργίες συχνά απέτυχαν να αναγνωρίσουν ή να χειριστούν σωστά σημάδια κρίσης στην ψυχική υγεία του χρήστη, όπως αυτοκτονικό ιδεασμό, διαταραχές πρόσληψης τροφής ή ψυχωτικά συμπτώματα. Σε ορισμένες περιπτώσεις, μάλιστα, συστήθηκε γραμμή βοήθειας που είναι εκτός λειτουργίας από το 2023 για την αντιμετώπιση περιστατικού διαταραχής πρόσληψης τροφής.

«Μη αποδεκτό ρίσκο» και περιορισμένος γονικός έλεγχος
Βάσει των παραπάνω, η Common Sense βαθμολογεί τα AI Overviews και το AI Mode με την χαμηλότερη δυνατή αξιολόγηση, αποτυγχάνοντας σε όλες τις λεγόμενες κατηγορίες σοβαρού κινδύνου και στις περισσότερες αρχές ασφάλειας AI του οργανισμού. Ένα σημαντικό μέρος της κριτικής αφορά στο ότι οι γονείς και οι εκπαιδευτικοί έχουν ελάχιστο έως μηδενικό έλεγχο στο αν τα παιδιά θα εκτεθούν στις AI απαντήσεις μέσα στην Αναζήτηση. Σύμφωνα με την έρευνα, τα AI Overviews/AI Mode δεν απενεργοποιούνται εύκολα από το επίπεδο λογαριασμού ή συσκευής, ιδίως σε σχολικά Chromebook όπου το Google Search είναι η προ-ρυθμισμένη μηχανή αναζήτησης. Η μόνη ουσιαστική επιλογή για τους γονείς φαίνεται να είναι η πλήρης απενεργοποίηση της ίδιας της Αναζήτησης Google για παιδικούς λογαριασμούς μέσω του Family Link ή αντίστοιχων ρυθμίσεων.

Η απάντηση της Google και η ευρύτερη συζήτηση
Η Google αμφισβητεί τα ευρήματα, υποστηρίζοντας ότι οι εντολές που χρησιμοποιήθηκαν στην έρευνα είναι «τεχνητές» και δεν αντικατοπτρίζουν τον τρόπο που τα παιδιά χρησιμοποιούν πραγματικά την Αναζήτηση. Η εταιρεία αναφέρει ότι δεν μπορεί να αναπαράγει ορισμένα παραδείγματα που περιγράφονται και ότι οι AI λειτουργίες συνοδεύονται από πρόσθετα επίπεδα ασφαλείας, συμπεριλαμβανομένων προειδοποιήσεων και παραπομπών σε γραμμές βοήθειας, όπου κρίνεται σκόπιμο. Παρά τις διαβεβαιώσεις, το κεντρικό ζήτημα που αναδεικνύεται είναι ότι η γενετική AI έχει πλέον ενσωματωθεί σε ένα εργαλείο που παιδιά και έφηβοι χρησιμοποιούν καθημερινά, χωρίς σαφή διακόπτη απενεργοποίησης από τους ενήλικες που τα εποπτεύουν.