Μέτρα για να προστατεύσει τα παιδιά από την τεχνητή νοημοσύνη παίρνει η Κίνα

Αυστηρούς κανόνες για την τεχνητή νοημοσύνη προτείνει η Κίνα σε μία προσπάθεια να προστατέψει τα παιδιά, αλλά και να εμποδίσει τα chatbots να δίνουν συμβουλές που θα μπορούσαν να οδηγήσουν σε αυτοτραυματισμούς ή βία.

Επίσης, υπό τους νέους κανονισμούς που θεσπίζονται, οι εταιρείες θα πρέπει να διασφαλίσουν ότι τα μοντέλα τεχνητής νοημοσύνης δεν φτιάχνουν περιεχόμενο, το οποίο να προωθεί τον τζόγο.

Η ανακοίνωση έρχεται σε μία στιγμή που αυξάνεται διαρκώς ο αριθμός των chatbots που λανσάρονται στην Κίνα, αλλά και σε ολόκληρο τον κόσμο. Μόλις οριστικοποιηθούν, οι νέοι κανόνες θα ισχύουν για όλα τα προϊόντα και υπηρεσίες τεχνητής νοημοσύνης στην Κίνα, σηματοδοτώντας μία τεράστια κίνηση να μπουν κανόνες σε μία ταχύτατα αναπτυσσόμενη τεχνολογία, η οποία έχει μπει στο στόχαστρο των αρχών και των κοινωνιών, λόγω ανησυχιών για την ασφάλεια.

Υποχρεωτική ανθρώπινη παρέμβαση σε περιπτώσεις κρίσης και αυτοτραυματισμού

Οι προτεινόμενοι κανονισμοί, που δημοσιεύτηκαν τις προηγούμενες ημέρες από την αρμόδια υπηρεσία κυβερνοασφάλειας, θα περιλαμβάνουν και μέτρα για την προστασία των παιδιών. Θα απαιτούν από τις εταιρείες ΑΙ να προσφέρουν προσωποποιημένες υπηρεσίες, να έχουν χρονικά όρια για τη χρήση και να παίρνουν τη συγκατάθεση των κηδεμόνων τους πριν παράσχουν υπηρεσίες συναισθηματικής στήριξης.

Οι εταιρείες που λειτουργούν τα chatbots θα πρέπει, επίσης, να διαθέτουν ανθρώπους που θα αναλαμβάνουν αμέσως οποιαδήποτε συζήτηση που θα σχετίζεται με αυτοκτονία ή αυτοτραυματισμό και θα ειδοποιούν αμέσως τον κηδεμόνα του χρήστη ή κάποια επαφή έκτακτης ανάγκης.

Οι πάροχοι υπηρεσιών τεχνητής νοημοσύνης θα είναι υποχρεωμένοι να διασφαλίσουν ότι οι υπηρεσίες τους δεν φτιάχνουν ούτε διαμοιράζονται «περιεχόμενο που θέτει σε κίνδυνο την εθνική ασφάλεια, πλήττει την εθνική αξιοπρέπεια και υπονομεύει την εθνική ενότητα».

Οι κόκκινες γραμμές του Πεκίνου στην τεχνολογική ανάπτυξη

Οι αρμόδιες αρχές κυβερνοασφάλειας ανακοίνωσαν ότι ενθαρρύνουν την υιοθέτηση της τεχνητής νοημοσύνης για την προώθηση της τοπικής κουλτούρας και τη δημιουργία εργαλείων για τη συντροφικότητα των ηλικιωμένων, με την προϋπόθεση ότι η τεχνολογία είναι ασφαλής και αξιόπιστη.

Η Κίνα έχει κάνει τεράστια πρόοδο στο θέμα της τεχνητής νοημοσύνης, αρχικά με την DeepSeek, ενώ τον περασμένο μήνα, δύο Κινεζικές νεοφυείς επιχειρήσεις, Z.ai and Minimax, που έχουν συνολικά δεκάδες εκατομμύρια χρήστες, ανακοίνωσαν τα σχέδιά τους για δημόσια εγγραφή.

Ωστόσο, οι επιπτώσεις της τεχνητής νοημοσύνης μπαίνουν εδώ και μερικούς μήνες όλο και περισσότερο στο στόχαστρο.

Ο Σαμ Άλτμαν, επικεφαλής του OpenAI της ChatGPT, δήλωσε πριν από λίγο καιρό ότι ο τρόπος που απαντούν τα chatbots σε συζητήσεις για αυτοτραυματισμό είναι από τις βασικές πηγές ανησυχίας της εταιρείας του.

Τον περασμένο Αύγουστο, μία οικογένεια από την Καλιφόρνια έκανε μήνυση στην OpenAI για το θάνατο του 16χρονου γιου τους, τον οποίο, όπως ισχυρίζονται, η ChatGPT ενθάρρυνε να αυτοκτονήσει.