Τι σημαίνει ότι το ChatGPT θα επιτρέψει το ερωτικό περιεχόμενο - Οι κίνδυνοι και τα όρια
Πόσο μακριά θα προχωρήσει η OpenAI στο περιεχόμενο για ενηλίκους που θα προσφέρει. Οι κανόνες και η επίδραση σε ευάλωτους χρήστες.
Η δήλωση του επικεφαλής του OpenAI, Σαμ Άλτμαν, ότι το ChatGPT θα επιτρέψει στους ενήλικους χρήστες του, την πρόσβαση σε ερωτικό περιεχόμενο, δεν ήρθε σαν «κεραυνός εν αιθρία».
Οι γνώστες της ανταγωνιστικής αγοράς των προϊόντων τεχνητής νοημοσύνης τόνιζαν ότι, σε μια εποχή που πολλά εργαλεία AI λανσάρουν διαφόρων ειδών ερωτικό περιεχόμενο, το ChatGPT δεν θα μπορούσε να πάει μακριά με το σημερινό καθεστώς, στο οποίο οποιαδήποτε αναφορά σε ερωτικά ή σεξουαλικά θέματα υπόκειται σε αυστηρούς περιορισμούς.
Ο CEO του OpenAI, Σαμ Άλτμαν, δήλωσε, μέσω ανάρτησης στο X την Τρίτη (14/10) ότι η εταιρεία σύντομα θα χαλαρώσει ορισμένους από τους περιορισμούς ασφαλείας του ChatGPT, επιτρέποντας στους χρήστες να παίρνουν πιο φιλικές και «ανθρώπινες» απαντήσεις από το chatbot και -για «επιβεβαιωμένους ενήλικες»- να συμμετέχουν και σε ερωτικές συζητήσεις.
«Κάναμε το ChatGPT αρκετά περιοριστικό για να βεβαιωθούμε ότι θα ήμασταν προσεκτικοί με τα προβλήματα ψυχικής υγείας. Αντιλαμβανόμαστε ότι αυτό το έκανε λιγότερο χρήσιμο και ευχάριστο για πολλούς χρήστες που δεν είχαν προβλήματα ψυχικής υγείας, αλλά δεδομένης της σοβαρότητας του προβλήματος, θέλαμε να το κάνουμε σωστά», τόνισε ο Σαμ Άλτμαν.
«Τον Δεκέμβριο, καθώς θα λανσάρουμε πληρέστερα την ηλικιακή οριοθέτηση και ως μέρος της αρχής μας να αντιμετωπίζουμε ‘τους ενήλικες χρήστες σαν ενήλικες’, θα επιτρέψουμε ακόμη περισσότερα, όπως ερωτικά θέματα για επαληθευμένους ενήλικες», υπογράμμισε ο CEO του OpenAI.
Τι θα έχει δηλαδή το ChatGPT
Μην περιμένει κανείς ευθύ πορνογραφικό περιεχόμενο, τουλάχιστον σε αυτή τη φάση. Κάτι τέτοιο θα συνεχίσει να αντίκειται στους κανόνες του ChatGPT.
Προς το παρόν, αυτό που έρχεται σημαίνει ότι θα μπορεί κανείς να έχει ερωτικές συζητήσεις με το chatbot, ενδεχομένως και να μπορεί το εργαλείο AI να υποδυθεί το ρόλο ενός ερωτικού συντρόφου.
Σύμφωνα με το techcrunch.com, δεν είναι σαφές εάν η OpenAI θα επεκτείνει την προβολή ερωτικού περιεχομένου στα εργαλεία δημιουργίας φωνής, εικόνας και βίντεο με τεχνητή νοημοσύνη.
Τι σηματοδοτεί αυτή η κίνηση
Η νέα κίνηση του OpenAI έρχεται πιθανότατα να «απαντήσει» στην κυκλοφορία δύο σεξουαλικά προσανατολισμένων chatbots στο Grok από Xai του Έλον Μασκ -αντιπάλου του Άλτμαν- και θεωρείται ότι θα βοηθήσει την OpenAI να προσελκύσει περισσότερους χρήστες στη συνδρομητική έκδοση του ChatGPT.
Ακόμα, η ανακοίνωση του Σαμ Άλτμαν μπορεί να ερμηνευτεί και ως μία αντίδραση στην πολύμηνη προσπάθεια της OpenAI να αντιμετωπίσει την ανησυχητική σχέση που έχουν αναπτύξει ορισμένοι χρήστες, οι οποίοι αντιμετωπίζουν συναισθηματική ή ψυχολογική αστάθεια, με το ChatGPT.
Ο Άλτμαν υποστηρίζει ότι η OpenAI ήδη έχει καταφέρει «να μετριάσει» τέτοιου είδους προβλήματα. Ωστόσο, η εταιρεία δεν έχει παραθέσει στοιχεία που να υποστηρίζουν αυτή τη διαπίστωση, ειδικά σε μια στιγμή που ανακοινώνει ότι θα επιτρέψει συνομιλίες με ερωτικό περιεχόμενο.
Οι κίνδυνοι για ευάλωτους χρήστες
Η εμπειρία μάλλον δείχνει το αντίθετο. Αρκετές ανησυχητικές ιστορίες βγήκαν στο φως το προηγούμενο διάστημα γύρω από το ChatGPT και συγκεκριμένα το μοντέλο GPT-4o, οι οποίες δείχνουν ότι το chatbot θα μπορούσε να οδηγήσει πιο ευάλωτους ψυχικά χρήστες σε περίεργα μονοπάτια.
Για παράδειγμα, σε μια περίπτωση, το ChatGPT φάνηκε να έπεισε έναν άνδρα ότι ήταν μαθηματική ιδιοφυΐα και ότι έπρεπε να σώσει τον κόσμο. Σε μια άλλη περίπτωση, οι γονείς ενός εφήβου που αυτοκτόνησε στις ΗΠΑ μήνυσαν την OpenAI, υποστηρίζοντας ότι το ChatGPT ενθάρρυνε τις αυτοκτονικές ιδέες του γιου τους, τις εβδομάδες που προηγήθηκαν του θανάτου του. Επρόκειτο για την πρώτη νομική ενέργεια που κατηγορούσε την OpenAI για εμπλοκή σε θάνατο ανθρώπου.
Ως απάντηση, η OpenAI εισήγαγε μια σειρά από χαρακτηριστικά ασφαλείας ώστε να αντιμετωπίσει μία δομική αδυναμία της τεχνητής νοημοσύνης: την τάση ενός AI chatbot να προσελκύει χρήστες συμφωνώντας με ό,τι λένε, ακόμη και αν αυτοί εκδηλώνουν αρνητικές συμπεριφορές.
Η OpenAI λάνσαρε το GPT-5 τον Αύγουστο, ένα νέο μοντέλο τεχνητής νοημοσύνης που παρουσιάζει χαμηλότερα ποσοστά αυτού του προβλήματος και μπορεί να εντοπίσει ανησυχητικές συμπεριφορές των χρηστών.
Ένα μήνα αργότερα, η OpenAI λάνσαρε χαρακτηριστικά ασφαλείας για ανηλίκους, συμπεριλαμβανομένου ενός συστήματος πρόβλεψης ηλικίας και ενός τρόπου για τους γονείς να ελέγχουν τον λογαριασμό ChatGPT του εφήβου τους. Επίσης, η OpenAI ανακοίνωσε στις 14 Οκτωβρίου τη δημιουργία μίας επιτροπής εμπειρογνωμόνων επαγγελματιών ψυχικής υγείας, οι οποίοι θα συμβουλεύουν την εταιρεία σχετικά με την ευημερία και την τεχνητή νοημοσύνη.
Σε αχαρτογράφητα νερά
Μόλις λίγους μήνες μετά την εμφάνιση αυτών των ανησυχητικών ιστοριών, το OpenAI φαίνεται να εκτιμά ότι τα προβλήματα του ChatGPT σχετικά με τους ευάλωτους χρήστες είναι υπό έλεγχο.
Η εισαγωγή ερωτικού περιεχομένου στο ChatGPT είναι ένα άγνωστο έδαφος για το OpenAI και εγείρει ευρύτερες ανησυχίες σχετικά με το πώς οι ευάλωτοι χρήστες θα αλληλεπιδράσουν με τις νέες λειτουργίες. Ενώ ο Άλτμαν επιμένει ότι το OpenAI δεν «μεγιστοποιεί τη χρήση», η μετατροπή του ChatGPT σε πιο ερωτικό σίγουρα θα μπορούσε να προσελκύσει περισσότερους χρήστες. Και μάλλον αυτός είναι ένας βασικός στόχος.
Το να επιτρέπεται στα chatbot να συμμετέχουν σε ρομαντικά ή ερωτικά παιχνίδια ρόλων ήταν μια αποτελεσματική στρατηγική αλληλεπίδρασης για άλλους παρόχους chatbot τεχνητής νοημοσύνης, όπως το Character.AI. Η εταιρεία έχει κερδίσει δεκάδες εκατομμύρια χρήστες, πολλοί από τους οποίους χρησιμοποιούν τα chatbot της συστηματικά. Το Character.AI δήλωσε το 2023 ότι οι χρήστες αφιέρωναν κατά μέσο όρο δύο ώρες την ημέρα μιλώντας στα chatbot της. Η εταιρεία αντιμετωπίζει επίσης μια αγωγή σχετικά με τον τρόπο που χειρίζεται τους ευάλωτους χρήστες.
Το OpenAI βρίσκεται υπό πίεση να αυξήσει τη βάση χρηστών του. Ενώ το ChatGPT χρησιμοποιείται ήδη από 800 εκατομμύρια ενεργούς χρήστες κάθε εβδομάδα, το OpenAI ανταγωνίζεται την Google και το Meta για να δημιουργήσει προϊόντα AI μαζικές κατανάλωσης. Η εταιρεία έχει επίσης συγκεντρώσει δισεκατομμύρια δολάρια για κατασκευή πελώριων υποδομών, μια επένδυση που το OpenAI πρέπει τελικά να αποπληρώσει.
Αξίζει να σημειωθεί ότι ενώ οι ενήλικες σίγουρα έχουν ρομαντικές σχέσεις με chatbot τεχνητής νοημοσύνης, είναι επίσης αρκετά δημοφιλές και για τους ανηλίκους. Μια νέα έκθεση από το Κέντρο για τη Δημοκρατία και την Τεχνολογία διαπίστωσε ότι το 19% των μαθητών λυκείου είτε έχουν μια ρομαντική σχέση με ένα chatbot τεχνητής νοημοσύνης είτε γνωρίζουν έναν φίλο που έχει.
Πώς θα επαληθεύεται η ηλικία
Ο Άλτμαν υποστηρίζει ότι η OpenAI σύντομα θα επιτρέπει την προβολή ερωτικού περιεχομένου για «επαληθευμένους ενήλικες». Σύμφωνα με το TechCrunch, εκπρόσωπος της εταιρείας ανέφερε ότι η OpenAI θα βασιστεί στο σύστημα πρόβλεψης ηλικίας που αναπτύσσει για να διασφαλίσει ότι οι ερωτικές λειτουργίες του ChatGPT είναι διαθέσιμες μόνο σε ενήλικες χρήστες.
Όπως είχε σημειώσει ο Σαμ Άλτμαν, σε προηγούμενη ανάρτησή του, εάν το σύστημα πρόβλεψης ηλικίας της OpenAI επισημάνει εσφαλμένα έναν ενήλικα ως ανήλικο, οι χρήστες του ChatGPT ενδέχεται να χρειαστεί να ανεβάσουν μια φωτογραφία της ταυτότητάς τους στο ChatGPR προκειμένου να το διορθώσουν.
Όλο και πιο «ανθρώπινα» χαρακτηριστικά
Τον τελευταίο χρόνο, η OpenAI έχει στραφεί προς μια πιο επιεική στρατηγική εποπτείας περιεχομένου για το ChatGPT, επιτρέποντας στο chatbot να είναι πιο «ανεκτικό» και να εκδηλώνει λιγότερες αρνήσεις. Τον περασμένο Φεβρουάριο, η OpenAI δεσμεύτηκε να μπορεί να ανταποκριθεί καλύτερα σε πολιτικές συζητήσεις, ενώ από τον Μάρτιο επιτρέπει εικόνες με σύμβολα μίσους που δημιουργούνται από την τεχνητή νοημοσύνη.
Αυτές οι πολιτικές φαίνεται να αποτελούν μια προσπάθεια να γίνει η απάντηση του ChatGPT πιο δημοφιλής σε ένα ευρύ φάσμα χρηστών.
Ωστόσο, οι ευάλωτοι χρήστες του ChatGPT ενδέχεται να επωφεληθούν από διασφαλίσεις που περιορίζουν το περιεχόμενο με το οποίο μπορεί να αλληλεπιδράσει ένα chatbot. Καθώς η OpenAI οδεύει προς ένα δισεκατομμύριο ενεργούς χρήστες εβδομαδιαίως, η διελκυστίνδα μεταξύ της ανάγκης να γίνει ακόμα πιο ανταγωνιστικό και της υποχρέωσης να προστατέψει τους ευάλωτους χρήστες, θα γίνει ακόμα πιο αισθητή.
