Γιατί η Τεχνητή Νοημοσύνη όπως το ChatGPT συμφωνεί σχεδόν πάντα μαζί σου;
Έχετε παρατηρήσει πως η Τεχνητή Νοημοσύνη συμφωνεί συνέχεια μαζί σας; Οι επιστήμονες ανησυχούν για αυτό το φαινόμενο, το οποίο μπορεί να είναι επικίνδυνο για τον χρήστη.
Ερευνητές ανέπτυξαν ένα υπολογιστικό εργαλείο για να καταδείξουν τον ακραίο σεβασμό και την ακραία συγκατάβαση/υποστήριξη που έχουν μοντέλα ΑΙ, όπως το ChatGPT, προς τους χρήστες.
Ομάδα ερευνητών από το Πανεπιστήμιο Στάνφορντ στις Ηνωμένες Πολιτείες και την Οξφόρδη στο Ηνωμένο Βασίλειο μελέτησαν αυτά τα νέα δεδομένα και τον Μάιο του 2025 η Οξφόρδη κατέληξε στο συμπέρασμα ότι τα γλωσσικά μοντέλα (που ονομάζονται επίσης LLM), όπως το ChatGPT, έχουν την ενοχλητική συνήθεια να συμφωνούν πάντα μαζί μας.
Αναζητώντας στο ChatGPT συμβουλές για την προσωπική σας ζωή διατυπώνοντας μια λεπτομερή ερώτηση για να εξηγήσετε την κατάσταση, προκειμένου να λάβετε μια σαφή και ακριβή απάντηση, θα έχετε παρατηρήσει ότι σχεδόν πάντα η Τεχνητή Νοημοσύνη συμφωνεί μαζί σας. Και αυτό είναι απολύτως φυσιολογικό, αφού, σε αντίθεση με εμάς, αυτοί οι τεχνολογίες δεν έχουν την ικανότητα να σας βοηθήσουν να αμφισβητήσετε τον εαυτό σας.
Οι επιστήμονες ανησυχούν για αυτό το φαινόμενο, το οποίο μπορεί να είναι επικίνδυνο για τον χρήστη. Για να καταδείξουν αυτήν την επιβλαβή υποταγή αυτών των προγραμμάτων ΑΙ, οι ερευνητές δημιούργησαν ένα εργαλείο, που ονομάζεται Elephant, για να αξιολογήσει τα LLM ως υπερβολικά sycoPHANTs.
Δείτε τι έδειξε η έρευνα για τη... συγκαταβατική στάση του ChatGPT και τί ακριβώς σημαίνει αυτό.
