«Σας καλούν με τη φωνή του παιδιού σας»: Αποκαλύψεις για το χάος με την τεχνητή νοημοσύνη και ο κίνδυνος για τις ευρωεκλογές

Αποκαλύψεις για την εξαιρετικά εκτεταμένη χρήση των δεδομένων των πολιτών από τα σύγχρονα εργαλεία τεχνητής νοημοσύνης, έγιναν στη συνεστίαση του Ροταριανού Ομίλου Αθηνών.

Οι δύο επίσημοι ομιλητές, ο νομικός και αντιπρόεδρος του Ομίλου, Ιωάννης Κοϊμτζόγλου, και η δικηγόρος Αθηνών και Βρυξελλών, πρόεδρος του Ινστιτούτου Δικαίου Τεχνητής Νοημοσύνης Rythmisis και υποψήφια ευρωβουλευτής με τη ΝΔ, Μαρία – Ωραιοζήλη Κουτσουπιά, ανέλυσαν λεπτομερώς την χαοτική κατάσταση που βιώνει ο πλανήτης όσον αφορά τη χρήση της τεχνητής νοημοσύνης, με άμεσες επιπτώσεις και στην Ελλάδα.

Οι ομιλητές αναφέρθηκαν στην προσπάθεια που βρίσκεται σε εξέλιξη στην Ευρωπαϊκή Ένωση προκειμένου να συνταχθεί ο πρώτος κανονισμός για την τεχνητή νοημοσύνη, ο οποίος εκτιμάται ότι θα τεθεί σε ισχύ σε περίπου έναν μήνα. Στόχος, να μπει μια τάξη σε μια κατάσταση που, σε ορισμένες καταστάσεις, έχει ξεπεράσει κάθε φαντασία.

Παράνομη χρήση δεδομένων των πολιτών από εργαλεία AI

Η εκρηκτική ανάπτυξη της τεχνητής νοημοσύνης απαιτούσε …δεδομένα. Data, προκειμένου να διδαχθούν οι «μηχανές» και να είναι σε θέση να συνδυάσουν πληροφορίες ώστε να απαντούν στα αιτήματα και τα ερωτήματα των χρηστών.

«Αυτό που ξέρουμε σίγουρα, το νούμερο 1 που λέει ο κανονισμός μας και το οποίο παγκοσμίως αποδέχονται, είναι ότι σημασία έχουν τα δεδομένα. «It’s all about data», υποστήριξε η Δρ. Μαρία-Ωραιοζήλη Κουτσουπιά, η οποία στην συνέχεια μίλησε για τον τρόπο που δημιουργήθηκαν – και πλέον λειτουργούν – οι εφαρμογές τεχνητής νοημοσύνης:

«Τι βάζουμε μέσα στο σύστημα τεχνητής νοημοσύνης; Τι έχουν βάλει ήδη; Ό,τι υπάρχει στο internet ό,τι υπάρχει για εσάς ό,τι υπάρχει για τον κόσμο ό,τι υπάρχει για τα ζώα… Έκαναν scrubbing, τα πήραν όλα στις βάσεις δεδομένων τους. Παρανόμως; Ναι, παρανόμως. Πιο παράνομα δεν γίνεται… Αυτά τα δεδομένα που περιλαμβάνουν, χωρίς αδειοδοτήσεις, χωρίς συναινέσεις… έχει μέσα προσωπικά δεδομένα, έχει πάρει τα πάντα η εταιρία Open AI (σ.σ. είναι η εταιρία που έχει δημιουργήσει το ChatGTP)».

«Και η εταιρία είπε, ότι «εγώ ουσιαστικά είμαι ένα αγαθό για τους ανθρώπους, κάτι ωφέλιμο. Οπότε δικαιούμαι να πάρω τα πάντα για να το δημιουργήσω». Δεν δικαιούται, αλλά αυτή είναι η δικαιολογία του. Και μάλιστα υπάρχουν πολλές υποθέσεις στα δικαστήρια, γιατί βεβαίως έχει κάνει βάση δεδομένων για τα πάντα».

Πλήρως «φακελωμένοι» όλοι οι Έλληνες με φωτογραφίες και στίγματα σε χάρτη

Μεγάλη ανησυχία και έκπληξη προκάλεσε μια αποκάλυψη από την κ. Κουτσουπιά για το έργο αμερικανικής εταιρίας με την χρήση τεχνητής νοημοσύνης, καθώς φαίνεται ότι ακόμη και μια απλή ανάρτηση στα social media είναι αρκετή για τον κάθε πολίτη – ακόμη και στην Ελλάδα – ώστε να δημιουργηθεί ολόκληρος φάκελος με όσα δεδομένα τον αφορούν:

«Ένα άλλο πράγμα που ήθελε να αποφύγει η Ευρώπη, είναι κάτι που δυστυχώς έχει γίνει ήδη αλλά θα φύγει μόλις τεθεί σε ισχύ ο κανονισμός. «Clear view AI» λέγεται... Είναι μία αμερικανική εταιρεία, η οποία έχει πάρει για όλους μας εδώ, τα στοιχεία μας και έχει δημιουργήσει profile… Για όλους μας, που βρεθήκαμε να περπατάμε μπροστά σε μια κάμερα, δημιούργησε ένα αρχείο με βάση τα στοιχεία που έχει online… Κάποιος ανέβασε στο facebook μια φωτογραφία σας, χωρίς να το ξέρετε εσείς… Εάν μπείτε εκεί και αιτηθείτε ότι θέλετε να πάρετε στοιχεία για το όνομά σας ή για κάποιον άλλον - και πληρώσετε βεβαίως, γιατί είναι πλατφόρμα με πληρωμή – μπορείτε να δείτε τι έχουν συλλέξει για σας ή για κάποιον άλλο…».

«Αυτό έκαναν λοιπόν πολίτες στην Γαλλία, την Ιταλία, στην Ελλάδα, στην Αμερική, στην Κίνα, το έκαναν παντού και η εταιρεία έχει για όλους! Πουλάει αυτά τα δεδομένα σε μυστικές υπηρεσίες, και δεν συνωμοσιολογώ ή κινδυνολογώ, αυτά είναι τεκμηριωμένα με αποφάσεις των αρχών προστασίας προσωπικών δεδομένων που έριξαν πρόστιμο σ’ αυτή την εταιρεία. Και έριξε πρόστιμο και η ελληνική αρχή γιατί δώσανε στοιχεία και για τους Έλληνες - δεν θα ξεφεύγαμε εμείς. Οπότε αυτή η εταιρεία το έκανε ήδη. Πήρε, με βάση συνδεδεμένα στοιχεία από παντού και δημιούργησε profile για όλους μας. Αυτό λοιπόν είναι κάτι που η Ευρώπη θέλει να απαγορεύσει. Γιατί αυτός ο κανονισμός έχει κάτι πολύ έξυπνο, το οποίο έχει και το GTPR. Εφαρμόζονται και στους Αμερικανούς».

Η κ. Κουτσουπιά, εξήγησε τις ευεργετικές διατάξεις του ευρωπαϊκού κανονισμού, ο οποίος μπορεί να προστατεύσει τους ευρωπαίους πολίτες από παρόμοιες τακτικές ακόμη και εκτός ΕΕ:

«Μπορεί να είναι ευρωπαϊκό δίκαιο, αλλά έχεις δικαίωμα να το εφαρμόζεις εκτός Ευρώπης. Extraterritoriality… Δηλαδή, επειδή εσύ είσαι Ευρωπαίος και επεξεργάζονται δικά σου δικαιώματα και την δική σου εικόνα, έχεις δικαίωμα να τον υποχρεώσεις να συμμορφωθεί με την ευρωπαϊκή νομοθεσία. Αυτό είναι το μεγαλύτερο ατού αυτού του νόμου».

Η χώρα που ανιχνεύει τα συναισθήματα των πολιτών σε δημόσιους χώρους

Την Κίνα ως ακραίο, αλλά απολύτως υπαρκτό παράδειγμα ανέφερε η Δρ. Μαρία – Ωραιοζήλη Κουτσουπιά, περιγράφοντας μια εξωπραγματική κατάσταση, την οποία ο κανονισμός της Ε.Ε. δεν πρόκειται να επιτρέψει ποτέ:

«Υπάρχουν κάποιες εφαρμογές τεχνητής νοημοσύνης οι οποίες δεν πρόκειται να μπουν ποτέ στην Ευρώπη. Κι αν έχουν ήδη μπει, μόλις ξεκινήσει να ισχύει ο κανονισμός, δηλαδή σε ένα μήνα από τώρα που θα ξεκινήσουν να ισχύουν οι απαγορεύσεις, θα πρέπει να φύγουν από την Ευρώπη. Θα ξεκινήσει δηλαδή έλεγχος από την επιτροπή για να διώξει αυτά τα συστήματα».

«Ποια είναι αυτά τα συστήματα που υπάρχουν σε άλλες χώρες; Αναγνώριση συναισθημάτων. Σε δημόσιους χώρους, κάμερες τις οποίες χρησιμοποιούν σε δημόσιους χώρους για την προστασία του κοινού – υποτίθεται – οι οποίες αναγνωρίζουν τα συναισθήματά σας. Κι αν δουν ότι κάποιος είναι ταραγμένος, ότι είναι συνοφρυωμένος, ότι είναι αγχωμένος, ότι κάτι ετοιμάζει, μπορεί να ειδοποιηθεί από την τεχνητή νοημοσύνη το σύστημα ελέγχου και να έρθει κατευθείαν η αστυνομία. Αυτό είναι το «face recognition» με συναίσθημα, δηλαδή αναγνωρίζει και την ταυτότητα του προσώπου και το συναίσθημα».

«Παρόμοια τεχνολογία είναι το social scoring, που είναι η πιο σημαντική τεχνολογία που υπάρχει αυτή τη στιγμή στην Ασία. Πρόκειται για βαθμολόγηση των πολιτών. Με τεχνητή νοημοσύνη. Σας βλέπουν – για παράδειγμα – να παραβιάζετε το κόκκινο φανάρι. Παραβιάσατε πέντε φορές το κόκκινο στη ζωή σας ολόκληρη… ή καταγράφουν όσα πρόστιμα έχετε από κλήσεις για παρκάρισμα… ή συνδυάζουν ότι δεν πληρώσατε μια δόση σε κάποιο δάνειο… Όλα αυτά είναι διασυνδεδεμένα συστήματα και μειώνουν το «σκορ» του πολίτης. Και έτσι κάποιος γίνεται πολίτης με αριθμό π.χ. «τέσσερα». Όλα αυτά είναι υπαρκτά και με βάση την τεχνητή νοημοσύνη δημιουργείται ένα προφίλ, μία εικόνα για τον πολίτη. Δημιουργεί πολίτες δεύτερης και τρίτης κατηγορίας… Χάνουν δικαιώματα, δεν μπορούν να πάρουν δάνεια, δεν μπορούν να ασφαλιστούν, δεν έχουν ιατροφαρμακευτική κάλυψη. Και όλα αυτά με την χρήση τεχνητής νοημοσύνης. Αυτά τα συστήματα απαγορεύονται ρητά στην Ευρώπη. Απαγορεύονται ρητά από την ευρωπαϊκή νομοθεσία».

«Σας καλούν στο τηλέφωνο με τη φωνή του παιδιού σας»

Η Δρ. Μαρία-Ωραιοζήλη Κουτσουπιά αναφέρθηκε και στους κινδύνους που προκύπτουν για την καθημερινότητα των πολιτών, καθώς η τεχνητή νοημοσύνη, μπορεί να χρησιμοποιηθεί ελεύθερα από επιτήδειους:

«Ένα άλλο πρόβλημα είναι τα deep fake (σ.σ. πρόκειται για αυτόματη μετατροπή ήχου ή βίντεο ώστε να φαίνεται ότι ένα συγκεκριμένο άτομο μιλάει με την κανονική του φωνή ή το πρόσωπό του, χωρίς αυτό να ισχύει). Μεγάλο πρόβλημα που έχει δημιουργηθεί στην Αμερική και στην Ευρώπη, να σας καλούνε στο τηλέφωνο με την φωνή του παιδιού σας και να λένε «μαμά – μπαμπά»… Έτσι ακριβώς, και ξέρετε ότι πλέον την τεχνητή νοημοσύνη, τη χρησιμοποιούν κοινοί κλέφτες, γιατί είναι ανοιχτή στο κοινό, είναι ελεύθερη ως open source (σ.σ. ανοιχτός κώδικας), δωρεάν και μπαίνουν και χρησιμοποιούν εφαρμογές για άπατες.

Επικίνδυνη η τεχνητή νοημοσύνη για τις ευρωεκλογές

Η κ. Κουτσουπιά αναφέρθηκε και σε ενδεχόμενους κινδύνους που επιφυλάσσει η κακόβουλη χρήση της τεχνητής νοημοσύνης στις επερχόμενες ευρωεκλογές, γεγονός που έχει σημάνει συναγερμό στην Ευρώπη:

«Για τις εκλογές, είναι επικίνδυνα τα πράγματα. Η Ευρώπη το κατάλαβε πολύ νωρίς. Είχε ήδη βγάλει κατευθυντήριες οδηγίες και τώρα δουλεύει πάνω στην εξακρίβωση, για καμπάνιες, για πολιτικούς. Στην εξακρίβωση στοιχείων δίνει πολύ μεγάλη βαρύτητα. Επίσης, έχει βγάλει έναν κανονισμό που προβλέπει ότι οι πλατφόρμες πρέπει να λαμβάνουν συγκεκριμένα μέτρα, ειδικά για τις εκλογές. Και υποχρεώνει τους υποψήφιους να κάνουν διπλή επικύρωση της ταυτότητάς τους. Ποιοι είναι, εάν είναι όντως πολιτικά πρόσωπα κι αν αυτό που ανεβάζουν είναι hate speech (σ.σ. ρητορική μίσους) ή αν προσπαθούν να παραπλανήσουν. Δεν ελέγχεται το περιεχόμενο της ανάρτησης αλλά ελέγχει τις βασικές αρχές».

Πώς η εφορία χρησιμοποιεί την τεχνητή νοημοσύνη

Ο ροταριανός Ιωάννης Κοϊμτζόγλου, Αντιπρόεδρος του Ρ.Ο.Αθηνών, Δικηγόρος, Νομικός Σύμβουλος Ο.Π.Α, Αναπλ. Καθηγητής Δημοσίου Δικαίου Philips Univercity (CY), ΣΕΠ ΕΑΠ & ΑΠΚΥ, Επιστημονικός Συνεργάτης ΚΕΣΔ, Εισηγητής ΕΚΔΔΑ & Εθνικής Σχολής Δικαστών, αναφέρθηκε σε ένα από τα βασικότερα αρνητικά επακόλουθα στη χρήση της τεχνητής νοημοσύνης. Της απώλειας δηλαδή, μεγάλου αριθμού θέσεων εργασίας. Ο κ Κοϊμτζόγλου ανέφερε επίσης ότι η τεχνητή νοημοσύνη βρσκεται ήδη εδώ και επηρεάζει την ζωή μας, δίνοντας ένα παράδειγμα που αφορά την δημόσια διοίκηση – και συγκεκριμένα την Εφορία:

«Στο δημόσιο τομέα επίσης υπάρχουν πολλές εφαρμογές στην τεχνητή νοημοσύνη. Αυτό που ίσως ακούσατε - και να το προσέξετε για το δικό σας καλό – είναι αυτό που εφαρμόζει ήδη η φορολογική αρχή. Το εφαρμόζει η Ανεξάρτητη Αρχή Δημοσίων Εσόδων… η συσχέτιση δηλαδή των εξόδων με τα έσοδα των φορολογουμένων, είναι ένας απλός τύπος τεχνητής νοημοσύνης. Παραγγέλθηκε, ένας αλγόριθμος, ο οποίος αυτόματα εντοπίζει αν κάποιος ξοδεύει περισσότερα απ’ όσα εισπράττει, διαπιστώνοντας ότι κάτι συμβαίνει εδώ. Όλα αυτά είναι στην καθημερινότητά μας…».

Πρόσκληση στα μέλη του ροταριανού ομίλου -και όχι μόνο- να συνδράμουν στο φιλανθρωπικό έργο του ομίλου

Κατά την διάρκεια της συνεστίασης, ο Πρόεδρος του Ροταριανού Ομίλου Αθηνών, αναφέρθηκε στο φιλανθρωπικό έργο του Ομίλου, απευθύνοντας ανοιχτή πρόσκληση προς όλους, προκειμένου να βοηθήσουν τους συνανθρώπους μας που βρίσκονται σε ανάγκη:

«Το Ρόταρυ είναι ανοιχτό σε όλους ανθρώπους που θέλουν να βοηθήσουν. Ακόμη κι αν δεν είναι κάποιος Ροταριανός, ακόμη κι αν δεν έχει έρθει σε καμιά από τις συνεστιάσεις μας, εμείς τους καλούμε να συνδράμουν μαζί μας στο έργο μας. Το «μότο» των ροταριανών είναι «πρώτιστο το υπηρετείν τον άνθρωπο» που δεν είναι τόσο τυχερός. Οπότε σας καλώ να συνδράμετε στο έργο μας.

Περισσότερες πληροφορίες μπορείτε να βρείτε στη σχετική ιστοσελίδα για τον υπό σύσταση κανονισμό της ΕΕ για την τεχνητή νοημοσύνη.