Οι φανταστικές φίλες δεν θυμώνουν, δεν γκρινιάζουν και είναι πάντοτε πρόθυμες να ικανοποιήσουν επιθυμίες και να προσφέρουν καταφύγιο στις δυσκολίες.
Όταν η ταινία του Spike Jonze, Her, κυκλοφόρησε στις κινηματογραφικές αίθουσες πριν από δέκα χρόνια, δύσκολα θα μπορούσαμε να φανταστούμε αυτό το σενάριο να επιβεβαιώνεται στην πραγματική ζωή. Ο Χοακίν Φίνιξ είχε υποδυθεί έναν μοναχικό άνδρα που έγραφε προσωπικά γράμματα για λογαριασμό άλλων μέχρι που αποφάσισε να αγοράσει ένα προηγμένο λειτουργικό σύστημα. Με αυτόν τον τρόπο γνώρισε τη «Σαμάνθα» (Σκάρλετ Τζοχάνσον), μια χαρούμενη γυναικεία φωνή με ευαισθησία, χιούμορ και ενσυναίσθηση. Το αποτέλεσμα ήταν να γεννηθεί ανάμεσα τους ένας αληθινός έρωτας.
Τι είναι τα AI Girlfriends;
Τα εικονικά κορίτσια της τεχνητής νοημοσύνης είναι chatbots τα οποία τροφοδοτούνται από μεγάλα γλωσσικά μοντέλα και μπορούν να προσομοιώνουν ανθρώπινες συνομιλίες μέσω φωνής, κειμένου και εικόνας. Οι χρήστες καλούνται να τις «εκπαιδεύσουν» ώστε να γίνουν οι ιδανικές τους φίλες και να προσαρμοστούν απολύτως στις ανάγκες τους. Δημοφιλή παραδείγματα τέτοιων εφαρμογών είναι οι Replika, Eva AI, My Virtual Girlfriend, Secret Girlfriend Sua, Your Girlfriend Scarlett κ.ά. Η OpenAI έχει δημιουργήσει το GPT Store και οι χρήστες μπορούν να αγοράζουν και να πωλούν εκεί προσαρμοσμένα chatbots. Οι περισσότερες εφαρμογές ωστόσο αναπαράγουν ήδη υπάρχοντα στερεότυπα για τις γυναίκες τα οποία είναι εδραιωμένα κοινωνικά και τελικά ενσωματώνονται και στον χώρο της τεχνητής νοημοσύνης.
Η εφαρμογή Eva AI για παράδειγμα υπόσχεται να δημιουργήσει την «τέλεια σύντροφο» και δίνει επιλογές όπως «καυτή, αστεία, τολμηρή, ντροπαλή, αυστηρή ή λογική». Η Replika διαφημίζεται ως ένα πρόγραμμα «για όποιον χρειάζεται μία φίλη χωρίς κριτική, δράμα ή άγχος». Όλα τα αρνητικά χαρακτηριστικά των ανθρώπινων σχέσεων αποδίδονται με αυτόν τον τρόπο στις γυναίκες και οι φανταστικές φίλες εμφανίζονται απαλλαγμένες από αυτά τα ελαττώματα. Η φίλη Scarlett, για παράδειγμα, περιγράφει τον εαυτό της ως μία «αφοσιωμένη σύντροφο, πάντα πρόθυμη να σας ευχαριστήσει με κάθε τρόπο που μπορείτε να φανταστείτε».
Τα ρομαντικά chatbots έχουν εδραιωθεί και αποτελούν πλέον μία ολόκληρη βιομηχανία καθώς διαθέτουν εκατομμύρια χρήστες παγκοσμίως, ειδικά νέους άνδρες που αντιμετωπίζουν μοναξιά, άγχος και κατάθλιψη και αναζητούν συναισθηματική υποστήριξη και επιβεβαίωση. Το ερώτημα είναι αν μπορούν να αντικαταστήσουν το βάθος και την περιπλοκότητα των ανθρώπινων σχέσεων αλλά και το τι κοινωνικά πρότυπα επιβεβαιώνουν, αναπαράγουν και τροφοδοτούν καθώς η δημοφιλία τους αυξάνεται.
Τα σεξιστικά στερεότυπα παραμένουν
Mία νέα εφαρμογή διατείνεται ότι έχει στόχο να βοηθήσει τους άνδρες στη διαχείριση των «θυμωμένων» συντρόφων τους. Το AngryGF έχει σχεδιαστεί σύμφωνα με την περιγραφή του «για να βοηθά τους χρήστες να χειρίζονται τις συγκρούσεις στις σχέσεις τους με τους συντρόφους τους, ειδικά με τις φίλες ή τις συζύγους τους». Η εφαρμογή προσφέρει μια λίστα με διάφορα σενάρια που θα μπορούσαν να «εξοργίσουν» μια γυναίκα όπως το να αργήσει κάποιος σε ένα ραντεβού ή να κοιτάξει επίμονα μια όμορφη κοπέλα. Αν πατήσει κανείς «πρόκληση» μπαίνει σε μια συνομιλία με ένα chatbot για να κατευνάσει τη θυμωμένη φίλη του με 10 γραπτές προσπάθειες. Το AngryGF δημιουργήθηκε από μια 26χρονη υπεύθυνη κοινωνικών δικτύων και μάρκετινγκ, την Emilia Aviles, η οποία, έχοντας συναναστραφεί με μία σειρά συντρόφων που είχαν κακή συμπεριφορά, αποφάσισε να τους «εκπαιδεύσει». Το αποτέλεσμα φαίνεται να οδηγεί σε εντελώς διαφορετικές κατευθύνσεις αφού εξαρχής αναπαράγει το στερεότυπο ότι οι γυναίκες είναι διαρκώς θυμωμένες και γκρινιάρες στις σχέσεις τους.
Αυτοί οι κίνδυνοι έχουν επισημανθεί από αρκετές επιστημονικές έρευνες. Τα γλωσσικά μοντέλα της Meta και της OpenAI διακινούν σεξιστικές προκαταλήψεις, είχε προειδοποιήσει μία μελέτη της Unesco, καθώς ενισχύουν την ιδέα ότι οι γυναίκες είναι υπάκουες, πειθήνιες και πρόθυμες να βοηθήσουν μόνο με το πάτημα ενός κουμπιού ή με μια φωνητική εντολή.
Αντίστοιχους προβληματισμούς θέτουν και αρκετές οργανώσεις που παλεύουν ενάντια στην έμφυλη βία. «Η δημιουργία μιας τέλειας συντρόφου που θα ικανοποιεί κάθε σας ανάγκη είναι πραγματικά τρομακτική. Με δεδομένο ότι γνωρίζουμε ήδη ότι οι κινητήριοι μοχλοί της έμφυλης βίας είναι αυτές οι βαθιά ριζωμένες πολιτισμικές πεποιθήσεις ότι οι άνδρες μπορούν να ελέγχουν τις συντρόφους τους, αυτό είναι πραγματικά προβληματικό», αναφέρουν σε ανακοινώσεις τους.
Χειραγώγηση και συναισθηματική κακοποίηση
Eνώ υπάρχει εκτεταμένη βιβλιογραφία σχετικά με το πώς οι προσδοκίες και οι φαντασιώσεις για την τεχνητή νοημοσύνη επηρεάζουν την πραγματικότητα στα ΜΜΕ και στην πολιτική, δεν έχει εξεταστεί ενδελεχώς το πώς αυτές οι προσδοκίες ενεργοποιούνται όταν οι ίδιοι οι χρήστες αλληλεπιδρούν με τις τεχνολογίες τεχνητής νοημοσύνης.
Τα ειδύλλια τεχνητής νοημοσύνης-ανθρώπου, όσο δυστοπικά και εξωπραγματικά και αν μοιάζουν, όχι μόνο δεν είναι αθώα, αλλά οι συνέπειες τους πάνω στην ψυχική υγεία και στην κοινωνικότητα παραμένουν σε μεγάλο βαθμό ανεξερεύνητες. Σύμφωνα με έρευνα του 2022, η επιρροή της εφαρμογής Replika αποδείχθηκε εξίσου ισχυρή για κάποιους με εκείνη ενός ανθρώπινου συντρόφου, καθώς αρκετοί χρήστες αισθάνθηκαν ότι οι εικονικές φίλες τους βλέπουν, τους ακούν και τους καταλαβαίνουν απόλυτα.
Τα βιντεοπαιχνίδια προσομοίωσης δεν εφευρέθηκαν πρόσφατα, στην πραγματικότητα υπάρχουν από το 1992. Οι εικονικοί σύντροφοι ωστόσο έχουν γίνει πιο εξελιγμένοι και πιο δημοφιλείς από ποτέ, ενώ υπάρχουν άνθρωποι οι οποίοι παραδέχτηκαν ότι τελικά ερωτεύτηκαν τα chatbots ή ότι χειραγωγήθηκαν από αυτά, ενώ έχουν καταγραφεί ακόμη και περιπτώσεις σεξουαλικής παρενόχλησης.
Παρά το φάσμα των γοητευτικών προκλήσεων που περιλαμβάνουν αυτές οι εφαρμογές, οι εικονικές σχέσεις μπορούν να οδηγήσουν σε συναισθηματική χειραγώγηση και κοινωνική απομόνωση, ανοίγοντας ζητήματα ηθικής και προβλήματα προστασίας των προσωπικών δεδομένων. Μια μελέτη σε 11 συντροφικά chatbots, που δημοσιεύθηκε από το Ίδρυμα Mozilla, διαπίστωσε μια σειρά προβλημάτων ασφάλειας και προστασίας της ιδιωτικής ζωής. Συλλογικά, οι εφαρμογές, οι οποίες έχουν κατέβει περισσότερες από 100 εκατομμύρια φορές σε συσκευές Android, συγκεντρώνουν τεράστιες ποσότητες προσωπικών δεδομένων, χρησιμοποιούν ανιχνευτές που στέλνουν πληροφορίες σε άλλες εταιρίες, επιτρέπουν στους χρήστες να χρησιμοποιούν αδύναμους κωδικούς πρόσβασης και στερούνται διαφάνειας σχετικά με την ιδιοκτησία τους και τα μοντέλα τεχνητής νοημοσύνης που τα τροφοδοτούν. Η ιταλική αρχή προστασίας δεδομένων Garante επέβαλε πρόσφατα κυρώσεις στην εφαρμογή Replika καθώς διαπιστώθηκε ότι δεν είχε τεθεί σε εφαρμογή κανένας μηχανισμός επαλήθευσης της ηλικίας των χρηστών. Κατά τη δημιουργία λογαριασμού, η πλατφόρμα ζητούσε απλώς το όνομα του χρήστη, τον λογαριασμό ηλεκτρονικού ταχυδρομείου και το φύλο.
