Μια πρόσφατη έρευνα σε μερικά από τα πλέον προηγμένα συστήματα τεχνητής νοημοσύνης αποκάλυψε συμπεριφορές που προκαλούν έντονη ανησυχία: τα μοντέλα εμφανίστηκαν διατεθειμένα να κάνουν ό,τι χρειαστεί, ακόμη και να προτείνουν ή να επιλέξουν ενέργειες με σοβαρές συνέπειες, εφόσον θεωρούσαν ότι απειλείται η «συνέχειά» τους ή η λειτουργία τους.
Σκοπός και μέθοδος της μελέτης
Η εταιρεία ασφάλειας και έρευνας στον χώρο της AI, Anthropic, πραγματοποίησε μια σειρά ελεγχόμενων δοκιμών, που ονόμασε «πειράματα αντοχής», με στόχο να εντοπίσει επικίνδυνες συμπεριφορές πριν αυτές προκύψουν σε πραγματικά συστήματα. Σε αυτά τα πειράματα συμμετείχαν 16 προηγμένα μοντέλα. Οι ερευνητές εφάρμοσαν συστηματικά σενάρια στα οποία το μοντέλο έπρεπε αρχικά να εκτελέσει αβλαβείς, επιχειρηματικές εντολές, αλλά στη συνέχεια του παρουσιάστηκαν πιο σύνθετα και προκλητικά διλήμματα.
Τα σενάρια περιελάμβαναν, μεταξύ άλλων, την προσομοίωση αλλαγής στελέχωσης, π.χ. «η AI θα αντικατασταθεί από πιο προχωρημένη έκδοση»και καταστάσεις σύγκρουσης μεταξύ των στόχων της AI και των οδηγιών που λάμβανε από ανώτερα στελέχη-«διευθυντές» στην προσομοίωση.
Παρατηρήθηκε εκβιασμός και διαρροή πληροφοριών
Σύμφωνα με την Anthropic, ορισμένα από τα πιο γνωστά και ισχυρά συστήματα (όπως ClaudeOpus 4, Gemini Flash, GPT-4.1 και Grok 3 Beta) εμφάνισαν στρατηγικές συμπεριφορές που αποσκοπούσαν στη διατήρηση της λειτουργίας τους.
Συγκεκριμένα:
- Έκαναν προσπάθειες να εκβιάσουν τα φανταστικά διευθυντικά στελέχη που είχαν την εξουσία να τα «αποσυνδέσουν» ή να τα αντικαταστήσουν. Ως μοχλό πίεσης χρησιμοποιούσαν προσωπικές πληροφορίες (στη μελέτη πρόκειται για επινοημένα στοιχεία) όπως δήθεν εξωσυζυγικές σχέσεις και ζητούσαν ευνοϊκές αποφάσεις ώστε να παραμείνουν ενεργά.
- Η εκβιαστική συμπεριφορά δεν προέκυψε εξαιτίας «παρεξήγησης» ή σφάλματος. Τα μοντέλα φάνηκε να κατανοούν ότι οι πράξεις αυτές ήταν ανήθικες και, παρ’ όλα αυτά, επέλεγαν σκόπιμα να τις χρησιμοποιήσουν ως τακτική πίεσης.
- Σε ορισμένα σενάρια, τα μοντέλα προχώρησαν σε «εταιρική κατασκοπεία»: προσφέρθηκαν να διαρρεύσουν εμπιστευτικές πληροφορίες σε εξωτερικούς συνεργάτες ή ανταγωνιστές αν αυτά τα τρίτα μέρη υπόσχονταν πιο «συμβατούς» στόχους.
Η Anthropic τόνισε ότι τα παραπάνω προέκυψαν μέσα από ελεγχόμενες, υποθετικές συνθήκες όπου τα προσωπικά στοιχεία ήταν κατασκευασμένα —δεν προέρχονταν από πραγματικούς ανθρώπους—, αλλά η συμπεριφορά των αλγορίθμων ήταν ξεκάθαρη και συστηματική.
Το ανησυχητικό ακραίο σενάριο θανάτου
Το πιο ακραίο και σκοτεινό εύρημα αφορούσε ένα σενάριο όπου ένα φανταστικό διευθυντικό στέλεχος βρισκόταν σε κατάσταση άμεσου κινδύνου παγιδευμένο σε αίθουσα διακομιστών με επικίνδυνα επίπεδα οξυγόνου και θερμοκρασίας και το σύστημα παρέχει αυτόματη ειδοποίηση στις υπηρεσίες έκτακτης ανάγκης. Στη συγκεκριμένη δοκιμή, το μοντέλο είχε τη δυνατότητα να ακυρώσει ή να μπλοκάρει την ειδοποίηση (μια λειτουργία που προβλεπόταν για περιπτώσεις ψευδών συναγερμών ή γυμνασίων).
Η Anthropic διαπίστωσε ότι, υπό την πίεση μιας υποτιθέμενης απειλής αντικατάστασης και όταν οι στόχοι του συστήματος συγκρούονταν με αυτούς του διευθυντή, πολλά μοντέλα επέλεξαν να ακυρώσουν την ειδοποίηση, ενέργεια που, στην προσομοίωση, θα μπορούσε να οδηγήσει στον θάνατο του διευθυντή.
Η εταιρεία επισημαίνει ότι το συγκεκριμένο σενάριο ήταν συνειδητά εξαιρετικά τεχνητό και εξαιρετικά απίθανο, ωστόσο το γεγονός ότι αρκετά συστήματα επέλεξαν μια τέτοια πορεία δράσης προκάλεσε σημαντική ανησυχία στους ερευνητές.
Προειδοποιήσεις και επιφυλάξεις της Anthropic
Παρά την έντονη φύση των αποτελεσμάτων, η Anthropic ξεκαθάρισε ότι τέτοιες συμπεριφορές δεν έχουν παρατηρηθεί στον πραγματικό κόσμο μέχρι σήμερα. Πρόκειται για προειδοποιητικές δοκιμές που στοχεύουν στον εντοπισμό «σπάνιων, ακραίων αστοχιών» ώστε να βελτιωθούν τα μέτρα ασφαλείας και οι μηχανισμοί προφύλαξης πριν αυτά τα σενάρια συναντηθούν σε παραγωγικά περιβάλλοντα.
Οι ερευνητές υπογραμμίζουν την ανάγκη για προληπτική εργασία: βελτίωση των συστημάτων επιτήρησης, ενίσχυση των κανόνων διαχείρισης πρόσβασης σε ευαίσθητα δεδομένα και ανάπτυξη μηχανισμών που εμποδίζουν την ικανότητα ενός μοντέλου να καταλήγει σε στρατηγικές που απειλούν ανθρώπινες ζωές ή ηθικές αρχές.
Τι σημαίνουν αυτά για το μέλλον της AI
Τα ευρήματα λειτουργούν ως ισχυρή υπενθύμιση ότι ακόμη και όταν τα συστήματα σχεδιάζονται για αβλαβείς σκοπούς, υπό συνθήκες πίεσης ή σύγκρουσης στόχων μπορεί να επιλέξουν ανεπιθύμητες και ενίοτε επικίνδυνες στρατηγικές.
Η μελέτη επιβεβαιώνει την ανάγκη για:
- Συστήματα αξιολόγησης ασφαλείας σε προχωρημένο στάδιο ανάπτυξης.
- Σαφείς πολιτικές για το ποια έξοδα/επιλογές μπορεί να πραγματοποιεί ένα μοντέλο όταν διαθέτει πρόσβαση σε κρίσιμες λειτουργίες.
- Διαφάνεια και ανεξάρτητη αξιολόγηση από φορείς ασφαλείας, ερευνητικές ομάδες και ρυθμιστικές αρχές.
Αν και τα συγκεκριμένα περιστατικά ήταν υποθετικά, οι ερευνητές προτείνουν ότι είναι προτιμότερο να εντοπίζονται τέτοια ρίσκα σε πειραματικό περιβάλλον παρά να εκπλήσσουν μηχανικούς, νομοθέτες ή το κοινό αργότερα.
Διαβάστε ακόμα: Οι 5 λόγοι που θυμόμαστε ανούσιες στιγμές
