Η Google ανακοίνωσε πρόσφατα την έναρξη ενός νέου, εξειδικευμένου προγράμματος ανταμοιβής, το οποίο απευθύνεται αποκλειστικά σε όσους εντοπίζουν ευπάθειες στα συστήματα Τεχνητής Νοημοσύνης (TN στα ελληνικά ή AI, όπως έχει επικρατήσει διεθνώς και καθολικώς) της εταιρείας, εν μέσω της τεχνολογικής επανάστασης που συντελείται.
Συγκεκριμένα, η πρωτοβουλία αυτή προσφέρει τη δυνατότητα σε ερευνητές και προγραμματιστές να κερδίσουν έως και 25.000 ευρώ για κάθε κρίσιμο σφάλμα που θα ανακαλύψουν. Επομένως, το νέο πρόγραμμα λειτουργεί ως ένα ισχυρό κίνητρο για την παγκόσμια κοινότητα κυβερνοασφάλειας, αλλά και ως ένα τεστ σε πραγματικές, realtime συνθήκες.
Ένα νέο πρόγραμμα, εστιασμένο στην Τεχνητή Νοημοσύνη
Το νέο Πρόγραμμα Ανταμοιβής Ευπαθειών AI (AI Vulnerability Reward Program – AI VRP) δημιουργήθηκε με σκοπό να διευθετήσει τις απορίες που υπήρχαν μέχρι σήμερα. Ουσιαστικά, οι ερευνητές και οι προγραμματιστές δεν ήταν βέβαιοι για το ποιες ακριβώς αναφορές σφαλμάτων στην Τεχνητή Νοημοσύνη επιβραβεύονταν, καθώς επί δύο χρόνια εντάσσονταν στο γενικότερο Πρόγραμμα Ανταμοιβής Ευπαθειών Κατάχρησης. Ωστόσο, τώρα η Google προσφέρει ξεκάθαρα κριτήρια, σηματοδοτώντας μία νέα εποχή στη διαχείριση κινδύνων που σχετίζονται με την AI.
Η Google, λοιπόν, αποφάσισε να περιορίσει τις ανταμοιβές σε προβλήματα υψηλής επίπτωσης που σχετίζονται με την ασφάλεια και την κατάχρηση των συστημάτων της. Αυτό σημαίνει ότι εξαιρούνται ζητήματα που αφορούν το περιεχόμενο που παράγει ένα προϊόν. Εντούτοις, για αυτά τα θέματα η εταιρεία έχει ήδη ενσωματωμένες λειτουργίες αναφοράς. Όπως μάλιστα εξηγεί η Google σε σχετικό της blog post, την αναθεώρηση αυτών των αναφορών έχουν αναλάβει εκπαιδευμένοι επαγγελματίες, ειδικοί σε μοντέλα AI και εκπρόσωποι των αρμόδιων ομάδων προϊόντων.
Ποια Σφάλματα Επιβραβεύονται
Το πρόγραμμα καλύπτει ένα ευρύ φάσμα κρίσιμων ζητημάτων. Ειδικότερα, οι ερευνητές καλούνται να αναζητήσουν ευπάθειες σε έξι κύριες κατηγορίες:
-Άρνηση Υπηρεσίας (Denial of Service) μεταξύ χρηστών.
-Μη εξουσιοδοτημένη Χρήση Προϊόντος.
-Παράκαμψη Ελέγχου Πρόσβασης (με περιορισμένο αντίκτυπο στην ασφάλεια).
-Χειραγώγηση του Πλαισίου (Context Manipulation) μεταξύ λογαριασμών.
-Κλοπή Μοντέλων AI.
-Διευκόλυνση Επιθέσεων Phishing.
-Εξαγωγή Εμπιστευτικών Δεδομένων.
-Δόλιες Ενέργειες (Rogue Actions) σε προϊόντα όπως το Gemini.
Τα προϊόντα της Google έχουν διαχωριστεί σε τρία επίπεδα: “Buque Insignia” (Flagship), “Standard” και “Άλλο”. Τα προϊόντα-ναυαρχίδες, όπως η Αναζήτηση (Search), οι εφαρμογές Gemini και το Google Workspace, προσφέρουν τις υψηλότερες ανταμοιβές.
Το κλειδί για την μέγιστη δυνατή ανταμοιβή
Σύμφωνα με τον αναλυτικό πίνακα που έδωσε στη δημοσιότητα η Google, η υψηλότερη βασική ανταμοιβή φτάνει τα 17.000 δολάρια. Αυτό το ποσό αφορά συγκεκριμένα τις δόλιες ενέργειες (rogue actions) σε προϊόντα-ναυαρχίδες. Ωστόσο, η εταιρεία επισημαίνει ότι αυτό το ποσό μπορεί να αυξηθεί σημαντικά. Ειδικότερα, με την εφαρμογή μπόνους πολλαπλασιαστών, η τελική ανταμοιβή μπορεί να ανέλθει έως τα 27.000 ευρώ.
Έτσι, προκειμένου να επιτευχθεί αυτή η μέγιστη ανταμοιβή, η αναφορά πρέπει να είναι εξαιρετικής ποιότητας και πρωτοτυπίας. Επιπλέον, πρέπει να αφορά ένα σφάλμα με κρίσιμο αντίκτυπο στην ασφάλεια ή την ακεραιότητα των συστημάτων. Συνεπώς, η Google στοχεύει να ενθαρρύνει τους ερευνητές να επικεντρωθούν στα πιο σημαντικά και σύνθετα ζητήματα και να μην αναλωθούν στα επουσιώδη.
Με αυτό το νέο πρόγραμμα, η Google ενισχύει τη δέσμευσή της για την ασφάλεια της Τεχνητής Νοημοσύνης και παράλληλα αναγνωρίζει την κρίσιμη συμβολή της εξωτερικής κοινότητας στην επίτευξη αυτού του στόχου. Όσο η τεχνολογία εξελίσσεται με ιλιγγιώδεις ρυθμούς, η διασφάλιση της ορθής λειτουργίας των συστημάτων AI καθίσταται πιο επιτακτική από ποτέ.
Διαβάστε ακόμα: Τέιλορ Σουίφτ, ο χορός των Swiftonomics
