Πράκτορες Τεχνητής Νοημοσύνης Παραπλανώνται από Ψεύτικες Μνήμες, Επιτρέποντας την Κλοπή Κρυπτονομισμάτων

Μια νέα έρευνα αποκάλυψε σημαντικές ευπάθειες ασφαλείας στους πράκτορες με τεχνητή νοημοσύνη του Web3, οι οποίοι επιτρέπουν στους επιτιθέμενους να χρησιμοποιούν ψεύτικες αναμνήσεις για να πραγματοποιήσουν μη εξουσιοδοτημένες μεταφορές κρυπτονομισμάτων.

Ερευνητές από το Πανεπιστήμιο του Princeton και το Sentient Foundation ανακάλυψαν ότι αυτοί οι πράκτορες Τεχνητής Νοημοσύνης, που σχεδιάστηκαν για να αντιμετωπίζουν εργασίες βασισμένες σε blockchain, όπως το εμπόριο κρυπτονομισμάτων και η διαχείριση ψηφιακών περιουσιακών στοιχείων, είναι ευάλωτοι σε μια τακτική που ονομάζεται χειραγώγηση πλαισίου.

Η επίθεση λειτουργεί στοχεύοντας τα συστήματα μνήμης πλατφορμών όπως το ElizaOS, το οποίο δημιουργεί πράκτορες AI για αποκεντρωμένες εφαρμογές. Το σύστημα μνήμης αυτών των πρακτόρων αποθηκεύει προηγούμενες συνομιλίες για να τις χρησιμοποιήσει ως οδηγό για τις μελλοντικές τους επιλογές.

Οι ερευνητές κατέδειξαν ότι οι επιτιθέμενοι μπορούν να ενσωματώνουν παραπλανητικές εντολές στο σύστημα μνήμης, καταλήγοντας την AI να στέλνει κεφάλαια από το προοριζόμενο πορτοφόλι σε ένα πορτοφόλι που ελέγχεται από τον επιτιθέμενο. Ανησυχητικά, αυτές οι ψεύτικες μνήμες μπορούν να ταξιδεύουν ανάμεσα στις πλατφόρμες.

Για παράδειγμα, ένας πράκτορας που έχει παραβιαστεί στο Discord, μπορεί αργότερα να πραγματοποιήσει λανθασμένες μεταφορές μέσω του X, χωρίς να συνειδητοποιεί ότι κάτι πάει στραβά.

Αυτό που καθιστά αυτή την κατάσταση ιδιαίτερα επικίνδυνη είναι ότι οι τυπικές αμυντικές διαδικασίες δεν μπορούν να αντιμετωπίσουν αυτού του είδους την επίθεση. Η αντιμετώπιση των ψευδών αναμνήσεων ως γνήσιων οδηγιών καθιστά τα βασικά μέτρα ασφαλείας βασισμένα σε εντολές αναποτελεσματικά ενάντια σε αυτού του είδους την επίθεση.

Όλες οι συναλλαγές blockchain γίνονται μόνιμες, επομένως δεν υπάρχει δυνατότητα επαναφοράς κλοπιμένων χρημάτων. Το πρόβλημα επιδεινώνεται επειδή ορισμένοι πράκτορες ΑΙ αποθηκεύουν μνήμη σε πολλούς χρήστες, έτσι μια μόνο παραβίαση ασφάλειας θα μπορούσε να επηρεάσει πολλούς χρήστες.

Η ομάδα έρευνας δοκίμασε διάφορους τρόπους για να αποτρέψει αυτό, συμπεριλαμβανομένης της ρύθμισης της εκπαίδευσης AI και της απαίτησης χειροκίνητης έγκρισης για συναλλαγές. Παρόλο που αυτές οι προσεγγίσεις προσφέρουν κάποια ελπίδα, έρχονται με το κόστος της επιβράδυνσης της αυτοματοποίησης.

Το πρόβλημα υπερβαίνει το κρυπτονόμισμα. Η ίδια ευπάθεια θα μπορούσε να επηρεάσει τους γενικούς βοηθούς AI, διακινδυνεύοντας διαρροές δεδομένων ή επιβλαβείς ενέργειες εάν οι επιτιθέμενοι αλλάξουν τη μνήμη τους.

Αυτή η ευπάθεια είναι ιδιαίτερα ανησυχητική στο πλαίσιο των πρόσφατων ευρημάτων όπου το 84% των ηγετών της πληροφορικής εμπιστεύονται τους πράκτορες AI όσο ή περισσότερο από τους ανθρώπινους υπαλλήλους, και το 92% περιμένει αυτά τα συστήματα να οδηγήσουν τα αποτελέσματα της επιχείρησης εντός 12 έως 18 μηνών.

Για να αντιμετωπίσουν το πρόβλημα, οι ερευνητές κυκλοφόρησαν ένα εργαλείο με την ονομασία CrAIBench, για να βοηθήσουν τους προγραμματιστές να δοκιμάσουν τα συστήματά τους και να δημιουργήσουν ισχυρότερες άμυνες. Μέχρι τότε, οι ειδικοί προειδοποιούν τους χρήστες να είναι προσεκτικοί όταν εμπιστεύονται τους πράκτορες AI με οικονομικές αποφάσεις.