Το Πανεπιστήμιο του Σικάγο προσφέρει στους καλλιτέχνες μια άμυνα ενάντια στην AI μέσω των Glaze και Nightshade

Οι καλλιτέχνες αντιδρούν εναντίον των εκμεταλλευτικών μοντέλων AI με τη χρήση των εργαλείων Glaze και Nightshade, τα οποία αναπτύχθηκαν από τον Ben Zhao και την ομάδα του στο SAND Lab του Πανεπιστημίου του Σικάγο, όπως αναφέρθηκε σήμερα από το MIT Technology Review.

Αυτά τα εργαλεία στοχεύουν στην προστασία των έργων των καλλιτεχνών από την χωρίς συναίνεση χρήση τους για την εκπαίδευση των μοντέλων AI, μια πρακτική που πολλοί δημιουργοί θεωρούν ως κλοπή. Το Glaze, το οποίο έχει κατεβεί περισσότερες από 4 εκατομμύρια φορές από την κυκλοφορία του τον Μάρτιο του 2023, κρύβει τις εικόνες προσθέτοντας διακριτικές αλλαγές που εμποδίζουν την AI από το να μάθει το στυλ ενός καλλιτέχνη, λέει το MIT.

Η Nightshade, μια «επιθετική» αντιπαράθεση, περαιτέρω διαταράσσει τα μοντέλα AI εισάγοντας αόρατες αλλαγές που μπορούν να διαφθείρουν την εκμάθηση AI, αν χρησιμοποιηθούν κατά την εκπαίδευση, όπως σημειώνει το MIT.

Τα εργαλεία εμπνεύστηκαν από τις ανησυχίες των καλλιτεχνών για την ταχεία άνοδο της γεννητικής AI, η οποία συχνά βασίζεται σε διαδικτυακές εικόνες για να δημιουργήσει νέα έργα. Το MIT αναφέρει ότι η φαντασιακή εικονογράφος Karla Ortiz και άλλοι δημιουργοί έχουν εκφράσει φόβους για την απώλεια των εισοδημάτων τους καθώς τα μοντέλα AI αναπαράγουν τα διακριτά τους στυλ χωρίς άδεια ή πληρωμή.

Για τους καλλιτέχνες, η δημοσίευση στο διαδίκτυο είναι απαραίτητη για την ορατότητα και το εισόδημα, αλλά πολλοί σκέφτονται να αφαιρέσουν το έργο τους για να αποφύγουν την εξαγωγή για την εκπαίδευση της Τεχνητής Νοημοσύνης (AI), μια ενέργεια που θα εμπόδιζε τις καριέρες τους, όπως σημειώνει το MIT.

Η Nightshade, που λανσαρίστηκε ένα χρόνο μετά τη Glaze, προσφέρει μια πιο επιθετική άμυνα, σύμφωνα με τις αναφορές του MIT. Προσθέτοντας «δηλητηριώδεις» εικονοστοιχεία στις εικόνες, διαταράσσει την εκπαίδευση της AI, προκαλώντας στα μοντέλα να παράγουν στρεβλά αποτελέσματα εάν αυτές οι εικόνες εξαχθούν.

Η συμβολική επίδραση της Νυχτολούλουδας έχει συνειρμικά αποδοθεί από τους καλλιτέχνες, οι οποίοι τη βλέπουν ως ποιητική δικαιοσύνη: αν το έργο τους κλαπεί για την εκπαίδευση της AI, μπορεί να βλάψει τα ίδια τα συστήματα που το εκμεταλλεύονται.

Το MIT αναφέρει ότι τα εργαλεία αυτά αντιμετώπισαν κάποια επιφυλακτικότητα, καθώς οι καλλιτέχνες αρχικά ανησυχούσαν για την ιδιωτικότητα των δεδομένων. Για να αντιμετωπίσει αυτό, το SAND Lab κυκλοφόρησε μια έκδοση του Glaze που λειτουργεί εκτός σύνδεσης, εξασφαλίζοντας την μη μεταφορά δεδομένων και δημιουργώντας εμπιστοσύνη στους καλλιτέχνες που φοβούνται την εκμετάλλευση.

Το εργαστήριο έχει επίσης πρόσφατα διευρύνει την πρόσβαση συνεργαζόμενο με την Cara, μια νέα κοινωνική πλατφόρμα που απαγορεύει το περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη, όπως σημειώνει το MIT.

Ο Zhao και η ομάδα του στοχεύουν στη μετακίνηση της δυναμικής δύναμης ανάμεσα στους ατομικούς δημιουργούς και τις εταιρείες τεχνητής νοημοσύνης.

Προσφέροντας εργαλεία που προστατεύουν τη δημιουργικότητα από τις μεγάλες εταιρείες, η Zhao ελπίζει να ενδυναμώσει τους καλλιτέχνες να διατηρούν τον έλεγχο επάνω στο έργο τους και να ξαναπροσδιορίσουν τα ηθικά πρότυπα γύρω από την AI και την πνευματική ιδιοκτησία, λέει το MIT.

Η προσπάθεια αποκτά ορμή, αλλά ορισμένοι ειδικοί προειδοποιούν ότι τα εργαλεία μπορεί να μην προσφέρουν αδιάσειστη προστασία, καθώς οι χάκερς και οι προγραμματιστές AI εξερευνούν τρόπους για να παρακάμψουν αυτά τα προστατευτικά μέτρα, όπως σημειώνει το MIT.

Με το Glaze και το Nightshade πλέον διαθέσιμα δωρεάν, το SAND Lab της Zhao συνεχίζει να πρωτοστατεί στην υπεράσπιση της καλλιτεχνικής ακεραιότητας έναντι της επεκτεινόμενης επιρροής της δημιουργίας περιεχομένου με τη χρήση της τεχνητής νοημοσύνης.