Η Apple Παροτρύνεται να Αφαιρέσει τη Λειτουργία AI μετά τη Διαμάχη για Εσφαλμένη Είδηση

Ένας κύριος οργανισμός παρακολούθησης της δημοσιογραφίας έχει προτρέψει την Apple να αποσύρει την λειτουργία παραγωγής της με χρήση AI, μετά την εσφαλμένη αναφορά ενός τίτλου σχετικά με μια υψηλού προφίλ υπόθεση δολοφονίας στο BBC News.

Η BBC ανέφερε την Πέμπτη ότι προέκυψε διαμάχη αφού η νέα λειτουργία της Apple, η Apple Intelligence, παρήγαγε ανακριβώς έναν τίτλο. Υπονόησε ότι ο Luigi Mangione, ένας ύποπτος για τη δολοφονία του διευθύνοντος συμβούλου της εταιρείας ασφαλίσεων υγείας Brian Thompson, είχε αυτοκτονήσει. Η BBC δεν είχε δημοσιεύσει τέτοιο άρθρο.

Οι Δημοσιογράφοι Χωρίς Σύνορα (RSF), μια διεθνής οργάνωση που υποστηρίζει την ελευθερία του Τύπου, κατηγόρησαν την Apple, δηλώνοντας ότι το περιστατικό επισημαίνει τους κινδύνους που παρουσιάζουν τα ανεπαρκή εργαλεία Τεχνητής Νοημοσύνης για την αξιοπιστία των μέσων ενημέρωσης και την εμπιστοσύνη του κοινού.

Ο Vincent Berthier, επικεφαλής του τμήματος τεχνολογίας και δημοσιογραφίας των RSF, καταδίκασε το λάθος, αποκαλώντας το «πλήγμα στην αξιοπιστία του μέσου» και απειλή για την δημόσια πρόσβαση σε αξιόπιστες πληροφορίες. Οι RSF απαιτούν από την Apple να αφαιρέσει άμεσα την λειτουργία.

«Ο Ευρωπαϊκός Νόμος για την Τεχνητή Νοημοσύνη – παρά το γεγονός ότι είναι η πιο προηγμένη νομοθεσία στον κόσμο σε αυτόν τον τομέα – δεν κατέταξε τις πληροφορίες που παράγονται από την Τεχνητή Νοημοσύνη ως συστήματα υψηλού κινδύνου, αφήνοντας έτσι ένα κρίσιμο νομικό κενό. Αυτό το κενό πρέπει να καλυφθεί άμεσα,» είπε η Berthier.

Η BBC επιβεβαίωσε ότι είχε υποβάλει επίσημο παράπονο στον τεχνολογικό γίγαντα και ζήτησε μια λύση, αλλά παραμένει ασαφές εάν η Apple έχει ανταποκριθεί.

Η ελλιπής σύνοψη της Τεχνητής Νοημοσύνης δεν περιορίστηκε στα BBC News. Στις 21 Νοεμβρίου, η λειτουργία αυτή συνόψισε εσφαλμένα ένα άρθρο της New York Times, υπονοώντας εσφαλμένα ότι ο Πρωθυπουργός του Ισραήλ, Μπενιαμίν Νετανιάχου, είχε συλληφθεί, όπως ανέφερε το BBC άρθρο.

Αυτή η ειδοποίηση, που αργότερα τόνισε ο δημοσιογράφος Ken Schwencke, αναφερόταν πραγματικά σε ένα ένταλμα του Διεθνούς Ποινικού Δικαστηρίου κατά του Νετανιάχου.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Το Apple Intelligence, στοχεύει στη μείωση των διακοπών από ειδοποιήσεις, συνοψίζοντάς τες και ομαδοποιώντας τες. Διαθέσιμο σε iPhones που τρέχουν το iOS 18.1 και νεότερα μοντέλα, καθώς και σε επιλεγμένα iPads και Macs, το εργαλείο έχει αντιμετωπίσει αντιδράσεις για την παραπλανητική αναπαράσταση πληροφοριών από φημισμένα ειδησεογραφικά οργανισμούς.

Ο εκπρόσωπος του BBC τόνισε ότι ενώ ορισμένες ομαδοποιημένες ειδοποιήσεις συνέοψαν με ακρίβεια ιστορίες σχετικά με παγκόσμια γεγονότα, η παραπληροφόρηση που αφορούσε τον Mangione κατέδειξε την πιθανότητα της τεχνολογίας να προκαλέσει βλάβη τόσο στα μέσα ενημέρωσης όσο και στη δημόσια κατανόηση.

Η RSF προειδοποίησε ότι «Αυτό το ατύχημα δείχνει ότι οι δημιουργικές υπηρεσίες τεχνητής νοημοσύνης είναι ακόμη πολύ ανώριμες για να παράγουν αξιόπιστες πληροφορίες για το κοινό, και δεν θα έπρεπε να επιτρέπεται η παρουσία τους στην αγορά για τέτοιες χρήσεις.»

Το Ars Technica εξέτασε τις περιλήψεις ειδοποιήσεων της Apple, επισημαίνοντας αρκετά προβλήματα που προκύπτουν συχνά. Πρώτον, ενώ ορισμένες περιλήψεις είναι ακριβείς, ακούγονται ρομποτικές και α awkwardκανείς, ειδικά σε ευαίσθητα θέματα όπως οι σχέσεις ή η ψυχική υγεία. Άλλες παρερμηνεύουν την ειρωνεία, την αργκό ή τις ιδιωματικές εκφράσεις, συχνά τις ερμηνεύοντας πολύ κυριολεκτικά.

Η απώλεια του πλαισίου είναι ένα ακόμη μεγάλο πρόβλημα, ιδιαίτερα όταν οι περιλήψεις παραλείπουν προηγούμενα μηνύματα σε μια συζήτηση ή αγνοούν πολυμεσικό περιεχόμενο. Σε ομαδικές συνομιλίες με πολλά θέματα, οι περιλήψεις μπορούν να γίνουν υπερφορτωμένες, αναμιγνύοντας θέματα και οδηγώντας σε ανακρίβειες.

Τέλος, κάποιες περιλήψεις είναι απλά εντελώς λανθασμένες, συχνά λόγω της προσπάθειας να συμπιεστεί πάρα πολύ πληροφορία σε πολύ λίγες λέξεις, που οδηγεί σε παραποιημένες αναφορές. Γενικά, αυτά τα προβλήματα, τα οποία επηρεάζουν τη χρησιμότητα και την ακρίβεια της λειτουργίας, είναι συχνά στην καθημερινή χρήση.

Ο Mangione, που τώρα κατηγορείται για φόνο πρώτου βαθμού, έχει γίνει επίκεντρο στη συζήτηση για τους κινδύνους που σχετίζονται με την AI στη δημοσιογραφία. Η εξάρτηση του κοινού από αξιόπιστα νέα παραμένει σε κίνδυνο καθώς η Apple αντιμετωπίζει αυξανόμενη πίεση για την αντιμετώπιση του ζητήματος.