Οι πλατφόρμες Facebook και Instagram της Meta προέβαλαν χιλιάδες διαφημίσεις που προωθούν εφαρμογές 'γυμνώματος' με τεχνητή νοημοσύνη, σύμφωνα με εσωτερικά ευρήματα. Οι διαφημίσεις παραβίαζαν τις πολιτικές της εταιρείας κατά της γυμνότητας και του σεξουαλικού περιεχομένου, εγείροντας νέα ερωτήματα σχετικά με την αποτελεσματικότητα των συστημάτων ελέγχου περιεχομένου της.
Πώς ξέφυγαν οι διαφημίσεις
Οι διαφημιστικές πολιτικές της Meta απαγορεύουν ρητά διαφημίσεις που απεικονίζουν γυμνότητα ή σεξουαλική δραστηριότητα, καθώς και εκείνες που προωθούν εφαρμογές σχεδιασμένες για τη δημιουργία μη συναινετικών οικείων εικόνων. Ωστόσο, τα αυτοματοποιημένα συστήματα ελέγχου της εταιρείας επέτρεψαν τη λειτουργία χιλιάδων τέτοιων διαφημίσεων. Οι εν λόγω εφαρμογές χρησιμοποιούν τεχνητή νοημοσύνη για να αφαιρούν ψηφιακά ρούχα από φωτογραφίες, μια πρακτική που οι επικριτές αποκαλούν μορφή κατάχρησης βάσει εικόνας. Δεν είναι σαφές πώς οι διαφημίσεις απέφυγαν τον εντοπισμό, αλλά η κλίμακα υποδηλώνει κενά στην επιβολή της Meta.
Η κλίμακα του προβλήματος
Εσωτερικά δεδομένα που εξετάστηκαν από την εταιρεία έδειξαν ότι οι διαφημίσεις προβλήθηκαν τόσο στο Facebook όσο και στο Instagram. Ο ακριβής αριθμός δεν αποκαλύφθηκε, αλλά πηγές τον περιγράφουν ως 'χιλιάδες'. Οι διαφημίσεις εμφανίζονταν στις ροές των χρηστών και στα Instagram Stories, συχνά με υποβλητική γλώσσα και εικόνες. Ορισμένες από αυτές αναφέρθηκαν από χρήστες, αλλά πολλές παρέμειναν ζωντανές για ημέρες ή εβδομάδες πριν αφαιρεθούν.
Εκκλήσεις για ρύθμιση
Το περιστατικό υπογραμμίζει την επείγουσα ανάγκη για αυστηρότερους κανονισμούς και συνεργατικές προσπάθειες της βιομηχανίας τεχνολογίας για την καταπολέμηση της κακής χρήσης της AI. Χωρίς ισχυρότερα προστατευτικά μέτρα, παρόμοιες διαφημίσεις θα μπορούσαν να συνεχίσουν να ξεφεύγουν. Το πρόβλημα δεν είναι μοναδικό για τη Meta — και άλλες πλατφόρμες έχουν δυσκολευτεί να ελέγξουν το περιεχόμενο που δημιουργείται από AI. Αλλά δεδομένου του μεγέθους της Meta και της δηλωμένης δέσμευσής της στην ασφάλεια, η αποτυχία είναι ιδιαίτερα εμφανής. Ομάδες υπεράσπισης έχουν ζητήσει σαφέστερους κανόνες σχετικά με τον τρόπο χειρισμού υλικού που δημιουργείται από AI από τις πλατφόρμες, ειδικά όταν περιλαμβάνει μη συναινετικές οικείες εικόνες.
Η Meta δεν έχει απευθυνθεί δημόσια για τις συγκεκριμένες διαφημίσεις ούτε έχει περιγράψει αλλαγές στη διαδικασία ελέγχου διαφημίσεων. Τα αυτοματοποιημένα συστήματά της είναι σχεδιασμένα να εντοπίζουν παραβιάσεις πολιτικής, αλλά αυτή η υπόθεση δείχνει ότι απέχουν πολύ από το να είναι αλάνθαστα. Το αν η Meta θα αντιμετωπίσει ρυθμιστικές ενέργειες παραμένει ανοιχτό ερώτημα.
