Platform Facebook dan Instagram Meta telah menyiarkan ribuan iklan yang mempromosikan aplikasi 'nudify' berkuasa AI, menurut penemuan dalaman. Iklan-iklan tersebut melanggar polisi syarikat sendiri terhadap kandungan lucah dan seksual, menimbulkan persoalan baru tentang keberkesanan sistem moderasi kandungannya.
Bagaimana iklan-iklan itu terlepas
Polisi pengiklanan Meta secara jelas melarang iklan yang menggambarkan lucah atau aktiviti seksual, serta yang mempromosikan aplikasi yang direka untuk mencipta imej intim tanpa persetujuan. Namun sistem semakan automatik syarikat membenarkan ribuan iklan sedemikian berjalan. Aplikasi yang dimaksudkan menggunakan kecerdasan buatan untuk mengeluarkan pakaian dari foto secara digital, satu amalan yang dikritik sebagai bentuk penderaan berasaskan imej. Tidak jelas bagaimana iklan-iklan itu mengelak pengesanan, tetapi skalanya menunjukkan kelemahan dalam penguatkuasaan Meta.
Skala masalah
Data dalaman yang disemak oleh syarikat menunjukkan bahawa iklan-iklan itu disiarkan di kedua-dua Facebook dan Instagram. Jumlah tepat tidak didedahkan, tetapi sumber menggambarkannya sebagai 'ribuan.' Iklan-iklan itu muncul dalam suapan pengguna dan dalam Cerita Instagram, sering dengan bahasa dan imej yang provokatif. Sebahagian iklan dilaporkan oleh pengguna, tetapi banyak yang kekal aktif selama berhari-hari atau berminggu-minggu sebelum diturunkan.
Seruan untuk peraturan
Insiden ini menekankan keperluan mendesak untuk peraturan yang lebih ketat dan usaha kolaboratif industri teknologi untuk memerangi penyalahgunaan AI. Tanpa pagar keselamatan yang lebih kukuh, iklan serupa boleh terus terlepas. Masalah ini bukan unik kepada Meta — platform lain juga bergelut untuk mengawal kandungan yang dijana AI. Tetapi memandangkan saiz Meta dan komitmennya terhadap keselamatan, kegagalan ini amat ketara. Kumpulan advokasi telah menyeru peraturan yang lebih jelas tentang cara platform mengendalikan bahan yang dijana AI, terutamanya apabila melibatkan imej intim tanpa persetujuan.
Meta tidak secara terbuka menangani iklan-iklan khusus tersebut atau menggariskan sebarang perubahan pada proses semakan iklannya. Sistem automatik syarikat direka untuk mengesan pelanggaran polisi, tetapi kes ini menunjukkan ia jauh daripada sempurna. Sama ada Meta akan menghadapi tindakan pengawalseliaan masih menjadi persoalan terbuka.
